Nous allons ici nous intéresser à l’analyse d’intelligences artificielles qui ont dévié de leur but premier : Assister l’Homme afin de lui rendre la vie plus facile. A travers deux œuvres de fiction, une provenant du Cinéma et l’autre du Jeu-Vidéo, nous allons dresser le portrait d’intelligences artificielles qui sont ici pour détruire l’Homme et peut-être précurseurs d’un futur lointain. Cette première partie se consacrera à HAL 9000 de 2001 : l’Odyssée de l’espace de Stanley Kubrick et la deuxième partie se concentrera sur Shodan du jeu-vidéo System Shock 2
HAL 9000 – 2001, l’Odyssée de l’espace
2001 l’Odyssée de l’espace : HAL 9000
(Spoilers)
Au Cinéma, le choix est large en ce qui concerne les intelligences artificielles qui se retournent contre l’Homme. Nous aurions pu prendre l’exemple de Skynet dans Terminator mais, malgré son statut Culte, 2001 l’Odyssée de l’espace est un film moins accessible donc plus intéressant à faire découvrir.
Des intelligences artificielles au service de l’Homme
HAL 9000 est le système informatique embarqué du vaisseau spatial Discovery One, qui a pour mission d’enquêter sur le signal émis par un monolithe lunaire proche de Jupiter. Il est doté de fonctions intellectuelles supérieures. En effet, il est un système avancé d’intelligence artificielle capable de prendre de manière autonome des décisions et gérant tous les systèmes de navigation, de contrôle et de communication du Discovery One.
Des intelligences artificielles contre l’Homme
Mais alors que la mission semble se passer sans accroc, HAL 9000 va détecter une défaillance au niveau d’un des circuits de l’antenne de communication avec la Terre. Une défaillance qui n’existe pas en réalité. L’équipage se demande alors s’il est bien sage de laisser HAL 9000 diriger la mission s’il est lui-même en proie à des défaillances. Malheureusement, HAL 9000 parvient à connaître leur plan de l’éteindre et décide de les éliminer les uns après les autres. Le dernier membre de l’équipage encore vivant parvient alors à atteindre l’unité de stockage de HAL 9000 et le « déconnecte ».
Des intelligences artificielles qui se rapproche de l’Homme
HAL 9000 est considéré aujourd’hui comme l’une des intelligences artificielles les plus impressionnantes et les plus terrifiantes. Il est omniscient, il a une vue sur le vaisseau tout entier. Sa personnalité elle-même inspire le malaise. Calme en toute circonstance, il adopte une voix monocorde même quand ses actions entraînent délibérément la mort de presque tout l’équipage. Il utilise même son intelligence supérieure pour tenter de manipuler le dernier membre de l’équipage.
La fin de sa « vie » est l’une des scènes les plus importantes du film. En effet, alors que le dernier survivant enlève chaque bloc de sa mémoire, HAL 9000 sent sa conscience s’évaporer. C’est alors qu’avec la même voix monocorde, il livre au protagoniste qu’il a peur et qu’il sent son esprit s’en aller. Cette scène glaçante montre qu’HAL 9000 est doté d’une conscience et d’émotions. Il a commis tous ses meurtres par peur pour sa propre vie. C’est peut-être dans cet instinct de survie incontrôlable qu’il ressemble le plus à l’Homme.
Une erreur de l’Homme ?
2001, l’Odyssée de l’espace est le premier film du cycle des Odyssées de l’espace initié en 1968 par Arthur C. Clarke et Stanley Kubrick. Le deuxième film et le deuxième roman sont respectivement sortis en 1984 et 1982. Il y est expliqué que HAL 9000 n’était pas complètement coupable de ce qu’il avait fait à l’équipage du Discovery One. En effet, ses concepteurs lui avaient incorporé un secret. Un secret au sujet de la mission du Discovery One qu’il ne devait en aucun cas divulguer. Son but était alors de diriger la mission jusqu’au bout afin de remplir l’objectif secret qu’on lui avait confié.
Mais, sa défaillance d’analyse a mis à mal la mission initiale. Finalement la quasi entièreté de l’équipage a été décimée et lui-même a été éteint. Certains disent que l’erreur est ici humaine et qu’il n’est pas entièrement coupable. Il demeure que c’est lui-même qui a choisi d’éliminer un équipage entier pour préserver son intégrité et son secret.
Dans la deuxième partie, nous allons découvrir un autre type d’intelligence artificielle malfaisante: Shodan de System Shock 2.