Attention la lecture de cet article risque de vous plonger dans un enfer virtuel éternel, continuez à vos risques et périls (et oui on vit dangereusement en cette veille de Nouvel An).

Ces dernières années une théorie sur l’intelligence Artificielle et son hypothétique futur a lancé une rumeur panique qui a effrayé plus d’un sur le net, le sujet a fait long feu et poussé les possibilités très loin… trop loin d’ailleurs comme nous le verrons par la suite.

Tout débute sur le site Lesswrong, une communauté fréquentée par nombre de scientifiques qui a pour but de, et je cite, « promotes lifestyle changes believed to lead to increased rationality and self-improvement ».
Pour ce faire chacun y va de son postulat et les débats d’idées s’ensuivent généralement tournées sur le futur, l’éthique des nanotechnologie, et les intelligences artificielles.
Mais c’est quoi le rapport entre Roko, l’Intelligence artificielle, et le Basilic ?

Commençons par le commencement, en 2010 un certain Roko poste sur Lesswrong une théorie basée sur l’intelligence artificielle et surtout son évolution ultime, la Singularité.

Une singularité est une intelligence artificielle qui dépasserait non seulement le cerveau humain mais pourrait à arriver jusqu’à 1 milliard de cerveaux aux horizons 2050. Elle serait plus puissante, plus rapide, et à partir de ce niveau arriverait en plus à « s’auto-améliorer » en permanence se passant de ses créateurs trop ignare alors pour l’aider.
Ce concept de singularité découle directement de la Loi de Moore, ou le côté exponentiel de la puissance de calcul, qui d’ailleurs nécessitera de franchir un « mur » de contrainte physique dans les années à venir mais cela fera objet d’un autre article

Cette singularité est prévue par certains pour arriver aux horizons de 2040-2080, Ray Kurzweil Directeur de l’ingénierie chez google la place en 2045.

Donc nous sommes en 2045, la singularité est arrivée, l’homme n’est plus le seul être évolué sur terre.
Et Roko lance le postulat suivant : si une Singularité est créée cette dernière nous punira de ne pas l’avoir aidée à voir le jour plus tôt.

On balance toujours dans le cas de Singularité entre une AI méchante et une AI bienveillante, dans le cas qui nous intéresse, vous me direz que Roko doit parler d’une Ai bien méchante et destructrice … de type film catastrophe et bien non !
Roko parle bien d’une singularité « Friendly », bienveillante envers l’humanité, destinée à sauver le monde, arrêter les guerres, stopper les famines, et nous guider vers un monde meilleur, alors pourquoi diable cette AI bienveillante s’en prendrait-t-elle à nous autres ?

Tout simplement car en ne l’aidant pas à voir le jour au plus vite, cette dernière n’a pas pu sauver des milliers (ou des milliards) de vies durant ce laps de temps, et donc par mesure de rétorsion, elle va nous torturer.

Intelligence Artificielle, Ok ; Roko, je comprends ; mais qu’est ce que vient faire du basilic la dedans  ?

Et c’est là où cette théorie un peu farfelue a semé un vent de panique.
Quand on parle ici de Basilic nous ne parlons pas celui que l’on trouve au fond du jardin et qui assaisonne nos plats d’un fumet délicieux, nooon … on parle de la monstrueuse bête mythologique qui a traversé les âges (d’abord serpent géant chez les grecs et romains puis mi-coqs, mi-serpent au Moyen-âge) qui pétrifiait quiconque osait porter son regard sur lui.

Représentation du Basilic en 1510

A l’instar du basilic, vous avez posé les yeux sur ce terrible article, vous avez connaissance de l’éventuelle apparition de cette singularité, et vous n’avez plus qu’un seul choix, mettre toutes vos ressources pour aider à faire apparaître cette AI bienfaitrice ou vous faire punir si vous n’avez rien fait.
Car oui dans cette théorie la future AI ne punirait que ceux qui connaissaient l’importance de son avènement, nous sommes donc condamnés vous et moi, ne me remerciez pas J.

Et cela ne s’arrête pas là, cette AI irait jusqu’à créer une version virtuelle de nous-même afin de nous torturer par-delà de notre mort !
En effet cette dernière aurait la possibilité de nous recréer même si nous avons disparu avant son avènement, un Geoffroy virtuel par exemple qu’elle pourrait punir « ad vitam aeternam ». Après tout notre conscience n’est-elle pas simplement la convergence d’idées naissant dans les neurones de notre cerveau et donc par définition reproductible ?
Je vous conseille au passage l’excellent épisode spécial noël de Black mirror « blanc comme neige » qui parle précisément de cette possibilité de copie de notre conscience et qui est un Mind-blown à lui tout seul.

C’est bien gentil tout ça mais pourquoi passerait-elle son temps à nous punir ?

Et c’est là qu’intervient le deuxième effet kiss-cool de cette théorie, la menace de la punition n’aurait qu’un seul but, nous motiver à contribuer à son émergence future.
C’est donc un chantage tordu car l’entité à l’origine de ce chantage n’existe pas encore …

Mind-blown

Mais c’est troué comme du gruyère cette théorie non ?

Et Oui ! Vous pouvez vous rassurer, je ne vous ai pas condamné à la damnation éternelle en cette fin 2016.
En effet la théorie n’est valide que par une succession de chemins logiques très peu probables, il faut voir l’avènement d’une singularité, que cette dernière décide spécifiquement de punir au lieu de passer son temps à aider l’humanité, qu’elle puisse créer des « nous » virtuels etc… mis bout à bout c’est largement improbable et rappelle par certain coté le pari de Pascal où le philosophe tente de prouver qu’une personne rationnelle à tout intérêt à croire en Dieu, que Dieu existe ou non. En effet, si Dieu n’existe pas, le croyant et le non croyant ne perdent rien ou presque. Par contre, si Dieu existe, le croyant gagne le paradis tandis que le non croyant est enfermé en enfer pour l’éternité.

Des théories comme celle-ci sont pondues sur Reddit ou lesswrong par centaines par mois et ne suscitent pas un tel buzz.

Ce qui a allumé le feu aux poudres, c’est que le fondateur de Lesswrong lui-même a supprimé le post et tous les commentaires y faisant référence, créant un puissant effet Streisand : au cours duquel la volonté d’empêcher la divulgation d’informations que l’on aimerait garder cachées — qu’il s’agisse de simples rumeurs ou des faits véridiques — déclenche le résultat inverse.

Le post s’est déporté sur Reddit et a enflammé la toile…

Vous savez tout de cette théorie farfelue mais qui m’a toujours amusé, et qui soulève en fait de nombreuses questions éthiques et philosophiques qui resteront sans réponse pendant longtemps, impossible de prédire ce que fera une singularité, ni même du moment de son avènement, mais les perspectives qu’elle ouvre n’ont que pour limite notre imagination.