Voici quelques-unes des plus grandes inquiétudes exprimées au sujet de la dangerosité de l'intelligence artificielle - et de l'humanité.

L'intelligence artificielle est-elle dangereuse pour l'humanité ?

D'éminents experts en intelligence artificielle (IA) ont tiré la sonnette d'alarme quant au rythme et à l'ampleur des récentes avancées dans ce domaine, avertissant qu'elles ne représentent rien de moins qu'un danger pour l'humanité.

C'est notamment le cas de Geoffrey Hinton, un informaticien primé connu sous le nom de "parrain de l'intelligence artificielle", qui a quitté son emploi chez Google le mois dernier pour faire part de ses inquiétudes concernant le développement incontrôlé de nouveaux outils d'IA.

"J'ai soudainement changé d'avis sur la question de savoir si ces objets seront plus intelligents que nous", a déclaré M. Hinton, 75 ans, dans une interview accordée cette semaine à la MIT Technology Review.

"Je pense qu'elles en sont très proches aujourd'hui et qu'elles seront beaucoup plus intelligentes que nous à l'avenir... Comment allons-nous survivre à cela ?

M. Hinton n'est pas le seul à s'inquiéter. En février, même Sam Altman, PDG d'OpenAI, le développeur de ChatGPT, a déclaré que le monde n'était peut-être pas "si loin d'outils d'Intelligence artificielle potentiellement effrayants" et que la réglementation serait essentielle, mais qu'il faudrait du temps pour la mettre en place.

Peu après que la start-up soutenue par Microsoft a publié son dernier modèle d'intelligence artificielle appelé GPT-4 en mars 2023, plus de 1 000 chercheurs et technologues ont signé une lettre appelant à une pause de six mois dans le développement de l'IA car, selon eux, elle pose de "profonds risques pour la société et l'humanité".

L'Intelligence artificielle peut "suralimenter" la diffusion de fausses informations 

L'intelligence artificielle est-elle dangereuse pour l'humanité ?

Que feraient des systèmes d'IA plus intelligents que l'homme ? L'une des possibilités les plus inquiétantes est que des individus, des groupes ou des États-nations malveillants les cooptent tout simplement pour servir leurs propres intérêts.

Selon un nouveau rapport de NewsGuard, qui évalue la crédibilité des sites web et traque la désinformation en ligne, des dizaines de sites de fausses nouvelles se sont déjà répandus sur le web dans plusieurs langues, certains publiant des centaines d'articles générés par l'IA chaque jour.

M. Hinton s'inquiète particulièrement du fait que les outils d'IA pourraient être formés pour influencer les élections et même mener des guerres.

La désinformation électorale diffusée par les chatbots d'IA, par exemple, pourrait être la version future de la désinformation électorale diffusée par Facebook et d'autres plateformes de médias sociaux.

Et ce n'est peut-être que le début.

"Ne pensez pas un instant que Poutine ne fabriquerait pas des robots hyper-intelligents dans le but de tuer des Ukrainiens", a déclaré M. Hinton dans l'article. "Il n'hésiterait pas.

L'Intelligence artificielle nous rendra-t-elle inutiles ?

Nous ne savons pas vraiment comment l'arrêter

L'intelligence artificielle est-elle dangereuse pour l'humanité ?

"J'aimerais avoir une solution simple et agréable à proposer, mais je n'en ai pas", a ajouté M. Hinton. "Je ne suis pas sûr qu'il y ait une solution".

Les gouvernements sont toutefois très attentifs à l'essor de l'IA. La Maison-Blanche a convoqué les PDG de Google, de Microsoft et d'OpenAI, le fabricant de ChatGPT, pour une rencontre jeudi avec la vice-présidente Kamala Harris, dans le cadre de ce que les responsables décrivent comme une discussion franche sur la manière d'atténuer les risques à court et à long terme de leur technologie.

Les législateurs européens accélèrent également les négociations en vue d'adopter de nouvelles règles radicales en matière d'IA, et l'autorité britannique de régulation de la concurrence prévoit d'examiner l'impact de l'IA sur les consommateurs, les entreprises et l'économie, et de déterminer si de nouveaux contrôles sont nécessaires pour les technologies telles que le ChatGPT.

Ce qui n'est pas clair, c'est comment on pourrait empêcher une puissance comme la Russie d'utiliser la technologie de l'IA pour dominer ses voisins ou ses propres citoyens.

M. Hinton suggère qu'un accord mondial similaire à la convention sur les armes chimiques de 1997 pourrait constituer un premier pas vers l'établissement de règles internationales contre l'utilisation de l'IA à des fins militaires.

Il convient toutefois de noter que la convention sur les armes chimiques n'a pas empêché ce que les enquêteurs ont estimé être de probables attaques syriennes au gaz de chlore et à l'agent neuro-toxique sarin contre des civils en 2017 et 2018, au cours de la sanglante guerre civile qui déchire le pays.

NOTE MÉTHODOLOGIQUE : j'ai utilisé l'IA afin de construire en partie mon analyse sur le sujet. Je me suis aidée de ChatGPT4. J'ai également recherché des images d'influenceurs virtuels sur la plateforme DALL-E.