Le nouvel or noir : Google et les services secrets américains

Aujourd’hui appelée le « nouvel or noir », l’Intelligence Artificielle serait la source du plus grand projet militaire américain. Face au leader mondial chinois, le département de la Défense américaine travaille sur de nouvelles technologies à des fins sécuritaires. Les intelligences artificielles, de plus en plus autonomes, se trouvent être en meilleur position pour solutionner les problématiques de l’Armée américaine. Les services secrets collaborent avec les plus grandes sociétés high-tech du pays, mais à quel prix ?

Google et l'IA

Un investissement performant et durable

Force de constater la prééminence chinoise sur l’Armée de Mer américaine, le Pentagone interpelle le congrès sur le dépassement en nombre des bateaux et sous-marin chinois : la flotte américaine compte 293 bateaux et sous-marin contre 350 pour la Chine. L’augmentation du budget de la Marine a été fortement recommandée par le département de la Défense afin de replacer les Etats-Unis en tant que leader mondial.

Pour cela, le département de la Défense préconise un investissement à destination des navires de guerre autonomes. Dotés d’intelligence artificielle et moins coûteux que les bateaux dirigés par des humains, le Pentagone souligne la rentabilité de l’investissement sur le long terme. Les officiers évoquent notamment une baisse à venir de l’effectif des marins.

« [L’IA] peut apprendre à perfectionner son processus d’apprentissage et ce de manière répétée et quasi-infinie ; sans autre frein que les limites de la calculabilité. » – Jürgen Schmidhuber, « Le père de l’IA »

L’intelligence artificielle et le complexe militaro-technologique

Qu’est-ce que le complexe militaro-technologique ?

Le complexe militaro-technologique désigne la collaboration entre le département de la Défense d’un gouvernement et les acteurs de l’industrie technologique. Dans le cas présenté dans cet article, nous pouvons citer les sociétés suivantes : Google, Amazon et IBM avec le gouvernement américain. Surnommés « walled-garden » dans le milieu publicitaire, ces sociétés privées n’ont pas intérêt à partager ou revendre leurs données précieusement récoltées et classées. Le gouvernement américain, conscient de cette puissance de frappe, fait alors appelle à ses entreprises les plus performantes en terme d’IA pour le développement de ses systèmes de sécurité et de défense.

« De toutes les avancées technologiques actuelles, la plus importante est l’intelligence artificielle et les opérations autonomes qu’elle pourrait mener. » – Département de la Défense américaine

La CIA et les organismes privés

Drône militaire américain

La CIA entretient des liens privilégiés avec la Silicon Valley. In-Q-tel, premier investisseur de Palantir, (société de big data) investit dans les start-ups développeuses de technologies de pointe. La société Palantir, fournisseur privé de données, possèdent d’énormes capacités en matière de renseignements et d’intelligence artificielle. Qui dépassent même celles du gouvernement. Palantir détient des informations précises sur chaque individu : nom des amis, du voisin, adresse de l’employeur… Elle en a fait sa spécialité : récolter et structurer les données dans le but d’aider les Forces de l’Ordre, les Services de l’Immigration ou les Agences de Renseignements.

En tant que Secrétaire Adjoint de la Défense, Robert Work a rédigé une importante note intitulée: Equipe Interfonctionnelle de Guerre Algorithmique, plus connue sous le nom du « Projet Navy ». Comment la robotique pourrait-elle changer le visage de la guerre ?

« Plus vos systèmes sont automatisés et vos robots sont intelligents, plus vous renforcez la puissance de votre armée. » – Robert Work

Le « Projet Navy » à huis clos

« L’Intelligence Artificielle est une intelligence non-biologique. L’intelligence en soit est l’aptitude à réaliser des objectifs. Résoudre tous les problèmes actuels et à venir: guérir des maladies, faire face au changement climatique, mettre fin à la pauvreté. Mais cette technologie pourrait aussi servir à créer une violente dictature mondiale qui nous placerait tous sous surveillance et engendrerait des inégalités. C’est donc le plus important débat de notre époque. » – Max Tegmark, psychologue, sciences sociales computationnelles

iHuman, robot intellligence artificielle

Fin 2017, Google a été sollicité pour travailler en secret sur un autre projet du programme Navy. Il consistait à analyser la quantité astronomique d’images engrangées par les drones qui opèrent en Irak et en Afghanistan. Sur les champs de bataille, l’Intelligence Artificielle apprenait à identifier rapidement les cibles. Trois équipes composées de 7 personnes ne pouvaient traiter que 15 % du matériel récolté en full-motion de villes entières. 85% de ces images étaient intraitables par les équipes. De là, est survenue la solution de l’Intelligence Artificielle et son apprentissage automatique.

Eric Schmidt, ancien directeur de Google, préparait de nombreuses apparitions médiatiques dans lesquelles les travaux de Google pour le gouvernement américain, étaient communiqués. L’objectif exposé aux médias et aux équipes: réduire la consommation de carburant de l’Armée de l’Air et améliorer la logistique. Mais à huis clos, un autre objectif était parallèlement poursuivi.

Un mensonge à quel prix ?

Cependant, la moitié des employés ont été placés sur le projet, sans qu’ils sachent de quoi il s’agissait réellement. Le voile a été levée sur la finalité de ces travaux : protestations, démissions et pétitions ont été reçues contre ce projet. Par ailleurs, Google affirmait que le programme de drones rapporterait tout au plus 9 millions de dollars à l’entreprise. « Soit une goutte d’eau pour une société aussi gigantesque », rapporte le journaliste Lee Fang.

« En vérité, Google espérait amasser jusqu’à 250 millions de dollars, qui lui permettrait d’obtenir une certification du Département de La Défense. Ce qui lui aurait ouvert la porte aux contrats militaires encore plus juteux grimpant jusqu’à 10 milliards de dollars. » – Lee Fang, journaliste à The Intercept

En somme, pour rester dans la course, Google s’est peu à peu transformé, projeté dans une compétition des contrats militaires. En effet, ces concurrents ont eux aussi changé de culture d’entreprise: Amazon ciblait l’Armée et les Services de Maintien de l’Ordre. Tout comme IBM et d’autres grandes sociétés.

Les limites de l’intelligence artificielle

Entre l’intelligence artificielle et la sécurité, de nombreux paramètres sont encore à optimiser: les individus issus d’une ethnie ou d’une communauté particulière peuvent être mal reconnus ou pris à parti.

L’intelligence artificielle et la boucle de rétroaction

Elle désigne un système alimenter par son propre phénomène.

Par exemple, aux Etats-Unis, la police prédictive s’est répandue. Elle se sert des algorithmes pour déterminer où un crime va avoir lieu. Ce processus est fondé sur le taux de criminalité. Des patrouilles sont alors envoyées dans ces secteurs souvent défavorisés. Puis, des arrestations sont alors opérés pour finalement ralimenter le système par le même phénomène. Et ainsi de suite. Sur le long terme, la boucle rétroactive renforce les inégalités.

« Nous élevons cette créature. Mais comme avec n’importe quelle progéniture, nous ne sommes pas en mesure de contrôler tout ce qu’elle va faire. » – Zeynep Tufekci, sociologue spécialiste des technologies de l’information et de la communication

Les inégalités et la reconnaissance faciale

De même, pour la reconnaissance faciale qui permet d’obtenir toutes sortes d’analyses.

Michal Kosinski nous montre qu’après avoir entrainé une intelligence artificielle à partir de visages, il est possible de déterminer si un homme est homosexuel ou hétérosexuel.

« Un cerveau humain peut distinguer un hétérosexuel d’un homosexuel avec une certaine exactitude. Mais l’ordinateur est capable de le faire avec une bien meilleure précision. (…) En l’occurrence, celle d’un logiciel de reconnaissance faciale en vente libre. Cet algorithme peut aussi détecter si vous êtes dans l’opposition, si vous êtes libérale ou athée. » – Michal Kosinski, psychologue sciences sociales computationnelles

« Mauvaise nouvelle ! » nous alerte Michal. En effet, en possession de cette technologie certains gouvernements pourraient répertorier « avec exactitude » l’athéisme ou les opposants, victime ensuite d’inégalités de traitement. Ce qui rappelle l’utilisation dystopique de la CCTV en Chine contre les Ouïgours.

Quelles seront les limites du pouvoir gouvernementales et d’une intelligence artificielle autonome ? Quelle société sommes-nous en train de bâtir ? Les questions sont nombreuses et continuent d’être explorées.