Le déploiement de l’intelligence artificielle au service de la défense suscite de nombreux débats sur l’emploi des systèmes d’armes létaux autonomes (SALA) ou « robots soldats », termes préférés à celui de « robots tueurs ». Brice Erbland – officier dans l’armée de Terre, pilote d’hélicoptère et auteur d’un témoignage de ses engagements « Dans les griffes du Tigre » – constate cependant que les discussions sont essentiellement d’ordre juridique et éthique, mais intègrent peu la dimension empirique du soldat.
« …ni le philosophe ni le programmeur ne connaissent le combat… Or, l’éthique du combat requiert une part empirique pour être complètement appréhendée. »
Avec le développement et l’utilisation présupposés de SALA, Brice Erbland lance une réflexion sur la question du comportement humain au combat et son équivalent en robotique militaire, pour accompagner au mieux cette évolution en cours. En s’appuyant sur son expérience opérationnelle, l’auteur s’attache à déterminer si ces systèmes seront seulement capables de remplacer ou à défaut d’accompagner les soldats humains en opérations.
L’emploi du SALA en accompagnement des soldats
Dans la première partie de son ouvrage, Brice Erbland défend l’utilisation du SALA en accompagnement de soldats humains. La notion « d’acceptabilité morale du combat est basée sur la réciprocité du danger assumée par les combattants : le pouvoir de donner la mort exige le risque de mourir en retour ». Il insiste également sur la nécessité d’inclure le robot soldat dans un contexte opérationnel fait de décisions humaines. En effet, la planification et la conduite des opérations seront avant tout décidées par un état-major. Les ordres qu’elle recevra seront réfléchis par un chef tactique qui devra envisager tous les cas non-conformes.
Émotions vs algorithmes : analyse comparative du soldat et du SALA
Brice Erbland poursuit sa réflexion avec l’étude des vertus et faiblesses du combattant et leur équivalent pour un SALA. Un robots soldats pourra paraître moralement plus stable qu’un homme, puisqu’il sera dépourvu de vengeance et des effets négatifs de la distanciation. Néanmoins, le discernement émotionnel, une qualité développée chez le soldat humain au cours de la guerre, ne peut être programmé. C’est sur cette dernière vertu que l’auteur établit la principale différence entre l’homme et la machine.
Programmation d’une éthique artificielle
Dans la troisième partie, l’auteur explique le processus de prise de décision humain pour ensuite proposer un module de raisonnement éthique et artificiel du SALMA (système d’arme létal moralement autonome). Une partie davantage technique pour énoncer la complexité pour les ingénieurs de traduire en logiciel les capacités émotionnelles du soldat humain.
Éclairer l’innovation de défense par des idées nouvelles
Dans le contexte d’anticipation des menaces du futur, la dernière partie de l’ouvrage sur « Ce que nous apprends la littérature », souligne l’intérêt de la science-fiction dans la définition d’opérations prospectives. Naturellement, celle-ci fait écho à la création de la « Red Team » – cellule composée de futurologues et auteurs de science-fiction – dont l’objectif est d’orienter les efforts d’innovation en imaginant des solutions permettant de se doter de capacités disruptives.
Brice Erbland offre un ouvrage où expérience professionnelle, approche technique et réflexion éthique se combinent pour offrir une analyse structurée, instructive et pertinente. Un sujet auquel il vaut mieux réfléchir plutôt que s’y opposer par principe en vue de :
- tenter dès aujourd’hui de fixer les limites nécessaires pour que de tels systèmes soient utilisables,
- anticiper toutes les dérives possibles que certains pourraient vouloir exploiter
- être capable de discerner le juste besoin militaire.
L’auteur termine, in fine, en exprimant quelque réserve personnelle :
« Je reste intimement convaincu des limites éthiques à fixer à l’emploi de ces machines, et j’avoue penser au fond de moi qu’il serait préférable de ne pas les créer. »
Je conseille la lecture de cet ouvrage a tous ceux qui souhaitent comprendre les enjeux de l’innovation dans la défense basés sur l’expérience opérationnelle. Un sujet que je développe également dans le cadre de ma thèse professionnelle axée sur l’accompagnement et l’intégration d’une innovation garante de l’expérience utilisateur (UX) du fantassin.