Qui décide vraiment quand l’IA nous conseille ?
Nous avons longtemps redouté que l’intelligence artificielle nous prenne notre travail. Le vrai risque est peut-être plus subtil : c'est qu’elle nous prenne l’habitude de ne plus réfléchir. C’est cette thématique qu’ont décidé d’aborder Éric Hazan et Olivier Sibony dans Faut-il encore décider ?
Ces deux auteurs ont choisi de ne pas se limiter à l’aspect technologique, mais se sont davantage interrogés sur les enjeux éthiques, politiques et démocratiques liés à la prise de décision.
Deux auteurs aux expertises complémentaires
Éric Hazan dirige un fonds d’investissement et enseigne l’intelligence artificielle à HEC et à Sciences Po : il connaît donc l’IA du côté des entreprises et de la technologie. Olivier Sibony, professeur à HEC Paris et à Oxford, travaille de son côté sur la manière dont nos biais faussent nos décisions. Leurs deux regards se complètent : l’un part de la machine, l’autre de l’humain. Cette double perspective crée une vraie complémentarité et permet d’aboutir à un meilleur jugement.
Décider avec l'IA : Les idées clés des auteurs
Les auteurs partent d’un constat simple, de plus en plus, l’IA prend de meilleures décisions que les experts humains. En effet, elle attribue déjà des greffons, prévient des pannes électriques et détecte des fraudes. Demain, elle pourrait aider à poser un diagnostic, choisir un candidat ou accorder un crédit. Alors, si elle décide mieux que nous, faut-il encore décider ?
Beaucoup répondent que « l’humain doit garder le contrôle », comme avec un marteau dont on tient le manche. Les auteurs trouvent cette réponse trop simple. Si l’IA se trompe moins que nous, reprendre la main contre son avis risque plus souvent de créer une erreur que d’en corriger une.
La première partie revient sur l’histoire de la décision, liée à celle de l’IA depuis les années 1950. Elle montre que les questions d’aujourd’hui sont moins nouvelles qu’on le croit.
La deuxième partie dresse une carte des façons de décider demain, avec ou sans IA. Elle explique quand on peut lui faire confiance et quand certaines décisions doivent rester humaines.
La troisième partie imagine quatre scénarios pour 2036 et défend « Démocrat.IA », une IA développée sous le contrôle des citoyens, qui leur permettrait de prendre part aux décisions avec leurs dirigeants.