M, le bord de l’abîme , le futur de l’IA ?

Depuis son apparition, l’IA a toujours été au centre de fantasmes et d’une certaine méfiance de la part du grand public. On spécule sur son fonctionnement, sa fiabilité et les dérives. Cette fiche de lecture mettra en lumière “M, le bord de l’abîme”, qui fait écho à nos cours d’IA et de Digital en Chine du MBA DMB.

Le premier roman de Bernard Minier au sujet de l’IA

Bernard Minier est un romancier français.

Il est né le 26 août 1960 à Béziers.

Sa carrière démarre dans l’administration douanière, jusqu’au jour où il se décide à envoyer son premier manuscrit à des maisons d’édition.

Auteur de romans policiers et thrillers, son premier livre “Glacé” a été salué par la presse. Il remporte grâce à lui le ​​Prix du meilleur roman francophone au Festival Polar de Cognac.

Le roman sera même adapté dans une série éponyme qui figurera 4 ans sur Netflix.

Le Sunday Times classera Glacé dans le “top 100 des meilleurs romans policiers depuis 1945”.

Résumé du livre

À Hong Kong, une jeune femme française, Moïra est employée d’une très grosse entreprise d’information et de communication du nom de “Ming”. Ming gagne en pouvoir et en position sur le marché en ayant transité vers le digital et les nouvelles technologies. L’entreprise ambitionne de devenir leader sur le marché des assistants virtuels avec son chatbot “DEUS”.

La particularité de DEUS ? Il est supposé être tellement performant qu’il permettrait de prendre des décisions “adéquates” avant l’utilisateur. 

Moïra est en charge de ce projet. Elle est donc soumise, avec ses collaborateurs, à une traque et une surveillance permanente de ses moindres faits et gestes par DEUS, dans une optique “d’amélioration” de la solution. 

La société Ming était déjà en porte-à-faux pour des suspicions de corruption, et s’est retrouvée dans une position délicate en étant au cœur d’une enquête pour viols et homicides chez des victimes ayant chacune un point commun : avoir été employées chez Ming. 

Points saillants du livre

La société Ming s’apparente à une entreprise des GAFAM ou des BATX. Y sont embauchés de brillants ingénieurs internationaux, l’ambiance s’y veut corporate mais détendue, à la Silicon Valley. 

Dans cette culture d’entreprise, les salariés sont liés à Ming même en dehors de leurs fonctions. Appartements de fonction, bracelets connectés, téléphones et tablettes Ming les rendent en proie à une surveillance permanente. Lorsque les deux policiers en charge de l’enquête font le bilan, il se trouve que les victimes avaient osé se rebeller face à leur hiérarchie et dénoncer les abus du management et des technologies.

Le prestige de la multinationale couplée avec l’excellence des profils qui y sont embauchés laisse à rassurer d’un point de vue extérieur. Si vous mentionnez votre poste chez Ming, d’aucun vous féliciterait d’avoir pu intégrer une telle société. 

Cela alimente encore plus l’aspect pernicieux du management et des intentions de Ming. Les salariés sont « gaslightés » malgré eux. Qui pourrait douter ou se plaindre d’avoir une brillante carrière et des perspectives de succès ? 

La mécanique insidieuse démarre de cette façon, des salariés vers les clients. Les ingénieurs contribuent à faire progresser les algorithmes et les solutions d’IA, en n’y voyant derrière aucune intention malveillante. Cependant, dès lors que certains laissent leur esprit critique reprendre le contrôle, une destinée tragique semble s’abattre sur eux.

Mon ressenti sur le roman, et sur l’IA

Le roman s’est positionné selon moi comme un thriller et non comme de la science fiction de l’anticipation. Minier a brillamment réussi à dépeindre un environnement “normal”, actuel auquel on s’identifie. Ce à quoi il a ajouté une dimension anxiogène de par son réalisme. L’idée ici, dans ce que j’en ai interprété, n’a pas été de diaboliser l’IA mais d’évoquer les différents questionnements qu’on peut avoir à son sujet; et ce, sur des dimensions juridiques, éthiques et culturelles.