Sur twitter, les hashtags sur les algorithmes et l’intelligence artificielle ne manquent pas. Une publication faisant la promotion du livre « Les algorithmes font-ils la loi ? » m’intrigue. Curieuse d’en savoir plus sur ce #MustRead, je le commande illico presto.
Portrait d’Aurélie Jean, entrepreneure et génie informatique
C’est l’une des 40 françaises les plus influentes selon le magazine Forbes en 2021. Aurélie Jean est docteure et entrepreneure française spécialisée dans les algorithmes et la modélisation numérique. Chroniqueuse pour Le Point, Aurélie est aussi une femme engagée dans la lutte contre le cancer du sein. En effet, elle cofonde DPEEX, une start-up spécialisée dans les applications médicales de l’IA.
Son premier livre « De l’autre côté de la machine : voyage d’une scientifique au pays des algorithmes » a été un véritable succès. Avec son troisième ouvrage, elle continue de nous faire voyager dans leur incroyable monde.
A la découverte d’un livre qui répond aux enjeux technologiques actuels
Les algorithmes sont présents dans beaucoup de secteurs : médecine, finance, commerce, transport etc. On les retrouve quotidiennement dans nos localisations GPS, nos suggestions de contenus sur Netflix ou encore nos publicités ciblées sur Facebook.
Ils sont partout, mais les comprenons-nous vraiment ? Beaucoup d’entre nous ont l’impression qu’ils nous échappent. Certains se posent la question de leur régulation. D’autres imaginent qu’un jour nous pourrions être gouvernés par une IA comme le suggère cet article.
A travers 221 pages et 6 chapitres, l’auteure entend bien éclairer le débat. Elle souhaite aussi fournir des clés de compréhension pour que tout un chacun puisse se faire une opinion sur le sujet.
Une méconnaissance des algorithmes, un problème majeur
En choisissant pour titre « Les algorithmes font-ils la loi ? », l’auteure interpelle sur l’absurdité de la question qu’elle qualifie de « contre nature ». En effet, discuter de réguler des algorithmes, c’est ne pas comprendre leur fonctionnement.
Le constat est sans appel, à part les scientifiques, peu de personnes les cernent véritablement, d’où la nécessité de les comprendre pour savoir comment les utiliser.
Le manque de pédagogie, la véritable source du problème
Tout au long de son ouvrage, l’auteure soulève le manque de pédagogie pour expliquer les algorithmes. Pourtant, c’est le rôle des ingénieurs et des propriétaires des technologies. C’est bien à eux d’expliquer les sciences algorithmiques et la science de la data au grand public.
Sans cette transparence, les législateurs établiront des lois qui seront toujours en décalage avec le progrès technologique et l’évolution de la société.
Les niveaux d’explicabilité et d’interprétabilité des algorithmes sont des enjeux majeurs pour leur régulation. Après tout, nous ne pouvons réguler que ce que nous pouvons évaluer et comprendre.
« Les algorithmes ne disposent d’aucune personnalité juridique : ils ne peuvent donc porter aucune responsabilité. C’est pourquoi les algorithmes ne peuvent pas par nature faire la loi. »
La non-responsabilité des algorithmes
On leur reproche d’être racistes, sexistes, à l’origine d’une discrimination mais les seuls responsables sont ceux qui les créent et qui les nourrissent de données parfois biaisées.
En effet, les algorithmes ne peuvent pas faire la loi car ils ne sont pas dotés d’une personnalité juridique. Ils ne sont donc pas responsables des maux dont on les accuse.
Une complémentarité entre les algorithmes et l’exerce de la justice
Prendre conscience du fait qu’un algorithme n’est ni une personne morale ni une personne physique est un pas vers la construction des futures législations.
« Les algorithmes peuvent orienter directement la pratique légale en étant développés et utilisés dans l’exercice de la justice. »
Leur utilisation est à double tranchant : ils représentent une menace pour l’équité et la transparence s’ils sont mal utilisés. En revanche, lorsqu’ils sont bien compris, ils aident les acteurs de la loi à garantir un traitement équitable à chacun.
Le voyage vers l’incroyable monde des algorithmes se poursuit
Ce livre n’est pas un éloge à la science algorithmique. L’objectif est de nous donner les clés pour mieux cerner le débat. Les algorithmes ont mauvaise presse ces temps-ci, ils sont accusés de manipuler les citoyens et d’être responsables du réchauffement climatique à cause de notre consommation excessive d’outils connectés. L’auteure nous interpelle sur un éventuel « prisme réducteur » qui condamnerait notre vision à ne pas saisir les opportunités d’innovations.
Nous devons constamment faire l’effort de comprendre le monde qui nous entoure et par conséquent nous ouvrir aux algorithmes. La collaboration est le maître mot. Celle des scientifiques et des politiciens est sine qua non. D’un côté, les scientifiques devront prendre la parole. De l’autre, les acteurs politiques devront se familiariser avec le domaine scientifique. Alors, nous parviendrons à ériger des lois en phase avec notre temps et promouvoir l’innovation des futures décennies.
Les prochaines régulations sur l’intelligence artificielle devront se construire ainsi.
Sources : « Les algorithmes font-ils la loi ? » Aurélie Jean