La première fois que j’ai entendu parler d’un algorithme, c’était au lycée pendant un cours de mathématiques, et je ne comprenais pas grand-chose. Ni au fonctionnement de cette formule assez complexe, et encore moins à quoi cela pouvait me servir. Pourtant, aujourd’hui, les algorithmes font partie de mon quotidien. En tant que responsable marketing et communication, dans une Start-up qui réalise des solutions d’intelligence artificielle, j’ai voulu en savoir plus sur les algorithmes que j’utilise tous les jours.
Aurélie Jean, va changer votre vision des nouvelles technologies…
Dans son ouvrage « Les algorithmes font-ils la loi ? » Aurélie Jean nous présente une vision concrète de ces formules complexes qui régissent notre quotidien.
Dans l’univers de la Tech, il y a peu de femmes, cependant Aurélie Jean est une source de connaissances et d’inspirations.
Aurélie Jean est docteure en sciences numériques et entrepreneure, et plus particulièrement spécialisée dans les algorithmes et dans la modélisation numérique. Aurélie Jean est auteure de plusieurs ouvrages, dont « De l’autre côté de la machine » et « Les algorithmes font-ils la loi ?« . De plus, elle est engagée dans de l’éducation aux sciences et à l’informatique, notamment pour les jeunes filles, et dans la sensibilisation aux enjeux éthiques de l’intelligence artificielle. Enfin elle est aussi classée parmi les 40 Françaises les plus influentes de l’année 2019 selon le magazine Forbes.
Les algorithmes font-ils la loi ?
Dans son ouvrage Aurélie Jean, commence par un récit utopiste, qui est un extrait du film Minority Report de Steven Spielberg. Un récit qui n’est pas loin de la réalité. Actuellement avec le développement, des réseaux sociaux et de l’intelligence artificielle, les algorithmes sont omniprésents dans notre quotidien. Mais un grand nombre de citoyens ne savent pas exactement ce que sont des algorithmes ou leur fonctionnement précis. Il y a une véritable confusion citoyenne face aux algorithmes. Et c’est ce qu’Aurélie jean met en lumière dans son ouvrage.
Le livre « Les algorithmes font-ils la loi ?« , aborde plusieurs points clés liés à l’utilisation croissante des algorithmes dans notre société.
1. La définition d’un algorithme et son rôle dans la prise de décisions.
Aurélie Jean fait le parallèle entre l’algorithme et une recette de cuisine, afin de simplifier la compréhension de celui-ci. Un algorithme est une suite d’étapes à suive afin de résoudre un problème. Les algorithmes sont utilisés depuis longtemps en informatique pour effectuer des tâches répétitives, mais ils sont devenus de plus en plus sophistiqués avec l’avènement de l’intelligence artificielle.
2. Les biais des données peuvent influencer les résultats des algorithmes et mener à des dérives.
Avec le développement des algorithmes, nous avons souvent entendu dire, qu’ils sont “sexistes, racistes, ou discriminatoires ”
Mais ce n’est pas l’algorithme en lui-même qui l’est, c’est la société. En effet, l’auteure met en avant qu’ils ne sont pas, responsables des problèmes, mais ce sont les créateurs des algorithmes, et la société qui les nourrissent de données biaisées. Les algorithmes ne sont que le reflet de notre société, tout comme l’intelligence artificielle.
3. Les conséquences de l’utilisation des algorithmes pour les citoyens et la société.
« Il est fondamental d’exiger des entreprises et des équipes qu’elles conçoivent et applique une gouvernance technique et scientifique afin de garantir une compréhension minimale des technologies, l’absence de biais tant dans les données que dans l’algorithme entraîné, une collecte inclusive des données, et enfin un usage responsable de ces outils » – Aurélie JEAN
L’utilisation des algorithmes par les citoyens peut entraîner de nombreuses conséquences, et à plus grande échelle pour la société. Aurélie Jean met en exergue que les algorithmes et l’intelligence artificielle peuvent aider à résoudre des problèmes ou à répondre à nos questions. Mais il ne faut pas oublier de prendre du recul sur les réponses fournies et garder un jugement humain sur ce type d’utilisations. Mais c’est aussi à nous, en créant des algorithmes et des solutions d’intelligence artificielle, de prendre en compte les valeurs humaines, telles que l’équité, la dignité et la liberté. Ce qui amène à notre responsabilité dans l’utilisation des outils informatiques.
4. La question de la responsabilité dans l’utilisation des algorithmes.
On peut se poser la question de : “Qui est responsable si un algorithme prend une décision qui a des conséquences négatives pour une personne ou pour la société ?”
Aurélie Jean énonce le fait que l’algorithme n’a pas de responsabilité juridique. Ils ne se sont pas des personnes dotées d’une responsabilité morale. Mais Aurélie Jean met avant des pistes afin d’utiliser à bon escient les algorithmes dans le milieu juridique. Notamment en s’appuyant sur le texte de le RGPD.
5. Les pistes d’amélioration pour garantir une bonne utilisation des algorithmes.
L’auteure met en avant une responsabilité partagée entre les concepteurs d’algorithmes, les utilisateurs et les décideurs politiques. Elle démontre qu’une bonne pratique des algorithmes avec une méthode d’exploitabilité avant et pendant l’entraînement des algorithmes permettait une plus grande transparence de l’utilisation.
Aurélie Jean propose la mise en place d’un cadre légal pour l’utilisation de l’IA, la formation des concepteurs d’algorithmes à l’éthique, la création d’organes de régulation indépendants, et la participation citoyenne à la gouvernance de l’IA.
« La confiance est un sentiment d’un être humain envers un autre humain uniquement. Parler de confiance envers un algorithme fait entrer l’utilisateur dans une vision floue des responsabilités de celui-là. » – Aurélie JEAN
Le livre « Les algorithmes font-ils la loi ? » D’Aurélie Jean est une étude importante sur les enjeux liés à l’utilisation des algorithmes dans notre société. Elle met en lumière qu’il faut prendre de nombreux paramètres avant d’arriver à une utilisation transparente et éthique de l’utilisation des algorithmes. Dans la conclusion de son ouvrage, elle répond à la question « Les algorithmes font-ils la loi ?«
Sa réponse est non, car ils ne sont pas dotés d’une responsabilité juridique, ils sont créés pour nous aider à répondre à des problématiques juridiques, sociétales, économiques. Mais nous devons prendre du recul, et garder un jugement humain. Cependant, si les algorithmes ne sont pas utilisés de la bonne façon, ils peuvent être une menace pour les principes de transparence et d’équité. C’est pour cela qu’ils faut connaître nos droits et nos devoirs, sur l’utilisation de données. Nous avons la chance d’être protégé par le RGPD, mais avec le développement de nouvelles intelligences artificielles, la limite peut être rapidement dépassée. C’est à nous aussi en tant que marketeur de prendre conscience de l’utilisation de ces technologies et savoir stocker correctement les données que nous recueillons chaque jour.
En conclusion…
Ce livre m’a permis de comprendre les algorithmes qui m’entourent, de savoir ce qui est possible ou non, c’est un ouvrage passionnant pour tous ceux qui s’intéressent aux enjeux des algorithmes, de l’intelligence artificielle et de l’éthique. C’est un appel à l’action pour la construction de notre avenir, c’est maintenant que les choses se jouent, car nous sommes dans un contexte technologique et social qui évolue très rapidement.
Sources : « Les algorithmes font-ils la loi ? » – Aurélie Jean
Découvrez ces articles sur l’utilisation des algorithmes :
L’article sur « coded bias »
L’article « Comment fonctionnent les algorithmes des réseaux sociaux en 2023 ? »
Louise Bouvier-Berthet
