« Coded bias », documentaire-enquête sur les biais sexistes et racistes des algorithmes

coded bias

article par Dana Herskovits

« Coded Bias », en français « Algorithmes et discrimination », est un documentaire réalisé en 2020 par Shalini Kantayya et diffusé sur Netflix. C’est une enquête et une réflexion sur les biais des algorithmes et comment ils impactent notre société.

Les algorithmes sont-ils biaisés ?

Joy Buolamwini, chercheuse américaine, fait une troublante découverte. lors de ses recherches au MIT Media Lab, le célèbre institut de recherche de Cambridge, Etats-Unis. Pour un projet utilisant la reconnaissance faciale, la chercheuse découvre que certains algorithmes ne peuvent pas détecter les visages des personnes de couleur ou identifier les femmes avec précision. Elle réalise que les algorithmes d’apprentissage automatique sont aussi biaisés que les humains qui les programment.

Les systèmes de reconnaissance faciale apprennnent ce que sont les visages à partir  de bases de photos. Si les photos représentent principalement des hommes et des personnes à la peau claire, les systèmes auront plus de difficulté à détecter les femmes et les personnes de couleur.

Le plus important dans un modèle d’apprentissage automatique ce sont les données utilisées pour l’entraîner. En ce qui concerne l’IA, ce qui sort est déterminé par ce qui entre. Des données d’apprentissage biaisées conduisent à des modèles biaisés.

Buolamwini rend publiques ses conclusions et crée un mouvement vers la responsabilité et la transparence, témoigne devant le Congrès américaine et fait pression pour la toute première législation régissant la reconnaissance faciale aux États-Unis. Le mouvement Algorithmic Justice League est né.

reconnaissance faciale

Qu'est-ce que la technologie de reconnaissance faciale ?

La reconnaissance faciale est une technologie de plus en plus répandue dans le monde.

Si vous avez déjà déverrouillé votre téléphone en utilisant votre visage ou en laissant Facebook vous reconnaître automatiquement… vous utilisez la technologie de reconnaissance faciale.

Il est important de comprendre comment la technologie de reconnaissance faciale affecte notre vie privée, notre capacité à protester pacifiquement ou même à profiter d’une journée en ville sans être identifié.

reconnaissance faciale en Chine

Utilisation par la Chine de la technologie de reconnaissance faciale

La Chine est le leader mondial de l’utilisation de la technologie de reconnaissance faciale. La surveillance de la population via la reconnaissance faciale y est omniprésente. Avec un vaste réseau de caméras, les enfants et les adultes sont surveillés dans les parcs, les hôtels, les sites touristiques, etc.

C’est un exemple de la façon dont une technologie censée être bénéfique peut facilement évoluer vers une menace les droits de l’homme.

La vision de la réalisatrice

Bien sûr, le documentaire montre la vision de Shalini Kantayya, la réalisatrice. On peut lui reprocher de présenter des avis unilatéraux. Mais le film a le mérite d’aider le grand public à se familiariser avec des concepts abstraits et à comprendre comment l’intelligence artificielle impacte notre monde.

La réalisatrice présente des histoires dans différents pays et les impacts réels d’une IA défectueuse ou contraire à l’éthique. Un enseignant apprécié à Houston est arbitrairement considéré comme insatisfaisant par une évaluation automatisée. Un britannique est condamné à une amende suite à une identification erronée par le système de reconnaissance faciale de la ville. La police a fini par l’admettre. Les scènes en Chine montrent le potentiel d’une surveillance étatique étendue via un système de crédit social et de la reconnaissance faciale obligatoire.

La réalisatrice réussit le pari de prendre un sujet éminamment déprimant et de le rendre accessible tout en donnant de l’espoir.

Comment aborder les droits civils à l'ère du Big Data?

Dans un monde de plus en plus automatisé et axé sur les données, la question de savoir comment protéger les libertés des individus face à l’intelligence artificielle se pose chaque jour davantage. La réglementation et la transparence sont essentielles aujourd’hui car l’intelligence artificielle transforme tous les secteurs de la société et touche tous les droits civils dont nous jouissons.

Nous sommes tous invités à réfléchir à ce que signifie une IA qui régit de plus en plus nos droits. Quelles sont les conséquences pour les personnes victimes des biais technologiques ?  Comment pouvons-nous être la solution ?

La lutte pour l’égalité dans l’éducation, le logement et l’emploi persiste. Nous devons être vigilents à ne pas laisser les algorithmes amplifier les disparités.

L’intelligence artificielle est une technologie incroyable. Elle a un impact positif très important dans le monde. L’IA est exploitée dans la santé pour aider les médecins à diagnostiquer les patients. Elle acèlere la productivité dans le secteur agricole. L’intelligence artificielle est actuellement utilisée pour créer des villes intelligentes et durables. Ce sont juste quelques exemples de la façon dont l’IA peut rendre notre monde meilleur.

Mais la transparence des données est plus importante que jamais. Cette technologie doit encore être réglementée. Il faut assurer une gouvernance et continuer à mener des recherches sur l’équité et l’éthique de son utilisation.

Découvrez la Ted talk de Joy Buolamwini, fondatrice de l’Algorithmic Justice League

Et qu’en est-il de Chat GPT ?

Voici un début de réponse dans ces articles :

OpenAI Chatbot crache des réflexions biaisées, malgré les garde-fous

Le biais sexiste dans le Chat GPT-3