L’Union Européenne adopte l’AI Act — Article

Le vendredi 8 décembre 2023, l’Union européenne a adopté l’AI Act, un règlement ambitieux encadrant l’utilisation de l’intelligence artificielle (IA) pour promouvoir une innovation responsable et éthique. Ce texte législatif marque un tournant décisif dans la manière dont les technologies d’IA seront régulées sur le continent européen, faisant de l’UE un pionnier en matière de réglementation de l’IA.

Un accord historique

Avec l’adoption de l’AI Act, l’Union européenne devient le premier ensemble politique au monde à mettre en place un cadre réglementaire complet pour l’IA. Ce règlement vise à instaurer la confiance dans les technologies d’IA en assurant la protection des droits fondamentaux, tout en favorisant l’innovation. La Commission nationale de l’informatique et des libertés (CNIL) souligne que cette réglementation s’inscrit dans une démarche de protection des données et de respect des libertés individuelles, tout en répondant aux défis posés par le développement rapide de l’IA.

La classification des modèles d’IA : quatre niveaux de risque

L’AI Act introduit une classification des systèmes d’IA en fonction de leur niveau de risque, une approche novatrice qui vise à garantir une utilisation sûre et transparente de l’IA. Le RIA (Règlement Européen sur l’IA) propose un système de classification de l’IA en quatre catégories de risques :

Risque minimal :

La grande majorité des systèmes d’IA actuellement utilisés ou susceptibles de l’être dans l’UE entrent dans cette catégorie. Pour ces systèmes, l’AI Act ne prévoit pas d’obligations spécifiques, à l’exception des principes généraux de transparence.

Exemples : Les systèmes d’IA utilisés pour des fonctionnalités non critiques, telles que les filtres anti-spam ou les recommandations de contenu non personnalisées.

Risque spécifique en matière de transparence :

Cette catégorie concerne les systèmes d’IA qui, bien que présentant un risque moins élevé pour les droits fondamentaux, nécessitent néanmoins une transparence accrue pour éviter toute manipulation des utilisateurs. Les obligations incluent la nécessité d’informer clairement les utilisateurs qu’ils interagissent avec un système d’IA et non un humain.

Exemples : Les chatbots ou les systèmes de génération de contenu artificiel qui pourraient être perçus comme des communications humaines sans divulgation appropriée.

Haut risque :

Les systèmes d’IA classés dans cette catégorie sont ceux qui peuvent porter atteinte à la sécurité des personnes ou à leurs droits fondamentaux. Leur développement et leur déploiement sont donc soumis à des exigences renforcées, telles que des évaluations de conformité rigoureuses, une documentation technique détaillée, et des mécanismes de gestion des risques. Ces systèmes sont spécifiquement listés dans les annexes du règlement, couvrant des secteurs tels que la santé, l’éducation, la justice, et la gestion de l’emploi.

Exemples : Les systèmes biométriques (comme la reconnaissance faciale), les systèmes utilisés pour le recrutement, ou encore ceux employés dans le cadre de la justice pénale.

Risque inacceptable :

Cette catégorie regroupe les pratiques d’IA jugées incompatibles avec les valeurs de l’Union européenne et les droits fondamentaux. Ces systèmes sont purement et simplement interdits par le règlement.

Exemples : La notation sociale, l’exploitation des vulnérabilités des personnes (comme les enfants ou les personnes en situation de handicap), l’utilisation de techniques subliminales pour manipuler le comportement, l’identification biométrique à distance en temps réel dans les espaces publics par les forces de l’ordre, la police prédictive ciblant des individus, ou encore la reconnaissance des émotions sur les lieux de travail et dans les établissements d’enseignement.

Source : CNIL

Des interdictions strictes

L’AI Act pose des interdictions claires pour les pratiques jugées inacceptables en raison de leur impact potentiellement nocif sur les droits et libertés des individus. Parmi ces interdictions :

• L’identification biométrique en temps réel dans les espaces publics à des fins de surveillance policière, sauf en cas de menace grave pour la sécurité publique.
• Les systèmes de notation sociale qui attribuent un score aux individus basé sur leur comportement social ou économique, une pratique inspirée par des modèles de surveillance autoritaire.
• L’utilisation de l’IA pour la police prédictive, qui pourrait entraîner des préjugés et des discriminations dans le maintien de l’ordre.

Selon la CNIL, ces interdictions visent à empêcher des usages de l’IA qui seraient incompatibles avec les valeurs européennes de respect des droits fondamentaux et de protection de la vie privée.

Défis et critiques : une régulation qui pourrait freiner l’innovation ?

Malgré l’enthousiasme suscité par l’adoption de l’AI Act, des inquiétudes subsistent quant à son impact potentiel sur l’innovation. Des pays comme la France et l’Allemagne ont exprimé des préoccupations, craignant que des règles trop strictes puissent nuire à la compétitivité des entreprises européennes face à leurs concurrents internationaux. Le ministre délégué au numérique de la France, Jean-Noël Barrot, a déclaré : « Il faut éviter d’écraser les innovateurs européens sous une réglementation trop lourde ».

La CNIL reconnaît ces préoccupations, tout en soulignant l’importance d’un cadre qui encourage l’innovation de manière responsable. Elle met en avant le fait que le règlement est conçu pour être proportionné et flexible, permettant des ajustements au fur et à mesure que la technologie évolue.

Votre avis ?

Que pensez-vous de cette classification des risques et de la régulation de l’IA par l’Union européenne ? Est-ce une étape nécessaire pour garantir un développement éthique de l’IA, ou risque-t-elle de freiner l’innovation et de désavantager les entreprises européennes sur la scène mondiale ? Partagez vos réflexions et engageons la discussion !

Retrouvez ici la note méthodologique de l’article « L’Union Européenne adopte l’IA Act »