Biais, opacité, données sensibles : ce que ma thèse m'a appris sur les risques éthiques de l'intelligence artificielle appliquée à la réinsertion.

En matière d'IA justice et éthique algorithmique, 2026 marque un tournant. En effet, les dispositifs de réinsertion peinent à réduire la récidive. Pourtant, l'intelligence artificielle s'impose comme une piste prometteuse. Cependant, ses risques éthiques et juridiques sont aussi importants que ses promesses. C'est précisément la question au coeur de ma thèse de M2 marketing data et IA.

L'IA au service de la réinsertion : une promesse séduisante

Chaque année en France, près de 60% des personnes libérées récidivent dans les cinq ans. Ce chiffre illustre l'échec relatif des dispositifs actuels. En effet, ceux-ci restent trop standardisés et insuffisamment personnalisés. Par ailleurs, le ministère de la Justice reconnaît que la personnalisation des parcours de réinsertion reste un chantier prioritaire.

C'est dans ce contexte que l'IA s'impose. Ainsi, en analysant des données sociales et professionnelles, un algorithme pourrait concevoir des trajectoires sur mesure. Il pourrait également identifier les facteurs de risque propres à chaque profil. Et anticiper les situations de rupture avant qu'elles ne surviennent.

Dans le cadre de ma thèse, je me suis intéressée à cette question. Or plus je creuse, plus je me heurte à une tension fondamentale. En effet, les risques éthiques et juridiques de l'IA appliquée à la justice sont aussi importants que ses promesses.

IA justice éthique algorithmique : le biais, ou comment reproduire les inégalités à grande échelle

En effet, le premier risque est celui du biais algorithmique. Un modèle d'IA apprend à partir de données historiques. Or ces données reflètent les inégalités structurelles de notre système judiciaire. Ainsi, elles surreprésentent les populations précaires et les personnes peu diplômées. Par conséquent, un algorithme entraîné sur ces données risque de reproduire, voire d'amplifier, ces biais systémiques.

L'exemple américain est édifiant. En effet, l'outil COMPAS a été accusé de classer les détenus noirs comme deux fois plus à risque. C'est ce que révèle une étude de ProPublica. Ce cas a déclenché un débat mondial sur les algorithmes prédictifs en justice.

En France, le cadre juridique est plus protecteur. Ainsi, l'article 22 du RGPD interdit les décisions entièrement automatisées. Cependant, la frontière entre aide à la décision et décision automatisée reste floue. De plus, le risque que le décideur humain suive aveuglément l'algorithme est réel.

La question des données : qui collecte quoi, et avec quel droit ?

Par ailleurs, le deuxième risque concerne la qualité et la légitimité des données. Pour concevoir des trajectoires individualisées, un algorithme aurait besoin de données très sensibles. Il s'agirait notamment des antécédents judiciaires, de la situation familiale et de l'historique professionnel. Or ces données sont protégées par le RGPD.

Leur collecte soulève donc des questions fondamentales. Qui les collecte ? Qui y a accès ? Et surtout, la personne a-t-elle réellement consenti à leur utilisation ?

En effet, la CNIL rappelle que le consentement libre et éclairé est un pilier fondamental. Cependant, cette notion est particulièrement problématique en contexte pénitentiaire. Peut-on parler de consentement libre lorsqu'une personne détenue dépend entièrement de l'institution judiciaire ?

Droits fondamentaux et opacité algorithmique : le droit à l'explication en question

Enfin, le troisième risque est celui de l'opacité algorithmique. Les modèles d'IA les plus performants sont des "boîtes noires". Ainsi, leurs décisions sont difficiles à expliquer à un non-spécialiste. Or le droit à l'explication est un principe fondamental de l'État de droit.

En effet, si un algorithme recommande tel dispositif plutôt qu'un autre, comment la personne concernée peut-elle contester cette décision ? C'est pourquoi l'IA Act européen classe ces systèmes comme "à haut risque". Cependant, la mise en oeuvre concrète de ces obligations reste un chantier ouvert.

Alors, l'IA en justice : faut-il y renoncer ?

Ma réponse, au terme de ces recherches, est non. Renoncer à l'IA dans ce domaine serait passer à côté d'un potentiel réel d'amélioration des politiques de réinsertion. Mais l'utiliser sans précaution serait tout aussi irresponsable.

La condition d'un usage éthique de l'IA en justice repose selon moi sur trois piliers : des données de qualité, collectées avec un consentement réel et un cadre juridique solide ; des modèles explicables et auditables, avec une supervision humaine effective ; et une évaluation continue des biais et des effets réels sur les personnes concernées.

L'IA ne peut pas réparer seule les inégalités structurelles du système judiciaire. Mais bien encadrée, elle peut contribuer à des décisions plus éclairées, plus personnalisées, et in fine plus justes.

Dans le cadre de ma thèse sur l'apport de l'intelligence artificielle dans la conception de trajectoires de réinsertion individualisées pour les personnes sortant de détention.

Note méthodologique IA :