Dans le cadre de mes recherches, j’ai eu la chance d’échanger avec Raja Chatila, professeur émérite à Sorbonne Université, chercheur à l’Institut des Systèmes Intelligents et de Robotique (ISIR) et membre du Comité consultatif national d’éthique du numérique (CCNEN). Spécialiste de l’explicabilité et de l’évaluation des systèmes d’IA générative, il travaille depuis plus de vingt ans sur les questions d’éthique du numérique, et a notamment contribué aux avis du CCNEN sur la voiture autonome et l’IA générative. Mon objectif pour cet entretien est de comprendre comment un expert qui conseille l’État français pense la régulation des plateformes et de leurs algorithmes de recommandation.

Le risque, une notion plus politique que mathématique

Le premier réflexe quand on parle d’IA et de régulation est de se référer au Règlement européen sur l’IA (AI Act), présenté comme une approche « basée sur le risque ». Raja Chatila rappelle la formule retenue par le texte :

« Le risque, c’est la probabilité de l’événement négatif, multiplié par l’importance du dommage ».

Une équation qui fonctionne bien dans le cas des discussion sur les voitures autonomes (on peut calculer une probabilité par kilomètre parcouru), mais beaucoup moins pour les droits fondamentaux, qui représentent une des trois catégories de risque visées par l’AI Act avec la santé et la sécurité. Par exemple, comment chiffrer l’effet d’un système de modération sur la liberté des citoyens ?

Mais avant même de parler de risque, Chatila pose une question plus fondamentale, qu’il applique systématiquement à toute technologie qu’il analyse :

« Pourquoi on fait ça ? C’est la question préalable à se poser. »

Il prend l’exemple de la voiture autonome, vendue comme un moyen de « sauver des vies » en supprimant le facteur humain. D’après lui, il s’agit d’un raisonnement qui occulte que les infrastructures routières, elles, ne changent pas. Le même réflexe critique s’applique, selon lui, aux réseaux sociaux : avant de discuter d’algorithmes, il faut interroger la finalité du système.

DSA : une transparence en demi-teinte

Personnellement sur le terrain qui m’intéresse, à savoir la modération des contenus et les algorithmes de recommandation, c’est le Digital Services Act (DSA) qui s’applique aux plateformes en Europe. Le texte impose bien certaines obligations : un rapport annuel sur les risques systémiques (haine en ligne, santé publique, processus électoraux…), un accès aux données pour les chercheurs habilités, un registre public de la publicité, l’interdiction du ciblage publicitaire des mineurs, ou encore l’obligation d’expliquer le fonctionnement des algorithmes utilisés pour la recommandation de contenus. Mais en creusant la formulation exacte de ces obligations, Chatila pointe un vide : rien n’oblige réellement les plateformes à divulguer la logique interne de leurs systèmes de recommandation, celle qui détermine concrètement ce qu’un utilisateur voit ou ne voit pas.

Pour Chatila, qui travaille en recherche sur l’évaluation des systèmes d’IA, c’est une frustration concrète car les laboratoires se disent prêts depuis des années à collaborer avec les plateformes sous couvert de confidentialité pour mieux comprendre les effets des algorithmes de recommandation, sans jamais obtenir de réponse positive.

Le sujet qu’on évite : la raison d’être des plateformes

Le point le plus marquant de l’entretien arrive en fin d’échange. Pour Chatila, on a tendance à débattre des symptômes (modération, contenus problématiques, exposition répétée) sans jamais remettre en cause la cause : le modèle économique des réseaux sociaux repose sur la captation maximale de l’attention.

Sa proposition, volontairement provocante, mérite d’être citée :

« Pourquoi ne pas imposer des mécanismes obligatoires d’interruption ? Par exemple une limite quotidienne d’usage, au-delà de laquelle il faudrait attendre 24h pour revenir sur l’application ? » Il pousse la comparaison jusqu’au bout : « Il y a un vrai problème sur la raison d’être de ces réseaux. C’est quoi que vous vendez, en fait ? Ça devrait être réglementé, la vente d’alcool est interdite aux mineurs, mais la vente de drogue est interdite à tout le monde. Et on est plus ici dans le cadre d’une sorte de drogue.»

… reliant le modèle d’affaires des plateformes à celui de substances dont la vente est, elle, strictement encadrée par la loi.

Ce que ça change pour les marketeurs et community managers

Cet entretien dépasse largement le cadre juridique abstrait. Pour qui travaille en marketing digital ou en gestion de communauté, trois enseignements concrets en ressortent :

• Le cadre réglementaire évolue vite, et de façon incomplète : L’IA Act et le DSA coexistent, mais ne couvrent pas les mêmes objets. Le premier régule des systèmes d’IA en tant que tels, le second des plateformes, sans toujours traiter l’effet démultiplicateur propre aux réseaux sociaux quand les deux se combinent.
• La transparence « officielle » d’une plateforme ne dit pas tout : Les documents publiés par les réseaux sociaux sur leurs algorithmes restent partiels.
• L’éthique des systèmes « attention-driven » interroge directement nos pratiques : Concevoir des mécaniques d’engagement (notifications, boucles de contenu, gamification) sans jamais questionner leur finalité, c’est exactement l’angle mort que Chatila pointe à l’échelle des plateformes, à notre échelle aussi, la question mérite d’être posée.

Ce que je retiens

Ce qui m’a le plus marquée dans cet échange, c’est la rigueur méthodologique de Raja Chatila : ne jamais partir du risque, mais toujours de la finalité. Une approche que je retrouve directement utile dans mes propres travaux sur la modération des contenus à risque sur les réseaux sociaux, un sujet que j’ai développé plus en détail dans des précédents articles.

Merci à Raja Chatila pour le temps accordé à cet échange, mené dans le cadre de mes recherches de thèse.

Article : TikTok et modération : l’algospeak redéfinit l’information

Article : Qu’est ce que l’IA Act et en quoi cela pourrait vous impacter ?