La modération de contenus sur les réseaux sociaux est un sujet qui fait fortement débat depuis plusieurs années.
Et pour cause, la frontière entre la très sacrée liberté d’expression et les dangers de ses débordements est source de divergences. En effet, un harcèlement banalisé pouvant s’avérer extrêmement violent, quotidien et dur à faire condamner.
Au coeur de cette problématique, une application française qui modère le contenu sur les médias sociaux à l’aide de l’intelligence artificielle : Bodyguard. Créée par un jeune développeur niçois, l’application fut d’abord disponible pour Youtube et Twitter et l’est maintenant également sur Instagram et Twitch.
Son action s’est étendue aux entreprises qui modèrent ainsi des commentaires en temps réel
Ainsi, dans un livre blanc publié en 2022 intitulé « Modération de contenu sur les réseaux sociaux, la bombe à retardement pour les marques », l’application Bodyguard dresse un constat et pose une question essentielle et propre au contexte législatif français.
La question suivante est posée : « Comment les entreprises peuvent-elles gérer la toxicité sur leurs réseaux sociaux et préserver la liberté d’expression propre à Internet, tout en protégeant les utilisateurs et la e-réputation de leur marque ? ».
Bodyguard : une innovation française face aux messages haineux
Dans une interview datant de mars 2021, le français Charles Cohen, à l’origine de Bodyguard explique : « L’appli détecte tout type de contenus haineux : insultes, moqueries, trolls, harcèlement moral ou sexuel, racisme, homophobie. »
Et au-delà de constituer un objet marketing pour l’application qui ne revendique cependant ses plus de 60 000 téléchargements (2021) que sur des contenus organiques, le livre blanc se base sur beaucoup de données chiffrées pour définir, centrer et justifier son action de modérateur de contenus.
Ces statistiques permettent également de décortiquer et comprendre le mode d’action de l’application notamment avec la catégorisation du contenu haineux. En effet, on en dégage neufs types parmi lesquels on retrouve les insultes, le body shaming, le harcèlement moral, la misogynie, etc…
Plus tard, quatre degrés de toxicité allant de faible à très élevé sont mis en avant et explicités par des exemples et des statistiques de leur utilisation. On comprend aussi qui sont les cibles de ce contenu car elles peuvent autant viser un groupe qu’un individu en particulier.
En page 25, les degrés de gravité relevés par Bodyguard et leur présence en ligne
170 877 461 commentaires qui ont été collectés sur les réseaux sociaux des clients de Bodyguard.ai
Du contenu bienveillant
Une fois ces différents constats dressés, le livre blanc revient sur les opportunités et les possibilités qui s’offrent pour réduire l’activité haineuse en ligne, et se concentre sur le contenu bienveillant. C’est une dizaine de pages qui permet de nuancer les statistiques précédentes, de légitimer la portée et l’existence de Bodyguard de façon claire, pragmatique dans la modération de contenus.
En page 30, le détail de la cible du contenu de soutien relevé par Bodyguard
Sur plus de 170 millions de commentaires, 3,97 % sont de nature bienveillante.
Une lecture édifiante
À la lecture de cet ouvrage à usage éducatif et marketing, on comprend l’enjeu majeur de la modération de contenus sur les réseaux sociaux pour les utilisateurs privés, les créateurs de contenus et même pour les marques.
Il s’agit, au delà de l’e-réputation, d’une problématique majeure dans la création d’un espace sain, bienveillant sur Internet et qui n’obstrue pas la liberté d’expression. On constate en effet de plus en plus de dénonciations de ce harcèlement de la part de créateurs de contenus. Ceux-ci se trouvent démunis face à la haine en ligne et peut mener à des conséquences gravissimes voire irréversibles.
Ces exemples finissent même par devenir des porte-paroles de ce fléau. Ils permettent alors d’alerter publiquement sur le sujet et de le maintenir dans l’actualité. La problématique du harcèlement digital est alors soulevée devant les plus grandes juridictions françaises. Celles-ci avancent à leur rythme sur le sujet et de nouvelles lois émergent pour encadrer et condamner les pratiques du web.
Ce livre blanc s’avère donc très instructif et capital pour chaque acteur du digital qui souhaite évoluer de façon stable et informée dans son secteur.
Pour plus d’informations sur les mesures prises pour lutter contre le harcèlement, les deux articles du blog y font référence.
Twitter lance 3 mesures pour lutter contre le harcèlement
Instagram sanctionne les messages haineux en privé !