L'intelligence artificielle pour lutter contre le harcèlement scolaire sur les réseaux sociaux

"Tu pues", "grosse vache", "t’es moche"... Ces insultes, certains adolescents victimes de harcèlement scolaire les entendent quotidiennement, parfois depuis des années. Un phénomène est amplifié par les réseaux sociaux, très prisés des adolescents. 25% des collégiens disent avoir été victimes de cyber-harcèlement au moins une fois dans leur vie. Seulement 10% des victimes en parlent à leurs parents.

L'IA contre le cyber-harcèlement

Pour lutter contre ce fléau, trois chercheuses ont mis au point une intelligence artificielle. Elle s’appelle Creep, elle est développée depuis trois ans dans un laboratoire à Nice Sophia-Antipolis. Ce logiciel est capable de détecter les échanges sur les réseaux sociaux qui constituent du harcèlement en ligne, en analysant des millions de messages et d’images. 

Elena Cabrio, maître de conférence à l' Université Côte-d'Azur, lance une démonstration. Sur l’écran d’ordinateur, on a d’abord l’impression d’assister à un feu d’artifices. La modélisation de nos échanges sur les réseaux sociaux dessine des fines trajectoires qui se transforment en bouquets de points lumineux. Le logiciel repère ainsi les comptes sociaux, vers lesquels se concentrent le plus de messages. "Avec cet assistant virtuel, on s’est rendu compte que les messages de haine étaient orientés vers l’insulte ou la moquerie sur les religions et aussi sur la politique", explique Anais Ollagnier, post-doctorante à l’Université Côte-d'Azur.

Formée au langage des réseaux sociaux 

Ce logiciel a été programmé pour comprendre le langage spécifique des réseaux sociaux. Une langue qui n’est pas académique et qui est différente du langage parlé. Ce système a été paramétré pour être capable d’analyser des millions de messages échangés sur des réseaux sociaux liés à des sujets, hashtags ou profils spécifiques. Le logiciel fait un premier tri des messages relevant de la haine ou pas. Un modérateur humain doit ensuite être impliqué pour confirmer le cas de harcèlement ou pas. Plusieurs tests concluants ont déjà été réalisés avec des écoles en Italie.