Nouveau monde, France info

Nouveau monde. Une intelligence artificielle contre la haine en ligne

Le hacker français Baptiste Robert a créé une technique à base d’intelligence artificielle capable de détecter les messages violents sur tous les réseaux sociaux.

--'--
--'--
Copié dans le presse-papier !
Comment détecter les messages violents sur les réseaux sociaux ? (photo d\'illustration)
Comment détecter les messages violents sur les réseaux sociaux ? (photo d'illustration) (PHOTOPQR / NICE MATIN / MAXPPP)

Comment lutter contre la haine et les fausses informations sur les réseaux sociaux ? La technologie peut-elle aider à régler les problèmes qu'elle a elle-même causés ? Plusieurs entreprises tentent aujourd'hui d'inventer des techniques automatiques de veille et de filtrage des contenus. C'est le cas de la startup toulousaine, Predicta Lab.

franceinfo : comment votre technologie permet-elle de limiter la haine et les infox sur les réseaux sociaux ?

Baptiste Robert, fondateur de Predicta Lab : L’idée est de récupérer de la donnée de tous les réseaux sociaux, de l’analyser et de créer des alertes en fonction de ce qui est découvert. Cela peut-être de la haine en ligne, du harcèlement ou encore un événement en cours. Nous sommes en mesure de capter toute agitation sur un réseau à base, notamment, d’analyse sémantique.

Quels types de contenus pouvez-vous détecter ?

Nous détectons, très rapidement, des faits de violence et de harcèlement en ligne. J’ai pu voir récemment une vidéo de femme en train de se faire battre par son mari et des flots de commentaires haineux en dessous. Il y a des gens qui passent leurs soirées, de 18 heures à minuit, à insulter les autres sur Internet. Ces contenus peuvent être captés par nos algorithmes.

À qui s’adresse votre solution ?

Notre solution peut intéresser les médias, qui ont besoin de surveiller l’actualité. Elle peut intéresser également les autorités, dans le cadre de la lutte contre le terrorisme ou la haine en ligne, mais aussi pour détecter des catastrophes. Enfin, cela intéressera les entreprises pour tout ce qui touche à la e-réputation et à la gestion de crises en ligne. Nous sommes d’ores et déjà en contact avec plusieurs organismes intéressés.

La technologie est-elle la solution miracle à la haine en ligne ?

La technologie n’est pas magique. Elle a beaucoup de mal à capter la nuance. En revanche, nous pouvons détecter facilement des propos directs manifestement violents. Déjà, si on arrivait à enlever tout cela des réseaux sociaux, ceux-ci seraient un peu plus apaisés.

Comment détecter les messages violents sur les réseaux sociaux ? (photo d\'illustration)
Comment détecter les messages violents sur les réseaux sociaux ? (photo d'illustration) (PHOTOPQR / NICE MATIN / MAXPPP)