À Toulouse, une société surveille les réseaux sociaux et signale les contenus illicites

Chaque semaine, ce sont 4 400 signalements de messages haineux, diffamatoires, racistes ou homophobes qui sont recensés sur la plateforme Pharos, rattachée à l’Office central de lutte contre la criminalité. Et depuis la décapitation de l’enseignant Samuel Paty, les contenus illicites et dangereux sur les réseaux sociaux n’ont cessé de pulluler.

Mardi, l’association culturelle des Français musulmans de Béziers (Hérault) a même déposé une plainte à la suite de la publication d’un post sur Facebook incitant à "cramer la mosquée" de la commune. À Bordeaux, les murs d’un édifice religieux musulman ont été taggués avec les messages "Vive la France" et "Mahomet = lâche" dans la nuit de mardi à mercredi. Des tags accompagnés de deux symboles d’extrême-droite : la croix de Lorraine et celtique. Les dégradations ont rapidement été supprimées et effacées. La préfecture a annoncé être à la recherche des auteurs des faits.

Des menaces ou des actes de violence ont visé les mosquées de Béziers et de Bordeaux, j’ai demandé aux Préfets des départements concernés de protéger ces lieux de culte. De tels actes sont inacceptables sur le sol de la République.

— Gérald DARMANIN (@GDarmanin) October 21, 2020

Quant au message appelant à brûler l’une des cinq mosquées de Béziers, des investigations sont également menées afin d’identifier son auteur. “Je suis surpris de voir que ces messages circulent toujours alors que nous avons fait, immédiatement, un signalement sur la plateforme Pharos”, s’étonne Abdallah Zekri, président de la fédération régionale du sud-ouest de la Grande mosquée de Paris.

Une IA pour repérer les messages problématiques

Et pour renforcer les dispositifs de lutte contre les propos haineux sur les plateformes internet, une société toulousaine travaille avec une quarantaine de clients. Atchik œuvre pour modérer les discussions et les messages en ligne. "Nous prenons la décision d’avertir le client. Et une fois qu’il est averti, notre responsabilité n’est plus engagée. Le client a l’obligation de faire une action. Ça peut être un signalement sur la plateforme Pharos du gouvernement, ou prévenir la police si le cas est beaucoup plus important", explique Brice Le Louvetel, directeur général adjoint de la structure.

Le logiciel de la société ne laisse rien passer. "Il détecte des mots-clés bien précis qui ont été paramétrés en amont. Il y a aussi des mots que l’intelligence artificielle détecte elle-même", détaille Barbara Desbarde, consultant e-réputation d’Atchik. Pour être plus efficace dans la lutte contre les messages haineux sur les réseaux sociaux, la ministre déléguée à la citoyenneté Marlène Schiappa a convoqué les principaux représentants des plateformes en France, les exhortant à plus de responsabilités.