Pourquoi Facebook et Twitter peinent à modérer la propagande des jihadistes

A cause de leur extrême violence ou par refus de distiller la propagande des jihadistes, la majorité des médias ont refusé de diffuser les images des exécutions de l'Etat islamique. La dernière en date, diffusée dimanche 16 novembre, met en scène la décapitation du travailleur humanitaire américain Peter Kassig et de 18 soldats syriens. Depuis, les réseaux sociaux tentent de supprimer toute trace de la vidéo.

Pourtant, les images de têtes coupées continuent de circuler sur Twitter ou Facebook. Habilement utilisés par les jihadistes, les réseaux sociaux sont devenus le principal canal de recrutement et de diffusion de la propagande. Pourquoi Facebook ou Twitter peinent-ils à filtrer le flux d'images terribles diffusées par l'Etat islamique ?

Parce qu'elles sont diffusées au sein de micro-communautés

Comme pour les exécutions de James Foley ou Steven Sotloff, la vidéo de la mise à mort de Peter Kassig s'est répandue comme une traînée de poudre sur les réseaux sociaux. Twitter, Facebook, YouTube : toutes ces plateformes s'appuient sur leurs communautés pour mettre en place leur filtrage. Chaque fois, la vidéo d'exécution doit d'abord être signalée par un utilisateur. "Nous les vérifions ensuite, et agissons si nécessaire", indique-t-on chez Twitter. Du côté de Facebook, on explique "traiter en priorité maximale" les contenus faisant "l'apologie du jihad".

Mais les jihadistes ont trouvé une parade. Sur les réseaux, ils développent des petites communautés où ils partagent les contenus entre initiés, sans crainte d'être signalés. Sur Twitter, on trouve de nombreux comptes verrouillés, accessibles uniquement à des personnes méticuleusement choisies.

Même système sur Facebook, où de nombreux groupes privés permettent aux sympathisants du jihad de communiquer librement. "On ne peut rien faire contre ça, explique-t-on chez Facebook. Au nom du respect de la confidentialité, nous ne pouvons pas vérifier ce qui se fait dans ces groupes s'il n'y a pas de signalement, sauf si les autorités judiciaires nous le demandent."

Les jihadistes identifient des profils à recruter et les intègrent à des cercles de discussion. Les partisans de l'Etat islamique ont même réussi à utiliser Facebook d'une façon inédite. L'architecture du réseau social est conçue pour suggérer automatiquement à l'utilisateur des pages et des personnes qui partagent ses centres d'intérêt. "Les jihadistes ont détourné notre algorithme en postant des pages 'neutres' [qui ne peuvent donc pas être supprimées] sur l'organisation terroriste, comme la page Wikipédia de l'Etat islamique, indique l'entreprise. Facebook proposait alors automatiquement aux nouvelles personnes qui aiment cette page de rentrer en contact avec des groupes et des profils de jihadistes." Le réseau social indique "avoir supprimé les suggestions automatiques" sur cette page.

Parce que les vidéos sont publiées plusieurs fois

Coupez une branche et une seconde repoussera aussitôt. Un tour d'horizon sur les réseaux jihadistes en ligne montre que les images violentes de l'Etat islamique sont constamment supprimées et postées à nouveau. Ce qui ne manque pas d'agacer certains utilisateurs.

Jcroi jv lâcher l'affaire avec Facebook sa sool les censure

— Emna Al Faransia (@Oum_Ninja) 18 Novembre 2014

Pour éviter la "réplication", Facebook explique avoir développé un outil qui permet, une fois le contenu litigieux identifié, "de retrouver tous les comptes et toutes les pages où il a été publié et d'en supprimer toutes traces". YouTube, qui semble le plus efficace pour supprimer ces images, dispose d'un "système de 'watermark' ou 'tatouage numérique' qui permet d'identifier automatiquement une vidéo et ses copies", explique Le Monde. YouTube avait mis au point ce système pour pouvoir repérer automatiquement les vidéos utilisant des images ou des musiques soumises au droit d'auteur.

S'ils tentent d'agir sur les contenus répliqués, les réseaux sociaux expliquent être impuissants face aux comptes que les jihadistes créent et recréent. "Une fois qu'il est identifié, on peut supprimer le compte. Mais si l'utilisateur en crée un nouveau avec une autre adresse e-mail, on ne peut rien faire", explique-t-on chez Google, qui possède la plateforme YouTube. Ce fut le cas avec Mickaël Dos Santos, le jihadiste français soupçonné d'apparaître sur la vidéo d'exécution de l'humanitaire Peter Kassig. Censuré par Twitter, le jihadiste a changé plusieurs fois de compte, passant de Abou_Uthman à Abou_Uthman_2, Abou_Uthman_3, Abou_Uthman_5 puis Abou_Uthman_6. 

Parce qu'il existe toujours d'autres réseaux et d'autres plateformes moins contrôlés

Twitter, Facebook, "ces sites internet se considèrent comme des hébergeurs et non comme des éditeurs", explique, sur Europe 1, Nicolas Arpagian, directeur scientifique du cycle Sécurité numérique à l'Institut national des hautes études de la sécurité et de la justice. Les réseaux refusent donc d'assumer la responsabilité de la diffusion d'images de l'Etat islamique provenant d'autres sites.

Recrutement de djihadistes via les réseaux... by Europe1fr

Après une recherche sur Twitter, francetv info a retrouvé la vidéo de décapitation de Peter Kassig sur Vid.me. Une plateforme qui "laisse les gens partager leurs vidéos en privé, uniquement avec un groupe d'amis sélectionnés", explique le New York Times (en anglais).

Depuis l'assassinat de James Foley, en août, les jihadistes ont trouvé d'autres réseaux sociaux pour communiquer et diffuser leurs messages. Parmi eux, Diaspora : un réseau complètement décentralisé, où les utilisateurs communiquent via des "nœuds" installés sur des serveurs gérés séparément par des contributeurs. A l'inverse de Twitter ou de Facebook, les données ne sont pas concentrées entre les mains d'une entreprise.

"Diaspora ne dispose pas de serveur central, il n'y a donc aucun moyen pour l'équipe qui s'occupe du projet de retirer des contenus d'un nœud spécifique du réseau. C'est sans doute une des raisons qui ont attiré les activistes de l'EI sur notre réseau", a expliqué le réseau dans un communiqué. Pour empêcher le phénomène, Diaspora appelle les utilisateurs du réseau à signaler aux administrateurs les contenus litigieux. Toujours ce même jeu du chat et de la souris, où les jihadistes ont par définition une longueur d'avance.