Cet article date de plus de huit ans.

Terrorisme : un logiciel pour combattre l'extrémisme en ligne

Les violents messages de propagande diffusés par les terroristes islamistes pullulent sur la Toile. Les entreprises du Net peinent à endiguer un phénomène pour lequel elles sont désormais pointées du doigt. Elles pourront bientôt s'appuyer sur un logiciel qui devrait contrer la viralité des vidéos de tuerie ou de décapitation que l'on retrouve sur le Net.

Falila Gbadamassi

France Télévisions - Rédaction Culture

Publié le 18/06/2016 18:17 Mis à jour le 20/06/2016 19:27

Temps de lecture : 4min

C'est peut-être «le» logiciel qu'attendait les acteurs du Net et tous ceux qui luttent pour débarrasser la Toile des funestes vidéos de Daech. Un nouveau logiciel dévoilé le 17 juin 2016 pourra les aider à repérer rapidement et à éliminer les contenus extrémistes destinés à inciter à la violence, utilisés notamment par les djihadistes du groupe Etat islamique (EI).

«Nous pensons que c'est la solution technologique pour combattre l'extrémisme en ligne», a expliqué Mark Wallace, directeur exécutif du Projet contre l'extrémisme, organisation non gouvernementale basée à Washington, à l'origine du logiciel. Ce dernier a été développé par Hany Farid, scientifique à l'Université de Dartmouth, grâce notamment à un financement de Microsoft.

Le chercheur en informatique avait déjà travaillé sur le système PhotoDNA, aujourd'hui largement utilisé par les acteurs d'internet pour enrayer la diffusion de contenus montrant de la pornographie infantile ou des images d'exploitation sexuelle. Le futur logiciel sera utilisé de la même manière.

Les géants du Net tenus pour responsables de la propagande de Daech
Ce logiciel est présenté alors que les groupes djihadistes redoublent d'effort en matière de propagande car les défections ont été nombreuses ces derniers mois. Au grand dam des plateformes qui abritent ces contenus. Elles sont désormais accusées d'attentisme, voire plus.

Le père d'une des victimes des attentats perpétrés à Paris le 13 novembre 2015 poursuit ainsi en justice Twitter, Facebook et Google (Youtube) devant un tribunal fédéral de Californie du Nord, aux Etats-Unis. Nohemi Gonzalez, 23 ans, une étudiante originaire d'El Monte en Californie (sud-ouest des Etats-Unis), est la seule victime américaine parmi les 130 personnes abattues par les terroristes. Elle est a été tuée pendant qu'elle dînait au restaurant La Belle Equipe.

La plainte déposée par Reynaldo Gonzalez indique que les réseaux sociaux ont apporté «en connaissance de cause (...) un soutien matériel clé dans l'ascension de l'(organisation djihadiste) Etat Islamique (EI) et lui a permis de mener de nombreux attentats y compris celui du 13 novembre».

Le groupe Etat islamique (EI) utilise les réseaux sociaux comme outil de propagande et de recrutement (Flickr)

Elle ajoute qu'à la date de décembre 2014, l'EI avait 70.000 comptes Twitter dont au moins «79 officiels» et postait «au moins 90 tweets par minute». «L'EI utilise Google (YouTube) et Facebook de la même manière», ajoute la plainte qui demande des dommages et intérêts d'un montant non précisé. Une première audience est prévue le 21 septembre au tribunal fédéral d'Oakland (nord de la Californie).

Renfort technologique
Pour Me Nicolas Bénoit, spécialiste du droit de la presse et de l’Internet, c'est la technologie qui est ainsi in fine remise en cause. Car c'est l'évolution technologique qui rend possible la production et la diffusion dans de brefs délais des vidéos mises en ligne par les terroristes islamistes. Cependant, l'avocat français souligne que la technologie est «neutre». Seul l'usage qui en est fait est déterminant.

L'outil imaginé par Hary Farid permettrait par exemple d'éliminer la diffusion virale de vidéos montrant des décapitations ou des tueries, comme celles produites par Daech. Par conséquent, il devrait être particulièrement utile pour des sites internet, comme les réseaux sociaux, aujourd'hui obligés de retirer manuellement chaque contenu dont ils veulent se débarrasser.

De fait, rappelle Me Nicolas Bénoit, les opérateurs du Net ne sont pas légalement responsables des contenus qui sont publiés sur leurs plateformes mais elles doivent les retirer si leur nocivité est signalée par un tiers. En France, on parle de «notification de contenu illicite», explique le juriste.

«Nous avons simplement développé un outil qui permet aux entreprises de faire respecter les termes de leur service. Elles le font déjà, mais c'est très lent», explique Hany Farid. Le logiciel en est à ses derniers stades de développement et sera en mesure d'être déployé dans les mois à venir.