Nouveau monde. Tuerie de Halle : pourquoi les plateformes numériques ne parviennent toujours pas à empêcher la diffusion des vidéos meurtrières

La tuerie de Halle, en Allemagne, a été diffusée en vidéo pendant 35 minutes sur la plateforme Twictch, filiale d’Amazon, spécialisée dans le streaming de jeu vidéo. Selon les responsables de Twitch, la séquence a été vue en direct par environ cinq personnes. Puis, le replay a totalisé à son tour environ 2 200 vues. Au bout de 35 minutes, l’enregistrement a été repéré et supprimé. À titre de comparaison, la tuerie de Christchurch était restée sur Facebook 17 minutes, c’est-à-dire moins longtemps, mais elle avait été vue par plus de monde, environ 4 000 visionnages, dont 200 fois en direct.

Pourquoi une telle vidéo n’est-elle pas bloquée automatiquement ?

Le principe des vidéos en direct, c’est qu’elles ne sont pas modérées à priori. Les systèmes de détection par intelligence artificielle sont incapables d’identifier une tuerie qui peut se confondre avec un reportage ou avec une scène de jeu vidéo, à fortiori sur un site de jeux vidéo. Comme le dit le spécialiste Luc Julia,  "L’intelligence artificielle n’existe pas" et les logiciels d’IA sont juste des programmes sophistiquées de traitement de données massives mais en aucun cas une quelconque forme d’intelligence. Du coup, il est très difficile d’instaurer une modération automatique efficace à 100%.

Facebook est en train d’essayer d’améliorer la reconnaissance automatique de scènes de meurtre, notamment en travaillant avec des policiers britanniques qui portent des caméras lors de leurs entraînements au tir.

Peut-on au moins empêcher la propagation d’une telle vidéo ?

Une fois qu’une vidéo illégale est repérée, il est heureusement possible aujourd’hui de limiter sa propagation. Pour cela, les plateformes utilisent un  "hash", c'est-à-dire une empreinte numérique de la vidéo, repérable de manière automatique par les outils de modération automatisée. Twitch explique avoir ainsi partagé le hash de la vidéo de Halle avec les autres plateformes vidéo pour que celle-ci puisse être bloquée automatiquement et cesse de se propager.

Depuis Christchurch, les grandes plateformes du secteur essayent de s’organiser. Elles ont annoncé, fin septembre, la création d’une organisation commune destinée à intervenir immédiatement lorsque de telles situations se présentent.