Sur YouTube, une séquence cachée au milieu d'un dessin animé montrait aux enfants comment se suicider

La modération de YouTube est-elle assez efficace ? Une mère de famille a découvert, au milieu d'un dessin animé diffusé sur la plateforme, un passage montrant un homme simuler une automutilation. "Rappelez-vous les enfants : dans la largeur pour attirer l’attention, dans la longueur pour obtenir des résultats. Finissez-en", déclare cet homme, faisant mine de s'en prendre à ses avant-bras, rapporte PediMom (en anglais), blog de conseils pédiatriques, dont l'article a été repéré par Clubic. Juste après cette séquence, le dessin animé reprend.

The suicide clip is on #youtubekids as well. @YouTube you need to do better. #YouTubeWakeUp #ProtectOurKids #ParentsDemandAction #thisisnotok pic.twitter.com/YdNqsEcxtD

— PediMom, Dr. Free N. Hess (@thepedimom) 24 février 2019

La vidéo a depuis été supprimée de la plateforme. "Nous travaillons sans relâche pour que YouTube ne soit pas utilisé dans le but d'encourager les comportements dangereux, a expliqué l'entreprise dans un communiqué transmis à franceinfo. Nous appliquons des règles strictes interdisant les vidéos encourageant l'automutilation. (...) Nous nous efforçons d’améliorer nos systèmes dans le but de supprimer encore plus rapidement ces contenus illicites."

"Nous prenons les retours très au sérieux"

Pour autant, ce n'est pas la première fois que la modération du site est pointée du doigt. En 2017, franceinfo avait consacré une enquête aux ratés de filtrage de l'application YouTube Kids en France. Cette plateforme de Google ne propose, en théorie, que des vidéos adaptées aux enfants, mais nous avions pu facilement y trouver à l'époque des contenus inappropriés qui échappaient à la vigilance de l'algorithme.

"Nous veillons à ce que les vidéos sur YouTube Kids soient adaptées aux familles, et nous prenons les retours de nos utilisateurs très au sérieux, assure aujourd'hui YouTube. Les vidéos signalées sont ensuite examinées manuellement, 24 heures sur 24 et 7 jours sur 7, et toutes les vidéos qui n'ont pas vocation à être sur l'application YouTube Kids sont immédiatement supprimées. Nous avons également développé de nouveaux systèmes de contrôle à disposition des parents."