La recherche "Taylor Swift" associée à "AI" bloquée sur X après un faux porno

La recherche "Taylor Swift", qui a été temporairement bloquée sur X (ex-Twitter), est de nouveau disponible depuis lundi 29 janvier, mais le blocage a été maintenu si le nom de la chanteuse s'accompagne du mot "IA" (intelligence artificielle). Ce blocage temporaire a fait suite aux critiques de ses fans, mais aussi de la Maison Blanche et de nombreuses personnalités contre la diffusion sur X de ces fausses images pornographiques générées par l'IA appelées "deepfakes".

Contacté par l'AFP, le réseau social du milliardaire Elon Musk n'a pas répondu dans l'immédiat. Cité par le site américain The Verge, Joe Benarroch, directeur des opérations de X, a assuré que le blocage était une mesure temporaire de "protection". Une fausse image de la superstar américaine a été vue 47 millions de fois sur X avant d'être supprimée jeudi. Selon les médias américains, la publication est restée en ligne sur la plateforme pendant environ 17 heures. Dans un communiqué, la plateforme a déclaré "retirer concrètement toutes les images identifiées" de la chanteuse et "prendre les mesures appropriées contre les comptes les ayant postées".

"X", haut lieu de la pornographie sur la toile

L'administration du président Joe Biden est "alarmée" par cette affaire, avait affirmé vendredi la porte-parole de la Maison Blanche Karine Jean-Pierre. "Malheureusement, trop souvent, nous savons que le manque d'application des règles a un impact disproportionné sur les femmes et les filles, qui sont les principales cibles du harcèlement en ligne", avait-elle déploré.

Les fausses images pornographiques de célébrités ne sont pas nouvelles, mais militants et régulateurs craignent que l'IA ne crée un flot incontrôlable de contenus problématiques. Le fait que de telles images touchent cette fois-ci Taylor Swift, artiste la plus écoutée au monde sur la plateforme Spotify en 2023 et dont l'influence politique est reconnue aux États-Unis au moment où un président sera élu en 2024, pourrait pousser les acteurs du secteur à agir plus fermement. La chanteuse est par ailleurs au cœur de toutes les convoitises pour la présidentielle américaine de 2024.

Selon les analystes, X (ex-Twitter) est l'une des plus importantes plateformes de contenus pornographiques au monde, avec des règles bien plus souples que Facebook ou Instagram, propriété du groupe Meta. La semaine dernière, X a toutefois rappelé la "stricte" interdiction d'"images de nudité non consentie", assurant appliquer une "politique de tolérance zéro sur ce type de contenu".