Nouveau monde, France info

Nouveau monde. Quand les deepfakes deviennent une arme de communication politique assumée

En Inde, un candidat à une élection a choisi délibérément de faire appel à des deepfakes, des vidéos truquées par intelligence artificielle, pour faire campagne.

--'--
--'--
Copié dans le presse-papier !
Le candidat Manoj Tiwari s\'adresse à ses électeurs dans une langue qu\'il ne parle pas grâce à l\'intelligence artificielle
Le candidat Manoj Tiwari s'adresse à ses électeurs dans une langue qu'il ne parle pas grâce à l'intelligence artificielle (CAPTURE D'ECRAN YOUTUBE)

Les deepfakes (contraction de "deep learning" et de "fake news") sont des vidéos dans lesquelles on fait dire n’importe quoi à n’importe qui, grâce à l’intelligence artificielle. On a vu, par exemple, des vidéos de Barak Obama ou de Donald Trump semblant prononcer des paroles qu’en réalité ils n’ont jamais dites, mais c’était à titre de démonstration. Pour la première fois, un homme politique, un candidat aux élections législatives à Delhi en Inde, a décidé d’utiliser cette technologie de manière complètement assumée pour faire campagne dans une langue qu’il ne parle pas.

Manoj Tiwari a réalisé deux vidéos. Dans la première vidéo, réelle, il parle l’anglais qui est sa langue maternelle. Dans l’autre vidéo, identique en apparence, il semble s’exprimer en dialecte haryanvi, alors qu’il ne connaît pas un traître mot de cette langue. Après les hologrammes dans les meetings, voici donc les deepfakes comme armes de communication politique.

Des trucages de plus en plus accessibles

Certes, si l’on regarde bien, le résultat n’est pas parfait. L’essentiel de la vidéo en haryanvi est identique à la version en anglais mais au niveau de la bouche on aperçoit des artefacts liés à la manipulation de l’image. C’est le programme d’intelligence artificielle qui a plaqué des mouvements de lèvres spécifiques, et ajouté quelques pauses, pour que cela corresponde avec le message audio qui, lui, est prononcé par un comédien. Jadis, ce genre trucage nécessitait des ordinateurs très puissants et de longues heures de traitement. Aujourd’hui, cela peut être réalisé plus facilement avec des logiciels disponibles gratuitement sur internet.

Une supercherie qui pose des questions éthiques

Tout cela pose évidemment des questions éthiques. On craignait que les deepfakes ne soient utilisées pour faire de la désinformation, or, voilà qu’elles débarquent pour faire de l’information ou, du moins, de la communication politique. Ce candidat considère que ça le rapproche de ses électeurs, que cela met moins de distance que des sous-titres. Il s’agit néanmoins d’une supercherie, ce qui pose question. En tout cas, la vidéo a été très partagée dans des groupes Whatsapp mais cela n’a pas empêché le candidat high-tech de perdre les élections.

Le candidat Manoj Tiwari s\'adresse à ses électeurs dans une langue qu\'il ne parle pas grâce à l\'intelligence artificielle
Le candidat Manoj Tiwari s'adresse à ses électeurs dans une langue qu'il ne parle pas grâce à l'intelligence artificielle (CAPTURE D'ECRAN YOUTUBE)