Nouveau monde. Une intelligence artificielle capable de tromper les internautes en laissant de faux avis sur les sites de recommandation

Qui pourrait croire que tel avis enthousiaste à propos d'un restaurant dans lequel vous vous apprêtez à pénétrer ou, au contraire, telle critique assassine, n’est en réalité qu’un faux avis conçu et rédigé par une intelligence artificielle ?

Des messages qui ressemblent à s'y méprendre à des vrais

Des chercheurs de l’université de Chicago ont mis au point un réseau de neurones artificiels (un ensemble d’algorithmes fonctionnant sur le modèle des neurones du cerveau), capable de rédiger de faux avis en s’inspirant d’autres commentaires "lus" sur internet.

L’expérience a été menée sur la plateforme de recommandations Yelp. Et le résultat est quasiment parfait, avec des phrases du genre : "J’adore cet endroit. Le saumon et les ramens sont délicieux", ou bien, à l’inverse, "C’est le pire service que je j’ai jamais vu. Cet endroit est une blague." 

Les travaux de l'université de Chicago sont une expérience d’intelligence artificielle. Mais cela montre ce qu’un ordinateur peut faire en brassant une grande quantité de données et en s’inspirant de ce que les humains font et écrivent. Cela montre aussi que des internautes en chair et en os peuvent se laisser berner par de tels avis. Dans les années 1950, l’informaticien Alan Turing avait mis au point le "test de Turing" pour savoir à partir de quel moment un humain confond un autre humain avec une machine. Nous y sommes.  

Des parades techniques

Que se passerait-il si ce genre d’intelligence artificielle était, réellement lâchée dans la nature ? Les sites de recommandations devraient-ils mettre la clé sous la porte ? Pas vraiment. Les plateformes comme Yelp ou TripAdvisor, déjà habituées à traquer au quotidien les faux avis, affirment qu'elles sont prêtes à faire face. Les faux avis ne seraient pas parfaits. Par exemple, ils sont en général très courts et portent souvent sur les mêmes thèmes, ce qui les rend faciles à repérer par des algorithmes de filtrage.