Cet article date de plus de cinq ans.

Nouveau monde. Une IA capable d’écrire des infox jugée trop dangereuse pour être laissée en liberté

Une intelligence artificielle capable d’écrire de faux articles mise au point par des spécialistes américains serait jugée trop dangereuse pour être mise à la disposition du public. Trop intelligente ou au contraire trop bête ?

Article rédigé par franceinfo, Jérôme Colombain
Radio France
Publié
Des circuits imprimés. (THOMAS TRUTSCHEL / PHOTOTHEK)

Des spécialistes américains ont mis au point une intelligence artificielle capable d’écrire de faux articles. Cette Intelligence artificielle serait jugée trop dangereuse pour être mise à la disposition du public. 

Il s‘agit d’un programme d’intelligence mis au point par l’association américaine OpenAI, une association créée notamment par Elon Musk pour démocratiser l’intelligence artificielle. Celle-ci serait capable d’écrire des articles tout seul "à la manière de". Une IA journaliste, écrivaine ou rédactrice de recettes de cuisine, en somme. Cependant, ce programme produirait des résultats tellement époustouflants qu’il faudrait s’en méfier. En tout cas, c’est ce qu’affirme OpenAI dans un article de blog.

Pseudo collusion entre Hilary Clinton et Georges Soros

Quelques médias américains spécialisés ont testé cette fameuse IA. C’est le cas notamment du magazine Wired qui s’est amusé à faire écrire un article en tapant juste au départ "Hillary Clinton et Georges Soros" (on sait que beaucoup de fake news ont circulé concernant l’ex-candidate démocrate et le célèbre financier américain). Résultat : l’IA a inventé toute une histoire de collusion entre les deux avec un enregistrement audio, etc. Bref, une belle infox !

Comme toute IA, un tel programme se nourrit d’éléments existants. On peut donc penser qu’il s’est basé sur les fausses informations trouvées ici et là ou des informations incomprises. En effet, une IA ne comprend rien du tout à ce qu’elle raconte. C’est d’ailleurs pour cela qu’elle invente des histoires "crêpes au yaourt" ou de "feu sous la mer". De là à en déduire qu’elle serait trop puissante pour être rendue publique il y a sans doute un gouffre.

Super intelligente ou super bête ?

Il faut se méfier de ce genre d’annonce. L’association OpenAI est très critiquée pour ne pas se montrer si "open" que cela sur ce coup. Il faudrait que l’IA puisse être éprouvée par des chercheurs spécialisés. D’une manière générale, il y a beaucoup de fantasme autour de l’intelligence artificielle. Il y a quelques temps on avait dit que Facebook avait créé deux IA qui avaient inventé un langage entre elles et qu’il avait fallu les débrancher d’urgence alors, qu’en fait, ces programmes avaient juste complètement déraillé et étaient devenus sans intérêt.

Cette nouvelle histoire d’IA qui resterait cachée à cause des fake news est donc peut-être elle-même une sorte de fake news. Pourtant, on va avoir besoin de systèmes capables d’écrire des articles. Cela fait partie de la transformation numérique du journalisme. Mais il faudra des IA capables de travailler sur des faits avérés et pas sur de la fiction, ce qui n’est pas le cas de cette IA, apparemment. En réalité, si elle reste cachée, ce n’est peut-être pas tant parce qu’elle est super intelligente que parce qu’elle est surtout super bête.

Commentaires

Connectez-vous à votre compte franceinfo pour participer à la conversation.