"Il est temps de s’inquiéter" : Geoffrey Hinton, l’ingénieur dont les travaux ont permis de créer ChatGPT, alerte sur les dangers de l’intelligence artificielle

À 75 ans, celui qui est surnommé le parrain de l’intelligence artificielle vient de démissionner du poste qu’il occupait depuis 10 ans chez Google pour pourvoir "parler librement des dangers de l’IA". Il appelle les géants de la tech à faire une pause dans l’apprentissage des logiciels.
Article rédigé par Marion Lagardère
Radio France
Publié Mis à jour
Temps de lecture : 2 min
Geoffrey Hinton, le père de l’intelligence artificielle.  (MASAHIRO SUGIMOTO / YOMIURI via AFP)

C’est un ponte des nouvelles technologies, une véritable référence. Le britannique Geoffrey Hinton, 75 ans, surnommé le parrain de l’intelligence artificielle, a créé le système le plus sophistiqué d’apprentissage des machines, "le réseau de neurone" qui permet à un logiciel d’apprendre seul et donc de ne pas dépendre des informations enregistrées dans son système par les humains pour prendre des décisions. Or Geoffrey Hinton dit que l’intelligence artificielle va trop vite, trop loin et "qu’il est temps que l’on s’inquiète".

Pour pouvoir affirmer cela librement, il vient de démissionner de son poste chez Google. Et ça n’est pas anodin. Sans ses travaux, il n’y aurait pas de ChatGPT. Mais il explique au New York Times qu’il regrette, "parce que je ne vois pas comment on peut empêcher des personnes mal intentionnées de s’emparer de cet outil pour de mauvaises choses." Car le problème, c’est bien l’intention. Hinton cite des régimes autoritaires comme la Russie, mais aussi les firmes qui courent après toujours plus de profit quels que soient les moyens.

Oubliez Terminator. L’IA n’est pas un robot en métal qui court dans la rue pour tuer des gens, l’IA est là, avec nous, dans nos téléphones, pour nous aider, ou nous orienter, nous manipuler. C’est ce qui est reproché par exemple au tout nouveau robot conversationnel de Snapchat aux États-Unis, un super ami virtuel tellement réaliste qu’il en est, d’après les ados eux-mêmes cités par CNN, "effrayant'.

"La question c’est de savoir quand ces technologies vont nous dépasser en termes de finesse du raisonnement, j’ai pensé qu’on avait le temps, que ce serait pour dans 30 ou 50 ans, mais je n’y crois plus."

Geoffrey Hinton, pionnier de la recherche sur l'IA

à la BBC

Geoffrey Hinton dit que "l’information, l’éducation, la société et l’humanité tout entière sont en danger". Et il n’est pas le seul à l’affirmer. Depuis des mois, les alertes sur le fait qu’on est en train de perdre pied se multiplient. La dernière a rassemblé 1 000 signatures de scientifiques, ingénieurs, programmateurs, tous demandant aux géants Google et Microsoft une pause de six mois dans l’exploitation des intelligences artificielles. Parce qu’il faut arrêter et tout de suite.

"En fait, explique Hinton à la BBC, la différence entre nous et l’IA, c’est la vitesse de transmission. Les IA partagent tout instantanément. C’est comme si, dans un groupe de 10 000 personnes, dès qu’un individu apprenait quelque chose, les 10 000 autres l’apprenaient aussi, instantanément et automatiquement. (...) La question, c’est de savoir quand ces technologies vont nous dépasser en termes de finesse du raisonnement, j’ai pensé qu’on avait le temps, que ce serait pour dans 30 ou 50 ans, mais je n’y crois plus". Hinton suggère donc de mettre tous ces logiciels en pause, les retirer, et c’est bien le point positif de son alerte effrayante, c’est qu’il y a une solution. En tout cas, on ne peut pas dire qu’on ne la connaît pas.

Commentaires

Connectez-vous à votre compte franceinfo pour participer à la conversation.