Intelligence artificielle : Google suspend la création d'images de personnes sur son IA Gemini après des critiques

Le logiciel de génération d'images de Google était critiqué pour ajouter de la diversité de genre ou d'origine dans les requêtes des utilisateurs, même quand le contexte historique demandé ne s'y prêtait pas.
Article rédigé par franceinfo avec AFP
France Télévisions
Publié Mis à jour
Temps de lecture : 2 min
Le logo de Gemini, la gamme d'intelligences artificielles génératives de Google (image d'illustration). (LORENZO DI COLA / NURPHOTO / AFP)

Google a annoncé interdire temporairement la création d'images de personnes avec son outil d'intelligence artificielle (IA) générative Gemini, jeudi 22 février. En cause, des "problèmes récents" concernant cette fonctionnalité, critiquée pour des incohérences historiques dans les images qu'elle crée.

Depuis plusieurs jours, le logiciel du géant de la tech (lancé début février aux Etats-Unis, mais pas encore disponible en Europe) est pointé du doigt par certains internautes. Ces derniers soulignent que Gemini ajoute de la diversité de genre ou d'origine dans les requêtes des utilisateurs, y compris quand le contexte historique demandé ne s'y prête pas. Dans un exemple largement relayé, le logiciel génère des images de "soldat allemand en 1943" en intégrant des femmes, des visages asiatiques ou à la peau noire.

"Nous nous efforçons de résoudre les problèmes récents liés à la fonctionnalité génération d'images de Gemini", a réagi l'entreprise dans une publication sur X. "Dans l'intervalle, nous allons suspendre la génération d'images de personnes et nous rendrons bientôt disponible une version améliorée de cette fonctionnalité."

Le risque de reproduire des stéréotypes

"La conception d'images par l'IA de Gemini génère à un vaste éventail de personnes. Et c'est généralement une bonne chose, car les gens l'utilisent tout autour du monde. Mais nous avons raté notre coup dans le cas présent", a insisté Google sur X.

La polémique a notamment été reprise par des internautes accusant Google de vouloir privilégier la représentation de la diversité au détriment de la rigueur historique. Elon Musk, propriétaire de X et fondateur d'une autre entreprise d'IA générative, a qualifié Gemini de "raciste woke" dans une publication.

L'auteur du post utilisant l'exemple des soldats allemands a clarifié sa position dans un autre post : "C'est une bonne chose de représenter la diversité *dans certains cas*. (...) Le problème est que Gemini ne le fait pas de manière nuancée." Les IA génératives sont entraînées sur des centaines de millions d'exemples récupérés sur internet, et tendent donc à reproduire leurs stéréotypes implicites : par exemple, demander un "docteur" à Gemini tendra à générer l'image d'"un docteur blanc" en l'absence de modération supplémentaire, parce que ces derniers sont plus représentés sur internet, rappelle l'utilisateur.

Depuis la fin de l'année 2022 et le succès de ChatGPT, l'IA générative, capable de produire toutes sortes de contenus (textes, sons, images ou vidéos) sur simple requête en langage courant, a suscité un engouement massif des géants de la tech. Mais ces technologies de plus en plus bluffantes présentent également des risques, incitant de nombreux spécialistes à demander la mise en place de garde-fous.

Commentaires

Connectez-vous à votre compte franceinfo pour participer à la conversation.