OpenAI, le créateur de ChatGPT et Dall-E, présente un outil pour détecter les images créées avec l'intelligence artificielle

Un antidote à ses propres créations. OpenAI, la start-up à l'origine des célèbres outils d'intelligence artificielle générative ChatGPT et Dall-E, permet désormais à des chercheurs de tester un outil conçu pour détecter si des images numériques ont été créées par des programmes d'IA. Selon des tests en interne sur une version antérieure de l'outil, "il identifie correctement environ 98% des images de Dall-E 3. Moins de 0,5% des images non générées par de l'IA ont été incorrectement attribuées à Dall-E 3", a précisé l'entreprise californienne.

La start-up, largement financée par Microsoft, a toutefois précisé que son programme était moins performant quand des images crées avec Dall-E 3 ont ensuite été retouchées ou quand elles ont été générées par d'autres modèles.

Une étiquette pour repérer les contenus générés par IA

OpenAI a par ailleurs annoncé qu'elle ajouterait désormais des marques en filigrane aux images d'IA, afin de respecter les normes de la Coalition for Content Provenance and Authenticity (C2PA), une initiative de l'industrie technologique qui établit des normes techniques pour déterminer la provenance et l'authenticité des contenus numériques.

Le mois dernier, le groupe Meta (Facebook, Instagram) a déclaré qu'il commencerait à étiqueter les contenus générés par l'IA à partir du mois de mai en utilisant la norme C2PA. Son voisin Google a également rejoint l'initiative.

L'authentification des contenus en ligne est devenue une préoccupation majeure avec l'explosion de l'IA générative, qui permet de produire toutes sortes de contenus sur simple requête, y compris de fausses photographies de personnes ou de faux enregistrements audio à des fins de fraude, par exemple.