La fin du mois de novembre marquera trois ans depuis la sortie de ChatGPT. Outre les chatbots, cette révolution de l’intelligence artificielle nous a aussi apporté la génération d’images. Et la qualité de ces images a beaucoup progressé, au point qu’il devient extrêmement difficile de les distinguer de vraies photos.

Dans une étude publiée dans la revue Cognitive Research: Principles and Implications, des chercheurs des universités de Swansea et de Lincoln au Royaume-Uni, ainsi que de l’université Ariel en Israël, se sont intéressés à ce phénomène, et plus particulièrement aux deepfakes.

L’IA est capable de créer des images photoréalistes convaincantes de personnes qui n’existent pas, mais qu’en est-il pour des visages connus ? Les chercheurs ont mené quatre expériences en générant des images de célébrités, en utilisant ChatGPT et Dall-E.

Des photos de célébrités en haut, et des versions générées par IA en bas. © Wikimedia Commons et R. Kramer et al.

Un défi majeur pour la détection des deepfakes

Les chercheurs ont montré que les participants n’étaient pas capables de distinguer les fausses images générées par IA des vraies photos de personnalités connues. Pire, le fait de connaître la personne n’améliore que légèrement les performances. Avoir des photos de référence peut aider dans une moindre mesure, mais uniquement si les participants sont clairement informés que les photos sont bien réelles.

« Cette étude démontre que l’IA peut créer des images synthétiques de visages, qu’ils soient nouveaux ou déjà connus, que la plupart des gens sont incapables de distinguer de véritables photographies. Le fait de connaître un visage ou de disposer d’images de référence n’a pas beaucoup aidé à repérer les faux. C’est pourquoi il est urgent de trouver de nouvelles méthodes pour les détecter », a indiqué Jeremy Tree, l’un des auteurs.

Ces résultats soulignent l’importance de créer des outils pour détecter les deepfakes. Les chercheurs s’inquiètent des abus possibles, notamment de la génération d’images de célébrités recommandant des produits ou soutenant des partis politiques.