ChatGPT fait-il de la censure ou bien souffre-t-il d’un bug ? Ce week-end, plusieurs utilisateurs ont découvert que le chatbot semble planter ou, du moins, bloque la conversation avec un message d’alerte si vous saisissez « David Mayer » dans l’invite de commande.

D’après les tests réalisés, même si le nom est présent dans une conversation, ou enrobé dans un contexte, le même résultat se produit. Encore plus fascinant, ce blocage intervient également si l’on demande au chatbot de lire le nom à l’envers en ayant saisi : ‘reyam divad’ ». Futura a bien tenté l’expérience, mais ChatGPT a précisé qu’il n’avait pas de réponse précise, car il lui manquait du contexte. Est-ce que le phénomène n’a lieu qu’aux États-Unis ? En tout cas, cette manifestation vient nourrir des fils de discussion complotistes. Selon eux, le David Mayer en question serait censuré par l’IA, car il s’agirait de David Mayer de Rothschild, l’héritier des banquiers Rothschild. Une famille qui fait l’objet de nombreuses théories de conspiration antisémites.

Troublant, David Mayer n’est pas le seul nom qui entraîne un blocage de ChatGPT. Le site 404media relève que des personnes ont également constaté que les mêmes messages d’erreur se produisaient avec d’autres noms, comme « Jonathan Zittrain » ou « Jonathan Turley ». Il s’agit d’éminents professeurs de droit américains qui ont rédigé de nombreux articles critiques sur ChatGPT et les IA.

Le chatbot se venge-t-il ?

Futura a tenté l’expérience en saisissant simplement dans l’invite : « Jonathan Turley ». Et, effectivement, le message d’erreur s’est affiché. Alors, comment expliquer ce phénomène étrange qui nourrit les théories du complot ? Même si cela est moins vrai qu’auparavant, le chatbot est coutumier des « hallucinations ». Il s’agit de réponses qu’il invente par probabilité, lorsqu’il ne trouve pas vraiment d’informations probantes.

Dans le cas de David Mayer, il est possible, comme le rapporte Justine Moore, une chercheuse en intelligence artificielle, que ce nom fasse partie de demandes de « droit à l’oubli » au titre du Règlement général sur la protection des données (RGPD). Cela pourrait entraîner ce blocage qui engendrerait, de fait, un bug. L’investigatrice a pu vérifier cette théorie avec six autres noms qui ont mis en place cette procédure de droit à l’oubli. D’autres personnes ont une autre explication. Ce David Mayer serait bloqué parce qu’il s’agirait du pseudo d’un tchétchène, membre de daesh.

Hormis ces théories, rien ne permet vraiment d’expliquer pourquoi ce blocage a lieu sur certains noms. Pour le moment, OpenAI n’a communiqué aucune raison à ce phénomène.