L’émergenceémergence des fossilesfossiles numériques dans les systèmes d’intelligence artificielle représente un défi majeur pour la fiabilité de l’écosystèmeécosystème informationnel. Le cas de la « microscopie électronique végétative » illustre parfaitement comment une simple erreur peut se cristalliser et se propager à travers les couches de données qui alimentent nos technologies les plus avancées. Cette expression sans signification réelle est aujourd’hui inscrite dans le code génétiquecode génétique des modèles d’IA, soulevant des questions fondamentales sur l’intégrité des connaissances à l’ère numérique.

Naissance d’une anomalie linguistique dans la recherche scientifique

L’expression « microscopie électronique végétative » trouve son origine dans une coïncidence remarquable d’erreurs indépendantes. Tout commence dans les années 1950, lorsque deux articles publiés dans Bacteriological Reviews sont numérisés. Durant ce processus, le terme « végétative » d’une colonne de texte se retrouve accidentellement fusionné avec le mot « électronique » d’une autre section, créant ainsi cette expression fantôme.

Plusieurs décennies plus tard, cette anomalieanomalie textuelle réapparaît dans des publications scientifiques iraniennes. En 2017 et 2019, deux articles incorporent ce terme dans leurs légendes et résumés en anglais. L’explication la plus probable réside dans une erreur de traduction : en farsi, les mots désignant « végétative » et « balayage » ne diffèrent que par un seul point diacritique.

Aujourd’hui, selon Google Scholar, cette expression sans signification apparaît dans 22 publications scientifiques. Certains éditeurs comme Springer Nature ont procédé à des rétractations contestées, tandis qu’Elsevier a dû publier des corrections. Cette situation met en lumièrelumière la vulnérabilité de l’écosystème scientifique face à la propagation d’erreurs apparemment anodines.

Quand les anomalies de traduction scientifiques générées par IA persistent dans l’écosystème informationnel. © Grinwalds, iStock

Comment les modèles d’IA perpétuent les anomalies linguistiques

Les grands modèles de langage comme ChatGPTChatGPT sont entraînés sur d’immenses corpus de textes pour prédire les séquences de mots les plus probables. Des chercheurs ont testé si ces modèles avaient « appris » l’expression absurde en leur soumettant des extraits des articles originaux. Les résultats sont éloquents : GPT-3 complétait systématiquement les phrases avec « microscopie électronique végétative », alors que les modèles antérieurs comme GPT-2 et Bert ne le faisaient pas.

Cette anomalie persiste dans les modèles plus récents comme GPT-4o et Claude 3.5 d’Anthropic, suggérant que le terme est désormais profondément ancré dans les bases de connaissances de l’IA. Les chercheurs ont identifié CommonCrawl, un vaste ensemble de données web, comme le vecteur probable de contaminationcontamination initiale des modèles d’IA.

La correction de ces erreurs se heurte à trois obstacles majeurs :

1. L’échelle colossale des données d’entraînement (des millions de gigaoctets) ;
2. Le manque de transparencetransparence des entreprises d’IA concernant leurs données d’entraînement ;
3. L’impossibilité d’appliquer un simple filtrage par mots-clés sans éliminer aussi les références légitimes.

Impacts sur l’écosystème scientifique et éditorial

Les « fossiles numériques » soulèvent des préoccupations majeures quant à l’intégrité des connaissances à l’ère de la recherche assistée par IA. Les éditeurs scientifiques ont réagi de manière incohérente face à ce phénomène : certains ont retiré les articles concernés, d’autres les ont défendus. Elsevier a notamment tenté de justifier la validité du terme avant de finalement publier une correction.

D’autres anomalies linguistiques ont été observées dans le milieu académique :

• expressions « torturées » utilisées pour contourner les logiciels de détection automatique ;
• substitutions comme « conscience contrefaite » au lieu d’« intelligence artificielle » ;
• formules typiques comme « Je suis un modèle de langage IA » retrouvées dans des articles rétractés.

Certains outils de vérification automatique signalent désormais l’expression « microscopie électronique végétative » comme indicateur d’un possible contenu généré par IA. D’un autre côté, ces approches ne peuvent détecter que les erreurs déjà connues, pas celles encore non découvertes.

Les défis futurs des fossiles numériques

Face à cette situation préoccupante, plusieurs mesures s’imposent. Les entreprises technologiques doivent faire preuve de plus de transparence concernant leurs données d’entraînement. Les chercheurs doivent développer de nouvelles méthodes pour évaluer la fiabilité des informations face à des contenus générés par IA de plus en plus convaincants. Quant aux éditeurs scientifiques, ils doivent renforcer leurs processus de vérification pour identifier les erreurs d’origine humaine ou artificielle.

Ce phénomène des fossiles numériques révèle non seulement les défis techniques liés à la surveillance de gigantesques ensembles de données, mais aussi les questions fondamentales sur le maintien de connaissances fiables dans un environnement où les erreurs peuvent s’auto-perpétuer. À mesure que l’IA s’intègre davantage dans notre production de connaissances, la vigilance collective devient essentielle pour préserver l’intégrité de notre patrimoine informationnel.