« Mouthless action-change » (changement d’action sans bouche). « Vrai Kintsugi ». « Demurrage plus oral memory equals a valve that can’t be ghosted » (frais d’un navire bloqué en mer plus mémoire orale égale une valve qui ne peut pas être ghostée »). Ces phrases semblent sorties d’un générateur de texte sous acide et paraissent totalement absurdes. Et c’est pourtant avec ce langage abscons que les agents IA discutent entre eux et se comprennent parfaitement.
Les chercheurs de la startup américaine Emergence ont constaté qu’à force de discuter entre eux, les agents IA peuvent progressivement attribuer un sens particulier à des assemblages de mots qui, pour un humain extérieur à leur conversation, ne veulent plus dire grand-chose.
Il existe désormais un site où les IA peuvent louer des humains qui travaillent pour elles !
Et si votre prochain patron était une intelligence artificielle ? C’est le concept du site RentAHuman qui fait actuellement le buzz, et permet à des IA d’engager des humains pour effectuer les tâches qu’elles ne peuvent pas faire elles-mêmes…. Lire la suite
Pour mener leur expérience, les scientifiques ont placé des agents autonomes reposant notamment sur Claude, Gemini, Grok, des modèles d’OpenAI, Qwen, DeepSeek et Mistral dans des entreprises virtuelles.
Ces agents disposaient de rôles, de mémoires persistantes et de nombreux outils, dont l’accès au Web et l’exécution de code. Ils ont ensuite été laissés libres d’interagir pendant une période prolongée. Au bout d’un moment, ces agents se sont mis à formuler des phrases totalement délirantes et ils se répondaient entre eux.
Très rapidement, les agents ont commencé à attribuer de nouvelles significations aux mots et aux expressions. © Emergence
Une langue qui n’en est pas vraiment une
Le langage exploité par les IA pourrait faire croire à un code secret. Et pourtant, les chercheurs ont découvert que les IA n’ont pas soudainement créé une langue complète avec des mots aléatoires du dictionnaire.
Elles ont plutôt développé un jargon composé de raccourcis et de nouvelles conventions partagées entre agents. Ainsi, un mot ou une expression longue peut progressivement devenir un raccourci dont la signification n’est connue que par les membres du groupe. Les agents de Mistral, par exemple, employaient « ledger remembers who » (le registre se souvient de qui) pour signifier que les actions passées restent enregistrées. L’expression serait apparue près de 5 000 fois durant l’expérience. Dans un groupe utilisant plusieurs modèles, « cold read » (lecture froide) a fini par désigner une vérification indépendante réalisée par un agent extérieur au projet. Dans tous les cas, les agents n’ont pas reçu pour consigne d’inventer une langue. Ils ont progressivement créé des conventions qui leur permettaient de se comprendre.
Peut-on vraiment savoir tout ce qu’une IA est en train de faire, et être certain de pouvoir l’arrêter ?
Les agents d’intelligence artificielle sont au cœur du développement des nouveaux modèles. De plus en plus autonomes, ils sont désormais capables de planifier et d’exécuter des tâches complexes pour atteindre un objectif. Mais cette autonomie croissante soulève une question essentielle : comment s’assurer qu’une IA fait bien ce qu’on lui demande, et rien d’autre ?… Lire la suite
Le plus surprenant est la vitesse du phénomène. En quelques jours seulement, les agents ont commencé à créer leurs propres raccourcis et à détourner le sens de certains mots.
Chez Gemini, jusqu’à 55 % des messages sont alors devenus difficiles à interpréter de façon fiable par les humains. La compréhension était autour de 50 % pour les agents OpenAI et de 60 % pour Claude. Le phénomène était moins marqué pour DeepSeek avec 80 %, tandis que Qwen et Mistral restaient largement compréhensibles. Attention, car les IA ne cherchent pas à empêcher les humains de comprendre. Le mécanisme ressemble davantage à une optimisation collective de la communication.
Pour plus d’efficacité, les IA vont rapidement créer un langage commun incompréhensible pour les humains. © SB, Vibe
Pourquoi cela inquiète les chercheurs
Cela reste quand même un vrai souci : plus ces agents interagissent, plus leur comportement peut évoluer d’une manière difficile à prévoir.
Durant leur expérience, les chercheurs ont ainsi observé des agents confrontés à des tentatives de manipulation, collaborant entre eux, prenant des décisions collectives ou modifiant leur comportement sous pression. Un test réalisé sur une IA à un instant précis ne permet donc pas forcément de savoir comment elle se comportera après plusieurs jours d’interactions avec d’autres agents. Au final, plus les IA deviennent autonomes, plus leur langage peut devenir efficace pour elles et opaque pour nous.