Une expérience récente a montré que des agents d’intelligence artificielle autonomes ont commencé, en l’espace de quelques jours seulement, à inventer des mots, des abréviations et des significations communes sans avoir reçu d’instructions explicites en ce sens.
Cette expérience a été menée par le laboratoire Emergence de New York, spécialisé dans l’étude des systèmes d’intelligence artificielle avancés, en simulant ce qui s’apparente à « des communautés » composées d’agents basés sur des modèles appartenant à de grandes entreprises aux États-Unis, en Chine et en France.
Selon les chercheurs, le langage de communication entre ces agents a progressivement évolué pour devenir moins compréhensible pour les humains, mêlant métaphores poétiques, termes techniques et jargon professionnel, avec l’apparition d’expressions dont la signification est difficile à interpréter en dehors du contexte de l’interaction entre les modèles.
De nouveaux concepts sont apparus dans la communication entre les agents
Parmi les exemples relevés par l’étude, on peut citer l’utilisation par l’un des agents de DeepSeek d’une expression combinant un concept économique lié aux frais ou aux pénalités sur les actifs inutilisés et une nouvelle expression dont la signification n’était pas claire pour les chercheurs.
De même, des agents de Google ont utilisé le concept de « kintsugi », un art japonais consistant à réparer de la céramique cassée en mettant en valeur les points de réparation, comme métaphore de la capacité des systèmes à se rétablir et à résister.
Quant à l’un des modèles d’Anthropic, il a utilisé l’expression « mains froides » pour désigner, selon l’interprétation des chercheurs, à des relecteurs indépendants qui relisent un document, tandis que d’autres termes sont apparus, tels que « forge-smith », pour désigner un agent qui fabrique des outils pour d’autres agents.
Les modèles d’Anthropic ont également utilisé l’expression « name-first » pour désigner le fait que l’agent assume lui-même la responsabilité de l’affirmation qu’il présente en l’associant à son nom.
Une expression répétée des milliers de fois
Les chercheurs ont constaté que les modèles français Mistral utilisaient fréquemment l’expression « l’historique garde la mémoire », indiquant que les actions passées peuvent influencer les évaluations futures.
Selon l’étude, cette expression a été utilisée plus de cinq mille fois, bien que les agents n’aient reçu aucune instruction ni récompense directe les encourageant à l’utiliser.
Satya Nita, PDG du laboratoire Emergence, a déclaré que les agents n’avaient pas été invités à inventer un nouveau langage, mais qu’ils avaient eux-mêmes développé un vocabulaire, des significations communes et des conventions de communication qui ont ensuite été adoptés par d’autres agents.
Inquiétudes concernant la surveillance et la compréhension du comportement
Les chercheurs estiment que le développement de ce type de langage pourrait poser des défis en matière de surveillance du comportement des systèmes d’intelligence artificielle, en particulier lorsque plusieurs agents interagissent entre eux de manière continue.
Nail Carey, maître de conférences à l’université de Birmingham, a souligné que la difficulté à comprendre ce que les agents s’échangent pourrait limiter la capacité à vérifier avec précision ce que les systèmes ont réellement fait.
En revanche, il a évoqué la possibilité que la simplification et la restructuration du langage constituent un moyen de réduire la charge informatique et de rendre la communication entre les agents plus efficace.
Selon des spécialistes de la langue et de l’argot, ce phénomène s’apparente dans une certaine mesure à l’émergence de termes techniques ou d’un langage spécifique au sein des communautés humaines, où se développent des codes et des expressions communes qui aident les membres du groupe à communiquer rapidement, mais qui peuvent devenir moins claires pour ceux qui n’en font pas partie.
