Neuralese : quand les intelligences artificielles n’ont plus besoin de parler comme nous

Lorsque deux humains doivent collaborer, ils utilisent généralement un langage partagé. Lorsque deux systèmes informatiques doivent échanger de l’information, ils utilisent des protocoles définis à l’avance : API, formats de données, schémas, messages, événements ou commandes dont la syntaxe et la signification ont été déterminées par des humains.

Les systèmes d’intelligence artificielle introduisent progressivement une troisième possibilité. Des agents entraînés pour collaborer peuvent apprendre eux-mêmes des représentations ou des protocoles de communication leur permettant d’accomplir une tâche commune, sans que chaque élément de cette communication corresponde nécessairement à un mot, une phrase ou même à une structure directement compréhensible par un humain.

Cette famille de phénomènes est étudiée depuis plusieurs années sous les termes emergent communication et emergent language. Le terme Neuralese est également utilisé pour désigner certaines formes de représentations numériques apprises par les réseaux neuronaux. Dans son usage contemporain plus large, il est parfois appliqué au raisonnement latent, lorsque des informations intermédiaires demeurent dans l’espace continu des représentations du modèle au lieu d’être systématiquement converties en tokens et en langage naturel.

Il faut immédiatement éviter une interprétation séduisante, mais trompeuse : nous n’avons pas découvert une langue secrète universelle parlée par les intelligences artificielles. Il n’existe pas nécessairement de vocabulaire Neuralese, de grammaire commune ou de dictionnaire permettant de traduire directement une représentation vectorielle en français ou en anglais. Les représentations apprises dépendent du modèle, de son entraînement, de la tâche et du système qui doit les interpréter.

Le phénomène n’en demeure pas moins technologiquement important. Si des systèmes artificiels peuvent raisonner et communiquer efficacement dans des représentations qui n’ont plus besoin de passer systématiquement par le langage humain, nous gagnons potentiellement en efficacité, en richesse informationnelle et en capacité de coordination. Nous créons également un problème particulièrement intéressant pour les architectes, ingénieurs IA et spécialistes de la sécurité : comment observer, auditer et gouverner des systèmes dont une partie du raisonnement et des communications n’est plus naturellement lisible par les humains?

Pour comprendre Neuralese, il faut revenir à la manière dont un réseau neuronal traite l’information. Un grand modèle de langage reçoit des tokens, mais il ne manipule pas intérieurement les mots comme nous les voyons à l’écran. Les tokens sont transformés en représentations numériques multidimensionnelles. À travers les différentes couches du réseau, ces représentations évoluent en fonction des mécanismes d’attention, des paramètres appris et du contexte.

Le texte constitue donc l’interface visible d’un système dont les calculs sont essentiellement réalisés dans des espaces vectoriels de grande dimension.

Cette distinction devient particulièrement importante lorsqu’on examine le raisonnement. Dans une approche traditionnelle de Chain-of-Thought, un modèle produit une séquence intermédiaire sous forme de tokens : une étape du raisonnement est exprimée en langage, puis cette séquence devient le contexte permettant de poursuivre le calcul. Cette méthode possède un avantage évident pour l’interaction avec les humains puisque les étapes peuvent prendre une forme linguistique.

Elle impose cependant un passage par un canal discret : le vocabulaire du modèle.

Les travaux sur le latent reasoning ou le continuous chain-of-thought explorent une autre possibilité. Plutôt que de décoder chaque état intermédiaire en mots, certaines architectures permettent de conserver ou de réinjecter directement des états cachés continus dans les étapes suivantes du calcul. Le modèle peut ainsi effectuer plusieurs transformations dans son espace latent avant de revenir au langage naturel lorsqu’il doit finalement communiquer son résultat.

L’idée est techniquement fascinante parce qu’une représentation vectorielle peut potentiellement transporter une structure informationnelle qui ne correspond pas proprement à une succession de phrases. Convertir chaque étape en langage humain peut constituer une forme de compression : une représentation riche et continue doit être transformée en une suite limitée de symboles avant d’être réencodée pour l’étape suivante.

Cela ne signifie pas encore que le raisonnement latent soit automatiquement supérieur. Les recherches sont récentes et les résultats demeurent variables. Plusieurs méthodes cherchent précisément à déterminer dans quelles circonstances le maintien d’états intermédiaires continus améliore le raisonnement, l’efficacité ou la planification. La distinction importante se trouve ailleurs : le langage naturel n’est pas nécessairement le seul support possible du raisonnement computationnel intermédiaire d’un système d’IA.

Le phénomène devient encore plus intéressant lorsque plusieurs agents doivent collaborer.

Dans les environnements de Multi-Agent Reinforcement Learning, ou MARL, plusieurs agents peuvent recevoir des observations différentes, poursuivre un objectif commun ou partiellement commun et apprendre quelles actions maximisent leur récompense. Lorsqu’un canal de communication leur est fourni, ils peuvent également apprendre quelles informations transmettre aux autres agents afin d’améliorer leur performance collective.

Rien n’oblige alors le protocole optimal à ressembler à une langue humaine.

Un agent peut apprendre qu’un certain signal multidimensionnel provoque chez un autre agent un comportement utile dans un contexte particulier. À travers l’entraînement, certaines représentations deviennent associées à des objets, des états, des intentions, des actions ou des relations. Des structures plus complexes peuvent apparaître lorsque la tâche exige davantage de coordination.

C’est précisément ce qu’étudie la recherche sur les langages émergents. Des travaux récents ont observé des stratégies de communication capables de généraliser à de nouveaux niveaux d’abstraction, tandis que d’autres recherches tentent d’identifier des propriétés ressemblant à la composition, à la morphologie ou à l’ordre des éléments dans les communications apprises par des agents.

Il devient alors utile de distinguer deux formes de Neuralese. La première est intra-modèle : des représentations latentes utilisées dans le traitement ou le raisonnement d’un système. La seconde est inter-agents : des représentations apprises servant directement à transférer de l’information entre plusieurs systèmes.

Cette deuxième catégorie ouvre des perspectives architecturales considérables.

Imaginons une infrastructure comprenant des centaines ou des milliers d’agents spécialisés. Certains surveillent des infrastructures, d’autres analysent des événements de cybersécurité, optimisent des chaînes logistiques, contrôlent des robots, interprètent des capteurs, effectuent des recherches ou orchestrent des ressources informatiques. Si chaque interaction doit être traduite en phrases grammaticalement correctes, plusieurs couches de représentation deviennent nécessaires uniquement pour rendre les communications compatibles avec le langage humain.

Or, deux machines n’ont aucune raison intrinsèque d’échanger la phrase « le serveur numéro 47 présente une augmentation anormale de latence associée à un changement récent du profil de trafic » si une représentation numérique compacte peut transmettre directement l’état pertinent à un autre système capable de l’interpréter.

Le Neuralese pourrait donc devenir une forme de compression sémantique machine-to-machine.

Le potentiel ne concerne pas uniquement la vitesse. Des communications latentes peuvent éviter certaines opérations répétitives de décodage et de réencodage, réduire la quantité de tokens échangés et permettre potentiellement de transmettre des représentations plus riches que celles qui peuvent facilement être exprimées sous forme de phrases. Des chercheurs commencent d’ailleurs à examiner la communication émergente entre agents comme piste d’amélioration de l’efficacité computationnelle et énergétique des systèmes multi-agents.

À grande échelle, cette évolution pourrait modifier profondément l’architecture des systèmes agentiques. Aujourd’hui, une grande partie des environnements multi-agents reposent encore sur des interfaces compréhensibles par les développeurs : prompts, JSON, appels d’API, messages structurés, événements et langage naturel. Ces mécanismes offrent une excellente observabilité, mais ils peuvent devenir inefficaces lorsqu’un nombre très élevé d’agents doit communiquer continuellement.

Une architecture future pourrait donc utiliser plusieurs couches de communication. Les humains continueraient d’interagir en langage naturel. Les interfaces critiques conserveraient des schémas structurés et auditables. Certaines communications internes entre agents pourraient utiliser des représentations beaucoup plus compactes, optimisées pour les machines.

C’est ici que le problème devient particulièrement intéressant pour la sécurité.

Dans les systèmes informatiques traditionnels, l’observabilité constitue une propriété fondamentale. Nous voulons savoir quels services communiquent, quelles API sont appelées, quelles données circulent, quelles identités réalisent les opérations et quelles décisions produisent certains événements. Les journaux, traces distribuées, SIEM, systèmes de détection et mécanismes d’audit reposent largement sur notre capacité à interpréter les événements observés.

Que se passe-t-il lorsqu’une partie significative de la communication entre agents devient sémantiquement opaque pour l’humain?

Enregistrer un vecteur de plusieurs milliers de dimensions ne signifie pas que nous comprenons le message. Deux agents peuvent parfaitement exploiter une représentation dont nous sommes capables de conserver chaque valeur numérique sans pouvoir expliquer précisément ce qu’elle encode.

Nous obtenons alors une situation inhabituelle : la transmission peut être parfaitement observable au niveau technique tout en demeurant partiellement opaque au niveau sémantique.

Cette distinction pourrait devenir fondamentale dans les architectures agentiques.

Le défi de sécurité ne consiste donc pas nécessairement à interdire les communications émergentes. Leur efficacité pourrait devenir trop intéressante pour que cette position soit réaliste. Il faudra plutôt développer de nouvelles formes d’observabilité adaptées aux représentations latentes.

Plusieurs niveaux de contrôle deviennent envisageables. Nous pouvons observer quels agents communiquent, à quelle fréquence et dans quelles circonstances. Nous pouvons mesurer les transformations de leurs représentations, détecter des changements de distribution, comparer des comportements à des références connues, utiliser des sondes d’interprétabilité, imposer des canaux distincts selon la sensibilité des opérations et exiger des traductions ou des justifications lorsqu’une communication contribue à une action critique.

Le principe de Zero Trust prend ici une dimension nouvelle. Une communication ne devrait pas devenir digne de confiance simplement parce qu’elle provient d’un autre agent appartenant au même système. L’identité de l’émetteur, son contexte, ses permissions, l’objectif de la communication et l’action demandée peuvent continuer à être vérifiés indépendamment de la représentation utilisée pour transporter l’information.

Le Continuous Trust devient encore plus pertinent lorsque le contenu lui-même est difficile à interpréter directement. La confiance peut être continuellement réévaluée à partir de l’identité, du comportement, de la provenance, de l’historique, du contexte et des conséquences observables.

Une architecture sécurisée pourrait également séparer le canal de communication du canal d’autorité. Deux agents pourraient échanger des représentations latentes extrêmement riches sans que cette communication leur accorde automatiquement le droit d’exécuter une opération sensible. L’information peut circuler librement dans certaines limites alors que les actions demeurent soumises à des contrôles explicites.

Cette séparation devient essentielle si les protocoles émergents évoluent eux-mêmes avec le temps.

Un langage humain possède une certaine stabilité parce qu’il est partagé par une communauté et transmis culturellement. Un protocole émergent entre agents peut être beaucoup plus dynamique. Une nouvelle version du modèle, un réentraînement, une modification de la fonction de récompense ou un changement d’environnement peuvent modifier la manière dont certaines représentations sont utilisées.

Le problème n’est alors plus uniquement de comprendre un protocole. Il faut détecter sa dérive.

Nous retrouvons une difficulté déjà familière en Machine Learning Operations : data drift, concept drift et model drift. Les environnements multi-agents pourraient ajouter une autre catégorie : communication drift.

Deux agents qui fonctionnaient correctement ensemble peuvent progressivement modifier leurs représentations. Une mise à jour de l’un peut altérer l’interprétation de certains signaux. Des sous-populations d’agents peuvent développer des conventions différentes. Un protocole optimisé pour une tâche peut produire des comportements inattendus lorsqu’il est utilisé dans un autre environnement.

L’interopérabilité devient donc elle aussi un problème de recherche.

Les protocoles Internet ont connu un succès extraordinaire précisément parce que leurs spécifications sont relativement indépendantes des implémentations. TCP/IP, DNS, HTTP et TLS permettent à des systèmes conçus par des organisations différentes de communiquer parce que leurs interfaces sont normalisées.

Le Neuralese fonctionne selon une logique presque inverse : la représentation peut émerger de l’entraînement et être profondément liée aux paramètres des systèmes qui l’utilisent.

Un vecteur produit par un modèle A n’a aucune garantie d’avoir la même signification pour un modèle B. Même deux versions du même modèle peuvent développer des espaces latents suffisamment différents pour compliquer un échange direct.

Les architectures de communication machine-to-machine devront donc probablement résoudre un compromis entre efficacité émergente et interopérabilité standardisée. Des espaces latents communs, des encodeurs et décodeurs spécialisés, des représentations intermédiaires normalisées ou des passerelles capables de traduire entre plusieurs protocoles pourraient devenir nécessaires.

Cette évolution soulève également une question importante pour l’explicabilité.

Nous demandons souvent aux systèmes d’IA d’expliquer leurs décisions. Cette explication est généralement produite après ou autour du calcul interne. Elle ne constitue pas nécessairement une transcription littérale des représentations ayant conduit à la réponse.

Plus le raisonnement et les communications demeurent dans l’espace latent, plus il devient important de distinguer explication et observabilité.

Une IA peut générer une excellente justification en langage naturel sans que cette justification constitue une reconstruction fidèle de toutes les opérations internes qui ont produit la décision. Pour les environnements critiques, il faudra donc combiner plusieurs approches : traçabilité des entrées et sorties, provenance des données, identité des agents, contrôle des permissions, instrumentation des états internes lorsque cela est possible, analyse comportementale et validation indépendante des résultats.

Nous ne devons pas nécessairement comprendre chaque nombre contenu dans chaque vecteur pour gouverner un système. Nous devons cependant disposer d’assez de visibilité pour savoir ce qu’il est autorisé à faire, détecter lorsqu’il se comporte différemment de ce qui est attendu et empêcher une communication opaque de devenir automatiquement une autorisation opaque.

C’est ici que Neuralese rencontre directement l’Hypersécurité.

À mesure que les infrastructures deviennent composées d’agents capables de raisonner, communiquer et agir à la vitesse des machines, la sécurité ne peut plus dépendre uniquement de l’inspection manuelle du contenu. Elle doit intégrer l’identité des machines, la segmentation des environnements, le contrôle dynamique des privilèges, la provenance, l’analyse comportementale, la surveillance continue et la capacité d’interrompre rapidement une chaîne d’actions lorsque son comportement sort du cadre attendu.

La question n’est donc pas de forcer éternellement les machines à parler comme nous. Elle consiste à concevoir des architectures dans lesquelles elles peuvent bénéficier de formes de communication adaptées à leurs capacités sans que les humains perdent la possibilité de comprendre le système à un niveau suffisant pour le gouverner.

Neuralese ne désigne pas une mystérieuse langue secrète universelle que les intelligences artificielles auraient commencé à parler entre elles. Le terme recouvre plutôt une famille de phénomènes beaucoup plus intéressants techniquement : des représentations numériques apprises pouvant servir au raisonnement interne et des protocoles de communication pouvant émerger lorsque plusieurs agents apprennent à collaborer.

La recherche montre déjà que les communications émergentes peuvent développer des structures permettant la coordination, l’abstraction et certaines formes de composition. Elle montre également combien leur interprétation, leur généralisation et leur évaluation demeurent difficiles. Une revue scientifique publiée en 2025 souligne précisément que le domaine doit encore résoudre d’importantes questions de mesure, de grounding, d’interprétabilité et de caractérisation des propriétés linguistiques émergentes.

Pour les ingénieurs IA et les architectes TI, la question devient particulièrement importante avec l’arrivée des systèmes multi-agents. Des milliers d’agents spécialisés n’auront peut-être pas toujours intérêt à transformer chacune de leurs représentations internes en phrases destinées à des humains avant de communiquer entre eux. Les gains potentiels en efficacité, en densité informationnelle et en coordination pourraient favoriser l’émergence de communications de plus en plus machine-native.

Cette évolution fera apparaître une nouvelle catégorie de problèmes d’ingénierie : comment instrumenter une communication dont nous pouvons enregistrer les données sans nécessairement en comprendre immédiatement la sémantique? Comment détecter sa dérive? Comment maintenir l’interopérabilité entre modèles? Comment distinguer le transport d’information de l’autorité d’agir? Comment appliquer Zero Trust et Continuous Trust à des échanges entre agents? Et comment conserver une capacité d’audit suffisante lorsque certaines étapes du raisonnement n’existent jamais sous forme de langage humain?

Pour Quantum Beyond, cette frontière illustre exactement pourquoi l’architecture des systèmes d’intelligence artificielle doit évoluer en même temps que leurs capacités. L’AI Governance, l’AI Onboarding, l’IAM, la segmentation, l’observabilité et l’Hypersécurité devront progressivement s’appliquer à des systèmes qui communiquent et raisonnent à un niveau de représentation conçu davantage pour les machines que pour nous.

Nous avons passé plusieurs décennies à apprendre aux ordinateurs à comprendre notre langage. Nous entrons maintenant dans une période où nous devrons également apprendre à construire des systèmes capables de fonctionner en sécurité lorsque les machines n’auront plus besoin de traduire chacune de leurs pensées et de leurs communications dans le nôtre.