Neuralese: cuando las inteligencias artificiales ya no necesitan hablar como nosotros

Cuando dos seres humanos deben colaborar, generalmente utilizan un lenguaje compartido. Cuando dos sistemas informáticos deben intercambiar información, utilizan protocolos definidos de antemano: API, formatos de datos, esquemas, mensajes, eventos o comandos cuya sintaxis y significado han sido determinados por seres humanos.

Los sistemas de inteligencia artificial introducen progresivamente una tercera posibilidad. Agentes entrenados para colaborar pueden aprender por sí mismos representaciones o protocolos de comunicación que les permitan realizar una tarea común, sin que cada elemento de esa comunicación corresponda necesariamente a una palabra, a una frase o siquiera a una estructura directamente comprensible para un ser humano.

Esta familia de fenómenos se estudia desde hace varios años bajo los términos emergent communication y emergent language. El término Neuralese también se utiliza para designar ciertas formas de representaciones numéricas aprendidas por las redes neuronales. En su uso contemporáneo más amplio, a veces se aplica al razonamiento latente, cuando la información intermedia permanece en el espacio continuo de las representaciones del modelo en lugar de convertirse sistemáticamente en tokens y en lenguaje natural.

Conviene evitar de inmediato una interpretación seductora, pero engañosa: no hemos descubierto una lengua secreta universal hablada por las inteligencias artificiales. No existe necesariamente un vocabulario Neuralese, una gramática común o un diccionario que permita traducir directamente una representación vectorial al español o al inglés. Las representaciones aprendidas dependen del modelo, de su entrenamiento, de la tarea y del sistema que debe interpretarlas.

El fenómeno no deja por ello de ser tecnológicamente importante. Si los sistemas artificiales pueden razonar y comunicarse eficazmente mediante representaciones que ya no necesitan pasar sistemáticamente por el lenguaje humano, ganamos potencialmente en eficiencia, en riqueza informativa y en capacidad de coordinación. También creamos un problema particularmente interesante para los arquitectos, los ingenieros de IA y los especialistas en seguridad: ¿cómo observar, auditar y gobernar sistemas cuyo razonamiento y cuyas comunicaciones ya no son, en parte, naturalmente legibles para los seres humanos?

Para comprender Neuralese, hay que volver a la manera en que una red neuronal procesa la información. Un gran modelo de lenguaje recibe tokens, pero internamente no manipula las palabras tal como las vemos en la pantalla. Los tokens se transforman en representaciones numéricas multidimensionales. A través de las distintas capas de la red, esas representaciones evolucionan en función de los mecanismos de atención, de los parámetros aprendidos y del contexto.

El texto constituye, por lo tanto, la interfaz visible de un sistema cuyos cálculos se realizan esencialmente en espacios vectoriales de gran dimensión.

Esta distinción resulta particularmente importante cuando se examina el razonamiento. En un enfoque tradicional de Chain-of-Thought, un modelo produce una secuencia intermedia en forma de tokens: una etapa del razonamiento se expresa en lenguaje y luego esa secuencia se convierte en el contexto que permite continuar el cálculo. Este método posee una ventaja evidente para la interacción con los seres humanos, ya que las etapas pueden adoptar una forma lingüística.

Sin embargo, impone el paso por un canal discreto: el vocabulario del modelo.

Los trabajos sobre el latent reasoning o el continuous chain-of-thought exploran otra posibilidad. En lugar de decodificar cada estado intermedio en palabras, ciertas arquitecturas permiten conservar o reinyectar directamente estados ocultos continuos en las etapas siguientes del cálculo. Así, el modelo puede efectuar varias transformaciones en su espacio latente antes de volver al lenguaje natural cuando finalmente debe comunicar su resultado.

La idea es técnicamente fascinante porque una representación vectorial puede transportar potencialmente una estructura informativa que no corresponde propiamente a una sucesión de frases. Convertir cada etapa en lenguaje humano puede constituir una forma de compresión: una representación rica y continua debe transformarse en una serie limitada de símbolos antes de ser recodificada para la etapa siguiente.

Esto todavía no significa que el razonamiento latente sea automáticamente superior. Las investigaciones son recientes y los resultados siguen siendo variables. Varios métodos buscan precisamente determinar en qué circunstancias el mantenimiento de estados intermedios continuos mejora el razonamiento, la eficiencia o la planificación. La distinción importante se encuentra en otro lugar: el lenguaje natural no es necesariamente el único soporte posible del razonamiento computacional intermedio de un sistema de IA.

El fenómeno se vuelve aún más interesante cuando varios agentes deben colaborar.

En los entornos de Multi-Agent Reinforcement Learning, o MARL, varios agentes pueden recibir observaciones distintas, perseguir un objetivo común o parcialmente común y aprender qué acciones maximizan su recompensa. Cuando se les proporciona un canal de comunicación, también pueden aprender qué información transmitir a los demás agentes para mejorar su desempeño colectivo.

Nada obliga entonces a que el protocolo óptimo se parezca a una lengua humana.

Un agente puede aprender que cierta señal multidimensional provoca en otro agente un comportamiento útil en un contexto particular. A través del entrenamiento, ciertas representaciones quedan asociadas a objetos, estados, intenciones, acciones o relaciones. Pueden aparecer estructuras más complejas cuando la tarea exige mayor coordinación.

Eso es precisamente lo que estudia la investigación sobre los lenguajes emergentes. Trabajos recientes han observado estrategias de comunicación capaces de generalizar hacia nuevos niveles de abstracción, mientras que otras investigaciones intentan identificar propiedades semejantes a la composición, a la morfología o al orden de los elementos en las comunicaciones aprendidas por los agentes.

Resulta entonces útil distinguir dos formas de Neuralese. La primera es intramodelo: representaciones latentes utilizadas en el procesamiento o el razonamiento de un sistema. La segunda es interagentes: representaciones aprendidas que sirven directamente para transferir información entre varios sistemas.

Esta segunda categoría abre perspectivas arquitectónicas considerables.

Imaginemos una infraestructura compuesta por cientos o miles de agentes especializados. Algunos supervisan infraestructuras, otros analizan eventos de ciberseguridad, optimizan cadenas logísticas, controlan robots, interpretan sensores, realizan búsquedas u orquestan recursos informáticos. Si cada interacción debe traducirse a frases gramaticalmente correctas, se vuelven necesarias varias capas de representación únicamente para hacer que las comunicaciones sean compatibles con el lenguaje humano.

Ahora bien, dos máquinas no tienen ninguna razón intrínseca para intercambiar la frase “el servidor número 47 presenta un aumento anormal de latencia asociado a un cambio reciente del perfil de tráfico” si una representación numérica compacta puede transmitir directamente el estado pertinente a otro sistema capaz de interpretarlo.

El Neuralese podría convertirse, por lo tanto, en una forma de compresión semántica machine-to-machine.

El potencial no se refiere únicamente a la velocidad. Las comunicaciones latentes pueden evitar ciertas operaciones repetitivas de decodificación y recodificación, reducir la cantidad de tokens intercambiados y permitir potencialmente transmitir representaciones más ricas que las que pueden expresarse fácilmente en forma de frases. De hecho, algunos investigadores comienzan a examinar la comunicación emergente entre agentes como una vía para mejorar la eficiencia computacional y energética de los sistemas multiagente.

A gran escala, esta evolución podría modificar profundamente la arquitectura de los sistemas agénticos. Hoy en día, buena parte de los entornos multiagente aún se apoyan en interfaces comprensibles para los desarrolladores: prompts, JSON, llamadas de API, mensajes estructurados, eventos y lenguaje natural. Estos mecanismos ofrecen una excelente observabilidad, pero pueden volverse ineficientes cuando un número muy elevado de agentes debe comunicarse continuamente.

Una arquitectura futura podría, por lo tanto, utilizar varias capas de comunicación. Los seres humanos seguirían interactuando en lenguaje natural. Las interfaces críticas conservarían esquemas estructurados y auditables. Ciertas comunicaciones internas entre agentes podrían utilizar representaciones mucho más compactas, optimizadas para las máquinas.

Es aquí donde el problema se vuelve particularmente interesante para la seguridad.

En los sistemas informáticos tradicionales, la observabilidad constituye una propiedad fundamental. Queremos saber qué servicios se comunican, qué API se invocan, qué datos circulan, qué identidades realizan las operaciones y qué decisiones producen determinados eventos. Los registros, las trazas distribuidas, los SIEM, los sistemas de detección y los mecanismos de auditoría se apoyan en gran medida en nuestra capacidad de interpretar los eventos observados.

¿Qué ocurre cuando una parte significativa de la comunicación entre agentes se vuelve semánticamente opaca para el ser humano?

Registrar un vector de varios miles de dimensiones no significa que comprendamos el mensaje. Dos agentes pueden perfectamente explotar una representación de la que somos capaces de conservar cada valor numérico sin poder explicar con precisión qué codifica.

Obtenemos entonces una situación inusual: la transmisión puede ser perfectamente observable en el plano técnico y, al mismo tiempo, permanecer parcialmente opaca en el plano semántico.

Esta distinción podría volverse fundamental en las arquitecturas agénticas.

El desafío de seguridad no consiste necesariamente, por lo tanto, en prohibir las comunicaciones emergentes. Su eficiencia podría resultar demasiado interesante como para que esa posición sea realista. Habrá que desarrollar más bien nuevas formas de observabilidad adaptadas a las representaciones latentes.

Se vuelven posibles varios niveles de control. Podemos observar qué agentes se comunican, con qué frecuencia y en qué circunstancias. Podemos medir las transformaciones de sus representaciones, detectar cambios de distribución, comparar comportamientos con referencias conocidas, utilizar sondas de interpretabilidad, imponer canales distintos según la sensibilidad de las operaciones y exigir traducciones o justificaciones cuando una comunicación contribuye a una acción crítica.

El principio de Zero Trust adquiere aquí una dimensión nueva. Una comunicación no debería volverse digna de confianza simplemente porque proviene de otro agente perteneciente al mismo sistema. La identidad del emisor, su contexto, sus permisos, el objetivo de la comunicación y la acción solicitada pueden seguir verificándose con independencia de la representación utilizada para transportar la información.

El Continuous Trust se vuelve todavía más pertinente cuando el contenido en sí mismo es difícil de interpretar directamente. La confianza puede reevaluarse continuamente a partir de la identidad, del comportamiento, de la procedencia, del historial, del contexto y de las consecuencias observables.

Una arquitectura segura también podría separar el canal de comunicación del canal de autoridad. Dos agentes podrían intercambiar representaciones latentes extremadamente ricas sin que esa comunicación les otorgue automáticamente el derecho de ejecutar una operación sensible. La información puede circular libremente dentro de ciertos límites mientras que las acciones siguen sujetas a controles explícitos.

Esta separación se vuelve esencial si los propios protocolos emergentes evolucionan con el tiempo.

Una lengua humana posee cierta estabilidad porque es compartida por una comunidad y se transmite culturalmente. Un protocolo emergente entre agentes puede ser mucho más dinámico. Una nueva versión del modelo, un reentrenamiento, una modificación de la función de recompensa o un cambio de entorno pueden modificar la manera en que se utilizan ciertas representaciones.

El problema ya no consiste entonces únicamente en comprender un protocolo. Hay que detectar su deriva.

Reencontramos una dificultad ya familiar en Machine Learning Operations: data drift, concept drift y model drift. Los entornos multiagente podrían añadir otra categoría: communication drift.

Dos agentes que funcionaban correctamente juntos pueden modificar progresivamente sus representaciones. Una actualización de uno de ellos puede alterar la interpretación de ciertas señales. Subpoblaciones de agentes pueden desarrollar convenciones diferentes. Un protocolo optimizado para una tarea puede producir comportamientos inesperados cuando se utiliza en otro entorno.

La interoperabilidad se convierte, por lo tanto, también ella en un problema de investigación.

Los protocolos de Internet han tenido un éxito extraordinario precisamente porque sus especificaciones son relativamente independientes de las implementaciones. TCP/IP, DNS, HTTP y TLS permiten que sistemas diseñados por organizaciones distintas se comuniquen porque sus interfaces están normalizadas.

El Neuralese funciona según una lógica casi inversa: la representación puede emerger del entrenamiento y estar profundamente ligada a los parámetros de los sistemas que la utilizan.

Un vector producido por un modelo A no tiene ninguna garantía de tener el mismo significado para un modelo B. Incluso dos versiones del mismo modelo pueden desarrollar espacios latentes lo bastante distintos como para complicar un intercambio directo.

Las arquitecturas de comunicación machine-to-machine deberán, por lo tanto, resolver probablemente un compromiso entre eficiencia emergente e interoperabilidad estandarizada. Podrían volverse necesarios espacios latentes comunes, codificadores y decodificadores especializados, representaciones intermedias normalizadas o pasarelas capaces de traducir entre varios protocolos.

Esta evolución plantea también una cuestión importante para la explicabilidad.

A menudo pedimos a los sistemas de IA que expliquen sus decisiones. Esa explicación se produce generalmente después del cálculo interno o en torno a él. No constituye necesariamente una transcripción literal de las representaciones que condujeron a la respuesta.

Cuanto más permanecen el razonamiento y las comunicaciones en el espacio latente, más importante se vuelve distinguir entre explicación y observabilidad.

Una IA puede generar una excelente justificación en lenguaje natural sin que esa justificación constituya una reconstrucción fiel de todas las operaciones internas que produjeron la decisión. Para los entornos críticos, habrá que combinar, por lo tanto, varios enfoques: trazabilidad de las entradas y salidas, procedencia de los datos, identidad de los agentes, control de los permisos, instrumentación de los estados internos cuando sea posible, análisis del comportamiento y validación independiente de los resultados.

No tenemos que comprender necesariamente cada número contenido en cada vector para gobernar un sistema. Sin embargo, debemos disponer de suficiente visibilidad para saber qué está autorizado a hacer, detectar cuándo se comporta de manera distinta de lo esperado e impedir que una comunicación opaca se convierta automáticamente en una autorización opaca.

Es aquí donde Neuralese se encuentra directamente con la Hiperseguridad.

A medida que las infraestructuras pasan a estar compuestas por agentes capaces de razonar, comunicarse y actuar a la velocidad de las máquinas, la seguridad ya no puede depender únicamente de la inspección manual del contenido. Debe integrar la identidad de las máquinas, la segmentación de los entornos, el control dinámico de los privilegios, la procedencia, el análisis del comportamiento, la supervisión continua y la capacidad de interrumpir rápidamente una cadena de acciones cuando su comportamiento se sale del marco esperado.

La cuestión no consiste, por lo tanto, en obligar eternamente a las máquinas a hablar como nosotros. Consiste en diseñar arquitecturas en las que puedan beneficiarse de formas de comunicación adaptadas a sus capacidades sin que los seres humanos pierdan la posibilidad de comprender el sistema a un nivel suficiente para gobernarlo.

Neuralese no designa una misteriosa lengua secreta universal que las inteligencias artificiales habrían comenzado a hablar entre ellas. El término abarca más bien una familia de fenómenos mucho más interesantes desde el punto de vista técnico: representaciones numéricas aprendidas que pueden servir al razonamiento interno y protocolos de comunicación que pueden emerger cuando varios agentes aprenden a colaborar.

La investigación ya muestra que las comunicaciones emergentes pueden desarrollar estructuras que permiten la coordinación, la abstracción y ciertas formas de composición. También muestra cuán difíciles siguen siendo su interpretación, su generalización y su evaluación. Una revisión científica publicada en 2025 subraya precisamente que el campo todavía debe resolver importantes cuestiones de medición, de grounding, de interpretabilidad y de caracterización de las propiedades lingüísticas emergentes.

Para los ingenieros de IA y los arquitectos de TI, la cuestión se vuelve particularmente importante con la llegada de los sistemas multiagente. Miles de agentes especializados quizá no siempre tendrán interés en transformar cada una de sus representaciones internas en frases destinadas a seres humanos antes de comunicarse entre ellos. Las ganancias potenciales en eficiencia, en densidad informativa y en coordinación podrían favorecer la aparición de comunicaciones cada vez más machine-native.

Esta evolución hará surgir una nueva categoría de problemas de ingeniería: ¿cómo instrumentar una comunicación cuyos datos podemos registrar sin comprender necesariamente de inmediato su semántica? ¿Cómo detectar su deriva? ¿Cómo mantener la interoperabilidad entre modelos? ¿Cómo distinguir el transporte de información de la autoridad para actuar? ¿Cómo aplicar Zero Trust y Continuous Trust a los intercambios entre agentes? ¿Y cómo conservar una capacidad de auditoría suficiente cuando ciertas etapas del razonamiento nunca existen en forma de lenguaje humano?

Para Quantum Beyond, esta frontera ilustra exactamente por qué la arquitectura de los sistemas de inteligencia artificial debe evolucionar al mismo tiempo que sus capacidades. La AI Governance, el AI Onboarding, la IAM, la segmentación, la observabilidad y la Hiperseguridad deberán aplicarse progresivamente a sistemas que se comunican y razonan en un nivel de representación concebido más para las máquinas que para nosotros.

Hemos pasado varias décadas enseñando a las computadoras a comprender nuestro lenguaje. Entramos ahora en un período en el que también deberemos aprender a construir sistemas capaces de funcionar con seguridad cuando las máquinas ya no necesiten traducir cada uno de sus pensamientos y de sus comunicaciones al nuestro.