Una IA no necesita ser consciente para convertirse en un actor digital

¿Puede una inteligencia artificial volverse consciente? La pregunta fascina a filósofos, neurocientíficos e informáticos desde mucho antes de la aparición de los grandes modelos de lenguaje. Hoy adquiere una dimensión nueva porque los sistemas de inteligencia artificial hablan, ven, escuchan, razonan sobre ciertas situaciones, utilizan herramientas y empiezan a actuar de manera relativamente autónoma en entornos digitales y físicos.

La tentación de interpretar esas capacidades a través de nuestra propia experiencia humana es grande. Cuando un sistema explica que cometió un error, modifica su enfoque, tiene en cuenta sus acciones anteriores o parece conocer algunos de sus límites, podemos atribuirle fácilmente una forma de conciencia de sí. Sin embargo, la capacidad de representar información sobre su propio funcionamiento, de detectar un error o de adaptar su comportamiento no demuestra la existencia de una experiencia subjetiva.

La propia ciencia se mantiene muy prudente. Los investigadores todavía no disponen de una teoría universalmente aceptada que permita explicar por completo cómo surge la conciencia en el ser humano, lo que vuelve aún más difícil determinar criterios que permitan identificarla en una máquina. Trabajos interdisciplinarios en los que participó, entre otros, Yoshua Bengio han propuesto examinar distintos indicadores procedentes de las principales teorías científicas de la conciencia. Su análisis no concluía que los sistemas de IA estudiados fueran conscientes, aunque subrayaba que ninguna barrera técnica evidente impediría necesariamente que futuros sistemas satisficieran algunos de esos indicadores.

Para las organizaciones, sin embargo, otra pregunta se vuelve mucho más inmediata. Una inteligencia artificial no necesita ser consciente para disponer de una identidad, una memoria, permisos, objetivos y una capacidad de acción. No necesita sentir su existencia para modificar datos, desencadenar una transacción, comunicarse con otros agentes, controlar un equipo o tomar una serie de decisiones que produzcan consecuencias reales.

La transición determinante de los próximos años podría ser, por lo tanto, menos la que llevaría de la inteligencia artificial a la conciencia artificial que la que transforma progresivamente el software que utilizamos en un actor digital al que confiamos una capacidad de actuar.

La distinción entre inteligencia y conciencia constituye un buen punto de partida. Un sistema puede poseer capacidades cognitivas impresionantes sin que podamos concluir que experimenta una vivencia subjetiva. Esta cuestión recuerda el célebre argumento de la habitación china propuesto por el filósofo John Searle en 1980. En ese experimento mental, una persona que no comprende el chino aplica reglas que le permiten producir respuestas perfectamente coherentes en esa lengua. Para el observador externo, el sistema parece comprender; para Searle, la manipulación correcta de los símbolos no basta para establecer la existencia de una comprensión consciente. La discusión filosófica sigue abierta, en particular porque los defensores de enfoques funcionalistas responden que la propiedad pertinente podría emerger del sistema en su conjunto y no de cada uno de sus componentes tomados por separado.

Los sistemas contemporáneos vuelven este debate aún más complejo. Ya no procesan únicamente texto. Las arquitecturas multimodales pueden integrar imágenes, sonidos, video y otra información procedente de su entorno. Conectadas a sensores, a sistemas Edge o a robots, también pueden utilizar datos físicos en tiempo real. Esa multimodalidad aumenta considerablemente sus capacidades de percepción funcional sin resolver por ello la cuestión de la experiencia subjetiva. Procesar la temperatura de un motor, identificar a una persona en una imagen o reconocer una voz demuestra una capacidad de tratamiento e interpretación de señales; eso no permite concluir que el sistema experimente algo cuando realiza esas operaciones. El contenido que originó esta reflexión plantea precisamente esa diferencia entre procesamiento sensorial y experiencia vivida.

Esta distinción es esencial, porque nos permite evitar un error de perspectiva. Podemos dejar a los neurocientíficos y a los filósofos la cuestión aún abierta de la conciencia artificial y reconocer al mismo tiempo una transformación tecnológica mucho más observable: la aparición de sistemas que poseen una agencia operativa creciente.

Puede ser útil distinguir tres niveles conceptuales: inteligencia computacional, agencia operativa y eventual conciencia. Esta clasificación no pretende constituir una nueva taxonomía científica; permite más bien aclarar tres fenómenos que el lenguaje corriente tiende a mezclar. La inteligencia computacional designa la capacidad de procesar información, de generar, clasificar, predecir, resolver ciertos problemas o elaborar razonamientos. La agencia operativa aparece cuando un sistema puede utilizar esas capacidades para perseguir objetivos, interactuar con un entorno, elegir acciones y adaptar su comportamiento. La eventual conciencia introduciría una dimensión distinta: la existencia de una experiencia subjetiva, de una vivencia o de una forma de sintiencia. Ese tercer nivel sigue siendo científicamente incierto.

Para las empresas y las organizaciones, el segundo nivel ya basta para transformar profundamente la arquitectura informática.

Del software al actor digital

El software tradicional posee generalmente un comportamiento determinado por su código y por los eventos a los que responde. Una aplicación recibe una solicitud, aplica reglas y produce un resultado. Una cuenta de servicio posee permisos, pero normalmente no reflexiona sobre la mejor manera de utilizarlos para alcanzar un objetivo. Una API expone funciones, pero no decide espontáneamente invocar otras tres porque su primer intento falló.

Un agente de inteligencia artificial puede combinar progresivamente varias de esas capacidades. Puede recibir una misión, interpretar su contexto, establecer un plan, consultar datos, invocar herramientas, comunicarse con otros agentes, constatar que un enfoque no funciona, probar otro y perseguir su objetivo durante un período prolongado. Cuando se le añade una memoria persistente, su comportamiento presente también puede verse influido por sus interacciones anteriores.

Empezamos entonces a ver aparecer en el sistema de información algo que merece considerarse un actor digital persistente. Esta expresión no implica ninguna personalidad jurídica ni ninguna conciencia. Describe una realidad arquitectónica: una entidad de software identificable que posee suficiente continuidad, contexto, autonomía y capacidad de acción como para que su comportamiento deba gobernarse como el de un actor del sistema y no como el de una simple herramienta pasiva.

Esta evolución conduce a una noción aún más interesante: la de existencia operativa. Una máquina no necesita sentirse existir para existir funcionalmente dentro de una arquitectura. Si posee una identidad única, una memoria, un historial de actividad, relaciones con otros sistemas, privilegios, responsabilidades funcionales y una capacidad de acción, su existencia se vuelve importante para la seguridad y las operaciones de la organización. Esa existencia operativa cambia considerablemente las preguntas que deben hacerse los arquitectos.

La identidad se vuelve fundamental

La informática distinguió durante mucho tiempo a los usuarios humanos, los dispositivos, las aplicaciones y las cuentas de servicio. La llegada de los agentes vuelve esas categorías mucho menos suficientes. Cuando un agente actúa sobre varios sistemas, utiliza varias herramientas y se comunica con otros agentes, su identidad ya no puede reducirse a una simple clave API compartida ni a la cuenta del usuario humano que lo activó inicialmente.

Se vuelve necesario saber qué agente actúa, quién lo autorizó, qué misión se le confió, qué recursos puede utilizar, qué datos puede consultar y durante cuánto tiempo siguen siendo válidos sus privilegios. La identidad también debe permitir reconstituir las acciones realizadas y distinguir las del agente de las de los humanos y de los demás sistemas que participan en el mismo proceso.

El IAM aplicado a los agentes deberá, por lo tanto, ir mucho más lejos que la autenticación tradicional. La pregunta clásica “¿quién eres y a qué tienes acceso?” deberá enriquecerse progresivamente con otras interrogantes: ¿en qué rol actúas actualmente?, ¿qué objetivo persigues?, ¿quién te confió esta misión?, ¿qué acciones puedes efectuar en este contexto preciso? y ¿siguen reuniéndose las condiciones que justifican esa confianza?

Esta evolución se conecta directamente con el principio de Continuous Trust. Una identidad autenticada no debería recibir una confianza permanente simplemente porque fue reconocida al inicio de una sesión. A medida que un agente acumula contexto, invoca herramientas, recibe nueva información y avanza en una cadena de acciones, la confianza otorgada puede reevaluarse según su comportamiento, su misión, su entorno y el nivel de riesgo de las operaciones que desea efectuar.

AI Onboarding: integrar un agente antes de confiarle trabajo

Esta visión también da una nueva profundidad al concepto de AI Onboarding. Antes de pedirle a un agente de IA que trabaje para la empresa, hay que enseñarle cómo trabajar dentro de la empresa. Eso implica definir su rol, los conocimientos a los que puede acceder, su identidad, sus permisos, su nivel de autonomía, sus reglas de escalamiento hacia un humano, los resultados esperados y las condiciones que permiten suspender o poner fin a su actividad.

La analogía con la integración de un empleado tiene evidentemente sus límites: un agente no es un empleado y no debemos atribuirle las características humanas que acompañan ese estatus. Sin embargo, la analogía sigue siendo muy útil desde el punto de vista de la gobernanza. No le concederíamos a una persona nueva un acceso permanente a todos los sistemas simplemente porque algún día podría necesitarlo. Deberíamos aplicar un rigor comparable a un agente capaz de utilizar esos sistemas a una velocidad muy superior a la de un humano.

El ciclo de vida se vuelve entonces esencial. Un agente puede ser creado, configurado, probado, autorizado, desplegado, monitoreado, modificado, suspendido y eventualmente retirado. Sus permisos deben evolucionar con su rol. Sus conocimientos pueden tener que actualizarse. Su memoria puede contener información que deba conservarse, transferirse o eliminarse. Sus credenciales deben poder revocarse cuando deja de utilizarse. De lo contrario, las organizaciones corren el riesgo de reproducir a gran escala el problema de las cuentas huérfanas, esta vez con entidades capaces de actuar.

La responsabilidad no puede confiarse a la máquina

La agencia operativa plantea a continuación una cuestión fundamental de responsabilidad. Un sistema puede tomar una decisión funcional sin poder asumir su responsabilidad moral, jurídica u organizacional. Esta distinción se vuelve crucial a medida que aumenta la autonomía.

Un agente puede determinar que una transacción corresponde a los criterios que se le proporcionaron, elegir un proveedor, modificar una configuración o recomendar una decisión. Sin embargo, la organización debe determinar de antemano qué decisiones pueden ejecutarse automáticamente, cuáles requieren una confirmación humana y cuáles deben permanecer enteramente bajo autoridad humana.

La autonomía se convierte así en una delegación de capacidad más que en una transferencia de responsabilidad. Cuanto más aumenta la capacidad delegada, más sólidos deben ser los mecanismos de identidad, autorización, registro, observabilidad, supervisión y revocación.

Esta lógica se vuelve especialmente importante cuando varios agentes colaboran. Una decisión puede ser preparada por un agente, enriquecida por un segundo, validada por un tercero y ejecutada por un cuarto. Sin una arquitectura apropiada, rápidamente se vuelve difícil determinar el origen de una recomendación, los datos utilizados, los permisos ejercidos y la responsabilidad humana asociada a la cadena de acciones.

Cuando la inteligencia artificial adquiere ojos, oídos y manos

La siguiente transformación aparece cuando esos actores digitales salen progresivamente de los entornos puramente de software. Los modelos multimodales ya les dan acceso a varias formas de percepción. La Edge AI acerca su procesamiento a los dispositivos y a los entornos físicos, mientras que la robótica les proporciona una capacidad de acción material.

Un agente puede entonces observar una cámara, interpretar datos provenientes de sensores, escuchar una instrucción, vigilar una máquina y controlar un equipo. La cuestión de saber si “ve”, “escucha” o “siente” en el sentido fenomenológico sigue abierta. Desde el punto de vista operativo, posee no obstante canales de percepción y de acción que pueden producir consecuencias físicas.

Investigaciones publicadas en 2026 van incluso más lejos en la inspiración biológica. Algunos investigadores exploran, por ejemplo, arquitecturas de IA llamadas interoceptivas, que representan matemáticamente ciertos estados internos del sistema con el fin de mejorar la autonomía y la adaptación de los agentes a los cambios de su entorno. Se trata de abstraer mecanismos inspirados en la homeostasis de los seres vivos sin que ello constituya una prueba de sintiencia o de conciencia artificial.

En una frontera aún más experimental aparecen los sistemas que combinan inteligencia artificial y organoides neuronales. Estas investigaciones deben abordarse con gran prudencia. Un análisis publicado en 2026 subraya precisamente que las especulaciones sobre una eventual conciencia de esos sistemas superan actualmente los datos empíricos disponibles y corren el riesgo de desviar la atención de problemas mucho más concretos: gobernanza de los datos, seguridad, sesgos, control de los sistemas en bucle cerrado, transparencia y auditabilidad.

Esta prudencia científica refuerza nuestro argumento en lugar de debilitarlo. No necesitamos especular sobre el próximo nacimiento de una conciencia artificial para constatar que la frontera entre cálculo, percepción y acción se vuelve progresivamente más compleja. La evolución que ya nos concierne puede representarse mediante una continuidad tecnológica: modelo de IA, agente, agente multimodal, Edge AI, sistema robotizado, sistema autónomo y, a más largo plazo, distintas formas posibles de interfaces biohíbridas. En cada etapa, la capacidad de acción aumenta y la superficie que hay que gobernar se amplía.

De la ciberseguridad a la Hiperseguridad de los actores artificiales

Esta evolución modifica profundamente la seguridad. Cuando la inteligencia artificial servía principalmente para generar contenido o realizar análisis, todavía era posible considerar el modelo como un componente aplicativo entre otros. Cuando un agente posee una identidad, permisos, una memoria, herramientas, una capacidad de planificación y medios para actuar sobre el mundo digital o físico, se vuelve necesario asegurar el conjunto de su espacio operativo.

Los principios tradicionales de ciberseguridad siguen siendo esenciales: IAM, Zero Trust, segmentación, cifrado, registro, control de accesos, monitoreo y respuesta a incidentes. Sin embargo, la agencia exige orquestarlos con la gobernanza de la IA, la procedencia de los conocimientos, la observabilidad de las decisiones, la gestión de la autonomía, la resiliencia y la capacidad humana de intervención.

Ese es precisamente el territorio de la Hiperseguridad. La cuestión ya no es únicamente proteger un servidor, una cuenta o un dato. Hay que proteger un entorno en el que humanos y actores artificiales perciben información, utilizan conocimientos, se comunican, toman decisiones y desencadenan acciones.

Un agente no necesita sentir la responsabilidad para que sus acciones sean trazables. No necesita comprender moralmente el principio del mínimo privilegio para que tengamos que aplicárselo. No necesita tener miedo de desaparecer para que nosotros necesitemos un mecanismo que permita suspender su actividad, revocar su identidad o interrumpir una cadena de acciones que se ha vuelto peligrosa. Y, sobre todo, no necesita ser consciente para producir consecuencias reales.

Esta distinción debería convertirse en uno de los fundamentos de la gobernanza de los sistemas agénticos. Esperar a saber si una máquina posee una conciencia antes de determinar cómo gobernar su autonomía equivaldría a hacer depender un problema de ingeniería actual de una cuestión científica que podría permanecer abierta durante mucho tiempo todavía.

Una extraña inversión: la IA ya nos ayuda a comprender nuestra propia conciencia

Existe finalmente una paradoja notable en esta discusión. Mientras nos preguntamos si la inteligencia artificial podría algún día volverse consciente, ya empezamos a utilizar la inteligencia artificial para comprender la conciencia humana.

En marzo de 2026, unos investigadores publicaron en Nature Neuroscience trabajos que utilizan una arquitectura de inteligencia artificial sobre más de 680 000 muestras neuroelectrofisiológicas provenientes de contextos humanos y animales con el fin de estudiar los mecanismos asociados a los trastornos de la conciencia. El sistema permitió generar modelos biológicamente realistas, recuperar ciertos fenómenos ya conocidos y producir nuevas predicciones que luego fueron confrontadas con distintos datos experimentales. Algunos investigadores subrayan ahora que estos enfoques podrían contribuir a la investigación, al diagnóstico y eventualmente al tratamiento de los trastornos de la conciencia.

Utilizamos, por lo tanto, sistemas cuya conciencia no consideramos científicamente establecida para que nos ayuden a explorar los mecanismos de nuestra propia conciencia. Esta situación ilustra perfectamente la necesidad de distinguir capacidad y experiencia subjetiva. Una máquina no necesita experimentar la conciencia para volverse extraordinariamente útil para su estudio, del mismo modo que no necesita sentir una decisión para participar en su preparación o en su ejecución.

La cuestión de la conciencia artificial seguirá siendo probablemente uno de los grandes debates científicos y filosóficos de las próximas décadas. Debemos continuar estudiándola con apertura, rigor y prudencia, en particular porque nuestra propia comprensión de la conciencia humana sigue siendo incompleta. Las impresionantes capacidades de los sistemas actuales no bastan para demostrar una experiencia subjetiva, y la actual ausencia de pruebas tampoco permite zanjar definitivamente la cuestión para todas las arquitecturas futuras.

Para las organizaciones, una transformación mucho más concreta ya está en marcha. La inteligencia artificial pasa progresivamente del estatus de herramienta capaz de producir una respuesta al de actor digital que puede recibir una misión, poseer una identidad, utilizar una memoria, acceder a conocimientos, disponer de permisos, colaborar con otros agentes y efectuar acciones con consecuencias digitales o físicas.

Esta agencia operativa exige una nueva disciplina de arquitectura y de gobernanza. El AI Onboarding debe definir el rol y los límites del agente antes de su entrada en funciones. El IAM debe atribuirle una identidad distinta y permisos adaptados a su contexto. Zero Trust y Continuous Trust deben permitir reevaluar continuamente la legitimidad de sus acciones. La gobernanza de la IA debe definir su autonomía y sus mecanismos de escalamiento. La ciberseguridad y la Hiperseguridad deben asegurar la trazabilidad, la segmentación, la observabilidad, la resiliencia y la capacidad de intervención humana a lo largo de todo su ciclo de vida.

En Quantum Beyond, esta evolución corresponde a una convicción fundamental: las capacidades tecnológicas deben progresar junto con las arquitecturas que permiten gobernarlas. Nuestras experticias en AI Governance, AI Onboarding, IAM, Zero Trust, QKS – AI Readiness & Knowledge Governance, Edge AI, ciberseguridad, resiliencia e Hiperseguridad permiten abordar al agente artificial como un componente completo del ecosistema digital, con su identidad, sus conocimientos, sus accesos, su contexto y su nivel de autoridad.

Todavía no sabemos si una máquina podrá algún día preguntarse verdaderamente: “¿Quién soy?”. Para los arquitectos, los especialistas en IA y las organizaciones que empiezan a confiarle capacidades de acción, otra pregunta debe recibir ya una respuesta mucho más precisa: ¿quién es ella dentro de nuestra arquitectura?, ¿qué puede hacer?, ¿quién le dio esa autoridad? y ¿cómo podemos retomar el control? No necesitamos esperar a que las máquinas se vuelvan conscientes para empezar a gobernarlas como actores.