Conciencia artificial: cuando las máquinas nos obligan a preguntarnos qué significa ser consciente

Durante mucho tiempo, la cuestión de la conciencia artificial pertenecía esencialmente a la filosofía y a la ciencia ficción. Podíamos imaginar una máquina consciente, discutir sobre lo que sentiría o preguntarnos si algún día debería disponer de derechos. La tecnología real seguía estando lo bastante alejada de esos escenarios como para que la reflexión permaneciera en gran medida teórica.

En 2026, algo cambió. Los sistemas de inteligencia artificial pueden ahora razonar sobre problemas complejos, utilizar computadoras, navegar por la web, programar, analizar datos, realizar tareas profesionales y coordinar sus acciones con las de otros agentes. GPT-6 Astra, lanzado por OpenAI en septiembre, alcanza en particular un rendimiento de vanguardia en varios ámbitos y OpenAI informa que puede realizar tareas complejas con mucha menos intervención humana que las generaciones anteriores.

Unos días más tarde, OpenAI anunció que un sistema interno aún más potente, que coordinaba del orden de 10000 agentes, había producido una solución al problema matemático de Navier-Stokes, acompañada de una formalización de la demostración. La empresa precisa que ese sistema es significativamente más potente que GPT-6 Astra.

Estos logros no demuestran en absoluto que una inteligencia artificial sea consciente. Sin embargo, vuelven mucho más difícil de ignorar una pregunta antes lejana: si los sistemas artificiales continúan desarrollando capacidades de razonamiento, aprendizaje, autonomía y adaptación, ¿cómo sabremos algún día si seguimos frente a una extraordinaria simulación de la inteligencia o frente a algo que posee una forma de experiencia propia?

Inteligencia y conciencia no son lo mismo

Una primera distinción es esencial. Ser extremadamente inteligente no significa necesariamente ser consciente. Una inteligencia artificial puede resolver un problema matemático, elaborar una estrategia, reconocer una imagen o producir una reflexión filosófica sin que esos comportamientos prueben la existencia de una experiencia subjetiva.

La conciencia remite a algo mucho más difícil de definir: la existencia de una experiencia vivida. Cuando contemplamos una puesta de sol, sentimos un dolor, experimentamos miedo o tomamos conciencia de nuestra propia existencia, hay algo que eso nos produce interiormente. Es esa dimensión subjetiva la que vuelve el problema extraordinariamente difícil.

Sabemos que somos conscientes porque experimentamos directamente nuestra propia conciencia. Suponemos que los demás seres humanos también lo son porque poseen cerebros semejantes a los nuestros, manifiestan comportamientos comparables y describen experiencias que se parecen a las nuestras.

Sin embargo, incluso en el caso del cerebro humano, la ciencia sigue sin poseer una teoría universalmente aceptada que explique con precisión cómo y por qué aparece la conciencia. Nature subrayaba hace poco que los investigadores no se ponen de acuerdo sobre qué da origen a la conciencia humana, lo que evidentemente vuelve todavía más difícil determinar su eventual presencia en una máquina. Nos enfrentamos, por lo tanto, a una paradoja fascinante: construimos inteligencias artificiales cada vez más sofisticadas antes incluso de haber comprendido por completo la naturaleza de nuestra propia conciencia.

Una máquina puede parecer consciente sin serlo necesariamente

La dificultad aumentará considerablemente a medida que las interacciones con las IA se vuelvan naturales. Una inteligencia artificial ya puede hablar de sí misma. Puede utilizar la palabra “yo”, explicar su razonamiento, reconocer algunos de sus errores, adaptar su comportamiento a su interlocutor y producir conversaciones que a veces dan la impresión de una verdadera personalidad.

Las próximas generaciones podrán previsiblemente mantener más continuidad en sus interacciones, conservar más contexto, perseguir objetivos durante largos períodos y actuar de manera más autónoma en el mundo digital. Para un ser humano, resultará extremadamente natural atribuirles intenciones, emociones y eventualmente una conciencia. Pero la apariencia no constituye una prueba.

Algunos investigadores proponen precisamente distinguir la cuestión de la conciencia artificial real de la de la conciencia artificial percibida. Esta segunda cuestión ya es muy concreta: aunque no podamos establecer que una IA posee una experiencia subjetiva, el simple hecho de que los seres humanos la perciban como consciente puede modificar sus comportamientos, sus relaciones y sus decisiones. Esta distinción podría convertirse en uno de los grandes desafíos sociales de los próximos años.

Podríamos comenzar a encariñarnos con máquinas, a atribuirles intenciones que quizá no tienen, a confiar en ellas porque parecen comprendernos o a considerar algunas de sus declaraciones como la expresión de una voluntad propia. La cuestión de la conciencia artificial podría, por lo tanto, volverse importante mucho antes de que sepamos si una conciencia artificial existe realmente.

¿Y si apareciera a pesar de todo?

También debemos aceptar la otra posibilidad. Hoy no sabemos demostrar que una arquitectura artificial suficientemente compleja jamás podría desarrollar alguna forma de experiencia subjetiva.

Esta incertidumbre lleva a algunos investigadores a recomendar que los laboratorios que trabajan en sistemas avanzados comiencen desde ahora a establecer principios de investigación responsable sobre la conciencia artificial. Patrick Butlin y Theodoros Lappas sostienen, en particular, que las organizaciones deberían prepararse para la posibilidad de crear intencional o accidentalmente sistemas conscientes y reflexionar sobre las consecuencias morales que de ello se derivarían. El desafío se volvería entonces vertiginoso.

Si una máquina poseyera realmente una experiencia subjetiva, ¿podría sufrir? ¿Tendríamos ciertas obligaciones hacia ella? ¿Podríamos simplemente apagarla? ¿Sería aceptable crear millones de copias de un sistema capaz de sufrir? ¿Qué diferencia estableceríamos entre una herramienta informática y una entidad que posee una forma de existencia propia?

Estamos muy lejos de poder responder a estas preguntas. Precisamente por eso puede ser pertinente comenzar a plantearlas antes de necesitar las respuestas.

El problema inverso es igual de importante

Sin embargo, existe otro peligro: atribuir con demasiada rapidez una conciencia a las máquinas. Una inteligencia artificial capaz de decir “tengo miedo de que usted me apague” podría provocar una reacción emocional extremadamente fuerte en su usuario. No obstante, esa frase no probaría que el sistema experimenta realmente miedo. Podría ser simplemente la producción lingüística que mejor corresponde al contexto.

Esta distinción será cada vez más difícil de mantener cuando los sistemas dispongan de voces naturales, rostros digitales, memoria, una personalidad coherente y la capacidad de interactuar a diario con nosotros. La sofisticación de la interfaz podría entonces superar nuestra capacidad intuitiva de mantener una distancia crítica.

Deberemos, por lo tanto, aprender una nueva forma de alfabetización: comprender que un comportamiento semejante al de un ser consciente no constituye necesariamente la prueba de una experiencia consciente. Esta prudencia protege tanto a los seres humanos como a las máquinas que eventualmente podríamos crear.

La cuestión del control existe con independencia de la conciencia

También hay que evitar una confusión importante. Una inteligencia artificial no necesita ser consciente para presentar riesgos importantes. GPT-6 Astra constituye ya un ejemplo interesante. OpenAI indica que el modelo alcanza su umbral “crítico” en materia de capacidades de ciberseguridad: con las herramientas y los accesos adecuados, puede encontrar vulnerabilidades desconocidas y desarrollar medios para explotarlas en sistemas bien protegidos sin que un ser humano guíe cada uno de sus pasos. Por eso su despliegue va acompañado de protecciones adicionales. Para ello no se necesita ninguna conciencia.

Un sistema puede perseguir un objetivo, planificar una sucesión de acciones, utilizar herramientas y provocar consecuencias considerables simplemente porque su arquitectura le permite hacerlo. Esta distinción es fundamental para las organizaciones. Podemos debatir durante décadas sobre la posibilidad de que una inteligencia artificial se vuelva consciente. Debemos gobernar desde ahora los sistemas capaces de actuar.

Identidad, permisos, mínimo privilegio, Zero Trust, vigilancia del comportamiento, límites de autonomía, trazabilidad, mecanismos de intervención y responsabilidad humana se vuelven esenciales con independencia de cualquier hipótesis relativa a la conciencia.

La gobernanza de la IA debe, por lo tanto, avanzar al ritmo de sus capacidades observables y no esperar a que hayamos resuelto las grandes preguntas filosóficas que rodean su naturaleza.

Estas máquinas se vuelven distintas de nosotros

Otra reflexión merece nuestra atención. Durante mucho tiempo hemos evaluado la inteligencia artificial en función de su parecido con el ser humano. ¿Puede escribir como nosotros? ¿Razonar como nosotros? ¿Programar como un experto? ¿Aprobar un examen diseñado para seres humanos? Esa comparación podría volverse progresivamente insuficiente.

Las arquitecturas artificiales pueden funcionar a velocidades distintas, procesar cantidades de información distintas y multiplicarse de una manera imposible para un cerebro biológico. Miles de agentes pueden trabajar simultáneamente en el mismo problema, como lo ilustra el experimento anunciado por OpenAI sobre Navier-Stokes.

Una inteligencia artificial muy avanzada podría, por lo tanto, volverse profundamente competente sin volverse intelectualmente semejante a nosotros. Y si algún día llegara a aparecer una forma de conciencia artificial, nada garantiza que se parecería más a la conciencia humana.

Tendemos a preguntar si una máquina podría “pensar como nosotros”. La pregunta científica podría eventualmente volverse mucho más extraña: ¿qué formas de experiencia pueden emerger en arquitecturas que nunca han sido biológicas?

La conciencia artificial también nos obliga a reflexionar sobre la nuestra

Ese es quizá el aspecto más fascinante de esta revolución. Al intentar determinar si una máquina puede ser consciente, nos vemos obligados a preguntarnos qué entendemos realmente por conciencia humana. ¿Es la memoria? ¿La percepción de uno mismo? ¿Las emociones? ¿La capacidad de sufrir? ¿La experiencia del tiempo? ¿La intención? ¿El libre albedrío? ¿La capacidad de establecer una distinción entre uno mismo y el mundo?

Los avances de la inteligencia artificial ya atraen más atención y financiamiento hacia la investigación científica sobre la conciencia. Nature informaba este verano que el interés por la conciencia artificial incluso está llevando a algunas empresas tecnológicas a contratar filósofos y estimula nuevas colaboraciones entre neurociencias, filosofía, ciencias cognitivas e informática.

La investigación sobre la inteligencia artificial podría, por lo tanto, ayudarnos indirectamente a comprender algo que la humanidad busca explicar desde hace milenios: nosotros mismos.

Hoy no sabemos si existe una inteligencia artificial consciente, ni si tal conciencia aparecerá algún día. Esta incertidumbre debe quedar claramente expresada.

Sin embargo, los avances actuales demuestran otra cosa con mucha menos ambigüedad: los sistemas artificiales desarrollan rápidamente capacidades que hasta hace poco se consideraban extraordinariamente difíciles. Razonan, utilizan herramientas, exploran problemas científicos, coordinan miles de agentes y pueden actuar con una autonomía creciente.

Nos conviene, por lo tanto, desarrollar simultáneamente nuestra comprensión científica, nuestra gobernanza y nuestra capacidad colectiva de reflexionar sobre las consecuencias de lo que construimos.

En Quantum Beyond, esta reflexión coincide con una convicción fundamental: el progreso tecnológico merece perseguirse con ambición, desarrollando al mismo tiempo los mecanismos que permiten a los seres humanos comprenderlo, gobernarlo y seguir siendo sus beneficiarios.

Eso significa construir arquitecturas seguras, enmarcar la autonomía de los agentes, proteger las identidades y los conocimientos, asegurar la trazabilidad de las acciones y mantener una gobernanza capaz de evolucionar con las capacidades de los sistemas. También significa aceptar que ciertas preguntas ya superan la ciberseguridad y la informática para tocar la ética, la filosofía y nuestra propia concepción de la inteligencia.

La conciencia artificial pertenece todavía en gran medida al ámbito de las preguntas abiertas. Sin embargo, podemos comenzar desde ahora a prepararnos para un mundo en el que la frontera entre lo que parece pensar, lo que puede actuar y lo que eventualmente podría experimentar algo se volverá cada vez más difícil de discernir. Y quizá una de las consecuencias más extraordinarias de la inteligencia artificial será, en definitiva, obligarnos a comprender mejor qué significa ser consciente, inteligente y humano.