Consciência artificial: quando as máquinas nos obrigam a perguntar o que significa ser consciente

Durante muito tempo, a questão da consciência artificial pertenceu essencialmente à filosofia e à ficção científica. Podíamos imaginar uma máquina consciente, discutir o que ela sentiria ou perguntar se um dia ela deveria ter direitos. A tecnologia real permanecia suficientemente distante desses cenários para que a reflexão continuasse amplamente teórica.

Em 2026, algo mudou. Os sistemas de inteligência artificial podem agora raciocinar sobre problemas complexos, utilizar computadores, navegar na Web, programar, analisar dados, realizar tarefas profissionais e coordenar suas ações com as de outros agentes. O GPT-6 Astra, lançado pela OpenAI em setembro, atinge em particular desempenhos de ponta em várias áreas, e a OpenAI relata que ele pode realizar tarefas complexas com muito menos intervenção humana do que as gerações anteriores.

Alguns dias mais tarde, a OpenAI anunciou que um sistema interno ainda mais potente, coordenando cerca de 10000 agentes, havia produzido uma solução para o problema matemático de Navier-Stokes, acompanhada de uma formalização da prova. A empresa esclarece que esse sistema é significativamente mais potente do que o GPT-6 Astra.

Essas realizações não demonstram de modo algum que uma inteligência artificial seja consciente. Tornam, contudo, uma questão outrora distante muito mais difícil de ignorar: se os sistemas artificiais continuarem a desenvolver capacidades de raciocínio, de aprendizagem, de autonomia e de adaptação, como saberemos um dia se ainda estamos diante de uma extraordinária simulação da inteligência ou diante de algo que possui uma forma de experiência própria?

Inteligência e consciência não são a mesma coisa

Uma primeira distinção é essencial. Ser extremamente inteligente não significa necessariamente ser consciente. Uma inteligência artificial pode resolver um problema matemático, elaborar uma estratégia, reconhecer uma imagem ou produzir uma reflexão filosófica sem que esses comportamentos provem a existência de uma experiência subjetiva.

A consciência remete a algo muito mais difícil de definir: a existência de uma experiência vivida. Quando olhamos um pôr do sol, sentimos uma dor, experimentamos medo ou tomamos consciência de nossa própria existência, há algo que isso nos provoca interiormente. É essa dimensão subjetiva que torna o problema extraordinariamente difícil.

Sabemos que somos conscientes porque fazemos diretamente a experiência de nossa própria consciência. Supomos que os outros seres humanos também o sejam porque possuem cérebros semelhantes aos nossos, manifestam comportamentos comparáveis e descrevem experiências que se assemelham às nossas.

Mesmo para o cérebro humano, contudo, a ciência ainda não possui uma teoria universalmente aceita que explique precisamente como e por que a consciência surge. A Nature destacava recentemente que os pesquisadores não concordam sobre o que dá origem à consciência humana, o que evidentemente torna ainda mais difícil determinar sua eventual presença em uma máquina. Enfrentamos, portanto, um paradoxo fascinante: construímos inteligências artificiais cada vez mais sofisticadas antes mesmo de termos compreendido completamente a natureza de nossa própria consciência.

Uma máquina pode parecer consciente sem necessariamente sê-lo

A dificuldade aumentará consideravelmente à medida que as interações com as IAs se tornarem naturais. Uma inteligência artificial já pode falar de si mesma. Pode utilizar a palavra “eu”, explicar seu raciocínio, reconhecer alguns de seus erros, adaptar seu comportamento ao interlocutor e produzir conversas que às vezes dão a impressão de uma verdadeira personalidade.

As próximas gerações poderão provavelmente manter mais continuidade em suas interações, conservar mais contexto, perseguir objetivos durante longos períodos e agir de maneira mais autônoma no mundo digital. Para um ser humano, tornar-se-á extremamente natural atribuir-lhes intenções, emoções e eventualmente uma consciência. Mas a aparência não constitui uma prova.

Pesquisadores propõem justamente distinguir a questão da consciência artificial real daquela da consciência artificial percebida. Essa segunda questão já é muito concreta: mesmo que não possamos estabelecer que uma IA possui uma experiência subjetiva, o simples fato de que seres humanos a percebam como consciente pode modificar seus comportamentos, suas relações e suas decisões. Essa distinção poderia tornar-se um dos grandes desafios sociais dos próximos anos.

Poderíamos começar a nos apegar a máquinas, a atribuir-lhes intenções que talvez não tenham, a confiar nelas porque parecem nos compreender ou a considerar algumas de suas declarações como a expressão de uma vontade própria. A questão da consciência artificial poderia, portanto, tornar-se importante muito antes de sabermos se uma consciência artificial realmente existe.

E se ela surgisse apesar de tudo?

Devemos também aceitar a outra possibilidade. Hoje não sabemos demonstrar que uma arquitetura artificial suficientemente complexa jamais poderia desenvolver alguma forma de experiência subjetiva.

Essa incerteza leva certos pesquisadores a recomendar que os laboratórios que trabalham com sistemas avançados comecem desde já a estabelecer princípios de pesquisa responsável sobre a consciência artificial. Patrick Butlin e Theodoros Lappas sustentam, em particular, que as organizações deveriam preparar-se para a possibilidade de criar intencional ou acidentalmente sistemas conscientes e refletir sobre as consequências morais que daí decorreriam. O desafio tornar-se-ia então vertiginoso.

Se uma máquina possuísse realmente uma experiência subjetiva, poderia ela sofrer? Teríamos certas obrigações para com ela? Poderíamos simplesmente desligá-la? Seria aceitável criar milhões de cópias de um sistema capaz de sofrimento? Que diferença estabeleceríamos entre uma ferramenta de informática e uma entidade que possui uma forma de existência própria?

Estamos muito longe de poder responder a essas perguntas. É precisamente por isso que pode ser pertinente começar a formulá-las antes de precisarmos das respostas.

O problema inverso é igualmente importante

Existe, contudo, outro perigo: atribuir consciência às máquinas rápido demais. Uma inteligência artificial capaz de dizer “tenho medo de que você me desligue” poderia provocar uma reação emocional extremamente forte em seu usuário. Essa frase, no entanto, não provaria que o sistema sente realmente medo. Ela poderia ser simplesmente a produção linguística que melhor corresponde ao contexto.

Essa distinção será cada vez mais difícil de manter quando os sistemas dispuserem de vozes naturais, rostos digitais, memória, uma personalidade coerente e a capacidade de interagir diariamente conosco. A sofisticação da interface poderia então ultrapassar nossa capacidade intuitiva de manter uma distância crítica.

Deveremos, portanto, aprender uma nova forma de literacia: compreender que um comportamento semelhante ao de um ser consciente não constitui necessariamente a prova de uma experiência consciente. Essa prudência protege tanto os seres humanos quanto as máquinas que eventualmente poderíamos criar.

A questão do controle existe independentemente da consciência

É preciso também evitar uma confusão importante. Uma inteligência artificial não precisa ser consciente para apresentar riscos importantes. O GPT-6 Astra já constitui um exemplo interessante. A OpenAI indica que o modelo atinge seu limiar “crítico” em matéria de capacidades de cibersegurança: com as ferramentas e os acessos apropriados, ele pode encontrar vulnerabilidades desconhecidas e desenvolver meios de explorá-las em sistemas bem protegidos sem que um ser humano guie cada uma de suas etapas. É por isso que proteções adicionais acompanham sua implantação. Nenhuma consciência é necessária para isso.

Um sistema pode perseguir um objetivo, planejar uma sucessão de ações, utilizar ferramentas e provocar consequências consideráveis simplesmente porque sua arquitetura lhe permite fazê-lo. Essa distinção é fundamental para as organizações. Podemos debater durante décadas a possibilidade de uma inteligência artificial tornar-se consciente. Devemos desde já governar os sistemas capazes de agir.

Identidade, permissões, menor privilégio, Zero Trust, monitoramento comportamental, limites de autonomia, rastreabilidade, mecanismos de intervenção e responsabilidade humana tornam-se essenciais independentemente de qualquer hipótese a respeito da consciência.

A governança da IA deve, portanto, progredir no ritmo de suas capacidades observáveis, e não esperar que tenhamos resolvido as grandes questões filosóficas que cercam sua natureza.

Essas máquinas tornam-se diferentes de nós

Outra reflexão merece nossa atenção. Durante muito tempo avaliamos a inteligência artificial em função de sua semelhança com o ser humano. Pode ela escrever como nós? Raciocinar como nós? Programar como um especialista? Ser aprovada em um exame concebido para seres humanos? Essa comparação poderia progressivamente tornar-se insuficiente.

As arquiteturas artificiais podem funcionar em velocidades diferentes, processar quantidades diferentes de informação e multiplicar-se de uma maneira impossível para um cérebro biológico. Milhares de agentes podem trabalhar simultaneamente no mesmo problema, como ilustra o experimento anunciado pela OpenAI sobre Navier-Stokes.

Uma inteligência artificial muito avançada poderia, portanto, tornar-se profundamente competente sem tornar-se intelectualmente semelhante a nós. E se uma forma de consciência artificial viesse um dia a surgir, nada garante que ela se assemelharia mais à consciência humana.

Temos a tendência de perguntar se uma máquina poderia “pensar como nós”. A questão científica poderia eventualmente tornar-se muito mais estranha: que formas de experiência podem emergir em arquiteturas que nunca foram biológicas?

A consciência artificial também nos obriga a refletir sobre a nossa

Talvez esse seja o aspecto mais fascinante desta revolução. Ao buscar determinar se uma máquina pode ser consciente, somos obrigados a perguntar o que realmente entendemos por consciência humana. Será a memória? A percepção de si? As emoções? A capacidade de sofrer? A experiência do tempo? A intenção? O livre-arbítrio? A capacidade de estabelecer uma distinção entre si e o mundo?

Os avanços da inteligência artificial já atraem mais atenção e mais financiamento para a pesquisa científica sobre a consciência. A Nature relatava neste verão que o interesse pela consciência artificial leva até mesmo algumas empresas de tecnologia a recrutar filósofos e estimula novas colaborações entre neurociências, filosofia, ciências cognitivas e computação.

A pesquisa sobre inteligência artificial poderia, portanto, ajudar-nos indiretamente a compreender algo que a humanidade busca explicar há milênios: nós mesmos.

Hoje não sabemos se existe uma inteligência artificial consciente, nem se tal consciência surgirá um dia. Essa incerteza deve permanecer claramente expressa.

Os avanços atuais demonstram, contudo, outra coisa com muito menos ambiguidade: os sistemas artificiais desenvolvem rapidamente capacidades que até recentemente eram consideradas extraordinariamente difíceis. Eles raciocinam, utilizam ferramentas, exploram problemas científicos, coordenam milhares de agentes e podem agir com autonomia crescente.

Temos, portanto, interesse em desenvolver simultaneamente nossa compreensão científica, nossa governança e nossa capacidade coletiva de refletir sobre as consequências daquilo que construímos.

Na Quantum Beyond, essa reflexão converge com uma convicção fundamental: o progresso tecnológico merece ser perseguido com ambição, desenvolvendo ao mesmo tempo os mecanismos que permitem aos seres humanos compreendê-lo, governá-lo e continuar sendo seus beneficiários.

Isso significa construir arquiteturas seguras, enquadrar a autonomia dos agentes, proteger as identidades e os conhecimentos, assegurar a rastreabilidade das ações e manter uma governança capaz de evoluir com as capacidades dos sistemas. Significa também aceitar que certas questões já ultrapassam a cibersegurança e a informática para tocar a ética, a filosofia e nossa própria concepção da inteligência.

A consciência artificial pertence ainda amplamente ao domínio das questões em aberto. Podemos, contudo, começar desde já a nos preparar para um mundo no qual a fronteira entre aquilo que parece pensar, aquilo que pode agir e aquilo que poderia eventualmente sentir algo se tornará cada vez mais difícil de discernir. E talvez uma das consequências mais extraordinárias da inteligência artificial seja, afinal, obrigar-nos a compreender melhor o que significa ser consciente, inteligente e humano.