Single Point of Failure e inteligência artificial
As organizações dedicaram décadas a eliminar os pontos únicos de falha de suas infraestruturas de TI. Elas multiplicaram os servidores, distribuíram os dados, desenvolveram planos de continuidade, diversificaram as conexões, criaram mecanismos de contingência e aprenderam a avaliar os riscos associados aos seus fornecedores tecnológicos. A chegada massiva da inteligência artificial faz surgir, contudo, uma nova forma de concentração, muito menos visível, porque pode se dissimular por trás de uma aparente diversidade de soluções.
Uma empresa pode hoje utilizar vários assistentes, copilotos, agentes, aplicativos SaaS e soluções especializadas enquanto depende, por trás dessas interfaces diferentes, de um número muito limitado de modelos fundamentais, de provedores de nuvem, de tecnologias, de dados ou de componentes de software. Ela pode, portanto, ter a impressão de ter diversificado seu ambiente quando uma parte importante de suas capacidades de inteligência artificial repousa sobre algumas infraestruturas comuns.
O setor financeiro canadense começa justamente a examinar essa questão. O relatório FIFAI II, resultado de uma colaboração que reúne notadamente atores do setor financeiro, organismos governamentais, reguladores e especialistas, ressalta que a dependência crescente de um pequeno número de fornecedores de inteligência artificial e a opacidade das cadeias de suprimento tecnológicas podem aumentar a fragilidade sistêmica. As dependências, aliás, já não param no fornecedor diretamente contratado: elas podem atravessar várias camadas de modelos, de dados, de softwares, de componentes de código aberto, de capacidade de processamento e de infraestruturas em nuvem.
Essa evolução levanta uma questão muito mais ampla para as organizações: como beneficiar-se das melhores tecnologias disponíveis sem se tornar prisioneiro delas? A resposta reside provavelmente em uma abordagem pragmática da soberania digital, fundada na compreensão das dependências, na capacidade de avaliá-las, na preservação das possibilidades de substituição e no acesso às expertises necessárias para permanecer senhor de suas decisões.
A inteligência artificial transforma rapidamente a arquitetura tecnológica das organizações. Os modelos tornam-se componentes integrados às ferramentas de produtividade, aos ambientes de desenvolvimento, aos sistemas de relacionamento com o cliente, às plataformas analíticas, às soluções de cibersegurança e progressivamente aos processos decisórios e operacionais. À medida que essa integração progride, compreender a cadeia tecnológica completa torna-se mais difícil, particularmente quando várias soluções comerciais repousam sobre infraestruturas ou modelos comuns.
Uma empresa pode assim acreditar que utiliza vinte soluções de inteligência artificial diferentes quando várias repousam sobre a mesma família de modelos, o mesmo provedor de nuvem ou certas infraestruturas comuns. Os aplicativos são diferentes, mas a dependência subjacente pode ser idêntica. Aprendemos a procurar os Single Points of Failure em nossas infraestruturas; com a inteligência artificial, devemos agora aprender a reconhecer o que poderíamos chamar de Single Points of Intelligence.
Essa noção ultrapassa amplamente a falha técnica. Uma dependência excessiva de uma mesma fonte de inteligência artificial pode expor várias funções a uma vulnerabilidade comum, a uma modificação do comportamento de um modelo, a uma evolução tarifária, a uma mudança contratual, a uma restrição geográfica, a uma decisão comercial do fornecedor ou a uma transformação de suas políticas de uso. Ela pode igualmente criar correlações muito mais difíceis de detectar quando vários sistemas utilizam modelos semelhantes, compartilham certos limites ou se apoiam em fontes de informação comuns.
No setor financeiro, o relatório FIFAI II levanta notadamente a possibilidade de que sistemas treinados com dados semelhantes possam produzir comportamentos correlacionados em certas situações de mercado. O risco não provém então unicamente da falha individual de um sistema, mas de vários sistemas suscetíveis de reagir de maneira comparável ao mesmo evento. Essa concentração merece, portanto, ser considerada uma questão de arquitetura e de resiliência, particularmente quando as capacidades de IA começam a participar diretamente dos processos operacionais ou decisórios.
A situação torna-se ainda mais complexa quando se examina a cadeia de suprimento da inteligência artificial. Um fornecedor diretamente contratado pode ele próprio utilizar um modelo proveniente de outra empresa, funcionando sobre a infraestrutura em nuvem de um terceiro ator e integrando componentes de código aberto, serviços ou dados provenientes de outras organizações. Uma empresa pode assim estar exposta a quartas, quintas ou enésimas partes com as quais não mantém nenhuma relação contratual direta. Compreender essas dependências torna-se progressivamente tão importante quanto conhecer os fornecedores que aparecem oficialmente no portfólio tecnológico.
Essa compreensão constitui um componente essencial da soberania digital. Ser soberano não significa necessariamente possuir cada um dos elementos tecnológicos que se utiliza. Uma organização pode perfeitamente escolher infraestruturas em nuvem internacionais, modelos proprietários, softwares comerciais, soluções de código aberto e fornecedores especializados conservando, ao mesmo tempo, uma forte autonomia. Essa autonomia repousa sobre sua capacidade de compreender suas escolhas, conhecer suas consequências e preservar opções suficientes para evoluir quando as circunstâncias mudarem.
A autarquia digital constitui, aliás, raramente uma estratégia eficaz a médio e longo prazo. Construir sistematicamente seus próprios modelos, hospedar todas as suas infraestruturas, desenvolver cada componente de software e manter todas as expertises necessárias exigiria recursos consideráveis. As tecnologias de inteligência artificial evoluem igualmente a uma velocidade tal que uma organização poderia dedicar enorme energia a manter capacidades que não constituem sua atividade principal, ao mesmo tempo em que teria cada vez mais dificuldade em conservar cada uma dessas expertises no nível exigido.
O relatório FIFAI II descreve justamente um fenômeno particularmente revelador: a velocidade de aprendizado das tecnologias pode superar a das organizações. Modelos considerados revolucionários alguns anos antes tornam-se rapidamente ultrapassados, enquanto as arquiteturas, os agentes, os mecanismos de segurança e as práticas de governança continuam a evoluir. Para as PMEs, os organismos públicos e mesmo várias grandes organizações cuja missão principal não é desenvolver tecnologias de inteligência artificial, manter internamente toda a profundidade de expertise necessária torna-se, portanto, extremamente difícil.
Uma dependência completa dos fornecedores tecnológicos apresenta, contudo, o problema inverso. Quando uma organização confia inteiramente a compreensão de seus sistemas de IA às empresas que os fornecem, estas tornam-se ao mesmo tempo projetistas, operadoras, avaliadoras e principais intérpretes de suas próprias tecnologias. O cliente permanece, no entanto, responsável pelas consequências de sua utilização e deve poder formar um julgamento independente sobre os sistemas aos quais confia progressivamente seus dados, seus processos e por vezes certas capacidades decisórias.
Essa capacidade de julgamento independente não exige que todas as expertises estejam inscritas em tempo integral no organograma. Ela exige antes que a organização possa ter acesso a especialistas suficientemente independentes de seus fornecedores tecnológicos para analisar as soluções propostas, questionar certas afirmações, testar os modelos, examinar as arquiteturas e determinar se as escolhas realizadas permanecem coerentes com seus interesses. Uma empresa pode assim delegar expertises extremamente especializadas conservando, ao mesmo tempo, o domínio de suas decisões e de sua orientação tecnológica.
Essa distinção permite encarar a expertise externa de outro modo que não como uma simples terceirização. Quando é estruturada corretamente, ela se torna uma extensão da capacidade do cliente de exercer sua própria soberania digital. A organização conserva o conhecimento de suas atividades, de seus dados, de seus objetivos, de suas responsabilidades e de suas decisões, enquanto especialistas externos trazem as competências aprofundadas necessárias para compreender e avaliar as tecnologias sobre as quais ela escolhe se apoiar.
Essa abordagem muda profundamente a relação com os fornecedores de inteligência artificial. Quando uma organização avalia um novo modelo ou uma nova plataforma, ela deve poder ir além das demonstrações comerciais e das comparações gerais de desempenho para determinar como a solução funciona em seu próprio ambiente, com seus dados, suas restrições, seus riscos e suas exigências. Isso implica testar os modelos, comparar seus desempenhos, examinar os mecanismos de segurança, compreender os fluxos de dados, analisar as condições contratuais, identificar as dependências subjacentes e avaliar o que aconteceria se a tecnologia tivesse um dia de ser substituída.
Com os agentes de inteligência artificial, essa análise torna-se ainda mais importante. Um modelo que gera texto apresenta um perfil de risco muito diferente do de um agente que dispõe de uma identidade, de permissões, de acesso aos dados, da capacidade de chamar APIs e do poder de efetuar ações nos sistemas da empresa. A avaliação deve então abranger o conjunto da arquitetura: o modelo, os dados, as ferramentas, a identidade, as permissões, a memória, a orquestração, a observabilidade e os mecanismos de intervenção humana. A expertise necessária torna-se, portanto, multidisciplinar e ultrapassa amplamente a mera capacidade de construir ou de configurar um modelo.
Essa evolução explica em parte por que as organizações buscam profissionais experientes capazes de ter atravessado vários projetos de inteligência artificial e de compreender suas implicações para além da tecnologia em si. O desafio consiste em determinar quando uma ferramenta é apropriada, reconhecer seus limites, compreender os riscos criados por sua integração e identificar os mecanismos que permitem conservar o controle. Para certas organizações muito grandes, constituir várias equipes internas especializadas pode ser realista. Para muitas outras, reproduzir tal estrutura seria custoso, complexo e difícil de manter ao longo do tempo.
A mutualização de expertises aprofundadas torna-se então particularmente pertinente. Uma equipe especializada que trabalha sobre diferentes arquiteturas, diferentes modelos, diferentes fornecedores e diferentes setores pode manter uma visão tecnológica muito mais ampla, atualizando continuamente sua expertise. Cada organização pode assim acessar essa profundidade de competência quando dela necessita, sem ter de recrutar individualmente todos os especialistas necessários nem manter permanentemente uma equipe dimensionada para necessidades que variam ao longo dos projetos.
É precisamente nesse espaço que a Quantum Beyond pretende atuar. Nosso papel consiste em trabalhar ao lado das equipes de TI, dos responsáveis pela segurança, dos especialistas em dados, dos executivos e dos parceiros tecnológicos já presentes no cliente a fim de acrescentar uma camada de expertise independente e transversal. Essa camada permite analisar o conjunto do ecossistema, trazer as competências especializadas requeridas e preservar a capacidade do cliente de avaliar as soluções que utiliza, mesmo quando sua complexidade ultrapassa as expertises que seria razoável manter inteiramente internamente.
Uma organização pode assim continuar a utilizar os melhores fornecedores disponíveis, adotar diferentes modelos, explorar arquiteturas em nuvem avançadas e integrar progressivamente agentes de IA tendo, ao mesmo tempo, acesso às expertises necessárias para compreender suas implicações. As competências especializadas em governança, IAM, Zero Trust, cibersegurança, observabilidade, resiliência, arquitetura e soberania podem ser mobilizadas conforme as necessidades, enquanto a organização conserva o domínio de seus objetivos, de seus dados, de suas decisões e de sua evolução tecnológica.
Essa abordagem permite igualmente preparar estratégias de substituição e de saída antes de delas necessitar. Uma organização realmente soberana não precisa necessariamente mudar regularmente de fornecedor; ela deve, contudo, conservar uma possibilidade crível de fazê-lo. A reversibilidade torna-se então uma propriedade da arquitetura, o que pressupõe conhecer os dados a recuperar, as dependências a substituir, as integrações a modificar, as competências necessárias à transição e os prazos realistas para alcançá-la. Em certos ambientes críticos, essa reflexão pode igualmente levar a manter vários modelos ou vários fornecedores a fim de reduzir certas concentrações.
O relatório FIFAI II recomenda justamente que as organizações examinem periodicamente suas dependências, suas concentrações, suas estratégias de saída e de substituição, realizando ao mesmo tempo testes de resiliência que considerem notadamente perturbações correlacionadas em vários fornecedores. Essa lógica conecta-se diretamente a uma visão pragmática da soberania digital na qual a dependência pode ser escolhida quando permanece compreendida, dominada e reversível.
A organização não tem, portanto, de escolher entre internalizar tudo e terceirizar tudo. Ela pode conservar internamente o conhecimento profundo de suas atividades, de seus dados, de seus objetivos, de suas responsabilidades e de suas decisões, apoiando-se ao mesmo tempo em especialistas externos nos domínios em que a profundidade tecnológica, a raridade das competências ou a velocidade de evolução tornam a mutualização muito mais eficaz. As equipes internas conhecem a empresa, os fornecedores conhecem seus produtos e especialistas independentes podem trazer a visão transversal que permite confrontar os dois. É nesse equilíbrio que a organização pode preservar de forma duradoura sua autonomia decisória.
A inteligência artificial não cria apenas novas possibilidades tecnológicas; ela transforma progressivamente a estrutura das dependências digitais das organizações. Por trás de uma multiplicidade de aplicativos podem se esconder alguns modelos, algumas infraestruturas em nuvem, algumas cadeias tecnológicas e um número relativamente limitado de fornecedores críticos. À medida que a IA se integra aos processos operacionais, essa concentração pode tornar-se um novo tipo de Single Point of Failure: um Single Point of Intelligence.
A resposta a essa concentração não reside na autarquia digital. Uma organização que tentasse construir, hospedar e dominar sozinha todas as tecnologias de que necessita correria o risco de dedicar uma parcela desproporcional de seus recursos a manter expertises que evoluem continuamente. A soberania digital repousa antes sobre o domínio das dependências: saber o que se utiliza, compreender suficientemente como aquilo funciona, poder avaliar seus riscos, conservar a propriedade de suas decisões e manter possibilidades críveis de evolução, de substituição e de saída.
Essa capacidade pode perfeitamente ser desenvolvida com expertises externas sem que a organização terceirize, por isso, sua competência estratégica. Na Quantum Beyond, nosso papel é precisamente permitir que as organizações tenham acesso às expertises especializadas necessárias sem ter de recrutá-las e mantê-las todas internamente. Nossos especialistas trabalham ao lado das equipes do cliente e de seus parceiros tecnológicos para trazer uma capacidade independente em arquitetura, avaliação, governança, cibersegurança, Hipersegurança e soberania digital, deixando ao mesmo tempo ao cliente o domínio de suas escolhas e de suas decisões.
Essa abordagem permite beneficiar-se dos melhores modelos, fornecedores e tecnologias disponíveis, preservando ao mesmo tempo a autonomia necessária para avaliá-los, questioná-los e substituí-los quando as necessidades evoluírem. A expertise especializada pode ser mutualizada e delegada, enquanto a compreensão dos desafios, o domínio das escolhas e a autoridade decisória permanecem no centro da organização.
É provavelmente aí que se encontra um dos equilíbrios mais importantes da próxima década tecnológica. Aproveitar plenamente um ecossistema mundial de inovação exige saber construir dependências escolhidas em vez de sofridas. A soberania digital não pedirá às organizações que possuam tudo nem que saibam fazer tudo por si mesmas; ela lhes pedirá que saibam sempre de que dependem, por que escolheram essa dependência e como poderão tomar outra direção quando seus interesses o exigirem.