Quando a IA encontra a IoT: as máquinas poderão agir

Durante grande parte de sua história, a Internet das Coisas serviu essencialmente para tornar o mundo físico observável pelos sistemas de informação. Um sensor mede uma temperatura, uma câmera transmite uma imagem, um veículo comunica sua posição e uma máquina industrial informa seu estado de funcionamento. Esses dados são em seguida encaminhados para uma plataforma onde softwares, analistas ou operadores podem consultá-los e determinar a ação a empreender.

A inteligência artificial começa a transformar profundamente essa arquitetura. Os sistemas podem doravante interpretar imagens, detectar anomalias, estabelecer relações entre diferentes dados e reconhecer situações que teriam sido difíceis de identificar com simples regras predefinidas. Os agentes de IA acrescentam uma capacidade adicional: eles podem utilizar essas informações para perseguir um objetivo, consultar outros sistemas, selecionar uma ação e eventualmente desencadear sua execução. Passamos assim progressivamente de uma Internet das Coisas que permite saber o que está ocorrendo para uma infraestrutura capaz de participar diretamente daquilo que deve ocorrer em seguida.

Essa convergência entre IoT, Edge Computing e inteligência artificial abre possibilidades consideráveis na indústria, na energia, no transporte, na logística, na agricultura, nos edifícios inteligentes e em vários outros setores. Ela introduz simultaneamente uma questão fundamental de governança: quando uma máquina pode observar seu ambiente, interpretar uma situação e agir, até onde estamos prontos a delegar-lhe a decisão?

O modelo tradicional de numerosos sistemas IoT repousa sobre uma separação relativamente clara entre a observação e a ação. O objeto mede uma condição física, transforma essa observação em dados e os transmite a um sistema central. Um alerta, um indicador ou um painel permite em seguida a uma pessoa interpretar a informação e decidir a próxima etapa.

Um sensor pode, por exemplo, detectar uma temperatura anormal em uma câmara fria. O sistema gera um alerta e um colaborador verifica a situação antes de decidir se é preciso intervir. Uma máquina industrial pode sinalizar uma vibração incomum e um técnico analisa a informação antes de determinar se uma inspeção ou uma parada é necessária.

Nessa arquitetura, o sistema de informação informa e o humano decide.

Essa abordagem funciona particularmente bem quando o número de informações a monitorar permanece razoável. O desafio muda consideravelmente quando uma organização opera milhares ou dezenas de milhares de equipamentos. A quantidade de dados e de alertas pode então ultrapassar a capacidade humana de interpretar tudo eficazmente.

A inteligência artificial traz uma primeira transformação ao permitir aproximar a interpretação da observação. Uma câmera tradicional produz uma imagem. Uma câmera que utiliza um modelo de visão pode igualmente reconhecer a presença de um veículo, detectar que uma zona normalmente livre está obstruída ou identificar um evento que exige uma atenção particular.

Em um ambiente industrial, um modelo pode analisar simultaneamente a temperatura, as vibrações, a pressão e o histórico de funcionamento de um equipamento. Uma combinação de valores que não acionaria nenhuma regra individual pode, no entanto, corresponder a uma situação incomum quando o conjunto do contexto é considerado.

O dado bruto adquire então uma significação operacional. Essa capacidade é particularmente importante nos ambientes onde o valor não provém do acúmulo dos dados, mas da rapidez com a qual uma situação significativa pode ser reconhecida. Uma organização não precisa necessariamente observar continuamente milhares de medições. Ela quer sobretudo saber quando uma situação merece sua atenção. A inteligência artificial pode assim contribuir para transformar um fluxo permanente de dados em eventos acionáveis.

O Edge Computing aproxima ainda mais essa capacidade do mundo físico. Quando a análise deve ser efetuada rapidamente, transmitir sistematicamente todos os dados para uma infraestrutura de nuvem nem sempre é necessário. Uma parte do processamento pode ser realizada diretamente no dispositivo ou em uma infraestrutura Edge situada nas proximidades.

Essa abordagem pode reduzir a latência, limitar certos volumes de dados transmitidos e manter certas funções quando a conexão com a nuvem torna-se temporariamente indisponível. Ela pode igualmente modificar consideravelmente a circulação da informação.

Uma câmera não precisa necessariamente transmitir continuamente todo o seu vídeo quando a necessidade operacional consiste em reconhecer alguns eventos precisos. Uma análise local pode identificar esses eventos e transmitir unicamente os metadados ou as sequências pertinentes. Uma máquina industrial pode igualmente analisar localmente seus dados de funcionamento a fim de distinguir as variações normais das situações que exigem uma intervenção.

A Edge AI aproxima, portanto, a inteligência da fonte da informação. E quanto mais essa inteligência se aproxima do mundo físico, mais a distância entre a observação e a ação pode diminuir. É com os agentes de IA que essa evolução assume uma dimensão ainda mais importante. Detectar uma anomalia constitui uma primeira etapa. Determinar o que é preciso fazer em seguida constitui outra.

Imaginemos que um sistema detecte uma variação incomum em um equipamento industrial. Um agente pode consultar o histórico de manutenção, verificar as intervenções anteriores, comparar os dados com os de equipamentos similares e consultar a disponibilidade dos técnicos. Ele pode em seguida preparar uma recomendação, abrir uma solicitação de intervenção e transmitir as informações necessárias à pessoa responsável. Com um nível de autonomia superior, ele poderia igualmente modificar temporariamente certos parâmetros quando condições claramente definidas estiverem reunidas. A cadeia torna-se então: observar → interpretar → decidir → agir.

Esse ciclo representa uma evolução de grande porte porque conecta diretamente o mundo físico e o mundo digital. Uma informação proveniente de um equipamento pode acarretar uma decisão digital que produz em seguida uma consequência física. A automação torna-se mais contextual e pode se adaptar a situações que nem sempre se reduzem a uma regra simples.

Essa evolução não torna, contudo, a automação tradicional menos pertinente. As organizações automatizam equipamentos há várias décadas. Os controladores lógicos programáveis, sistemas de controle industriais e softwares de gestão já executam regras que permitem desencadear automaticamente ações.

Quando uma condição é conhecida e determinística, uma regra tradicional permanece frequentemente a melhor solução. Se uma temperatura ultrapassa um limiar crítico claramente estabelecido, parar imediatamente um equipamento pode ser infinitamente mais apropriado do que pedir a um modelo de inteligência artificial que interprete a situação.

A IA traz mais valor quando várias informações devem ser interpretadas em conjunto, quando um contexto deve ser reconhecido ou quando várias possibilidades devem ser consideradas. Um agente pode receber um objetivo geral e determinar certas etapas necessárias para atingi-lo. Essa flexibilidade aumenta as possibilidades de automação e introduz simultaneamente uma variabilidade que deve ser governada. A arquitetura inteligente não consiste, portanto, em colocar IA em toda parte. Ela consiste em utilizar cada tecnologia onde suas características criam realmente valor.

A partir do momento em que um sistema pode agir, a questão central torna-se a da autoridade. Um agente que recomenda a inspeção de uma máquina não exerce o mesmo nível de autonomia que um agente capaz de pará-la. Um sistema que prepara um pedido de suprimentos não apresenta o mesmo risco que um sistema autorizado a transmiti-lo diretamente ao fornecedor.

As organizações deverão, portanto, definir níveis de autonomia conforme a natureza da ação, sua reversibilidade, o contexto e as consequências potenciais de um erro.

Certas decisões poderão ser inteiramente automatizadas quando os riscos forem baixos e os limites claramente definidos. Outras poderão ser preparadas pela IA e depois validadas por uma pessoa. As decisões suscetíveis de acarretar consequências importantes poderão continuar a exigir explicitamente uma autorização humana.

A maturidade não consistirá em maximizar a autonomia. Ela consistirá em atribuir o nível de autonomia apropriado a cada situação.

Essa distinção é essencial porque a expressão “humano no circuito” pode dar uma falsa impressão de controle. Acrescentar uma validação humana não garante automaticamente uma melhor governança. Se um operador recebe várias centenas de recomendações a cada dia e deve simplesmente clicar em “aprovar”, sua presença pode rapidamente tornar-se simbólica.

O julgamento humano deve ser colocado onde traz um valor real. Um sistema pode tratar automaticamente as situações correntes e transferir as exceções a uma pessoa que possua a expertise necessária. Ele pode igualmente fornecer o contexto que conduziu à sua recomendação a fim de que a decisão humana seja realmente esclarecida.

O objetivo consiste em combinar a capacidade das máquinas de processar rapidamente grandes quantidades de informação com a capacidade humana de compreender as situações incomuns, as consequências mais amplas e os elementos difíceis de reduzir a dados. O humano permanece então um componente ativo do sistema decisório.

A identidade torna-se também fundamental assim que uma máquina pode agir. Já não basta saber que uma informação provém de um sensor. É preciso poder determinar qual identidade a produziu, qual sistema a interpretou, qual agente solicitou uma ação e qual dispositivo finalmente a executou. Essa cadeia de confiança deve ser rastreável.

Quando um agente se comunica com uma máquina, o equipamento deve poder verificar que se trata de uma entidade autorizada. O agente deve possuir unicamente as permissões necessárias à sua função. Um comprometimento de sua identidade não deveria permitir-lhe estender sua ação ao conjunto da infraestrutura.

O menor privilégio, o Zero Trust e o Continuous Trust tornam-se assim princípios diretamente operacionais. Quanto mais uma máquina possui a capacidade de agir, mais sua identidade, suas permissões e seu contexto tornam-se importantes. A cibersegurança deve então proteger mais do que os dispositivos e as comunicações. Ela deve igualmente proteger o processo decisório.

Um atacante não precisa necessariamente assumir o controle completo de um equipamento se puder influenciar as informações utilizadas pelo sistema para decidir. Dados falsificados, uma fonte comprometida ou uma modificação do contexto podem eventualmente levar um sistema tecnicamente funcional a tomar uma má decisão.

A confiança deve, portanto, ser estabelecida em toda a cadeia: proveniência dos dados, identidade dos dispositivos, integridade das comunicações, comportamento dos modelos, permissões dos agentes e legitimidade dos comandos transmitidos.

A questão de cibersegurança se amplia então. É preciso continuar a proteger as informações contra o roubo, a modificação ou a destruição, protegendo ao mesmo tempo a capacidade da organização de tomar e executar boas decisões.

Essa perspectiva se conecta diretamente à Hipersegurança. Em um ambiente composto de sistemas inteligentes e distribuídos, a segurança reside na capacidade de proteger as interações entre os dados, as identidades, os modelos, os agentes e os sistemas físicos. Um comprometimento situado em uma única etapa pode influenciar o conjunto da cadeia decisória.

O aumento da autonomia deve, portanto, vir acompanhado de uma capacidade proporcional de retomar o controle. Um sistema autônomo deve ser concebido considerando a possibilidade de que ele se comporte de uma maneira inesperada. Mecanismos devem permitir reduzir suas permissões, desativar uma função, isolar um dispositivo ou exigir uma nova validação quando certas condições forem atingidas.

Esses mecanismos não constituem uma fraqueza da automação. Eles são uma propriedade de sua resiliência.

As organizações já aplicam princípios comparáveis às pessoas. Certas transações exigem várias aprovações, as responsabilidades são separadas e os colaboradores dispõem de limites de autoridade. Procedimentos de emergência permitem igualmente interromper um equipamento ou um processo quando as condições tornam-se perigosas.

Os sistemas autônomos devem ser submetidos à mesma lógica de governança. Quanto mais sua capacidade de ação aumenta, mais a capacidade de limitar ou de retomar rapidamente essa ação torna-se importante.

O verdadeiro potencial aparece, contudo, quando vários sistemas começam a colaborar. Um edifício inteligente pode combinar informações sobre a temperatura, a ocupação, a qualidade do ar e o consumo de energia a fim de adaptar suas operações à situação real. Uma cadeia logística pode reunir a posição dos veículos, o estado das mercadorias, as condições meteorológicas, os prazos e a disponibilidade dos recursos a fim de detectar uma perturbação e preparar uma adaptação.

Uma fábrica pode combinar os dados de produção, o estado dos equipamentos, a qualidade, os estoques e os pedidos a fim de identificar que um problema técnico corre o risco de afetar em breve uma entrega.

O valor já não provém então unicamente de um sensor inteligente ou de um modelo particularmente eficiente. Ele vem da capacidade do conjunto do sistema de compreender suficientemente uma situação para coordenar uma resposta.

A arquitetura torna-se assim tão importante quanto a própria inteligência artificial.

Essa realidade assume uma importância particular quando as decisões digitais produzem consequências no mundo físico. Um erro em um texto gerado por uma IA pode ser constrangedor ou custoso. Uma má decisão aplicada a uma máquina industrial, um veículo, um sistema de energia ou uma infraestrutura crítica pode ter consequências muito mais importantes. A passagem da IA informacional para a IA operacional muda, portanto, a natureza do risco.

O desempenho de um sistema autônomo não pode ser medido unicamente pela quantidade de decisões que ele toma sem intervenção humana. Sua confiabilidade, sua previsibilidade, sua segurança, a qualidade de suas decisões, sua capacidade de detectar as situações incomuns e sobretudo sua capacidade de reconhecer as circunstâncias nas quais não deveria agir tornam-se igualmente importantes.

Essa última capacidade poderia, aliás, tornar-se um dos sinais mais importantes de maturidade de um sistema autônomo: saber quando agir e saber quando parar. A convergência entre IA e IoT faz assim emergir uma nova responsabilidade organizacional: a governança da autonomia das máquinas.

As empresas deverão determinar quais informações os sistemas podem observar, quais fontes podem utilizar, quais decisões podem ser tomadas automaticamente e quais ações podem ser executadas sem intervenção humana. Elas deverão igualmente definir os responsáveis por esses sistemas, os mecanismos de auditoria, os limites de autoridade e os procedimentos que permitem retomar o controle.

Essa governança não pode pertencer exclusivamente às equipes de inteligência artificial ou às equipes de TI. Ela deve reunir os responsáveis pelas operações, pela cibersegurança, pelas tecnologias, pela conformidade e pela gestão dos riscos, assim como os especialistas que compreendem realmente os equipamentos e os processos em questão.

Uma decisão tomada por uma máquina permanece uma decisão integrada a um processo de negócio. Sua governança deve, portanto, ser integrada à da organização.

A convergência entre a Internet das Coisas, o Edge Computing e a inteligência artificial representa muito mais do que uma melhoria dos sensores ou das plataformas IoT. Ela transforma progressivamente a relação entre os sistemas digitais e o mundo físico.

Os objetos conectados nos permitiram observar à distância o que ocorre em nossas máquinas, nossos veículos, nossos edifícios e nossas infraestruturas. A inteligência artificial permite agora interpretar mais essas observações. Os agentes acrescentam progressivamente a capacidade de selecionar e de desencadear certas ações.

O ciclo se fecha: observar, interpretar, decidir e agir.

Para as organizações, essa capacidade abre possibilidades consideráveis em matéria de produtividade, de manutenção, de qualidade, de logística, de gestão de energia e de resiliência operacional. Ela exige simultaneamente uma arquitetura muito mais rigorosa em torno das identidades, das permissões, da rastreabilidade, da proveniência dos dados, da cibersegurança e dos níveis de autonomia concedidos aos sistemas.

Essa evolução representa igualmente uma nova dimensão da Hipersegurança. Quando as máquinas começam a agir, proteger a infraestrutura significa também proteger a cadeia que transforma uma observação em decisão e depois uma decisão em ação. A identidade, o Zero Trust, o Continuous Trust, o menor privilégio, a governança da IA e a resiliência devem então funcionar como os componentes de uma mesma arquitetura.

Na Quantum Beyond, essa convergência se conecta diretamente aos nossos trabalhos em infraestruturas Edge, Qb OS Edge, Q-Carbon Security Systems, identidade digital, Hipersegurança e governança da inteligência artificial. Nossos especialistas trabalham ao lado das equipes tecnológicas e operacionais para conceber ambientes nos quais a inteligência pode ser distribuída conservando ao mesmo tempo limites de autoridade claros, uma rastreabilidade das ações e a capacidade humana de retomar o controle quando a situação o exige.

Outrora, a questão essencial da IoT era saber como conectar as máquinas e recuperar seus dados. A próxima etapa é muito mais profunda. Deveremos determinar quais decisões estamos prontos a delegar às máquinas, em quais circunstâncias, com qual nível de autoridade e com qual capacidade de retomar o controle. Pois quando a inteligência artificial deixa progressivamente as telas para agir no mundo físico, a questão já não é apenas saber o que a máquina é capaz de fazer. É preciso também decidir o que ela tem o direito de fazer.