Cuando la IA se encuentra con el IoT: las máquinas podrán actuar
Durante gran parte de su historia, el Internet de las cosas sirvió esencialmente para volver el mundo físico observable por los sistemas informáticos. Un sensor mide una temperatura, una cámara transmite una imagen, un vehículo comunica su posición y una máquina industrial reporta su estado de funcionamiento. Esos datos se envían luego a una plataforma donde programas, analistas u operadores pueden consultarlos y determinar la acción que hay que emprender.
La inteligencia artificial empieza a transformar profundamente esta arquitectura. Los sistemas pueden ahora interpretar imágenes, detectar anomalías, establecer relaciones entre distintos datos y reconocer situaciones que habrían sido difíciles de identificar con simples reglas predefinidas. Los agentes de IA añaden una capacidad adicional: pueden utilizar esa información para perseguir un objetivo, consultar otros sistemas, seleccionar una acción y eventualmente desencadenar su ejecución. Pasamos así progresivamente de un Internet de las cosas que permite saber lo que ocurre a una infraestructura capaz de participar directamente en lo que debe ocurrir a continuación.
Esta convergencia entre IoT, Edge Computing e inteligencia artificial abre posibilidades considerables en la industria, la energía, el transporte, la logística, la agricultura, los edificios inteligentes y varios otros sectores. Al mismo tiempo, introduce una cuestión fundamental de gobernanza: cuando una máquina puede observar su entorno, interpretar una situación y actuar, ¿hasta dónde estamos dispuestos a delegarle la decisión?
El modelo tradicional de numerosos sistemas IoT se basa en una separación relativamente clara entre la observación y la acción. El objeto mide una condición física, transforma esa observación en datos y los transmite a un sistema central. Una alerta, un indicador o un tablero permite luego a una persona interpretar la información y decidir la siguiente etapa.
Un sensor puede, por ejemplo, detectar una temperatura anormal en una cámara frigorífica. El sistema genera una alerta y un empleado verifica la situación antes de decidir si hay que intervenir. Una máquina industrial puede señalar una vibración inusual y un técnico analiza la información antes de determinar si es necesaria una inspección o una parada.
En esta arquitectura, el sistema informático informa y el humano decide.
Este enfoque funciona especialmente bien cuando la cantidad de información que hay que vigilar sigue siendo razonable. El desafío cambia considerablemente cuando una organización opera miles o decenas de miles de equipos. La cantidad de datos y de alertas puede superar entonces la capacidad humana de interpretarlo todo con eficacia.
La inteligencia artificial aporta una primera transformación al permitir acercar la interpretación a la observación. Una cámara tradicional produce una imagen. Una cámara que utiliza un modelo de visión también puede reconocer la presencia de un vehículo, detectar que una zona normalmente despejada está obstruida o identificar un evento que requiere una atención particular.
En un entorno industrial, un modelo puede analizar simultáneamente la temperatura, las vibraciones, la presión y el historial de funcionamiento de un equipo. Una combinación de valores que no activaría ninguna regla individual puede corresponder, no obstante, a una situación inusual cuando se considera el contexto en su conjunto.
El dato bruto adquiere entonces un significado operativo. Esta capacidad es especialmente importante en los entornos donde el valor no proviene de la acumulación de datos, sino de la rapidez con la que puede reconocerse una situación significativa. Una organización no necesita necesariamente observar continuamente miles de mediciones. Sobre todo quiere saber cuándo una situación merece su atención. La inteligencia artificial puede contribuir así a transformar un flujo permanente de datos en eventos accionables.
El Edge Computing acerca todavía más esa capacidad al mundo físico. Cuando el análisis debe efectuarse rápidamente, no siempre es necesario transmitir sistemáticamente todos los datos a una infraestructura en la nube. Una parte del procesamiento puede realizarse directamente en el dispositivo o en una infraestructura Edge situada en las cercanías.
Este enfoque puede reducir la latencia, limitar ciertos volúmenes de datos transmitidos y mantener ciertas funciones cuando la conexión con la nube deja de estar disponible temporalmente. También puede modificar considerablemente la circulación de la información.
Una cámara no necesita necesariamente transmitir continuamente todo su video cuando la necesidad operativa consiste en reconocer algunos eventos precisos. Un análisis local puede identificar esos eventos y transmitir únicamente los metadatos o las secuencias pertinentes. Una máquina industrial también puede analizar localmente sus datos de funcionamiento a fin de distinguir las variaciones normales de las situaciones que requieren una intervención.
La Edge AI acerca, por lo tanto, la inteligencia a la fuente de la información. Y cuanto más se acerca esa inteligencia al mundo físico, más puede disminuir la distancia entre la observación y la acción. Es con los agentes de IA que esta evolución adquiere una dimensión aún más importante. Detectar una anomalía constituye una primera etapa. Determinar qué hay que hacer a continuación constituye otra.
Imaginemos que un sistema detecta una variación inusual en un equipo industrial. Un agente puede consultar el historial de mantenimiento, verificar las intervenciones anteriores, comparar los datos con los de equipos similares y consultar la disponibilidad de los técnicos. Luego puede preparar una recomendación, abrir una solicitud de intervención y transmitir la información necesaria a la persona responsable. Con un nivel de autonomía superior, también podría modificar temporalmente ciertos parámetros cuando se reúnen condiciones claramente definidas. La cadena se vuelve entonces: observar → interpretar → decidir → actuar.
Este circuito representa una evolución mayor porque vincula directamente el mundo físico y el mundo digital. Una información procedente de un equipo puede dar lugar a una decisión digital que produce luego una consecuencia física. La automatización se vuelve más contextual y puede adaptarse a situaciones que no siempre se reducen a una regla sencilla.
Sin embargo, esta evolución no vuelve menos pertinente la automatización tradicional. Las organizaciones automatizan equipos desde hace varias décadas. Los autómatas programables, los sistemas de control industrial y los programas de gestión ya ejecutan reglas que permiten desencadenar automáticamente acciones.
Cuando una condición es conocida y determinista, una regla tradicional sigue siendo a menudo la mejor solución. Si una temperatura supera un umbral crítico claramente establecido, detener inmediatamente un equipo puede ser infinitamente más apropiado que pedirle a un modelo de inteligencia artificial que interprete la situación.
La IA aporta más valor cuando varias informaciones deben interpretarse en conjunto, cuando hay que reconocer un contexto o cuando deben considerarse varias posibilidades. Un agente puede recibir un objetivo general y determinar ciertas etapas necesarias para alcanzarlo. Esa flexibilidad aumenta las posibilidades de automatización e introduce simultáneamente una variabilidad que debe gobernarse. La arquitectura inteligente no consiste, por lo tanto, en poner IA en todas partes. Consiste en utilizar cada tecnología allí donde sus características crean realmente valor.
A partir del momento en que un sistema puede actuar, la cuestión central pasa a ser la de la autoridad. Un agente que recomienda la inspección de una máquina no ejerce el mismo nivel de autonomía que un agente capaz de detenerla. Un sistema que prepara un pedido de abastecimiento no presenta el mismo riesgo que un sistema autorizado a transmitirlo directamente al proveedor.
Las organizaciones deberán, por lo tanto, definir niveles de autonomía según la naturaleza de la acción, su reversibilidad, el contexto y las consecuencias potenciales de un error.
Ciertas decisiones podrán automatizarse por completo cuando los riesgos sean bajos y los límites estén claramente definidos. Otras podrán ser preparadas por la IA y luego validadas por una persona. Las decisiones susceptibles de acarrear consecuencias importantes podrán seguir exigiendo explícitamente una autorización humana.
La madurez no consistirá en maximizar la autonomía. Consistirá en atribuir el nivel de autonomía apropiado a cada situación.
Esta distinción es esencial porque la expresión “humano en el circuito” puede dar una falsa impresión de control. Añadir una validación humana no garantiza automáticamente una mejor gobernanza. Si un operador recibe varios cientos de recomendaciones cada día y debe simplemente hacer clic en “aprobar”, su presencia puede volverse rápidamente simbólica.
El juicio humano debe situarse allí donde aporta un valor real. Un sistema puede tratar automáticamente las situaciones corrientes y transferir las excepciones a una persona que posea la experticia necesaria. También puede proporcionar el contexto que condujo a su recomendación a fin de que la decisión humana esté realmente informada.
El objetivo consiste en combinar la capacidad de las máquinas de procesar rápidamente grandes cantidades de información con la capacidad humana de comprender las situaciones inusuales, las consecuencias más amplias y los elementos difíciles de reducir a datos. El humano sigue siendo entonces un componente activo del sistema de decisión.
La identidad también se vuelve fundamental en cuanto una máquina puede actuar. Ya no basta con saber que una información proviene de un sensor. Hay que poder determinar qué identidad la produjo, qué sistema la interpretó, qué agente solicitó una acción y qué dispositivo la ejecutó finalmente. Esa cadena de confianza debe ser trazable.
Cuando un agente se comunica con una máquina, el equipo debe poder verificar que se trata de una entidad autorizada. El agente debe poseer únicamente los permisos necesarios para su función. Un compromiso de su identidad no debería permitirle extender su acción al conjunto de la infraestructura.
El mínimo privilegio, el Zero Trust y el Continuous Trust se convierten así en principios directamente operativos. Cuanta más capacidad de actuar posee una máquina, más importantes se vuelven su identidad, sus permisos y su contexto. La ciberseguridad debe entonces proteger algo más que los dispositivos y las comunicaciones. También debe proteger el proceso de decisión.
Un atacante no necesita necesariamente tomar el control completo de un equipo si puede influir en la información que el sistema utiliza para decidir. Datos falsificados, una fuente comprometida o una modificación del contexto pueden eventualmente llevar a un sistema técnicamente funcional a tomar una mala decisión.
La confianza debe, por lo tanto, establecerse en toda la cadena: procedencia de los datos, identidad de los dispositivos, integridad de las comunicaciones, comportamiento de los modelos, permisos de los agentes y legitimidad de los comandos transmitidos.
La cuestión de la ciberseguridad se amplía entonces. Hay que seguir protegiendo la información contra el robo, la modificación o la destrucción, protegiendo al mismo tiempo la capacidad de la organización de tomar y ejecutar buenas decisiones.
Esta perspectiva se conecta directamente con la Hiperseguridad. En un entorno compuesto por sistemas inteligentes y distribuidos, la seguridad reside en la capacidad de proteger las interacciones entre los datos, las identidades, los modelos, los agentes y los sistemas físicos. Un compromiso situado en una sola etapa puede influir en toda la cadena de decisión.
El aumento de la autonomía debe, por lo tanto, ir acompañado de una capacidad proporcional de retomar el control. Un sistema autónomo debe diseñarse considerando la posibilidad de que se comporte de una manera inesperada. Deben existir mecanismos que permitan reducir sus permisos, desactivar una función, aislar un dispositivo o exigir una nueva validación cuando se alcanzan ciertas condiciones.
Estos mecanismos no constituyen una debilidad de la automatización. Son una propiedad de su resiliencia.
Las organizaciones ya aplican principios comparables a las personas. Ciertas transacciones requieren varias aprobaciones, las responsabilidades están separadas y los empleados disponen de límites de autoridad. Los procedimientos de emergencia también permiten detener un equipo o un proceso cuando las condiciones se vuelven peligrosas.
Los sistemas autónomos deben someterse a la misma lógica de gobernanza. Cuanto más aumenta su capacidad de acción, más importante se vuelve la capacidad de limitar o de retomar rápidamente esa acción.
Sin embargo, el verdadero potencial aparece cuando varios sistemas empiezan a colaborar. Un edificio inteligente puede combinar información sobre la temperatura, la ocupación, la calidad del aire y el consumo energético a fin de adaptar sus operaciones a la situación real. Una cadena logística puede reunir la posición de los vehículos, el estado de las mercancías, las condiciones meteorológicas, los plazos y la disponibilidad de los recursos a fin de detectar una perturbación y preparar una adaptación.
Una fábrica puede combinar los datos de producción, el estado de los equipos, la calidad, los inventarios y los pedidos a fin de identificar que un problema técnico corre el riesgo de afectar pronto una entrega.
El valor ya no proviene entonces únicamente de un sensor inteligente o de un modelo particularmente eficaz. Proviene de la capacidad del conjunto del sistema de comprender suficientemente una situación como para coordinar una respuesta.
La arquitectura se vuelve así tan importante como la propia inteligencia artificial.
Esta realidad adquiere una importancia particular cuando las decisiones digitales producen consecuencias en el mundo físico. Un error en un texto generado por una IA puede ser embarazoso o costoso. Una mala decisión aplicada a una máquina industrial, un vehículo, un sistema energético o una infraestructura crítica puede tener consecuencias mucho más importantes. El paso de la IA informacional a la IA operativa cambia, por lo tanto, la naturaleza del riesgo.
El desempeño de un sistema autónomo no puede medirse únicamente por la cantidad de decisiones que toma sin intervención humana. Su fiabilidad, su previsibilidad, su seguridad, la calidad de sus decisiones, su capacidad de detectar las situaciones inusuales y, sobre todo, su capacidad de reconocer las circunstancias en las que no debería actuar se vuelven igual de importantes.
Esta última capacidad podría, por cierto, convertirse en uno de los signos más importantes de madurez de un sistema autónomo: saber cuándo actuar y saber cuándo detenerse. La convergencia entre IA e IoT hace surgir así una nueva responsabilidad organizacional: la gobernanza de la autonomía de las máquinas.
Las empresas deberán determinar qué información pueden observar los sistemas, qué fuentes pueden utilizar, qué decisiones pueden tomarse automáticamente y qué acciones pueden ejecutarse sin intervención humana. También deberán definir los responsables de esos sistemas, los mecanismos de auditoría, los límites de autoridad y los procedimientos que permiten retomar el control.
Esta gobernanza no puede pertenecer exclusivamente a los equipos de inteligencia artificial ni a los equipos de TI. Debe reunir a los responsables de las operaciones, de la ciberseguridad, de las tecnologías, del cumplimiento y de la gestión de riesgos, así como a los especialistas que comprenden realmente los equipos y los procesos involucrados.
Una decisión tomada por una máquina sigue siendo una decisión integrada a un proceso de negocio. Su gobernanza debe, por lo tanto, integrarse a la de la organización.
La convergencia entre el Internet de las cosas, el Edge Computing y la inteligencia artificial representa mucho más que una mejora de los sensores o de las plataformas IoT. Transforma progresivamente la relación entre los sistemas digitales y el mundo físico.
Los objetos conectados nos permitieron observar a distancia lo que ocurre en nuestras máquinas, nuestros vehículos, nuestros edificios y nuestras infraestructuras. La inteligencia artificial permite ahora interpretar más esas observaciones. Los agentes añaden progresivamente la capacidad de seleccionar y de desencadenar ciertas acciones.
El circuito se cierra: observar, interpretar, decidir y actuar.
Para las organizaciones, esta capacidad abre posibilidades considerables en materia de productividad, mantenimiento, calidad, logística, gestión energética y resiliencia operativa. Al mismo tiempo, exige una arquitectura mucho más rigurosa en torno a las identidades, los permisos, la trazabilidad, la procedencia de los datos, la ciberseguridad y los niveles de autonomía otorgados a los sistemas.
Esta evolución representa también una nueva dimensión de la Hiperseguridad. Cuando las máquinas empiezan a actuar, proteger la infraestructura significa también proteger la cadena que transforma una observación en decisión y luego una decisión en acción. La identidad, el Zero Trust, el Continuous Trust, el mínimo privilegio, la gobernanza de la IA y la resiliencia deben funcionar entonces como los componentes de una misma arquitectura.
En Quantum Beyond, esta convergencia se conecta directamente con nuestros trabajos en infraestructuras Edge, Qb OS Edge, Q-Carbon Security Systems, identidad digital, Hiperseguridad y gobernanza de la inteligencia artificial. Nuestros expertos trabajan junto a los equipos tecnológicos y operativos para diseñar entornos donde la inteligencia pueda distribuirse conservando límites de autoridad claros, una trazabilidad de las acciones y la capacidad humana de retomar el control cuando la situación lo exige.
Antaño, la cuestión esencial del IoT era saber cómo conectar las máquinas y recuperar sus datos. La siguiente etapa es mucho más profunda. Deberemos determinar qué decisiones estamos dispuestos a delegar a las máquinas, en qué circunstancias, con qué nivel de autoridad y con qué capacidad de retomar el control. Porque cuando la inteligencia artificial abandona progresivamente las pantallas para actuar en el mundo físico, la cuestión ya no es solo saber qué es capaz de hacer la máquina. También hay que decidir qué tiene derecho a hacer.