Single Point of Failure e inteligencia artificial
Las organizaciones dedicaron décadas a eliminar los puntos únicos de falla de sus infraestructuras informáticas. Multiplicaron los servidores, distribuyeron los datos, desarrollaron planes de continuidad, diversificaron las conexiones, crearon mecanismos de respaldo y aprendieron a evaluar los riesgos asociados a sus proveedores tecnológicos. La llegada masiva de la inteligencia artificial hace aparecer, sin embargo, una nueva forma de concentración, mucho menos visible, porque puede ocultarse detrás de una aparente diversidad de soluciones.
Una empresa puede hoy utilizar varios asistentes, copilotos, agentes, aplicaciones SaaS y soluciones especializadas y depender al mismo tiempo, detrás de esas interfaces diferentes, de un número muy limitado de modelos fundacionales, de proveedores de nube, de tecnologías, de datos o de componentes de software. Puede, por lo tanto, tener la impresión de haber diversificado su entorno cuando una parte importante de sus capacidades de inteligencia artificial descansa en unas pocas infraestructuras comunes.
El sector financiero canadiense empieza justamente a examinar esta cuestión. El informe FIFAI II, fruto de una colaboración que reúne, entre otros, a actores del sector financiero, organismos gubernamentales, reguladores y especialistas, subraya que la dependencia creciente de un pequeño número de proveedores de inteligencia artificial y la opacidad de las cadenas de suministro tecnológicas pueden aumentar la fragilidad sistémica. Las dependencias, por lo demás, ya no se detienen en el proveedor contratado directamente: pueden atravesar varias capas de modelos, datos, software, componentes de código abierto, potencia de cómputo e infraestructuras en la nube.
Esta evolución plantea una pregunta mucho más amplia para las organizaciones: ¿cómo beneficiarse de las mejores tecnologías disponibles sin convertirse en prisionero de ellas? La respuesta reside probablemente en un enfoque pragmático de la soberanía digital, fundado en la comprensión de las dependencias, la capacidad de evaluarlas, la preservación de las posibilidades de sustitución y el acceso a las experticias necesarias para seguir siendo dueño de sus decisiones.
La inteligencia artificial transforma rápidamente la arquitectura tecnológica de las organizaciones. Los modelos se convierten en componentes integrados en las herramientas de productividad, los entornos de desarrollo, los sistemas de relación con el cliente, las plataformas analíticas, las soluciones de ciberseguridad y progresivamente en los procesos decisionales y operativos. A medida que esta integración avanza, comprender la cadena tecnológica completa se vuelve más difícil, particularmente cuando varias soluciones comerciales descansan en infraestructuras o modelos comunes.
Una empresa puede así creer que utiliza veinte soluciones de inteligencia artificial diferentes cuando varias descansan en la misma familia de modelos, el mismo proveedor de nube o ciertas infraestructuras comunes. Las aplicaciones son diferentes, pero la dependencia subyacente puede ser idéntica. Aprendimos a buscar los Single Points of Failure en nuestras infraestructuras; con la inteligencia artificial, debemos ahora aprender a reconocer lo que podríamos llamar los Single Points of Intelligence.
Esta noción supera ampliamente la falla técnica. Una dependencia excesiva de una misma fuente de inteligencia artificial puede exponer varias funciones a una vulnerabilidad común, a una modificación del comportamiento de un modelo, a una evolución tarifaria, a un cambio contractual, a una restricción geográfica, a una decisión comercial del proveedor o a una transformación de sus políticas de uso. Puede igualmente crear correlaciones mucho más difíciles de detectar cuando varios sistemas utilizan modelos similares, comparten ciertos límites o se apoyan en fuentes de información comunes.
En el sector financiero, el informe FIFAI II plantea en particular la posibilidad de que sistemas entrenados con datos semejantes puedan producir comportamientos correlacionados en ciertas situaciones de mercado. El riesgo ya no proviene entonces únicamente de la falla individual de un sistema, sino de varios sistemas susceptibles de reaccionar de manera comparable ante el mismo evento. Esta concentración merece, por lo tanto, ser considerada como una cuestión de arquitectura y de resiliencia, particularmente cuando las capacidades de IA empiezan a participar directamente en los procesos operativos o decisionales.
La situación se vuelve aún más compleja cuando se examina la cadena de suministro de la inteligencia artificial. Un proveedor contratado directamente puede él mismo utilizar un modelo proveniente de otra empresa, que funciona sobre la infraestructura de nube de un tercer actor e integra componentes de código abierto, servicios o datos provenientes de otras organizaciones. Una empresa puede así estar expuesta a cuartas, quintas o enésimas partes con las cuales no mantiene ninguna relación contractual directa. Comprender estas dependencias se vuelve progresivamente tan importante como conocer a los proveedores que aparecen oficialmente en el portafolio tecnológico.
Esta comprensión constituye un componente esencial de la soberanía digital. Ser soberano no significa necesariamente poseer cada uno de los elementos tecnológicos que se utilizan. Una organización puede perfectamente elegir infraestructuras de nube internacionales, modelos propietarios, software comercial, soluciones de código abierto y proveedores especializados y conservar al mismo tiempo una fuerte autonomía. Esta autonomía descansa en su capacidad para comprender sus decisiones, conocer sus consecuencias y preservar suficientes opciones para evolucionar cuando las circunstancias cambien.
La autarquía digital constituye, por lo demás, rara vez una estrategia eficaz a mediano y largo plazo. Construir sistemáticamente sus propios modelos, alojar todas sus infraestructuras, desarrollar cada componente de software y mantener todas las experticias necesarias exigiría recursos considerables. Las tecnologías de inteligencia artificial evolucionan además a una velocidad tal que una organización podría dedicar enormes energías a mantener capacidades que no constituyen su oficio principal, experimentando al mismo tiempo cada vez más dificultad para conservar cada una de esas experticias al nivel requerido.
El informe FIFAI II describe justamente un fenómeno particularmente revelador: la velocidad de aprendizaje de las tecnologías puede superar la de las organizaciones. Modelos considerados revolucionarios algunos años antes quedan rápidamente superados, mientras que las arquitecturas, los agentes, los mecanismos de seguridad y las prácticas de gobernanza continúan evolucionando. Para las pymes, los organismos públicos e incluso varias grandes organizaciones cuya misión primera no es desarrollar tecnologías de inteligencia artificial, mantener internamente toda la profundidad de experticia necesaria se vuelve, por lo tanto, extremadamente difícil.
Una dependencia completa de los proveedores tecnológicos presenta, sin embargo, el problema inverso. Cuando una organización confía enteramente la comprensión de sus sistemas de IA a las empresas que los proveen, estas se convierten a la vez en diseñadoras, operadoras, evaluadoras e intérpretes principales de sus propias tecnologías. El cliente sigue siendo, no obstante, responsable de las consecuencias de su utilización y debe poder emitir un juicio independiente sobre los sistemas a los que confía progresivamente sus datos, sus procesos y a veces ciertas capacidades decisionales.
Esta capacidad de juicio independiente no requiere que todas las experticias figuren a tiempo completo en el organigrama. Exige más bien que la organización pueda acceder a especialistas lo bastante independientes de sus proveedores tecnológicos como para analizar las soluciones propuestas, cuestionar ciertas afirmaciones, probar los modelos, examinar las arquitecturas y determinar si las decisiones tomadas siguen siendo coherentes con sus intereses. Una empresa puede así delegar experticias extremadamente especializadas y conservar al mismo tiempo el dominio de sus decisiones y de su orientación tecnológica.
Esta distinción permite concebir la experticia externa de otro modo que como una simple externalización. Cuando está estructurada correctamente, se convierte en una extensión de la capacidad del cliente para ejercer su propia soberanía digital. La organización conserva el conocimiento de sus actividades, de sus datos, de sus objetivos, de sus responsabilidades y de sus decisiones, mientras que especialistas externos aportan las competencias específicas necesarias para comprender y evaluar las tecnologías en las que elige apoyarse.
Este enfoque cambia profundamente la relación con los proveedores de inteligencia artificial. Cuando una organización evalúa un nuevo modelo o una nueva plataforma, debe poder ir más allá de las demostraciones comerciales y de las comparaciones generales de desempeño para determinar cómo funciona la solución en su propio entorno, con sus datos, sus restricciones, sus riesgos y sus exigencias. Esto implica probar los modelos, comparar su desempeño, examinar los mecanismos de seguridad, comprender los flujos de datos, analizar las condiciones contractuales, identificar las dependencias subyacentes y evaluar lo que ocurriría si la tecnología debiera un día ser reemplazada.
Con los agentes de inteligencia artificial, este análisis se vuelve aún más importante. Un modelo que genera texto presenta un perfil de riesgo muy diferente al de un agente que dispone de una identidad, de permisos, de un acceso a los datos, de la capacidad de invocar API y del poder de efectuar acciones en los sistemas de la empresa. La evaluación debe entonces abarcar el conjunto de la arquitectura: el modelo, los datos, las herramientas, la identidad, los permisos, la memoria, la orquestación, la observabilidad y los mecanismos de intervención humana. La experticia necesaria se vuelve, por lo tanto, multidisciplinaria y supera ampliamente la sola capacidad de construir o configurar un modelo.
Esta evolución explica en parte por qué las organizaciones buscan profesionales experimentados capaces de haber atravesado varios proyectos de inteligencia artificial y de comprender sus implicaciones más allá de la tecnología misma. El desafío consiste en determinar cuándo una herramienta es apropiada, reconocer sus límites, comprender los riesgos creados por su integración e identificar los mecanismos que permiten conservar el control. Para ciertas organizaciones muy grandes, constituir varios equipos internos especializados puede ser realista. Para muchas otras, reproducir tal estructura sería costoso, complejo y difícil de mantener en el tiempo.
La mutualización de experticias específicas se vuelve entonces particularmente pertinente. Un equipo especializado que trabaja sobre diferentes arquitecturas, diferentes modelos, diferentes proveedores y diferentes sectores puede mantener una visión tecnológica mucho más amplia y actualizar continuamente su experticia. Cada organización puede así acceder a esa profundidad de competencia cuando la necesita, sin tener que reclutar individualmente a todos los especialistas necesarios ni mantener de manera permanente un equipo dimensionado para necesidades que varían a lo largo de los proyectos.
Es precisamente en este espacio donde Quantum Beyond pretende intervenir. Nuestro papel consiste en trabajar junto a los equipos de TI, los responsables de la seguridad, los especialistas de datos, los directivos y los socios tecnológicos ya presentes en el cliente a fin de añadir una capa de experticia independiente y transversal. Esta capa permite analizar el conjunto del ecosistema, aportar las competencias especializadas requeridas y preservar la capacidad del cliente para evaluar las soluciones que utiliza, incluso cuando su complejidad supera las experticias que sería razonable mantener enteramente de manera interna.
Una organización puede así continuar utilizando los mejores proveedores disponibles, adoptar diferentes modelos, operar arquitecturas de nube avanzadas e integrar progresivamente agentes de IA, teniendo al mismo tiempo acceso a las experticias necesarias para comprender sus implicaciones. Las competencias especializadas en gobernanza, IAM, Zero Trust, ciberseguridad, observabilidad, resiliencia, arquitectura y soberanía pueden movilizarse según las necesidades, mientras que la organización conserva el dominio de sus objetivos, de sus datos, de sus decisiones y de su evolución tecnológica.
Este enfoque permite igualmente preparar estrategias de sustitución y de salida antes de necesitarlas. Una organización realmente soberana no necesita necesariamente cambiar de proveedor con regularidad; debe, sin embargo, conservar una posibilidad creíble de hacerlo. La reversibilidad se convierte entonces en una propiedad de la arquitectura, lo que supone conocer los datos que hay que recuperar, las dependencias que hay que reemplazar, las integraciones que hay que modificar, las competencias necesarias para la transición y los plazos realistas para lograrlo. En ciertos entornos críticos, esta reflexión puede conducir igualmente a mantener varios modelos o varios proveedores a fin de reducir determinadas concentraciones.
El informe FIFAI II recomienda justamente que las organizaciones examinen periódicamente sus dependencias, sus concentraciones, sus estrategias de salida y de sustitución, realizando al mismo tiempo pruebas de resiliencia que consideren en particular perturbaciones correlacionadas en varios proveedores. Esta lógica se vincula directamente con una visión pragmática de la soberanía digital en la cual la dependencia puede ser elegida cuando sigue siendo comprendida, dominada y reversible.
La organización no tiene, por lo tanto, que elegir entre internalizarlo todo y externalizarlo todo. Puede conservar internamente el conocimiento profundo de sus actividades, de sus datos, de sus objetivos, de sus responsabilidades y de sus decisiones, apoyándose al mismo tiempo en especialistas externos en los ámbitos donde la profundidad tecnológica, la escasez de competencias o la velocidad de evolución hacen la mutualización mucho más eficaz. Los equipos internos conocen la empresa, los proveedores conocen sus productos y expertos independientes pueden aportar la visión transversal que permite confrontar a ambos. Es en ese equilibrio donde la organización puede preservar de manera duradera su autonomía decisional.
La inteligencia artificial no crea solamente nuevas posibilidades tecnológicas; transforma progresivamente la estructura de las dependencias digitales de las organizaciones. Detrás de una multitud de aplicaciones pueden esconderse unos pocos modelos, unas pocas infraestructuras de nube, unas pocas cadenas tecnológicas y un número relativamente limitado de proveedores críticos. A medida que la IA se integra en los procesos operativos, esta concentración puede convertirse en un nuevo tipo de Single Point of Failure: un Single Point of Intelligence.
La respuesta a esta concentración no reside en la autarquía digital. Una organización que intentara construir, alojar y dominar por sí sola todas las tecnologías que necesita correría el riesgo de dedicar una parte desproporcionada de sus recursos a mantener experticias que evolucionan continuamente. La soberanía digital descansa más bien en el dominio de las dependencias: saber qué se utiliza, comprender suficientemente cómo funciona, poder evaluar sus riesgos, conservar la propiedad de sus decisiones y mantener posibilidades creíbles de evolución, de sustitución y de salida.
Esta capacidad puede perfectamente desarrollarse con experticias externas sin que la organización externalice por ello su competencia estratégica. En Quantum Beyond, nuestro papel es precisamente permitir a las organizaciones acceder a las experticias especializadas necesarias sin tener que reclutarlas y mantenerlas todas internamente. Nuestros expertos trabajan junto a los equipos del cliente y a sus socios tecnológicos para aportar una capacidad independiente en arquitectura, evaluación, gobernanza, ciberseguridad, Hiperseguridad y soberanía digital, dejando al mismo tiempo al cliente el dominio de sus elecciones y de sus decisiones.
Este enfoque permite beneficiarse de los mejores modelos, proveedores y tecnologías disponibles preservando al mismo tiempo la autonomía necesaria para evaluarlos, cuestionarlos y reemplazarlos cuando las necesidades evolucionen. La experticia especializada puede mutualizarse y delegarse, mientras que la comprensión de los desafíos, el dominio de las elecciones y la autoridad decisional permanecen en el centro de la organización.
Es probablemente ahí donde se encuentra uno de los equilibrios más importantes de la próxima década tecnológica. Aprovechar plenamente un ecosistema mundial de innovación exige saber construir dependencias elegidas más que sufridas. La soberanía digital no pedirá a las organizaciones poseerlo todo ni saber hacerlo todo por sí mismas; les pedirá saber siempre de qué dependen, por qué eligieron esa dependencia y cómo podrán tomar otra dirección cuando sus intereses lo exijan.