En el actual escenario empresarial, el principal peligro no proviene de un solo agente autónomo funcionando aisladamente, sino de la complejidad que se genera cuando numerosos agentes interactúan entre sí en sistemas interconectados que sobrepasan la capacidad humana para gestionarlos adecuadamente.
Las empresas no suelen desplegar un único agente de inteligencia artificial (IA) y monitorizarlo individualmente, sino que implementan flotas completas. Estas flotas realizan llamadas constantes a APIs, interactúan con otros agentes y acceden a aplicaciones que rara vez fueron diseñadas pensando en sistemas automatizados de toma de decisiones. Esta multiplicidad de conexiones genera un entramado oscuro y difícil de supervisar, con numerosos puntos de interacción que aumentan exponencialmente las posibilidades de fallos y vulnerabilidades.
La complejidad no crece de manera lineal con el número de agentes; un solo nuevo agente añade múltiples posibles conexiones y caminos de interacción que se ramifican y retroalimentan, dando lugar a una red difícil de visualizar o controlar. Por ejemplo, un ticket de soporte que antes involucraba un único sistema puede ahora pasar por cuatro o más agentes antes de que un humano lo revise, y cada transición es un punto donde se toman decisiones sin una aprobación clara o un responsable definido. 
Muchas iniciativas de IA en las empresas fracasan porque los responsables pierden el control al no entender esta red de interacciones. Cuando se pregunta a los equipos de seguridad acerca de qué agentes tienen acceso a qué sistemas o qué agentes desencadenaron acciones específicas en una cadena de eventos, suelen responder con silencio, evidenciando la falta de trazabilidad y supervisión.
El error común es tratar el problema con listas de verificación puntuales: aprobar un agente, registrarlo y seguir adelante. Pero la complejidad de las cadenas requiere supervisar las conexiones a lo largo de todo el proceso, no solo aprobar cada agente de manera aislada. Un sistema de gobiernos basado solo en aprobaciones individuales no es suficiente para controlar interacciones en cascada.
La raíz del problema aparece cuando comienzan a acumularse permisos descontrolados. Por ejemplo, un agente que inicialmente fue creado para resumir tickets de soporte puede acabar con acceso al sistema de pagos simplemente porque se amplió su ámbito para evitar un esfuerzo adicional. Nadie registró ni aprobó ese acceso, pero existe. Además, la responsabilidad se diluye conforme avanza la cadena: si cinco agentes intervienen en un flujo y surge un fallo en el cuarto, nadie tiene claro quién responde por esa etapa, ya que generalmente solo existe quien desplegó el agente, no la persona responsable de cada eslabón.
Este es un problema de infraestructura de gobernanza que no ha evolucionado a la par con el comportamiento real de los agentes, cuya interconexión y multiplicidad supera a las herramientas actuales de seguimiento y control.
Una solución fundamental comienza por la identidad clara de cada agente: cada uno debe ser una entidad única, no solo un conjunto de permisos heredados de quien lo creó. Debe tener un nombre propio, una autoridad limitada y bien definida, y un patrocinador humano que responda por sus acciones. Sin embargo, esta medida es necesaria pero insuficiente.
El verdadero escollo reside en la supervisión que debe abarcar toda la cadena completa de interacciones, no solo cada eslabón individual. Es indispensable observar en tiempo real lo que un agente realiza, qué acciones desencadena a continuación y dónde termina ese flujo. No basta con generar informes periódicos ni acumular documentación perfecta de cada agente si no se entiende cómo actúan conjuntamente dentro del sistema.
Además, la supervisión pasiva solo indica lo que ya ha sucedido. Controlar una cadena significa evitar que se ejecuten llamadas o acciones fuera de política antes de que ocurran, en vez de detectarlas después. Un tablero que muestra una infracción minutos después de su ocurrencia es solo una herramienta de monitoreo. Un sistema capaz de bloquear esa acción en tiempo real representa una verdadera gobernanza. Las empresas que se toman en serio la responsabilidad de sus agentes necesitan ambas capacidades, aunque la mayoría solo ha desarrollado la primera.
En la carrera por no quedarse atrás en la adopción de IA, las empresas son conscientes del coste que implica frenar su avance, pero tarde o temprano enfrentan el muro de la complejidad. Solo aquellas que invierten en visibilidad y responsabilidad logran escalar sus flotas de agentes sin perder el control sobre qué está haciendo cada sistema en cada momento y quién responde por ello.
Es importante no confundir complejidad con necesidad de detenerse. Las organizaciones que gestionan adecuadamente esta complejidad no frenan, sino que miran hacia un futuro donde la armonía entre humanos y agentes permita que la expansión simultánea de la capacidad y la rendición de cuentas vaya de la mano.
El verdadero peligro nunca fue un agente actuando tal como se esperaba, sino cientos de ellos funcionando a la vez, interactuando en combinaciones no previstas ni diseñadas, generando un efecto multiplicador que condena a muchas empresas a perpetuar pilotos en lugar de escalar a producciones reales.
Solucionar la complejidad interna transforma a la autonomía en una ventaja, convirtiéndola en el eje central de la evolución tecnológica empresarial.
Rory Blundell es CEO de Gravitee.
