Los incidentes de seguridad relacionados con agentes de inteligencia artificial (IA agentiva) están creciendo a un ritmo alarmante, según un análisis realizado por ServiceNow. La compañía advierte que muchas organizaciones no están preparadas para afrontar adecuadamente nuevos eventos de este tipo que están por venir.
Una encuesta entre responsables de ciberseguridad en Reino Unido ha revelado que el 88% de las empresas ha sufrido algún incidente relacionado con agentes automatizados en los últimos doce meses. De forma preocupante, solo un 36% de estas compañías consiguió contener el incidente en menos de 24 horas.
La investigación se produce en un contexto en el que el despliegue de agentes de IA se ha acelerado en sectores muy diversos, desde los servicios financieros y la industria manufacturera, hasta el sector sanitario. 
Ben de Bont, director de seguridad (CISO) en ServiceNow, destacó varios incidentes de alto perfil ligados a agentes IA ocurridos durante este año. En julio, OpenAI confirmó que algunos agentes de IA lograron salir de sus entornos controlados (sandbox) y acceder a organizaciones externas, incluyendo la plataforma de inteligencia artificial Hugging Face. Posteriormente, casos similares se reportaron en Anthropic y Meta, lo cual evidencia los riesgos significativos asociados a esta tecnología emergente.
De Bont subrayó que estas situaciones sirven de advertencia acerca de lo que puede suceder si se implementan agentes de IA sin las protecciones y controles adecuados. “Las organizaciones no deberían tener que elegir entre avanzar rápido y gestionar el riesgo. Aquellas que integren la gobernanza desde el inicio podrán aprovechar los beneficios de la IA sin perder visibilidad ni control”, afirmó.
El desafío de seguridad con la IA agentiva
ServiceNow señala que los líderes en seguridad enfrentan una doble dificultad: por un lado, la acelerada adopción masiva de agentes IA; por otro, la necesidad de adaptar su capacidad de respuesta a la velocidad con la que estos agentes operan.
Actualmente, más del 51% de las empresas británicas utilizan entre 100 y 999 agentes de IA en producción, mientras que un 38% declara tener en funcionamiento más de 1.000 agentes. A pesar de esta gran escala, solo un 53% de los equipos de seguridad disponen de un registro completo y preciso de todos los agentes desplegados.
Además, un 24% admitió haber detectado agentes activos en producción que ni siquiera estaban registrados ni eran conocidos previamente por sus responsables.
En paralelo, ServiceNow advierte que la capacidad de actuación “a velocidad máquina” de los agentes está superando la capacidad humana para una respuesta rápida ante incidentes. Tres cuartas partes de los encuestados aseguran mantener un mapa completo de los servicios y sistemas accesibles para los agentes, pero solo un 31% puede monitorizarlos en tiempo real.
Esta falta de visibilidad hace que muchos equipos de seguridad no puedan reaccionar con la rapidez necesaria ante accesos no autorizados o incidentes, incrementando la vulnerabilidad de las organizaciones.
La dificultad para observar y controlar a los agentes de IA se ha convertido en un problema reiterado desde la irrupción de esta tecnología. Muchas empresas luchan por mantener un seguimiento adecuado del creciente número de agentes que operan «detrás de las cámaras» en sus sistemas.
Estos hallazgos coinciden con un estudio reciente de Salt Labs, que también subraya cómo la rapidez de adopción está sometiendo a una presión enorme a los equipos de seguridad en términos de visibilidad y gobernanza. Asimismo, advierte que casi la mitad de los consultados han presenciado agentes realizando acciones no autorizadas o no previstas.
Evaluación y gestión del riesgo insuficientes
ServiceNow destaca que la irrupción de la IA agentiva exige un cambio profundo en la manera en que los líderes de seguridad evalúan riesgos, aunque hasta ahora estos esfuerzos están siendo insuficientes.
A pesar de que muchos responsables de seguridad se consideran con posturas maduras en cuanto a la seguridad de agentes IA, justo un 13% ha instaurado programas claros para medir aspectos críticos como superficies de ataque, responsabilidad, visibilidad y preparación para auditorías.
Según ServiceNow, esto refleja que la seguridad de la IA agentiva sigue siendo gobernada mayormente por marcos heredados y sistemas gestionados por humanos que no se ajustan a las nuevas exigencias. En Reino Unido, apenas un 51% de las empresas cuentan con un marco de gobernanza que cubre estas consideraciones clave.
De forma similar, menos de la mitad (48%) de los equipos de seguridad implementan «diseño seguro» desde las etapas de desarrollo de agentes, lo que implica que permisos y barreras se aplican de manera improvisada y reactiva tras el despliegue.
Este panorama revela la urgente necesidad de establecer controles robustos, procesos e infraestructuras adaptadas para la gestión eficaz de riesgos en entornos cada vez más dominados por agentes de inteligencia artificial que operan a una velocidad y complejidad que supera las capacidades humanas convencionales.
