La adopción de la inteligencia artificial agente en el ámbito de la ingeniería de software está experimentando un notable auge. Sin embargo, una reciente investigación pone de manifiesto que la seguridad sigue siendo un talón de Aquiles para la mayoría de los equipos técnicos. Según un análisis realizado por la empresa Harness, el 87 % de los equipos de ingeniería han sufrido algún «evento de seguridad relacionado con agentes» en el último año.
Este problema se atribuye principalmente a la falta de visibilidad y controles adecuados sobre los agentes utilizados, sumado a un exceso de confianza por parte de los ingenieros que puede llevar a ignorar acciones potencialmente peligrosas. Más del 77 % de los profesionales encuestados manifestaron estar seguros de contar con un inventario completo de cada agente, servidor MCP y de los modelos de lenguaje (LLM) en su entorno. Sin embargo, solo el 44 % pudo verify efectivamente este inventario.
Un dato crucial es que el 75 % confía en que sus agentes cuentan con una seguridad integral, «de extremo a extremo». No obstante, la tasa de incidentes entre quienes afirmaban tener esta confianza fue prácticamente igual (88 %) a la del conjunto total de encuestados (87 %), evidenciando una desconexión entre la percepción y la realidad de la resiliencia ante amenazas. 
Keith Mann, director técnico de campo (Field CTO) y responsable de investigación en Harness, señala que estos hallazgos recuerdan a los problemas de seguridad que se vivieron durante las primeras etapas de desarrollo móvil y en la nube. En ambas situaciones, la confianza superó a los mecanismos de gobernanza existentes. Alcanzar una madurez en controles y seguridad requirió tiempo, y un proceso similar está ocurriendo en el desarrollo basado en agentes.
“Con el tiempo, los controles se ajustaron porque los sistemas subyacentes se mantuvieron predecibles una vez establecidas las barreras de seguridad”, explicó Mann. Sin embargo, añadió que los agentes introducen una nueva capa de riesgo debido a su variabilidad y a la complejidad para mantener visibilidad y verificar sus acciones.
“Los agentes no se comportan siempre de la misma manera. Un control que funcionó durante la fase de pruebas puede no detectar un peligro en producción. Por ello, es imprescindible una verificación real y continua, testear si los controles resisten realmente la variabilidad del agente y no dar por hecho que funcionan simplemente porque existen”, advirtió.
Nacimiento de los problemas y respuestas insuficientes
Harness alertó además que muchos equipos no están suficientemente preparados para afrontar incidentes relacionados con agentes. Aunque el 74 % confía en que sus pruebas podrían detectar errores que afecten a la producción, solo el 19 % implementa un «gate» o filtro en el ciclo de desarrollo para bloquear códigos potencialmente peligrosos hasta cumplir con los requisitos adecuados.
El concepto de “gate” consiste en un punto de control dentro del ciclo de vida del software que impide avanzar códigos no conformes, minimizando riesgos en etapas posteriores.
En caso de que se produzca algún error, la mayoría tampoco cuenta con mecanismos eficaces para actuar con rapidez. Más del 76 % asegura poder desactivar un agente que se comporte mal en menos de 15 minutos, pero solo aproximadamente uno de cada tres dispone de un “interruptor de emergencia” para apagar agentes de forma inmediata.
Ante la creciente incorporación de agentes en las operaciones de ingeniería, Harness avisa que la frecuencia de incidentes tiende a aumentar. Más de la mitad (58 %) de las organizaciones reportaron un aumento en incidentes relacionados con producción tras la implementación de agentes.
Trevor Stuart, vicepresidente senior y director general de Harness, comentó: “Las conclusiones del estudio coinciden con lo que escuchamos diariamente de los clientes. Los equipos adoptaron agentes a gran velocidad, y ahora vuelven a plantearse cómo gobernar efectivamente lo que ya han desplegado. Los que van más avanzados han implementado motores de orquestación regulada para gestionar cambios en agentes, evitando esperar a que ocurra un incidente que obligue a tomar decisiones”.
Esta transformación señala un camino claro: para que la inteligencia artificial agente cumpla su potencial en la ingeniería de software, es urgente robustecer las prácticas de seguridad y gobernanza con controles verificables y protocolos de respuesta ágiles.
