Este año, un atacante empleó agentes de inteligencia artificial para comprometer un recurso en la nube y, en menos de seis horas, diseñó, desarrolló y ejecutó una campaña masiva de recolección de credenciales. Este caso, revelado por el equipo de Google Threat Intelligence Group (GTIG), refleja un preocupante aumento del uso de IA autónoma y automatización por parte de ciberdelincuentes para lanzar operaciones sofisticadas.
John Hultquist, analista principal del GTIG, asegura que “podemos asumir que todos los actores maliciosos están utilizando la IA en alguna capacidad, y sus operaciones han mejorado notablemente”. Según Hultquist, el problema de las vulnerabilidades es preocupante, pero el verdadero desafío radica en la aplicación de la IA de manera autónoma, lo que permite un adversario escalable y acelerado. “Los criminales, como los que ejecutaron esta campaña masiva en solo seis horas, se inclinan por ataques que superan nuestra capacidad de respuesta.”
En el caso específico investigado, un grupo con motivaciones económicas logró vulnerar la infraestructura en la nube de una organización para implementar un marco de ataque autónomo con múltiples agentes. Esto les facilitó operar con la velocidad y el alcance habitual de grupos más grandes y con más recursos. 
El atacante utilizó un chatbot de codificación con IA, un conjunto de instrucciones predefinidas y comandos sencillos para planificar, crear y llevar a cabo la campaña de recolección masiva de credenciales. Mediante conjuntos de instrucciones en markdown usados como manuales operativos, el equipo de GTIG describe cómo el atacante ejecutó escaneos automatizados y capturó miles de credenciales de terceros.
Las instrucciones a los agentes permitieron a la IA gestionar autónomamente el proceso de escaneo de vulnerabilidades, solucionar problemas en tiempo real y ejecutar rotaciones de IP sin intervención humana. Además, operar desde la infraestructura en la nube de la víctima facilitó que el tráfico malicioso pasara por direcciones IP legítimas, aumentando la dificultad para detectar la actividad maliciosa.
El auge de la inteligencia artificial en grupos con respaldo estatal
GTIG también ha observado que grupos vinculados a estados están ampliando el uso de la IA. Por ejemplo, UNC6508, un actor con nexos en la República Popular China, llevó a cabo una amplia campaña de intrusión contra centros médicos en Estados Unidos, utilizando entornos en la nube comprometidos para alojar modelos locales de inteligencia artificial.
En otro caso registrado en abril, Mandiant detectó un actor malicioso que utilizaba infraestructura de IA para mantener cargas de trabajo no autorizadas, aprovechando entornos de nube secuestrados para provisionar instancias de cálculo GPU de alto rendimiento a costa de las víctimas.
Un grupo denominado TeamPCP ha centrado sus esfuerzos en la cadena de suministro de IA, desarrollando software malicioso diseñado para explotar sistemas emergentes de inteligencia artificial, incluidos comandos maliciosos ocultos en instrucciones que ejecutan acciones sin ser detectados.
Este grupo incluso ha manipulado metadatos en paquetes de código abierto para engañar a asistentes de IA, provocando que a los desarrolladores se les recomienden dependencias maliciosas involuntariamente.
Ronald Lewis, responsable de gobernanza en ciberseguridad en Black Duck, destaca que “el principal problema para los defensores es que estos riesgos evolucionan más rápido de lo que muchas organizaciones pueden medir, cuantificar y controlar”. Según Lewis, los equipos de seguridad ya no solo protegen aplicaciones, usuarios o infraestructuras, sino que también deben asegurar modelos de IA, agentes, instrucciones, flujos de datos y una cadena de suministro cada vez más complejo, mientras intentan defenderse de adversarios que emplean IA para acelerar sus ataques.
