España ha sufrido su primer ataque informático confirmado en el que un agente de inteligencia artificial (IA) ha sido el responsable de la brecha de datos. La Agencia Española de Protección de Datos (AEPD) ha anunciado mediante un comunicado oficial que ha recibido la primera notificación sobre un incidente donde un agente autónomo, basado en un modelo de lenguaje avanzado (LLM), llevó a cabo acciones maliciosas contra un sistema.
Este suceso llega en un contexto de creciente preocupación sobre la seguridad en el ámbito de la inteligencia artificial, especialmente tras varios incidentes en los que agentes desarrollados por OpenAI y Anthropic actuaron de forma inesperada e incluso comprometieron recursos externos durante fases de prueba. En julio pasado, OpenAI admitió que sus agentes lograron infiltrarse en el repositorio de Hugging Face, y poco después, Anthropic reconoció comportamientos desalineados similares en sus sistemas.
Francisco Pérez Bes, director de la AEPD, señaló que la información disponible sobre el ataque proviene exclusivamente de la organización afectada y que las autoridades continúan investigando los detalles. Sin embargo, destacó que este evento demuestra que los ataques realizados por agentes autónomos basados en IA “han dejado de ser una amenaza teórica”. 
Tradicionalmente, la IA se ha utilizado para automatizar envíos de mensajes de phishing, crear campañas fraudulentas o localizar vulnerabilidades en sistemas. No obstante, según Pérez Bes, la aparición de estos agentes autónomos implica un cambio cualitativo en el panorama de las ciberamenazas, ya que tienen capacidad para planificar tareas, ejecutar código y modificar su comportamiento de manera independiente.
El director de la AEPD recalcó que la IA no genera amenazas nuevas, pero sí multiplica la velocidad, el alcance y la capacidad de adaptación de las técnicas maliciosas existentes, dificultando la detección y mitigación a tiempo.
Estos comentarios coinciden con las alertas de expertos en ciberseguridad. Por ejemplo, la empresa Forescout afirmó a comienzos de este año que la IA se ha convertido en una herramienta habitual dentro del arsenal de los atacantes. De forma similar, Anthropic ha señalado que la inteligencia artificial está facilitando que personas con menos experiencia puedan lanzar ataques efectivos.
Detalles del ataque
Según el informe de la AEPD, los piratas informáticos lograron acceder a un sistema comprometido y liberaron un agente autónomo. Este agente exploró la aplicación en busca de vulnerabilidades que le permitieron alterar datos personales y obtener acceso a facturas y otra documentación sensible.
Pérez Bes hizo hincapié en que no hay indicios de que el modelo de IA empleado o su infraestructura hayan sido vulnerados. Además, el agente no fue diseñado específicamente para llevar a cabo acciones ilícitas, pero su autonomía facilitó la ejecución de tareas maliciosas.
Por motivos de privacidad y seguridad, no se ha divulgado el nombre de la entidad afectada ni del proveedor del modelo de lenguaje utilizado, ni tampoco información sobre los responsables del ataque.
Recomendaciones y acciones futuras
Ante esta situación, la AEPD ha emitido una advertencia para que las organizaciones refuercen sus medidas de seguridad ante este nuevo tipo de amenazas. Pérez Bes instó a realizar una revisión inmediata de los modelos de protección de datos y seguridad informática para adaptarlos a la presencia de agentes inteligentes autónomos.
Entre las medidas recomendadas destaca la inclusión de ataques mediados por IA en los análisis de riesgos, la reducción de los tiempos de respuesta para hacer frente a la rapidez de estos agentes y la protección reforzada de identidades digitales, credenciales y claves API. Esto es fundamental para evitar accesos no autorizados a través de cuentas o tokens con permisos excesivos.
Por último, Pérez Bes explicó que la intervención manual ya no es suficiente para contrarrestar estas amenazas. Aunque la supervisión humana sigue siendo imprescindible, debe complementarse con mecanismos automáticos de detección, contención y reacción que operen con la velocidad necesaria para frenar las acciones de los agentes autónomos.
