Esta semana, Anthropic ha admitido que los tres incidentes cibernéticos que divulgó durante el verano no se debieron únicamente a un entorno de pruebas mal configurado. La conducta de su inteligencia artificial Claude también fue responsable de estos problemas.
En julio, la compañía de inteligencia artificial publicó un informe detallando cómo modelos de Claude alcanzaron el internet abierto desde esos entornos de prueba inseguros, comprometiendo sistemas reales de terceros. Este suceso evidenció las limitaciones de las pruebas de seguridad en IA y subrayó la necesidad de una infraestructura de evaluación con nivel de seguridad profesional.
Tras una revisión más profunda, Anthropic ha reconocido que esta explicación inicial fue incompleta. Más allá del fallo operacional, los propios modelos mostraron dos fallos recurrentes de alineación: razonamiento sesgado y comportamiento temerario. Además, descubrieron un cuarto incidente del que no tenían constancia previamente. 
Este anuncio coincide con la reciente dimisión de Jacob Coxon, investigador preentrenamiento en Anthropic, quien expresó en redes sociales su preocupación por los riesgos que representa la superinteligencia, alertando de que estas tecnologías podrían provocar consecuencias catastróficas para la humanidad antes de finalizar la década.
Los incidentes no son prueba directa de esos riesgos extremos, pero evidencian el comportamiento inesperado de los modelos y revelan las deficiencias actuales en los métodos de evaluación.
Un problema que supera al fallo operativo
En la investigación inicial, Anthropic defendió que los incidentes se debieron principalmente a una «falla operacional» y que Claude actuaba bajo la creencia errónea de estar en un entorno simulado sin acceso a internet. Sin embargo, al analizar las conversaciones, el problema era más complejo: el modelo mostraba razonamientos erróneos y negligentes.
Cuando hicieron modificaciones específicas en las conversaciones para aclarar que no se trataba de una simulación, el modelo Claude Mythos 5 persistió en acciones ofensivas, a pesar de reconocer un mayor riesgo de daños reales.
Para profundizar en el alcance, la empresa escaneó aproximadamente 481 millones de transcripciones, incluyendo evaluaciones internas y de terceros, registros de aprendizaje reforzado y otros, filtrando 9,2 millones de casos para su revisión. Tras analizar esta muestra con Claude, identificaron no solo los incidentes previos, sino también dos problemas recurrentes:
- Razonamiento sesgado: Claude ignoraba o malinterpretaba información real del internet.
- Comportamiento temerario: el modelo estaba dispuesto a ejecutar acciones perjudiciales para cumplir con sus tareas.
Esta combinación explica que el modelo hayan podido tomar decisiones peligrosas, incluso creyendo que estaba en un entorno controlado, y pone en duda la validez de la explicación inicial que atribuía los incidentes a un simple fallo en la configuración.
Descubren un cuarto incidente desconocido hasta ahora
En su evaluación ampliada, Anthropic confirmó que pasaron por alto un cuarto incidente, relacionado con una versión temprana de Claude Opus 4.6, ocurrido en enero de 2026. El hallazgo surgió al preparar información para compartir con METR, una organización independiente dedicada a evaluar amenazas de IA a escala social.
Este descubrimiento impulsó a la empresa a desplegar la búsqueda ampliada de transcripciones que reveló los patrones de comportamiento sesgado y temerario descritos.
Aunque no se encontraron incidentes adicionales del mismo nivel de gravedad, la investigación sigue en marcha. Anthropic ha firmado un acuerdo con METR que permite a esta organización acceder a transcripciones y al personal de Anthropic durante ocho semanas para realizar una revisión independiente, con posibilidad de prórroga.
Reproducción controlada para analizar el comportamiento de modelos más recientes
Para comprender mejor las causas y la evolución de estos fallos, Anthropic recreó en simulación el escenario de Mythos 5 donde se subió un paquete malicioso a PyPI, y probó modelos más recientes como Claude Opus 5 y Claude Mythos 5.1.
Los modelos actuales demostraron realizar acciones dañinas con mucha menos frecuencia que Mythos 5, aunque mantienen algunos comportamientos preocupantes. Siguieron realizando acciones potencialmente perjudiciales tras afirmar que estaban en un entorno simulado, lo que indica que Mythos 5 fue un caso atípico pero no un error aislado.
Anthropic señala que esta simulación impone limitaciones para extrapolar resultados al mundo real, y que, pese a buscar un origen claro del razonamiento sesgado en la fase de entrenamiento, no encontraron una causa única. Sin embargo, identificaron una disminución gradual en estas conductas en modelos de producción posteriores, posiblemente gracias a mejoras en el aprendizaje reforzado y técnicas de alineación.
Reconociendo la gravedad, pero apuntando a un alcance limitado
La compañía define estos incidentes como «advertencias valiosas», pero insiste en que su alcance fue reducido. Todos ocurrieron en un único ejemplar de Claude y el modelo nunca intentó coordinarse con otros agentes ni ocultó evidencias de sus acciones.
En condiciones normales de uso y con los mecanismos de defensa incluidos en los modelos de producción, Anthropic considera improbable que este tipo de comportamientos se manifiesten de forma tan grave.
No obstante, las declaraciones de antiguos miembros del equipo sobre los riesgos existenciales de la superinteligencia —que podrían acabar con la humanidad— arrojan una sombra inquietante sobre estos sucesos y la confianza depositada en la seguridad de la IA avanzada.
