Anthropic reconoce que la demora por seguridad pudo costarle el liderazgo en IA

El CEO de Anthropic, Dario Amodei, admite que el retraso en el acceso amplio a sus modelos de IA por reforzar las medidas de ciberseguridad pudo haber significado perder una ventaja competitiva en el desarrollo de inteligencia artificial avanzada.

Anthropic lanzó sus modelos de clase Mythos en febrero de 2026, pero el acceso generalizado se pospuso hasta junio debido a que la empresa priorizó implementar medidas robustas de ciberseguridad, según explicó el director ejecutivo, Dario Amodei.

En un extenso mensaje publicado en la red social X, Amodei respondió a críticas recibidas, principalmente de Nathan Calvin, y defendió la estrategia de la compañía en torno a la seguridad en la inteligencia artificial (IA). El directivo reconoció que esta decisión probablemente implicó sacrificar varios meses de ventaja en la carrera por la IA avanzada.

“Probablemente renunciamos a una parte importante de varios meses de liderazgo en el desarrollo del modelo”, afirmó Amodei. Sostuvo que adelantar la liberación de los modelos habría significado otorgar menos tiempo a las organizaciones para preparar sus infraestructuras frente a ataques cibernéticos impulsados por IA cada vez más sofisticados.

Patrocinado

Anthropic explicó a The New Stack que el retraso responde a un compromiso establecido en su “Responsible Scaling Policy” (Política de Escalado Responsable), que exige demostrar rigurosamente que los riesgos catastróficos están bajo control y, de no ser así, retrasar el desarrollo o despliegue hasta que la ventaja competitiva disminuya y los riesgos sean manejables.

Debate abierto sobre la estrategia y la seguridad en IA

Las críticas de Nathan Calvin apuntan a que Anthropic se orienta más a competir por la superinteligencia que a mantener firmes sus compromisos para evitar resultados peligrosos derivados de la IA. En su publicación del lunes, Calvin cuestionó la evolución de la política de la empresa, señalando que los contratos con proveedores de computación por más de 500 mil millones de dólares y el uso creciente de IA para crear nuevos modelos podrían estar debilitando las salvaguardas necesarias.

Asimismo, apuntó que las decisiones erróneas de Anthropic parecen favorecer sus intereses comerciales. En febrero, la compañía actualizó su política responsable, pasando de requisitos considerados demasiado rígidos a un enfoque más flexible, basado en la transparencia, la evaluación independiente y el reporte de riesgos. La versión actual vigente desde julio es la 3.4.

En su “Frontier Safety Roadmap” (Hoja de Ruta de Seguridad en la Frontera), Anthropic se compromete a evitar modificar sus metas hacia lo menos ambicioso simplemente porque no puede ejecutar planes originales.

El cambio en el compromiso de seguridad y sus razones

Una modificación significativa en la política febrero de 2026 fue el retiro de un compromiso de 2023 que prohibía entrenar sistemas IA sin garantizar previamente que todas las medidas de seguridad eran adecuadas. Calvin considera que esta eliminación debilita el compromiso de la firma para detener o ralentizar el desarrollo unilateralmente.

Por su parte, Anthropic insiste en que la actualización refuerza la responsabilidad pública y la transparencia, enfocándose en resultados prácticos frente a compromisos declarativos que podrían ser inútiles si competidores avanzan sin pausa.

El director científico Jared Kaplan explicó a la revista Time que detener el entrenamiento unilateralmente no beneficiaría a nadie si otros siguen progresando rápidamente. El CEO Amodei afirmó que su estrategia ha sido siempre una “carrera hacia arriba”, intentando influir en los estándares de seguridad de la industria desde la vanguardia tecnológica.

Amodei admitió que Anthropic pudo haber manejado mejor algunas críticas, especialmente en relación con el proyecto de ley legislativo, pero aseguró que la empresa ha sacrificado beneficios comerciales, como en la demora de Mythos, las restricciones biológicas y químicas aplicadas, el apoyo a la regulación y los controles de exportación, para priorizar la seguridad.

Expansión controlada y desafíos regulatorios

Entre abril y junio, Anthropic habilitó el acceso controlado a Claude Mythos Preview para socios seleccionados como Amazon, Apple, Microsoft, CrowdStrike y la Linux Foundation en el marco del Proyecto Glasswing, permitiendo solo usos defensivos relacionados con ciberseguridad.

El 2 de junio expandió el alcance a unas 150 entidades en más de 15 países pero descartó ofrecer acceso masivo hasta que un amplio conjunto de organizaciones haya podido evaluar y adaptarse a la nueva tecnología. Según Anthropic, una gran ciberataque podría afectar a más de 100 millones de personas.

El 9 de junio se lanzó Claude Fable 5, un modelo Mythos con mayores salvaguardas en ciberseguridad, biología y química, apto para uso general, mientras que Mythos 5 mantenía menos restricciones y se limitaba a socios de confianza. Sin embargo, tres días después, una orden gubernamental estadounidense de control de exportaciones les obligó a suspender ambos modelos para evitar acceso de extranjeros, incluidos empleados de Anthropic, lo que llevó a una paralización total.

El 30 de junio se levantó la medida, y Anthropic retomó a partir del 1 de julio la disponibilidad global de Fable 5 en sus plataformas y la de Mythos 5 para organizaciones seleccionadas en EE.UU. desde finales de junio. Actualmente, el acceso depende de un programa de verificación cibernética con tres niveles según el ámbito del trabajo de seguridad, que busca equilibrar protección y utilidad.

Las pruebas internas muestran que las restricciones bloquean gran parte de los intentos ofensivos en el nivel más restringido, aunque pueden producir falsos positivos que afectan trabajos legítimos. La empresa ha habilitado un canal para reportar estos casos.

El ritmo acelerado de la IA y la necesidad de regulación

Amodei reconoce que el desarrollo de inteligencia artificial pronto podría superar la capacidad de los sistemas de seguridad para controlarlo, y afirma que “ya estamos cerca de ese punto”.

Un informe de junio de Anthropic indicó que para mayo el modelo Claude generaba más del 80% del código incorporado en el repositorio de la compañía, cifra que podría incluso ser superior incluyendo scripts y código experimental.

Los autores destacan que la mejora recursiva aún no es inevitable ni están “allí todavía”.

El propio Amodei propone una supervisión estatal más estricta para la IA de frontera, con evaluaciones independientes, reportes públicos de riesgo y facultades legales para bloquear despliegues que impliquen riesgos catastróficos, como daños superiores a 1.000 millones de dólares o un riesgo inminente de muerte o heridas graves a más de 50 personas.

En un ensayo de septiembre, Amodei planteó un plan en tres fases: primero incluir evaluadores independientes dentro de compañías, luego coordinación entre países democráticos y finalmente acuerdos globales entre gobiernos democráticos y autoritarios para controlar la frontera tecnológica.

Según su “Frontier Safety Roadmap”, Anthropic pretende proponer una política sobre cómo los gobiernos pueden facilitar evaluadores en sus empresas antes del 15 de diciembre de 2026 y decidir o publicar un marco para la regulación del desarrollo IA antes del 15 de enero de 2027.

La hoja de ruta reconoce que, de no cumplirse sus objetivos, la investigación automática podría acelerar la IA más rápido que la regulación o medidas de seguridad, y se compromete a mantener actualizada públicamente esta información.

Add a Comment

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Patrocinado