Dario Amodei, director ejecutivo de Anthropic PBC, ha solicitado que los gobiernos, particularmente el de Estados Unidos, tengan la capacidad legal para detener la implementación de sistemas de inteligencia artificial que puedan representar un peligro significativo para la sociedad. En una publicación reciente en su blog personal, Amodei advierte de la necesidad urgente de establecer mecanismos regulatorios que obliguen a realizar auditorías independientes y rigurosas sobre los modelos de IA más avanzados antes de su lanzamiento al mercado.
Comparando la regulación de la IA con la seguridad en la aviación, Amodei subraya que así como las autoridades impiden que aviones inseguros despeguen, también deberían existir protocolos para bloquear sistemas de inteligencia artificial que no cumplan con unos estándares mínimos de seguridad y fiabilidad. Según el ejecutivo, el vertiginoso ritmo de desarrollo tecnológico en el ámbito de la inteligencia artificial plantea riesgos considerables que no pueden ser ignorados ni dejados exclusivamente a la autorregulación del sector.
El planteamiento de Amodei llega en un momento en que las capacidades de los modelos de IA fronterizos están creciendo exponencialmente, lo que aumenta las preocupaciones sobre el posible uso indebido, la falta de transparencia, sesgos, o incluso errores que puedan causar daños a nivel social, económico o incluso en la seguridad pública. Por ello, insiste en que una supervisión externa, imparcial y continua sea obligatoria para evaluar aspectos como la seguridad, el impacto social y la ética de los sistemas antes de su despliegue. 
Además de la auditoría independiente, Amodei sugiere que las autoridades dispongan de facultades para intervenir y detener la puesta en marcha de cualquier algoritmo que no pase estas revisiones, como medida preventiva clave para garantizar que la tecnología no se convierta en una amenaza. En su visión, contar con este tipo de control regulatorio es imprescindible para equilibrar la innovación y la protección de los usuarios.
Anthropic, compañía líder en el desarrollo y estudio de inteligencia artificial responsable, se posiciona así como un actor que promueve la colaboración entre el sector privado, los reguladores y la sociedad para definir un marco de seguridad adecuado ante los crecientes desafíos tecnológicos.
Este debate, lejos de ser aislado, refleja un interés global creciente por establecer normativas que regulen el desarrollo y la adopción de inteligencia artificial avanzada, con el objetivo de blindar a las sociedades de riesgos derivados de decisiones automatizadas, manipulación informativa, discriminación algorítmica o fallos catastróficos de los sistemas.
En definitiva, Amodei aboga por que todos los países adopten políticas similares a la aviación civil, instaurando un sistema de certificación y bloqueo para modelos de IA que puedan considerarse peligrosos, con la esperanza de que esta iniciativa sirva para fomentar un desarrollo tecnológico más ético, seguro y transparente.
