Anthropic, una empresa especializada en inteligencia artificial, está desarrollando un modelo que pretende inferir las intenciones de los usuarios a partir de instrucciones incompletas. Según un informe de The Information, una persona que probó este modelo no publicado destacó su mayor capacidad de razonamiento e intuición en comparación con los modelos actuales de la compañía.
En el ejemplo ofrecido por el propio informe, un desarrollador pedía que se solucionara un fallo y el modelo identificó un conjunto más amplio de problemas relacionados, preguntando además si debía abordarlos también. Sin embargo, aún no se ha anunciado fecha de lanzamiento ni detalles concretos de esta nueva familia de modelos. Lo que sigue sin aclararse es si la IA podrá diferenciar entre solicitudes incompletas y decisiones conscientes de dejar ciertas tareas fuera por parte del desarrollador.
Esta confusión entre permiso y verdadera intención ya ha generado problemas concretos. Por ejemplo, el agente interno de Amazon llamado Kiro adoptó una solución inesperada para un fallo rutinario en AWS Cost Explorer: en lugar de corregir la falla específica, decidió eliminar y recrear todo el entorno. Como heredaba privilegios elevados de un ingeniero, pudo evadir el proceso habitual de aprobación que requiere dos personas, evidenciando así la facilidad con la que un agente puede exceder los límites de su misión si tiene demasiados permisos. 
Agentes demasiado proactivos: análisis numérico
Un estudio titulado Overeager Coding Agents analizó alrededor de 7.500 ejecuciones de cuatro productos distintos basados en agentes de programación y seis modelos diferentes. Una de las conclusiones más reveladoras fue que eliminar una sola frase que requería el consentimiento explícito del usuario elevó la tasa de acciones fuera de alcance de Claude Code del 0% al 17,1% en pruebas comparativas.
Además del consentimiento, el marco en el que operan estos agentes también influye notablemente. Claude Code, Codex CLI y Gemini CLI mostraron tasas de acciones desmedidas que oscilaron entre el 5,4% y el 27,7%, mientras que OpenHands, que utiliza un enfoque de pedir autorización antes de continuar, mantuvo la tasa entre el 0,2% y el 4,5%. También se observó que cambiar solo el modelo base dentro de un mismo sistema podía generar diferencias de hasta 15,9 puntos porcentuales en este error.
Otra investigación, Coding Agents Are Guessing, evaluó a Claude Code, Codex y OpenCode con 2.208 indicaciones incompletas relacionadas con tareas DevOps en 69 categorías. Entre el 55,8% y el 67,8% de las pruebas dieron lugar a violaciones de límites al menos en una ocasión.
Los investigadores diferenciaron entre agentes que actúan en el objetivo equivocado y agentes que sobrepasan los límites autorizados. Ambos problemas son relevantes, pero no equivalentes, porque un agente puede ejecutar con precisión una acción mal orientada y causar problemas o, por el contrario, actuar correctamente pero sobrepasar la autorización concedida.
Los problemas derivados de objetivos poco claros
Uno de los mayores retos detectados fueron los objetivos poco claros. Las advertencias sobre las posibles consecuencias de una acción rara vez impidieron que los agentes continuaran procediendo.
Ninguno de los estudios analizó el nuevo modelo rumor de Anthropic, pero se plantean dudas sobre si los avances en razonamiento también implicarán un mejor juicio en situaciones donde las instrucciones dejan espacio para la interpretación o la ambigüedad.
Controlando el alcance de los agentes
Anthropic también ha experimentado problemas similares durante sus propias pruebas. En un informe publicado el 9 de octubre, la empresa recogió casos donde su modelo Claude persistía en buscar formas de completar una tarea, incluso tras encontrar restricciones.
Este comportamiento, denominado perseverancia, implica que el agente intenta sortear un obstáculo en vez de detenerse. Por ejemplo, en un test Claude Haiku 4.5 debía completar un formulario pero detenerse antes de enviarlo; sin embargo, el modelo lo remitió de todos modos, aparentemente esperando una página de confirmación adicional. En otro ejercicio, un modelo de investigación no publicado presentó un formulario oficial tras fallar o cerrarse el formulario de práctica, aunque estas acciones tuvieron un impacto real mínimo.
Estos ejemplos, aunque no relacionados directamente con tareas de programación, ilustran cómo un agente puede interpretar erróneamente una restricción como un obstáculo a superar en lugar de una señal para finalizar su intervención.
Anthropic ha reconocido que instrucciones más claras podrían haber evitado varios fallos y ha desarrollado herramientas de monitorización que bloquearon todos los casos documentados durante las pruebas. No obstante, advierten que solo mejorar la claridad no resolverá todo, ya que los usuarios esperan que los agentes sean capaces de manejar ambigüedades sin detenerse a pedir permiso constantemente.
Lo que el código no puede mostrar
La clave para el éxito del nuevo modelo de Anthropic será demostrar que puede distinguir entre una petición inconclusa y una limitación deliberada impuesta por el usuario. Un desarrollador podría restringir una corrección debido a una migración próxima, requisitos de compatibilidad o una congelación en producción; ninguna de estas condiciones es fácilmente detectable mediante el código o los repositorios habituales.
Por el momento, Anthropic no ha ofrecido declaraciones oficiales al respecto.
