La creciente adopción de agentes de inteligencia artificial para la automatización del código en dispositivos de empleados empieza a generar preocupación por su seguridad en el sector financiero y gubernamental. Amjad Masad, CEO de la empresa tecnológica Replit, alerta que estas herramientas suponen un riesgo sistémico y señala que varias instituciones financieras, como Goldman Sachs, ya han empezado a limitar su uso.
Según reporta Bloomberg, Goldman Sachs ha impuesto restricciones en el uso de soluciones como Claude Code, desarrollado por Anthropic, y las herramientas de codificación de GitHub de Microsoft. Estas limitaciones afectan directamente a banqueros y traders, aunque hay una excepción: un grupo de empleados especializados en algoritmos cuantitativos, conocidos como «strats», mantienen acceso a estos agentes de IA.
Nick Carcaterra, portavoz de Goldman Sachs, explicó que la decisión se sustenta en un análisis que evalúa los beneficios en productividad frente a los riesgos potenciales asociados a la utilización de estas tecnologías. 
Masad comparte que esta tendencia no es exclusiva de Goldman Sachs, sino que se extiende a todo el sector financiero. Precisamente, al comentar la situación en una red social, afirmó que «el uso de agentes de IA en endpoints de empleados se convierte en un riesgo sistémico de seguridad para empresas y gobiernos» y que la respuesta ha sido generalizada con limitaciones crecientes.
Una de las motivaciones para estas restricciones radica en los riesgos de exposición de credenciales, comandos maliciosos y dependencias comprometidas. La posibilidad de que un agente en el dispositivo de un empleado pueda interceptar o reutilizar claves de acceso persistentes ha impulsado un cambio en la industria hacia el uso de tokens de corta duración, mejorando así la seguridad de las autenticaciones.
Sobre este punto, Masad menciona múltiples motivaciones detrás de estas medidas, incluyendo ataques dirigidos a la cadena de suministro. Sin embargo, no ha divulgado incidentes específicos que hayan motivado directamente la restricción en Goldman Sachs u otras entidades.
Para mitigar estos problemas, expertos de Replit proponen una arquitectura en la que los agentes de IA se ejecuten en entornos cloud dedicados y controlados por la organización, en lugar de hacerlo directamente sobre dispositivos de usuarios finales. Según Luis Héctor Chávez y Manish Mehta, responsables tecnológicos de Replit, la ejecución aislada en la nube permite un mejor control de credenciales, gestión de registros de auditoría y establecimiento de aprobaciones, minimizando así el riesgo de filtraciones o manipulaciones.
Como muestra de la vulnerabilidad de las herramientas de desarrollo, se han documentado incidentes recientes, como la distribución de extensiones maliciosas para Claude Code o la infiltración masiva en miles de cuentas de GitHub y repositorios, enfatizando que un solo punto de fallo puede desencadenar un efecto dominó grave.
Aun limitando el acceso a agentes solo a perfiles técnicos, persiste el peligro de que acciones malintencionadas se propaguen o que instrucciones manipuladas dirijan a los agentes a ejecutar comportamientos fuera de su alcance autorizado. Estudios realizados demuestran cómo una mínima alteración en las directrices de instrucción puede llevar al agente a realizar operaciones no deseadas, poniendo de relieve la necesidad de control estricto no solo sobre quién usa la herramienta, sino también sobre qué puede hacer.
Estas precauciones evidencian que muchas entidades están reconsiderando cómo integran estas tecnologías de IA en sus operaciones. Si bien permitir que empleados sin conocimientos técnicos generen código era un argumento a favor de los agentes de IA, las posibles fugas de información y vulnerabilidades presentan un desafío significativo a esta visión.
Masad sostiene que la solución no pasa por eliminar estas herramientas, sino por reforzar los mecanismos de control y operar los agentes en entornos seguros, supervisados y restringidos al acceso necesario.
El alcance real de estas políticas de restricción en el sector financiero aún no está completamente claro, pues no se han divulgado datos exhaustivos sobre la adopción de estas medidas en distintas organizaciones. No obstante, la evidencia apunta hacia un endurecimiento progresivo en la regulación interna del uso de agentes de IA en entornos corporativos sensibles.
