Workday presenta Agent Passport para certificar y supervisar agentes de IA en empresas

Workday lanza Agent Passport, una innovadora solución que prueba, verifica y monitorea continuamente agentes de inteligencia artificial en el ámbito empresarial, garantizando seguridad y cumplimiento mediante estándares reconocidos internacionalmente.

Workday ha introducido Agent Passport, una herramienta pionera diseñada para evaluar y certificar todos los agentes de inteligencia artificial (IA), ya sean desarrollados por Workday o por terceros, antes de su despliegue en entornos empresariales. Este sistema no solo verifica rigurosamente cada agente antes de su puesta en marcha, sino que también realiza un seguimiento constante durante su funcionamiento.

Cada evaluación se vincula con estándares industriales reconocidos, como OWASP LLM Top 10, NIST AI RMF o MITRE ATLAS, proporcionando a los equipos de seguridad registros firmados y auditables que detallan las pruebas realizadas, así como la identidad de los responsables de estas.

Agent Passport ofrece a las organizaciones un historial verificado que asegura que cada agente ha sido sometido a pruebas contra los riesgos más críticos antes de entrar en producción. Entre las amenazas contempladas se incluyen inyección de comandos, jailbreak, secuestro de objetivos, extracción de instrucciones del sistema, filtraciones de datos de empleados y generación de resultados inseguros. La vinculación de los resultados a un estándar público, junto con la firma del partner evaluador, garantiza la independencia, transparencia y comparación de la seguridad entre agentes de cualquier proveedor.

Patrocinado

Cuando un agente intenta ejecutar una acción, Agent Passport realiza un monitoreo en tiempo real para autorizar, bloquear o redirigir dicha operación según las políticas definidas. Si se detecta algún problema, una revocación inmediata puede limitar o detener el funcionamiento de los agentes afectados automáticamente, reduciendo así riesgos en la empresa.

Dean Arnold, VP, AI Platform at Workday
Dean Arnold, vicepresidente de la plataforma de IA en Workday

Dean Arnold, vicepresidente de la plataforma de IA en Workday, subraya: «Los agentes de IA están asumiendo las tareas más sensibles dentro de las empresas, desde la incorporación de empleados hasta la gestión de pagos. Un solo agente inseguro puede provocar fugas de datos, incumplimiento normativo y daños reputacionales. Agent Passport otorga la confianza de que cada agente ha sido evaluado de forma independiente y verificada, facilitando además la capacidad de desactivarlo inmediatamente si surge cualquier problema».

Estableciendo un estándar común y abierto

Tradicionalmente, las plataformas que ofrecen pruebas de seguridad para agentes lo realizan internamente, lo que supone que los usuarios reciben una certificación de «seguridad» proporcionada por el mismo fabricante que desarrolló el agente. Workday, consciente de esta limitación, impulsa un enfoque basado en estándares abiertos y colaboraciones con los principales actores de la seguridad y el cumplimiento normativo, logrando evaluaciones independientes y resultados comparables entre diferentes proveedores.

El registro de cada agente se estructura en tres niveles: el primero abarca áreas amplias de confianza definidas y actualizadas por Workday, como defensa ante ataques, comportamiento seguro en ejecución y supervisión humana; el segundo consiste en declaraciones específicas y comprobables vinculadas a estándares públicos, como resistencia a técnicas de ataque conocidas; y el tercero incluye los resultados firmados de los evaluadores acreditados, contando inicialmente con Cisco como socio confiable.

La asociación con estándares públicos permite que los equipos de seguridad puedan comparar agentes de distintos proveedores bajo criterios uniformes. Así, si dos agentes han sido sometidos al mismo test por diferentes socios, las empresas pueden confiar en que fueron evaluados bajo los mismos requisitos rigurosos.

Colaboración con líderes en seguridad de agentes de IA

Cisco es el socio inicial en el lanzamiento de Agent Passport, aportando Cisco AI Defense para realizar pruebas independientes a los agentes de IA usados en Workday. Esta colaboración garantiza que los agentes cumplen con los principales estándares de seguridad antes de su uso y que están protegidos de forma continua contra técnicas como inyecciones de comandos, filtraciones de datos, jailbreaks y acciones inseguras durante su operación.

Cisco AI Defense verifica que el agente resista intentos de manipulación de sus instrucciones, proteja la confidencialidad de sus directrices, salvaguarde la información sensible de empleados y bloquee respuestas potencialmente dañinas o violatorias de las políticas corporativas antes de ser comunicadas a los usuarios. Estas comprobaciones son esenciales, sobre todo para agentes que gestionan información crítica como nóminas, beneficios o datos financieros.

DJ Sampath, Senior VP and GM, AI Software and Platform, Cisco
DJ Sampath, vicepresidente senior y gerente general de Software y Plataforma IA en Cisco

DJ Sampath, vicepresidente senior y gerente general de Software y Plataforma IA en Cisco, explica: «Los agentes serán omnipresentes en las empresas. Esto solo funcionará si los equipos de seguridad disponen de registros claros y certificados sobre las pruebas realizadas a cada uno de ellos. Cisco AI Defense ha sido desarrollado precisamente para este tipo de validación y estamos entusiasmados de colaborar con Workday para proteger la fuerza laboral basada en agentes de IA».

Implicaciones para las empresas

La puesta en marcha de Agent Passport supone un cambio de paradigma en el manejo de agentes de IA dentro del ámbito empresarial. Estos sistemas comienzan a considerarse como infraestructuras críticas que requieren evaluación formal, verificación externa y supervisión continua antes de confiarles tareas delicadas. En vez de depender únicamente de la certificación de seguridad proporcionada por el fabricante del agente, las empresas pueden ahora contar con una visión más clara, auditable y estandarizada de los riesgos analizados y los estándares aplicados.

Este enfoque es especialmente relevante para sectores como recursos humanos, nóminas, finanzas o tecnología de la información, donde cualquier fallo puede conllevar la filtración de datos confidenciales, infringir normativas estrictas o causar errores operativos costosos.

Además, las compañías adquieren mayor capacidad de control tras el despliegue de agentes de IA: la posibilidad de monitorizar sus acciones en tiempo real y bloquear o restringir su actividad de manera inmediata ante comportamientos inesperados o detección de nuevos riesgos minimiza la probabilidad de daños mayores.

Asimismo, la existencia de certificaciones estandarizadas y comparables entre proveedores facilitará la evaluación y decisión entre diversas soluciones de IA, mejorando la gobernanza interna y favoreciendo una adopción más segura y confiable de estas tecnologías a gran escala.

En definitiva, la iniciativa de Workday apunta hacia un futuro donde la adopción empresarial de inteligencia artificial no solo dependa de la capacidad tecnológica, sino también de la confianza demostrable, la responsabilidad y el control efectivo sobre estos agentes.

Add a Comment

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Patrocinado