En un contexto donde los agentes de inteligencia artificial (IA) asumen cada vez más tareas empresariales de forma autónoma, los responsables de tecnología siguen mostrando cautela a la hora de otorgar permisos para que estas herramientas accedan a sistemas corporativos críticos.
Una de las principales dificultades radica en cómo se mide la fiabilidad de la IA. Las normas del sector suelen basarse en puntajes EVAL, que ofrecen una visión estática del rendimiento pero no reflejan la confiabilidad global de los modelos. Estos indicadores pueden resultar insuficientes para evaluar aspectos vitales como la predictibilidad ante distintos tipos de solicitudes, entornos o entradas diversas, explica Bryan Silverthorn, director del laboratorio de investigación AGI Autonomy de Amazon.
Desde este laboratorio, Amazon apuesta por ir más allá de los simples benchmarks de rendimiento para construir un marco estructurado que se centre en cuatro pilares fundamentales: la consistencia, la robustez, la predictibilidad y la seguridad. Silverthorn adelantó estas ideas en una entrevista con VentureBeat previa a su intervención en VB Transform 2026. 
Esta nueva perspectiva no da por sentado que los modelos de IA puedan garantizar la seguridad por sí solos. En cambio, prioriza sistemas desacoplados que incluyen entornos controlados o ‘sandbox’, donde las acciones propuestas por los agentes son revisadas y validadas por humanos antes de implementarse. Esta metodología está diseñada para superar la desconfianza existente, especialmente en sectores sensibles como el financiero, donde un error puede generar consecuencias graves.
Los datos respaldan esta preocupación: en una encuesta realizada por VentureBeat en el segundo trimestre con más de 100 altos cargos tecnológicos, sólo un 4% confía plenamente en las protecciones automáticas que incorporan los modelos. Entre las inquietudes más frecuentes destacan el acceso no autorizado a datos o herramientas (40%) y la manipulación o inyección malintencionada en las solicitudes (27%).
En la conferencia VB Transform, Silverthorn profundizará en la estrategia de Amazon para construir agentes de IA confiables, mostrando cómo evolucionar de soluciones basadas en un único modelo hacia arquitecturas multifuncionales capaces de autocorregirse durante la ejecución. Su ponencia lleva por título «Cerrar la brecha entre capacidad y fiabilidad: dentro del marco de Amazon para crear agentes confiables».
Además, el evento contará con otras charlas relevantes, como la de Manasi Joshi, directora de sistemas de inteligencia y aprendizaje automático en Waymo, titulada «Inteligencia a escala: Cómo Waymo desarrolla IA segura y eficiente para el mundo físico», que abordará los retos de aplicar IA en entornos reales y complejos.
VB Transform 2026 se celebrará el 14 y 15 de julio en Menlo Park, ofreciendo a responsables tecnológicos una oportunidad única para conocer avances punteros en inteligencia artificial. Un número limitado de entradas gratuitas está disponible para profesionales del sector senior interesados en asistir.
