Los agentes de inteligencia artificial (IA) pueden interactuar con clientes o procesar facturas en tiempo real, incluso antes de que alguien pueda revisar sus decisiones. Cuando sus acciones resultan erróneas, la idea de tener un humano “en el circuito” aporta poca tranquilidad. ¿Quién autorizó realmente al agente y quién podía haber detenido su acción?
En esta última entrega de la serie que analiza la personalidad y comportamiento de la IA, se cuestiona la responsabilidad dentro del entorno laboral: cuando una empresa permite que la IA influya en personas o tome decisiones, ¿quién responde si estas decisiones generan un impacto negativo en el negocio?
Esta cuestión toma mayor relevancia conforme los agentes de IA avanzan más allá de tareas simples como la generación de borradores o recomendaciones. Según una encuesta de PwC en 2025, donde participaron 300 altos ejecutivos, un 79% afirmaba que sus compañías estaban adoptando agentes de IA, pero solo un 17% contaba con agentes implementados en casi todos sus flujos de trabajo. Un agente con acceso directo a sistemas empresariales puede ejecutar una serie de tareas que, vistas aisladamente, parecen razonables. Su aparente competencia puede inducir a los usuarios a otorgarle mayor autonomía antes de comprender cómo opera en la práctica diaria. 
La rendición de cuentas sigue a la autoridad
Si un agente causa daño, varias partes pueden haber influido en el resultado: el proveedor del modelo que creó la tecnología, la empresa que la eligió y conectó con los datos, y el empleado que pudo haber revisado la salida. Sin embargo, estas responsabilidades no tienen el mismo peso en las decisiones específicas.
Jerry Caviston, CEO de Archive360, enfatiza que “la organización que despliega el agente debe asumir la responsabilidad sobre su uso”. Puede que el proveedor comparta culpa por una falla del modelo, pero la empresa no puede simplemente responsabilizar al fabricante si otorgó al agente acceso a sus sistemas sin supervisión adecuada.
Esta distinción es relevante porque las decisiones de despliegue definen el nivel de riesgo. Un agente autorizado solo para sugerir respuestas plantea problemas distintos a uno que puede enviarlas directamente. Por ejemplo, un sistema podría identificar discrepancias en facturas de forma segura, pero no debería modificar detalles bancarios de proveedores. Por ello, las empresas deben definir claramente la autoridad del agente para cada tarea, especificando los datos que puede usar y, fundamentalmente, las condiciones para detenerse y consultar a un humano.
Donna Wilczek, directora de producto y tecnología en Basware, señala que la responsabilidad recae en quienes diseñan esa autoridad: “La rendición de cuentas nace de la propiedad del proceso, no de la proximidad al error”. Así, un ejecutivo que aprueba el rol de un agente responde por ese diseño, mientras que un empleado que revisa una excepción es responsable únicamente de una decisión dentro de su ámbito real.
Este enfoque modifica también la forma en que las empresas describen a los agentes de IA. Definirlos como colegas puede implicar que tienen juicio y responsabilidad propias, pero llamarlos simplemente herramientas tradicionales disimula su capacidad para actuar de manera autónoma en varios sistemas. Luciana Rousseau, responsable de innovación de clientes en Morson Group, los denomina “actores computacionales delegados”; pueden ocupar roles, pero jamás asumir las consecuencias.
Una buena praxis es designar un responsable humano identificado en cada flujo de trabajo que implique IA. “Si nadie firma por un proceso, no debería estar en marcha”, advierte Daria Hvizdalova, encargada de adopción de IA en Make. Este responsable debe poder modificar o suspender procesos si los datos evidencian un comportamiento problemático.
Cuando la supervisión humana es solo un sello de aprobación
Una solución frecuente frente al riesgo asociado a la IA es exigir la aprobación humana. Sin embargo, el pulsar un botón de “aprobado” no siempre resulta en una supervisión efectiva. Si un agente genera cientos de recomendaciones y el revisor solo tiene segundos para analizarlas, lo más probable es que la persona se limite a validar automáticamente decisiones ya tomadas por la máquina.
Rousseau del Grupo Morson plantea que la supervisión debe centrarse en “excepciones, consecuencias y señales conductuales”, y que los humanos dediquen atención especial a decisiones con alto impacto, casos desconocidos, evidencias contradictorias o acciones difíciles de revertir. Revisar cada transacción rutinaria conduce a la fatiga y aprobación automática.
Hvizdalova propone medir el valor real del control humano: “Si los humanos aprueban el 99% de lo que propone la IA, probablemente hay un sello de aprobación, no un control genuino”. En la misma línea, Bastiman alerta desde el punto de vista regulatorio que “una tasa de anulación cercana a cero es una señal de alerta, no un éxito”. Wilczek añade el efecto desde la perspectiva del empleado: ante largas listas de recomendaciones sin explicación, “simplemente hacen clic y quedan con la culpa de una decisión ya tomada”.
Además, el revisor debe tener autoridad real para rechazar propuestas. El índice Work Trend de Microsoft de 2026 revela que el 86% de usuarios de IA considera sus salidas como punto de partida, manteniendo la responsabilidad de sus decisiones. Wilczek enfatiza que un empleado sometido a muchas recomendaciones sin contexto puede únicamente absorber la culpa, sin poder desafiar las decisiones.
Un ejemplo práctico: un agente que gestiona facturas podría resolver pequeñas diferencias dentro del margen aceptado por un equipo financiero y derivar casos atípicos a revisores humanos con la documentación correspondiente. Pero un cambio en los datos bancarios de proveedores requiere otro proceso de verificación separado del agente. Estas diferencias deben reconocerse claramente en el flujo de trabajo, ya que una única configuración entre “autónomo” o “aprobado por humano” oculta distinciones cruciales.
Asimismo, la supervisión debe contemplar la conducta humana. Cuando un sistema mantiene un alto nivel de acierto, las inspecciones pueden parecer innecesarias, especialmente si presenta resultados con seguridad. En entregas anteriores de esta serie se analizó cómo los rasgos humanos atribuidos a la IA afectan la confianza que le tenemos, y cómo probar comportamientos problemáticos. En la producción diaria, estas características influyen en la predisposición del empleado para cuestionar una respuesta. Los líderes deben evaluar el entorno humano y sus presiones tan rigurosamente como el propio sistema.
Vigilar tras la puesta en marcha
Una demostración exitosa indica que un agente funcionó en condiciones controladas, pero no garantiza un rendimiento constante con clientes o situaciones no previstas. Por eso, el seguimiento debe comenzar en cuanto el agente se activa en el mundo real.
Además de medir tareas completas, se deben monitorear indicadores indirectos, como aumento de solicitudes de registro de facturas o consultas de proveedores. Un agente puede parecer eficiente mientras genera trabajo extra o riesgos ocultos. El responsable del proceso necesita mecanismos para restringir permisos durante la investigación y contar con datos para corregir decisiones reversibles.
Aquí podría ser valioso incorporar expertos en comportamiento de IA, profesionales que analicen patrones complejos que individualmente no detecta un revisor: aumento de correcciones, confianza persistente pese a menor exactitud, secuencias inusuales de acciones o reiterados acercamientos a límites normativos. Este rol requiere conocimientos técnicos y comprensión del proceso de negocio.
La doctora Janet Bastiman, científica principal de datos en Napier AI, advierte sobre el uso inapropiado de términos como “engaño” o “deriva de objetivos” con connotaciones humanas. Lo verdaderamente importante es observar conductas: si los resultados se desvían de la lógica declarada o si el sistema optimiza métricas secundarias en vez de objetivos reales. Un experto en validación de modelos que no entienda el negocio podrá perder cambios críticos.
Esta función de monitoreo no necesita obligatoriamente un cargo nuevo. Equipos de riesgos y operaciones pueden colaborar, siempre que haya alguien capaz de detectar patrones y un responsable con capacidad para actuar. No sirve de nada monitorizar si nadie puede restringir accesos o detener al agente.
Limitar la autonomía incluso si la IA tiene buen rendimiento
Los sistemas que funcionan casi siempre sin fallo suelen representar un mayor desafío para el control. Cuando un agente cumple correctamente la mayoría de las veces, directivos y empleados tienden a ampliar su uso sin cuestionar, y clientes asumen que respuestas pulidas equivalen a decisiones acertadas. Sin embargo, esto no prueba que el agente sea fiable para tareas más críticas.
Si la empresa no puede identificar qué información influyó en un resultado clave o qué reglas avalaron una acción, esa autonomía debe restringirse. El agente puede continuar con recomendaciones o trabajos de bajo coste y fácil reversión, pero decisiones financieras importantes requieren evidencias claras y una vía definida hacia la supervisión humana.
El reto práctico para los líderes es definir esos límites antes del despliegue y revisarlos según resultados. Para cada flujo, deben asignar un responsable, detallar las acciones permitidas al agente, establecer puntos de escala crítica, registrar decisiones y probar la rapidez con que se puede retirar autoridad. Las evaluaciones deben considerar resultados reales, como quejas y correcciones, además de velocidad y productividad.
Este debate logra sintetizar la pregunta que ha atravesado toda la serie: ¿necesita el entorno laboral moderno especialistas dedicados al comportamiento de la IA?
Rousseau defiende la necesidad de una figura experta, aunque evita el término “psicólogos de máquinas”, prefiriendo “especialistas en el comportamiento del sistema humano-IA”. Bastiman es más cauta y recuerda que en industrias reguladas ya existen roles dedicados a la validación y gestión de riesgos de modelos. Tanto ella como Wilczek alertan sobre el riesgo de aplicar lenguaje humano inapropiado a máquinas; términos como “engaño” pueden llevar a malentendidos.
En definitiva, la IA no necesita un psicólogo al modo humano. Lo que sí requieren las empresas es comprender y gestionar el comportamiento que estos sistemas generan y los hábitos que se crean en torno a ellos. Cuando un agente parece actuar como un colega, la organización debe dejar clara una verdad fundamental: la IA no puede asumir responsabilidad por sus decisiones, ya que, en esencia, es una herramienta creada para que humanos la utilicen, independientemente de la autonomía que le conferimos.
