La ingeniería de agentes de IA avanza para reducir la supervisión humana

La evolución de los agentes de inteligencia artificial permite que estos corrijan sus propios errores y gestionen tareas prolongadas con mínima intervención humana, gracias a la ingeniería de ‘harness’ que incorpora pruebas automáticas, bucles de retroalimentación y sistemas de protección.

Hace tan solo unos años, los errores o «alucinaciones» de la inteligencia artificial eran un problema frecuente, lo que obligaba a los desarrolladores a revisar constantemente el código generado por estos agentes para detectar fallos. Por ejemplo, se cuestionaban detalles tan simples como cuántas «r» tenía la palabra «strawberry» (fresa), reflejando la necesidad de una supervisión manual intensa.

Sin embargo, los avances recientes en la ingeniería de agentes de IA, conocida como «harness engineering», están permitiendo que estos sistemas detecten y corrijan sus propios errores antes de que un humano tenga que revisarlos. Esta metodología se basa en equipar a los agentes de IA con pruebas automatizadas, bucles de retroalimentación y mecanismos de control que actúan como «guardrails», asegurando que el trabajo se realice correctamente desde el principio y se corrija de forma autónoma cuando sea necesario.

Vanitha Kumar, directora de Tecnología de Marketing y socia técnica en Thoughtworks para el mercado de Retail, Consumo Masivo, Turismo y Hostelería en América, explicó en el último episodio del podcast The New Stack que el objetivo principal de esta ingeniería es «hacerlo bien a la primera y también autocorregirse una vez realizado». De esta forma, se elimina la necesidad de que los desarrolladores «vigilen y supervisen constantemente a sus agentes» mientras estos trabajan.

Patrocinado

La implementación de estas soluciones también permite que múltiples agentes trabajen simultáneamente sin interferir entre sí, abordando tareas de larga duración con menor intervención humana. No obstante, dotar a los agentes de mayor autonomía implica que necesitan acceso a más datos, sistemas y herramientas, lo que puede aumentar el riesgo de vulnerabilidades de seguridad.

Para mitigar estos riesgos, los sistemas de protección dentro de la ingeniería ‘harness’ limitan el acceso a ciertas herramientas, imponen entornos controlados de prueba y exigen aprobaciones humanas para cambios sensibles. Este enfoque busca equilibrar la autonomía con la seguridad, respondiendo a la preocupación que muchas organizaciones tienen actualmente, que las frena en la adopción amplia de la IA.

Kumar prevé que la seguridad será uno de los temas centrales en el ámbito de la inteligencia artificial en el próximo año, por su creciente importancia y los desafíos que conlleva.

Además, destaca el papel de las llamadas «fábricas de IA», infraestructuras que facilitan la gestión y estandarización de modelos, administración de cargas de trabajo y optimización de costes. Estas fábricas permiten escalar la implementación de agentes sin complicaciones, de forma similar a como Kubernetes revolucionó la gestión de infraestructuras de microservicios. Para Kumar, «la mejor forma de construir una plataforma es hacer que sea fácil hacer lo correcto».

Thoughtworks publicó su Technology Radar volumen 35 el 4 de noviembre de 2026, donde se profundiza en el auge de la ingeniería ‘harness’, las prácticas emergentes para agentes de IA y la revitalización de técnicas tradicionales de ingeniería. Por ejemplo, pruebas de penetración y comprensión del camino a producción han recuperado importancia porque, según Kumar, «son cosas antiguas que ahora tienen más peso gracias a la IA».

En definitiva, la combinación de estas innovaciones hace posible un futuro en el que los desarrolladores no tengan que estar constantemente pendientes de sus agentes de IA, permitiendo así una colaboración más eficaz y segura entre humanos y máquinas en el desarrollo de software.

Add a Comment

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Patrocinado