OpenAI lanza su API de agentes y revela que sus investigadores gastaban hasta 7.000 dólares diarios en procesamiento de IA

OpenAI ha estrenado la API de agentes en versión beta pública, facilitando que desarrolladores ejecuten agentes de inteligencia artificial durante días sin supervisión. Sin embargo, este avance coincide con la suspensión temporal de nuevas suscripciones a su plan Pro de 200 dólares mensuales, debido a la alta demanda de su modelo GPT-6 Astra que está saturando su capacidad de cómputo.

OpenAI ha puesto en marcha la versión beta pública de su API de agentes, un sistema que permite a los desarrolladores ejecutar agentes de inteligencia artificial autónomos que pueden trabajar durante días consecutivos sin intervención humana directa. Esta API gestiona internamente el seguimiento de las tareas y facilita un entorno de ejecución, incluso cuando el trabajo supera ampliamente los límites normales de contexto que suelen restringir los modelos de lenguaje.

El lanzamiento de esta plataforma simplifica notablemente el uso de agentes de larga duración, que antes requerían que cada desarrollador construyera su propio sistema para mantener la actividad del agente. Sin embargo, esta facilidad implica un mayor consumo de recursos informáticos, lo que lleva a un uso intensivo que puede elevar costes significativamente.

Curiosamente, el mismo día en que OpenAI abrió el acceso a la API de agentes, anunció una pausa en la inscripción de nuevos usuarios para su plan Pro, que tiene un coste mensual de 200 dólares. Esta decisión se produce tras una avalancha de solicitudes que han puesto contra las cuerdas la capacidad disponible para el modelo más avanzado de la compañía, GPT-6 Astra.

Patrocinado

Thibault Sottiaux, líder de ingeniería del equipo Codex de OpenAI, explicó en la red social X que las suscripciones Pro generan la mayor presión sobre los sistemas de la empresa, y que están trabajando a marchas forzadas para ampliar la capacidad lo antes posible.

Aunque la API de agentes y el plan Pro funcionan como productos separados y no comparten directamente capacidad, el hecho de que uno se abra al público y el otro se cierre temporalmente llama la atención, especialmente cuando OpenAI facilita a los desarrolladores la ejecución prolongada de agentes mientras restringe el acceso a su opción de usuario más intensiva hasta que pueda equipararse la infraestructura.

El cómputo se dispara con agentes de larga duración

Cuando un agente trabaja durante mucho tiempo, la API recurre a la compresión del contexto para conservar información esencial sin superar los límites de memoria del modelo. Además, los agentes pueden activar herramientas auxiliares solo cuando son necesarias o dividir grandes trabajos en subtareas asignadas a agentes paralelos, optimizando así el uso de recursos.

El procesamiento puede realizarse tanto en la infraestructura controlada por OpenAI como en la que decidan los desarrolladores, lo que ofrece flexibilidad pero también incrementa la complejidad de gestión y el consumo total de cómputo.

El flujo de trabajo de un agente consiste en progresar paso a paso consultando repetidamente el modelo, lo que hace que un proceso de varias horas pueda consumir muchos más recursos de inferencia que una simple llamada a la API. El uso se multiplica si varios agentes corren en paralelo.

OpenAI ya ha visto esta dinámica dentro de su propio equipo de investigación. En un informe publicado el 6 de septiembre, la empresa reveló que a mediados de agosto cada jornada laboral humana de ocho horas equivalía a 3,1 días de trabajo realizados por agentes automatizados, según la medida de uso de cómputo.

De hecho, el investigador medio, en función del uso que hacía de agentes, gastaba más de 600 dólares diarios en trabajos de inferencia. En el extremo superior, el 10% de los investigadores más intensivos superaba los 7.000 dólares al día.

Antes de junio de este año, los investigadores aún trabajaban más horas directamente que los agentes. Sin embargo, a mediados de agosto la balanza se había invertido y los agentes realizaban tres veces más carga de trabajo.

La menor fricción incrementa la demanda de cómputo

La API de agentes reduce significativamente las barreras para experimentar con inteligencia artificial, al eliminar la necesidad de que los desarrolladores creen su propia capa de orquestación, ya que OpenAI cobra únicamente por los modelos, herramientas y computación utilizada efectivamente por los agentes.

No obstante, esta simplificación facilita también consumos mucho mayores de inferencia. Por ejemplo, la compresión automática del contexto evita que el agente se detenga al llegar al límite de la ventana de contexto, lo que antes obligaba a los desarrolladores a decidir qué información eliminar o resumir. Ahora, el agente puede continuar procesando ininterrumpidamente mientras la API se encarga de mantener la coherencia.

La demanda de Astra colapsa la capacidad

El reciente despliegue del modelo GPT-6 Astra ofrece una idea clara de los desafíos: menos de dos semanas después de su lanzamiento el pasado 3 de septiembre, OpenAI decidió detener nuevas suscripciones a su plan Pro, debido a la enorme presión que generan estos usuarios sobre sus sistemas.

Aunque la API de agentes cuenta con sus propios límites de tasa y niveles de uso, la suspensión del plan Pro refleja la necesidad de OpenAI de gestionar cuidadosamente las capacidades para no saturar la infraestructura con los nuevos modelos más potentes.

La infraestructura gana protagonismo frente a los propios modelos

El incremento sostenido en el número y duración de los agentes activos hace que el consumo de cómputo crezca exponencialmente. Un único desarrollador puede llegar a tener varios agentes trabajando simultáneamente, cada uno realizando múltiples consultas al modelo durante el desarrollo de sus tareas, lo que convierte el tamaño del equipo en un dato poco representativo para medir el uso real que se produce.

El principal desafío de gestionar agentes de larga duración radica en mantener el avance del trabajo sin desperdiciar tokens ni perder el control del proceso en ejecución. Este enfoque, que también ha adoptado recientemente la empresa Cloudflare en sus apuestas por inteligencia artificial, subraya que la infraestructura que rodea a los modelos es tan crítica como los propios algoritmos.

Add a Comment

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Patrocinado