OpenAI ha dado a conocer cifras sorprendentes sobre el gasto en tokens de inteligencia artificial en su equipo de investigación. Según un reciente comunicado oficial, algunos investigadores llegan a consumir hasta 7.000 dólares diarios en tokens de IA, con un promedio aproximado de 600 dólares por persona al día, en medio de un aumento considerable de la programación asistida por agentes.
Esta subida en el consumo de tokens refleja un cambio radical en los procesos de trabajo del equipo investigador a lo largo del último año. La empresa ha observado cómo la utilización diaria de estos recursos ha crecido de manera acelerada, con investigadores ejecutando más código y realizando experimentos con mayor frecuencia gracias a la incorporación de agentes inteligentes en sus tareas.
En palabras de OpenAI, “el trabajo diario de los investigadores ha cambiado sustancialmente a lo largo del año. Usan agentes de programación constantemente y en múltiples sesiones simultáneas, lo que ha provocado un incremento explosivo en el uso total de tokens, superando el crecimiento observado en otros equipos de OpenAI”. 
Además, el papel de estos agentes está evolucionando: se están encargando de tareas cada vez más complejas y tienen una tasa mayor de éxito. No obstante, la compañía aclara que la complejidad inherente a la investigación en IA implica que el avance general probablemente no siga el ritmo de estas métricas específicas de uso.
El gasto en IA no es exclusivo de OpenAI
Este aumento en los costes no solo afecta a OpenAI, sino que también plantea un desafío global para las empresas que utilizan inteligencia artificial a gran escala. La adopción de modelos de pago basados en el consumo, conocidos como CPB (consumption-based pricing), junto con la práctica de tokenmaxxing —un uso intenso y descontrolado de tokens— ha hecho que los costes se conviertan en un problema recurrente para muchas organizaciones durante el último año.
Un estudio de Gartner prevé que, para 2028, el coste asociado a los tokens podría superar incluso el salario medio de un desarrollador, lo que subraya la magnitud del esfuerzo económico que implica esta tecnología.
Afortunadamente, los precios están empezando a descender. Según el LLM Token Expenditure Index, el coste alcanzó los 2 dólares por millón de tokens en junio de este año, reduciéndose a 99 centavos el 5 de septiembre. Sin embargo, esta bajada no compensa a las empresas que han soportado facturas astronómicas en los meses previos.
Por ejemplo, Uber reconoció haber consumido la totalidad de su presupuesto anual de IA en apenas cuatro meses, debido a que se incentivó a sus empleados a fomentar el uso intensivo de tokens. La situación obligó a la empresa a implementar límites en el gasto para controlar los costes.
De manera similar, Accenture ordenó a sus empleados reducir el uso innecesario de inteligencia artificial en tareas básicas después de que se dispararan los precios. La consultora hizo especial hincapié en restringir el uso por parte de empleados que no son ingenieros, quienes realizaban procesos rutinarios como la conversión de documentos PDF en presentaciones de diapositivas, generando un consumo excesivo de tokens.
La optimización, clave para frenar costes
Mientras que algunos investigadores en OpenAI cuentan con flexibilidad presupuestaria para experimentar sin restricciones, la mayoría de las empresas deben gestionar cuidadosamente el gasto en IA. Esto ha revitalizado la aplicación de prácticas tradicionales como FinOps, destinadas a optimizar los recursos financieros en tecnología.
Nitish Tyagi, analista principal de Gartner, señaló a este medio que los responsables de IT deben mejorar sus estrategias de optimización de costes para evitar gastos descontrolados. Entre las recomendaciones destaca la importancia de la ingeniería de contenido, que puede contribuir a reducir el consumo de tokens, y la necesidad de establecer un marco basado en el análisis de casos de uso, definiendo claramente en qué tareas es conveniente emplear inteligencia artificial.
En resumen, el auge del uso de agentes inteligentes está transformando la forma en que la investigación y la producción de software se llevan a cabo en OpenAI y otras empresas, pero el reto de controlar el gasto asociado a esta tecnología es un aspecto crucial que está ganando protagonismo en la agenda de muchas organizaciones.
