Con la creciente popularidad de los modelos de decisión, impulsada recientemente por el sistema Jev de TypeSafe, OpenAI ha presentado una propuesta propia durante su conferencia anual DevDay. La nueva API de Decisiones de OpenAI se basa en Luna, el modelo más pequeño y económico de su actual catálogo, y tiene como objetivo ofrecer una respuesta ágil y fiable en tareas de elección entre opciones predeterminadas.
Vista previa limitada y lanzamiento próximo
Es probable que esta iniciativa de OpenAI sea una respuesta directa a la irrupción de TypeSafe y su modelo Jev, y la compañía parece haber acelerado el anuncio justo antes de su evento DevDay. Por ahora, la API solo está disponible en una fase de vista previa limitada, mientras que el lanzamiento general se prevé para los próximos días. Un portavoz de OpenAI confirmó que ofrecerán más detalles durante el despliegue definitivo. 
Respuestas predefinidas con puntuaciones de confianza reales
Los modelos de decisión no funcionan como los chatbots tradicionales. Su función principal es ofrecer un conjunto fijo de respuestas posibles, junto con puntuaciones de confianza realistas. A diferencia de los modelos de lenguaje grandes (LLMs), que a menudo proporcionan estimaciones aproximadas y consumen muchos tokens para generar su respuesta, la API de OpenAI promete resultados en apenas 150 milisegundos, frente a los 1,6 segundos que requeriría ejecutar la misma tarea con GPT-6 Luna.
Este enfoque hace que el modelo sea especialmente útil para clasificar contenidos, dirigir solicitudes o seleccionar la acción siguiente para un agente dentro de un conjunto limitado de opciones. La única tarea del desarrollador es suministrar las preguntas, las alternativas y el contexto adecuado, lo que simplifica mucho la integración en aplicaciones prácticas.
Un término medio entre prompts y clasificadores
Hasta ahora, las soluciones habituales para este tipo de problemas combinaban chatbots con prompts diseñados a medida, a menudo teniendo que interpretar la probabilidad de generación de tokens para obtener una idea de la confianza. Otra opción es entrenar un clasificador pequeño, que resulta rápido y barato, pero requiere conjuntos de datos etiquetados y reentrenamiento cada vez que se añaden o cambian etiquetas.
Los modelos de decisión, como la nueva API de OpenAI, ofrecen una alternativa intermedia: aceptan en el prompt etiquetas nuevas y devuelven puntuaciones de confianza útiles directamente. Esta propuesta no es del todo novedosa para OpenAI, cuya API de Moderación ya devuelve puntuaciones por categoría en lugar de respuestas textuales, aunque en esa API los criterios son fijos y no definidos por el desarrollador.
Preguntas abiertas sobre la adaptación y costes
Aún quedan dudas importantes por resolver acerca del coste por llamada, la cantidad máxima de respuestas candidatas que puede gestionar la API, y si los desarrolladores podrán ajustar el modelo con datos propios. Estos factores determinarán si la API de Decisiones se convierte en un elemento estándar para construir agentes inteligentes o si permanece como una herramienta especializada junto a las plataformas de chat convencionales.
