Google lanza Gemini Decisions API: un modelo de IA que no genera texto pero mejora la toma de decisiones

Google presenta Gemini Decisions API, un nuevo modelo de inteligencia artificial diseñado para tomar decisiones específicas rápidamente y a menor coste, en lugar de generar texto como los modelos tradicionales.

Google ha dado un giro en el desarrollo de inteligencia artificial con el lanzamiento de Gemini Decisions API, un modelo innovador específicamente creado para abordar decisiones rutinarias que las aplicaciones de IA realizan miles de veces al día. Presentado oficialmente el pasado miércoles, este modelo promete ofrecer respuestas más rápidas y económicas que los habituales modelos generativos de texto.

A diferencia de los sistemas que generan respuestas textuales para cada consulta, Gemini Decisions API emplea un modelo llamado Gemini Decision 1 que evalúa opciones predefinidas en una única pasada, optimizando los procesos y reduciendo tanto el tiempo de respuesta como el coste asociado. Según datos facilitados por Google, la latencia de respuesta en las pruebas realizadas oscila entre 150 y 250 milisegundos, y el precio inicial se sitúa en 0,10 dólares por cada millón de tokens de entrada, sin cobrar por tokens de salida.

Este lanzamiento se produce semanas después de que OpenAI presentara su propia API enfocada a la toma de decisiones, uniéndose a otros actores como TypeSafe AI y Microsoft en un mercado emergente que apuesta por modelos diseñados para tomar decisiones específicas sin generar texto.

Patrocinado

Un modelo eficiente para decisiones cerradas

Gemini Decisions API cuenta con una ventana de contexto de hasta 256.000 tokens, lo que permite evaluar simultáneamente hasta 1.000 preguntas independientes a partir de un único input, incluyendo contenido multimodal. Las respuestas del modelo incluyen probabilidades y puntuaciones de confianza que los desarrolladores pueden utilizar para seleccionar entre las opciones predefinidas, evaluar la información conforme a criterios concretos y determinar la siguiente acción que debe realizar la aplicación.

El CEO de Google, Sundar Pichai, definió este modelo en una publicación en la red social X como «diseñado para elecciones cerradas». Además, Min Choi, gerente de producto de Google DeepMind, y el científico principal Felix Yu, señalaron en el anuncio oficial que esta API ofrece «primitivas específicas para elecciones limitadas», subrayando su enfoque especial para tareas acotadas y precisas.

Aplicaciones internas y mejoras notables

Google ya utiliza Gemini Decision 1 en varios productos propios. Por ejemplo, en Gemini Notebook, la aplicación de enrutamiento en tiempo real basada en este modelo ha supuesto una reducción de latencia de hasta un 40%. Asimismo, el buscador de Google emplea esta tecnología para detectar comportamientos adversos relacionados con herramientas de manipulación de contenido.

Benchmark y comparación con la competencia

Los resultados preliminares de benchmarking, proporcionados por Google, muestran que Gemini Decision 1 supera al modelo GPT-6 Luna de OpenAI, aunque la distancia con el modelo Jev 1.14 de TypeSafe AI es menor. Según Logan Kilpatrick, responsable de producto para Google AI Studio y la Gemini API, en la prueba JevBench, Gemini Decision 1 obtuvo un 92,2%, frente al 90,9% de Luna y el 90% de Jev.

No obstante, Jev fue superior en dos de las siete pruebas compartidas y resultó más económico: el coste por ejecutar la suite completa fue de 0,68 dólares frente a 0,88 dólares de Gemini Decision 1. También destaca que el modelo de Google consiguió el error de calibración más bajo entre los testados. A pesar de estas cifras, es importante tener en cuenta que todos los datos provienen de tests internos de Google y aún no hay evaluaciones independientes que contrasten el rendimiento en entornos reales de producción.

Modelo de tarificación y acceso para desarrolladores

Para los desarrolladores que integren Gemini Decisions API, el coste se cobra una sola vez por el envío del contexto compartido, incluso si se hacen múltiples consultas sobre ese mismo contexto. Sin embargo, cada pregunta formulada sigue contabilizándose como uso de tokens. El modelo procesa cada pregunta por separado, por lo que si un flujo de trabajo depende de la respuesta a una pregunta para generar la siguiente, será necesario realizar llamadas adicionales a la API.

Gemini Decision 1 está disponible en Google AI Studio, ofreciendo una capa gratuita para prototipos y posibilitando integraciones con plataformas como OpenRouter, LangChain, Vercel y LiteLLM. Además, Google planea ofrecer soporte para esta API en Google Cloud, aunque aún no ha especificado fechas para su lanzamiento en esta plataforma.

Add a Comment

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Patrocinado