Pi revoluciona la eficiencia de MCP con Codemode para reducir el coste de contexto

Pi ha integrado MCP en su agente de código, pero con una innovadora arquitectura que evita cargar todas las definiciones de herramientas desde el inicio, reduciendo drásticamente el uso de tokens y mejorando la eficiencia en entornos con ventanas de contexto extensas.

En el uso de herramientas de automatización para navegadores, el Protocolo Multi-Contexto (MCP) se ha establecido como un estándar, aunque no sin problemas. Durante el último año, Pi, una plataforma avanzada de agentes de inteligencia artificial, evitó incluir MCP en su agente de código debido al elevado coste de tokens que generaba. Según su creador, Mario Zechner, algunos servidores MCP, como el de Chrome DevTools, consumían alrededor de 18.000 tokens — el 9% de una ventana de contexto de 200.000 tokens — incluso antes de que el agente realizara alguna acción útil.

Esta carga tan alta de tokens limitaba la eficiencia y escalabilidad de sistemas con capacidades avanzadas de lenguaje natural, ya que cada servidor adicional incrementaba este sobrecoste. Por ejemplo, Playwright MCP necesitaba 13.700 tokens para describir 21 herramientas (6,8% de esa ventana), y tras la obtención de resultados, estos debían transitar nuevamente por el contexto para ser almacenados o combinados, complicando la composición y gestión del flujo de datos.

Frente a esto, Zechner impulsó una solución alternativa utilizando Bash y una serie de scripts minimalistas. Esta aproximación permitía al modelo usar herramientas basadas en terminal ya conocidas con un coste de contexto muy bajo, apenas 225 tokens para la documentación, y delegaba el manejo y almacenamiento de resultados directamente en el sistema sin necesidad de reinterpretar todo a través del modelo. Antes incluso de que Pi incorporara nativamente MCP en su versión 1.0, estas ideas estaban presentes mediante extensiones como pi-mcp-adapter.

Patrocinado

Integración innovadora: Codemode como intermediario

Más adelante, tras la adquisición de Pi por Earendil, la compañía consideró que el protocolo MCP había madurado lo suficiente para ser incorporado de forma nativa, motivando una revisión profunda. Sin embargo, la clave no fue solo cómo MCP evolucionó, sino que las modificaciones necesarias para su integración resultaron útiles para todo el sistema.

Así, Pi aplicó un sistema llamado Codemode, basado en el patrón de modo código, que actúa como intérprete y buscador dinámico de herramientas sin cargar todas sus definiciones en el contexto inicial del modelo. Codemode se ejecuta dentro de una sandbox QuickJS limitada – sin acceso a APIs de Node, sistema de archivos, red ni temporizadores – y puede invocar herramientas y modelos, realizar operaciones en paralelo y procesar resultados antes de devolver información al agente.

De esta forma, el servidor MCP conecta con Pi, pero el modelo recibe solo una descripción concisa de cada servidor, mientras que las funciones y herramientas se activan bajo demanda a través de Codemode. Esto reduce enormemente la cantidad inicial de tokens en uso. Además, los desarrolladores pueden controlar qué herramientas se exponen directamente al modelo, cuáles se quedan ocultas tras Codemode y cuáles se bloquean por completo para evitar riesgos o sobrecargas, personalizando así la interacción con cada servidor.

Reducción significativa del uso de tokens

Codemode tiene asignado un presupuesto por defecto de 3.000 tokens para declarar herramientas activas; cualquier herramienta que exceda ese límite se mantiene accesible solo a través del descubrimiento dinámico. Con la versión 1.0 de Pi, este presupuesto disminuyó gracias a optimizaciones como acortar las descripciones de Codemode, extraer la documentación de APIs fuera del contexto y eliminar duplicidades en las declaraciones.

Por ejemplo, una solicitud a GPT-5.6 con la configuración estándar de herramientas y Codemode redujo la necesidad de tokens de unos 5.300 a 3.300 tokens, mejorando la eficiencia y la respuesta del sistema.

En definitiva, Pi no solo ha adoptado el protocolo MCP para ampliar sus capacidades, sino que ha transformado su arquitectura para superar limitaciones históricas como el alto coste de contexto y la falta de composabilidad, logrando una implementación ligera, flexible y eficiente que maximiza el rendimiento de sus agentes.

Add a Comment

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Patrocinado