Shopify ha creado un proxy para grandes modelos de lenguaje (LLM) que ofrece a sus ingenieros acceso a distintos proveedores de inteligencia artificial, con un sistema de conmutación automática en caso de caída, actualización o desaparición de alguno de ellos. Esta infraestructura permite que, cuando un modelo se deja de usar o cambia, el flujo de trabajo no se interrumpa, ya que el sistema redirige las peticiones hacia otros modelos disponibles sin que los usuarios lo noten.
Un ejemplo reciente fue la retirada de Claude Fable 5, momento en el que el equipo de ingenieros de Shopify no experimentó ningún trastorno: el proxy redirigió automáticamente las consultas a Claude Opus o GPT 5.5, garantizando la continuidad de sus tareas diarias sin interrupciones. Según Farhan Thawar, jefe de ingeniería de Shopify, «cuando un modelo aparece y luego desaparece, o sufre una simple actualización, el proxy nos permite distribuir las cargas entre distintos proveedores».
Para gestionar esta operación con eficacia, Shopify compra tokens en grandes cantidades y establece que todos los usuarios se conecten a los modelos de IA a través de su proxy interno. Esto no solo permite acceder a informes detallados sobre el uso y rendimiento, sino también mantener un sistema de respaldo que actúa automáticamente ante fallos, evitando que la empresa dependa en exceso de un único proveedor. 
Thawar enfatiza que otras compañías pueden aprender de este modelo y recomienda estar preparadas para eventuales interrupciones, implementando sistemas que faciliten el movimiento entre diferentes modelos y proveedores para no quedar atadas a una sola opción.
Destilación: especialización y eficiencia
Otra clave en esta estrategia es la técnica de destilación. En este proceso, un modelo más pequeño y especializado —el llamado modelo estudiante— aprende de uno más grande y generalista —el modelo profesor—, afinándose para realizar tareas específicas de forma más eficiente. En algunos escenarios, estos modelos pequeños pueden superar en rendimiento y coste a los generalistas.
Así ocurre con Sidekick, el asistente de IA estrella de Shopify, que realiza múltiples tareas especializadas para los comerciantes, aliviando trabajos rutinarios. Estos modelos destilados combinan rapidez y ahorro: en muchos casos resultan el doble de rápidos y económicos, y en situaciones más extremas, pueden ser hasta 30 veces más baratos y veloces.
Pero, para Thawar, no solo se trata de costes o latencia, la precisión también es fundamental. Por eso, el proceso de destilación implica alimentar a la plataforma con el modelo profesor, datos de entrenamiento, evaluaciones y un modelo objetivo. La plataforma ejecuta la destilación durante alrededor de un día y devuelve un informe que mide velocidad, coste y exactitud. Si estos parámetros son satisfactorios para la tarea definida, el modelo afinado se despliega sin necesidad de autorización adicional. Además, Shopify cuenta con Tangle, una plataforma interna que permite visualizar en tiempo real cómo avanza esta canalización.
El objetivo de Thawar es evolucionar hacia un sistema aún más autónomo, en el que el proceso de destilación no requiera un modelo objetivo predeterminado sino que, a partir de los datos recibidos y evaluaciones, determine automáticamente cuál es el tamaño y tipo óptimo para el modelo destilado. Esto podría llevar a que surjan modelos tan pequeños que puedan funcionar directamente en dispositivos móviles, o a confirmar que no es posible mejorar un modelo pionero a través de la destilación.
De la «reflexividad AI» al «apalancamiento AI»
En Shopify, los usuarios pueden emplear cualquier herramienta que deseen, desde Claude Code, Codex, Cursor hasta GitHub Copilot para VS Code, con acceso abierto a distintas interfaces para que cada uno experimente y adapte la inteligencia artificial a su propio flujo de trabajo.
La empresa también ha desarrollado un panel de control que permite a los responsables analizar más allá del gasto de tokens, identificando quién utiliza los tokens más caros, quién invierte más tiempo en razonamiento y qué tipos de modelos y técnicas se usan más según las disciplinas y niveles de los usuarios.
Para evitar un uso excesivo e innecesario, Shopify cuenta con sistemas de control llamados «circuit breakers» que alertan a los usuarios cuando un modelo está consumiendo un número inusual de tokens durante un periodo prolongado, por ejemplo, más de 10 horas seguidas. Esto permite confirmar si el gasto es intencionado o detener procesos que estén trabajando sin supervisión.
Thawar afirma que el cometido final es avanzar desde una relación reactiva con la IA —donde simplemente se responde a sus resultados— hacia un aprovechamiento consciente y óptimo de la inteligencia artificial, para que los empleados reflexionen y decidan en qué áreas su trabajo puede beneficiarse realmente del uso de estas tecnologías.
Más allá de los modelos: la infraestructura y el futuro
En una reciente entrevista para el podcast «Beyond the Pilot», Thawar expone que la filosofía de Shopify es priorizar la construcción de infraestructura robusta antes de desarrollar funciones específicas: «Siempre hemos apostado por crear más infraestructura y así seguiremos».
Un ejemplo de esta infraestructura interna es River, el agente de inteligencia artificial que Shopify ha desarrollado para reunir y unificar la información de toda la compañía, creando una base sólida de datos accesibles.
Thawar también comparte una experiencia personal con otro agente propio, OpenClaw, que detectó a través de su calendario que él estaba de viaje, mostrando el potencial futuro de los agentes para anticipar y adaptarse al contexto real de los usuarios.
