Microsoft lanza Cobalt 200: nuevo chip ARM que revoluciona el rendimiento en inteligencia artificial

Microsoft pone a disposición general sus máquinas virtuales Cobalt 200, con procesadores ARM de segunda generación que mejoran hasta un 50% el desempeño para ejecutar agentes de IA y cargas de trabajo críticas en Azure.

Durante su conferencia Ignite en San Francisco, Microsoft anunció la disponibilidad general de sus máquinas virtuales Cobalt 200, impulsadas por procesadores ARM de segunda generación diseñados especialmente para mejorar el rendimiento en tareas relacionadas con la inteligencia artificial y el procesamiento de código. Estas nuevas VMs, ya disponibles en 14 regiones de Azure y que llegarán a 23 antes de fin de año, prometen hasta un 50% más de rendimiento comparado con la generación anterior, Cobalt 100.

Hace aproximadamente un año Microsoft presentó oficialmente Cobalt 200, y desde hace medio año estas máquinas virtuales estaban en fase de prueba. Ahora, los benchmarks internos muestran un aumento de hasta 1,5 veces en la ejecución de herramientas para agentes de IA en operaciones como búsqueda de archivos, compilación de código y la ejecución de tareas en entornos de sandbox.

Pat Stemen, vicepresidente de Azure Cobalt en Microsoft, explicó que el equipo ha dedicado gran parte del último año a ajustar la infraestructura para estas operaciones específicas. Ya desde el diseño inicial, la arquitectura de grandes cachés, el rendimiento de memoria y los núcleos físicos de estos chips estaban pensados para cargas de trabajo como la gestión de sandboxes. Después desarrollaron una batería de pruebas internas para optimizar aún más su rendimiento en tareas comunes.

Patrocinado

Modos de procesador: rendimiento predecible o extra de velocidad

Cobalt 200 ofrece dos modos de funcionamiento para los desarrolladores. El modo determinista hace que los núcleos funcionen a una frecuencia constante de 3,2 GHz, asegurando así una velocidad estable y predecible. En contraste, el modo oportunista permite alcanzar frecuencias de hasta 3,6 GHz cuando las condiciones de energía y temperatura lo permiten, proporcionando un impulso de rendimiento de hasta un 12%, aunque con variabilidad en la velocidad.

Según Stemen, muchos clientes prefieren la frecuencia fija del modo determinista debido a la predictibilidad que aporta, especialmente en entornos distribuidos o clusters analíticos donde el nodo más lento puede limitar el rendimiento global. En cambio, servicios web, APIs, procesamiento de transacciones y cargas multimedia pueden beneficiarse más del modo oportunista.

La selección del modo puede realizarse al crear la VM o modificarse posteriormente mediante el portal de Azure, línea de comandos o plantillas de infraestructura, e incluso se puede aplicar de forma independiente a cada núcleo dentro de una máquina virtual.

Arquitectura diseñada para cargas críticas en Azure

El chip Cobalt 200 está compuesto por 132 núcleos ARM Neoverse V3 fabricados con tecnología de 3 nanómetros de TSMC, y cada VM puede escalar hasta 128 vCPUs, siendo cada vCPU un núcleo físico completo con 3 MB de caché L2 privado. Además, cuentan con 192 MB de caché a nivel de sistema y 12 canales de memoria DDR5, lo que se traduce en un amplio ancho de banda para cargas de trabajo exigentes.

La actualización respecto al Cobalt 100 implicó cambiar un núcleo ARM optimizado para costes por uno orientado al rendimiento, aumentando también la memoria caché y el ancho de banda de memoria para acelerar procesos.

Cada VM incluye también Azure Boost, una tecnología que descarga en el hardware la gestión del almacenamiento y la red, logrando hasta un 15% más de ancho de banda en red y un 20% más de operaciones de entrada/salida en almacenamiento remoto en comparación con Cobalt 100.

Stemen destaca que cargas de trabajo en la nube necesitan no solo alto rendimiento computacional sino acceso rápido a almacenamiento local SSD y conexiones de red de alta velocidad, aspectos que se han tenido en cuenta desde el diseño.

Para garantizar esto, el equipo de desarrollo descompone las cargas de Microsoft en componentes más pequeños, modelando su comportamiento antes de fabricar el hardware para tomar decisiones sobre tamaño de cachés, memoria o incluso la refrigeración de los servidores, involucrando a los equipos de producto desde las primeras etapas del diseño.

Un ejemplo de uso interno es el servicio de procesamiento multimedia de Microsoft Teams, que ha registrado un aumento del 65% en rendimiento con Cobalt 200 respecto a la generación anterior, alcanzando una utilización del 90% de los núcleos mientras atiende peticiones en producción. Fuera de Microsoft, Amadeus reportó un aumento superior al 30% en la capacidad para búsquedas de vuelos bajo condiciones de laboratorio.

Ampliación del ecosistema ARM en Azure

Actualmente, muchos servicios de Microsoft, incluyendo Azure Database for PostgreSQL, Azure DevOps, Azure SQL, Microsoft 365 y Xbox, ya funcionan sobre la arquitectura Cobalt. Aunque anteriormente existía cierta reticencia por parte de los clientes debido a la migración, esta preocupación ha ido desapareciendo gracias a mejores herramientas y productos más robustos.

Además de las VM de propósito general y optimizadas para memoria, Microsoft ha lanzado dos nuevas familias de máquinas virtuales con Cobalt 200: la serie Mpsv4 de alta memoria, que ofrece 16 GiB por vCPU, y la Lpsv5 optimizada para almacenamiento, con hasta 23 TB en unidades NVMe locales.

Stemen señala que hay un creciente interés en bases de datos en memoria de gran tamaño y cargas empresariales complejas que ahora pueden ser migradas con mayor facilidad a ARM, ampliando así el rango de aplicaciones que pueden beneficiarse de esta arquitectura.

Aunque Microsoft seguirá invirtiendo en chips basados en x86, prevé que Cobalt 200 constituirá una parte significativa de la nueva capacidad de computación de Azure en 2027 y en el futuro próximo. Los desarrolladores pueden desplegar estas VMs usando las herramientas habituales de Azure, integrándolas en escalados automáticos de máquina virtual o en grupos de nodos en Azure Kubernetes Service.

Add a Comment

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Patrocinado