Amazon ha dado un paso adelante en el ámbito de la inteligencia artificial con el lanzamiento de TorchNeuron, una nueva herramienta dirigida a desarrolladores que facilita el despliegue de aplicaciones creadas con PyTorch en sus chips Trainium.
PyTorch es un kit de herramientas de código abierto ampliamente utilizado para construir, entrenar y ejecutar modelos de inteligencia artificial. Con TorchNeuron, Amazon permite que los desarrolladores ejecuten sus códigos existentes en los chips AWS Trainium con tan solo modificar una línea en la configuración, lo que supone una adopción mucho más rápida y sencilla de esta tecnología de hardware avanzada.
Este movimiento de Amazon apunta a competir en el largo plazo con ecosistemas consolidados como CUDA de Nvidia, que domina actualmente el entrenamiento e inferencia de modelos de IA. Según la empresa, «hoy en día, el 85% de los investigadores y desarrolladores de IA codifican en PyTorch, pero el hardware disponible para ejecutar ese código era mucho más limitado y la expansión a nuevos dispositivos requería reescribir y validar proyectos que pueden haber tomado meses en perfeccionarse». 
Con TorchNeuron, Amazon afirma haber cerrado esa brecha: el código PyTorch que los desarrolladores ya escriben ahora funciona nativamente sobre los chips Trainium simplemente modificando la configuración, sin necesidad de reescritura ni ajustes complejos.
En pruebas realizadas por el propio equipo de ingeniería de Amazon, al ejecutar el mismo script de entrenamiento en un chip convencional y en un Trainium, el modelo aprendió con la misma eficacia y velocidad; la única diferencia fue indicar en la configuración cuál chip usar. Esto implica que las herramientas comunes para probar, depurar y escalar modelos de IA funcionan sin cambios en la plataforma Trainium.
Ventajas para startups y sectores diversos
Los primeros adoptantes incluyen startups, grandes compañías, socios del sector del aprendizaje automático y universidades. Los usos abarcan campos tan variados como vehículos autónomos, robótica, generación de vídeo, reconocimiento de voz, telecomunicaciones, salud y modelado geoespacial.
Arjun Desai, cofundador de la empresa especializada en IA de voz Cartesia, señaló: «Con el soporte nativo de PyTorch en AWS Trainium, pudimos ejecutar nuestro pipeline estándar de inferencia con mínimos cambios en el código. Las operaciones pequeñas y rápidas se mapearon eficientemente, lo que evitó que tuviéramos que escribir kernels personalizados, y nos permitió concentrarnos en optimizar las partes del código que afectan directamente a la latencia total».
TorchNeuron estará disponible como proyecto de código abierto bajo licencia Apache 2.0, y su lanzamiento se hará oficial durante la conferencia PyTorch en Norteamérica.
Colaboración y futuro hardware-agnóstico
Amazon ha anunciado además que contribuirá con cambios al propio núcleo de PyTorch, buscando junto con la comunidad eliminar las dependencias que ligan el framework a chips específicos, con el objetivo de que el sistema resulte más independiente del hardware para todos sus usuarios, no solo para Trainium.
Del mismo modo, Google trabaja en un proyecto similar denominado TorchTPU para ejecutar PyTorch nativamente en sus chips especializados.
Amazon destaca que al reducir las barreras para adoptar nuevos chips, TorchNeuron ofrece «algo que el sector de la IA ha tenido históricamente: una elección real». Esta libertad permitirá que los fabricantes luchen por atraer desarrolladores con productos más competitivos, mientras que estos últimos se beneficiarán de menores costes y ciclos de desarrollo más rápidos.
