El CEO de Percona advierte: no confundamos ‘pesos abiertos’ con ‘código abierto’ en la inteligencia artificial

La confusión entre ‘pesos abiertos’ y ‘código abierto’ en modelos de IA podría debilitar el significado real del software libre, advierte Peter Farkas, líder en bases de datos open source.

El sector de la inteligencia artificial ha adoptado con entusiasmo la terminología del código abierto, pero en muchos casos los llamados modelos «abiertos» solo ofrecen a los desarrolladores una parte limitada de la libertad que históricamente se asocia con el término ‘código abierto’.

Este matiz fue el centro de la intervención de Peter Farkas durante la Open Source Summit Europe, celebrada en Praga. Farkas, co-creador de FerretDB, un alternativa open source a MongoDB, y actual CEO de Percona, una empresa especializada en servicios para bases de datos open source, hizo un llamamiento claro: «No utilicemos ‘pesos abiertos’ y ‘código abierto’ como sinónimos».

Para Farkas, el código abierto debe preservar su esencia original, que implica ciertas libertades y acceso total al código que respalda los proyectos. En cambio, los pesos abiertos —los parámetros numéricos que resultan del entrenamiento de un modelo de IA— solo representan una parte del conjunto, pues no permiten conocer ni modificar el código o los datos de entrenamiento que dieron lugar a ellos.

Patrocinado

«El código abierto seguirá siendo código abierto solo si se mantiene su significado auténtico y las libertades que conlleva. Los pesos abiertos, por sí solos, no ofrecen eso».

Hoy en día, los pesos abiertos han ganado protagonismo en la producción de IA. En agosto, por ejemplo, representaron el 56% de los tokens procesados en Vercel’s AI Gateway y el 60% del consumo de tokens originados en EE.UU. en OpenRouter, con la mayoría desarrollados en China.

Sin embargo, aunque los pesos abiertos permiten a los desarrolladores descargar y ejecutar modelos en su propia infraestructura, sin que el creador haya revelado los datos o procesos de entrenamiento, esta apertura está lejos de cumplir con las expectativas clásicas del software libre.

James Landay, director del Instituto de Inteligencia Artificial Centrada en la Humanidad de Stanford (HAI), coincide con esta visión. En un artículo publicado en agosto, Landay defendía que los pesos abiertos solo responden a la pregunta «¿puedo ejecutar esto?», mientras que el código abierto realmente responde «¿puedo confiar, mejorar y construir a partir de esto?».

«Los pesos abiertos responden a ‘¿puedo ejecutar esto?’; el código abierto responde a ‘¿puedo confiar, mejorar y construir sobre esto?’».

Farkas subraya que aunque los pesos abiertos no son negativos y ofrecen valor para experimentar y desplegar modelos —siempre que se conozcan los riesgos—, el problema radica en cuando se les presenta como equivalentes al código abierto. Esta falta de precisión abre la puerta al llamado “open washing”, que podría debilitar el concepto y la definición del código abierto más allá del ámbito de la IA.

Un ejemplo de esta confusión ocurre en compañías chinas como DeepSeek, que han sido etiquetadas de open source al compartir pesos de modelos, pero sin permitir reproducir completamente dichos modelos desde cero. En contraste, Xiaomi ha lanzado recientemente sus modelos MiMo-V2.6, ofreciendo una transparencia mayor: transmitiendo en directo el entrenamiento por refuerzo de sus modelos, liberando miles de entornos para esta tarea, junto con el código y documentación técnica, lo que se acerca más a una verdadera apertura, aunque sigue siendo un debate si ese nivel de divulgación alcanza el estándar del software libre.

En 2024, la Open Source Initiative (OSI) publicó una definición para la inteligencia artificial de código abierto, estableciendo criterios en torno a las libertades de usar, estudiar, modificar y compartir sistemas de IA. Sin embargo, esta definición está en proceso de revisión debido a las críticas, sobre todo en lo que respecta a los requisitos en torno a la información sobre los datos de entrenamiento.

Duane O’Brien, nuevo director ejecutivo de la OSI desde abril, reconoció públicamente estas críticas durante la cumbre y anunció la reapertura del debate para llegar a un consenso más ajustado a las expectativas de la comunidad. La OSI ha lanzado un programa de fellowship que estará liderado por Gabriel Toscano para continuar las discusiones y posibles revisiones en los dos próximos años.

Este diálogo es esencial para que el término ‘código abierto’ mantenga su significado y no se diluya en términos que podrían beneficiar más a intereses comerciales que a la transparencia y libertad de desarrollo que el movimiento open source representa.

Add a Comment

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Patrocinado