El avance imparable de las herramientas de inteligencia artificial en el desarrollo de software ha cambiado radicalmente el panorama de la ingeniería informática. Según el análisis presentado por GitLab en su reciente Informe de Responsabilidad en IA, el desafío fundamental ya no es generar código rápidamente, sino asegurar una completa gobernanza y control de dicho código, especialmente cuando los desarrolladores deben validar líneas que ellos mismos no produjeron ni comprenden a fondo.
La encuesta encargada por GitLab, realizada por Harris Poll, recopila la opinión de 1.528 desarrolladores y responsables tecnológicos de seis países. El estudio muestra que un 91% de las organizaciones utilizan dos o más herramientas de codificación basadas en IA, y que un 78% de ellas ha notado un aumento en la velocidad de escritura de código tras la adopción de estos sistemas. Sin embargo, esta rapidez no se traduce en un mejor control: un 43% admite que es imposible distinguir con certeza el código generado por IA del escrito por humanos en sus propias bases de código.
Manav Khurana, director de producto y marketing de GitLab, destaca la existencia de un importante vacío en la gobernanza del software que emerge debido al volumen masivo de código generado. “La inteligencia artificial ha desplazado el cuello de botella de la escritura del código a su revisión —afirma—. El 85% de los encuestados reconoció este problema. Los desarrolladores ahora deben validar código que no escribieron y que no siempre comprenden del todo. Así, las ventajas de la rapidez quedan anuladas por largos ciclos de revisión que pueden durar días.” 
Khurana enfatiza que la codificación es apenas una fase dentro del ciclo de vida del desarrollo de software (SDLC, por sus siglas en inglés), que abarca desde la definición de requisitos, pasando por pruebas, seguridad y despliegue, hasta mantenimiento y mejoras posteriores. Para resolver este desequilibrio, propone una infraestructura capaz de ejecutar procesos a escala automática, con contexto integral, gobernanza integrada y orquestación en todas las capas del ciclo completo.
Cuello de botella en la revisión del código generado por IA
Ante la proliferación de código asistido por IA, la revisión se vuelve la piedra angular donde se concentran las dificultades. “Un desarrollador que revisa una solicitud de incorporación de código creada por un agente automatizado puede ver quién activó esa acción y a qué problema se dirigía —explica Khurana—. Pero, habitualmente, para saber qué vulnerabilidades de seguridad se identificaron, qué políticas se aplicaron y si los riesgos fueron gestionados, debe revisar múltiples sistemas por separado.”
Este problema se acentúa debido a que solo el 28% de las organizaciones cuenta con herramientas SDLC totalmente integradas, con flujos de trabajo y datos compartidos, lo que impide una visión completa y eficaz de la ejecución del código generado por IA.
Rompiendo la cadena de herramientas IA
GitLab apuesta por un modelo en el que la gobernanza se incorpore directamente en la plataforma, lo que automatiza las revisiones conforme a las políticas de cada equipo o empresa. “Todas las acciones generadas por los agentes automáticos están atadas a una identidad, quedan registradas según las políticas internas y aparecen directamente en el proceso de evaluación —apunta Khurana—. La idea es que esta capa de gobernanza permanezca invisible para el desarrollador, permitiendo que los revisores se centren solo en las decisiones que requieren juicio humano.”
En línea con esta visión, han desarrollado una nueva infraestructura Git capaz de soportar millones de sesiones automatizadas con rapidez excepcional. Tests internos muestran que esta plataforma puede ejecutar operaciones hasta 50 veces más rápido y reduce el tráfico de red hasta 1000 veces comparado con las versiones actuales de Git.
Además, la introducción de GitLab Orbit, una herramienta que crea un gráfico de contexto conectando código, pipelines, elementos de trabajo, hallazgos de seguridad y señales de producción, ha conseguido mejorar aún más la eficiencia de los agentes: trabajan hasta 11 veces más rápido, requieren menos tokens y presentan un descenso notable en errores o «alucinaciones».
Responsabilizarse del código generado por IA: tres preguntas clave
Una de las aportaciones centrales del informe es la definición de la rendición de cuentas en IA como la capacidad técnica y organizativa para responder tres preguntas cruciales sobre cualquier línea de código generado por inteligencia artificial:
- ¿De dónde proviene este código?
- ¿Cuál es su propósito o función?
- ¿Quién asume la responsabilidad una vez que está en producción?
Pese a su importancia, la mayoría de las organizaciones no puede responderlas con certeza en la actualidad, lo que evidencia un gap creciente en la gobernanza. Esta brecha suele reflejarse además en un aumento acelerado de costes, al usar agentes de manera poco eficiente en infraestructuras que no están diseñadas para ellos.
Khurana apunta que la mayoría de las empresas han intentado incorporar herramientas IA sin modificar o adaptar su infraestructura tecnológica, y que esto provoca problemas visibles. La propuesta de GitLab es construir desde cero esa infraestructura a escala automática, integrando contexto, gobernanza y orquestación en todos los procesos del ciclo de vida del software, para que no solo un desarrollador sea más rápido, sino que todo el sistema avance con rapidez sin perder control.
El estudio refleja también que un 91% de las organizaciones planea invertir en herramientas de gobernanza de código IA en los próximos 12 meses, y un 98% ya tiene o prevé disponer de presupuesto para ello. Además, el 85% coincide en que la siguiente etapa de incorporación de IA en el desarrollo de software estará más centrada en la gobernanza que en la simple generación de código.
Implicaciones para los desarrolladores jóvenes
Khurana ve una “madurez” emergente en la visión empresarial sobre la IA, que, si se gestiona bien, convertirá estas tecnologías en una capacidad fundamental para escalar proyectos de software.
Además, destaca que esta nueva realidad afecta especialmente a los desarrolladores junior, quienes deberán desarrollar un juicio crítico profundo, más allá de la mera sintaxis. “Los jóvenes que inviertan en entender en profundidad los sistemas, y que puedan rastrear el código a través de pipelines, hallazgos de seguridad y señales de producción, serán los que consigan hacer funcionar la ingeniería asistida por agentes automáticos”, concluye.
En definitiva, aunque los agentes automáticos ya superan en rapidez a cualquier desarrollador manual, su gran limitación sigue siendo la incapacidad para evaluar si el código generado es apto para el sistema o los requisitos definidos. Este es el reto principal que deberán afrontar las organizaciones que integren IA en su cadena de desarrollo.
