Las recientes decisiones sobre inversión pública han clarificado un aspecto fundamental para el sector público: la inteligencia artificial ha dejado de ser una partida presupuestaria opcional. Los fondos destinados a tecnologías sanitarias, las ambiciones nacionales en IA y la renovación de sistemas antiguos apuntan en una dirección clara. El dinero está llegando y la obligación de implementar estas tecnologías es inequívoca.
Sin embargo, lo que esas partidas económicas no resuelven es si los líderes del sector público confiarán en los sistemas que deben desplegar. La verdadera dificultad no está en las capacidades técnicas, sino en la confianza. En múltiples mesas redondas y debates el foco rápidamente se aleja de lo que la IA puede hacer para centrarse en la preocupación recurrente: ¿cómo podemos saber que podemos fiarnos de los resultados? ¿Qué ocurre cuando la confianza se rompe?
La respuesta instintiva, legítima y lógica, es comprobarlo todo. Cuando se indaga si esta verificación debe ser solo inicial o permanente, la mayoría de responsables optan por esta segunda opción: monitorizar para siempre los resultados. Parece prudencia, pero en la práctica significa que no se aprovechan las garantías que se pueden establecer en fases previas. Además, esta sobreverificación puede destruir el valor y la eficiencia que la IA promete. 
Si la única medida de control es revisar cada salida emitida por el sistema y que un humano tenga que revalidarla antes de actuar, no estamos ante IA confiable. Simplemente hemos añadido burocracia y costes adicionales. Este es el dilema con el que deben lidiar las administraciones: la verificación es fundamental para generar confianza, pero aplicada sin criterio puede anular el modelo de negocio y la utilidad del sistema.
La solución no es incrementar la cantidad de controles sino trasladar parte de estas labores hacia niveles previos, como el diseño y la gobernanza de datos, donde los controles pueden resultar más económicos y efectivos. La confianza no comienza solo por evaluar el resultado, sino también por garantizar que los datos están conectados, estandarizados y sujetos a controles rigurosos.
Decisiones clave en el núcleo administrativo
La inteligencia artificial empieza a implantarse en las áreas que gestionan el funcionamiento interno del Estado: desde la planificación de la plantilla hasta la previsión financiera, pasando por la contratación pública, la priorización de casos, la organización de turnos o la asignación presupuestaria. Precisamente en este núcleo administrativo se está consolidando la apuesta tecnológica.
Por ejemplo, el Programa Synergy está unificando recursos humanos, finanzas y contratación en cuatro ministerios que, en conjunto, suman casi la mitad de los empleados públicos. Esta consolidación favorece la creación de datos fiables y compartidos, base indispensable para el funcionamiento del sistema de IA.
No obstante, esta uniformidad implica que un error en la toma de decisiones afecta a varios departamentos a la vez. Aunque se tiende a no convocar comités éticos para cuestiones aparentemente menores, como un turno de trabajo, una programación incorrecta puede traducirse en un fallo sistemático en el servicio público. Y los ciudadanos rara vez conocen qué algoritmo ha generado esa decisión errónea.
El error humano que no se mide
La mayoría de los análisis de rentabilidad examinan la tasa de error del modelo de IA. Si un algoritmo falla en un porcentaje determinado, ese dato se convierte en el centro del debate. Es un dato necesario, pero este rigor generalmente no se aplica a la alternativa humana. La opción frente a un fallo de la IA no suele ser una decisión humana perfecta, sino a menudo una decisión humana tomada bajo presión, con información incompleta y con una cola de casos pendientes.
Ambas tasas son reales, pero solo se mira una de ellas.
La integración efectiva de un humano en el proceso puede combinar el alcance del algoritmo con el juicio personal, siempre que esta persona valore y reconsidere la recomendación en lugar de aprobarla mecánicamente. Cuando las decisiones se confirman de forma automática, ese control deja de ser una salvaguarda y se convierte en una simple firma.
Gobernar el riesgo en lugar de la tecnología
Los fallos clave suelen encontrarse en origen, en los datos. Un modelo puede funcionar según lo previsto y aun así fallar porque la información con la que se entrenó es incorrecta o está sesgada. No se puede remediar una base errónea revisando solo la salida del sistema.
Por ello, la gobernanza de datos debe integrarse desde el diseño, no ser añadida después de la puesta en marcha. Pero las preguntas necesarias van más allá de lo técnico: ¿quiénes son los usuarios finales? ¿qué datos faltan? ¿puede explicarse y rastrearse la decisión tomada? Si no es posible explicar o recuperar el proceso, por muy precisa que parezca la respuesta, nunca podrá defenderse plenamente.
La gobernanza debe ajustarse al nivel de riesgo. Una forma de abordarlo es preguntar primero: ¿cuál es la probabilidad de fallo? y ¿cuál sería el impacto? Solo los casos de alto riesgo y alta probabilidad requieren controles exhaustivos. Imponer medidas máximas en todos los escenarios no garantiza seguridad, solo ralentiza procesos y frena la experimentación de bajo riesgo necesaria para que los empleados ganen confianza en la tecnología.
El objetivo nunca fue una IA cuyas respuestas deban ser investigadas una a una por humanos. Es, en cambio, una herramienta que respalde decisiones en las que la administración pública pueda confiar. Eso es lo que debe entenderse por inteligencia de datos gubernamental: la base fiable sobre la que se construyen servicios dirigidos a los ciudadanos.
Todo lo demás es solo comprobar sin fin.
