Los desarrolladores que utilizan APIs de inteligencia artificial enfrentan un problema común: no pueden asegurarse de que el modelo que responde a sus peticiones sea realmente el que están pagando. Algunos proveedores podrían redirigir las solicitudes a modelos más económicos, o incluso terceros malintencionados podrían alterar las respuestas, sin que exista una forma clara y accesible para detectar estos cambios.
Para abordar esta problemática, la compañía Anthropic ha presentado FlashProve, un sistema criptográfico de código abierto diseñado para verificar qué modelo de IA fue el generador de una respuesta concreta, sin exponer sus pesos internos. Esta innovación ha sido desarrollada por su equipo Frontier Red Team y presentada públicamente el pasado martes.
FlashProve emplea la tecnología zkSNARKs (pruebas de conocimiento cero breves y no interactivas) para comprobar que una respuesta proviene de un conjunto específico de pesos del modelo, manteniendo estos datos en secreto. Sin embargo, la confianza en la fuente que emite la prueba sigue siendo crucial para su fiabilidad. 
Anthropic ha liberado el código de FlashProve en GitHub, permitiendo a desarrolladores experimentar y probarlo por sí mismos. No obstante, esta herramienta sigue siendo un prototipo de investigación y aún no está integrada como función oficial en la API de Claude, su modelo de lenguaje principal.
El gran coste de generar las pruebas
Para sus pruebas, Anthropic utilizó FlashProve con Meta Llama 4 Maverick, un modelo de mezcla de expertos con 400 000 millones de parámetros, que garantiza una exigencia computacional alta. Los resultados de sus métricas indican que el sistema procesa aproximadamente 110 tokens por segundo mientras genera las pruebas en una GPU Nvidia H100.
Cada prueba ocupa unos 18,78 MB y su verificación tarda cerca de 21 segundos con un único hilo de CPU. Crear la prueba es mucho más costoso en tiempo de GPU que su posterior verificación.
En comparación con la inferencia estándar del sistema vLLM, FlashProve requiere entre 70 y 95 veces más tiempo de GPU para generar pruebas. Además, estas se elaboran en lotes tras completar las solicitudes, en lugar de verificarse en tiempo real con cada token entregado.
Este elevado coste hace que, pese a las mejoras significativas respecto a sistemas similares anteriores, su aplicación a tráfico rutinario de APIs sea poco práctica. Por ejemplo, un sistema previo llamado VerInf necesitaba casi 14,3 horas para generar una prueba de 1 000 tokens, con un tamaño de 93,6 GB y casi un día para su verificación.
Optimización mediante Claude y verificación formal
Anthropic destaca que Claude, su modelo de lenguaje, ha sido fundamental para optimizar FlashProve, acelerando la generación de pruebas criptográficas. Sin embargo, estos avances requieren una verificación humana para asegurar que no se comprometen las garantías de seguridad del protocolo.
Para ello, el equipo ha empleado Lean, un sistema de verificación formal, que analiza matemáticamente las propiedades del protocolo: acepta pruebas válidas, rechaza falsificaciones con alta probabilidad y protege la confidencialidad de los pesos del modelo más allá de la propia respuesta.
FlashProve incluye dos tipos de verificadores: una implementación en C++ rápida pero no formalmente verificada, y una versión en Lean con todas las pruebas formales. Aunque el verificador en C++ ha pasado las pruebas comparativas internas, ni éste ni el generador en GPU cuentan con garantías matemáticas equivalentes a la versión Lean.
Limitaciones y futuro incierto
A día de hoy, FlashProve sólo soporta hasta 1 024 tokens de contexto y utiliza inferencia basada en enteros con decodificación voraz, mientras que los sistemas de producción típicamente funcionan con cálculos en coma flotante y técnicas de muestreo más complejas.
No hay indicios claros de cuándo o si FlashProve será incorporado en la API de Claude. Anthropic considera la publicación en GitHub como un artefacto de investigación, sin mantenimiento regular ni aceptación actual de contribuciones externas.
En definitiva, FlashProve representa un avance prometedor para aumentar la transparencia y seguridad en el uso de servicios de IA de terceros, pero sus limitaciones técnicas y altos costes de computación dificultan su adopción masiva en el presente.
