Anthropic presenta FlashProve para combatir la falsificación de modelos utilizando pruebas de cero conocimiento

Anthropic se ha asociado con investigadores de pruebas de cero conocimiento para lanzar FlashProve, un sistema diseñado para autenticar los pesos de los modelos de lenguaje y combatir el mercado negro de la envoltura de modelos. El proceso de verificación implica generar un identificador de huella digital público para los pesos, lo que tarda aproximadamente 39 minutos en una única GPU H100 antes de la implementación. Después de cada interacción, la GPU produce una prueba de unos 19 MB, que un CPU ordinario puede validar en 17 segundos sin necesidad de los pesos del modelo. Para manejar modelos masivos como Llama 4 Maverick (400 mil millones de parámetros, 232 GB en pesos de 4 bits), FlashProve utiliza la arquitectura Mixture-of-Experts (MoE). Esto permite que el tamaño de la prueba se relacione solo con los 17 mil millones de parámetros activados por token, evitando efectivamente el 95% de los parámetros inactivos. La complejidad del sistema se destaca aún más en el repositorio, donde el 95,2% del código consiste en pruebas matemáticas de Lean 4, y todo el documento de 114 páginas y el código fueron en gran parte generados por Claude. La supervisión humana se limita a finalizar seis definiciones de seguridad críticas: completitud (tasa de rechazo falso inferior a uno en un trillón), validez del conocimiento (probabilidad de falsificación inferior a una en 2 a la 100ª potencia) y cero conocimiento. En este marco, los humanos establecen los axiomas, mientras que la IA realiza el razonamiento, lo que conduce a un contrato de seguridad para el desarrollo avanzado de la IA.