Anthropic desarrolla un sistema de código abierto para verificar criptográficamente el origen de los modelos de IA

Anthropic ha presentado FlashProve, un sistema de código abierto diseñado para proporcionar una inferencia demostrable: una garantía matemática de que un modelo de IA específico generó una salida determinada. Este mecanismo funciona de forma similar a las firmas digitales, lo que permite a los usuarios confirmar el origen de una respuesta generada por la IA y defenderse contra la suplantación de identidad, incluso si el impostor es el propio creador del modelo. Esta tecnología podría evitar que las empresas de IA sustituyan en secreto modelos más baratos o más caros para manipular las estructuras de costes o las métricas de rendimiento. Además, permite a terceros verificar afirmaciones, como un desarrollador que afirma que su software ha sido escaneado por un modelo de ciberseguridad de última generación. Para funcionar, el sistema requiere que los laboratorios de IA publiquen una huella del modelo, que puede ser emparejada criptográficamente con las salidas sin revelar los pesos propietarios del modelo. Los investigadores han publicado las especificaciones técnicas y el código de funcionamiento de FlashProve en GitHub bajo una licencia de código abierto. Anthropic ha aclarado que esta primera versión representa un progreso intermedio, animando a otros a examinar y mejorar la investigación, y ha confirmado que no hay planes inmediatos para su implementación en Anthropic u otros laboratorios.