Anthropic lança FlashProve para combater a falsificação de modelos usando provas de conhecimento zero

A Anthropic estabeleceu parceria com pesquisadores de provas de conhecimento zero para lançar o FlashProve, um sistema projetado para autenticar os pesos de modelos de linguagem e combater o mercado paralelo de "wrapping" de modelos. O processo de verificação envolve a geração de um identificador de impressão digital público para os pesos, o que leva aproximadamente 39 minutos em uma única GPU H100 antes do lançamento. Após cada interação, a GPU produz uma prova de cerca de 19 MB, que um CPU comum pode validar em 17 segundos, sem a necessidade dos pesos do modelo. Para lidar com modelos massivos como o Llama 4 Maverick (400 bilhões de parâmetros, 232 GB em pesos de 4 bits), o FlashProve utiliza a arquitetura de "Mixture-of-Experts" (MoE). Isso permite que o tamanho da prova se relacione apenas com os 17 bilhões de parâmetros ativados por token, efetivamente contornando 95% dos parâmetros inativos. A complexidade do sistema é ainda evidenciada pelo repositório, onde 95,2% do código consiste em provas matemáticas Lean 4, e todo o documento de 114 páginas e o código foram, em grande parte, gerados pelo Claude. A supervisão humana é limitada à finalização de seis definições de segurança críticas: completude (taxa de rejeição falsa abaixo de um em um trilhão), solidez do conhecimento (probabilidade de falsificação abaixo de um em 2 elevado à 100ª potência) e conhecimento zero. Neste framework, os humanos estabelecem os axiomas, enquanto a IA realiza o raciocínio, levando a um contrato de segurança para o desenvolvimento avançado de IA.