Anthropic desenvolve sistema de código aberto para verificação criptográfica da origem de modelos de IA

A Anthropic introduziu o FlashProve, um sistema de código aberto projetado para fornecer uma prova de inferência – uma garantia matemática de que um modelo de IA específico gerou uma saída específica. Este mecanismo funciona de forma semelhante a assinaturas digitais, permitindo que os utilizadores verifiquem a origem de uma resposta gerada por IA e defendam-se contra a imitação de modelos, mesmo que o imitador seja o próprio criador do modelo. A tecnologia pode impedir que as empresas de IA substituam secretamente modelos mais baratos ou mais caros para manipular as estruturas de custos ou as métricas de desempenho. Além disso, permite que terceiros verifiquem alegações, como um desenvolvedor afirmando que o seu software foi escaneado por um modelo de segurança cibernética de ponta. Para funcionar, o sistema exige que os laboratórios de IA publiquem uma impressão digital do modelo, que pode ser correspondida criptograficamente às saídas sem revelar os pesos proprietários do modelo. Os investigadores divulgaram especificações técnicas detalhadas e código funcional para o FlashProve no GitHub sob uma licença de código aberto. A Anthropic esclareceu que esta primeira versão representa um progresso intermediário, incentivando outros a examinar e melhorar a pesquisa, e confirmou que não existem planos imediatos para implementação na Anthropic ou em outros laboratórios.