Anthropic apresenta medidas de segurança aprimoradas para combater ataques de destilação de modelos

A Anthropic, uma empresa líder em IA, revelou novas medidas de segurança para impedir que concorrentes repliquem as capacidades do seu modelo de IA, Claude, através de ataques de destilação de modelos. Estas medidas reduziram a quantidade de dados roubados durante tais ataques até 99%. A destilação de modelos, um método onde os atacantes extraem conhecimento de um modelo, tornou-se uma grande preocupação para empresas como Anthropic, OpenAI e Google, uma vez que permite que os concorrentes repliquem capacidades avançadas a um custo e velocidade mais baixos. A nova solução de segurança limita significativamente a capacidade de atores externos de aceder aos processos de raciocínio internos do Claude, reduzindo o número de tokens extraídos pelos atacantes para tão pouco quanto um décimo ou um centésimo dos níveis anteriores. A Anthropic afirma que o sistema é robusto o suficiente para impedir que o Claude ajude no desenvolvimento de armas biológicas, com uma taxa de falsos positivos inferior a 0,1%. A empresa também bloqueou dezenas de milhares de contas associadas a atividades de destilação, citando um exemplo envolvendo a Zhipu AI, que tentou extrair capacidades de modelo durante o desenvolvimento do seu modelo GLM-5.3. A Anthropic alerta que tais atividades representam riscos tanto para a segurança como para a segurança nacional, enfatizando a necessidade de proteções mais fortes contra o roubo de propriedade intelectual na indústria da IA.