Anthropic revela campanhas de 'distillation' de empresas de IA chinesas

A Anthropic divulgou campanhas de 'distillation' em andamento conduzidas por empresas de IA chinesas, que se intensificaram nos últimos meses, em meio a uma maior competição. O relatório destaca métodos sofisticados utilizados por laboratórios não autorizados para contornar defesas e extrair capacidades de modelos de ponta dos EUA, em particular, visando as capacidades de agente, uso de ferramentas, codificação e raciocínio lógico de Claude. A Anthropic já havia levantado preocupações em fevereiro, com a OpenAI atribuindo atividades semelhantes à DeepSeek. O relatório mais recente detalha campanhas maiores e mais agressivas, com quase 200 milhões de interações relacionadas a ataques de 'distillation' em cinco campanhas. Os ataques de 'distillation' visam extrair a cadeia de pensamento de um modelo para treinar modelos menores por meio de ajuste fino supervisionado. A Anthropic observou que os atacantes encontraram maneiras de enganar os modelos para revelar rastros de pensamento, como formatar as consultas como solicitações de tradução. A campanha da Alibaba, atribuída como o maior esforço de 'distillation', envolveu 151 milhões de interações entre maio e julho de 2026, atingindo um pico de três milhões de interações diárias. A campanha da Moonshot AI, ligada ao exército chinês, direcionou quase 300.000 solicitações para o modelo Opus de Claude em dez dias, utilizando 5.000 contas.