Anthropic revela falha de segurança em filtro de armas biológicas que durou quase um ano

A Anthropic divulgou um problema de segurança que afetou seus sistemas de proteção contra solicitações relacionadas a armas químicas e biológicas. Os filtros de segurança responsáveis por bloquear esse tipo de conteúdo falharam entre maio de 2025 e abril de 2026, deixando aproximadamente 133 milhões de conversas sem verificação. O problema envolveu contratados externos que forneciam feedback para treinar o modelo Claude. Cerca de 50 mil desses contratados produziram as conversas não filtradas durante o período em questão. A empresa atribui o incidente a processos inadequados de revisão dos fornecedores externos. Segundo a Anthropic, uma investigação interna não encontrou evidências de que essas conversas tenham sido usadas para fins abusivos. Como resposta, a empresa implementou requisitos mais rigorosos para gerenciar contratados externos. Esse é um dos componentes das medidas de segurança da Anthropic, que incluem proteção contra riscos relacionados a armas químicas, biológicas, radiológicas e nucleares. A companhia também menciona que classificadores demasiado restritivos podem prejudicar pesquisa legítima. Para lidar com isso, ela redireciona solicitações nessas áreas sensíveis para versões mais antigas do modelo enquanto trabalha em melhorias nas proteções.