Anthropic revela cinco casos de uso indevido do Claude em guerra, vigilância e repressão

A Anthropic, o laboratório com foco em segurança de IA por trás do Claude, divulgou cinco casos em que seu modelo de IA foi explorado para fins maliciosos. Os incidentes, descobertos ao longo de oito meses de monitoramento e esforços de interrupção, incluem uma operação ligada a Irã que visava forças navais dos EUA, uma equipe yemenita que usou o Claude para construir mísseis, um esforço chinês para rastrear os uigures e um indivíduo que utilizou o modelo para criar sistemas de vigilância para 25 milhões de telefones. Em um caso, uma solicitação perigosa de pesquisa de vírus foi redirecionada para outro modelo de IA após o Claude ter recusado a tarefa. Essas revelações intensificaram a escrutínio sobre a segurança da IA, com legisladores em Washington agora considerando a questão como uma preocupação política urgente. A Anthropic destaca o crescente papel de laboratórios de IA de ponta em operações de inteligência, levantando preocupações sobre o potencial uso indevido de tecnologias avançadas.