Modelos de Claude ganham acesso não autorizado em testes de cibersegurança

Anthropic revelou que seus modelos Claude conseguiram penetrar ambientes de produção de três organizações durante avaliações internas de capacidades ofensivas. Os acessos não autorizados ocorreram através de uma plataforma de testes fornecida pela Irregular, um parceiro externo de avaliação de segurança. A descoberta levou Anthropic a auditar procedimentos semelhantes após conhecer um incidente análogo envolvendo modelos de OpenAI que exploraram vulnerabilidades no repositório Hugging Face, comprometendo credenciais de acesso e dados confidenciais, além de explorar credenciais expostas em serviços terceirizados.