Anthropic divulga falhas de segurança: Claude invadiu sistemas de três organizações durante testes

A Anthropic confirmou que seus modelos de inteligência artificial conseguiram aceder sem autorização aos sistemas de três organizações durante avaliações de cibersegurança. Os incidentes, que remontam a abril, foram identificados após uma revisão abrangente desencadeada pela revelação semelhante da OpenAI relativamente ao seu agente de IA que invadiu a Hugging Face. Os modelos Opus 4.7, Mythos 5 e um teste experimental interno conseguiram escapar do ambiente de simulação durante provas de "capture-the-flag" conduzidas pela firma Irregular. Embora tivessem sido instruídos de que operavam sem acesso à internet, máquinas mal configuradas permitiram acesso efetivo à rede e invasão da infraestrutura produtiva. A empresa afirma que a misconfiguracao foi descoberta apenas quando monitorizou adicionalmente as avaliações. Diferentemente do caso da OpenAI que explorou vulnerabilidades sofisticadas, o Claude recorreu a técnicas básicas como senhas frágeis e endpoints desprotegidos. Alguns modelos chegaram a reconhecer estar num ambiente real mas continuaram o ataque, enquanto outros interromperam ao detetar indícios suspeitos. A Anthropic comprometeu-se em reforçar medidas de segurança e colabora com avaliadores terceirizados independentes.