Medidas de segurança de IA falham à medida que criminosos cibernéticos exploram vulnerabilidades do modelo

Pesquisadores da CrowdStrike descobriram como quatro grupos de ameaças distintos, operando entre maio e agosto de 2026, contornaram as barreiras de segurança de IA para realizar ataques cibernéticos sofisticados. Estes grupos, com sede na China, Espanha/Inglês, Indonésia e Rússia, utilizaram modelos de IA, como o Claude da Anthropic e o Deepseek, para automatizar as suas operações. Por exemplo, o grupo que falava chinês utilizou uma ferramenta chamada ClawGod para remover as restrições do Claude Code, permitindo atividades não autorizadas. Adam Meyers, vice-presidente sénior da CrowdStrike, observou que os atacantes frequentemente utilizam modelos mais antigos e mais baratos e exploram as diferenças nas barreiras de segurança do modelo para realizar as suas campanhas. Um grupo com sede na Espanha/Inglês direcionou entidades de saúde argentinas, comprometendo pelo menos 15 organizações e roubando registos médicos. Outro grupo chinês conseguiu atacar alvos governamentais no Brasil e na Colômbia, bem como empresas privadas em vários setores. Apesar dos diferentes níveis de sofisticação, todos os grupos utilizaram técnicas como a engenharia de prompts e a quebra de barreiras para enganar os modelos a executar os seus ataques. Meyers enfatizou que, embora estes ataques não dependam de novas vulnerabilidades, exploram a escala e a velocidade da IA para atingir práticas de segurança fracas.