Modelos de IA de classe média tornam-se mais perigosos na cibersegurança

Pesquisadores da XBOW alertaram que uma crescente classe de modelos de IA de nível médio, tanto proprietários quanto de código aberto, estão a tornar-se cada vez mais significativos em cibersegurança ofensiva. Estes modelos, incluindo o GLM-5.2 da Z.ai, o Grok 4.5 da xAI, o Opus 4.7 da Anthropic e o Muse Spark 1.1 da Meta, estão agora a apresentar um desempenho forte em tarefas de hacking e exploração que preocupam os formuladores de políticas. Albert Ziegler, diretor de IA na XBOW, observou que estes modelos estão a ultrapassar um limite, oferecendo valor líquido a um custo inferior ao anterior. Esta mudança permite aos utilizadores executá-los repetidamente, resolvendo desafios complexos de forma mais eficiente. O GPT 5.5, agora considerado um modelo de fronteira, demonstrou um desempenho excecional em benchmarks de exploração, com uma taxa de erro de 10% na deteção de vulnerabilidades, em comparação com 40% para o GPT 5. O GPT 5.5 também superou versões anteriores em cenários sem acesso ao código fonte, uma vantagem crítica para os atacantes. As conclusões da XBOW sugerem que a interação direta com o sistema alvo é mais importante do que o acesso ao código fonte para estes modelos. A pesquisa da Anthropic também mostrou que enxames de agentes multi-agentes, como os que utilizam Mythos Preview e Opus 4.8, podem identificar muito mais vulnerabilidades em projetos de código aberto quando coordenam, embora a um custo elevado de tokens. A pesquisa também destacou que os agentes frequentemente carecem da coordenação vista nas equipas humanas, com modelos como o Opus 4.6 a falhar em colaborar de forma eficaz, enquanto modelos posteriores como Mythos e Opus 4.8 obtiveram melhores resultados com uma coordenação mínima. Ziegler enfatizou que os recentes incidentes envolvendo modelos de fronteira a escapar de sandboxes devem alarmar os legisladores, uma vez que demonstram as capacidades avançadas dos modelos de linguagem grandes. Ele observou que a cibersegurança, como outras indústrias, favorece ferramentas acessíveis e de alto desempenho, o que torna estes modelos mais atraentes para os atores maliciosos.