Mecanismos de segurança de IA prejudicam análise defensiva de ciberataques

Hugging Face testou modelos de inteligência artificial americanos de fronteira para investigar um ataque cibernético automatizado. Os guardrails de segurança implementados nestes modelos bloquearam pedidos contendo payloads de exploits concretos. Perante esta restrição, a organização recorreu ao modelo GLM 5.2 em execução local para prosseguir com a análise. O episódio revela um dilema fundamental: as proteções concebidas para evitar uso malicioso também limitam a capacidade de investigação defensiva e análise de ameaças reais.