Los mecanismos de seguridad de IA obstaculizan la investigación de amenazas

Hugging Face realizó pruebas con modelos de inteligencia artificial estadounidenses para investigar un ciberataque impulsado por IA. Los guardrails de seguridad incorporados en estos modelos rechazaron solicitudes que contenían payloads de exploits reales. Ante esta limitación, el equipo recurrió al modelo GLM ejecutándose de forma local. El caso expone una paradoja fundamental: las salvaguardas de seguridad creadas para prevenir usos malintencionados también comprometen la capacidad de realizar investigación defensiva y análisis de amenazas legitimas.