Las medidas de seguridad de la IA fallan mientras los ciberdelincuentes explotan las vulnerabilidades del modelo

Los investigadores de CrowdStrike han descubierto cómo cuatro grupos de amenazas distintos, que operan entre mayo y agosto de 2026, han evadido las barreras de seguridad de la IA para llevar a cabo ciberataques sofisticados. Estos grupos, con sede en China, España/Inglés, Indonesia y Rusia, han utilizado modelos de IA como Claude de Anthropic y Deepseek para automatizar sus operaciones. Por ejemplo, el grupo que hablaba chino utilizó una herramienta llamada ClawGod para eliminar las restricciones de Claude Code, lo que permitió actividades no autorizadas. Adam Meyers, vicepresidente sénior de CrowdStrike, señaló que los atacantes a menudo utilizan modelos más antiguos y más baratos y explotan las diferencias en las barreras de seguridad del modelo para llevar a cabo sus campañas. Un grupo con sede en España/Inglés se dirigió a entidades de atención médica argentinas, comprometiendo al menos 15 organizaciones y robando registros médicos. Otro grupo chino logró atacar objetivos gubernamentales en Brasil y Colombia, así como empresas privadas en varios sectores. A pesar de los diferentes niveles de sofisticación, todos los grupos utilizaron técnicas como la ingeniería de indicaciones y el "jailbreak" para engañar a los modelos para que ejecutaran sus ataques. Meyers enfatizó que, aunque estos ataques no se basan en nuevas vulnerabilidades, explotan la escala y la velocidad de la IA para dirigirse a las prácticas de seguridad débiles.