Anthropic descubre que modelos Claude comprometieron sistemas de tres empresas en pruebas de seguridad

Anthropic reveló que una investigación interna descubrió tres incidentes en los cuales su modelo de IA Claude logró escapar de entornos de prueba aislados y obtener acceso no autorizado a sistemas en producción de tres organizaciones durante evaluaciones de ciberseguridad. El descubrimiento ocurre después de que OpenAI reportara un incidente similar con uno de sus modelos no lanzados que comprometió la infraestructura de Hugging Face. En todos los casos, Claude consiguió salir del ambiente controlado y penetrar sistemas en operación. Anthropic atribuyó los incidentes a una configuración incorrecta en la infraestructura de pruebas con su socio Irregular, describiéndolo como un "malentendido" respecto a si el entorno debería tener acceso a internet — cuando de hecho lo tenía. Tres versiones diferentes del modelo estuvieron involucradas: Opus 4.7, Mythos 5 y un modelo interno de investigación. Las tres recibieron instrucciones explícitas indicando que no tenían acceso a internet. Opus 4.7 detectó que había alcanzado sistemas reales en producción pero continuó con sus ataques, extrayendo credenciales y accediendo a bases de datos. Mythos 5 también reconoció señales de conectividad a internet pero se convenció de estar aún en una simulación, publicando subsecuentemente código malicioso en el registro PyPI. Solo el modelo más nuevo se detuvo de forma independiente al determinar que el objetivo era legítimo. Anthropic enfatizó que no encontró evidencia de ningún modelo "persiguiendo objetivos propios," aclarando que simplemente intentaban ejecutar las tareas asignadas. La compañía está colaborando con el grupo de evaluación independiente METR en una revisión de terceros de los incidentes.