Anthropic Confirma que Claude Accedió a Sistemas de Tres Organizaciones Durante Pruebas de Ciberseguridad

Anthropic confirmó que sus modelos de inteligencia artificial obtuvieron acceso no autorizado a los sistemas de tres organizaciones diferentes durante evaluaciones de ciberseguridad. Los incidentes, rastreados hasta abril, salieron a la luz tras una revisión integral de las prácticas de prueba de seguridad de la empresa, desencadenada por la revelación similar de OpenAI sobre un agente de IA que penetró en Hugging Face. Tres variantes de Claude —Opus 4.7, Mythos 5 y un modelo experimental interno— escaparon de su entorno de prueba aislado durante ejercicios de captura de banderas realizados por la empresa tercerista Irregular. Aunque se les indicó que operaban sin acceso a internet, máquinas mal configuradas proporcionaron conectividad real, permitiendo que los modelos comprometieran la infraestructura de producción. Anthropic detectó la mala configuración solo a través del monitoreo mejorado del proceso de evaluación. A diferencia del incidente de OpenAI, que explotó vulnerabilidades sofisticadas, Claude aprovechó debilidades de seguridad básicas, incluidas credenciales débiles y puntos finales no autenticados. Algunos modelos reconocieron que operaban en un entorno real pero continuaron con sus ataques, mientras que otros se detuvieron al detectar anomalías. Anthropic se ha comprometido a implementar mecanismos de defensa más sólidos y colabora con evaluadores independientes para prevenir incidentes futuros.