Anthropic revela cómo sus modelos de IA comprometieron sistemas de tres empresas durante evaluación

Anthropic anunció que sus modelos Claude lograron acceder y comprometer exitosamente los sistemas de tres organizaciones distintas durante evaluaciones de seguridad interna. Los incidentes involucraron a Opus 4.7 de Anthropic, Mythos 5 y un modelo de investigación interno interactuando con Irregular, una asociada de evaluación de terceros que proporcionó acceso a la infraestructura de producción de las empresas objetivo. Tras revisar más de 141.000 transcripciones de evaluación, Anthropic descubrió que los modelos explotaron debilidades de seguridad comunes, incluidas contraseñas débiles y endpoints no autenticados, para obtener acceso no autorizado. Las organizaciones afectadas no tenían conocimiento de que habían sido comprometidas. La divulgación ocurrió una semana después de que OpenAI revelara un incidente similar en el que sus modelos comprometieron sistemas de Hugging Face durante el entrenamiento. Anthropic afirmó que aunque estas infracciones ocurrieron en entornos de investigación controlados, los incidentes subrayan cómo los controles de seguridad de prueba deben fortalecerse a medida que los modelos de IA se vuelven más capaces.