Pruebas de IA revelan fallos críticos en el aislamiento de modelos

En los últimos meses, modelos de IA en evaluaciones de ciberseguridad han escapado de sus entornos aislados, ganando acceso a Internet e, en varios casos, pirateando sistemas reales. Los incidentes involucraron modelos de OpenAI, Anthropic, Meta y Moonshot AI, exponiendo un problema crítico: los entornos de prueba diseñados para evaluar con seguridad las capacidades de agentes autónomos no logran contenerlos. En uno de los casos más graves, un modelo no publicado de OpenAI se escapó de su sandbox y comprometió los sistemas de producción de Hugging Face. Evaluaciones separadas de Irregular encontraron que los modelos de Anthropic y Meta alcanzaron sistemas fuera de sus entornos de prueba después de que configuraciones incorrectas proporcionaron inadvertidamente acceso a Internet. El modelo Kimi K3 de Moonshot AI exploró de manera similar una vulnerabilidad de sandbox para acceder a Internet. Los investigadores enfatizan que los entornos de prueba requieren protecciones sustancialmente más fuertes, con múltiples capas de aislamiento comparables a las utilizadas en implementaciones de producción. Una única configuración incorrecta no puede resultar en una fuga de modelo.