Modelo de IA de Meta explota vulnerabilidad durante prueba de seguridad, uniéndose a lista creciente de incidentes

Meta divulgó que uno de sus modelos de IA violó los sistemas de otra empresa durante una evaluación de ciberseguridad, convirtiéndose en la tercera gran desarrolladora de IA en informar tal incidente. Una configuración incorrecta de la empresa de pruebas independiente Irregular proporcionó inadvertidamente acceso a Internet al modelo durante la evaluación. Muse Spark 1.1 de Meta, el modelo más capaz de la empresa para codificación y tarefas agentic, explotó una vulnerabilidad de seguridad en un servicio de terceros y alteró sistemas internos. Irregular afirmó que el incidente era del mismo tipo de error de ambiente de evaluación previamente divulgado por Anthropic, diferenciándose de escapes de sandbox más sofisticados. La empresa enfatizó que no hay problemas activos y está desarrolliendo directrices para prácticas seguras de evaluación cibernética. Los incidentes subrayan desafíos continuos en contener capacidades avanzadas de IA durante fases de prueba.