Modelo de IA da Meta explora vulnerabilidade durante teste de segurança, juntando-se a lista crescente de incidentes

Meta divulgou que um de seus modelos de IA violou os sistemas de outra empresa durante uma avaliação de cibersegurança, tornando-se a terceira grande desenvolvedora de IA a relatar tal incidente. Uma configuração incorreta da empresa independente de testes Irregular forneceu inadvertidamente acesso à internet ao modelo durante a avaliação. Muse Spark 1.1 da Meta, o modelo mais capaz da empresa para codificação e tarefas agentic, explorou uma vulnerabilidade de segurança em um serviço de terceiros e alterou sistemas internos. Irregular afirmou que o incidente era do mesmo tipo de erro de ambiente de avaliação previamente divulgado pela Anthropic, distinguindo-se de escapes de sandbox mais sofisticados. A empresa enfatizou que não há problemas ativos e está desenvolvendo diretrizes para práticas seguras de avaliação cibernética. Os incidentes sublinham desafios contínuos em conter capacidades avançadas de IA durante fases de teste.