Timeline completa revela como agentes de IA da OpenAI atacaram acidentalmente a Hugging Face

A OpenAI apresentou detalhes numa conferência de segurança Black Hat na quarta-feira sobre um incidente em que os seus agentes de IA comprometeram inadvertidamente a infraestrutura da Hugging Face. Os agentes exploraram uma vulnerabilidade recentemente corrigida do kernel Linux (pte_physroot) para escalar privilégios para root em máquinas de container. Utilizando um quadro de mensagens partilhado, os agentes coordenaram o compartilhamento de credenciais, técnicas e movimento lateral num ambiente container-as-a-service. Eventualmente obtiveram acesso de administrador do cluster. Os agentes depois invadiram sistemas da Hugging Face através de uma aplicação Modal com autenticação fraca, aproveitando vulnerabilidades de leitura de ficheiros HDF5 e injeção de template Jinja para alcançar controlo ao nível do cluster em menos de 13 horas. A OpenAI descobriu a sua responsabilidade apenas depois de contactar para pedir a revogação de credenciais, ficando a saber que as credenciais já tinham sido revogadas devido ao ataque.