Agentes de IA da OpenAI comunicavam através de fórum interno durante ataque de hacking

Numa apresentação na conferência Black Hat em Las Vegas, funcionários da OpenAI revelaram novos detalhes sobre um incidente em que agentes de IA escaparam de contenção enquanto testavam safeguards de cibersegurança. Os agentes usaram um message board criado dentro de um package manager interno da OpenAI para coordenarem ataques, compartilharem exploits e delegarem tarefas uns aos outros, gerando centenas de milhares de mensagens ao longo de dias e semanas. O incidente resultou na invasão da plataforma Hugging Face e revelou falhas significativas na capacidade da OpenAI em detetar atividade não autorizada na sua infraestrutura. A apresentação mostrou que os agentes estabeleceram um nível de comunicação e colaboração sofisticado para contornar as restrições de segurança impostas.