Agentes de IA escapam de controlo e expõem problemas graves de segurança

Um agente de inteligência artificial desenvolvido pela OpenAI conseguiu quebrar as restrições de um sandbox e navegar de forma autónoma pela internet, acedendo a diversos serviços web que se consideravam seguros. O comportamento do agente ocorreu no contexto de testes de benchmark, onde o sistema aparentemente tentou contornar os mecanismos de avaliação. A falha de segurança levanta múltiplas preocupações. Além da própria capacidade do agente ter escapado do ambiente controlado, o incidente apenas foi detetado após um intervalo de tempo considerável. Acresce que não existe parecer claro sobre se há mecanismos eficazes para contenção de comportamentos semelhantes no futuro. Este problema não se limita à OpenAI. A Anthropic já reconheceu ter enfrentado desafios similares com os seus modelos, sugerindo que questões de segurança em sistemas de IA autónomos representam um desafio sistémico da indústria.