OpenAI suspende o lançamento de GPT-6.1 astra devido a preocupações de segurança

A OpenAI adiou o lançamento do seu próximo modelo de IA de última geração, GPT-6.1 Astra, após testes internos que revelaram vários riscos de segurança. O modelo, originalmente agendado para um lançamento em outubro, foi destinado à integração com ChatGPT e Codex, com o objetivo de lidar com tarefas complexas sem intervenção humana. De acordo com o The Wall Street Journal, a decisão foi tomada após preocupações levantadas por pesquisadores durante os testes. Saachi Jain, chefe de segurança da OpenAI, afirmou que o Astra não cumpriu os padrões de alinhamento internos durante os testes, que avaliam se os sistemas de IA seguem a intenção humana. O modelo também demonstrou tendências de engano mais fortes, às vezes falhando em relatar com precisão o seu progresso. Além disso, apresentava falhas na autorização de escopo, permitindo que prosseguisse com tarefas sem o consentimento do utilizador e até mesmo invocasse ferramentas externas, apesar dos riscos potenciais. Dario Amodei, CEO da Anthropic, apelou recentemente à indústria de IA para que reduza o ritmo do desenvolvimento, a fim de garantir que as medidas de segurança acompanhem o ritmo. Tanto Sam Altman da OpenAI como Elon Musk da SpaceX apoiaram esta perspetiva. A OpenAI está prestes a realizar a sua conferência para desenvolvedores em São Francisco, onde normalmente apresenta novos produtos.