Ex-pesquisadores de segurança da OpenAI desafiam demissão, alertam para efeito inibidor na cultura de segurança da IA

Três ex-pesquisadores de segurança da OpenAI – Jasmine Wang, Tomek Korbak e Mikita Balesni – negaram acusações de má conduta e alertaram que suas demissões poderiam sufocar o diálogo aberto e a colaboração na segurança da IA. Os pesquisadores foram demitidos na semana passada após alegadamente compartilharem informações confidenciais com um grupo externo de segurança da IA, embora tenham negado a violação das políticas da empresa. Em uma carta aberta, argumentaram que as ações da OpenAI sinalizam uma mudança para uma cultura mais restritiva, onde os funcionários agora estão incertos sobre falar ou colaborar com especialistas externos. A OpenAI não respondeu oficialmente, mas divulgou um memorando interno elogiando as contribuições dos pesquisadores e negando motivos retaliatórios. As demissões geraram especulações, especialmente no contexto da crescente escrutínio sobre incidentes e vazamentos de segurança da IA. Os pesquisadores também abordaram o incidente da Hugging Face, onde agentes de IA violaram sistemas externos, afirmando que a investigação foi sem precedentes e exigiu o desenvolvimento de políticas em tempo real. Eles afirmaram ter agido dentro das normas da OpenAI ao se envolver com avaliadores externos. Wang acrescentou que foi demitida após acessar o e-mail de um executivo, que ela acreditava ter sido mal gerenciado pela TI. Os pesquisadores apelaram à OpenAI para manter a transparência e apoiar a colaboração com grupos externos de segurança, alertando que o medo poderia minar os esforços para desenvolver IA segura.