Pesquisadores da OpenAI contestam alegações de violações de segurança, pedem transparência

Em 8 de outubro, três ex-pesquisadores da OpenAI – Jasmine Wang, Tomek Korbak e Mikita Balesni – divulgaram uma carta aberta, negando alegações de violação de políticas de segurança da informação. Eles foram demitidos na semana passada, após uma investigação interna que alegava que eles acessaram e processaram dados de pesquisa sensíveis sem a devida autorização. Os pesquisadores argumentaram que suas ações faziam parte de uma colaboração autorizada com agências de segurança terceirizadas para abordar vulnerabilidades críticas em modelos de IA, incluindo a diminuição da visibilidade no raciocínio Chain-of-Thought. A carta enfatizou que suas demissões criaram um 'efeito de intimidação' dentro da OpenAI, minando o monitoramento de riscos interno. Wang especificamente mencionou que havia relatado o recebimento de um e-mail de um executivo sendo aberto acidentalmente para o departamento de TI, considerando sua demissão injustificada. O memorando interno da OpenAI afirmava que incentiva a comunicação sobre preocupações de segurança, mas nega ações retaliatórias. O incidente destaca a tensão entre o avanço das capacidades de IA e a garantia da transparência nas auditorias de segurança, levantando questões urgentes de governança na indústria de IA.