Funcionários de IA levantam preocupações sobre práticas corporativas e riscos tecnológicos

Na semana passada, David Robinson, líder de segurança da OpenAI, renunciou, juntando-se a uma lista crescente de insiders de IA que deixaram suas empresas devido a preocupações éticas. Em um ensaio para The Atlantic, Robinson criticou a dependência da indústria em uma abordagem de 'tentativa e erro'. Ed Newton-Rex, que deixou a Stability AI em novembro de 2023, também expressou preocupações sobre o uso de materiais protegidos por direitos autorais no treinamento de modelos de IA. Ele fundou a Fairly Trained, uma organização sem fins lucrativos que oferece certificações para práticas éticas de dados. Em junho de 2024, 13 funcionários atuais e antigos de grandes empresas de IA publicaram uma carta alertando sobre os riscos da IA avançada, incluindo desigualdade, desinformação e potencial extinção humana. A carta foi assinada por figuras notáveis como Ramana Kumar e Neel Nanda, juntamente com vários ex-funcionários da OpenAI. A carta destacou a falta de supervisão e pediu maior responsabilização. Os signatários incluíram Jacob Hilton do Alignment Research Center, Daniel Kokotajlo do AI Futures Project e William Saunders, Carroll Wainwright e Daniel Ziegler, sendo este último atualmente trabalhando na Anthropic. Seis signatários permaneceram anônimos. Essas saídas e alertas públicos sinalizam uma crescente inquietação dentro da indústria de IA sobre sua trajetória e implicações éticas.