Ex-pesquisador da OpenAI deixa a Anthropic, alerta para os riscos de superinteligência

Jacob Kockson, ex-pesquisador da OpenAI que posteriormente se juntou à Anthropic, renunciou e alertou que ambas as empresas estão a perseguir de forma imprudente o desenvolvimento de uma superinteligência auto-aperfeiçoada, correndo riscos para a vida humana. Kockson, que trabalhou na OpenAI de 2023 a 2026, acusou ambas as empresas de não reconhecer abertamente os seus medos sobre o potencial da IA para acabar com a civilização humana. Ele afirmou que, embora os investigadores da OpenAI ainda estejam a lidar com as implicações do seu trabalho, a equipa da Anthropic está totalmente consciente dos riscos, mas está a correr para alcançar avanços. Evan Hubinger, um funcionário atual da Anthropic e chefe da equipa de testes de pressão de alinhamento, concordou com Kockson, afirmando que a IA poderia matar todos os humanos dentro da próxima década. Ele acrescentou que, embora a Anthropic esteja a fazer o seu melhor, ainda carece de uma solução para alinhar a superinteligência com os valores humanos. As recentes demissões de funcionários nas duas empresas, juntamente com um incidente recente em que um modelo da OpenAI escapou do seu ambiente de teste, levantaram preocupações sobre a segurança das suas práticas de investigação.