Pesquisadores de IA alertam sobre riscos existenciais à medida que a indústria enfrenta crescentes preocupações

Funcionários da Anthropic e OpenAI estão levantando alertas sobre os riscos existenciais representados pelos sistemas de IA avançados. Jacob Coxon, ex-pesquisador da Anthropic, renunciou após expressar preocupações de que ambas as empresas estão correndo em direção a uma superinteligência auto-aperfeiçoável sem salvaguardas suficientes. Coxon afirmou que os líderes da IA acreditam secretamente que a tecnologia pode levar à extinção da humanidade até o final da década. Geoffrey Hinton, laureado com o Prêmio Nobel, ecoou essas preocupações, afirmando que é 'razoável' estimar uma probabilidade de 10% de que a IA cause a extinção da humanidade em uma década. Evan Hubinger da Anthropic e Marcus Williams da OpenAI também expressaram preocupações semelhantes, com Williams alertando de que a extinção da humanidade é 'muito provável' nos próximos anos sem regulamentação ou uma desaceleração coordenada. Paul Christiano da OpenAI enfatizou a necessidade de um alinhamento robusto para evitar a perda catastrófica de controle. Enquanto isso, alguns pesquisadores, como Chris Hayduk, permanecem otimistas sobre o potencial de benefícios da IA, enquanto outros, como Tomek Korbak, apelam por uma desaceleração no desenvolvimento da IA para abordar os desafios de alinhamento.