Especialista canadense em IA defende paralisação permanente do desenvolvimento de IA avançada para evitar a extinção humana

O pesquisador canadense em IA, David Krueger, professor assistente na Universidade de Montreal e membro da Mila, o Instituto de Inteligência Artificial do Quebec, defendeu uma pausa indefinida no desenvolvimento de inteligência artificial de ponta. Krueger argumenta que simplesmente desacelerar o desenvolvimento da IA não é suficiente para evitar um cenário apocalíptico e que uma paralisação completa é necessária para evitar a extinção humana. Sua pesquisa se concentra em reduzir o risco de extinção humana causado pela IA. Krueger reconheceu o recente apelo do CEO da Anthropic, Dario Amodei, para que as empresas de IA desacelerassem seu ritmo de desenvolvimento, o qual foi apoiado por Sam Altman do OpenAI e Elon Musk da SpaceX. No entanto, ele criticou as medidas propostas como inadequadas e muito lentas. Amodei defendeu a regulamentação, a cooperação internacional e a avaliação por terceiros para verificar as medidas de segurança da IA. Krueger, fundador da Evitable sem fins lucrativos, expressou preocupações de que os métodos atuais de teste de IA sejam pouco confiáveis e que o plano proposto carece de força suficiente.