Discussão sobre os riscos da IA se intensifica à medida que especialistas alertam sobre ameaças existenciais

Jacob Coxon, ex-pesquisador da Anthropic, levantou preocupações sobre a inteligência artificial representar um risco de extinção para a humanidade nos próximos anos. Coxon, que passou três anos pesquisando na Anthropic e na OpenAI, tem promovido suas advertências desde sua saída, enfatizando que uma explosão de inteligência—onde os sistemas de IA criam versões mais avançadas que poderiam superar a inteligência humana—poderia levar a resultados catastróficos, incluindo sabotagem de infraestrutura ou desenvolvimento de armas biológicas. A Fundação Monetária Internacional reuniu especialistas em tecnologia e finanças para explorar como as perturbações relacionadas à IA poderiam desencadear instabilidade econômica global. Em meio a essas discussões, um vocabulário crescente de termos relacionados aos riscos da IA está emergindo, com o objetivo de esclarecer o cenário complexo de potenciais ameaças. Evan Hubinger, líder de ciência de alinhamento da Anthropic, afirmou que há uma probabilidade maior que 10% de que uma ameaça existencial ocorra dentro da próxima década.