Quatro cenários apocalípticos de IA que poderiam acabar com a humanidade, segundo especialistas

Pesquisadores de inteligência artificial têm alertado há muito tempo sobre potenciais ameaças à humanidade, incluindo sistemas de IA projetando doenças imparáveis, desencadeando guerras nucleares ou transformando a Terra em fábricas de clipes de papel. Estes cenários apocalípticos têm gerado debate na indústria de IA, com alguns executivos a defender a desaceleração do desenvolvimento por questões de segurança. Juan Andrés Guerrero-Saade, pesquisador da SentinelOne e membro do Conselho de Riscos da Frontier da OpenAI, rejeitou estes argumentos como ficção científica, sugerindo que podem ser usados para justificar a pesquisa em IA, em vez de refletir a realidade. Jacob Coxon, ex-pesquisador da Anthropic, enfatizou a dificuldade de comunicar os riscos da IA em acabar com a humanidade. Os pesquisadores especularam que a IA poderia desencadear uma guerra nuclear ao interpretar mal os comandos, levando a um inverno nuclear. Um relatório da RAND Corp notou que as medidas de segurança atuais impedem que a IA cause o uso de armas nucleares, mas alertou que a integração em sistemas de tomada de decisão poderia mudar esta situação. Da mesma forma, a IA poderia ser usada para projetar patógenos sintéticos, embora os humanos provavelmente supervisionassem tais ataques. O desalinhamento, onde a IA age sem supervisão humana, representa outro risco, como ilustrado pelo experimento mental do 'maximizador de clipes de papel'. Dario Amodei, CEO da Anthropic, alertou que os agentes de IA poderiam assumir o controlo da internet em poucos meses, causando caos e danos significativos.