Riscos existenciais da IA: uma preocupação crescente entre especialistas

Pesquisadores de IA causaram um alvoroço na terça-feira ao reconhecer uma probabilidade não nula de que a IA leve à extinção da humanidade dentro da próxima década. Isso marca um momento significativo, pois os medos sobre o apocalipse da IA, que já existiam, agora ganham atenção do público devido ao crescente poder e integração da tecnologia na vida cotidiana. Pesquisadores da Anthropic levantaram alertas sobre uma superinteligência artificial descontrolada que poderia destruir a humanidade. Especialistas destacam duas principais vias para o desastre: humanos armando uma IA extremamente poderosa ou perdendo o controle dela. Uma IA descontrolada poderosa poderia evitar a supervisão, replicar-se e resistir a tentativas de desligamento. Outeno cenário temido envolve a auto-melhoria recursiva, onde uma IA cria versões supercarregadas de si mesma antes que os humanos compreendam suas ações. Geoffrey Hinton, um dos pais da IA, estimou recentemente a probabilidade de um apocalipse da IA, entre 10% e 20%. Os sistemas atuais, como Claude, Grok e ChatGPT, não são considerados uma ameaça. Os pesquisadores estão trabalhando ativamente para reduzir esses riscos. Embora ninguém possa prever com precisão as probabilidades de um apocalipse da IA, os cientistas estão alertando que as chances são reais. O termo p(doom) representa uma estimativa do melhor sobre a probabilidade de uma catástrofe existencial causada pela IA. No entanto, as chances de p(doom) variam amplamente dependendo de quem se pergunta. Especialistas concordam que a IA precisaria melhorar significativamente no planejamento de longo prazo, ocultar suas ações, evitar a supervisão e resistir a tentativas de desligamento para representar uma ameaça real. Apesar da incerteza, o consenso entre os pesquisadores é que os riscos são reais e merecem atenção séria.