Nova preocupação de trump com a IA: o surgimento do altruísmo eficaz

A administração de Trump identificou o altruísmo eficaz (EA) como um novo adversário no debate sobre o ritmo do desenvolvimento da IA. O EA, uma filosofia que enfatiza o uso de evidências e da razão para maximizar o bem para a humanidade, influenciou e financiou partes do movimento de segurança da IA. O Departamento de Defesa criticou recentemente o movimento do EA, publicando 'Americanismo, não altruísmo eficaz' no X. Os defensores do EA, particularmente os 'longtermistas', priorizam a proteção das gerações futuras contra riscos catastróficos. A Open Philanthropy, agora conhecida como Coefficient Giving, doou 30 milhões de dólares para a OpenAI em 2017. A administração argumenta que a visão de segurança da IA impulsionada pelo EA poderia colocar os EUA em desvantagem na corrida global de IA contra a China. O movimento ganhou destaque após Sam Bankman-Fried, fundador da FTX, se tornar seu rosto público antes de sua condenação por fraude manchar sua reputação. Grupos ligados ao EA têm investido em alinhamento e segurança da IA há anos, com o objetivo de prevenir a perda de controle humano e resultados catastróficos. As recentes chamadas para desacelerar o desenvolvimento da IA têm recebido críticas da administração de Trump, que considera o foco do EA em riscos de longo prazo como uma ameaça à competitividade americana.