La nueva preocupación de trump sobre la IA: el auge del altruismo eficaz

La administración de Trump ha identificado el altruismo eficaz (EA) como un nuevo adversario en el debate sobre el ritmo del desarrollo de la IA. El EA, una filosofía que enfatiza el uso de la evidencia y la razón para maximizar el bien para la humanidad, ha influido y financiado partes del movimiento de seguridad de la IA. El Departamento de Defensa recientemente criticó al movimiento del EA, publicando 'Americanismo, no altruismo eficaz' en X. Los defensores del EA, en particular los 'futuristas', priorizan la protección de las generaciones futuras de los riesgos catastróficos. Open Philanthropy, ahora conocida como Coefficient Giving, donó 30 millones de dólares a OpenAI en 2017. La administración argumenta que la visión del mundo de la seguridad de la IA impulsada por el EA podría poner a EE. UU. en desventaja en la carrera global de la IA contra China. El movimiento ganó prominencia después de que Sam Bankman-Fried, fundador de FTX, se convirtiera en su rostro público antes de que su condena por fraude empañara su reputación. Los grupos relacionados con el EA han invertido en la alineación y la seguridad de la IA durante años, con el objetivo de prevenir la pérdida de control humano y los resultados catastróficos. Las recientes llamadas para ralentizar el desarrollo de la IA han recibido críticas de la administración de Trump, que considera que el enfoque del EA en los riesgos a largo plazo como una amenaza para la competitividad estadounidense.