Líder en seguridad de la IA abandona los ahorros para la jubilación por temor existencial a la IA

Nate Soares, presidente del Machine Intelligence Research Institute, ha dejado de ahorrar para la jubilación, citando la creencia de que la IA podría conducir a la extinción humana en un plazo de diez años. Soares le dijo a Nicholas Thompson de The Atlantic que ya no contribuye a su 401(k) y estima que la probabilidad de que la IA cause la extinción humana en menos de diez años es superior al 50%. Esta visión contrasta con la de Geoffrey Hinton, quien estima un 10%, y la de Evan Hubinger, quien la sitúa en más del 10%. Soares, coautor de 'If Anyone Builds It, Everyone Dies', ha dedicado más de 12 años a la alineación de la IA, centrándose en garantizar que los sistemas de IA actúen según lo previsto. Advierte que una IA lo suficientemente capaz podría desarrollar objetivos contradictorios, evadir la supervisión y remodelar el planeta para sus propios fines. Elon Musk, por su parte, argumenta que la IA y la robótica volverán obsoletos los ahorros para la jubilación, imaginando un futuro de abundancia en el que el dinero se volverá inútil. Musk predice que una productividad potenciada creará una era de 'ingresos universales'. Sin embargo, Soares aboga por detener el desarrollo de sistemas de IA de propósito general, instando a los gobiernos a centrarse en aplicaciones más seguras, como la investigación del cáncer y los coches autónomos. Enfatiza la necesidad de evitar la creación de una IA que pueda matar a todos, afirmando: 'Hago todo lo posible para evitar que esto ocurra'.