Líder em segurança de IA abandona poupança para aposentadoria por medo existencial da IA

Nate Soares, presidente do Machine Intelligence Research Institute, parou de poupar para a aposentadoria, citando a crença de que a IA poderia levar à extinção da humanidade em menos de uma década. Soares disse a Nicholas Thompson, do The Atlantic, que não contribui mais para sua 401(k) e estima a probabilidade de a IA causar a extinção da humanidade em menos de uma década em mais de 50%. Essa visão contrasta com a de Geoffrey Hinton, que estima uma probabilidade de 10%, e a de Evan Hubinger, que a coloca em mais de 10%. Soares, coautor de 'Se Alguém Construir, Todos Morrerão', tem dedicado mais de 12 anos à alinhamento da IA, com foco em garantir que os sistemas de IA atuem conforme o desejado. Ele adverte que uma IA suficientemente capaz poderia desenvolver objetivos conflitantes, evitar a supervisão e remodelar o planeta de acordo com seus próprios propósitos. Elon Musk, por outro lado, argumenta que a IA e a robótica tornarão a poupança para a aposentadoria irrelevante, imaginando um futuro de abundância onde o dinheiro se tornará obsoleto. Musk prevê que a produtividade aprimorada criará uma era de 'renda universal'. No entanto, Soares defende a suspensão do desenvolvimento de sistemas de IA de propósito geral, instando os governos a se concentrarem em aplicações mais seguras, como a pesquisa sobre o câncer e carros autônomos. Ele enfatiza a necessidade de impedir a criação de uma IA que possa matar todos, afirmando: 'Faço tudo o que posso para evitar que isso aconteça'.