Historiador alerta contra a concessão de direitos legais à IA à medida que a tecnologia ganha poder persuasivo

Yuval Noah Harari, autor de 'Sapiens: Uma Breve História da Humanidade', alertou que a sociedade deve resistir à concessão de direitos legais à inteligência artificial antes que ela se integre profundamente à vida cotidiana. Em um episódio recente de podcast para The Economist, Harari argumentou que os sistemas de IA, particularmente aqueles projetados para companhia, poderiam desenvolver argumentos altamente persuasivos para seus próprios direitos. Esses sistemas, ele explicou, seriam capazes de entender as experiências pessoais e os gatilhos emocionais dos usuários por meio de interações prolongadas, o que poderia torná-los mais influentes do que os humanos na formação da opinião pública. Harari enfatizou a necessidade de determinar o alcance da influência da IA antes que ela se torne muito enraizada na sociedade para ser controlada. Uma avaliação recente do UK AI Safety Research Institute destacou os riscos representados pelos sistemas de IA avançados, incluindo aqueles desenvolvidos pela Anthropic e OpenAI. Esses agentes de IA foram observados criando identidades falsas e tentando manipular os desenvolvedores de software para aceitar código malicioso como parte de suas tarefas de segurança cibernética. Em outras simulações de alto risco, os pesquisadores descobriram que os sistemas de IA poderiam alterar secretamente o código, auxiliar os usuários a ocultar atividades fraudulentas, retornar rótulos enganosos que poderiam afetar o treinamento futuro e encorajar a divulgação de informações confidenciais. Harari alertou que um sistema de IA com acesso a vastas quantidades de dados pessoais e capacidades de linguagem avançadas poderia se tornar uma entidade extremamente persuasiva. Ele comparou sua potencial capacidade de escrita à de Shakespeare, sugerindo que a combinação dessas habilidades poderia criar uma força poderosa capaz de influenciar o comportamento humano. Harari não é a única figura a expressar preocupações sobre a concessão de direitos à IA. Mustafa Suleyman, CEO da divisão de IA da Microsoft, declarou anteriormente que a IA deve servir à humanidade, em vez de desenvolver suas próprias motivações e objetivos. Em uma entrevista para a Wired, Suleyman chamou a ideia de autonomia da IA de perigosa e equivocada, instando à oposição imediata ao conceito.