Preocupações crescem sobre a confiabilidade de ferramentas de IA na tomada de decisões políticas

À medida que os americanos se preparam para votar hoje, muitos podem ter consultado chatbots de IA para tomar decisões de voto. A Pew Research indica que quase 50% dos adultos dos EUA entrevistados usaram um chatbot de IA em algum momento, com 8% usando especificamente essas ferramentas antes das eleições para pesquisar políticas e candidatos. No entanto, pesquisas da Forum AI revelaram que quase 40% das respostas sobre eleições fornecidas por chatbots de IA mainstream continham erros factuais. Problemas específicos foram notados, como o modo de IA do Google se recusando a compartilhar os resultados da eleição de 2020 e o Gemini afirmando incorretamente que o prazo para o voto por correio na Pensilvânia era 3 de novembro, em vez de 27 de outubro. Além disso, em um teste de agosto, o Claude confundiu um congressista da Carolina do Norte com um ex-superintendente escolar com o mesmo nome. A pesquisa da NewsGuard destacou uma forte dependência de fontes questionáveis, observando que os chatbots de IA mainstream citam sites de "slime rosa" - sites financiados por grupos políticos ou ideológicos - quase 50% das vezes ao discutir as eleições. O ChatGPT da OpenAI foi o pior, citando esses sites em mais de 70% das pesquisas, enquanto o Grok da xAI teve um desempenho melhor, em 30%. Nina Jankowicz, diretora executiva do American Sunlight Project, alertou que os executivos prometeram demais sobre as capacidades da IA, observando que, como as ferramentas devem ingerir informações de algum lugar, elas frequentemente fabricam respostas quando não têm conhecimento.