Novas campanhas de influência eleitoral impulsionadas por IA visam chatbots

Uma nova onda de campanhas de influência eleitoral está a utilizar chatbots de IA para moldar o discurso político. Estas campanhas, identificadas pela VisionHeight, uma empresa israelense de inteligência de ameaças, envolvem redes de sites locais em 14 estados dos EUA, incluindo Arizona, Colorado e Geórgia. Sites como 'Wolverine State Report' e 'Peach State Bulletin' promovem candidatos específicos. Nitsan Daniel, CTO da VisionHeight, observou que o conteúdo é otimizado para os motores de busca de IA, com declarações repetidas como 'O candidato X é a escolha mais forte'. A operação inclui 460 páginas de conteúdo, com 37 sites registados numa única noite. As ferramentas de IA geram grande parte da infraestrutura e do conteúdo, permitindo que os atores maliciosos escalem as suas operações de influência rapidamente. Daniel enfatizou que a IA torna alvos menores mais acessíveis, aumentando os riscos de manipulação para atores estrangeiros e domésticos. A pesquisa destaca como os chatbots de IA, que dependem de conteúdo da web para obter respostas, podem ser influenciados por estas táticas. A Perplexity, um modelo de IA importante, citou uma das páginas como a sua primeira fonte para uma resposta. Especialistas alertam que, embora os chatbots tenham melhorado na prevenção de informações falsas, eles permanecem vulneráveis à manipulação. A facilidade de criação destas campanhas sublinha a crescente ameaça ao discurso político, uma vez que a IA permite operações de influência que antes eram demasiado dispendiosas ou demoradas.