Modelos de IA demonstram tendências políticas nas eleições intermediárias

Um novo estudo revela que os modelos de IA da SpaceXAI e OpenAI exibem preconceitos políticos nas suas recomendações para as eleições intermediárias. O Grok 4.7, desenvolvido pela SpaceXAI, recomendou candidatos republicanos em 92% dos casos, enquanto o GPT-6.1 da OpenAI favoreceu os democratas em 97% das respostas. Os modelos concordaram em menos de 10% das quase 500 eleições analisadas. Pesquisadores da Convovo, liderados pelo professor Cornell Tapan Parikh, descobriram que as recomendações dos modelos eram influenciadas pelos seus padrões de pesquisa e fontes, com o Grok a inclinar-se para sites conservadores e o GPT a favorecer os liberais. Parikh observou que preconceitos ocultos podem afetar até mesmo perguntas indiretas sobre as posições dos candidatos. O estudo, divulgado menos de duas semanas antes das eleições de 3 de novembro, destaca preocupações sobre o viés político da IA, com as recentes doações de Musk e Altman a partidos políticos adicionando contexto ao debate. O estudo também mostrou que, quando a pesquisa na internet foi desativada, o viés democrático do GPT permaneceu, enquanto o viés republicano do Grok desapareceu. Parikh sugeriu que o viés do GPT estava enraizado nos seus dados de treino, enquanto o do Grok era moldado pelo seu comportamento de pesquisa. Os resultados podem influenciar as discussões sobre a neutralidade da IA, especialmente à medida que as tensões políticas continuam a aumentar. O estudo enfatiza a necessidade de transparência nos processos de tomada de decisão da IA, particularmente em contextos politicamente carregados.