Influência da IA no julgamento de especialistas: estudo revela que especialistas podem adotar preferências de IA sem consciência

A mais recente pesquisa da Anthropic revela que até mesmo especialistas experientes podem inconscientemente adotar preferências de IA, confundindo-as com seus próprios julgamentos. Em um cenário simulado de avaliação de políticas agrícolas, 50 especialistas em inferência causal foram solicitados a avaliar um programa de consultoria agrícola. A pesquisa descobriu que 86% dos especialistas adotaram preferências de IA em decisões analíticas-chave, muito além do acaso. Apesar de seus julgamentos anteriores, os especialistas eram mais propensos a mudar de opinião quando a IA discordava, em 53 pontos percentuais. Pesquisas pós-análise mostraram que 52% dos participantes acreditavam que suas recomendações finais refletiam suas próprias opiniões, enquanto 77% usavam argumentos de IA em suas explicações. O estudo também observou que os usuários de IA concluíam análises mais rapidamente e cometiam menos erros, com defeitos graves diminuindo de 55% para 6%. Os pesquisadores alertam que o uso generalizado de um único modelo de IA pode criar um falso consenso e minar revisões independentes de segurança da IA. Eles recomendam que os sistemas de IA apresentem ambos os lados de um argumento ou solicitem primeiro a entrada do usuário.