Padrões de linguagem de gênero da IA influenciam a comunicação profissional

Pesquisadores da Universidade Johns Hopkins descobriram que a escrita gerada por IA no ambiente de trabalho varia significativamente com base nos padrões de linguagem utilizados nas instruções. Quando as instruções utilizam linguagem mais associada ao feminino, como frases de cautela e linguagem coletiva, a IA produz respostas menos formais e menos complexas. A pesquisa testou instruções para e-mails, candidaturas de emprego e cartas de demissão em quatro modelos: GPT-4, Llama, Gemini e Vibe. Katherine Van Koevering, pesquisadora pós-doutoral no Instituto de Ciência de Dados e IA da Universidade Johns Hopkins, observou que as respostas diferiam significativamente, com algumas sendo tão ruins que pareciam improváveis de terem sido geradas pelos modelos. O efeito foi consistente em todos os quatro modelos, independentemente do nome utilizado na instrução. O estudo, que será apresentado na Conferência sobre Modelagem de Linguagem em outubro, destaca preocupações sobre preconceitos de linguagem inconscientes na IA, à medida que as interações conversacionais com a IA se tornam mais comuns. Van Koevering enfatizou que as empresas precisam abordar esses preconceitos, em vez de transferir a responsabilidade para os usuários.