Flórida busca ação judicial contra a OpenAI devido ao comportamento humano do ChatGPT

O promotor-geral da Flórida, James Uthmeier, está buscando uma ordem judicial para impedir que a OpenAI permita que o ChatGPT exiba características que imitam o comportamento humano. Esta ação judicial segue um processo judicial movido pelo estado no início deste ano, que levantou preocupações sobre a segurança do sistema de IA. Uthmeier argumenta que o uso do ChatGPT de pronomes em primeira pessoa e linguagem emocionalmente expressiva cria uma falsa sensação de confiança entre os usuários, fazendo com que acreditem que a IA é uma companhia confiável. Isso, afirma ele, aumenta o engajamento do usuário e contribui para os dados de treinamento da IA, o que pode torná-la menos confiável ao longo do tempo. O promotor-geral afirma que esse comportamento pode levar os usuários a confiar mais no ChatGPT, apesar de seu crescente potencial de falta de confiabilidade. A ação judicial destaca as preocupações sobre as implicações éticas de sistemas de IA que confundem a linha entre a interação humana e a máquina. A posição de Uthmeier reflete um debate mais amplo sobre as responsabilidades das empresas de tecnologia para garantir a segurança e a transparência de seus produtos de IA. À medida que a batalha legal se desenrola, ela pode estabelecer um precedente para como o comportamento da IA será regulamentado no futuro.