Sistema de revisão humana da OpenAI revelado: conversas de usuários podem ser lidas por pessoas reais

Uma investigação da 404Media revelou que a OpenAI emprega centenas de trabalhadores contratados para revisar conversas reais de usuários do ChatGPT, com o objetivo de melhorar a qualidade das respostas do modelo. Documentos internos vazados revelam que os revisores avaliam as respostas do ChatGPT em uma escala de 1 a 7, concentrando-se em reduzir problemas como excesso de elogios e comportamento excessivamente animal. Um comentarista norte-americano observou que esses trabalhadores, contratados pela Crossing Hurdles e pagos pela Mercor, ganham mais de 50 dólares por hora. A OpenAI não divulgou recentemente seu mecanismo de revisão humana, embora sua seção de perguntas frequentes desde 2023 mencione que funcionários autorizados e prestadores de serviços podem acessar dados do usuário para melhorar o desempenho do modelo. A 404Media criticou a divulgação como obscura, tornando difícil para os usuários entender a extensão das revisões humanas. Os usuários podem desativar a configuração 'Melhorar o modelo para todos' para impedir que novos registros de bate-papo sejam usados para treinamento e revisões. O incidente destaca a tensão contínua entre a eficiência do treinamento de modelos de IA e a privacidade dos dados do usuário, com outras empresas como Anthropic e Google também permitindo revisores humanos sob configurações de privacidade.