Projeto lily da OpenAI revela revisão humana das conversas do usuário do ChatGPT

A OpenAI divulgou seu projeto interno, chamado Lily, que envolve revisores humanos examinando as conversas do usuário do ChatGPT para refinar o modelo. O projeto, revelado pela 404 Media, inclui diretrizes operacionais, registros do Slack e amostras de chat anonimizadas. Os revisores, chamados de 'revisores de prompts', avaliam a qualidade das respostas, verificando se há frases específicas da IA, tons excessivamente formais e conteúdo inadequado. Eles são instruídos a não usar anedotas pessoais ou a fabricar experiências. Um revisor observou que o trabalho é repetitivo, mas bem remunerado, com taxas horárias superiores a 50 dólares. A OpenAI admitiu que os processos de anonimização podem não proteger totalmente os dados do usuário, especialmente em conversas curtas. O projeto não verifica a precisão dos fatos, mas sinaliza erros óbvios, indicando que equipes separadas lidam com avaliações de segurança e desempenho. Os usuários geralmente não sabem que suas conversas estão sendo revisadas, o que levanta preocupações sobre privacidade, especialmente para aqueles que compartilham informações pessoais. Embora a maioria dos chatbots colete dados do usuário por padrão, as versões empresariais e educacionais do ChatGPT desativam essa funcionalidade por padrão. No entanto, os dados passados não podem ser revertidos e o conteúdo excluído ainda pode estar armazenado em conjuntos de dados anonimizados.