El proyecto lily de OpenAI revela la revisión humana de las conversaciones de los usuarios de ChatGPT

OpenAI ha revelado su proyecto interno, Lily, que implica la revisión humana de las conversaciones de los usuarios de ChatGPT para refinar el modelo. El proyecto, revelado por 404 Media, incluye directrices operativas, registros de Slack y muestras de chat anonimizadas. Los revisores, denominados 'revisores de indicaciones', evalúan la calidad de las respuestas, comprobando la presencia de frases específicas de la IA, tonos demasiado formales y contenido inapropiado. Se les instruye para que no utilicen anécdotas personales ni inventen experiencias. Un revisor señaló que el trabajo es repetitivo pero bien remunerado, con tarifas por hora que superan los 50 dólares. OpenAI ha admitido que los procesos de anonimización pueden no proteger completamente los datos de los usuarios, especialmente en conversaciones cortas. El proyecto no verifica la exactitud de los hechos, pero señala errores obvios, lo que indica que equipos separados se encargan de las evaluaciones de seguridad y rendimiento. Los usuarios a menudo no son conscientes de que sus conversaciones están siendo revisadas, lo que plantea preocupaciones sobre la privacidad, especialmente para aquellos que comparten información personal. Si bien la mayoría de los chatbots recopilan datos de los usuarios de forma predeterminada, las versiones empresariales y educativas de ChatGPT desactivan esta función de forma predeterminada. Sin embargo, los datos anteriores no pueden ser revertidos, y el contenido eliminado puede seguir almacenándose en conjuntos de datos anonimizados.