El sistema de revisión humana de OpenAI revela: las conversaciones de los usuarios pueden ser leídas por personas reales

Una investigación de 404Media ha revelado que OpenAI emplea a cientos de trabajadores contratados para revisar las conversaciones reales de los usuarios de ChatGPT, con el objetivo de mejorar la calidad de las respuestas del modelo. Documentos internos filtrados revelan que los revisores califican las respuestas de ChatGPT en una escala de 1 a 7, centrándose en reducir problemas como la excesiva adulación y la excesiva artificialidad. Un comentarista norteamericano señaló que estos trabajadores, reclutados por Crossing Hurdles y pagados por Mercor, ganan más de 50 dólares por hora. OpenAI no ha revelado recientemente su mecanismo de revisión humana, aunque su sección de preguntas frecuentes desde 2023 menciona que el personal autorizado y los proveedores de servicios pueden acceder a los datos de los usuarios para mejorar el rendimiento del modelo. 404Media criticó esta divulgación como confusa, lo que dificulta que los usuarios comprendan la extensión de las revisiones humanas. Los usuarios pueden desactivar la configuración 'Mejorar el modelo para todos' para evitar que los nuevos registros de chat se utilicen para el entrenamiento y las revisiones. El incidente destaca la tensión continua entre la eficiencia del entrenamiento de los modelos de IA y la privacidad de los datos del usuario, con otras empresas como Anthropic y Google también permitiendo a los revisores humanos bajo la configuración de privacidad.