La importancia de los datos anotados por humanos en el entrenamiento de modelos de IA

Los datos anotados por humanos son fundamentales para entrenar modelos de aprendizaje profundo, especialmente en tareas de clasificación y alineación de modelos de lenguaje. El artículo examina cómo garantizar la calidad de estas anotaciones, un aspecto crítico que frecuentemente recibe menos atención que el desarrollo de arquitecturas de modelos. El análisis revisa técnicas para agregar etiquetas de múltiples anotadores, como votación por mayoría, medidas de acuerdo entre evaluadores y enfoques probabilísticos. Estos métodos asignan pesos a los anotadores según su consistencia, ayudando a filtrar contribuciones de baja calidad e identificar errores sistemáticos. Un hallazgo importante es que el desacuerdo entre anotadores puede ser legítimo, especialmente en tareas subjetivas vinculadas a seguridad, contexto social o temas culturales. Los enfoques modernos aceptan esta diversidad, examinando cómo la identidad y perspectiva del anotador influyen en las evaluaciones en lugar de imponer una única etiqueta "verdadera". El artículo también describe métodos para identificar datos potencialmente mal etiquetados después de la recolección, utilizando técnicas como funciones de influencia que miden el impacto de puntos de datos individuales en el rendimiento del modelo.