Tribunal de beijing declara que las plataformas deben explicar las decisiones de etiquetado de contenido de IA, citando una violación de contrato

El Tribunal de Internet de Beijing dictó recientemente que una plataforma había incumplido su contrato al marcar y ocultar automáticamente el contenido publicado por el usuario Xiao Tang, ya que determinó que el texto contenía material generado por IA sin etiquetar. Tras la demanda de Xiao Tang después de un recurso infructuoso, el tribunal ordenó a la plataforma que restableciera el contenido y borrara los registros relacionados con la infracción. El caso puso de relieve la obligación de transparencia de la plataforma. El juez Gao Ya de la División de Archivo de Casos señaló que, aunque la plataforma utilizó la identificación automática y la revisión manual para tomar su decisión, argumentó que no necesitaba divulgar el mecanismo debido a secretos comerciales. Sin embargo, el tribunal respondió que, dado que la plataforma controlaba el proceso algorítmico, debía proporcionar pruebas o una explicación razonable de sus hallazgos, especialmente para textos creativos donde documentar el proceso de creación es impráctico. La sentencia estableció que las plataformas no pueden negarse a explicar sus decisiones algorítmicas únicamente basándose en información confidencial. Además, el tribunal aconsejó que las plataformas implementen un sistema de gestión en capas, asegurando que las sanciones sean proporcionales a la gravedad de la infracción, y mejoren los mecanismos generales de revisión de contenido.