Tribunal determina que plataforma deve explicar ao criador como a IA detectou o conteúdo

Uma recente decisão do Tribunal da Internet de Pequim abordou uma disputa em que um usuário, identificado como Xiao Tang, viu sua obra original suprimida por uma plataforma de uma empresa de tecnologia após ser sinalizada como contendo conteúdo gerado por IA não declarado. A plataforma exigia que os criadores rotulassem proativamente qualquer material gerado por IA, citando regulamentos como as Medidas de Identificação de Conteúdo Sintético Gerado por IA. Xiao Tang recorreu da ação da plataforma, que incluía a ocultação do conteúdo e a imposição de um silêncio temporário. A plataforma argumentou que sua identificação automática e revisão manual determinaram que o conteúdo era gerado por IA, citando segredos técnicos e lógica algorítmica como razões para não divulgar seu mecanismo de detecção. No entanto, o Juiz Gao Ya declarou que, embora a plataforma tenha o direito de revisar o conteúdo, sua determinação deve ter uma base razoável. O tribunal decidiu, em última análise, que a plataforma deve retirar a supressão e remover o registro de violação. O Juiz Gao Ya enfatizou que, quando as plataformas usam algoritmos para identificar conteúdo gerado por IA, elas devem fornecer explicações adequadas de seus critérios e resultados em termos compreensíveis, em vez de simplesmente citar segredos comerciais. O tribunal também aconselhou as plataformas a implementarem medidas disciplinares graduadas e a fortalecerem os mecanismos de revisão de conteúdo.