Tribunal de pequenas causas de pequim determina que plataformas devem explicar decisões de rotulagem de conteúdo de IA, citando violação de contrato

O Tribunal de Pequenas Causas da Internet de Pequim decidiu recentemente que uma plataforma violou seu contrato ao sinalizar e ocultar automaticamente o conteúdo postado pelo usuário Xiao Tang, pois determinou que o texto continha material gerado por IA não rotulado. Após a ação judicial de Xiao Tang após um recurso malsucedido, o tribunal ordenou que a plataforma restaurasse o conteúdo e apagasse os registros relacionados à violação. A questão destacou a obrigação da plataforma de transparência. O Juiz Gao Ya da Divisão de Arquivamento de Casos observou que, embora a plataforma tenha usado identificação por máquina e revisão manual para tomar sua decisão, ela argumentou que não precisava divulgar o mecanismo devido a segredos comerciais. No entanto, o tribunal argumentou que, uma vez que a plataforma controlava o processo algorítmico, ela deveria fornecer evidências ou uma explicação razoável para suas descobertas, especialmente para textos criativos, onde documentar o processo de criação é impraticável. A decisão estabeleceu que as plataformas não podem se recusar a explicar suas decisões algorítmicas com base unicamente em informações proprietárias. Além disso, o tribunal aconselhou que as plataformas devem implementar um sistema de tratamento em camadas, garantindo que as penalidades sejam proporcionais à gravidade da violação e melhorar os mecanismos gerais de revisão de conteúdo.