Xiaohongshu bane contas por conteúdo tóxico gerado com IA e violações graves

Xiaohongshu anunciou a suspensão permanente de múltiplas contas por atividades ilegais e prejudiciais. A plataforma processou 84 mil notas violadoras, 105 mil comentários violadores e 3.571 contas em sua ação de proteção de menores. Um problema particular envolveu o uso de IA para gerar conteúdo "tóxico", com uma conta gerando versões perturbadoras de animações clássicas. Outras contas foram suspensas por induzir menores a relacionamentos prejudiciais, oferecer serviços de companhia inadequados e encorajar automutilação. A plataforma indicou que melhorou seus modelos de identificação de riscos para detectar linguagem de código, imagens manipuladas e outras tentativas de contornar moderação.