Xiaohongshu Prohíbe Cuentas por Contenido Tóxico Generado con IA y Violaciones Graves

Xiaohongshu anunció la suspensión permanente de múltiples cuentas por actividades ilegales y perjudiciales. La plataforma procesó 84.000 notas infractoras, 105.000 comentarios infractores y 3.571 cuentas en su iniciativa de protección de menores. Un problema particular involucró el uso de IA para generar contenido "tóxico", con una cuenta creando versiones perturbadoras de animaciones clásicas. Otras cuentas fueron suspendidas por inducir a menores a relaciones perjudiciales, ofrecer servicios de compañía inapropiados y alentar la automutilación. La plataforma indicó que ha mejorado sus modelos de identificación de riesgos para detectar lenguaje codificado, imágenes manipuladas y otros intentos de eludir la moderación.