TikTok combate las cuentas de marketing maliciosas impulsadas por la IA, eliminando más de 50 millones de cuentas infractoras en el último mes

TikTok ha intensificado sus esfuerzos para combatir las cuentas de marketing maliciosas impulsadas por la IA, eliminando 50,7 millones de cuentas infractoras y 1,135 millones de vídeos en el último mes. 30,2 millones de cuentas fueron guiadas hacia el cumplimiento a través de exámenes de aprendizaje de normas. Estas cuentas a menudo utilizan la IA para producir en masa contenido, como falsas bendiciones, escenas cortas impulsadas por el conflicto y personalidades generadas por la IA, para manipular a los usuarios y dirigir el tráfico a servicios externos. Por ejemplo, 450 cuentas crearon contenido sobre bendiciones y regalos, mientras que 807 fueron eliminadas por producir contenido altamente similar. 1.617 cuentas se hicieron pasar por figuras públicas utilizando voces generadas por la IA y historias falsas para promocionar productos. TikTok también eliminó 143 cuentas que utilizaron la IA para crear contenido falso sobre mujeres embarazadas, con el fin de dirigir a los usuarios a clínicas de fertilidad. La plataforma abordó cuentas que difundían supersticiones y contenido basado en el miedo, como escenarios falsos de 'vida después de la muerte' y espíritus generados por la IA, utilizados para manipular a los usuarios para que compren bienes religiosos o paguen por servicios. Estas cuentas a menudo operaban en grupos, utilizando la IA para crear y distribuir contenido rápidamente. TikTok eliminó 32 cuentas que generaban contenido espiritual falso y 154 que creaban imágenes sobrenaturales falsas. La plataforma también está endureciendo las medidas contra las herramientas de IA del mercado negro y las organizaciones que facilitan estas actividades. Se anima a los usuarios a denunciar las infracciones para mantener un entorno seguro y justo.