TikTok combate contas maliciosas de marketing impulsionadas por IA, removendo mais de 50 milhões de contas infratoras no último mês

O TikTok intensificou seus esforços para combater contas maliciosas de marketing impulsionadas por IA, removendo 50,7 milhões de contas infratoras e 1,135 milhões de vídeos no último mês. 30,2 milhões de contas foram direcionadas para a conformidade por meio de exames de aprendizado de regras. Essas contas frequentemente utilizam IA para produzir conteúdo em massa, como falsas bênçãos, peças curtas baseadas em conflitos e personalidades geradas por IA, para manipular usuários e direcionar tráfego para serviços externos. Por exemplo, 450 contas criaram conteúdo sobre bênçãos e presentes, enquanto 807 foram removidas por produzir conteúdo altamente semelhante. 1.617 contas imitaram figuras públicas usando vozes geradas por IA e histórias falsas para promover produtos. O TikTok também removeu 143 contas que usaram IA para criar conteúdo falso sobre mulheres grávidas idosas para direcionar os usuários para clínicas de fertilidade. A plataforma abordou contas que disseminavam superstições e conteúdo baseado no medo, como falsas 'cenas do pós-vida' e espíritos gerados por IA, usados para manipular os usuários para comprar bens religiosos ou pagar por serviços. Essas contas frequentemente operavam em grupos, usando IA para criar e distribuir conteúdo rapidamente. O TikTok removeu 32 contas que geravam conteúdo espiritual falso e 154 que criavam imagens sobrenaturais falsas. A plataforma também está combatendo ferramentas de IA ilegais e organizações que facilitam essas atividades. Os usuários são encorajados a relatar violações para manter um ambiente seguro e justo.