Moderação automatizada falha na proteção de comunidades Reddit contra conteúdo gerado por IA

A comunidade r/AskHistorians do Reddit enfrentou perturbações significativas em Abril quando o seu sistema de moderação automatizada removeu dezenas de posts e comentários que se estendiam por uma década. A remoção em massa ocorreu sem justificação clara, evidenciando os desafios de usar sistemas de IA para detetar e filtrar conteúdo gerado por IA em plataformas de media social. O incidente revela uma lacuna crítica nas estratégias de moderação atuais: enquanto plataformas confiaram progressivamente em ferramentas automatizadas para combater spam de IA e conteúdo de baixa qualidade, estes sistemas frequentemente carecem de nuance para distinguir entre contribuições autênticas de utilizadores e material sintético. O episódio de remoção demonstra que confiar principalmente em moderação com IA pode degradar o valor de comunidades que dependem de discurso humano genuíno e partilha de conhecimento especializado.