La moderación automatizada falla en proteger comunidades de Reddit del contenido generado por IA

La comunidad r/AskHistorians de Reddit experimentó perturbaciones significativas en abril cuando su sistema de moderación automatizado eliminó docenas de publicaciones y comentarios que se extendían durante una década. La eliminación masiva ocurrió sin una justificación clara, lo que destaca los desafíos de utilizar sistemas de IA para detectar y filtrar contenido generado por IA en plataformas de redes sociales. El incidente revela una brecha crítica en las estrategias de moderación actuales: mientras que las plataformas dependen cada vez más de herramientas automatizadas para combatir spam de IA y contenido de baja calidad, estos sistemas a menudo carecen del matiz para distinguir entre contribuciones auténticas de usuarios y material sintético. El episodio de eliminación demuestra que confiar principalmente en moderación de IA puede degradar el valor de comunidades que dependen del discurso humano genuino y el intercambio de conocimiento especializado.