San francisco exige que a Meta pare de exibir anúncios gerados por IA com conteúdo de abuso infantil

O promotor-geral de San Francisco enviou uma carta de cessação e desistência à Meta, exigindo que a empresa pare de permitir anúncios pagos com conteúdo sexual infantil gerado por IA. A carta solicita à Meta que explique como esses anúncios, incluindo mais de 350 nos últimos meses, foram repetidamente exibidos em suas plataformas. Alguns anúncios apresentavam menores reais confirmados, incluindo um membro de uma família real europeia, e direcionavam os usuários para baixar aplicativos de geração de imagens e vídeos por IA. O promotor-geral David Chiu criticou a Meta por seus esforços inadequados, enquanto a Meta afirma que os anúncios estavam fora de sua jurisdição. A carta exige que a Meta pare com os anúncios, explique como eles contornaram os sistemas de moderação e detalhe como ela lida com os infratores recorrentes. Katie Paul, diretora do Tech Transparency Project, afirmou que a Meta não está abordando efetivamente o problema, pois novos anúncios com as mesmas crianças continuam a aparecer. Os resultados sugerem problemas sistêmicos mais amplos nos sistemas de detecção e moderação da Meta.