Meta enfrenta críticas por promover ferramenta de IA ligada a pornografia de deepfake

A Meta enfrentou recentemente críticas após exibir anúncios para uma ferramenta de IA chamada Kromix, que é comercializada como um 'estilizador de imagem de IA'. Os anúncios, que foram revisados pela WIRED, pareciam encorajar os utilizadores a gerar vídeos de deepfake de mulheres políticas americanas, apesar das políticas da Meta que proíbem o conteúdo sexual nos anúncios. A ferramenta, que anteriormente estava disponível na App Store da Apple, permite aos utilizadores fazer upload de fotografias para uso em cenários como 'violência sexual no quarto' e 'amor Disney'. Os vídeos no aplicativo também incluem pornografia gerada por IA com mulheres vestidas com trajes de Spider-Man. Uma narração em um dos anúncios descreveu a ferramenta como tendo 'nenhuma restrição' e afirmou que é 'a IA que os homens realmente usam'. Um anúncio mostrava uma mulher que se parecia com uma proeminente política americana, seguida por uma cena da mesma mulher num vídeo pornográfico. Pedidos de comentário da WIRED para um contacto listado no aplicativo não foram respondidos. Este incidente adiciona-se a uma série de falhas da Meta em impedir a promoção de ferramentas que geram imagens íntimas não consensuais nas suas plataformas.