Rede extensa de aplicativos de IA disfarçados como ferramentas benignas para gerar deepfakes explícitos

Uma investigação abrangente revelou uma vasta rede que compreende mais de 400 domínios e aplicativos, incluindo serviços aparentemente inofensivos, como geradores de retratos de animais de estimação, como Viefur. Esses aplicativos, que parecem ser operados por desenvolvedores chineses e uma entidade de Hong Kong, carregam silenciosamente interfaces web ocultas, permitindo que os usuários criem imagens e vídeos explícitos de IA, incluindo cenários como agressão sexual no quarto. Os pesquisadores descobriram que a operação era promovida por dezenas de milhares de anúncios no Meta, alguns dos quais continham material de abuso sexual infantil gerado por IA, alcançando dezenas de milhares de pessoas. Paul Bouchaud, um pesquisador líder da AI Forensics, descreveu-o como uma operação organizada e comercial, observando que os aplicativos começaram a aparecer no final de 2025, com um pico na primavera de 2026. Embora o Google e a Apple tenham removido inúmeros aplicativos, o porta-voz da Apple, Adam Dema, afirmou que os aplicativos estavam em conformidade com as regras de revisão antes que os desenvolvedores alterassem a fonte de conteúdo para incluir material pornográfico. Posteriormente, o Meta relatou que tomou medidas contra 11.600 contas de anúncios e bloqueou 209 aplicativos após receber a lista de domínios.