Red extensa de aplicaciones de IA disfrazadas de herramientas benignas para generar deepfakes explícitos

Una investigación exhaustiva reveló una vasta red que comprende más de 400 dominios y aplicaciones, incluyendo servicios aparentemente inofensivos como generadores de retratos de mascotas como Viefur. Estas aplicaciones, que parecen ser desarrolladas por empresas chinas y una entidad de Hong Kong, cargan de forma encubierta interfaces web ocultas que permiten a los usuarios crear imágenes y vídeos de IA explícitos, incluyendo escenarios como la violación en la cama. Los investigadores descubrieron que la operación se promocionaba a través de decenas de miles de anuncios de Meta, algunos de los cuales contenían material de abuso sexual infantil generado por IA, llegando a decenas de miles de personas. Paul Bouchaud, investigador principal en AI Forensics, la describió como una operación organizada y comercial, destacando que las aplicaciones comenzaron a aparecer a finales de 2025, con un pico en la primavera de 2026. Si bien Google y Apple eliminaron numerosas aplicaciones, el portavoz de Apple, Adam Dema, declaró que las aplicaciones cumplían con las reglas de revisión antes de que los desarrolladores modificaran la fuente de contenido para incluir material pornográfico. Meta posteriormente informó haber tomado medidas contra 11.600 cuentas publicitarias y bloqueado 209 aplicaciones después de recibir la lista de dominios.