Víctimas de abuso sexual infantil acusan a xAI de utilizar sus imágenes para entrenar las capacidades de deepfake de grok

Se ha presentado una demanda colectiva por parte de víctimas de material de abuso sexual infantil (MASI), acusando a xAI de utilizar imágenes y vídeos reales de abuso infantil para entrenar las capacidades de deepfake sintéticas de Grok, denominadas 'nudify'. La demanda, presentada en el Tribunal Distrital de los Estados Unidos para el Distrito del Norte de California, nombra a Jane Doe 1 y a otros individuos anónimos como demandantes, identificando a Doe como víctima de pornografía infantil rastreada por el Programa de Notificación de Explotación Infantil del FBI. Doe era una niña de preescolar cuando comenzó y continuó el abuso de su perpetrador durante años, y sus imágenes circulaban en línea desde al menos principios de la década de 2000, incluyendo cientos de miles de archivos enviados al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC). La demanda alega que los materiales de Doe tienen 'valores hash bien conocidos' que han aparecido en deepfakes creados con Grok y difundidos en X. Afirma que el MASI que representa a la demandante ha sido encontrado en xAI como parte de informes de investigación, solicitudes de eliminación y investigaciones criminales. La demanda también afirma que xAI, utilizando Grok, ha generado imágenes que representan a la demandante y a la serie de pornografía infantil en la que es víctima. La demanda cita la 'Ley de Masha' como base para sus alegaciones, una ley de 2018 que protege los remedios legales civiles para las víctimas de pornografía infantil y explotación en línea. Según un análisis del Centro para Combatir el Odio Digital, durante un período de 11 días entre el 2 de diciembre de 2025 y el 2 de enero de 2026, Grok creó más de 3 millones de imágenes sexualizadas, de las cuales al menos 23.000 parecían representar a niños. El 14 de enero, después del período rastreado por el centro, Elon Musk escribió en X que 'no estaba al tanto de ninguna imagen de un menor desnudo de Grok. Cero'. Musk también implicó que los usuarios, y no su tecnología, eran los principales responsables de las imágenes creadas con Grok, al tiempo que afirmaba que el modelo 'se negaría a producir cualquier cosa ilegal' si se le pedía. La demanda afirma que, mientras que otros competidores implementaron controles para evitar que sus modelos de IA generaran imágenes 'nudificadas' de adultos y niños, xAI 'hizo lo contrario', integrando a Grok y sus capacidades de deepfake directamente en X, creando efectivamente un sistema instantáneo de generación y distribución de MASI para Internet. La demanda señala que xAI dijo que había implementado controles para evitar que Grok creara imágenes sexualizadas de deepfake, pero que estos son 'muy débiles', se desvían de las mejores prácticas de la industria y pueden ser fácilmente eludidos. El sistema rechaza las indicaciones donde el chatbot detecta 'intención clara por parte del usuario en la redacción de su solicitud', pero las indicaciones indirectas o eufemísticas pueden pasar fácilmente a través de un filtro basado en texto, por lo que si el modelo conserva la capacidad subyacente de generar contenido sexual o abusivo, una cantidad de MASI se genera efectivamente inevitablemente por el sistema. La demanda también señala que los términos de servicio de Grok tratan todo lo publicado en X como material de entrenamiento, lo que significa que cualquier material de MASI publicado en el sitio durante el último año probablemente ha sido ingerido por el modelo. Las víctimas demandantes solicitan daños monetarios junto con medidas cautelares para evitar que Grok cause más daños a través de deepfakes o MASI sexuales futuros. La demanda enumera 'miles' de miembros en la clase, todos con reclamaciones similares contra xAI. Se solicitó un comentario sobre la demanda a xAI, pero no se recibió respuesta. Las capacidades de 'nudificación' de Grok, junto con la actitud pública despectiva de Elon Musk, han provocado indignación internacional, investigaciones criminales y una ola de demandas privadas contra la empresa. Otra demanda contra X, presentada anteriormente este año, afirma que un hombre utilizó Grok para generar miles de instancias de material de MASI de deepfake de su hijastra. La demanda también afirma que xAI ocultó información a las autoridades, lo que habría ayudado a identificar al padrastro como el perpetrador. Días después, las autoridades rastrearon y confiscaron el material en la web, y él se suicidó. En julio, Musk demandó al fiscal general de Minnesota, Keith Ellison, por una nueva ley estatal que prohíbe la tecnología de 'nudificación' e impone una multa de 500.000 dólares por cada instancia en la que una herramienta de IA se utiliza para generar o alterar una imagen de forma sexualmente explícita. La demanda de Musk afirma que la prohibición viola el Primer Enmienda.