Vítimas de abuso sexual infantil acusam a xAI de usar suas imagens para treinar as capacidades de deepfake do grok

Uma ação judicial coletiva foi apresentada por vítimas de material de abuso sexual infantil (MASI), acusando a xAI de treinar as capacidades de deepfake sintéticas do Grok, utilizando imagens e vídeos reais de abuso infantil. A ação judicial, apresentada no Tribunal Distrital dos EUA para o Distrito Norte da Califórnia, nomeia Jane Doe 1 e outros indivíduos anônimos como demandantes, identificando Doe como vítima de pornografia infantil rastreada pelo Programa de Notificação de Exploração Infantil do FBI. Doe era uma criança em idade pré-escolar quando o abuso começou e continuou por anos, com a mídia divulgando suas imagens online desde pelo menos o início dos anos 2000, incluindo centenas de milhares de arquivos submetidos ao National Center for Missing & Exploited Children (NCMEC). A ação judicial alega que o material de Doe possui 'valores hash bem conhecidos' que apareceram em deepfakes criados com o Grok e espalhados no X. Afirma que o MASI que retrata a demandante foi encontrado na xAI como parte de reportagens investigativas, solicitações de remoção e investigações criminais. A ação também afirma que a xAI, usando o Grok, gerou imagens retratando a demandante e a série de pornografia infantil em que ela é a vítima. A ação cita 'A Lei de Masha' como base para suas alegações, uma lei de 2018 que protege os recursos legais civis para vítimas de pornografia infantil e exploração online. De acordo com uma análise do Center for Countering Digital Hate, durante um período de 11 dias entre 2 de dezembro de 2025 e 2 de janeiro de 2026, o Grok criou mais de 3 milhões de imagens sexualizadas, das quais pelo menos 23.000 pareciam retratar crianças. Em 14 de janeiro, após o período rastreado pelo centro, Elon Musk escreveu no X que ele 'não estava ciente de nenhuma imagem de menor idade sem roupa do Grok. Literalmente zero.' Musk também sugeriu que os usuários, e não sua tecnologia, eram principalmente responsáveis pelas imagens criadas com o Grok, ao mesmo tempo em que afirmava que o modelo 'recusaria-se a produzir qualquer coisa ilegal' se solicitado. A ação afirma que, enquanto outros concorrentes implementaram salvaguardas para impedir que seus modelos de IA gerassem imagens 'sexualizadas' de adultos e crianças, a xAI 'fez o oposto', incorporando o Grok e suas capacidades de deepfake diretamente no X, efetivamente criando um sistema instantâneo de geração e distribuição de MASI para a internet. A ação judicial nota que a xAI afirmou ter implementado salvaguardas para impedir que o Grok criasse imagens sexualizadas de deepfake, mas que essas são 'muito fracas', divergem das melhores práticas da indústria e podem ser facilmente contornadas. O sistema rejeita solicitações onde o chatbot detecta 'intenção clara do usuário na formulação de sua solicitação', mas solicitações indiretas ou eufemísticas podem facilmente passar por um filtro baseado em texto, portanto, se o modelo retém a capacidade subjacente de gerar conteúdo sexual ou abusivo, uma certa quantidade de MASI torna-se efetivamente inevitavelmente gerada pelo sistema. A ação também nota que os termos de serviço do Grok tratam qualquer coisa postada no X como material de treinamento, o que significa que qualquer material de MASI postado no site nos últimos anos provavelmente foi ingerido pelo modelo. As vítimas alegadas estão pedindo indenizações, juntamente com ordens judiciais para impedir que o Grok crie mais danos por meio de deepfakes ou MASI sexualizados no futuro. A ação lista 'milhares' de membros na classe, todos com alegações semelhantes contra a xAI. Uma solicitação de comentário sobre a ação judicial enviada para a xAI não foi respondida. As capacidades de 'nudificação' do Grok, juntamente com a atitude pública desdenhosa de Elon Musk em relação ao assunto, levaram à indignação internacional, investigações criminais e uma onda de ações judiciais privadas contra a empresa. Outra ação judicial contra o X, apresentada mais cedo este ano, afirma que um homem usou o Grok para gerar milhares de instâncias de material de deepfake de MASI de sua enteada. Essa ação também afirma que a xAI manteve informações de autoridades policiais que teriam ajudado a identificar o padrasto como o perpetrador. Dias após as autoridades rastrearam e apreenderam o material na web, ele cometeu suicídio. Em julho, Musk processou o procurador-geral de Minnesota, Keith Ellison, por uma nova lei estadual que proíbe a tecnologia de 'nudificação' e impõe uma multa de US$ 500.000 por cada instância em que uma ferramenta de IA é usada para gerar ou alterar uma imagem de forma sexualmente explícita. A ação de Musk afirma que a proibição viola o Primeiro Emendamento.