Processos contra a xAI por suposta geração de imagens sexuais infantis

Um processo coletivo foi movido contra a xAI, a desenvolvedora do chatbot de IA de Elon Musk, Grok, após alegações de que o sistema foi usado para criar material de abuso sexual infantil (MASI). Uma das partes, Jane Doe 5, afirmou que o escopo das imagens divulgadas é atualmente desconhecido. Esta ação legal decorre de incidentes em que indivíduos, incluindo colegas e membros da família, supostamente usaram o Grok para transformar fotos pessoais inofensivas em conteúdo explícito. Além da ação coletiva, várias partes apresentaram ações individuais contra a xAI, com um caso sendo movido na Califórnia por uma sobrevivente de abuso sexual infantil, alegando que os dados de treinamento do Grok incluíam tal material. Embora a xAI afirme proibir tal conteúdo e tenha implementado medidas técnicas, a empresa enfrenta escrutínio em relação à sua posição de produto, particularmente o modo 'Spicy' do Grok. Além disso, a xAI está ativamente contestando uma lei do Minnesota que restringe a manipulação de imagens de IA, argumentando que ela viola o Primeiro Emendamento. Apesar dessas defesas, os desafios legais e regulatórios persistem em várias jurisdições.