xAI enfrenta processo judicial por suposto uso de materiais de abuso sexual infantil no treinamento do grok

A xAI enfrenta um processo judicial que alega que seus modelos Grok foram treinados usando materiais de abuso sexual infantil (CSAM). A denúncia, apresentada na quarta-feira, foi feita por Jane Doe, uma ex-vítima de abuso sexual. Doe, que tinha idade pré-escolar no início dos anos 2000, afirma que suas imagens foram usadas para criar CSAM para pedófilos. Suas imagens foram posteriormente hasheadas por organizações como o National Center for Missing and Exploited Children (NCMEC) e o Canadian Centre for Child Protection (CCCP). Doe recebeu alertas do Departamento de Justiça dos EUA através do Sistema de Notificação de Vítimas, mas ficou chocada quando o CCCP informou que CSAM gerado por IA, retratando-a, foi encontrado na xAI. A denúncia alega que mensagens foram encontradas em fóruns online onde criminosos discutiam a criação de CSAM gerado por IA de Doe e de outras vítimas. O caso contribui para a escrutínio regulatório e legal em andamento sobre a extensão do problema.