Demandas contra xAI por la supuesta generación de imágenes sexuales infantiles por parte de Grok

Se ha presentado una demanda colectiva contra xAI, el desarrollador del chatbot de IA de Elon Musk, Grok, tras las acusaciones de que el sistema se utilizó para crear material de abuso sexual infantil (MASI). Una de las demandantes, Jane Doe 5, declaró que el alcance de las imágenes difundidas es actualmente desconocido. Esta acción legal se basa en incidentes en los que individuos, incluidos compañeros de clase y miembros de la familia, supuestamente utilizaron Grok para convertir fotos personales inocuas en contenido explícito. Además de la demanda colectiva, varias demandantes han demandado a xAI, con un caso presentado en California por una víctima de abuso sexual infantil, que alega que los datos de entrenamiento de Grok incluían dicho material. Aunque xAI afirma prohibir dicho contenido y ha adoptado medidas técnicas, la empresa se enfrenta a la escrutinio por su posicionamiento del producto, particularmente el modo 'Spicy' de Grok. Además, xAI está desafiando activamente una ley de Minnesota que restringe la manipulación de imágenes de IA, argumentando que viola el Primer Enmienda. A pesar de estas defensas, los desafíos legales y regulatorios persisten en múltiples jurisdicciones.