xAI enfrenta demanda por presunto uso de material de abuso sexual infantil en el entrenamiento de grok

xAI se enfrenta a una demanda que alega que sus modelos Grok fueron entrenados utilizando material de abuso sexual infantil (CSAM). La demanda, presentada el miércoles, fue presentada por Jane Doe, una ex víctima de abuso sexual. Doe, que tenía la edad preescolar a principios de la década de 2000, afirma que sus imágenes se utilizaron para crear CSAM para pedófilos. Sus imágenes fueron posteriormente hasheadas por organizaciones como el National Center for Missing and Exploited Children (NCMEC) y el Canadian Centre for Child Protection (CCCP). Doe recibió alertas del Departamento de Justicia de EE. UU. a través del Sistema de Notificación de Víctimas, pero quedó sorprendida cuando el CCCP le informó que CSAM generado por IA que la representaba había sido encontrado en xAI. La demanda afirma que se encontraron mensajes en foros en línea donde los infractores discutían la creación de CSAM generado por IA de Doe y otras víctimas. El caso añade a la escrutinio regulatorio y legal en curso sobre la magnitud del problema.