Seis individuos condenados por utilizar la IA para generar contenido explícito

Un tribunal en Yuyao, provincia de Zhejiang, ha condenado a seis individuos, entre ellos el ex desarrollador de juegos Zheng, por utilizar la IA para generar contenido explícito con fines de lucro. El grupo, liderado por Zheng, modificó los modelos de IA para eludir los filtros de seguridad, permitiendo a los usuarios generar imágenes y vídeos explícitos. El modelo de IA, lanzado en enero de 2025, generó más de 370.000 imágenes estáticas y 6.000 imágenes dinámicas, con más de 9.000 imágenes estáticas y 5.000 imágenes dinámicas clasificadas como explícitas. El tribunal enfatizó que, aunque los modelos de IA tienen funciones de seguridad integradas, las acciones de los acusados transformaron estos modelos en herramientas para la creación de contenido ilegal. El juez Zhu Zhanglin declaró que los acusados utilizaron la ingeniería de indicaciones para eludir las protecciones éticas y de seguridad, haciéndolos responsables del contenido generado. El tribunal dictaminó que los desarrolladores, a pesar de las solicitudes de los usuarios, son legalmente considerados creadores de material explícito. El caso se alinea con las directrices recientes del Tribunal Supremo, que establece una estricta sanción para los delitos relacionados con la IA, incluyendo la producción y distribución de contenido explícito.