Seis indivíduos condenados por usar IA para gerar conteúdo explícito

Um tribunal em Yuyao, província de Zhejiang, condenou seis indivíduos, incluindo o ex-desenvolvedor de jogos Zheng, por utilizarem IA para gerar conteúdo explícito com fins lucrativos. O grupo, liderado por Zheng, modificou modelos de IA para contornar filtros de segurança, permitindo que os utilizadores gerassem imagens e vídeos explícitos. O modelo de IA, lançado em janeiro de 2025, gerou mais de 370.000 imagens estáticas e 6.000 imagens dinâmicas, com mais de 9.000 imagens estáticas e 5.000 imagens dinâmicas classificadas como explícitas. O tribunal enfatizou que, embora os modelos de IA tenham recursos de segurança integrados, as ações dos réus transformaram-nos em ferramentas para a criação de conteúdo ilegal. O juiz Zhu Zhanglin afirmou que os réus utilizaram a engenharia de prompts para contornar as proteções éticas e de segurança, tornando-os responsáveis pelo conteúdo gerado. O tribunal decidiu que os desenvolvedores, apesar das solicitações dos utilizadores, são legalmente considerados criadores de material explícito. O caso está em conformidade com as diretrizes recentes do Tribunal Supremo, que exige punições rigorosas por crimes relacionados com a IA, incluindo a produção e distribuição de conteúdo explícito.