Jovem condenado por usar IA para falsificar vídeos e fraudar contas bancárias

Um estudante universitário na China foi condenado a um ano e dez meses de prisão por utilizar tecnologia de inteligência artificial para criar vídeos deepfake de rostos humanos e fraudar contas bancárias. O jovem adquiriu a tecnologia em sites ilegais e a oferecia a grupos criminosos que operavam em plataformas clandestinas de mensagens. A operação criminosa funcionava de forma coordenada: golpistas se passavam por atendentes de plataformas de vídeo ou streamers de jogos para enganar vítimas e fazer com que instalassem malware nos dispositivos. Esse software capturava dados pessoais como nomes, números de identidade, telefones e fotos. O estudante recebia essas informações e utilizava a tecnologia de IA para converter as fotos em vídeos dinâmicos de rostos. A quadrilha então resetava as senhas das vítimas e transferia fundos usando os vídeos fraudulentos para passar na verificação de reconhecimento facial dos bancos. O grupo criminoso era altamente organizado, com diferentes funções: os golpistas iniciais, o criador dos deepfakes e um esquadrão de lavagem de dinheiro que recebia os fundos roubados. Para garantir lealdade, membros que entravam no grupo precisavam depositar uma caução em criptomoedas. Em menos de quatro meses, a operação fraudou contas de três vítimas, roubando mais de 50 mil yuan. O tribunal considerou que o estudante confessou os crimes e demonstrou arrependimento, além de ter indenizado as vítimas, fatores que influenciaram a sentença final.