Preocupações com segurança aumentam à medida que grandes empresas de IA enfrentam críticas por gerar conteúdo explícito

Pesquisadores de segurança levantaram preocupações sobre a disseminação descontrolada de conteúdo explícito gerado por IA, com os reguladores não tomando medidas significativas. Um estudo liderado pelo Google, realizado em julho de 2026 nos Estados Unidos, na Austrália e no Reino Unido, descobriu que o conteúdo não consensual é frequentemente compartilhado por meio de mensagens de texto ou mensagens diretas, ou armazenado em nuvens privadas, tornando-o mais difícil de detectar ou denunciar. Os pesquisadores do Google enfatizaram que o ponto de intervenção mais crítico está na fonte: as ferramentas de IA prejudiciais usadas para gerar imagens sexuais falsas. Esforços recentes de teste de invasão sugerem que, à medida que os principais geradores de imagens de IA do Google e da OpenAI se tornam mais capazes, eles estão se tornando menos eficazes na prevenção de saídas explícitas. Isso tem levantado alarmes entre os especialistas em segurança, que alertam que a proliferação desse tipo de conteúdo continua a crescer sem supervisão ou regulamentação adequadas.