OpenAI implementará medidas de segurança proativas no ChatGPT, incluindo o encerramento de conversas e bloqueios

A OpenAI anunciou atualizações futuras para o ChatGPT que introduzem salvaguardas mais rigorosas contra conteúdo violento. Esses novos protocolos permitem que o modelo encerre uma conversa autonomamente se estiver repetidamente focado em violência ou danos graves a outras pessoas. Além disso, violações repetidas por uma mesma conta resultarão em um bloqueio completo. Esta melhoria vai além do simples ato de recusar responder a prompts perigosos; ela introduz um mecanismo de interrupção ativa. As regras atualizadas se aplicam universalmente, afetando todos os usuários. Para discussões sobre incidentes de ataque históricos, a plataforma agora limitará ou recusará fornecer detalhes sobre armas, equipamentos ou métodos de aquisição, além de restringir comparações lado a lado de números de vítimas. Embora os usuários adultos enfrentem essas limitações de conteúdo, contas identificadas como menores receberão uma camada adicional de proteção, com informações práticas sobre armas e sistemas de segurança sendo bloqueadas, mesmo que a consulta pareça inofensiva. A OpenAI implantará um sistema de previsão de idade aprimorado, utilizando vários sinais de comportamento do usuário para aplicar automaticamente essas proteções para adolescentes, permitindo que os usuários enviem verificação de identidade se forem classificados incorretamente.