OpenAI amplia as medidas de segurança do ChatGPT, visando violência histórica e usuários menores

A OpenAI está implementando atualizações significativas nas restrições de conteúdo do ChatGPT, indo além do anúncio principal de interrupção proativa de conversas para discussões de alto risco. As melhorias introduzem restrições mais rigorosas ao conteúdo histórico, especificamente reduzindo ou negando respostas a perguntas sobre ataques em massa passados e seus perpetradores. Além disso, o escopo das restrições é expandido para incluir a limitação de detalhes sobre armas, equipamentos e métodos para obtê-los relacionados à recriação de ataques, bem como a restrição de comparações detalhadas destinadas a amplificar a notoriedade de um atacante. Essas novas restrições se aplicam universalmente a todos os grupos demográficos de usuários. Para usuários com menos de 18 anos, as proteções são intensificadas, restringindo automaticamente informações práticas sobre armas e sistemas de segurança, mesmo sem intenção violenta explícita. Para gerenciar isso, a OpenAI integrou um mecanismo de previsão de idade aprimorado que avalia dinamicamente o comportamento do usuário, permitindo a verificação de identidade se um menor for classificado incorretamente.