OpenAI apresenta novas salvaguardas para combater a violência online e proteger menores

A OpenAI anunciou novas medidas para aprimorar a segurança da comunidade e proteger menores online, incluindo o lançamento de um Relatório de Salvaguardas da Comunidade e controles mais rigorosos sobre o conteúdo relacionado a armas de fogo para usuários menores de 18 anos. O relatório, que deve ser lançado no início de 2027, abrangerá o segundo semestre de 2026 e fornecerá informações sobre como os sistemas de IA detectam e respondem a comportamentos prejudiciais. A OpenAI também enfatizou seu compromisso de fazer mais de 200 encaminhamentos para as autoridades policiais no terceiro trimestre de 2026, o que ajudou a interromper planos violentos. A empresa está implementando restrições adicionais no ChatGPT para limitar informações detalhadas sobre ataques em massa passados, especialmente para usuários menores de 18 anos. Essas mudanças visam prevenir o uso indevido de informações que poderiam auxiliar no planejamento de violência. A OpenAI também está aprimorando seu sistema de previsão de idade para identificar e proteger melhor os menores, com controles parentais que permitem aos pais gerenciar as configurações de segurança para as contas de seus filhos. A OpenAI planeia encerrar automaticamente as conversas que demonstrem sinais de intenção violenta e pode suspender temporariamente as contas que discutam repetidamente violência. A empresa permanece comprometida em refinar suas salvaguardas e em colaborar com especialistas para abordar os desafios complexos da segurança online.