OpenAI introduce nuevas medidas de seguridad para combatir la violencia en línea y proteger a los menores

OpenAI ha anunciado nuevas medidas para mejorar la seguridad de la comunidad y proteger a los menores en línea, incluyendo el lanzamiento de un Informe de Medidas de Seguridad de la Comunidad y controles más estrictos sobre el contenido relacionado con armas para los usuarios menores de 18 años. El informe, que se estrenará a principios de 2027, cubrirá la segunda mitad de 2026 y proporcionará información sobre cómo los sistemas de IA detectan y responden al comportamiento perjudicial. OpenAI también ha destacado su compromiso de realizar más de 200 referencias a las fuerzas del orden en el tercer trimestre de 2026, lo que ha ayudado a frustrar planes violentos. La empresa está implementando restricciones adicionales en ChatGPT para limitar la información detallada sobre ataques masivos pasados, especialmente para los usuarios menores de 18 años. Estos cambios tienen como objetivo evitar el uso indebido de la información que podría facilitar la planificación de la violencia. OpenAI también está mejorando su sistema de predicción de edad para identificar y proteger mejor a los menores, con controles parentales que permiten a los padres gestionar la configuración de seguridad de las cuentas de sus hijos. OpenAI tiene previsto finalizar automáticamente las conversaciones que muestren signos de intención violenta y puede suspender temporalmente las cuentas que repitan la discusión sobre la violencia. La empresa sigue comprometida con la mejora de sus medidas de seguridad y con la colaboración con expertos para abordar los complejos desafíos de la seguridad en línea.