OpenAI amplía las medidas de seguridad de ChatGPT, dirigidas a la violencia histórica y a usuarios menores

OpenAI está implementando importantes actualizaciones en las restricciones de contenido de ChatGPT, ampliando más allá del anuncio principal de la terminación proactiva de conversaciones para discusiones de alto riesgo. Las mejoras introducen limitaciones más estrictas en el contenido histórico, específicamente reduciendo o negando por completo las respuestas a consultas sobre ataques masivos pasados y sus perpetradores. Además, el alcance de las restricciones se amplía para incluir la limitación de detalles sobre armas, equipos y métodos para adquirirlos relacionados con la recreación de ataques, y también restringe las comparaciones detalladas destinadas a amplificar la notoriedad del atacante. Estas nuevas restricciones se aplican universalmente a todos los grupos demográficos de usuarios. Para los usuarios menores de 18 años, se intensifican las protecciones, restringiendo automáticamente la información práctica sobre armas y sistemas de seguridad, incluso sin intención violenta explícita. Para gestionar esto, OpenAI ha integrado un mecanismo de predicción de edad mejorado que evalúa dinámicamente el comportamiento del usuario, lo que permite la verificación de identidad si un menor es clasificado erróneamente.