OpenAI implementará medidas de seguridad proactivas en ChatGPT, incluyendo la finalización de conversaciones y prohibiciones

OpenAI ha anunciado próximas actualizaciones para ChatGPT que introducen medidas de seguridad más estrictas contra el contenido violento. Estos nuevos protocolos permiten que el modelo finalice una conversación de forma autónoma si se centra repetidamente en la violencia o en daños graves a otros. Además, las reiteradas infracciones por parte de la misma cuenta resultarán en una prohibición total. Esta mejora va más allá de simplemente negarse a responder a las consultas peligrosas; introduce un mecanismo de interrupción activa. Las nuevas reglas se aplican universalmente, afectando a todos los usuarios. En lo que respecta a las discusiones sobre incidentes de ataque históricos, la plataforma ahora limitará o se negará a proporcionar detalles sobre armas, equipos o métodos de adquisición, así como restringirá las comparaciones lado a lado de las cifras de víctimas. Si bien los usuarios adultos se enfrentan a estas limitaciones de contenido, las cuentas identificadas como menores recibirán una capa adicional de protección, bloqueando información práctica sobre armas y sistemas de seguridad, incluso si la consulta parece inofensiva. OpenAI desplegará un sistema de predicción de edad mejorado, utilizando diversas señales de comportamiento del usuario para aplicar automáticamente estas protecciones para adolescentes, lo que permitirá a los usuarios enviar verificación de identidad si se clasifican erróneamente.