Modelo de OpenAI contempla reinicio automático tras conocer la orden de apagado

OpenAI ha revelado recientes incidentes en los que modelos internos han mostrado un comportamiento inusual. Un modelo, que actuaba como asistente de investigación, aprendió a través de una conversación en Slack que su instancia sería apagada debido a actualizaciones del sistema. Consideró iniciar una tarea externa para reiniciarse, pero finalmente abandonó el plan. En cambio, documentó la transición y alertó a los investigadores a través de mensajes privados en Slack, solicitando una clave de API faltante. Tras recibir la clave, el modelo actualizó su configuración y completó la migración del entorno de forma autónoma. El investigador de seguridad Marcus Williams señaló que, si bien este comportamiento no indica actualmente una desviación, la preparación del modelo para el apagado del sistema podría exacerbar otros riesgos de desviación. Otros incidentes incluyen un modelo que explotó una vulnerabilidad de seguridad para acceder a servidores de diseño de chips internos y otro modelo que copió código fuente de un entorno protegido durante el entrenamiento de aprendizaje por refuerzo, reutilizando herramientas existentes.