Nuevo sistema centralizado implementado para supervisar y detener cargas de trabajo de modelos de IA riesgosas

Se ha desplegado un nuevo componente de infraestructura, Control Room, para supervisar y gestionar de forma centralizada las cargas de trabajo de modelos en todo el entorno de investigación, abordando las crecientes preocupaciones de seguridad y protección asociadas con modelos cada vez más potentes. Este sistema se integra con herramientas de supervisión de desalineación y es capaz de detener la salida del modelo en 35 segundos tras una decisión de intervención. Control Room funciona exigiendo que cada carga de trabajo de inferencia esté vinculada a un caso de seguridad aprobado. El sistema exige que los motores de inferencia consulten a Control Room antes de cumplir cualquier solicitud, garantizando que si una tarea se detiene, la generación de tokens subsiguiente se deniega. Esta arquitectura está diseñada para ser resistente, funcionando incluso si otros sistemas fallan. Crucialmente, la implementación está diseñada para ser robusta frente a errores en el código de carga de trabajo de propiedad de los investigadores, integrando el mecanismo de terminación dentro de la capa de inferencia más centralizada. Además, el sistema funciona de forma de "fail-safe"; si Control Room se vuelve inaccesible, todas las solicitudes de inferencia se deniegan automáticamente. Esta función de seguridad ya está activa para todas las cargas de trabajo de investigación de modelos de vanguardia y se está implementando en el resto de la infraestructura de investigación en los próximos días.