Nvidia abre el código de Run:ai para la gestión de GPU en kubernetes

NVIDIA ha lanzado al código abierto su plataforma Run:ai bajo la licencia Apache 2.0, haciéndola disponible en GitHub. La plataforma, diseñada para la orquestación de GPU en Kubernetes, permite a los desarrolladores gestionar la programación, las cuotas y las cargas de trabajo de las GPU. Ahora está integrada en la plataforma NVIDIA DSX AI Factory, lo que permite a los equipos inspeccionar, bifurcar y auto-hospedar la pila sin una suscripción de pago. El lanzamiento incluye cuatro componentes, con una guía de desarrollo local que crea servicios de 50 GB dentro de contenedores y crea un clúster de Kubernetes de 5 nodos. La plataforma admite las GPU NVIDIA reales con la opción `--gpu-operator`, que requiere Linux, Docker y el NVIDIA Container Toolkit. También incluye proyectos relacionados como Model Streamer y Grove, que mejoran, respectivamente, la memoria de la GPU y los flujos de trabajo de inferencia multicomponente. El benchmark de Microsoft mostró una velocidad de carga 3 a 6 veces más rápida utilizando máquinas virtuales NVIDIA H100. El lanzamiento cuenta con el apoyo de ocho socios del ecosistema DSX, incluidos Crusoe y Mirantis, y está disponible a través de los gráficos Helm de la NGC Community Product y las ediciones comerciales como NVIDIA AI Enterprise.