MiniMax h3 da un salto hacia la generación de vídeo en tiempo real con vllm-omni y fasth3

MiniMax ha presentado vLLM-Omni y FastH3, dos tecnologías innovadoras que permiten a su modelo de vídeo H3 ofrecer servicios en tiempo real. La arquitectura vLLM-Omni reduce significativamente la latencia a través de optimizaciones a nivel de sistema, incluyendo la atención de secuencias largas, operadores DiT fusionados y la decodificación VAE en paralelo. Con una configuración de 8 tarjetas B300, esta solución reduce la latencia de respuesta en un 30,8% en comparación con Diffusers. Mientras tanto, FastH3 reduce los cálculos DiT hacia adelante de 49 a 4, logrando un rendimiento en tiempo real para generar vídeos MP4 de 10,125 segundos en 8,678 a 8,710 segundos. El sistema también cumple con los estándares de tiempo real para vídeos de 5, 10 y 15 segundos. La arquitectura de servicio H3 de MiniMax también mejora la escalabilidad con la descarga distribuida, la separación del codificador y la aceleración de la atención. Estos avances representan un paso significativo hacia la comercialización de la generación de vídeo de IA de alta calidad. Los equipos técnicos han proporcionado orientación para el despliegue en producción y han delineado las futuras direcciones, enfatizando el rápido progreso en la generación de vídeo de IA. La variante VSA de FastH3 aprovecha aún más el potencial del hardware, ofreciendo mejoras adicionales en la velocidad. Estas innovaciones posicionan a MiniMax a la vanguardia de la generación de vídeo en tiempo real, abordando los desafíos de latencia a largo plazo en la industria.