MiniMax h3 alcança geração de vídeo em tempo real com vllm-omni e fasth3

A MiniMax apresentou vLLM-Omni e FastH3, duas tecnologias inovadoras que permitem que o modelo de vídeo grande H3 da empresa ofereça serviços em tempo real. A arquitetura vLLM-Omni reduz significativamente a latência através de otimizações em nível de sistema, incluindo atenção de longa sequência, operadores DiT fundidos e decodificação VAE paralela. Com uma configuração de 8 placas B300, esta solução reduz a latência de resposta em 30,8% em comparação com Diffusers. Enquanto isso, o FastH3 reduz os cálculos DiT forward de 49 para 4, alcançando desempenho em tempo real na geração de vídeos MP4 de 10,125 segundos em 8,678 a 8,710 segundos. O sistema também atende aos benchmarks de tempo real para vídeos de 5, 10 e 15 segundos. A arquitetura de serviço H3 da MiniMax também melhora a escalabilidade com descarregamento distribuído, separação de codificadores e aceleração de atenção. Estas melhorias representam um passo significativo em direção à comercialização da geração de vídeo de IA de alta qualidade. As equipas técnicas forneceram orientação de implantação de produção e delinearam as direções futuras, enfatizando o rápido progresso na geração de vídeo de IA. A variante VSA do FastH3 explora ainda mais o potencial de hardware, oferecendo melhorias adicionais de velocidade. Estas inovações posicionam a MiniMax na vanguarda da geração de vídeo em tempo real, abordando os desafios de latência de longa data na indústria.