NVIDIA Lança Nemotron 3 Super com Design Otimizado para Throughput

A NVIDIA lançou o Nemotron 3 Super 120B-A12B, um modelo de linguagem com 120,6 bilhões de parâmetros totais e 12,7 bilhões de parâmetros ativos por passe forward, projetado especificamente para inferência de alto throughput. O modelo usa uma arquitetura híbrida combinando camadas recorrentes Mamba-2 para reduzir atenção completa, Latent MoE para roteamento esparso de especialistas, e predição multi-token para permitir decodificação especulativa, com apenas oito camadas de atenção global tratando dependências entre sequências.