Nvidia lança o nemotron 3.5 super vl, um modelo multimodal de 120 bilhões de parâmetros com maior desempenho e eficiência

A NVIDIA apresentou o Nemotron 3.5 Super VL, um modelo multimodal de grande porte com 120 bilhões de parâmetros, projetado para operação contínua e tarefas multi-etapas. O modelo, construído com uma arquitetura de especialista misto (MoE), atinge até cinco vezes maior desempenho em relação a outros modelos de código aberto em uma única GPU. Ele integra raciocínio, seguimento de instruções e chamadas de ferramentas com compreensão de texto, imagem, documento e vídeo, permitindo aplicações como testes de código, pesquisa entre sites e detecção de ameaças de segurança cibernética. Os desenvolvedores podem ajustar o modelo usando a ferramenta NeMo da NVIDIA. A NVIDIA destacou vários casos de uso empresariais, incluindo uma redução de 97,5% nos custos de inferência para o agente de processamento de crédito da Scale AI e uma redução de 90% na latência para o processamento de recibos da Ramp. O modelo também superou as versões anteriores em testes de referência, alcançando 80,8% no CharXiv e 84% na interpretação de código Python. Ele suporta decodificação especulativa, precisão mista e quantização NVFP4, com pesos e ativações de 4 bits na arquitetura Blackwell. A NVIDIA também introduziu dois modelos Bolt, com a versão 74B-A9B de 24GB agora disponível e o modelo E4B de 4GB programado para lançamento em 23 de outubro. Ambos estão disponíveis através do Hugging Face e outras plataformas, com opções de implantação que variam de sistemas DGX a ambientes na nuvem.