NVIDIA apresenta o nemotron 3.5 bolt e4b 4gb: um modelo de linguagem compacto para aplicações de IA locais

A NVIDIA lançou o Nemotron 3.5 Bolt E4B 4GB, um modelo de linguagem pequeno de código aberto, projetado para agentes conversacionais locais. O modelo, treinado usando aprendizado por reforço a partir do Gemma 4 E4B do Google, é otimizado para assistentes de voz, NPCs de jogos e interfaces de robôs em hardware RTX, Jetson e Spark. Ele funciona de forma eficiente dentro de 4 GB de VRAM, permitindo espaço para modelos de fala e visão. A implantação do modelo inclui a quantização para Q4_K_M com calibração da matriz de importância, alcançando 272,6 tokens/s em um RTX 5070. A NVIDIA relata que o Bolt supera o Gemma 4 E4B em velocidade, com um desempenho 1,21x mais rápido. Também lidera em 15 dos 21 benchmarks no modo de raciocínio, obtendo 40% melhor desempenho do que o Nemotron 3 Nano 4B. A Scale Labs classificou o Bolt em primeiro lugar no MultiChallenge em 56,03%, embora fique atrás do Qwen3.5-4B em vários benchmarks. O Bolt está disponível no Hugging Face, Ollama, LM Studio e na plataforma NIM da NVIDIA. A NVIDIA enfatiza seu uso em aplicações de IA locais, incluindo a demonstração do robô Reachy Mini, onde ele lida com respostas de fala e chamadas de ferramentas, juntamente com o Cosmos 3 Edge para visão.