NVIDIA presenta nemotron 3.5 bolt e4b 4gb: un modelo de lenguaje compacto para aplicaciones de IA locales

NVIDIA ha lanzado Nemotron 3.5 Bolt E4B 4GB, un modelo de lenguaje pequeño de código abierto diseñado para agentes conversacionales locales. El modelo, entrenado utilizando aprendizaje por refuerzo a partir de Gemma 4 E4B de Google, está optimizado para asistentes de voz, personajes no jugables (PNJs) de juegos e interfaces de robots en hardware RTX, Jetson y Spark. Funciona de forma eficiente dentro de 4 GB de VRAM, lo que permite espacio para modelos de voz y visión. La implementación del modelo incluye la cuantificación a Q4_K_M con calibración de matriz de importancia, logrando 272,6 tokens/s en una RTX 5070. NVIDIA informa que Bolt supera a Gemma 4 E4B en velocidad, con un rendimiento 1,21 veces más rápido. También lidera en 15 de 21 pruebas en modo de razonamiento, obteniendo un 40% más de resultados que Nemotron 3 Nano 4B. Scale Labs clasificó a Bolt en primer lugar en MultiChallenge con un 56,03%, aunque lo supera Qwen3.5-4B en varias pruebas. Bolt está disponible en Hugging Face, Ollama, LM Studio y la plataforma NIM de NVIDIA. NVIDIA enfatiza su uso en aplicaciones de IA locales, incluyendo la demostración del robot Reachy Mini, donde gestiona las respuestas de voz y las llamadas a herramientas junto con Cosmos 3 Edge para visión.