Nvidia lanza nemotron 3.5 super vl, un modelo multimodal de 120 mil millones de parámetros con mayor rendimiento y eficiencia

NVIDIA ha presentado Nemotron 3.5 Super VL, un modelo multimodal grande con 120 mil millones de parámetros, diseñado para la operación continua y tareas de varios pasos. El modelo, construido sobre una arquitectura de experto mixto (MoE), logra hasta cinco veces más rendimiento que otros modelos de código abierto en una sola GPU. Integra la capacidad de razonamiento, el seguimiento de instrucciones y la llamada a herramientas con la comprensión de texto, imágenes, documentos y vídeo, lo que permite aplicaciones como las pruebas de código, la búsqueda transfronteriza y la detección de amenazas de ciberseguridad. Los desarrolladores pueden ajustar el modelo utilizando el conjunto de herramientas NeMo de NVIDIA. NVIDIA ha destacado varios casos de uso empresarial, incluyendo una reducción del 97,5 % en los costes de inferencia para el agente de procesamiento de crédito de Scale AI y una caída del 90 % en la latencia para el procesamiento de recibos de Ramp. El modelo también superó a las versiones anteriores en las pruebas de referencia, obteniendo un 80,8 % en CharXiv y un 84 % con la interpretación de código de Python. Admite la decodificación especulativa, la precisión mixta y la cuantificación NVFP4, con pesos y activaciones de 4 bits en la arquitectura Blackwell. NVIDIA también ha introducido dos modelos Bolt, con la versión 74B-A9B de 24 GB ahora disponible y el modelo E4B de 4 GB está previsto que se lance el 23 de octubre. Ambos están disponibles a través de Hugging Face y otras plataformas, con opciones de implementación que van desde los sistemas DGX hasta entornos en la nube.