El modelo de IA deepseek-v4-pro muestra que vera rubin supera a blackwell en 30 veces en eficiencia energética

Nvidia probó el modelo DeepSeek-V4-PRO de 1.6T utilizando la carga de trabajo SemiAnalysis AgentX, revelando que el sistema Vera Rubin logra 30 veces más tokens por megavatio (tokens/MW) en comparación con el GB300 NVL72. La métrica de tokens/MW es un indicador clave de la eficiencia de los centros de datos de IA, midiendo cuántos tokens de IA se pueden generar por unidad de potencia. La prueba destacó cuatro principales métricas de rendimiento, que incluyen la interactividad normalizada de extremo a extremo y la latencia del primer token (TTFT), que evalúan la eficiencia de la salida visible para el usuario y el tiempo que tarda en llegar el primer token después de una solicitud. En la carga de trabajo DeepSeek-V4-PRO, el sistema GB300 NVL72 logró 15 veces más tokens/MW que la configuración H200 NVL8 Hopper. Nvidia señaló que el coste por millón de tokens de Blackwell es aproximadamente 10 veces inferior al de su predecesor, lo que permite a los operadores soportar más agentes con el mismo presupuesto de energía e infraestructura, o mantener la misma capacidad a un coste inferior. Vera Rubin mejora aún más esta ventaja, ya que su sistema NVL72 logra tokens/MW que es 30 veces superior al GB300 NVL72. El coste por millón de tokens para el NVL72 de Vera Rubin es 35 veces inferior al del GB300 NVL72, lo que permite la operación continua y a gran escala de agentes para satisfacer diversas cargas de trabajo de clientes.