Nvidia rediseña el chip rubin cpx para un rendimiento mejorado en la inferencia de IA

Según el analista郭明錤, NVIDIA ha retomado el proyecto Rubin CPX, centrándose en la aceleración de la pre-llenado de inferencia de IA. El nuevo diseño presenta cambios significativos, y se espera que la producción comience en el primer trimestre de 2027. El nuevo chip Rubin CPX ofrece un rendimiento computacional casi igual al del GPU Rubin estándar, con un rendimiento de pre-llenado mejorado y un consumo máximo de energía de 2300W. Está equipado con 168 GB de memoria HBM4, una mejora con respecto a los anteriores 128 GB de GDDR7. A nivel de la carcasa, ocho nuevos chips Rubin CPX forman una bandeja de cómputo, y ocho bandejas forman un módulo de carcasa. Estos módulos utilizan Ethernet de cobre completo Spectrum-6 para la expansión. El nuevo Rubin CPX utiliza una carcasa MGX ETL independiente, con cada carcasa que contiene de 1 a 4 módulos de carcasa. Los módulos de carcasa están conectados mediante soluciones ópticas Spectrum-6 y OSFP. NVIDIA recomienda emparejar Rubin CPX con chips Rubin estándar en una relación de 1:1, y conectar las carcas de Rubin CPX ETL con las carcas Vera Rubin NVL72 utilizando RDMA basado en Ethernet. 郭明錤 señaló que más del 50% de las cargas de trabajo actuales de inferencia de IA implican el procesamiento de la entrada y la construcción de la caché KV. El nuevo Rubin CPX puede manejar las cargas de pre-llenado con una implementación más flexible y menores costes. La bandeja de cómputo tiene 1,34 TB de memoria HBM, lo que es suficiente para la mayoría de los requisitos de pre-llenado y caché KV de contexto largo.