Nvidia renova o chip rubin cpx para um desempenho aprimorado de inferência de IA

De acordo com o analista郭明錤, a NVIDIA retomou o projeto Rubin CPX, concentrando-se na aceleração da inferência de IA. O novo design apresenta mudanças significativas, com a produção prevista para começar no primeiro trimestre de 2027. O novo chip Rubin CPX oferece um poder computacional quase idêntico ao do GPU Rubin padrão, com melhor desempenho de preenchimento e um consumo máximo de energia de 2300W. Está equipado com 168 GB de memória HBM4, uma atualização em relação aos 128 GB de GDDR7 anteriores. No nível do rack, oito novos chips Rubin CPX formam uma bandeja de computação, com oito bandejas formando um módulo de rack. Estes módulos utilizam Ethernet de cobre completo Spectrum-6 para expansão. O novo Rubin CPX utiliza uma bandeja MGX ETL independente, com cada bandeja contendo de 1 a 4 módulos de rack. Os módulos de rack são conectados através de soluções ópticas Spectrum-6 e OSFP. A NVIDIA recomenda emparelhar Rubin CPX com chips Rubin padrão numa proporção de 1:1, e conectar as bandejas ETL de Rubin CPX com bandejas Vera Rubin NVL72 utilizando RDMA baseado em Ethernet. 郭明錤 observou que mais de 50% das cargas de trabalho atuais de inferência de IA envolvem o processamento de entrada e a construção de KV Cache. O novo Rubin CPX pode lidar com cargas de preenchimento com uma implementação mais flexível e custos mais baixos. A bandeja de computação tem 1,34 TB de memória HBM, suficiente para a maioria dos requisitos de preenchimento de longo contexto e KV Cache.