NVIDIA revela a tecnologia dsx maxlps para maior eficiência de dados em centros de IA

A NVIDIA apresentou o sistema de agendamento de energia DSX MaxLPS na conferência AI Infrastructure Summit, afirmando que pode aumentar o throughput de tokens por megawatt em até 40% nas fábricas de IA. A tecnologia, integrada à plataforma Conductor da Emerald AI, permite o gerenciamento dinâmico de carga com base nas condições da rede. A Lambda, provedora de nuvem de GPUs, relatou um aumento de 24% no throughput de tokens sob orçamentos de energia fixos, com uma melhoria de 23% no desempenho por watt. A NVIDIA também observou que os racks Vera Rubin e Groq 3 LPX poderiam ver um aumento de até 40% no número de GPUs e um aumento de 35% no throughput de tokens sem linhas de energia adicionais. Múltiplas empresas de IA testaram versões iniciais do Vera CPU, relatando ganhos de desempenho de até 1,9x, aumentos de throughput de 73% e melhorias no throughput de consultas de 3,3x. A Redpanda observou uma redução de 5,5x na latência e um throughput 73% maior, enquanto a Starburst e a Kinetica viram melhorias de desempenho de consulta de 3x e 2,7x, respectivamente.