NVIDIA presenta la tecnología dsx maxlps para una mayor eficiencia en los centros de datos de IA

NVIDIA presentó su sistema de programación de energía DSX MaxLPS en el AI Infrastructure Summit, afirmando que puede aumentar el rendimiento de los tokens por megavatio hasta en un 40% en las fábricas de IA. La tecnología, integrada en la plataforma Conductor de Emerald AI, permite la gestión dinámica de la carga en función de las condiciones de la red. Lambda, un proveedor de GPU en la nube, informó de un aumento del 24% en el rendimiento de los tokens bajo presupuestos de energía fijos, con una mejora del 23% en el rendimiento por vatio. NVIDIA también señaló que las torres Vera Rubin y Groq 3 LPX podrían experimentar un aumento de hasta el 40% en el número de GPU y un aumento del 35% en el rendimiento de los tokens sin necesidad de líneas adicionales de energía. Varias empresas de IA probaron versiones tempranas de Vera CPU, informando de ganancias de rendimiento de hasta 1,9x, aumentos de rendimiento del 73% y mejoras en el rendimiento de las consultas de 3,3x. Redpanda observó una reducción de la latencia de 5,5x y un rendimiento 73% superior, mientras que Starburst y Kinetica vieron mejoras en el rendimiento de las consultas de 3x y 2,7x respectivamente.