Micron explora la memoria flash nand cerca de la GPU para una mayor escalabilidad de los modelos de IA

El 2 de septiembre de 2026, DigiTimes informó que Micron está investigando módulos de memoria flash NAND de alto rendimiento diseñados para colocarse más cerca de las GPU, en lugar de en pools de almacenamiento distantes. Este nuevo enfoque, denominado 'NAND cerca de la GPU', tiene como objetivo equilibrar la densidad y la durabilidad del almacenamiento, ofreciendo una solución para cargas de trabajo que no requieren baja latencia/alta capacidad de ancho de banda. La tecnología podría permitir que las GPU accedan directamente a cientos de gigabytes de almacenamiento NAND, ya sea dentro del paquete de la GPU o en la PCB, similar a HBM o GDDR7. En comparación con la NAND TLC o QLC tradicional, esta variante prioriza la velocidad y el ancho de banda de la E/S sobre la densidad de almacenamiento. La capa de almacenamiento se sitúa entre la memoria de la GPU y el almacenamiento estándar, actuando como un búfer de alta velocidad, lo que la hace ideal para modelos de lenguaje de IA a gran escala. Una vez implementada, la inferencia de los LLM ya no estaría limitada por los límites de la memoria de la GPU.