Huawei Completa la Adaptación de Hardware para el Nuevo Modelo de IA Abierto de Xiaohongshu en el Día del Lanzamiento

La plataforma china Xiaohongshu lanzó un nuevo modelo de lenguaje abierto llamado dots3-note preview el 14 de agosto. Huawei anunció que sus procesadores Ascend Atlas 800 A3 y Atlas 900 A3 SuperPoD completaron la adaptación integral para ejecutar el modelo en el mismo día del anuncio. El dots3-note preview es la primera versión de la serie dots3, desarrollado con 280 mil millones de parámetros totales, de los cuales 16 mil millones se activan durante la operación. La solución integra comprensión multimodal de texto, visión y audio, optimizada para tareas de razonamiento, agentes autónomos y percepción multimodal. Para potenciar el rendimiento, Huawei implementó optimizaciones técnicas a través del framework vLLM Ascend. El módulo FlashComm reduce la latencia al eliminar cálculos redundantes entre procesadores durante sincronizaciones. La tecnología FUSED_MC2 consolida múltiples operaciones de kernel en una única, elevando el throughput de inferencia. También se incorporó decodificación especulativa con generación paralela de múltiples tokens para reducir el tiempo de respuesta en escenarios de alta concurrencia. Se espera que la plataforma mantenga un rendimiento estable preservando todas las capacidades multimodales originales del modelo.