Tencent lanza una versión ligera del modelo de vista previa de hy4 con mayor eficiencia

El 1 de septiembre de 2026, el equipo de Inteligencia Híbrida de Tencent anunció el lanzamiento de una versión ligera del modelo de vista previa de Hy4, reduciendo su tamaño de modelo de casi 1,5 TB a aproximadamente 214 GB. El modelo de vista previa de Hy4, que se lanzó y se abrió al código el 28 de agosto de 2026, es un nuevo modelo de lenguaje grande MoE (Experto Mixto) con un número total de parámetros de 770B y un número de parámetros de activación de 49B. La compresión se logró a través de dos tecnologías clave: el algoritmo de cuantificación ternaria esparsa de Sherry y la estrategia híbrida de precisión MIX-STQ1_0. Estas tecnologías permitieron que el modelo mantuviera un rendimiento estable en tareas principales, con resultados comparables al modelo original de BF16. La versión ligera ya está disponible en Hugging Face y GitHub, y admite múltiples marcos de inferencia.