Meta Lanza Muse Glimmer, Modelo de Pesos Abiertos de 30 Mil Millones de Parámetros

Meta lanzó Muse Glimmer, un modelo de lenguaje de pesos abiertos con 30 mil millones de parámetros que se ejecuta en computadoras personales. A través de cuantización de 4 bits que comprimió cada peso, Meta redujo la huella de memoria a menos de 20 gigabytes, permitiendo la ejecución en Macs con una única tarjeta gráfica de consumidor. El modelo utiliza decodificación especulativa, donde un modelo "redactor" menos avanzado genera una respuesta inicial que luego se verifica y se refina. Meta entrenó Muse Glimmer en datos de la serie propietaria Muse Spark, seguido de dos pases de entrenamiento adicionales para mejorar capacidades de prompts largos y desempeño de tareas de agentes. El modelo incluye configuraciones ajustables de "fuerza de razonamiento".