Meta Lança Muse Glimmer, Modelo Open-Weights de 30 Biliões de Parâmetros

Meta lançou Muse Glimmer, um modelo de linguagem de pesos abertos com 30 biliões de parâmetros que pode ser executado em computadores pessoais. Através de quantização de 4-bit que comprimiu cada peso, Meta reduziu a pegada de memória para menos de 20 gigabytes, permitindo execução em Macs com uma única placa gráfica. O modelo utiliza decodificação especulativa, onde um modelo "drafter" gera uma resposta inicial que é então verificada e refinada. Meta treinou Muse Glimmer em dados da série Muse Spark proprietária, seguido de dois passes de treinamento adicionais para melhorar capacidades de prompts longos e tarefas de agentes. O modelo inclui configurações de "força de raciocínio" ajustáveis.