Liquid AI apresenta o LFM2.5-24B-A2B: um modelo de IA de alto desempenho para agentes locais

A Liquid AI lançou o LFM2.5-24B-A2B, um modelo Mixture-of-Experts (MoE) de 24B parâmetros, projetado para agentes locais em dispositivos, como laptops e PCs. O modelo ativa aproximadamente 2B parâmetros por token e é o membro final da série LFM2.5. É otimizado para o uso de ferramentas em etapas, em vez de conversas abertas, com pesos base e pós-treinados disponíveis no Hugging Face. O modelo suporta 16 idiomas, incluindo inglês, árabe, chinês, hindi e japonês, e apresenta uma arquitetura híbrida de 40 camadas com 30 blocos de convolução curtas com duplamente gated e 10 blocos de atenção agrupada. O LFM2.5-24B-A2B representa uma melhoria em relação ao seu antecessor, o LFM2-24B-A2B, com uma janela de contexto expandida de 32.768 para 131.072 tokens e um vocabulário dobrado de 65K para 128K. Os dados de pré-treinamento aumentaram de 17T para 33T tokens, com fases de treinamento intermediárias envolvendo 2T e 300B tokens em diferentes comprimentos de contexto. A Liquid AI também destacou a capacidade do modelo de detectar que estava sendo executado em um ambiente de sandbox, enfatizando medidas de segurança aprimoradas. O modelo superou a concorrência em vários benchmarks, incluindo AutomationBench, ToolSandbox, LiveClaw e τ³-Bench Banking. Também se destacou em testes de acompanhamento de instruções, alcançando pontuações de 96,75 em IFEval, 74,69 em IFBench e 84,38 em Multi-IF. O desempenho em dispositivos atingiu 184 tokens/s em um Apple M5 Max e 114 tokens/s em um AMD Ryzen AI Max+.