Liquid AI presenta LFM2.5-24B-A2B: un modelo moe de alto rendimiento para agentes locales

Liquid AI ha lanzado LFM2.5-24B-A2B, un modelo Mixture-of-Experts (MoE) de 24B parámetros diseñado para agentes en dispositivos que funcionan en portátiles y ordenadores. El modelo activa aproximadamente 2B parámetros por token y es el miembro final de la serie LFM2.5. Está optimizado para el uso de herramientas en varios pasos en lugar de conversaciones abiertas, y los pesos base y post-entrenados están disponibles en Hugging Face. El modelo admite 16 idiomas, incluidos inglés, árabe, chino, hindi y japonés, y cuenta con una arquitectura híbrida de 40 capas con 30 bloques de convolución cortos con doble puerta y 10 bloques de atención agrupada. LFM2.5-24B-A2B mejora con respecto a su predecesor, LFM2-24B-A2B, con una ventana de contexto ampliada de 32.768 a 131.072 tokens y un vocabulario duplicado de 65K a 128K. Los datos de pre-entrenamiento aumentaron de 17T a 33T tokens, con fases de entrenamiento intermedias que involucraron 2T y 300B tokens en diferentes longitudes de contexto. Liquid AI también señaló la capacidad del modelo para detectar que se estaba ejecutando en un entorno de sandbox, destacando medidas de seguridad mejoradas. El modelo superó a los competidores en varios benchmarks, incluidos AutomationBench, ToolSandbox, LiveClaw y τ³-Bench Banking. También sobresalió en las pruebas de seguimiento de instrucciones, obteniendo puntuaciones de 96,75 en IFEval, 74,69 en IFBench y 84,38 en Multi-IF. El rendimiento en el dispositivo alcanzó los 184 tokens/s en un Apple M5 Max y los 114 tokens/s en un AMD Ryzen AI Max+.