JetBrains lanza Mellum2.1: un modelo de 12b de expertos para agentes de codificación

JetBrains ha lanzado Mellum2.1, un modelo de mezcla de expertos de 12B diseñado para agentes y sub-agentes de codificación. El modelo, disponible bajo Apache 2.0 en Hugging Face, mantiene la misma arquitectura que su predecesor, Mellum2, pero incorpora mejoras significativas a través del aprendizaje por refuerzo (RL) en entornos de software reales. Mellum2.1, con un punto de control llamado Mellum2.1-12B-A2.5B-Thinking, es un modelo de razonamiento que genera su cadena de pensamiento antes de proporcionar respuestas. Cuenta con 28 capas, 64 expertos y un enrutador que activa 8 expertos por token. El modelo admite una longitud de contexto de 131.772 tokens y utiliza la atención agrupada con 32 cabezas de consulta y 4 cabezas KV. Mellum2.1 supera a los modelos anteriores en varios benchmarks, incluidos LiveCodeBench v6 (82,0), HumanEval+ (91,5) y BFCL v4 (62,3). También se han mejorado las métricas de seguridad, con las puntuaciones de HarmBench que han disminuido de 21,5 a 8,5. JetBrains afirma que el modelo es más rápido que Qwen3.5-9B, y puede manejar casi el doble de tokens en un H200 bajo una carga pesada. El lanzamiento incluye documentación técnica, pesos del modelo e instrucciones de implementación, con soporte para vLLM y llamadas a herramientas.