JetBrains lança Mellum2.1: um modelo de 12b parâmetros para agentes de programação

A JetBrains lançou o Mellum2.1, um modelo de mistura de especialistas com 12B parâmetros, projetado para agentes e sub-agentes de programação. O modelo, disponível sob a licença Apache 2.0 no Hugging Face, mantém a mesma arquitetura que seu antecessor, o Mellum2, mas incorpora melhorias significativas através do aprendizado por reforço (RL) em ambientes de software reais. O Mellum2.1, com um ponto de verificação chamado Mellum2.1-12B-A2.5B-Thinking, é um modelo de raciocínio que gera sua cadeia de pensamento antes de fornecer respostas. Possui 28 camadas, 64 especialistas e um roteador que ativa 8 especialistas por token. O modelo suporta um comprimento de contexto de 131.776 tokens e utiliza a atenção agrupada com 32 cabeças de consulta e 4 cabeças KV. Mellum2.1 supera modelos anteriores em vários benchmarks, incluindo LiveCodeBench v6 (82,0), HumanEval+ (91,5) e BFCL v4 (62,3). As métricas de segurança também melhoraram, com as pontuações do HarmBench caindo de 21,5 para 8,5. A JetBrains afirma que o modelo é mais rápido que o Qwen3.5-9B, processando quase o dobro de tokens em um H200 sob carga pesada. O lançamento inclui documentação técnica, pesos do modelo e instruções de implantação, com suporte para vLLM e chamadas de ferramentas.