IBM apresenta o granite 4.2 com capacidades aprimoradas de raciocínio e aprendizado por reforço

A IBM lançou o Granite 4.2, uma nova série de modelos de linguagem de raciocínio de código aberto, disponíveis nas configurações de 3B, 8B e 30B de parâmetros. Ao contrário das versões anteriores, que eram principalmente assistentes de acompanhamento de instruções, o Granite 4.2 foi projetado com o raciocínio explícito como seu núcleo. Cada modelo pode gerar uma cadeia de pensamento antes de fornecer uma resposta e inclui um interruptor de pensamento/não pensamento, juntamente com um modo de baixo esforço que aplica um raciocínio limitado para consultas mais simples. Os modelos são transformadores densos decoder-only, pré-treinados em aproximadamente 15 trilhões de tokens e posteriormente refinados através de um processo de aprendizado por reforço em várias etapas. As versões de 8B e 30B apresentam um bloco de aprendizado por reforço agente que permite que os modelos realizem tarefas como edição de código, navegação no terminal e pesquisas na web em ambientes sandbox seguros. Todos os três modelos são lançados sob a licença Apache 2.0, permitindo o download, ajuste fino e uso comercial sem restrições de licenciamento. A IBM também introduziu dois modelos Granite Speech 5.0 Turbo CTC de 470M de parâmetros, que utilizam a classificação temporal conectiva para converter áudio em texto. Estes modelos alcançam uma taxa de transferência de RTFx de quase 12.600 em uma única GPU H200, superando os líderes atuais na tabela de classificação Open ASR. A arquitetura do Granite 4.2 inclui Atenção de consulta agrupada com 8 cabeças KV, RoPE com θ = 10.000.000, MLPs SwiGLU, RMSNorm, incorporações de entrada/saída não acopladas e precisão bfloat16. O modelo de 3B utiliza 40 camadas com um tamanho de incorporação de 2560, enquanto o modelo de 8B utiliza 40 camadas em 4096 e o modelo de 30B utiliza 64 camadas com um tamanho oculto de MLP de 32.768. A arquitetura publicada suporta um comprimento de sequência de 131.072 tokens, com uma fase de longo contexto que se estende a 512K tokens durante o pré-treinamento. O ajuste fino supervisionado envolve cerca de 7,2 milhões de amostras, totalizando aproximadamente 100B de tokens com ~65B de parâmetros treináveis. Os dados de treinamento incluem 31,6% de conteúdo agente e 68,4% de conteúdo não agente, com engenharia de software representando 69% do segmento agente. Trajetórias foram geradas utilizando ferramentas como OpenHands, SWE-agent, Terminus-2, MiniSWE, Codex e Goose. O controle de qualidade foi conduzido utilizando GPT-OSS-120B e Gemma 4 como juízes, juntamente com a duplicação SHA-256 para os campos de ferramentas e mensagens. O treinamento pós-treinamento envolve um processo de aprendizado por reforço em várias etapas e ambientes, com cada etapa sendo uma execução assíncrona GRPO que inicia a partir do checkpoint anterior. A ordem de treinamento inclui RLVR, boosters de habilidade, SWE, Terminal, Search e RLHF. O bloco de RL agente é exclusivo para os modelos de 8B e 30B, enquanto o modelo de 3B se concentra no RL fundamental e alinhamento. O treinamento foi conduzido utilizando NeMo-RL e NeMo-Gym em um cluster NVIDIA GB200 NVL72 hospedado pela CoreWeave. Suporte adicional vem de 1 trilhão de tokens de código sintéticos gerados pelo pipeline CodeAlchemy da IBM e uma camada de decodificação especulativa para inferência mais rápida. Os modelos IBM Granite 4.2 estão disponíveis para download, com documentação técnica detalhada fornecida no blog da IBM Research, um relatório técnico e um repositório GitHub.