IBM presenta granite 4.2 con capacidades mejoradas de razonamiento y aprendizaje por refuerzo

IBM ha lanzado Granite 4.2, una nueva serie de modelos de lenguaje de razonamiento de código abierto disponibles en configuraciones de 3B, 8B y 30B de parámetros. A diferencia de las versiones anteriores, que eran principalmente asistentes que seguían instrucciones, Granite 4.2 está diseñado con el razonamiento explícito como núcleo. Cada modelo puede generar una cadena de pensamiento antes de proporcionar una respuesta e incluye un interruptor de 'pensar/no pensar' junto con un modo de bajo esfuerzo que aplica un razonamiento limitado a consultas más simples. Los modelos son transformadores densos de solo decodificador, pre-entrenados con aproximadamente 15 billones de tokens y posteriormente refinados a través de un proceso de aprendizaje por refuerzo de múltiples etapas. Las versiones de 8B y 30B cuentan con un bloque de aprendizaje por refuerzo de agente que permite que los modelos realicen tareas como la edición de código, la navegación en el terminal y las búsquedas en la web en entornos seguros y aislados. Todos los tres modelos se publican bajo la licencia Apache 2.0, lo que permite la descarga, el ajuste fino y el uso comercial sin restricciones de licencia. IBM también ha introducido dos modelos de habla Granite Speech 5.0 Turbo CTC de 470 millones de parámetros, que utilizan la clasificación temporal conectista para convertir el audio en texto. Estos modelos logran un rendimiento de RTFx de casi 12.600 en una única GPU H200, superando a los líderes actuales en el Open ASR leaderboard. La arquitectura de Granite 4.2 incluye la Atención de consulta agrupada con 8 cabezales KV, RoPE con θ = 10.000.000, MLPs SwiGLU, RMSNorm, incrustaciones de entrada/salida sin atar y precisión de bfloat16. El modelo de 3B utiliza 40 capas con un tamaño de incrustación de 2560, mientras que el modelo de 8B emplea 40 capas a 4096 y el modelo de 30B utiliza 64 capas con un tamaño oculto de MLP de 32.768. La arquitectura publicada admite una longitud de secuencia de 131.072 tokens, con una fase de contexto largo que se extiende hasta 512.000 tokens durante el pre-entrenamiento. El ajuste fino supervisado implica aproximadamente 7,2 millones de muestras, lo que supone un total de aproximadamente 100B de tokens con ~65B de parámetros entrenables. Los datos de entrenamiento incluyen el 31,6% de contenido de agente y el 68,4% de contenido no de agente, con la ingeniería de software que representa el 69% del segmento de agente. Las trayectorias se generaron utilizando herramientas como OpenHands, SWE-agent, Terminus-2, MiniSWE, Codex y Goose. El control de calidad se llevó a cabo utilizando GPT-OSS-120B y Gemma 4 como jueces, junto con la deduplicación SHA-256 para los campos de herramientas y mensajes. El entrenamiento posterior implica un proceso de aprendizaje por refuerzo de múltiples etapas y entornos, donde cada etapa es una ejecución asíncrona de GRPO que se inicia desde el punto de control anterior. El orden de entrenamiento incluye RLVR, impulsores de habilidades, SWE, Terminal, Búsqueda y RLHF. El bloque de aprendizaje por refuerzo de agente es exclusivo de los modelos de 8B y 30B, mientras que el modelo de 3B se centra en el aprendizaje por refuerzo y el alineamiento fundamentales. El entrenamiento se llevó a cabo utilizando NeMo-RL y NeMo-Gym en un clúster NVIDIA GB200 NVL72 alojado por CoreWeave. Se proporciona un soporte adicional a través de 1 billón de tokens de código sintético generados por el pipeline CodeAlchemy de IBM y una capa de decodificación especulativa para una inferencia más rápida. Los modelos de Granite 4.2 de IBM están disponibles para descargar, con documentación técnica detallada proporcionada en el blog de IBM Research, un informe técnico y un repositorio de GitHub.