Evolução das técnicas de post-training em modelos de IA de fronteira

A notícia analisa a evolução das receitas de post-training — técnicas usadas para refinar modelos de linguagem após o treinamento inicial. Através de uma discussão entre Nathan Lambert e Finbarr Timbers, especialistas em IA, o conteúdo mapeia como essas técnicas evoluíram de InstructGPT (2022) até aos modelos de 2026. O padrão dominante em 2026 é a Multi-teacher On-Policy Distillation (MOPD), um método onde múltiplos modelos especializados em domínios específicos (matemática, código, agência) ensinam um modelo geral. Esta abordagem emergiu porque o treinamento por reforço tradicional tornou-se computacionalmente caro e conflituoso quando tentava otimizar múltiplas capacidades simultaneamente. A análise inclui uma revisão histórica desde o InstructGPT (pipeline simples SFT → modelo de recompensa → PPO), passando por Llama 3 com abordagens multi-estágio, até aos modelos recentes como DeepSeek V4, MiMo Flash v2 e Nemotron 3 Ultra, que adotam a estratégia MOPD. A discussão aborda ainda desafios organizacionais: post-training complexo não é apenas uma questão técnica, mas de capacidade organizacional para coordenar recursos computacionais e talento.