ByteDance e Tsinghua Lançam CUDA Agent, Sistema de IA que Escreve Código GPU Mais Rápido que Compiladores Convencionais

ByteDance Seed e Tsinghua AIR desenvolveram CUDA Agent, um sistema de aprendizado por reforço que treina modelos de IA para gerar kernels GPU otimizados em velocidade. Embora modelos de linguagem de ponta já produzam código CUDA correto, o resultado frequentemente executa mais lentamente que código gerado por compiladores. O sistema resolve essa lacuna colocando o modelo em um ambiente real de desenvolvimento com perfis de execução e proteções sandbox, depois o treinando com aprendizado por reforço. Os resultados são notáveis: o modelo treinado consegue uma taxa de sucesso de 98,8% e supera torch.compile em 96,8% das tarefas de teste, com acelerações alcançando em média 2,11 vezes mais rápido que compiladores tradicionais. O sistema também superou significativamente modelos de IA comparáveis como Claude Opus 4.5 e Gemini 3 Pro nos benchmarks mais desafiadores. Enquanto o modelo treinado permanece proprietário, ByteDance lançou recursos de apoio incluindo um conjunto de dados com 6 mil amostras, especificações técnicas e diretrizes de treinamento de recompensas. A abordagem requer recursos computacionais substanciais, com experimentos executando em 128 GPUs NVIDIA H20, tornando a replicação completa viável principalmente para grandes laboratórios de pesquisa e equipes de infraestrutura. A tecnologia tem como alvo aplicações críticas em desempenho incluindo inferência de IA, dirigibilidade autônoma, imageamento médico e sistemas de recomendação.