ByteDance y Tsinghua Presentan CUDA Agent, un Sistema de IA que Genera Código GPU Más Rápido que los Compiladores Convencionales

ByteDance Seed y Tsinghua AIR han desarrollado CUDA Agent, un sistema de aprendizaje por refuerzo que entrena modelos de IA para generar kernels GPU optimizados en velocidad. Aunque los modelos de lenguaje de frontera ya producen código CUDA correcto, su resultado frecuentemente se ejecuta más lentamente que el código generado por compiladores. El sistema resuelve esta brecha colocando el modelo en un entorno real de desarrollo con perfiles de ejecución y protecciones sandbox, luego entrenándolo con aprendizaje por refuerzo. Los resultados son notables: el modelo entrenado logra una tasa de éxito del 98,8% y supera a torch.compile en el 96,8% de las tareas de prueba, con aceleraciones que promedian 2,11 veces más rápido que los compiladores tradicionales. El sistema también superó significativamente a modelos de IA comparables como Claude Opus 4.5 y Gemini 3 Pro en los puntos de referencia más desafiantes. Si bien el modelo entrenado sigue siendo propietario, ByteDance lanzó recursos de apoyo que incluyen un conjunto de datos con 6 mil muestras, especificaciones técnicas y directrices de entrenamiento de recompensas. El enfoque requiere recursos computacionales sustanciales, con experimentos ejecutados en 128 GPU NVIDIA H20, lo que hace que la replicación completa sea viable principalmente para grandes laboratorios de investigación y equipos de infraestructura. La tecnología se enfoca en aplicaciones críticas de desempeño que incluyen inferencia de IA, conducción autónoma, diagnóstico por imágenes médicas y sistemas de recomendación.