Instruction tuning limita la diversidad en modelos de IA, según investigación

Investigadores han identificado trade-offs significativos en el instruction tuning, una técnica común para refinar modelos de lenguaje. Si bien mejora el seguimiento de instrucciones, el método reduce la diversidad de respuestas y la adaptabilidad contextual. Un equipo de investigación desarrolló Spectrum Suite e introdujo Spectrum Tuning como método alternativo de pos-entrenamiento. El nuevo enfoque busca mantener el cumplimiento de instrucciones mientras preserva mayor diversidad de outputs y flexibilidad del modelo.