Guía técnica de enfoques de generación de texto neural controlable

Este relevamiento técnico examina métodos para orientar modelos de lenguaje no condicionados a generar texto con atributos específicos como tema, estilo y sentimiento. El artículo revisa múltiples enfoques para generación de contenido controlado, abordando un desafío clave en la implementación de modelos de lenguaje para aplicaciones que requieren consistencia de salida. Se exploran estrategias de decodificación como mecanismos para restringir o preferir ciertas salidas sin modificar pesos del modelo. La guía cubre control de muestreo basado en temperatura y otras técnicas de dirección a nivel de token. Se presentan varios métodos de control con sus respectivas ventajas y desventajas, reconociendo que la dirección del modelo sigue siendo una pregunta de investigación activa sin solución universalmente óptima.