Pesquisa & Papers

Engenharia de Prompts: Técnicas para Guiar Modelos de Linguagem

Fonte: Lilian Weng14/03/2023, 21:00
A engenharia de prompts refere-se às estratégias utilizadas para comunicar com modelos de linguagem e orientar o seu comportamento sem modificar os pesos do modelo. Trata-se de uma disciplina empírica que varia significativamente entre modelos, exigindo experimentação e refinamento contínuo. As abordagens fundamentais incluem aprendizado zero-shot, onde se fornece apenas a tarefa ao modelo, e aprendizado few-shot, que apresenta exemplos de alta qualidade para demonstrar o comportamento esperado. A ordem, formato e qualidade destes exemplos têm impacto substancial no desempenho. Técnicas mais avançadas como Chain-of-Thought (CoT) incentivam o modelo a gerar raciocínios passo-a-passo para tarefas complexas, melhorando significativamente a precisão em problemas que requerem múltiplas etapas lógicas. A amostragem por auto-consistência recolhe múltiplas respostas e selecciona a mais fiável pela votação por maioria. Métodos recentes exploram automatização no desenho de prompts, onde modelos geram candidatos de instruções e sistemas os avaliam para identificar os mais eficazes. Abordagens hibridadas combinam demonstrações com instruções explícitas, enquanto técnicas de refinamento iterativo integram buscas externas para complementar o conhecimento do modelo.
Engenharia de Prompts: Técnicas para Guiar Modelos de Linguagem — lupAI