Ajuste de Prompt
term_id: prompt_tuning
Category: training_techniques
Definition
O ajuste de prompt envolve a adição de prompts treináveis suaves (vetores contínuos) à camada de entrada de um modelo de linguagem pré-treinado, mantendo os parâmetros subjacentes do modelo congelados. Essa abordagem permite
Summary
Um método de ajuste fino eficiente em parâmetros que otimiza embeddings contínuos de entrada em vez de atualizar todos os pesos do modelo.
Key Concepts
- prompts suaves
- eficiência de parâmetros
- pesos congelados
- aprendizado poucos exemplos
Use Cases
- Adaptação de LLMs para domínios específicos
- Ajuste fino com poucos recursos
- Otimização de aprendizado multitarefa