P-Tuning
term_id: p_tuning
Category: training_techniques
Definition
O P-Tuning (Prompt Tuning) é uma técnica projetada para adaptar grandes modelos de linguagem pré-treinados a tarefas específicas com custo computacional mínimo. Em vez de ajustar finamente todos os parâmetros do modelo, ele otimiza apenas vetores de prompt aprendíveis.
Summary
O P-Tuning é um método de ajuste fino eficiente em parâmetros que otimiza embeddings de prompt contínuos em vez de atualizar todos os pesos do modelo pré-treinado.
Key Concepts
- Ajuste Fino Eficiente em Parâmetros
- Tokens Virtuais
- Pesos Congelados
- Otimização de Embeddings
Use Cases
- Adaptação para aprendizado few-shot
- Ambientes com recursos limitados
- Prototipagem rápida de aplicações LLM