P-Tuning
term_id: p_tuning
Category: training_techniques
Definition
P-Tuning (Prompt Tuning) er en teknik designet til at tilpasse store fortrænede sprogmodeller til specifikke downstream-opgaver med minimal beregningsmæssig omkostning. I stedet for at finjustere alle modelparametre…
Summary
P-Tuning er en parameter-effektiv finjusteringsmetode, der optimerer kontinuerlige prompt-indlejringer i stedet for at opdatere hele den fortrænede models vægte.
Key Concepts
- Parameter-effektiv finjustering
- Virtuelle tokens
- Frosne vægte
- Indlejringsoptimering
Use Cases
- Tilpasning til few-shot-læring
- Miljøer med begrænsede ressourcer
- Hurtig prototypering af LLM-applikationer