Prompt hangolás
term_id: prompt_tuning
Category: training_techniques
Definition
A prompt hangolás egy előre tanult nyelvi modell bemeneti rétegéhez hozzáadott betanítható “puha” promptokat (folytonos vektorokat) használ, miközben az alapmodell paramétereit fagyasztva tartja. Ez a megközelítés lehetővé teszi a modellek adaptálását specifikus feladatokra minimális számítási erőforrás-igénnyel.
Summary
Egy paraméter-hatékony finomhangolási módszer, amely a folytonos bemeneti beágyazásokat optimalizálja, ahelyett, hogy frissítené az egész modell súlyait.
Key Concepts
- puha promptok
- paraméter-hatékonyság
- fagyasztott súlyok
- few-shot tanulás
Use Cases
- LLM-ek alkalmazása specifikus domainekre
- Alacsony erőforrással rendelkező finomhangolás
- Többfeladatú tanulás optimalizálása