Penyetelan Prompt
term_id: prompt_tuning
Category: training_techniques
Definition
Penyetelan prompt melibatkan penambahan prompt lunak yang dapat dilatih (vektor kontinu) pada lapisan input model bahasa pra-latih sambil mempertahankan parameter model dasar tetap beku. Pendekatan ini memungkinkan
Summary
Metode penyetelan halus yang efisien parameter, mengoptimalkan embedding input kontinu alih-alih memperbarui seluruh bobot model.
Key Concepts
- prompt lunak
- efisiensi parameter
- bobot beku
- pembelajaran few-shot
Use Cases
- Menyesuaikan LLM untuk domain tertentu
- Penyetelan halus dengan sumber daya rendah
- Optimasi pembelajaran multi-tugas