P-Tuning
term_id: p_tuning
Category: training_techniques
Definition
P-Tuning (Prompt Tuning) adalah teknik yang dirancang untuk menyesuaikan model bahasa pra-latih besar ke tugas turunan tertentu dengan biaya komputasi minimal. Alih-alih menyetel halus semua parameter model, i
Summary
P-Tuning adalah metode penyetelan halus yang efisien parameter, yang mengoptimalkan embedding prompt kontinu daripada memperbarui seluruh bobot model pra-latih.
Key Concepts
- Penyetelan Halus Efisien Parameter
- Token Virtual
- Bobot Beku
- Optimasi Embedding
Use Cases
- Adaptasi pembelajaran few-shot
- Lingkungan dengan keterbatasan sumber daya
- Prototipe cepat aplikasi LLM