Penalaan Instruksi

term_id: instruction_tuning

Category: training_techniques

Definition

Proses ini menjembatani kesenjangan antara pra-pelatihan umum dan kinerja tugas spesifik. Dengan mengekspos model pada pasangan instruksi-respons yang beragam, model belajar untuk menggeneralisasi ke tugas yang belum pernah dilihat sebelumnya tanpa ad

Summary

Penalaan instruksi adalah teknik penalaan halus di mana model bahasa pra-latih dilatih pada dataset instruksi dan respons yang sesuai untuk meningkatkan kemampuan mengikuti tugas.

Key Concepts

  • Penalaan Halus
  • Pembelajaran Terawasi
  • Generalisasi Zero-shot
  • Penyelarasan Manusia

Use Cases

  • Membangun chatbot
  • Meningkatkan akurasi generasi kode
  • Menyelaraskan model dengan pedoman keamanan