Prompt Ayarlama

term_id: prompt_tuning

Category: training_techniques

Definition

Prompt ayarlama, altta yatan model parametreleri dondurulurken önceden eğitilmiş bir dil modelinin giriş katmanına eğitilebilir yumuşak promptlar (sürekli vektörler) eklemeyi içerir. Bu yaklaşım, modeli belirli görevlere uyarlamak için…

Summary

Tüm model ağırlıklarını güncellemek yerine, sürekli girdi gömme (embedding) değerlerini optimize eden parametre verimli bir ince ayar yöntemidir.

Key Concepts

  • yumuşak promptlar
  • parametre verimliliği
  • dondurulmuş ağırlıklar
  • few-shot öğrenme

Use Cases

  • LLM’leri belirli alanlara uyarlamak
  • Düşük kaynaklı ince ayar
  • Çoklu görev öğrenme optimizasyonu