Adaptör

term_id: adapter

Category: training_techniques

Definition

Adaptörler, öncelikle büyük dil modellerinde ve dönüştürücülerde kullanılan parametre verimliliğine dayalı bir ince ayama tekniğidir. Tüm model ağırlıklarını güncellemek (ki bu hesaplama açısından pahalıdır) yerine, adaptörler yalnızca küçük bir ek parametre setini eğitir.

Summary

Belirli alt görevler için verimli ince ayamayı mümkün kılmak üzere önceden eğitilmiş modellere eklenen hafif bir modül.

Key Concepts

  • Parametre Verimliliğine Dayalı İnce Ayama
  • Transfer Öğrenimi
  • Modüler Mimari
  • Katastrofik Unutma

Use Cases

  • Müşteri hizmetleri sohbet botları için büyük dil modellerinin ince ayaması
  • Tıbbi görüntü analizi için görme modellerinin uyarlanması
  • Birden fazla alana özgü modelin verimli bir şekilde dağıtılması