Uzmanlar Karışımı
term_id: moe
Category: basic_concepts
Definition
Uzmanlar Karışımı (MoE), verimliliği ve ölçeklenebilirliği artırmak üzere tasarlanmış bir makine öğrenimi mimarisidir. Tüm görevler için tek bir büyük model kullanmak yerine, MoE birden fazla küçük ‘uzman’
Summary
Birden fazla uzman sinir ağından oluşan ve girdileri işlemek için bir kapı mekanizması ile birleşen mimari bir desen.
Key Concepts
- Seçici Aktivasyon
- Kapı Ağı
- Uzman Özelleşmesi
- Ölçeklenebilirlik
Use Cases
- Büyük dil modellerinin verimli bir şekilde eğitilmesi
- Devasa modeller için çıkarım gecikmesinin azaltılması
- Çok modlu sistemlerde çeşitli girdi türlerinin işlenmesi