Toplu Boyutu
term_id: batch_size
Category: training_techniques
Definition
Toplu boyut, modelin iç parametreleri güncellenmeden önce işlenen örnek sayısını belirleyen kritik bir hiperparametredir. Daha büyük bir toplu boyut, daha doğru bir tahmin sağlar ve genellikle hesaplama verimliliğini artırır.
Summary
Stokastik gradyan iniş algoritmasının bir yinelemesinde kullanılan eğitim örneklerinin sayısı.
Key Concepts
- Gradyan Tahmini
- Bellek Kısıtlamaları
- Yakınsama Kararlılığı
- Hiperparametre Ayarı
Use Cases
- Model yakınsama hızını ayarlama
- Eğitim sırasında GPU bellek sınırlarını yönetme
- Gürültülü gradyanlar aracılığıyla genelleştirmeyi iyileştirme