Ukuran Batch
term_id: batch_size
Category: training_techniques
Definition
Ukuran batch adalah hiperparameter kritis yang menentukan berapa banyak sampel yang diproses sebelum parameter internal model diperbarui. Ukuran batch yang lebih besar memberikan estimasi yang lebih akurat dari
Summary
Jumlah contoh pelatihan yang digunakan dalam satu iterasi algoritma gradien stokastik.
Key Concepts
- Estimasi Gradien
- Batasan Memori
- Stabilitas Konvergensi
- Penyetelan Hiperparameter
Use Cases
- Menyetel kecepatan konvergensi model
- Mengelola batas memori GPU selama pelatihan
- Meningkatkan generalisasi melalui gradien yang berisik