Köteg mérete
term_id: batch_size
Category: training_techniques
Definition
A köteg mérete egy kritikus hiperparaméter, amely meghatározza, hány mintát dolgoz fel a modell, mielőtt a belső paraméterei frissülnének. Nagyobb köteg mérete pontosabb becslést ad a
Summary
A sztochasztikus gradiensleszálló algoritmus egyetlen iterációjában felhasznált tanítási példák száma.
Key Concepts
- Gradiensbecslés
- Memóriakorlátok
- Konvergencia stabilitása
- Hiperparaméter-optimalizálás
Use Cases
- Modellkonvergencia sebességének hangolása
- GPU-memória korlátok kezelése tanítás közben
- Általánosíthatóság javítása zajos gradienssel