Wczesne zatrzymanie
term_id: early_stopping
Category: training_techniques
Definition
Wczesne zatrzymanie jest formą regularizacji stosowaną głównie w procesach trenowania iteracyjnych, takich jak gradientowy zstępujący. Podczas trenowania wydajność modelu na danych treningowych zazwyczaj ciągle się poprawia, podczas gdy na danych walidacyjnych może zacząć spadać wskutek przeuczenia. Wczesne zatrzymanie monitoruje ten rozbież i zatrzymuje proces w optymalnym momencie.
Summary
Wczesne zatrzymanie to technika regularizacji, która przerywa proces trenowania, gdy wydajność modelu na zbiorze walidacyjnym zaczyna spadać, zapobiegając w ten sposób przeuczeniu.
Key Concepts
- Regularizacja
- Zbiór walidacyjny
- Zapobieganie przeuczeniu
- Parametr cierpliwości (patience)
Use Cases
- Trenowanie sieci neuronowych
- Algorytmy gradient boosting
- Modele prognozowania szeregów czasowych