Optymalizacja hiperparametrów
term_id: hyperparameter_optimization
Category: training_techniques
Definition
Optymalizacja Hiperparametrów (HPO) odnosi się do szerszej dziedziny automatyzacji wyboru hiperparametrów. Podczas gdy dopasowanie (tuning) to ogólna czynność, HPO często implikuje użycie zaawansowanych algorytmów, takich jak…
Summary
Zautomatyzowane podejście do znajdowania optymalnej konfiguracji hiperparametrów, często wykorzystujące modele probabilistyczne do kierowania wyszukiwaniem.
Key Concepts
- Optymalizacja bayesowska
- Modele zastępcze (Surrogate Models)
- Automatyczne uczenie maszynowe (AutoML)
- Przestrzeń wyszukiwania
Use Cases
- Potoki AutoML
- Trenowanie modeli w skali masowej
- Optymalizacja przy ograniczonych zasobach