Metody gradientu przybliżonego do nauki
term_id: proximal_gradient_methods_for_learning
Category: training_techniques
Definition
Metody gradientu przybliżonego to iteracyjne techniki optymalizacji stosowane, gdy funkcja strat zawiera różniczkowalny gładki człon oraz nieróżniczkowalny regularizator, taki jak norma L1. Algorytm ten
Summary
Algorytmy optymalizacji zaprojektowane do minimalizacji złożonych funkcji celu zawierających zarówno gładkie, jak i niegładkie składniki.
Key Concepts
- optymalizacja złożona
- operator przybliżony
- regularizacja L1
- niegładnia wypukłość
Use Cases
- Selekcia cech rzadkich (sparse)
- Regresja Lasso
- Modele predykcji strukturalnej