Proksimale gradientmetoder for læring
term_id: proximal_gradient_methods_for_learning
Category: training_techniques
Definition
Proksimale gradientmetoder er iterativ optimeringsteknikker brukt når tapfunksjonen inkluderer et deriverbart glatt ledd og en ikke-deriverbar regularisator, som L1-norm. Algoritmen kombinerer gradienttrinn med proksimale operasjoner for å håndtere ujevnheter.
Summary
Optimeringsalgoritmer designet for å minimere sammensatte målfunksjoner som inneholder både glatte og uglatte komponenter.
Key Concepts
- sammensatt optimering
- proksimal operator
- L1-regularisering
- ikke-glatt konveksitet
Use Cases
- Utvelgelse av sparse trekk (sparse feature selection)
- Lasso-regresjon
- Strukturerte prediksjonsmodeller