Metode de gradient proximal pentru învățare
term_id: proximal_gradient_methods_for_learning
Category: training_techniques
Definition
Metodele de gradient proximal sunt tehnici iterative de optimizare utilizate atunci când funcția de pierdere include un termen neted derivabil și un regularizator nederivabil, cum ar fi norma L1. Algoritmul combină pașii de gradient pentru partea netedă cu operatori proximali pentru partea neteredă.
Summary
Algoritmi de optimizare concepuți pentru a minimiza funcțiile obiectiv compozite care conțin atât componente netede, cât și nenetede.
Key Concepts
- optimizare compozită
- operator proximal
- regularizare L1
- convexitate neteredă
Use Cases
- Selecția caracteristicilor sparse
- Regresia Lasso
- Modele de predicție structurată