Proximale gradientmetoder til læring
term_id: proximal_gradient_methods_for_learning
Category: training_techniques
Definition
Proximale gradientmetoder er iterative optimeringsteknikker, der bruges, når tabfunktionen inkluderer et differentiabelt glat led og en ikke-differentierbar regularisator, såsom L1-normen. Algoritmen kombinerer gradientnedstigning med proximale operatorer for at håndtere ikke-glatte dele.
Summary
Optimeringsalgoritmer designet til at minimere sammensatte målfunktioner, der indeholder både glatte og ikke-glatte komponenter.
Key Concepts
- sammensat optimering
- proximal operator
- L1-regularisering
- ikke-konveksitet (eller ikke-glat konveksitet)
Use Cases
- Selektion af sparsomme træk
- Lasso-regression
- Strukturerede prediktionsmodeller