Proximala gradientmetoder för inlärning
term_id: proximal_gradient_methods_for_learning
Category: training_techniques
Definition
Proximala gradientmetoder är iterativa optimeringstekniker som används när förlustfunktionen inkluderar en deriverbar slät term och en icke-deriverbar regulariserare, såsom L1-norm. Algoritmen kombinerar gradientsteg med proximala operatorer för att hantera icke-släta delar effektivt.
Summary
Optimeringsalgoritmer utformade för att minimera sammansatta målfunktioner som innehåller både släta och icke-släta komponenter.
Key Concepts
- sammansatt optimering
- proximal operator
- L1-regularisering
- icke-slät konvexitet
Use Cases
- Urval av sparsamma funktioner
- Lasso-regression
- Modeller för strukturerad prediktion