Lähellä olevan gradientin menetelmät oppimiseen
term_id: proximal_gradient_methods_for_learning
Category: training_techniques
Definition
Lähellä olevan gradientin menetelmät ovat iteraattisia optimointitekniikoita, joita käytetään, kun häviöfunktiossa on eriytyvä sileä termi ja eriyttämätön säännöstäjä, kuten L1-normaali. Algoritmi laskee gradientin sileälle osalle ja soveltaa lähellä olevaa operaattoria epäsileälle osalle.
Summary
Optimointialgoritmit, jotka on suunniteltu minimoimaan yhdistettyjä tavoitefunktioita, joissa on sekä sileitä että epäsileitä komponentteja.
Key Concepts
- yhdistetty optimointi
- lähellä oleva operaattori
- L1-säännöstys
- epäsileä konveksisuus
Use Cases
- Hajanainen ominaisuuden valinta
- Lasso-regressio
- Rakenteelliset ennustusmallit