Közvetítő gradiens módszerek a tanulásban
term_id: proximal_gradient_methods_for_learning
Category: training_techniques
Definition
A közvetítő gradiens módszerek iteratív optimalizációs technikák, amelyeket akkor alkalmaznak, amikor a veszteségfüggvény tartalmaz egy differenciálható sima tagot és egy nem differenciálható szabályozót, például L1 normát. Az algoritmus a gradiens lépést közvetítő operátorral kombinálja a nem sima tagok kezelésére.
Summary
Olyan optimalizációs algoritmusok, amelyek olyan összetett célfüggvények minimalizálására lettek tervezve, amelyek sima és nem sima komponenseket is tartalmaznak.
Key Concepts
- összetett optimalizálás
- közvetítő operátor
- L1 szabályozás
- nem sima konvexitás
Use Cases
- Sűrűség nélküli funkciók kiválasztása
- Lasso regresszió
- Strukturált prediktív modellek