学習のための近接勾配法
term_id: proximal_gradient_methods_for_learning
Category: training_techniques
Definition
近接勾配法は、損失関数に微分可能な滑らかな項と、L1ノルムのような微分不可能な正則化項が含まれている場合に使用される反復最適化技法です。このアルゴリズムは、勾配降下ステップと近接演算子（プロキシマル演算子）による正則化ステップを組み合わせて、非滑らかな項を持つ関数の最適解を探ります。
Summary
滑らかな成分と非滑らかな成分の両方を含む合成目的関数を最小化するために設計された最適化アルゴリズム。
Key Concepts
- 合成最適化
- 近接演算子
- L1正則化
- 非滑らかな凸性
Use Cases
- スパース特徴選択
- ラッソ回帰
- 構造化予測モデル