שיטות גרדיאנט פרוקסימלי ללמידה
term_id: proximal_gradient_methods_for_learning
Category: training_techniques
Definition
שיטות גרדיאנט פרוקסימלי הן טכניקות אופטימיזציה איטרטיביות המשמשות כאשר פונקציית האובדן כוללת איבר חלק גזיר ואיבר רגולריזציה לא גזיר, כמו נורמת L1. האלגוריתם משלב צעדי ירידה בגרדיאנט עם פעולות פרוקסימליות.
Summary
אלגוריתמי אופטימיזציה המיועדים למזער פונקציות מטרה קומפוזיטיות המכילות רכיבים חלקים ולא חלקים.
Key Concepts
- אופטימיזציה קומפוזיטית
- אופרטור פרוקסימלי
- רגולריזציה L1
- קמירות לא חלקה
Use Cases
- בחירת תכונות דלילות
- רגרסיה Lasso
- מודלים לחיזוי מבני