ירידה במדרון
term_id: gradient_descent
Category: basic_concepts
Definition
ירידה במדרון היא אלגוריתם אופטימיזציה איטרטיבי מסדר ראשון למציאת מינימום מקומי של פונקציה גזירה. בלמידת מכונה, הוא מעדכן את משקולות המודל בכיוון הנגדי לשיפוע.
Summary
אלגוריתם אופטימיזציה איטרטיבי המשמש למזעור פונקציית הפסד על ידי התאמת פרמטרי המודל.
Key Concepts
- פונקציית הפסד
- קצב למידה
- אופטימיזציה
- הפצה לאחור
Use Cases
- אימון רשתות נוירונים עמוקות
- כוונון פרמטרים ברגרסיה ליניארית
- אופטימיזציה של מודלים לזיהוי תמונות