עצירה מוקדמת
term_id: early_stopping
Category: training_techniques
Definition
עצירה מוקדמת היא צורת רגולריזציה המשמשת בעיקר בתהליכי אימון איטרטיביים כמו ירידה בשיפוע (Gradient Descent). במהלך האימון, הביצועים על נתוני האימון משתפרים ברציפות, אך הביצועים על נתוני האימות עשויים להיחלש אם האימון נמשך זמן רב מדי.
Summary
עצירה מוקדמת היא טכניקת רגולריזציה העוצרת את תהליך האימון כאשר ביצועי המודל על קבוצת האימות מתחילים להידרדר, ובכך מונעת התאמת יתר.
Key Concepts
- רגולריזציה
- קבוצת אימות
- מניעת התאמת יתר
- פרמטר סבלנות (Patience)
Use Cases
- אימון רשתות נוירונים
- אלגוריתמי חיזוק שיפוע (Gradient Boosting)
- מודלים לחיזוי סדרות זמן