מינימיזציה של סיכון אמפירי

term_id: empirical_risk_minimization

Category: basic_concepts

Definition

מינימיזציה של סיכון אמפירי (ERM) היא פונקציית המטרה הסטנדרטית לאימון מודלים של למידה מפוקחת. היא כוללת בחירת השערה (מודל) מתוך מחלקת פונקציות שממזערת את ממוצע השגיאה (ההפסד) על מדגם האימון. מטרת המשנה היא להבטיח שהמודל יוכל ל generalize היטב לנתונים שלא נראו בעבר, תוך איזון בין התאמה לנתוני האימון לבין מניעת התאמת יתר.

Summary

עקרון יסוד בלמידת מכונה השואף למזער את ההפסד הממוצע על פני נתוני האימון שנצפו.

Key Concepts

  • פונקציית הפסד
  • שגיאת אימון
  • כלליות (Generalization)
  • התאמת יתר (Overfitting)

Use Cases

  • אימון מודלים של רגרסיה לוגיסטית
  • אופטימיזציה של משקלות ברשתות נוירונים
  • ניסוח מנגנוני מרחב תומך (SVM)