التنظيم (Regularization)
term_id: regularization
Category: basic_concepts
Definition
التنظيم مفهوم حاسم في تعلم الآلة مصمم لتقليل خطأ التعميم دون زيادة كبيرة في خطأ التدريب. يعمل عن طريق تثبيط النماذج من تعلم الأنماط المعقدة جداً أو الضوضاء في بيانات التدريب.
Summary
مجموعة من التقنيات المستخدمة أثناء التدريب لمنع الإفراط في التخصيص (Overfitting) من خلال إضافة عقوبات لدالة الخسارة أو تقييد تعقيد النموذج.
Key Concepts
- الإفراط في التخصيص (Overfitting)
- مقايضة الانحياز والتباين (Bias-variance tradeoff)
- عقوبة L1/L2
- الإسقاط العشوائي (Dropout)
Use Cases
- تدريب الشبكات العصبية العميقة
- نماذج الانحدار الخطي
- منع الحفظ الصمّ (Memorization) في مجموعات البيانات الصغيرة
Code Example
| |