الإسقاط (Dropout)

term_id: dropout

Category: basic_concepts

Definition

في الشبكات العصبية، يمنع الإسقاط الإفراط في التخصيص عن طريق إزالة مجموعة عشوائية مؤقتة من الخلايا العصبية خلال كل خطوة تدريب. هذا يجبر الشبكة على تعلم ميزات قوية تكون مفيدة في سياقات متنوعة.

Summary

الإسقاط هو تقنية تنظيم عشوائية تتجاهل عشوائياً بعض الخلايا العصبية أثناء التدريب لمنع الإفراط في التخصيص.

Key Concepts

  • التنظيم (Regularization)
  • منع الإفراط في التخصيص (Overfitting Prevention)
  • الشبكات العصبية (Neural Networks)
  • الكبت العشوائي (Random Suppression)

Use Cases

  • تدريب الشبكات العصبية العميقة ذات التغذية الأمامية
  • تحسين التعميم في نماذج اللغات الكبيرة
  • تقليل الاعتماد الحسابي على مسارات خلايا عصبية محددة

Code Example

1
2
3
4
5
6
7

import torch.nn as nn
model = nn.Sequential(
    nn.Linear(100, 50),
    nn.Dropout(0.5),
    nn.ReLU(),
    nn.Linear(50, 10)
)

Related