معدل التعلم

term_id: learning_rate

Category: training_techniques

Definition

يحدد معدل التعلم مقدار تحديث أوزان النموذج بالنسبة للتدرج المحسوب خلال كل تكرار تدريبي. قد يؤدي المعدل المرتفع جداً إلى تجاوز النموذج للنقطة المثلى

Summary

معامل فرعي يتحكم في حجم الخطوة أثناء تحسين النموذج لتقليل دالة الخسارة.

Key Concepts

النزول التدرجي
ضبط المعاملات الفرعية
الاقتراب
المُحسّن

Use Cases

تدريب الشبكات العصبية
تحسين نماذج التعلم العميق
تحديث سياسات التعلم التعزيزي

Code Example

1
2
3
import torch.optim as optim
model = MyModel()
optimizer = optim.SGD(model.parameters(), lr=0.01)