آدام (Adam)

term_id: adam

Category: basic_concepts

Definition

آدام (تقدير العزم التكيفي) هو خوارزمية تحسين شائعة من الدرجة الأولى تعتمد على التدرج، تُستخدم في تدريب الشبكات العصبية العميقة. تجمع بين مزاقي امتدادين آخرين للستوكاستيك.

Summary

خوارزمية تحسين تحسب معدلات تعلم تكيفية لكل معلمة.

Key Concepts

  • النزول التدرجي
  • معدل التعلم
  • الزخم
  • تقدير التباين

Use Cases

  • تدريب التعلم العميق
  • نماذج الرؤية الحاسوبية
  • معالجة اللغة الطبيعية

Code Example

1
2

import torch.optim as optim
optimizer = optim.Adam(model.parameters(), lr=0.001)

Related