التباعد

term_id: divergence

Category: basic_concepts

Definition

في سياق التحسين، يحدث التباعد عندما تتحدث معاملات النموذج بطريقة تسبب زيادة الخسارة بدلاً من انخفاضها، وغالباً ما يؤدي ذلك إلى قيم غير رقمية (NaN) أو تدرجات لا نهائية.

Summary

يشير التباعد إلى فشل دالة الخسارة في خوارزمية التعلم الآلي في الانخفاض أثناء التدريب، مما يؤدي إلى أداء غير مستقر أو متدهور.

Key Concepts

  • انفجار الخسارة
  • حساسية معدل التعلم
  • عدم استقرار التدرج
  • الدقة العددية

Use Cases

  • استكشاف الأخطاء وإصلاحها في حلقات التدريب لإطارات العمل الخاصة بالتعلم العميق
  • ضبط المعاملات الفائقة لتحقيق تقارب مستقر
  • تنفيذ استراتيجيات قص التدرج