انهيار التمثيل
term_id: representation_collapse
Category: basic_concepts
Definition
يحدث انهيار التمثيل عندما يتعلم الشبكة العصبية، خاصة في أطر التعلم التبايني الذاتي الإشرافي، تعيين جميع نقاط بيانات الإدخال إلى نفس المتجه الثابت للإخراج. هذا حل تافه يفشل في تعلم ميزات ذات معنى من البيانات، وغالباً ما يتطلب استخدام تقنيات مثل تطبيع الدفعة أو المشغلات الزمنية لمنع حدوثه.
Summary
وضع فشل في التعلم الذاتي الإشرافي حيث ينتج النمو تمثيلات متطابقة لجميع المدخلات، مما يفقده القدرة التمييزية.
Key Concepts
- التعلم الذاتي الإشرافي
- خسارة تباينية
- الحلول التافهة
- تعلم الميزات
Use Cases
- استكشاف أخطاء نماذج SimCLR أو MoCo
- تحسين دوال الخسارة التباينية
- تحليل تقارب النموذج