فرضية تذكرة اليانصيب
term_id: lottery_ticket_hypothesis
Category: basic_concepts
Definition
تقترح فرضية تذكرة اليانصيب أنه داخل شبكة عصبية كبيرة تم تهيئتها عشوائياً، توجد شبكة فرعية متفرعة (تُسمى ‘تذكرة الفوز’) تكون مهيأة جيداً للتدريب. من خلال تقليم الأوزان غير الضرورية وإبقاء هذه الشبكة الفرعية فقط، يمكن تحقيق أداء مماثل للشبكة الكاملة بأقل موارد حسابية.
Summary
النظرية التي تفيد بأن الشبكات العصبية الكثيفة تحتوي على شبكات فرعية أصغر يمكنها، عند تدريبها بمعزل عن بعضها البعض من نقطة البداية، أن تطابق دقة الشبكة الأصلية.
Key Concepts
- تقليم الأوزان
- الشبكات المتفرعة
- ضغط النموذج
- حساسية التهيئة
Use Cases
- نشر نماذج خفيفة الوزن على الأجهزة الطرفية
- تقليل تكاليف الحساب أثناء التدريب
- تسريع سرعات الاستدلال