Piyango Bileti Hipotezi
term_id: lottery_ticket_hypothesis
Category: basic_concepts
Definition
Piyango Bileti Hipotezi, büyük ve rastgele başlatılmış bir sinir ağı içinde, eğitim için iyi başlatılmış seyrek bir alt ağın (‘kazanan bileti’) var olduğunu öne sürer. Budama işlemiyle…
Summary
Yoğun sinir ağlarının, başlangıçtan izole bir şekilde eğitildiklerinde orijinal ağın doğruluğunu eşitleyebilen daha küçük alt ağlar içerdiğini öne süren teori.
Key Concepts
- Ağırlık budama
- Seyrek ağlar
- Model sıkıştırma
- Başlatma hassasiyeti
Use Cases
- Kenar cihazlarında hafif modellerin dağıtımı
- Eğitim sırasında hesaplama maliyetlerinin azaltılması
- Tahmin (inference) hızlarının artırılması