Double Descent
term_id: double_descent
Category: basic_concepts
Definition
Double Descent menantang trade-off bias-varians tradisional dengan menunjukkan bahwa model yang sangat overparameterisasi dapat mencapai kesalahan uji yang rendah meskipun melakukan interpolasi pada data pelatihan. Awalnya, kesalahan meningkat…
Summary
Fenomena di mana kesalahan uji menurun, meningkat, lalu menurun lagi seiring kompleksitas model bertambah melampaui ambang batas interpolasi.
Key Concepts
- Ambang Batas Interpolasi
- Overparameterisasi
- Trade-off Bias-Varians
- Kesalahan Uji
Use Cases
- Menganalisis hukum penskalaan jaringan saraf
- Memahami generalisasi dalam pembelajaran mendalam
- Seleksi model dalam sistem AI skala besar