Dobbel nedgang
term_id: double_descent
Category: basic_concepts
Definition
Dobbel nedgang utfordrer den tradisjonelle bias-varians-handelen ved å vise at sterkt overparametriserte modeller kan oppnå lav testfeil selv om de interpolerer treningsdataene. Opprinnelig stiger feilen, men synker deretter igjen.
Summary
Et fenomen der feilen på testdata synker, øker og deretter synker igjen når modellkompleksiteten vokser utover interpolasjonsterskelen.
Key Concepts
- Interpolasjonsterskel
- Overparametrisering
- Bias-varians-handel
- Testfeil
Use Cases
- Analyse av skaleringlover for neurale nettverk
- Forståelse av generalisering i dyp læring
- Modellvalg i store AI-systemer