Dubbele daling
term_id: double_descent
Category: basic_concepts
Definition
Dubbele daling daagt de traditionele bias-variantieafweging uit door te laten zien dat sterk overgedimensioneerde modellen een lage testfout kunnen bereiken, ondanks dat ze de trainingsgegevens interpoleren. Aanvankelijk stijgt de fout naarmate de complexiteit toeneemt, maar daalt deze opnieuw na de interpolatiedrempel.
Summary
Een fenomeen waarbij de testfout eerst daalt, stijgt en vervolgens weer daalt naarmate de modelcomplexiteit groeit voorbij de interpolatiedrempel.
Key Concepts
- Interpolatiedrempel
- Overdimensionering
- Bias-variantieafweging
- Testfout
Use Cases
- Analyseren van schalingswetten voor neurale netwerken
- Begrip van generalisatie in deep learning
- Modelselectie in grootschalige AI-systemen