Dubbel nedgång

term_id: double_descent

Category: basic_concepts

Definition

Dubbel nedgång utmanar den traditionella bias-varians-handeln genom att visa att högt överparametrerade modeller kan uppnå lågt testfel trots att de interpolerar träningsdata. Inledningsvis stiger felet när modellen blir komplexare, men sjunker sedan igen i det överparametrerade läget.

Summary

Ett fenomen där testfelet minskar, ökar och sedan minskar igen när modellkomplexiteten växer bortom interpolationsgränsen.

Key Concepts

  • Interpolationsgräns
  • Överparametrisering
  • Bias-varians-handeln
  • Testfel

Use Cases

  • Analys av skalningslagar för neuronnätverk
  • Förståelse av generalisering inom djupinlärning
  • Modellval i stora AI-system