Dobbelt faldkurve

term_id: double_descent

Category: basic_concepts

Definition

Dobbelt faldkurve udfordrer den traditionelle bias-varians-handel ved at vise, at stærkt overparametriserede modeller kan opnå lav testfejl trods interpolation af træningsdataene. Oprindeligt stiger fejlen, men falder derefter igen, når modellen bliver mere kompleks.

Summary

Et fænomen, hvor testfejlen falder, stiger og derefter falder igen, når modellens kompleksitet vokser ud over interpolationsgrænsen.

Key Concepts

  • Interpolationsgrænse
  • Overparametrisering
  • Bias-varians-handel
  • Testfejl

Use Cases

  • Analyse af skaleringlove for neurale netværk
  • Forståelse af generalisering i dyb læring
  • Modellvalg i store AI-systemer