Regularisering

term_id: regularization

Category: basic_concepts

Definition

Regularisering er et afgørende begreb inden for maskinlæring, der er designet til at reducere generaliseringsfejl uden at øge træningsfejlen markant. Det virker ved at afskrække modeller fra at lære for komplekse mønstre, der specifikt passer træningsdataene.

Summary

En samling teknikker, der bruges under træningen til at forhindre overtilpasning ved at tilføje straf til tabfunktionen eller begrænse modellens kompleksitet.

Key Concepts

  • Overtilpasning
  • Bias-varians tradeoff (Bias-varians-kompromis)
  • L1/L2-straf
  • Dropout

Use Cases

  • Træning af dybe neurale netværk
  • Lineære regressionsmodeller
  • Forebyggelse af hukommelse i små datasæt

Code Example

1
2
from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)