Regularisering

term_id: regularization

Category: basic_concepts

Definition

Regularisering är ett avgörande begrepp inom maskininlärning som syftar till att minska generaliseringsfelet utan att avsevärt öka träningsfelet. Det fungerar genom att avskräcka modeller från att lära sig överdrivet specifika mönster i träningsdatan.

Summary

En uppsättning tekniker som används under träningen för att förhindra överanpassning genom att lägga till straff på förlustfunktionen eller begränsa modellkomplexiteten.

Key Concepts

  • Överanpassning
  • Bias-varians-tradedoff
  • L1/L2-straff
  • Dropout

Use Cases

  • Träning av djupa neurala nätverk
  • Linjära regressionsmodeller
  • Förhindrande av inlämning (memorisering) vid små datamängder

Code Example

1
2
from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)