Regularizace

term_id: regularization

Category: basic_concepts

Definition

Regularizace je klíčový koncept ve strojovém učení určený ke snížení chyby generalizace bez významného zvýšení chyby tréninku. Funguje tím, že odrazuje modely od učení příliš složitých vzorů.

Summary

Sada technik používaných během tréninku k prevenci přeučení přidáním penalizací do funkce ztráty nebo omezením složitosti modelu.

Key Concepts

  • Přeučení (Overfitting)
  • Kompromis mezi zkreslením a rozptylem
  • Penalizace L1/L2
  • Dropout

Use Cases

  • Trénink hlubokých neuronových sítí
  • Modely lineární regrese
  • Prevence memorování na malých datech

Code Example

1
2

from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)

Related