Regularizacja

term_id: regularization

Category: basic_concepts

Definition

Regularizacja to kluczowa koncepcja w uczeniu maszynowym, mająca na celu zmniejszenie błędu uogólniania bez istotnego zwiększania błędu treningu. Działa ona poprzez zniechęcanie modeli do nauki zbyt skomplikowanych zależności, które mogą nie być ogólne.

Summary

Zbiór technik stosowanych podczas treningu w celu zapobiegania przeuczeniu poprzez dodanie kar do funkcji straty lub ograniczenie złożoności modelu.

Key Concepts

  • Przeuczenie
  • Kompromis bias-wariancja
  • Kara L1/L2
  • Dropout

Use Cases

  • Trening głębokich sieci neuronowych
  • Modele regresji liniowej
  • Zapobieganie zapamiętywaniu w małych zbiorach danych

Code Example

1
2

from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)

Related