Regularisointi

term_id: regularization

Category: basic_concepts

Definition

Regularisointi on keskeinen käsite koneoppimisessa, jonka tavoitteena on vähentää yleistysvirhettä ilman merkittävää koulutusvirheen kasvattamista. Se toimii kannustamalla malleja oppimaan liian monimutkaisia tai spesifejä kuvioita, jotka eivät yleisty hyvin uusiin tietoihin.

Summary

Menetelmistöä, jota käytetään koulutuksen aikana välttämään ylisovittamista lisäämällä rangaistustermejä häviöfunktioon tai rajoittamalla mallin monimutkaisuutta.

Key Concepts

  • Ylisovittaminen (Overfitting)
  • Harha-hajonta-vaihtoehto (Bias-variance tradeoff)
  • L1/L2-rangaistus
  • Pudotus (Dropout)

Use Cases

  • Syvien neuroverkkojen koulutus
  • Lineaaristen regressiomallien kehitys
  • Muistinvaraisen oppimisen ehkäisy pienillä datamäärillä

Code Example

1
2

from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)

Related