Regolarizzazione

term_id: regularization

Category: basic_concepts

Definition

La regolarizzazione è un concetto cruciale nel machine learning progettato per ridurre l’errore di generalizzazione senza aumentare significativamente l’errore di addestramento. Funziona scoraggiando i modelli dall’apprendere pattern troppo specifici o complessi.

Summary

Un insieme di tecniche utilizzate durante l’addestramento per prevenire l’overfitting aggiungendo penalità alla funzione di perdita o vincolando la complessità del modello.

Key Concepts

  • Overfitting
  • Trade-off bias-varianza
  • Penalità L1/L2
  • Dropout

Use Cases

  • Addestramento di reti neurali profonde
  • Modelli di regressione lineare
  • Prevenzione della memorizzazione in piccoli dataset

Code Example

1
2

from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)

Related