Regularizare
term_id: regularization
Category: basic_concepts
Definition
Regularizarea este un concept crucial în învățarea automată, conceput pentru a reduce eroarea de generalizare fără a crește semnificativ eroarea de antrenament. Funcționează descurajând modelele să învețe relații prea complexe sau zgomotoase în datele de antrenament.
Summary
Un set de tehnici utilizate în timpul antrenamentului pentru a preveni suprapotrivirea (overfitting) prin adăugarea unor penalități la funcția de pierdere sau prin restricționarea complexității modelului.
Key Concepts
- Suprapotrivire (Overfitting)
- Compromis bias-varianță
- Penalizare L1/L2
- Dropout
Use Cases
- Antrenarea rețelelor neuronale profunde
- Modele de regresie liniară
- Prevenirea memorării în seturi de date mici
Code Example
| |