Regularización

term_id: regularization

Category: basic_concepts

Definition

La regularización es un concepto crucial en el aprendizaje automático diseñado para reducir el error de generalización sin aumentar significativamente el error de entrenamiento. Funciona desalentando a los modelos de aprender patrones demasiado específicos o ruidosos.

Summary

Un conjunto de técnicas utilizadas durante el entrenamiento para prevenir el sobreajuste añadiendo penalizaciones a la función de pérdida o restringiendo la complejidad del modelo.

Key Concepts

  • Sobreajuste
  • Compromiso sesgo-varianza
  • Penalización L1/L2
  • Dropout (Caída aleatoria)

Use Cases

  • Entrenamiento de redes neuronales profundas
  • Modelos de regresión lineal
  • Prevención de memorización en conjuntos de datos pequeños

Code Example

1
2
from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)