Regularização

term_id: regularization

Category: basic_concepts

Definition

A regularização é um conceito crucial no aprendizado de máquina, projetado para reduzir o erro de generalização sem aumentar significativamente o erro de treinamento. Ela funciona desencorajando os modelos de aprender padrões excessivamente específicos dos dados de treinamento, promovendo assim uma melhor capacidade de generalização para dados não vistos.

Summary

Um conjunto de técnicas utilizadas durante o treinamento para evitar o sobreajuste, adicionando penalidades à função de perda ou restringindo a complexidade do modelo.

Key Concepts

  • Sobreajuste
  • Compromisso viés-variância
  • Penalidade L1/L2
  • Dropout

Use Cases

  • Treinamento de redes neurais profundas
  • Modelos de regressão linear
  • Prevenção da memorização em conjuntos de dados pequenos

Code Example

1
2
from sklearn.linear_model import Ridge
model = Ridge(alpha=1.0)