Переобучение
term_id: overfitting
Category: training_techniques
Definition
Переобучение возникает, когда модель слишком хорошо изучает обучающие данные, включая случайный шум и выбросы, что приводит к отличной производительности на обучающей выборке, но плохой работе на новых, ранее не виденных тестовых данных.
Summary
Ошибка моделирования, при которой алгоритм машинного обучения запоминает шум вместо основной закономерности, что ухудшает обобщающую способность.
Key Concepts
- Высокая дисперсия
- Плохая обобщающая способность
- Разрыв между ошибкой на обучении и тесте
- Сложность модели
Use Cases
- Диагностика проблем с производительностью модели
- Выбор силы регуляризации
- Определение оптимальной глубины модели