Минимизация структурного риска
term_id: structural_risk_minimization
Category: basic_concepts
Definition
Минимизация структурного риска (SRM) — это метод снижения ожидаемого риска за счет контроля сложности модели для предотвращения переобучения. Он расширяет эмпирическую минимизацию риска добавлением штрафа за сложность
Summary
Принцип статистического обучения, направленный на минимизацию верхней границы ошибки обобщения путем балансировки соответствия модели данным и ее сложности.
Key Concepts
- Размерность ВЧ (VC-размерность)
- Регуляризация
- Ошибка обобщения
- Штраф за сложность модели
Use Cases
- Обучение машин опорных векторов (SVM)
- Выбор степени полинома в регрессии
- Отсечение ветвей дерева решений для избежания переобучения