Гиперпараметр
term_id: hyperparameter
Category: basic_concepts
Definition
В отличие от параметров модели (весов и смещений), которые обучаются на данных в процессе тренировки, гиперпараметры — это внешние настройки, выбираемые специалистом до начала обучения. Они контролируют структуру модели, скорость обучения и другие аспекты процесса оптимизации.
Summary
Переменная конфигурации, значение которой устанавливается до начала процесса обучения и управляет поведением алгоритма обучения.
Key Concepts
- Скорость обучения
- Размер батча
- Архитектура модели
- Регуляризация
Use Cases
- Настройка обучения нейронных сетей
- Настройка шагов градиентного спуска
- Определение глубины дерева в случайном лесу