Оптимизация гиперпараметров
term_id: hyperparameter_optimization
Category: training_techniques
Definition
Оптимизация гиперпараметров (HPO) относится к более широкой области автоматизации выбора гиперпараметров. В то время как настройка является общим действием, HPO часто подразумевает использование sofisticated алгоритмов, таких как байесовская оптимизация, для эффективного поиска в пространстве параметров.
Summary
Автоматизированный подход к поиску оптимальной конфигурации гиперпараметров, часто использующий вероятностные модели для направления поиска.
Key Concepts
- Байесовская оптимизация
- Суррогатные модели
- Автоматизированное машинное обучение (AutoML)
- Пространство поиска
Use Cases
- Конвейеры AutoML
- Обучение моделей в больших масштабах
- Оптимизация при ограниченных ресурсах