Байесовская оптимизация
term_id: bayesian_optimization
Category: training_techniques
Definition
Байесовская оптимизация использует вероятностную модель-суррогат, обычно гауссовский процесс, для моделирования целевой функции. Она применяет функцию приобретения для балансировки между исследованием и использованием
Summary
Стратегия последовательного проектирования для глобальной оптимизации «черных ящиков», оценка которых требует больших затрат.
Key Concepts
- Модель-суррогат
- Функция приобретения
- Исследование против использования
- Оптимизация «черного ящика»
Use Cases
- Настройка гиперпараметров для глубоких нейронных сетей
- Оптимизация экспериментальных дизайнов в науке
- Настройка параметров управления роботами