ベイズ最適化

term_id: bayesian_optimization

Category: training_techniques

Definition

ベイズ最適化は、通常ガウス過程である確率的な surrogate モデルを使用して目的関数をモデル化します。探索と活用のバランスを取るための取得関数を用い、少ない評価回数で最適なパラメータを見つけます。

Summary

評価コストが高いブラックボックス関数のグローバル最適化のための逐次設計戦略。

Key Concepts

  • サロゲートモデル
  • 取得関数
  • 探索対活用
  • ブラックボックス最適化

Use Cases

  • ディープラーニングモデルのハイパーパラメータチューニング
  • 科学分野における実験デザインの最適化
  • ロボティクス制御パラメータの調整