Bayesiläinen optimointi

term_id: bayesian_optimization

Category: training_techniques

Definition

Bayesiläinen optimointi käyttää todennäköisyyteen perustuvaa sijaismallia (yleensä Gaussin prosessi) mallintamaan kohdefunktiota. Se käyttää hankintafunktiota (acquisition function) tasapainottaakseen tutkimista (exploration) ja hyödyntämistä (exploitation) tehokkaasti.

Summary

Järjestelmällinen suunnittelustrategia mustan laatikon funktioiden globaaliin optimointiin, joiden arviointi on kallista.

Key Concepts

  • Sijaismalli
  • Hankintafunktio
  • Tutkiminen vs. hyödyntäminen
  • Mustan laatikon optimointi

Use Cases

  • Syvien oppimismallien hyperparametrien säätö
  • Kokeellisten suunnitelmien optimointi tieteessä
  • Robotiikan ohjausparametrien säätö