Bayesiansk optimering

term_id: bayesian_optimization

Category: training_techniques

Definition

Bayesiansk optimering använder en probabilistisk surrogatemodell, vanligtvis en Gaussprocess, för att modellera målfunktionen. Den använder en inköpsfunktion för att balansera utforskning och utnyttjande, s

Summary

En sekventiell designstrategi för global optimering av svartboxfunktioner som är dyra att utvärdera.

Key Concepts

  • Surrogatemodell
  • Inköpsfunktion
  • Utforskning kontra utnyttjande
  • Svartboxsoptimering

Use Cases

  • Justering av hyperparametrar för djupa inlärningsmodeller
  • Optimering av experimentella design inom vetenskapen
  • Justering av robotstyrningsparametrar