Bayessche Optimierung

term_id: bayesian_optimization

Category: training_techniques

Definition

Die Bayessche Optimierung verwendet ein probabilistisches Surrogatmodell, typischerweise einen Gaußschen Prozess, um die Zielfunktion zu modellieren. Sie employs eine Acquisition-Funktion, um Exploration und Exploitation auszubalancieren, sodass

Summary

Eine sequenzielle Designstrategie zur globalen Optimierung von Black-Box-Funktionen, deren Auswertung teuer ist.

Key Concepts

  • Surrogatmodell
  • Acquisition-Funktion
  • Exploration vs. Exploitation
  • Black-Box-Optimierung

Use Cases

  • Hyperparameter-Tuning für Deep-Learning-Modelle
  • Optimierung experimenteller Designs in den Wissenschaften
  • Anpassung von Steuerungsparametern in der Robotik