Optymalizacja bayesowska

term_id: bayesian_optimization

Category: training_techniques

Definition

Optymalizacja bayesowska wykorzystuje probabilistyczny model zastępczy, zazwyczaj Proces Gaussowski, do modelowania funkcji celu. Stosuje ona funkcję pozyskiwania do zrównoważenia eksploracji i eksploatacji,

Summary

Sekwencyjna strategia projektowania do globalnej optymalizacji funkcji typu black-box, których ewaluacja jest kosztowna.

Key Concepts

  • Model zastępczy
  • Funkcja pozyskiwania
  • Eksploracja kontra eksploatacja
  • Optymalizacja black-box

Use Cases

  • Dopasowywanie hiperparametrów dla modeli głębokiego uczenia
  • Optymalizacja projektów eksperymentalnych w nauce
  • Dostosowywanie parametrów sterowania w robotyce