Optimizare bayesiană

term_id: bayesian_optimization

Category: training_techniques

Definition

Optimizarea bayesiană utilizează un model surrogate probabilistic, de obicei un Proces Gaussian, pentru a modela funcția obiectiv. Aceasta folosește o funcție de achiziție pentru a echilibra explorarea spațiului de căutare și exploatarea zonelor promițătoare, minimizând numărul de evaluări costisitoare necesare.

Summary

O strategie de proiectare secvențială pentru optimizarea globală a funcțiilor black-box costisitoare de evaluat.

Key Concepts

  • Model surrogate
  • Funcție de achiziție
  • Explorare versus exploatare
  • Optimizare black-box

Use Cases

  • Reglarea hiperparametrilor pentru modelele de învățare profundă
  • Optimizarea designurilor experimentale în știință
  • Ajustarea parametrilor de control în robotica