Ottimizzazione bayesiana
term_id: bayesian_optimization
Category: training_techniques
Definition
L’ottimizzazione bayesiana utilizza un modello surrogato probabilistico, tipicamente un Processo Gaussiano, per modellare la funzione obiettivo. Impiega una funzione di acquisizione per bilanciare esplorazione e sfruttamento, consentendo di
Summary
Una strategia di progettazione sequenziale per l’ottimizzazione globale di funzioni black-box costose da valutare.
Key Concepts
- Modello surrogato
- Funzione di acquisizione
- Esplorazione vs Sfruttamento
- Ottimizzazione black-box
Use Cases
- Sintonizzazione degli iperparametri per modelli di deep learning
- Ottimizzazione dei disegni sperimentali nella scienza
- Regolazione dei parametri di controllo nella robotica