Otimização bayesiana
term_id: bayesian_optimization
Category: training_techniques
Definition
A otimização bayesiana utiliza um modelo probabilístico substituto (surrogate), tipicamente um Processo Gaussiano, para modelar a função objetivo. Ela emprega uma função de aquisição para equilibrar a exploração (busca de regiões incertas) e a exploração (refinamento de regiões promissoras), selecionando iterativamente o próximo ponto a ser avaliado com base no ganho esperado de informação ou melhoria na função objetivo.
Summary
Uma estratégia de projeto sequencial para a otimização global de funções de caixa preta que são custosas de avaliar.
Key Concepts
- Modelo Substituto
- Função de Aquisição
- Exploração vs. Exploração
- Otimização de Caixa Preta
Use Cases
- Ajuste de hiperparâmetros para modelos de aprendizado profundo
- Otimização de projetos experimentais em ciências
- Ajuste de parâmetros de controle em robótica