超参数优化
term_id: hyperparameter_optimization
Category: training_techniques
Definition
超参数优化（HPO）指的是自动化选择超参数的更广泛领域。虽然“调优”是一个通用术语，但“优化”通常暗示使用复杂的算法（如贝叶斯优化）来高效地探索超参数空间，从而在有限的计算资源下找到最优配置。
Summary
一种自动寻找最佳超参数配置的方法，通常使用概率模型来指导搜索过程。
Key Concepts
- 贝叶斯优化
- 代理模型
- 自动化机器学习
- 搜索空间
Use Cases
- AutoML 管道
- 大规模模型训练
- 资源受限环境下的优化