하이퍼파라미터 최적화
term_id: hyperparameter_optimization
Category: training_techniques
Definition
하이퍼파라미터 최적화(HPO)는 하이퍼파라미터 선택을 자동화하는 더 넓은 분야를 지칭합니다. 튜닝이 일반적인 행위를 의미한다면, HPO는 베이지안 최적화와 같은 정교한 알고리즘의 사용을 종종 암시합니다.
Summary
확률 모델을 사용하여 탐색을 안내함으로써 최적의 하이퍼파라미터 구성을 찾는 자동화된 접근 방식입니다.
Key Concepts
- 베이지안 최적화
- 대리 모델
- 자동 머신러닝
- 탐색 공간
Use Cases
- AutoML 파이프라인
- 대규모 모델 학습
- 자원 제약 하의 최적화