Rademacher complexity
term_id: rademacher_complexity
Category: basic_concepts
Definition
Rademacher 복잡성은 가설 클래스가 무작위 레이블(노이즈)과 얼마나 잘 상관관계가 있는지 평가합니다. 이는 모델의 용량(capacity)이나 유연성의 대리 변수로 작용합니다. 낮은 복잡성은 더 나은 일반화를 시사합니다.
Summary
함수 클래스가 무작위 노이즈에 얼마나 잘 적합할 수 있는지를 통해 함수 클래스의 풍부함을 정량화하는 학습 이론의 통계적 측정치입니다.
Key Concepts
- 일반화 한계
- 모델 용량
- 과적합
- 통계적 학습 이론
Use Cases
- SVM(서포트 벡터 머신)의 이론적 분석
- 수렴 속도 유도
- 모델 클래스 비교