Độ phức tạp Rademacher
term_id: rademacher_complexity
Category: basic_concepts
Definition
Độ phức tạp Rademacher đánh giá mức độ mà một lớp giả thuyết có thể tương quan với các nhãn ngẫu nhiên (nhiễu). Nó đóng vai trò là đại diện cho năng lực hoặc độ linh hoạt của mô hình. Độ phức tạp thấp hơn gợi ý khả năng tổng quát hóa tốt hơn.
Summary
Một thước đo thống kê được sử dụng trong lý thuyết học để định lượng sự phong phú của một lớp hàm thông qua khả năng khớp với nhiễu ngẫu nhiên.
Key Concepts
- Giới hạn tổng quát hóa
- Năng lực mô hình
- Hiện tượng quá khớp
- Lý thuyết học thống kê
Use Cases
- Phân tích lý thuyết của SVM
- Suy ra tốc độ hội tụ
- So sánh các lớp mô hình
Related Terms
- Chiều VC (VC dimension - Một khái niệm đo lường độ phức tạp của một lớp hàm)
- Lỗi tổng quát hóa (Generalization error - Sự chênh lệch giữa hiệu suất trên tập huấn luyện và tập kiểm tra)
- Học PAC (PAC learning - Khung lý thuyết về học máy có thể học được)
- Sự đánh đổi thiên vị-phương sai (Bias-variance tradeoff - Sự cân bằng giữa độ chệch và phương sai của mô hình)