Hạ bậc kép
term_id: double_descent
Category: basic_concepts
Definition
Hạ bậc kép thách thức sự đánh đổi truyền thống giữa thiên vị và phương sai bằng cách chỉ ra rằng các mô hình quá tham số hóa cao có thể đạt được sai số kiểm tra thấp mặc dù chúng nội suy dữ liệu huấn luyện. Ban đầu, sai số tăng lên khi độ phức tạp mô hình tăng.
Summary
Hiện tượng mà sai số kiểm tra giảm, tăng rồi lại giảm tiếp khi độ phức tạp của mô hình vượt qua ngưỡng nội suy.
Key Concepts
- Ngưỡng nội suy
- Quá tham số hóa
- Đánh đổi Thiên vị - Phương sai
- Sai số kiểm tra
Use Cases
- Phân tích các quy luật mở rộng mạng nơ-ron
- Hiểu về khả năng tổng quát hóa trong học sâu
- Lựa chọn mô hình trong các hệ thống AI quy mô lớn