Dừng sớm (Early Stopping)
term_id: early_stopping
Category: training_techniques
Definition
Dừng sớm là một dạng chính quy hóa được sử dụng chủ yếu trong các quá trình huấn luyện lặp như hạ gradient. Trong quá trình huấn luyện, hiệu suất của mô hình trên dữ liệu huấn luyện thường cải thiện liên tục, nhưng hiệu suất trên dữ liệu kiểm tra có thể bắt đầu giảm đi nếu mô hình bắt đầu ghi nhớ nhiễu thay vì học các mẫu tổng quát.
Summary
Dừng sớm là một kỹ thuật chính quy hóa dừng quá trình huấn luyện khi hiệu suất của mô hình trên tập kiểm tra bắt đầu suy giảm, nhằm ngăn ngừa hiện tượng quá khớp.
Key Concepts
- Chính quy hóa
- Tập kiểm tra
- Ngăn ngừa quá khớp
- Tham số kiên nhẫn
Use Cases
- Huấn luyện mạng nơ-ron
- Các thuật toán tăng cường gradient
- Mô hình dự báo chuỗi thời gian