Cực tiểu hóa rủi ro thực nghiệm
term_id: empirical_risk_minimization
Category: basic_concepts
Definition
Cực tiểu hóa Rủi ro Thực nghiệm (ERM) là hàm mục tiêu tiêu chuẩn để huấn luyện các mô hình học có giám sát. Nó liên quan đến việc lựa chọn một giả thuyết (hypothesis) từ một lớp các hàm sao cho cực tiểu hóa lỗi trung bình (tổng tổn thất) trên tập dữ liệu huấn luyện. ERM dựa trên giả thuyết rằng việc tối ưu hóa hiệu suất trên dữ liệu huấn luyện sẽ dẫn đến khả năng tổng quát hóa tốt trên dữ liệu chưa nhìn thấy.
Summary
Một nguyên tắc cơ bản trong học máy nhằm cực tiểu hóa tổn thất trung bình trên dữ liệu huấn luyện đã quan sát.
Key Concepts
- Hàm tổn thất
- Lỗi huấn luyện
- Khả năng tổng quát hóa
- Quá khớp
Use Cases
- Huấn luyện mô hình hồi quy logistic
- Tối ưu hóa trọng số mạng nơ-ron
- Xây dựng công thức cho Máy vectơ hỗ trợ (SVM)