Học sở thích
term_id: preference_learning
Category: training_techniques
Definition
Học sở thích tập trung vào việc dạy các mô hình phân biệt giữa các đầu ra tốt và xấu dựa trên phán xét của con người thay vì các nhãn tuyệt đối. Nó thường liên quan đến việc thu thập các cặp phản hồi mà tại đó con người chỉ ra lựa chọn ưa thích hơn, sau đó sử dụng dữ liệu này để huấn luyện một mô hình phần thưởng hoặc tối ưu hóa hàm mục tiêu của mô hình chính.
Summary
Một kỹ thuật huấn luyện mô hình căn đầu ra với sở thích của con người bằng cách sử dụng phản hồi so sánh.
Key Concepts
- Phản hồi của con người
- So sánh từng cặp
- Mô hình hóa phần thưởng
- Căn chỉnh
Use Cases
- RLHF cho các mô hình ngôn ngữ lớn
- Hệ thống gợi ý
- Lọc kiểm duyệt nội dung