Învățarea preferințelor
term_id: preference_learning
Category: training_techniques
Definition
Învățarea preferințelor se concentrează pe predarea modelelor de a distinge între ieșirile bune și cele rele pe baza judecăților umane, nu a etichetelor absolute. Acest proces implică de obicei colectarea de perechi de răspunsuri sau clasamente, unde un evaluator uman indică preferința sa, permițând modelului să învețe o funcție de recompensă care reflectă valorile și nuanțele umane.
Summary
O tehnică care antrenează modelele să alinieze ieșirile cu preferințele umane folosind feedback comparativ.
Key Concepts
- Feedback uman
- Comparare perechi
- Modelarea recompensei
- Aliniere
Use Cases
- RLHF pentru modelele lingvistice mari (LLMs)
- Sisteme de recomandare
- Filtrarea moderării conținutului