Preferenciatanulás
term_id: preference_learning
Category: training_techniques
Definition
A preferenciatanulás arra fókuszál, hogy a modelleket megtanítsa megkülönböztetni a jó és a rossz kimeneteket az abszolút címkék helyett az emberi ítéletek alapján. Ez általában válaszpárok gyűjtését foglalja magában, ahol az emberek azt jelzik, melyik választ részesítik előnyben, majd ezekből a preferenciákból jutalommodellt vagy közvetlen optimalizációs stratégiát vezetnek le.
Summary
Egy technika, amely összehasonlító visszajelzések segítségével olyan modelleket képez, amelyek kimenetei igazodnak az emberi preferenciákhoz.
Key Concepts
- Emberi visszajelzés
- Páros összehasonlítás
- Jutalommodellezés
- Igazítás
Use Cases
- RLHF nagy nyelvi modellek esetén
- Ajánlórendszerek
- Tartalommoderálás szűrése