Preferenciatanulás

term_id: preference_learning

Category: training_techniques

Definition

A preferenciatanulás arra fókuszál, hogy a modelleket megtanítsa megkülönböztetni a jó és a rossz kimeneteket az abszolút címkék helyett az emberi ítéletek alapján. Ez általában válaszpárok gyűjtését foglalja magában, ahol az emberek azt jelzik, melyik választ részesítik előnyben, majd ezekből a preferenciákból jutalommodellt vagy közvetlen optimalizációs stratégiát vezetnek le.

Summary

Egy technika, amely összehasonlító visszajelzések segítségével olyan modelleket képez, amelyek kimenetei igazodnak az emberi preferenciákhoz.

Key Concepts

  • Emberi visszajelzés
  • Páros összehasonlítás
  • Jutalommodellezés
  • Igazítás

Use Cases

  • RLHF nagy nyelvi modellek esetén
  • Ajánlórendszerek
  • Tartalommoderálás szűrése