Voorkeursleren
term_id: preference_learning
Category: training_techniques
Definition
Voorkeursleren richt zich op het leren aan modellen om onderscheid te maken tussen goede en slechte uitvoeren op basis van menselijke oordelen in plaats van absolute labels. Het omvat meestal het verzamelen van paren van responsen waarbij mensen aangeven welke preferentieer hebben, waarna een beloningsmodel wordt getraind om deze voorkeuren te schatten en te optimaliseren.
Summary
Een techniek die modellen traint om uitvoeren af te stemmen op menselijke voorkeuren via vergelijkbare feedback.
Key Concepts
- Menselijke feedback
- Paarsgewijze vergelijking
- Beloningsmodelleren
- Afstemming
Use Cases
- RLHF voor grote taalmodellen
- Aanbevelingssystemen
- Filteren van inhoudsmoderatiewerkzaamheden