Tercih öğrenimi
term_id: preference_learning
Category: training_techniques
Definition
Tercih öğrenimi, modellerin mutlak etiketler yerine insan yargılarına dayanarak iyi ve kötü çıktılar arasındaki farkı ayırt etmeyi öğretmeye odaklanır. Genellikle, bir çıktı diğerinden daha iyi olduğuna dair insan değerlendirmelerini içeren çiftler halinde yanıt koleksiyonlarını içerir. Bu yöntem, özellikle büyük dil modellerinin güvenliğini ve faydalılığını artırmak için kritik öneme sahiptir.
Summary
Karşılaştırmalı geri bildirim kullanarak modellerin çıktılarını insan tercihleriyle hizalamayı hedefleyen bir tekniktir.
Key Concepts
- İnsan geri bildirimi
- Çift karşılaştırma
- Ödül modelleme
- Hizalama
Use Cases
- LLM’ler için RLHF (Pekiştirmeli Öğrenme ile İnsan Geri Bildirimi)
- Öneri sistemleri
- İçerik moderasyonu filtreleme