Dataset:Nvidia/Helpsteer2
term_id: datasetnvidiahelpsteer2
Category: basic_concepts
Definition
Helpsteer2 adalah dataset kurasi yang dirilis oleh NVIDIA dan berisi perbandingan berpasangan dari respons yang dihasilkan oleh model bahasa besar. Dataset ini berfokus pada preferensi manusia multidimensi, seperti bantuan…
Summary
Sebuah dataset berkualitas tinggi berisi preferensi manusia yang dirancang khusus untuk melatih model imbalan (reward models) dalam pembelajaran penguatan dari umpan balik manusia.
Key Concepts
- RLHF
- Pemodelan Imbalan
- Preferensi Manusia
- Penyelarasan
Use Cases
- Melatih model imbalan untuk penyelarasan LLM
- Mengevaluasi kebermanfaatan dan keamanan model
- Menyetel ulang model dasar dengan data preferensi