Dataset:Nvidia/Helpsteer2
term_id: datasetnvidiahelpsteer2
Category: basic_concepts
Definition
Helpsteer2 är en kuraterad datamängd släppt av NVIDIA som innehåller parvisa jämförelser av svar genererade av stora språkmodeller. Den fokuserar på multidimensionella mänskliga preferenser, såsom hjälpsamhet
Summary
En högkvalitativ datamängd av mänskliga preferenser som är utformad specifikt för att träna belöningsmodeller inom förstärkningsinlärning från mänsklig feedback.
Key Concepts
- RLHF
- Belöningsmodellering
- Mänskliga preferenser
- Alignering
Use Cases
- Träning av belöningsmodeller för LLM-alignering
- Utvärdering av modellens hjälpsamhet och säkerhet
- Finjustering av basmodeller med preferensdata