Dataset:Nvidia/Helpsteer2
term_id: datasetnvidiahelpsteer2
Category: basic_concepts
Definition
Helpsteer2 is een samengestelde dataset uitgebracht door NVIDIA die paarsgewijze vergelijkingen bevat van antwoorden gegenereerd door grote taalmodellen. De focus ligt op meerdimensionale menselijke voorkeuren, zoals behulpzaamheid en veiligheid.
Summary
Een hoogwaardige dataset van menselijke voorkeuren, specifiek ontworpen voor het trainen van beloningsmodellen in versterkend leren van menselijke feedback.
Key Concepts
- RLHF
- Beloningsmodellering
- Menselijke Voorkeuren
- Alignement
Use Cases
- Het trainen van beloningsmodellen voor LLM-alignement
- Het evalueren van behulpzaamheid en veiligheid van modellen
- Het finetunen van basismodellen met voorkeurdata