Dataset:Nvidia/Helpsteer2
term_id: datasetnvidiahelpsteer2
Category: basic_concepts
Definition
Helpsteer2 er et kuratert datasett lansert av NVIDIA som inneholder parvise sammenligninger av svar generert av store språkmodeller. Det fokuserer på flerdimensjonale menneskelige preferanser, som hjelpsomhet
Summary
Et datasett av høy kvalitet med menneskelige preferanser, designet spesielt for å trene belønningmodeller i forsterkning læring fra menneskelig tilbakemelding.
Key Concepts
- RLHF
- Belønningmodellering
- Menneskelige preferanser
- Justering
Use Cases
- Trening av belønningmodeller for justering av store språkmodeller
- Vurdering av modellens hjelpsomhet og sikkerhet
- Finjustering av grunnleggende modeller med preferansedata