Dataset:Nvidia/Helpsteer2
term_id: datasetnvidiahelpsteer2
Category: basic_concepts
Definition
Helpsteer2 este un set de date curat, lansat de NVIDIA, care conține comparații perechi ale răspunsurilor generate de modelele lingvistice mari. Se concentrează pe preferințele umane multidimensionale, precum utilitatea, corectitudinea și onestitatea.
Summary
Un set de date de înaltă calitate, bazat pe preferințele umane, conceput special pentru antrenarea modelelor de recompensă în învățarea prin întărire din feedback uman.
Key Concepts
- Învățare prin întărire din feedback uman (RLHF)
- Modelarea recompensei
- Preferințe umane
- Aliniere
Use Cases
- Antrenarea modelelor de recompensă pentru alinierea modelelor lingvistice mari
- Evaluarea utilității și siguranței modelului
- Afinarea modelelor de bază cu date de preferință