Dataset:Nvidia/Helpsteer2
term_id: datasetnvidiahelpsteer2
Category: basic_concepts
Definition
Helpsteer2 je pečlivě vybraná sada dat uvolněná společností NVIDIA, která obsahuje párová srovnání odpovědí generovaných velkými jazykovými modely. Zaměřuje se na vícedimenzionální lidské preference, jako je užitečnost, upřímnost, přesnost, srozumitelnost a bezpečnost.
Summary
Vysoce kvalitní sada dat lidských preferencí určená specificky pro trénování modelů odměn v rámci učení z lidské zpětné vazby (RLHF).
Key Concepts
- Učení z lidské zpětné vazby (RLHF)
- Modelování odměn
- Lidské preference
- Zarovnání (Alignment)
Use Cases
- Trénování modelů odměn pro zarovnání velkých jazykových modelů
- Vyhodnocování užitečnosti a bezpečnosti modelů
- Doladění základních modelů pomocí dat preferencí