Dataset:Nvidia/Helpsteer2
term_id: datasetnvidiahelpsteer2
Category: basic_concepts
Definition
Helpsteer2 est un jeu de données soigneusement sélectionné publié par NVIDIA, contenant des comparaisons par paires de réponses générées par de grands modèles de langage (LLM). Il se concentre sur les préférences humaines multidimensionnelles, telles que l’utilité, la correction et l’honnêteté.
Summary
Un jeu de données de haute qualité sur les préférences humaines, conçu spécifiquement pour l’entraînement de modèles de récompense dans le cadre de l’apprentissage par renforcement à partir de retours humains (RLHF).
Key Concepts
- Apprentissage par renforcement à partir de retours humains (RLHF)
- Modélisation de la récompense
- Préférences humaines
- Alignement
Use Cases
- Entraînement de modèles de récompense pour l’alignement des LLM
- Évaluation de l’utilité et de la sécurité des modèles
- Affinage des modèles de base avec des données de préférence