数据集：Nvidia/Helpsteer2

term_id: datasetnvidiahelpsteer2

Category: basic_concepts

Definition

Helpsteer2 是由 NVIDIA 发布的一个精心策划的数据集，包含由大型语言模型生成的响应的成对比较。它侧重于多维度的偏好，如有用性、诚实度等。

Summary

一个专为在人类反馈强化学习（RLHF）中训练奖励模型而设计的高质量人类偏好数据集。

Key Concepts

  • RLHF
  • 奖励建模
  • 人类偏好
  • 对齐

Use Cases

  • 为LLM对齐训练奖励模型
  • 评估模型的有用性和安全性
  • 使用偏好数据微调基础模型

Related