Набор данных: Nvidia/Helpsteer2
term_id: datasetnvidiahelpsteer2
Category: basic_concepts
Definition
Helpsteer2 — это курируемый набор данных, выпущенный NVIDIA, содержащий попарные сравнения ответов, сгенерированных большими языковыми моделями. Он фокусируется на многомерных предпочтениях людей, таких как полезность, честность и безопасность.
Summary
Высококачественный набор данных предпочтений людей, специально разработанный для обучения моделей вознаграждения в обучении с подкреплением на основе обратной связи от человека (RLHF).
Key Concepts
- RLHF
- Моделирование вознаграждения
- Человеческие предпочтения
- Согласование (Alignment)
Use Cases
- Обучение моделей вознаграждения для согласования больших языковых моделей
- Оценка полезности и безопасности моделей
- Тонкая настройка базовых моделей с использованием данных о предпочтениях