Инструктивное дообучение
term_id: instruction_tuning
Category: training_techniques
Definition
Этот процесс заполняет разрыв между общим предварительным обучением и выполнением конкретных задач. Предоставляя модели разнообразные пары «инструкция-ответ», она учится обобщать знания для новых, ранее не встречавшихся задач без необходимости…
Summary
Инструктивное дообучение — это техника тонкой настройки, при которой предварительно обученная языковая модель тренируется на наборе данных, содержащем инструкции и соответствующие им ответы, для улучшения способности выполнять задачи.
Key Concepts
- Тонкая настройка
- Обучение с учителем
- Нулевое обобщение (zero-shot)
- Согласование с человеком
Use Cases
- Создание чат-ботов
- Повышение точности генерации кода
- Согласование моделей с правилами безопасности