インストラクションチューニング
term_id: instruction_tuning
Category: training_techniques
Definition
このプロセスは、一般的な事前学習と特定のタスクパフォーマンスのギャップを埋めます。多様な指示-応答ペアにモデルを曝露させることで、追加の
Summary
インストラクションチューニングとは、事前学習済み言語モデルを、指示とその対応する応答からなるデータセットで訓練し、タスク遂行能力を向上させるファインチューニング手法です。
Key Concepts
- ファインチューニング
- 教師あり学習
- ゼロショット汎化
- 人間とのアライメント
Use Cases
- チャットボットの構築
- コード生成精度の向上
- モデルを安全ガイドラインに合わせる