自己教師あり学習
term_id: self_supervised_learning
Category: training_techniques
Definition
自己教師あり学習は、アルゴリズムが未ラベルデータ自体から教師信号を作成する技法であり、通常は入力の欠落部分を予測することによって行われます。これは、教師なし学習と…
Summary
モデルが入力データから自身でラベルを生成し、表現を学習するトレーニング手法。
Key Concepts
- 事前学習
- マスク言語モデリング
- コントラスト学習
- 表現学習
Use Cases
- 大規模言語モデルのトレーニング
- 画像表現学習
- 音声認識システム
Code Example
| |