自监督学习
term_id: self_supervised_learning
Category: training_techniques
Definition
自监督学习是一种技术，算法从无标签数据本身创建监督信号，通常通过预测输入的缺失部分来实现。它弥合了无监督学习和…
Summary
一种训练方法，模型从输入数据中生成自己的标签以学习表示。
Key Concepts
- 预训练
- 掩码语言建模
- 对比学习
- 表示学习
Use Cases
- 训练大型语言模型
- 图像表示学习
- 语音识别系统
Code Example
| |