预训练

term_id: pre_trained

Category: training_techniques

Definition

预训练模型是一种基础人工智能模型，已在海量且多样化的数据集（如维基百科或ImageNet）上进行了广泛训练。这种初始训练使模型能够学习到广泛通用的特征表示。

Summary

预训练模型是指已在大型数据集上训练过的神经网络，旨在学习通用特征，以便后续针对特定任务进行调整。

Key Concepts

迁移学习
基础模型
特征提取
权重初始化

Use Cases

使用大语言模型构建聊天机器人
使用ResNet进行图像分类
使用BERT进行情感分析