后训练

term_id: post_training

Category: training_techniques

Definition

后训练是机器学习生命周期中的一个关键阶段,发生在模型基于大规模通用数据进行初始预训练之后。在此阶段,模型会经历进一步的调整和优化,以更好地服务于特定应用场景。

Summary

后训练是指在特定数据集上对预训练模型进行微调,使其适应特定任务或优化性能的阶段。

Key Concepts

  • 微调
  • 人类反馈强化学习 (RLHF)
  • 量化
  • 适配

Use Cases

  • 使大语言模型符合人类偏好
  • 优化模型体积以适应边缘设备
  • 将模型专业化用于医疗诊断