上下文学习

term_id: in_context_learning

Category: application_paradigms

Definition

上下文学习(ICL)允许大型语言模型在不更新权重的情况下适应新任务。通过在提示上下文中提供输入-输出对,模型可以推断出模式并执行相应任务。

Summary

一种模型通过观察提示中提供的示例来执行任务的技术。

Key Concepts

  • 少样本学习
  • 零样本
  • 提示设计
  • 无权重适配

Use Cases

  • 快速测试模型在新数据集上的能力
  • 对话代理中的动态任务切换
  • 无需重新训练即可原型化AI应用

Code Example

1
2
prompt = "Translate English to French:\nEnglish: Hello\nFrench: Bonjour\nEnglish: Cat\nFrench:"
response = model.generate(prompt)