コンテキスト内学習

Definition

コンテキスト内学習（ICL）により、大規模言語モデルは重みを更新せずに新しいタスクに適応できます。プロンプトの文脈に入力と出力のペアを提供することで、モデルはそのパターンを推論し、タスクを遂行します。

Summary

モデルがプロンプト内で提供された例を観察することでタスクを実行する方法を学習する技術。

Key Concepts

• フューショット学習
• ゼロショット
• プロンプト設計
• 重みなし適応

Use Cases

• 新しいデータセットに対するモデル能力の迅速なテスト
• 会話エージェントでの動的なタスク切り替え
• 再トレーニングなしでのAIアプリケーションのプロトタイピング

Code Example

1
2

prompt = "Translate English to French:\nEnglish: Hello\nFrench: Bonjour\nEnglish: Cat\nFrench:"
response = model.generate(prompt)

Related Terms

• プロンプトエンジニアリング (Prompt Engineering) (指示設計)
• フューショット (Few-Shot) (少量の例による学習)
• ゼロショット (Zero-Shot) (例なしでの推論)
• メタラーニング (Meta-Learning)