コンテキストウィンドウ

term_id: context_window

Category: engineering_practice

Definition

コンテキストウィンドウは、単一の対話におけるAIモデルのメモリの動作限界を定義します。これは、モデルが過去の会話履歴、ドキュメントのテキスト、または入力データのどの程度に注意を向けることができるかを決定します。

Summary

推論またはトレーニング中に言語モデルが同時に処理し、考慮できるテキストまたはトークンの最大量。

Key Concepts

トークン制限
アテンションメカニズム
メモリ制約
入力長

Use Cases

長文書の要約
チャットボットでの会話履歴の維持
大規模なコードベースの分析