컨텍스트 윈도우

term_id: context_window

Category: engineering_practice

Definition

컨텍스트 윈도우는 단일 상호작용에서 AI 모델의 메모리 작동 한계를 정의합니다. 이는 모델이 이전 대화 기록, 문서 텍스트, 또는 입력 데이터를 얼마나 많이 주의 깊게 살펴볼 수 있는지 결정합니다.

Summary

추론 또는 학습 중 언어 모델이 동시에 처리하고 고려할 수 있는 텍스트나 토큰의 최대 양.

Key Concepts

토큰 제한
어텐션 메커니즘
메모리 제약
입력 길이

Use Cases

긴 문서 요약
챗봇에서 대화 기록 유지
대규모 코드베이스 분석