토큰 맥싱(Token Maxxing)

term_id: token_maxxing

Category: basic_concepts

Definition

토큰 맥싱은 모델의 컨텍스트 윈도우 전체 용량을 활용하거나, 더 나은 성능을 위해 토큰의 의미 밀도를 최적화하기 위해 입력을 신중하게 구성하는 과정을 포함합니다. 실무자들은 때때로 성능을 높이기 위해 프롬프트를 패딩하거나 정교하게 다듬습니다.

Summary

프롬프트 엔지니어링 기법 중 하나로, 대규모 언어 모델 내에서 특정 토큰 수의 유틸리티 또는 출력 품질을 극대화하는 것을 목표로 합니다.

Key Concepts

프롬프트 엔지니어링
컨텍스트 윈도우
의미 밀도
최적화

Use Cases

LLM 추론 능력 극대화
API 사용 비용 절감
모델 한계 테스트