Lång kontext
term_id: long_context
Category: basic_concepts
Definition
Lång kontext avser kapaciteten hos transformer-baserade modeller att hantera omfattande inmatningslängder, ofta bortom standardgränser som 2k eller 4k token. Denna förmåga låter modeller analysera hela dokument, långa konversationer eller stora kodbaser i ett enda steg, vilket förbättrar sammanhangsförståelsen och minneskapaciteten.
Summary
Förmågan hos en språkmodell att bearbeta och behålla information från inmatningssekvenser som innehåller tusentals eller miljontals token.
Key Concepts
- Kontextfönster
- Tokengräns
- Uppmärksamhetsmekanism
- Positionell kodning
Use Cases
- Sammanfattning av hela juridiska avtal
- Analys av kompletta kodbaser
- Bearbetning av ljudtranskript i långformat