Lang kontekst
term_id: long_context
Category: basic_concepts
Definition
Lang kontekst refererer til kapaciteten hos transformer-baserede modeller til at håndtere omfattende inputlængder, der ofte overstiger standardgrænser som 2k eller 4k tokens. Denne evne gør det muligt for modellerne at analysere hele dokumenter, lange kodebiblioteker eller omfattende samtaler uden at miste vigtig sammenhæng eller detaljer.
Summary
Evnen hos en sprogmodel til at beholde og behandle information fra inputsekvenser, der indeholder tusindvis eller millioner af tokens.
Key Concepts
- Kontekstvindu
- Token-grænse
- Attention-mekanisme
- Positionel kodning
Use Cases
- Opsummering af fulde juridiske kontrakter
- Analyse af komplette kildekodearkiver
- Behandling af lange transskriptioner af lydoptagelser