Lang kontekst
term_id: long_context
Category: basic_concepts
Definition
Lang kontekst refererer til kapasiteten til transformer-baserte modeller til å håndtere ekstensive inngangslengder, ofte langt over standardgrenser som 2k eller 4k tokens. Denne evnen lar modeller analysere hele dokumenter, kodelager eller samtaler i ett trekk, noe som sikrer bedre sammenheng og forståelse av langdistanse-avhengigheter.
Summary
Evnen til en språkmodell til å beholde og behandle informasjon fra inndata-sekvenser som inneholder tusenvis eller millioner av tokens.
Key Concepts
- Kontekstvindu
- Token-grense
- Oppmerksomhetsmekanisme
- Posisjonell koding
Use Cases
- Oppsummering av komplette juridiske kontrakter
- Analyse av hele kodelagre
- Behandling av lange lydtranskripsjoner