Kontekstiikkuna
term_id: context_window
Category: engineering_practice
Definition
Kontekstiikkuna määrittelee tekoälymallin muistin toiminnallisen rajan yhdelle vuorovaikutuskerralle. Se määrää, kuinka paljon aiempaa keskusteluhistoriaa, asiakirjan tekstiä tai syöttödataa malli voi ottaa huomioon samanaikaisesti.
Summary
Teksti- tai tokenmäärän enimmäismäärä, jonka kielimalli voi käsitellä ja huomioida samanaikaisesti päättelyn tai koulutuksen aikana.
Key Concepts
- Tokeniraja
- Huomiomekanismi
- Muistirajoitteet
- Syötteen pituus
Use Cases
- Pitkien asiakirjojen tiivistäminen
- Keskusteluhistorian ylläpito chatboteissa
- Laajojen koodipohjien analysointi