Kontextusablak
term_id: context_window
Category: engineering_practice
Definition
A kontextusablak meghatározza egy AI-modell memóriájának operatív határát egy adott interakció során. Ez határozza meg, hogy a modell mennyire képes figyelmet fordítani a korábbi beszélgetési előzményekre, dokumentumszövegre vagy bemeneti adatokra.
Summary
A maximális szövegmennyiség vagy tokenek száma, amelyet egy nyelvi modell egyszerre képes feldolgozni és figyelembe venni inference vagy tanítási fázisban.
Key Concepts
- Tokenlimit
- Figyelmet odafigyelő mechanizmus (Attention mechanism)
- Memória-korlátok
- Bemeneti hossz
Use Cases
- Hosszú dokumentumok összefoglalása
- Beszélgetési előzmények megtartása csevegőbotokban
- Nagy kódbázisok elemzése