חלון הקשר
term_id: context_window
Category: engineering_practice
Definition
חלון ההקשר מגדיר את הגבול התפעולי של הזיכרון של מודל בינה מלאכותית לאינטראקציה בודדת. הוא קובע כמה מהיסטוריית השיחה הקודמת, טקסט מסמך או נתוני קלט המודל יכול להתמקד בהם.
Summary
כמות הטקסט או הסימונים (Tokens) המקסימלית שמודל שפה יכול לעבד ולשקול בו זמנית במהלך הסקה או אימון.
Key Concepts
- מגבלת סימונים
- מנגנון תשומת לב
- אילוצי זיכרון
- אורך קלט
Use Cases
- סיכום מסמכים ארוכים
- שמירה על היסטוריית שיחה בצ’אטבוטים
- ניתוח מאגרי קוד גדולים