Jendela Konteks
term_id: context_window
Category: engineering_practice
Definition
Jendela konteks menentukan batas operasional memori model AI untuk satu interaksi tunggal. Batas ini menentukan seberapa banyak riwayat percakapan sebelumnya, teks dokumen, atau data input yang dapat diperhatikan oleh model untuk menghasilkan respons yang koheren.
Summary
Jumlah maksimum teks atau token yang dapat diproses dan dipertimbangkan secara bersamaan oleh model bahasa selama inferensi atau pelatihan.
Key Concepts
- Batas Token
- Mekanisme Perhatian
- Kendala Memori
- Panjang Input
Use Cases
- Meringkas dokumen panjang
- Mempertahankan riwayat percakapan dalam chatbot
- Menganalisis basis kode yang besar