Finestra di Contesto
term_id: context_window
Category: engineering_practice
Definition
La finestra di contesto definisce il limite operativo della memoria di un modello AI per una singola interazione. Determina quanto della cronologia delle conversazioni precedenti, del testo di un documento o dei dati di input il modello può
Summary
La quantità massima di testo o token che un modello linguistico può elaborare e considerare simultaneamente durante l’inferenza o l’addestramento.
Key Concepts
- Limite di Token
- Meccanismo di Attenzione
- Vincoli di Memoria
- Lunghezza dell’Input
Use Cases
- Riassumere documenti lunghi
- Mantenere la cronologia delle conversazioni nei chatbot
- Analizzare grandi basi di codice