Fenêtre de contexte
term_id: context_window
Category: engineering_practice
Definition
La fenêtre de contexte définit la limite opérationnelle de la mémoire d’un modèle d’IA pour une interaction unique. Elle détermine la quantité d’historique de conversation précédent, de texte de document ou de données d’entrée que le modèle peut prendre en compte pour générer une réponse cohérente.
Summary
La quantité maximale de texte ou de jetons qu’un modèle de langage peut traiter et prendre en compte simultanément lors de l’inférence ou de l’entraînement.
Key Concepts
- Limite de jetons
- Mécanisme d’attention
- Contraintes de mémoire
- Longueur d’entrée
Use Cases
- Résumé de longs documents
- Maintien de l’historique de conversation dans les chatbots
- Analyse de grandes bases de code