Kontextfenster
term_id: context_window
Category: engineering_practice
Definition
Das Kontextfenster definiert die operative Grenze des Gedächtnisses eines KI-Modells für eine einzelne Interaktion. Es bestimmt, wie viel vorheriger Konversationsverlauf, Dokumenttext oder Eingabedaten das Modell bei der Verarbeitung berücksichtigen kann.
Summary
Die maximale Menge an Text oder Token, die ein Sprachmodell während der Inferenz oder des Trainings gleichzeitig verarbeiten und berücksichtigen kann.
Key Concepts
- Token-Limit
- Aufmerksamkeitsmechanismus
- Speicherbeschränkungen
- Eingabelänge
Use Cases
- Zusammenfassung langer Dokumente
- Aufrechterhaltung des Konversationsverlaufs in Chatbots
- Analyse großer Codebasen