Παράθυρο Πλαισίου
term_id: context_window
Category: engineering_practice
Definition
Το παράθυρο πλαισίου ορίζει το λειτουργικό όριο της μνήμης ενός μοντέλου τεχνητής νοημοσύνης για μια μεμονωμένη αλληλεπίδραση. Καθορίζει πόσο ιστορικό συνομιλίας, κείμενο εγγράφου ή δεδομένα εισόδου μπορεί να «προσελκύσει» (attention) το μοντέλο για να παράγει ακριβείς αποκρίσεις.
Summary
Η μέγιστη ποσότητα κειμένου ή συμβόλων (tokens) που ένα γλωσσικό μοντέλο μπορεί να επεξεργαστεί και να λάβει υπόψη ταυτόχρονα κατά την εκτέλεση ή την εκπαίδευση.
Key Concepts
- Όριο Συμβόλων
- Μηχανισμός Προσοχής
- Περιορισμοί Μνήμης
- Μήκος Εισόδου
Use Cases
- Σύνοψη μεγάλων εγγράφων
- Διατήρηση ιστορικού συνομιλίας σε chatbots
- Ανάλυση μεγάλων βάσεων κώδικα