Ρυθμός
term_id: rate
Category: basic_concepts
Definition
Στην ΤΝ, ο όρος ‘ρυθμός’ αναφέρεται συχνότερα στον ρυθμό μάθησης, μια υπερπαράμετρο που ελέγχει κατά πόσο θα αλλάξει το μοντέλο ως απόκριση στο εκτιμώμενο σφάλμα κάθε φορά που ενημερώνονται τα βάρη του. Ένας υψηλός ρυθμός μπορεί να οδηγήσει σε αστάθεια, ενώ ένας πολύ χαμηλός σε αργή σύγκλιση.
Summary
Μέτρηση συχνότητας ή ταχύτητας, αναφερόμενη συνήθως στους ρυθμούς μάθησης στη βελτιστοποίηση ή στις ταχύτητες παραγωγής tokens.
Key Concepts
- Ρυθμός Μάθησης
- Βελτιστοποίηση
- Παραγωγικότητα (Throughput)
- Υπερπαράμετρος
Use Cases
- Βελτιστοποίηση κλίσης (Gradient Descent)
- Παρακολούθηση ορίων χρήσης API
- Μέτρηση καθυστέρησης εξαγωγής συμπερασμάτων
Code Example
| |