Adam
term_id: adam
Category: basic_concepts
Definition
Το Adam (Adaptive Moment Estimation) είναι ένας δημοφιλής αλγόριθμος βελτιστοποίησης πρώτης τάξης βασισμένος στην κλίση, που χρησιμοποιείται στην εκπαίδευση βαθιών νευρωνικών δικτύων. Συνδυάζει τα πλεονεκτήματα δύο άλλων επεκτάσεων της στοχαστικής
Summary
Ένας αλγόριθμος βελτιστοποίησης που υπολογίζει προσαρμοστικούς ρυθμούς μάθησης για κάθε παράμετρο.
Key Concepts
- Κλίση Καθοδικής Μεθόδου
- Ρυθμός Μάθησης
- Ορμή
- Εκτίμηση Διακύμανσης
Use Cases
- Εκπαίδευση Βαθιάς Μάθησης
- Μοντέλα Οπτικής Αναγνώρισης
- Επεξεργασία Φυσικής Γλώσσας
Code Example
| |