Υπερπαράμετρος

term_id: hyperparameter

Category: basic_concepts

Definition

Σε αντίθεση με τις παραμέτρους του μοντέλου (βάρη και προκαταρκτικά σφάλματα/biases) που μαθαίνονται από τα δεδομένα κατά την εκπαίδευση, οι υπερπαράμετροι είναι εξωτερικές ρυθμίσεις που επιλέγονται από τον προγραμματιστή πριν ξεκινήσει η εκπαίδευση. Ελέγχουν τη δομή

Summary

Μια μεταβλητή ρύθμισης της οποίας η τιμή ορίζεται πριν από τη διαδικασία εκπαίδευσης και καθοδηγεί τη συμπεριφορά του αλγορίθμου μάθησης.

Key Concepts

  • Ρυθμός Μάθησης
  • Μέγεθος Ομάδας
  • Αρχιτεκτονική Μοντέλου
  • Κανονικοποίηση

Use Cases

  • Διαμόρφωση εκπαίδευσης νευρωνικών δικτύων
  • Ρύθμιση βημάτων καθοδικής κάμψης (gradient descent)
  • Ορισμός βάτους δέντρου σε τυχαία δάση