Βελτιστοποίηση Υπερπαραμέτρων

term_id: hyperparameter_optimization

Category: training_techniques

Definition

Η Βελτιστοποίηση Υπερπαραμέτρων (HPO) αναφέρεται στο ευρύτερο πεδίο της αυτοματοποίησης της επιλογής υπερπαραμέτρων. Ενώ η ρύθμιση (tuning) είναι η γενική πράξη, η HPO συχνά υποδηλώνει τη χρήση εξελιγμένων αλγορίθμων όπως

Summary

Μια αυτοματοποιημένη προσέγγιση για την εύρεση της βέλτιστης διαμόρφωσης υπερπαραμέτρων, χρησιμοποιώντας συχνά πιθανοτικά μοντέλα για την καθοδήγηση της αναζήτησης.

Key Concepts

  • Μπεϋζιανή Βελτιστοποίηση
  • Μοντέλα Υποκατάστασης
  • Αυτοματοποιημένη ΤΝ (AutoML)
  • Χώρος Αναζήτησης

Use Cases

  • Ροές εργασίας AutoML
  • Εκπαίδευση μοντέλων σε μεγάλη κλίμακα
  • Βελτιστοποίηση υπό περιορισμούς πόρων