Hyperparameter-Optimierung

term_id: hyperparameter_optimization

Category: training_techniques

Definition

Hyperparameter-Optimierung (HPO) bezeichnet das breitere Feld der Automatisierung der Auswahl von Hyperparametern. Während Tuning der allgemeine Akt ist, impliziert HPO oft die Verwendung ausgefeilter Algorithmen wie

Summary

Ein automatisierter Ansatz zur Findung der optimalen Hyperparameter-Konfiguration, der häufig probabilistische Modelle verwendet, um die Suche zu leiten.

Key Concepts

  • Bayessche Optimierung
  • Surrogatmodelle
  • Automated Machine Learning (AutoML)
  • Suchraum

Use Cases

  • AutoML-Pipelines
  • Training großer Modelle
  • Optimierung unter Ressourcenbeschränkungen