Gradientenafstijging

term_id: gradient_descent

Category: basic_concepts

Definition

Gradientenafstijging is een iteratief optimalisatiealgoritme van de eerste orde om een lokaal minimum van een differentieerbare functie te vinden. In machine learning worden modelgewichten bijgewerkt in de tegenovergestelde richting van de gradient van de verliesfunctie.

Summary

Een iteratief optimalisatiealgoritme dat wordt gebruikt om een verliesfunctie te minimaliseren door modelparameters aan te passen.

Key Concepts

  • Verliesfunctie
  • Leersnelheid
  • Optimalisatie
  • Backpropagatie

Use Cases

  • Opleiden van diepe neurale netwerken
  • Tunen van lineaire regressieparameters
  • Optimalisatie van beeldherkenningsmodellen