Gradientenabstieg
term_id: gradient_descent
Category: basic_concepts
Definition
Der Gradientenabstieg ist ein iterativer Optimierungsalgorithmus erster Ordnung zur Findung eines lokalen Minimums einer differenzierbaren Funktion. Im maschinellen Lernen aktualisiert er die Modellgewichte in entgegengesetzter Richtung des Gradienten.
Summary
Ein iterativer Optimierungsalgorithmus zur Minimierung einer Verlustfunktion durch Anpassung der Modellparameter.
Key Concepts
- Verlustfunktion
- Lernrate
- Optimierung
- Rückwärtspropagierung
Use Cases
- Training tiefer neuronaler Netze
- Feinabstimmung der Parameter bei linearer Regression
- Optimierung von Bilderkennungsmodellen