Descendența gradientului

term_id: gradient_descent

Category: basic_concepts

Definition

Descendența gradientului este un algoritm iterativ de ordinul întâi pentru găsirea unui minim local al unei funcții derivabile. În învățarea automată, acesta actualizează ponderile modelului în direcția opusă gradientului funcției de cost.

Summary

Un algoritm iterativ de optimizare utilizat pentru minimizarea unei funcții de pierdere prin ajustarea parametrilor modelului.

Key Concepts

  • Funcția de pierdere
  • Rata de învățare
  • Optimizare
  • Propagarea înapoi

Use Cases

  • Antrenarea rețelelor neuronale profunde
  • Reglarea parametrilor pentru regresia liniară
  • Optimizarea modelelor de recunoaștere a imaginilor