Descente de gradient

term_id: gradient_descent

Category: basic_concepts

Definition

La descente de gradient est un algorithme d’optimisation itératif du premier ordre visant à trouver le minimum local d’une fonction différentiable. En apprentissage automatique, elle met à jour les poids du modèle dans la direction opposée au gradient de la fonction de perte.

Summary

Un algorithme d’optimisation itératif utilisé pour minimiser une fonction de perte en ajustant les paramètres du modèle.

Key Concepts

  • Fonction de perte
  • Taux d’apprentissage
  • Optimisation
  • Rétropropagation

Use Cases

  • Entraînement de réseaux neuronaux profonds
  • Réglage des paramètres de régression linéaire
  • Optimisation des modèles de reconnaissance d’images