Descente de gradient stochastique différentiellement privée
term_id: differentially_private_stochastic_gradient_descent
Category: training_techniques
Definition
La DP-SGD est une variante de la Descente de Gradient Stochastique conçue pour protéger la confidentialité des données d’entraînement. Elle fonctionne en tronquant la contribution du gradient de chaque échantillon pour limiter la sensibilité, puis en ajoutant du bruit gaussien.
Summary
Un algorithme d’optimisation qui modifie la SGD standard en tronquant les gradients et en ajoutant du bruit pour garantir que le modèle entraîné respecte les contraintes de confidentialité différentielle.
Key Concepts
- Troncature des gradients
- Injection de bruit gaussien
- Sous-échantillonnage des échantillons
- Comptabilité de la confidentialité
Use Cases
- Entraînement de réseaux neuronaux profonds sur des données utilisateur privées
- Modélisation prédictive dans le secteur de la santé
- Détection de fraude financière avec des données réglementées