Differentiellt privat stokastisk gradientnedgång
term_id: differentially_private_stochastic_gradient_descent
Category: training_techniques
Definition
DP-SGD är en variant av Stokastisk Gradientnedgång utformad för att skydda integriteten hos träningsdata. Den fungerar genom att klippa bidraget från varje samples gradient för att begränsa känsligheten, och därefter lägga till Gaussiskt brus.
Summary
En optimeringsalgoritm som modifierar standard SGD genom att klippa gradienter och lägga till brus för att säkerställa att den tränade modellen uppfyller krav på differentiell integritet.
Key Concepts
- Gradientklippning
- Insprutning av Gaussiskt brus
- Undersampling av prover
- Integritetsredovisning
Use Cases
- Träna djupa neuronnät på privat användardata
- Prediktiv modellering inom hälsovård
- Detektering av finansiell bedrägeri med reglerad data