Differensielt privat stokastisk gradientnedstigning
term_id: differentially_private_stochastic_gradient_descent
Category: training_techniques
Definition
DP-SGD er en variant av Stokastisk Gradientnedstigning designet for å beskytte personvernet til treningsdata. Den fungerer ved å klippe bidraget fra hver prøves gradient for å begrense sensitiviteten, og deretter legge til G
Summary
En optimeringsalgoritme som modifiserer standard SGD ved å klippe graidenter og legge til støy for å sikre at den trente modellen oppfyller kravene til differensielt personvern.
Key Concepts
- Gradientklipping
- Injisering av Gaussisk støy
- Undersampling av prøver
- Personvernberegning
Use Cases
- Trening av dype nevrale nettverk på privat brukerdata
- Prediktiv modellering innen helsevesenet
- Deteksjon av finanssvindel med regulerte data