Dyferencjalnie prywatny stochastyczny gradient zstępujący
term_id: differentially_private_stochastic_gradient_descent
Category: training_techniques
Definition
DP-SGD to wariant Stochastycznego Gradientu Zstępującego zaprojektowany w celu ochrony prywatności danych treningowych. Działa poprzez obcinanie wkładu gradientu każdej próbki, aby ograniczyć wrażliwość, a następnie dodanie szumu Gaussa.
Summary
Algorytm optymalizacji modyfikujący standardowy SGD poprzez obcinanie gradientów i dodawanie szumu, aby zapewnić spełnienie przez wytrenowany model ograniczeń różnicowej prywatności.
Key Concepts
- Obcinanie gradientów
- Wstrzykiwanie szumu Gaussa
- Podpróbkowanie próbek
- Rachunek prywatności
Use Cases
- Trening głębokich sieci neuronowych na prywatnych danych użytkowników
- Modelowanie predykcyjne w ochronie zdrowia
- Wykrywanie oszustw finansowych przy użyciu danych regulowanych