Diferenciálně soukromý stochastický gradientní sestup
term_id: differentially_private_stochastic_gradient_descent
Category: training_techniques
Definition
DP-SGD je varianta Stochastického gradientního sestupu navržená k ochraně soukromí trénovacích dat. Funguje tak, že ořízne příspěvek gradientu každého vzorku, aby omezila citlivost, a poté přidá Gaussovský šum.
Summary
Optimalizační algoritmus, který upravuje standardní SGD oříznutím gradientů a přidáním šumu, aby zajistil splnění podmínek diferenciálního soukromí trénovaným modelem.
Key Concepts
- Oříznutí gradientu
- Vložení Gaussova šumu
- Subsampleování vzorků
- Účtování soukromí
Use Cases
- Trénování hlubokých neuronových sítí na soukromých uživatelských datech
- Prediktivní modelování ve zdravotnictví
- Detekce podvodů ve financích s regulovanými daty