Differentiaalisesti yksityinen stokastinen gradienttipudotus
term_id: differentially_private_stochastic_gradient_descent
Category: training_techniques
Definition
DP-SGD on variantti stokastisesta gradienttipudotuksesta, joka on suunniteltu suojaamaan koulutusdatan yksityisyyttä. Se toimii leikkaamalla jokaisen näytteen gradientin vaikutusta herkkyyden rajoittamiseksi ja lisäämällä sitten Gaussista häiriötä.
Summary
Optimointialgoritmi, joka muokkaa tavallista SGD-algoritmia leikkaamalla gradientteja ja lisäämällä häiriöitä varmistaakseen, että koulutettu malli täyttää differentiaalisen yksityisyyden vaatimukset.
Key Concepts
- Gradientin leikkaus
- Gaussisen häiriön syöttö
- Näytteen alinäytteenotto
- Yksityisyyden kirjanpito
Use Cases
- Syvien neuroverkkojen kouluttaminen yksityisillä käyttäjätiedoilla
- Terveydenhuollon ennustemallinnus
- Rahanpesun havaitseminen säännellyllä datalla