Descent Gradien Stokastik Privasi Diferensial

term_id: differentially_private_stochastic_gradient_descent

Category: training_techniques

Definition

DP-SGD adalah varian dari Stochastic Gradient Descent yang dirancang untuk melindungi privasi data pelatihan. Algoritma ini bekerja dengan melakukan kliping kontribusi gradien dari setiap sampel untuk membatasi sensitivitas, lalu menambahkan noise Gaussian.

Summary

Algoritma optimasi yang memodifikasi SGD standar dengan melakukan kliping gradien dan menambahkan noise untuk memastikan model yang dilatih memenuhi batasan privasi diferensial.

Key Concepts

  • Kliping Gradien
  • Injeksi Noise Gaussian
  • Subsampel Sampel
  • Akuntansi Privasi

Use Cases

  • Melatih jaringan saraf dalam pada data pengguna pribadi
  • Pemodelan prediktif di bidang kesehatan
  • Deteksi penipuan keuangan dengan data yang diatur regulasinya