Descendența Gradientului Stohastic Diferențial Privată

term_id: differentially_private_stochastic_gradient_descent

Category: training_techniques

Definition

DP-SGD este o variantă a Descendenței Gradientului Stohastic concepută pentru a proteja confidențialitatea datelor de antrenament. Funcționează prin cliparea contribuției gradientului fiecărei mostre pentru a limita sensibilitatea, apoi adăugând zgomot Gaussian.

Summary

Un algoritm de optimizare care modifică SGD standard prin cliparea gradientelor și adăugarea de zgomot pentru a asigura ca modelul antrenat să respecte constrângerile de confidențialitate diferențială.

Key Concepts

  • Cliparea Gradientului
  • Injectarea Zgomotului Gaussian
  • Subeșantionarea Mostrelor
  • Contabilitatea Confidențialității

Use Cases

  • Antrenarea rețelelor neuronale profunde pe date private ale utilizatorilor
  • Modelarea predictivă în sănătate
  • Detectarea fraudei financiare cu date reglementate