Descenso de Gradiente Estocástico Diferencialmente Privado

term_id: differentially_private_stochastic_gradient_descent

Category: training_techniques

Definition

DP-SGD es una variante del Descenso de Gradiente Estocástico diseñada para proteger la privacidad de los datos de entrenamiento. Funciona recortando la contribución del gradiente de cada muestra para limitar la sensibilidad, y luego añadiendo G

Summary

Un algoritmo de optimización que modifica el SGD estándar recortando los gradientes y añadiendo ruido para garantizar que el modelo entrenado cumpla con las restricciones de privacidad diferencial.

Key Concepts

  • Recorte de Gradientes
  • Inyección de Ruido Gaussiano
  • Muestreo de Muestras
  • Contabilidad de Privacidad

Use Cases

  • Entrenamiento de redes neuronales profundas con datos privados de usuarios
  • Modelado predictivo en el sector sanitario
  • Detección de fraude financiero con datos regulados