Descida de Gradiente Estocástica Diferencialmente Privada

term_id: differentially_private_stochastic_gradient_descent

Category: training_techniques

Definition

DP-SGD é uma variante da Descida de Gradiente Estocástica projetada para proteger a privacidade dos dados de treinamento. Ela funciona limitando a contribuição do gradiente de cada amostra para restringir a sensibilidade e, em seguida, adicionando

Summary

Um algoritmo de otimização que modifica a SGD padrão ao limitar os gradientes e adicionar ruído para garantir que o modelo treinado satisfaça as restrições de privacidade diferencial.

Key Concepts

  • Limitação de Gradiente
  • Injeção de Ruído Gaussiano
  • Amostragem de Amostras
  • Contabilidade de Privacidade

Use Cases

  • Treinamento de redes neurais profundas em dados privados de usuários
  • Modelagem preditiva na saúde
  • Detecção de fraude financeira com dados regulados