差分随机梯度下降
term_id: differentially_private_stochastic_gradient_descent
Category: training_techniques
Definition
DP-SGD 是随机梯度下降的一种变体，旨在保护训练数据的隐私。它通过裁剪每个样本梯度的贡献来限制敏感度，然后添加高斯噪声来实现隐私保护。
Summary
一种优化算法，通过对标准随机梯度下降（SGD）进行梯度裁剪和添加噪声的修改，确保训练后的模型满足差分隐私约束。
Key Concepts
- 梯度裁剪
- 高斯噪声注入
- 样本子采样
- 隐私会计
Use Cases
- 在私有用户数据上训练深度神经网络
- 医疗保健预测建模
- 使用受监管数据进行金融欺诈检测