摘要
本发明属于深度学习技术领域,公开了一种基于VGP和SU的差分隐私随机梯度下降方法,本发明方法基于DP‑SGD算法提出的一种改进方案,本发明方法将垂直梯度扰动机制VGP和选择性更新机制SU组合起来使用。利用验证集过滤模型更新,将隐私预算分配给增量梯度信息,从而减少噪声注入并提高信息增益。同时,为了进一步优化隐私预算分配,采用分阶段应用策略,在初始训练阶段同时应用VGP和SU,而在后续阶段仅使用SU来应对不断变化的梯度相关性并提高隐私效率;本发明解决了现有技术差分隐私随机梯度(DP‑SGD)方法存在隐私与效用之间的平衡问题和计算效率的问题,适用于深度学习模型。