一种基于VGP和SU的差分隐私随机梯度下降方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种基于VGP和SU的差分隐私随机梯度下降方法
申请号:CN202510014363
申请日期:2025-01-06
公开号:CN119940461A
公开日期:2025-05-06
类型:发明专利
摘要
本发明属于深度学习技术领域,公开了一种基于VGP和SU的差分隐私随机梯度下降方法,本发明方法基于DP‑SGD算法提出的一种改进方案,本发明方法将垂直梯度扰动机制VGP和选择性更新机制SU组合起来使用。利用验证集过滤模型更新,将隐私预算分配给增量梯度信息,从而减少噪声注入并提高信息增益。同时,为了进一步优化隐私预算分配,采用分阶段应用策略,在初始训练阶段同时应用VGP和SU,而在后续阶段仅使用SU来应对不断变化的梯度相关性并提高隐私效率;本发明解决了现有技术差分隐私随机梯度(DP‑SGD)方法存在隐私与效用之间的平衡问题和计算效率的问题,适用于深度学习模型。
技术关键词
随机梯度下降 差分隐私 更新模型参数 样本 深度学习技术 噪声 深度学习模型 模型更新 基线 分阶段 进程 机制 数据 策略 算法
系统为您推荐了相关专利信息
高效训练方法 标签 近似误差 贪婪算法 数据
优化设计方法 压铸模具设计 样本 变量 参数
视网膜眼底图像 动静脉 特征提取模块 分类方法 眼底视网膜
数据分析方法 样本 空调商检技术 风机转速 压缩机
框架构建方法 大语言模型 风电机组 跨模态 无监督