基于模型参数相似性检测的后门攻击防御方法、程序、设备及存储介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于模型参数相似性检测的后门攻击防御方法、程序、设备及存储介质
申请号:CN202411477144
申请日期:2024-10-22
公开号:CN119442234B
公开日期:2025-10-28
类型:发明专利
摘要
本发明属于联邦学习安全防御技术领域,具体涉及基于模型参数相似性检测的后门攻击防御方法、程序、设备及存储介质。本发明通过分析每个模型的更新幅度和输出的变化,去反映客户端数据样本分布是否发生变化,以此来发现异常模型更新。本发明为每个模型维护了历史模型更新幅度和历史输出分类结果的记录,并计算与当前更新幅度和输出结果的平均相似度,基于这些平均相似度去综合评估客户端的数据样本分布是否发生变化,结合模型参数归一化技术,可以对后门中毒更新进行过滤,同时保留良性的模型更新。
技术关键词
攻击防御方法 模型更新 中心服务器 后门 客户端 参数 列表 计算机程序产品 处理器 计算机设备 可读存储介质 存储器 数据 偏差 指令