一种基于模型反演与蒸馏的联邦学习图像识别方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种基于模型反演与蒸馏的联邦学习图像识别方法
申请号:CN202411967201
申请日期:2024-12-30
公开号:CN119785110B
公开日期:2025-10-10
类型:发明专利
摘要
本发明公开了一种基于模型反演与蒸馏的联邦学习图像识别方法,包括:1.在各个客户端上训练本地图像模型并上传到联邦中心服务器;2.联邦中心服务器接收本地图像模型并进行加权聚合;3.联邦中心服务器利用本地图像模型进行深度反演来构建合成数据集;4.联邦中心服务器利用合成数据集进行图元重标记和知识蒸馏;5.对全局图像模型参数进行迭代优化,得到最优参数的全局模型并下发给各个客户端用于图像识别。本发明采用深度反演方法合成数据,并通过注意力权重对生成的不同信息密度的图元进行筛选,并在后续知识蒸馏阶段对信息密度低的图元利用集成模型进行重标记,从而解决针对数据异构场景下单次通信联邦学习的图像识别问题。
技术关键词
中心服务器 噪声样本 图像识别方法 客户端 图元 蒸馏 密度 深度反演方法 标签 数据 注意力 标记 随机梯度下降 超参数 可读存储介质 掩码矩阵 像素