一种基于混合精度量化与模拟退火剪枝的联邦学习训练方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种基于混合精度量化与模拟退火剪枝的联邦学习训练方法
申请号:CN202410765183
申请日期:2024-06-14
公开号:CN118364897B
公开日期:2024-09-03
类型:发明专利
摘要
本发明提供了一种基于混合精度量化与模拟退火剪枝的联邦学习训练方法,通过中央服务器对原始全局模型进行初始化和量化处理后与训练任务同时下发至多个本地工业设备进行反量化处理并通过本地工业产品图像进行训练,得到本地模型;在每个本地工业设备对本地模型进行混合精度量化和剪枝,得到量化损失函数和剪枝后的损失函数;每个本地工业设备根据量化损失函数和剪枝后的损失函数计算综合损失对本地模型进行迭代更新后上传至中央服务器进行反量化处理并聚合得到是否满足预设训练条件的全局模型;若是,则训练结束;否则,将全局模型作为原始全局模型,并返回执行进行初始化和量化处理;有效提升了联邦学习整体的通信和数据传输效率。
技术关键词
学习训练方法 工业设备 工业产品图像 表达式 工业产品表面缺陷 因子 精度 搜索算法 服务器 正则化参数 多尺度 量化误差 位点 客户端 超参数 指标 网络