一种基于重要性采样的异构联邦模型调节方法

本发明涉及一种基于重要性采样的异构联邦模型调节方法，属于计算模型领域，方法包括：S1、通过相似感知层分析对层的重要性进行量化分析，对中心服务器的每一层进行分析，得到重要性得分，从而得到针对层的重要性分布；S2、基于S1得到的层级重要性分布进行概率采样，生成适用于异构客户端的子模型提取二进制掩码，以提升模型结构与资源条件的匹配度；S3、每个客户端通过二进制掩码提取子模型并完成本地部署；S4、引入TSDL和SDL进行本地训练，并将lora参数上传并聚合；S5、重复S2‑S4的步骤，直至收敛。本发明引入TSDL可以缓解局部聚合带来的聚合不均的问题；引入SDL可以缓解数据异质性的问题。