一种基于区间化压缩的联邦微调方法、装置及相关产品

本发明公开了一种基于区间化压缩的联邦微调方法、装置及相关产品，该方法包括：根据目标分区参数，对原始梯度数据进行划分得到至少两个分区位置编码分别对应的分区梯度数据；针对每个分区位置编码，对分区位置编码对应的分区梯度数据进行稀疏化处理得到稀疏位置编码和稀疏梯度数据，并对稀疏梯度数据进行量化处理，得到分区位置编码对应的目标梯度数据；根据至少两个分区位置编码以及每个分区位置编码对应的稀疏位置编码和目标梯度数据，确定目标传输数据；将目标传输数据发送给服务端，以使服务端根据接收到的至少两个客户端分别发送的目标传输数据，对通用预训练模型进行微调处理，提高了联邦微调流程中的数据压缩效果。