摘要
本发明涉及神经网络模型压缩技术领域,公开一种基于通道排序与动态正则化的模型压缩方法和系统,方法包括:对目标忆组神经网络中的卷积层的输入通道,进行排序并划分为多个通道组;确定每个通道组的初始可训练缩放因子,根据每个通道组的初始可训练缩放因子和权重矩阵,确定每个权重值的二进制表示;构建正则化损失函数;训练目标忆组神经网络,并基于正则化损失函数计算预测输出和期望输出的损失值;使用反向传播算法,计算损失函数值相对于目标忆组神经网络的可训练参数的梯度,并根据计算出的所述梯度,使用优化算法更新所述可训练参数的值,最终将压缩好的忆组神经网络部署到忆组阵列上,本发明能够在保证模型精度的前提下提升压缩率。