神经网络全局一次性结构化剪枝方法、系统、设备及介质
申请号:CN202511213593
申请日期:2025-08-28
公开号:CN120706492A
公开日期:2025-09-26
类型:发明专利
摘要
本发明涉及一种神经网络全局一次性结构化剪枝方法、系统、设备及介质,其中,方法包括:通过单次前向传播,在待剪枝神经网络中利用校准数据集并行捕获所有目标层的输入激活张量;根据输入激活张量,对各目标层的中间神经元权重组同步计算差分熵指标与幅值响应强度,经归一化与融合后形成静态的全局重要性图谱;按照预设剪枝率确定重要性阈值,基于全局重要性图谱一次性生成所有混合重要性分数低于重要性阈值的全局待剪枝的索引集合;基于索引集合,对各目标层的权重矩阵执行一次性物理结构化剪枝。由此,本发明通过单次前向传播并行捕获激活张量以生成静态全局重要性图谱,并通过物理结构化剪枝完成无掩码一次性剪枝。
技术关键词
剪枝方法
图谱
索引
概率密度函数
事务回滚机制
指标
通道
校准
强度
元素
剪枝设备
独立语义
计算机可执行指令
网络剪枝
矩阵恢复
处理器
可读存储介质
网络深度
物理