基于张量相似度的深度神经网络模型冻结训练优化方法

本发明公开了一种基于张量相似度的深度神经网络模型冻结训练优化方法，本发明参考模型生成模块定期生成单层参考模型以支持实时张量相似度评估；张量相似度计算模块利用激活输出生成归一化Gram矩阵，准确评估活跃层的稳定性；冻结决策模块基于张量相似度的移动平均值，能够平滑评估过程中的瞬时波动，从而作出稳健的冻结决策；张量I/O模块缓存冻结层的前向传播结果，避免重复计算。本发明可有效减少深度神经网络训练过程中反向传播和前向传播的计算量，提高训练过程中的计算资源利用率。本发明在图像分类、目标检测及图像分割等深度神经网络模型训练任务中显著优于现有冻结方法，并在不牺牲模型最终精度的同时提升训练稳定性和效率。