一种自适应精度神经网络训练方法、系统及图像分类方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种自适应精度神经网络训练方法、系统及图像分类方法
申请号:CN202410937603
申请日期:2024-07-12
公开号:CN118898277A
公开日期:2024-11-05
类型:发明专利
摘要
本发明提供一种自适应精度神经网络训练方法和系统,包括:计算模型训练过程中的权重、激活和梯度对模型损失的敏感度度量,衡量各个层量化的影响;基于所述敏感度度量,设计权重、激活和梯度的位宽分配方案,在训练过程每经过一定的训练时间,根据所述敏感度度量对位宽逐层进行动态调整;各个层根据权重、激活和梯度调整后的当前位宽,选择对应的低位整数矩阵计算算子,替换掉原有的浮点计算算子。本发明能够在保证网络训练后的性能的前提下,降低网络训练过程中的计算量,减少神经网络训练在实际场景下的开销。
技术关键词
神经网络训练方法 度量 神经网络训练系统 图像分类方法 图像分类神经网络 精度 因子 矩阵 浮点数 代表 线性 偏差 处理器 对象 动态 可读存储介质 存储器 参数
系统为您推荐了相关专利信息
时间特征模型 跟踪方法 匈牙利算法 增量线性判别分析 在线
轨迹相似性度量 电压控制型逆变器 电力设备 风电场风机 电压控制型并网逆变器
配准方法 雷达 相机 车辆进出监控 轨迹
参数优化方法 Canny边缘检测器 多视角 模型轮廓 点云空间
区域辐射监测仪 数据安全防护方法 数据加密 序列 经验模态分解算法