误差补偿方法及装置、计算机可读存储介质、计算装置

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
误差补偿方法及装置、计算机可读存储介质、计算装置
申请号:CN202510926424
申请日期:2025-07-04
公开号:CN120874892A
公开日期:2025-10-31
类型:发明专利
摘要
提供一种误差补偿方法及装置、计算机可读存储介质、计算装置。该误差补偿方法包括:获取对神经网络模型进行量化获得量化模型的过程中产生的多个权重量化误差中的预定比例的权重量化误差,其中,所述预定比例的权重量化误差是基于所述多个权重量化误差对所述量化模型的精度的影响程度确定的;基于所述预定比例的权重量化误差和所述量化模型的量化权重矩阵,对所述量化模型的输出进行补偿,得到所述量化模型的补偿后的最终输出,从而在保障量化模型的输出结果的精度的情况下,显著减小了用于对量化模型进行误差补偿的数据存储的内存开销。
技术关键词
量化误差 误差补偿方法 矩阵乘法运算 神经网络模型 舍入误差 误差补偿装置 处理器 可读存储介质 索引 精度 存储器 计算机 数据存储 内存