量化计算方法、装置、电子设备及存储介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
量化计算方法、装置、电子设备及存储介质
申请号:CN202510065478
申请日期:2025-01-15
公开号:CN119783736A
公开日期:2025-04-08
类型:发明专利
摘要
本公开提供了一种量化计算方法、装置、电子设备及存储介质,量化计算方法用于量化计算装置,量化计算装置包括转换模块、计算模块和量化模块,方法包括:所述转换模块获取带有符号的第一输入数据,对带有符号的所述第一输入数据进行符号转换处理,得到无符号的第二输入数据;所述计算模块获取所述第二输入数据,对所述第二输入数据和存储在所述计算模块的带有符号的权重数据进行存内计算,得到第一计算结果;所述量化模块基于所述符号转换处理对应的偏移值对所述第一计算结果进行数据量化,得到量化输出结果。基于本公开的量化计算方法,能够在存算一体芯片上提高数据稀疏性,降低量化复杂度。
技术关键词
量化计算方法 符号 模数转换模块 加法器 参数 电子设备 处理器 可读存储介质 矩阵 阵列 数据总线 规模 存储器 程序 计算机 复杂度 芯片