模型参数的量化方法、模型推理方法、装置和设备

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
模型参数的量化方法、模型推理方法、装置和设备
申请号:CN202510897357
申请日期:2025-06-30
公开号:CN120851109A
公开日期:2025-10-28
类型:发明专利
摘要
本公开提供了模型参数的量化方法、模型推理方法、装置和设备,涉及人工智能领域,尤其涉及深度学习、模型量化、模型推理领域。具体实现方案为:根据卷积编码参数进行卷积编码,在第一存储空间保存第一编码空间;其中,该第一编码空间中的一个索引对应的位置存储有多个第一码值,该索引是基于一次卷积编码的多个状态的码元去重后得到的,该索引对应的位置存储的该多个第一码值包括该多个状态的码元;根据该第一编码空间对模型参数进行量化,得到量化结果,该量化结果与该索引具有对应关系。
技术关键词
索引 参数 比特数 推理方法 因子 反量化模块 推理装置 计算机程序产品 关系 解码模块 处理器通信 编码模块 指令 可读存储介质 存储器 电子设备