模型参数的量化方法、模型推理方法、装置和设备
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
AITNT公众号
AITNT APP
AITNT交流群
搜索
首页
AI资讯
AI技术研报
AI监管政策
AI产品测评
AI商业项目
AI产品热榜
AI专利库
寻求报道
模型参数的量化方法、模型推理方法、装置和设备
申请号:
CN202510897357
申请日期:
2025-06-30
公开号:
CN120851109A
公开日期:
2025-10-28
类型:
发明专利
摘要
本公开提供了模型参数的量化方法、模型推理方法、装置和设备,涉及人工智能领域,尤其涉及深度学习、模型量化、模型推理领域。具体实现方案为:根据卷积编码参数进行卷积编码,在第一存储空间保存第一编码空间;其中,该第一编码空间中的一个索引对应的位置存储有多个第一码值,该索引是基于一次卷积编码的多个状态的码元去重后得到的,该索引对应的位置存储的该多个第一码值包括该多个状态的码元;根据该第一编码空间对模型参数进行量化,得到量化结果,该量化结果与该索引具有对应关系。
技术关键词
索引
参数
比特数
推理方法
因子
反量化模块
推理装置
计算机程序产品
关系
解码模块
处理器通信
编码模块
指令
可读存储介质
存储器
电子设备