模型优化方法、装置、计算机设备及计算机可读存储介质
申请号:CN202410825543
申请日期:2024-06-25
公开号:CN118378725B
公开日期:2024-10-01
类型:发明专利
摘要
本申请涉及一种模型优化方法、装置、计算机设备及计算机可读存储介质。方法包括:获取待优化模型和模型配置参数;基于模型训练框架标识信息对应的模型训练框架对待优化模型进行训练,得到待量化模型;基于模型量化要求对待量化模型推理,得到模型量化参数;基于模型量化参数,确定待量化模型对应的目标量化模型;获取输入资源量范围中至少两类资源量对应的输入数据信息,基于各类资源量对应的输入数据信息对目标量化模型进行推理,得到各类资源量对应的模型性能指标;基于各类资源量对应的模型性能指标的比对结果,确定目标输入资源量;基于目标输入资源量和目标量化模型,确定目标优化模型。采用本申请,能够实现提高优化模型的性能。
技术关键词
框架
模型优化方法
数据
参数
计算机设备
格式
标识
摘要
工具包
可读存储介质
消息
定义
直方图
优化装置
处理器
日志
分析模块
报告
文本