模型运行方法、装置、计算机设备、存储介质和程序产品

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
模型运行方法、装置、计算机设备、存储介质和程序产品
申请号:CN202510819469
申请日期:2025-06-18
公开号:CN120745688A
公开日期:2025-10-03
类型:发明专利
摘要
本申请涉及一种模型运行方法、装置、计算机设备、存储介质和程序产品。方法包括:获取融合算子对应的融合算子计算图,融合算子计算图是用于描述融合算子的计算图,融合算子计算图为神经网络模型的模型计算图中子图;基于融合算子计算图生成融合算子对应的融合算子执行器,融合算子执行器中包含描述对象、策略确定函数及执行函数,描述对象用于描述融合算子;通过策略确定函数从描述对象中确定融合算子的算子信息,基于算子信息从融合算子的多个实现策略中确定目标实现策略;在执行模型计算图以运行神经网络模型的过程中,当执行到融合算子计算图时,调用执行函数执行目标实现策略以实现执行融合算子计算图。采用本方法能够提升模型运行效率。
技术关键词
神经网络模型 执行器 策略 模型运行方法 对象 模版 元素 计算机设备 参数 中子 计算机程序产品 处理器 尺寸 动态更新 可读存储介质 模块 存储器