一种动态神经网络的编译执行方法、装置、设备及介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种动态神经网络的编译执行方法、装置、设备及介质
申请号:CN202510300600
申请日期:2025-03-14
公开号:CN119806541B
公开日期:2025-05-27
类型:发明专利
摘要
本发明公开了一种动态神经网络的编译执行方法、装置、设备及介质。包括:在编译阶段根据芯片参数计算出各动态融合片段对应的最佳融合切片;根据最佳融合切片获取所对应的动态融合片段匹配的静态融合片段,并将各动态融合片段和匹配的静态融合片段构成融合单元;在执行阶段获取动态神经网络的循环标量控制逻辑,并基于循环标量控制逻辑动态调用融合单元。在不依赖形状信息的情况下获取各动态融合片段适合硬件缓存大小的最佳融合切片,并基于最佳融合切片将动态融合片段转换为静态融合片段,以消除动态形状的相关计算节点,在执行阶段则可以对静态融合片段进行动态调度规划,极大的提升了动态神经网络的执行效率。
技术关键词
动态神经网络 切片 编译执行方法 节点 存储芯片 逻辑 编译执行装置 阶段 数值 依赖形状 计算机可执行指令 参数 贪心算法 处理器 计算机设备 内存 存储器 数据