一种基于网络块拓扑序列的精度性能调优方法、系统、设备及存储介质

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种基于网络块拓扑序列的精度性能调优方法、系统、设备及存储介质
申请号:CN202511022068
申请日期:2025-07-24
公开号:CN121031280A
公开日期:2025-11-28
类型:发明专利
摘要
本发明公开一种基于网络块拓扑序列的精度性能调优方法、系统、设备及存储介质,通过网络块拓扑序列划分和迭代式混合精度优化,在NVIDIA芯片平台上实现精度与性能的最佳平衡,采用块级粒度的混合精度配置,结合动态调整机制,相比传统全局混合精度方法,能够在保持原始精度的同时提升2‑5倍推理速度,通过多拓扑序列并行处理和trtexec工具,显著优化了复杂模型的部署效率,满足多种应用场景下的实时性要求。
技术关键词
性能调优方法 序列 精度 网络 动态调整机制 通信接口 存储计算机程序 存储器 处理器 平台 基准 芯片 输出模块 分析模块 电子设备 脚本 关系