一种基于网络块拓扑序列的精度性能调优方法、系统、设备及存储介质
申请号:CN202511022068
申请日期:2025-07-24
公开号:CN121031280A
公开日期:2025-11-28
类型:发明专利
摘要
本发明公开一种基于网络块拓扑序列的精度性能调优方法、系统、设备及存储介质,通过网络块拓扑序列划分和迭代式混合精度优化,在NVIDIA芯片平台上实现精度与性能的最佳平衡,采用块级粒度的混合精度配置,结合动态调整机制,相比传统全局混合精度方法,能够在保持原始精度的同时提升2‑5倍推理速度,通过多拓扑序列并行处理和trtexec工具,显著优化了复杂模型的部署效率,满足多种应用场景下的实时性要求。
技术关键词
性能调优方法
序列
精度
网络
动态调整机制
通信接口
存储计算机程序
存储器
处理器
平台
基准
芯片
输出模块
分析模块
电子设备
脚本
关系