一种用于资源受限设备的深度学习模型编译优化系统

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种用于资源受限设备的深度学习模型编译优化系统
申请号:CN202510678946
申请日期:2025-05-26
公开号:CN120654785A
公开日期:2025-09-16
类型:发明专利
摘要
本发明公开了一种用于资源受限设备的深度学习模型编译优化系统,属于模型编译领域。利用MegCC工具,将MegEngine模型优化并编译为高度高效的可执行代码,以适应特定硬件平台的需求,先转换为ONNX格式,MgeConvert工具转换为MegEngine模型,通过执行mgb‑to‑tinynn工具,将MegCC优化后的模型转换为纯C代码的Kernel,并生成相应的模型文件。通过JSON文件指定模型路径、输入数据形状以及优化参数,执行mgb‑to‑tinynn命令,针对不同的目标架构编译生成适合各种硬件平台的模型运行文件,通过轻量级编译器实现移动设备的端侧高性能计算,通过此轻量级模型编译器能够在移动检测设备中实现高效的轻量化计算,支持有需求的人员基于低功耗设备完成目标识别等功能。
技术关键词
资源受限设备 深度学习模型 硬件平台 内存 编译方法 内核 输入接口 目录 存储设备 脚本 移动设备 操作系统 检测设备 命令 低功耗 参数 高性能 数据 规划