基于异构架构的卷积神经网络推理加速系统及方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于异构架构的卷积神经网络推理加速系统及方法
申请号:CN202411441922
申请日期:2024-10-16
公开号:CN119377045A
公开日期:2025-01-28
类型:发明专利
摘要
本发明公开了基于异构架构的卷积神经网络推理加速系统及方法,涉及网络推理加速技术领域,包括以下步骤:在卷积神经网络任务调度期间,获取卷积神经网络任务调度过程中生成的各项参数信息,其中包括任务调度参数和并行处理参数。本发明通过实时监控任务调度和并行处理参数,系统利用机器学习模型生成异常调度指数,智能识别并分类任务状态为正常或异常。针对异常,进一步细分为偶然型或非偶然型,并采取相应的处理措施。非偶然型异常触发预警提示,偶然型异常则通过持续监控避免频繁干预,提升故障处理精确性与系统稳定性,确保实时监控系统高效运行并减少安全隐患。
技术关键词
任务调度 神经网络推理 指数 流水线 异构 表达式 机器学习模型 参数 加速系统 硬件设备上执行 通信带宽 因子 实时监控系统 内存占用量 资源使用量 深度值 识别模块