一种适用于GPU/DCU的多模态基础模型卷积操作优化框架方法

本发明提出了一种适用于GPU/DCU的多模态基础模型卷积操作优化框架方法，用于解决现有卷积算子优化方法的调优过程耗时且难以捕捉跨层算子融合的技术问题。本发明的步骤为：通过参数化输入接口接收卷积算子；利用形状分析器收集结构化参数集中每个卷积算子的形状特征，实现卷积特征分析；判定是否启用批量归一化与非线性激活函数融合计算；启发式优化器基于卷积参数特征动态选择计算图优化策略；将计算任务适配到GPU/DCU的物理架构上，以最大化利用硬件资源；基于卷积参数特征生成面向DCU/GPU架构优化的卷积计算核函数；通过DCU/GPU硬件任务队列实现核函数流水线执行；采用设备端原子操作实现多计算单元间的梯度同步。本发明能够显著提高多模态基础模型中卷积操作的执行效率。