基于算法与硬件协同的神经网络加速方法、装置及加速器
申请号:CN202510019587
申请日期:2025-01-07
公开号:CN119416844B
公开日期:2025-04-18
类型:发明专利
摘要
本发明涉及一种基于算法与硬件协同的神经网络加速方法、装置及加速器,该方法包括:基于稀疏性阈值,处理量化张量的值级索引,以生成层元数据,并动态调整稀疏性模式;根据符号转换和位查找表识别非零比特的位置和数量,并将处理后的数据放入位分组中,以消除无贡献位;处理位分组,并将从层元数据中提取的自适应索引机制的相关输入和张量分配到位弹性处理单元,且根据非零比特位数执行移位加法计算;基于列式计算阵列,指令所有阵列在预设周期内完成乘法运算,并存储部分积以及对应于各自位宽的数据流。该发明能够使加速器控制器在计算过程中高效跳过这些零位,同时,提升了位级加速器的性能和适用性。
技术关键词
神经网络加速方法
索引机制
处理单元
符号
查找表
神经网络加速装置
加法器
阵列
数据
管理器
加速器控制器
多路复用器
算法
输入神经网络模型
神经网络加速器
标志
动态