摘要
本发明提出一种权重反量化矩阵乘法模块与相关设备,通用矩阵乘法单元用于向直接内存访问单元发送读取控制信息;直接内存访问单元用于根据读取控制信息生成对应的读请求,将读请求发送给片外存储器,并接收片外存储器反馈的目标数据,目标数据至少包括目标权重数据,目标权重数据为量化后的权重矩阵中同时与目标行标识、目标列标识匹配的权重数据;直接内存访问单元用于对目标权重数据进行反量化处理,并将反量化后的权重数据提供给通用矩阵乘法单元。由直接内存访问单元完成反量化处理,并将反量化后的权重数据提供给通用矩阵乘法单元,不需要经过全局缓存,不会占用全局缓存的访存带宽,避免产生额外且不必要的功耗。