摘要
本公开的实施例公开了一种基于神经网络模型的数据处理方法、装置、介质及设备。该方法包括：确定神经网络模型中当前算子计算得到的原始输出张量数据；确定原始输出张量数据的数据精度格式，以及确定原始输出张量数据的数值范围；确定与神经网络模型中当前算子的下一算子适配的目标数据精度格式，以及确定目标数据精度格式对应的目标数值范围；响应于原始输出张量数据的数据精度格式与目标数据精度格式不同，基于原始输出张量数据的数值范围和目标数值范围，确定当前算子对应的目标量化参数；基于目标量化参数，对原始输出张量数据进行量化处理，得到量化输出张量数据，以将量化输出张量数据输入下一算子。本公开能够提高神经网络模型的计算效率。
