摘要
本申请公开了一种数据处理的方法、装置及终端设备,通过获取目标权重矩阵,目标权重矩阵由与自注意力机制相关的多个权重矩阵组合得到的,目标权重矩阵包括每个权重矩阵中的每一列数据,且每个权重矩阵中每一列数据以预设的交织规则依次排列,通过获取输入数据,并将输入数据输入至目标权重矩阵,得到输入数据的自注意力分数,则可以仅需将输入数据输入至目标权重矩阵,得到输入数据的自注意力分数,无需多次访问输入数据并将输入数据分别输入至查询权重矩阵、键权重矩阵以及值权重矩阵,减少了对同一输入数据多次读取访问的情况,减少了内存访问耗时,提高了计算自注意力分数的效率。