优化人工智能芯片并行计算中数据存取的方法及人工智能芯片
申请号:CN202411524618
申请日期:2024-10-30
公开号:CN119045783B
公开日期:2025-01-28
类型:发明专利
摘要
本发明提供一种优化人工智能芯片并行计算中数据存取的方法及人工智能芯片。所述方法包括:确定人工智能芯片的计算并行度;获取用于所述人工智能芯片并行计算的第一两维数据,所述第一两维数据符合第二维度乘以第一整数为所述计算并行度、第一维度除以所述第一整数为所述计算并行度的第二整数倍,所述第一整数大于等于1;在所述人工智能芯片内部对所述第一两维数据执行预处理操作,所述预处理操作包括变形操作和转置操作的组合,将所述第一两维数据转置为符合并行度要求的数据。根据本发明的技术方案能够减少模型在芯片上的推理耗时,增加人工智能芯片的利用率。
技术关键词
人工智能芯片
数据
切片
计算机程序产品
模块
处理器