摘要
本申请实施例提供了一种模型参数存储方法、设备及存储介质,可应用于人工智能芯片技术领域,在该方法中,中央处理器接收模型训练过程中多个数据并行组各自的原始组参数,每个原始组参数包括:缓存排布的多个第一模型参数;缓存排布的每个第一模型参数,是从原始排布的每个第一模型参数转换获得的;原始排布为广播类型或切分类型。对获得的多个原始组参数进行拼接,获得第一拼接参数;将第一拼接参数中原始排布为广播类型的第一模型参数进行去重,获得第一全量参数;采用相同的操作逻辑对原始排布为广播类型或切分类型的模型参数进行处理,再对广播类型的模型参数去重,解决不同布局类型的模型参数存储时的不兼容问题,提高了大模型训练的性能。