异构计算系统及其训练耗时预测方法、设备、介质、产品

本发明公开了一种异构计算系统及其训练耗时预测方法、设备、介质、产品，应用于人工智能技术领域。其中，方法包括获取待部署训练任务对应的用户训练方案数据，获取异构计算系统为满足用户训练方案数据提供的资源最大供给数据；基于待训练网络模型的各神经层在单次迭代训练过程中的工作流程预测各神经层的计算量和内存读取量，并结合资源最大供给数据确定各神经层的节点耗时信息。根据待训练网络模型的各神经层的节点耗时信息，确定异构计算系统训练待训练网络模型的单次迭代耗时。本发明可以解决相关技术只能对实际部署的训练任务进行耗时预测且准确度不高的问题，能够在不实际部署训练任务的基础上，高精度预测单个计算单元的单次迭代训练耗时。