摘要
本申请公开了一种大模型训练系统、大模型训练方法及相关服务器,涉及多方安全计算技术领域和大模型训练技术领域,大模型训练系统的服务器包括CPU芯片和GPU加速卡,CPU芯片上具有TEE区域,该TEE区域内包含模型训练模块,GPU加速卡上具有算法执行模块,模型训练模块通过安全加密通道与客户端相连,多个服务器的模型训练模块之间通过安全加密通道相连,大模型训练过程中,每个服务器可以通过安全加密通道与客户端交互数据,各服务器之间也可以通过安全加密通道交互数据,每个服务器的CPU芯片的模型训练模块位于TEE区域中,提高了大模型训练的数据安全性,CPU芯片和GPU加速卡完成各自更适合执行的计算操作,提高了大模型训练的训练效率。