基于迁移学习的跨数据中心存算协同训练加速方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于迁移学习的跨数据中心存算协同训练加速方法
申请号:CN202411529540
申请日期:2024-10-30
公开号:CN119443315A
公开日期:2025-02-14
类型:发明专利
摘要
本发明公开了一种基于迁移学习的跨数据中心存算协同训练加速方法,S1、在多个异构数据中心中部署深度学习模型的初始版本;S2、在第一数据中心对深度学习模型进行初始训练生成第一模型参数集;S3、生成本地深度学习模型参数集;S4、建立异构数据中心的动态权重调整机制;S5、根据参与权重分配不同的计算资源给各异构数据中心;S6、根据各异构数据中心的资源使用情况和任务需求实时调度存储资源和计算资源;S7、进行多任务并行处理;S8、通过动态资源调度策略监控各异构数据中心的资源利用率;S9、生成最终的全局优化模型参数集,并将全局优化模型参数集应用于各异构数据中心的后续任务部署。本发明优化了跨异构数据中心的协同训练效率。
技术关键词
异构数据中心 硬件资源配置 多任务并行处理 参数 传输路径 动态资源调度 数据传输延迟 管理系统 资源分配 复杂度 深度学习模型训练 协方差矩阵 智能调度系统 定义