面向分布式机器学习的多目标自动超参数配置方法和系统
申请号:CN202511216210
申请日期:2025-08-28
公开号:CN120996145A
公开日期:2025-11-21
类型:发明专利
摘要
本发明公开了一种面向分布式机器学习的多目标自动超参数配置方法和系统,用于在单次训练中同时优化模型精度、训练效率、安全性和带宽效率。该方法包括:利用梯度噪声尺度(GNS)作为统一指标,建立超参数与多目标性能之间的数学模型;在训练过程中实时监测训练指标数据和GNS,动态调整超参数;通过轻量级分析和闭式优化,实现单次训练中的超参数优化;提供用户友好的API,简化配置过程。本发明提供了一种既高效又安全的自动化超参数配置解决方案,显著提升分布式机器学习的整体性能,实验表明,其可显著减少分布式机器学习的训练时间,同时提高模型精度和安全性。
技术关键词
超参数
分布式机器学习
系统吞吐量
构建数学模型
噪声
批量
指标
配置系统
处理器
协方差矩阵
存储器
程序
数据
平方根
动态
可读存储介质
表达式