一种重要性感知的深度学习数据预取方法和系统

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种重要性感知的深度学习数据预取方法和系统
申请号:CN202410762037
申请日期:2024-06-13
公开号:CN118606761A
公开日期:2024-09-06
类型:发明专利
摘要
本发明公开了一种重要性感知的深度学习数据预取方法和系统,旨在解决训练数据预取时间长导致的训练性能低下的问题。本发明首先通过训练数据分类模块根据数据的重要性值进行分类,将训练数据自动分为重要性波动大和波动小的两类训练数据;然后通过历史重要值评估模块和实时重要值评估模块来评估数据的重要性值,动态调整数据预取策略,优先加载对模型性能提升有显著作用的重要数据,减少对不重要数据的加载,从而降低数据加载时间,提高训练效率。本发明适用于大规模训练数据集,能够在维持同等水平模型精度的同时,缩短50%的训练时间。
技术关键词
深度学习数据 数据分类 预取方法 周期 采样器 预取系统 内存 并行存储系统 模块 存储设备 阶段 远程服务器 聚类算法 列表 多层次 策略 动态 精度