大数据量场景下的数据迁移方法及装置

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
大数据量场景下的数据迁移方法及装置
申请号:CN202411439776
申请日期:2024-10-15
公开号:CN119537341A
公开日期:2025-02-28
类型:发明专利
摘要
本申请实施例提供一种大数据量场景下的数据迁移方法及装置,方法包括:确定目标数据在分布式搜索引擎中的待迁移索引及其分片设置,根据待迁移索引的大小和分片设置中的热点分布确定对应的迁移任务数据量和迁移任务优先级,并根据迁移任务数据量和迁移任务优先级确定对应的迁移策略;根据迁移策略分批次读取待迁移索引中的目标数据,并将目标数据写入本地文件系统中的迁入目录,将实时迁移速度和实时本地文件系统资源利用率输入设定线性回归模型,根据线性回归模型输出的实时调整参数动态更新每次迁移操作时读取的数据量、每个存储目录的最大文件数以及迁入目录;本申请能够有效提高大数据量场景下的数据迁移效率和准确率。
技术关键词
线性回归模型 数据迁移方法 分布式搜索引擎 文件系统 目录 分片 动态更新 策略 场景 多线程 数据迁移装置 参数更新模块 热点 速度 处理器 资源