一种数据分片流量动态限制方法及装置

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种数据分片流量动态限制方法及装置
申请号:CN202511030413
申请日期:2025-07-25
公开号:CN120750870A
公开日期:2025-10-03
类型:发明专利
摘要
本发明提供一种数据分片流量动态限制方法及装置,根据批量程序中子程序的标识,生成子程序的数据分片获取次序;获取各个数据分片的实时资源使用情况;结合数据分片获取次序和实时资源使用情况,选取目标数据分片;根据实时资源使用情况判断目标数据分片对应的批数据是否可以正常处理;若可以则通过子程序处理批数据;若不可以则重新选取目标数据分片,直至所有待处理的数据分片均处理完毕。通过监控实时资源使用情况,当评估批数据不能够执行时,动态调整子程序流量,重新选取目标数据分片,从而充分利用系统的并发资源。在保证数据分片合理使用的前提下,提升了自动化控制处理效率。保证批处理系统的易运维性和自动化性,确保数据处理的高效性。
技术关键词
分片 分布式数据库 资源 输入神经网络模型 数据获取请求 分析器 标识 批处理系统 流量限制器 动态 观察器 标记 批量 模块 程序 指令