基于算力优化的集群数据采集方法、系统、设备及介质
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
AITNT公众号
AITNT APP
AITNT交流群
搜索
首页
AI资讯
AI技术研报
AI监管政策
AI产品测评
AI商业项目
AI产品热榜
AI专利库
寻求报道
基于算力优化的集群数据采集方法、系统、设备及介质
申请号:
CN202411034417
申请日期:
2024-07-31
公开号:
CN118567865B
公开日期:
2024-10-08
类型:
发明专利
摘要
本发明公开了基于算力优化的集群数据采集方法、系统、设备及介质,涉及集群数据采集技术领域,包括如下步骤:将整个数据采集任务划分为多个采集子任务;获取采集子任务在预加载端的预加载所需资源;获取采集子任务在处理端的处理所需资源;通过历史数据分析不同处理端的资源变化函数;根据动态资源分配优化算法分配集群的采集任务;本发明用于解决现有的集群数据采集技术还存在对于集群的负载均衡算法不够优秀,仅能确保集群的负载大致均衡而无法达到最佳,且需要多次向请求处理端的实时数据,导致采集任务的效率下降的问题。
技术关键词
动态资源分配
数据采集方法
集群
磁盘
建立平面直角坐标系
内存
指标
标记
分区模块
数据采集技术
NoSQL数据库
分析模块
负载均衡算法
关系型数据库
队列
数据采集系统