一种基于资源协同感知的Storm流计算动态调度方法
申请号:CN202510541490
申请日期:2025-04-28
公开号:CN120390015A
公开日期:2025-07-29
类型:发明专利
摘要
本发明公开了一种基于资源协同感知的Storm流计算动态调度方法,针对Storm默认调度算法在节点异常、资源波动及重调度场景下性能下降的问题,提出以下技术方案:首先,通过实时监控模块动态感知节点繁忙、宕机及数据流波动事件,触发重调度流程;其次,基于历史任务实例资源需求、节点性能指标及通信开销,构建资源协同优化模型,以最小化节点间通信成本为目标,结合CPU/内存动态阈值约束生成任务实例分配方案;进一步,采用贪心算法对高关联性任务实例进行排序,优先分配至历史性能最优节点,并确保节点资源利用率不超过动态阈值;同时,通过时间窗口平滑处理实时修正节点负载均衡参数,更新剩余资源状态;最终输出优化后的拓扑划分结果,显著降低重调度后的系统延迟,提升吞吐量。本发明通过资源协同建模、历史数据驱动的动态调度及负载均衡优化,实现异构集群的快速恢复与稳定运行。
技术关键词
动态调度方法
节点
资源
内存
历史数据驱动
贪心算法
负载均衡优化
调度算法
波动噪声
宕机
滑动窗口
监控模块
集群
异构
度量
参数
列表
指标
场景