一种大数据任务的智能调度系统

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种大数据任务的智能调度系统
申请号:CN202410774984
申请日期:2024-06-17
公开号:CN118349335B
公开日期:2024-10-18
类型:发明专利
摘要
本发明涉及一种大数据任务的智能调度系统,包括定时实时任务调度引擎和离线任务调度引擎,实时任务调度引擎,该调度系统负责智能调度多租户大数据实时计算任务,通过短周期的实时任务定时监测,快速发现和恢复异常实时任务,通过长周期的历史运行数据建立实时任务运行模型,基于实时任务运行模型动态调整分组,分布式调度运行;离线任务调度引擎,该调度系统负责智能调度多租户大数据离线计算任务,同时实时监听离线分组任务运行的反馈信息,快速调度离线分组任务。该技术方案通过智能分组技术有效提升大数据集群的资源利用率,进而提升整个集群的租户承载能力,有效提升系统健壮性,通过动态扩缩容机制,进一步降低系统运维成本,降本增效。
技术关键词
离线 资源池管理 预测模型训练 一键启动模块 监测模块 智能调度系统 任务调度 动态 大数据 集群 历史运行数据 贪心算法 多租户 基准 列表 提升系统