基于键列分区的HIVE分组运算性能优化与调度方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于键列分区的HIVE分组运算性能优化与调度方法
申请号:CN202510144047
申请日期:2025-02-10
公开号:CN119597490B
公开日期:2025-05-16
类型:发明专利
摘要
本发明提供基于键列分区的HIVE分组运算性能优化与调度方法,涉及数据处理技术领域,包括通过构建键列分布直方图,确定键列分区策略,对数据进行预处理;基于资源评估和动态规划算法优化数据分区;采用最小生成树算法计算最优数据传输路径,并动态调整分配方案。本发明可提高HIVE分组运算性能,实现计算负载的动态平衡,有效解决数据倾斜问题,提升大规模数据处理效率。
技术关键词
分布式计算集群 数据 分布直方图 节点 分区策略 动态规划算法 多层感知机 生成树 矩阵 动态平衡状态 复杂度特征 生成资源 计算机程序指令 低密度 系统性能提升 网络拥塞程度