基于键列分区的HIVE分组运算性能优化与调度方法
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
AITNT公众号
AITNT APP
AITNT交流群
搜索
首页
AI资讯
AI技术研报
AI监管政策
AI产品测评
AI商业项目
AI产品热榜
AI专利库
寻求报道
基于键列分区的HIVE分组运算性能优化与调度方法
申请号:
CN202510144047
申请日期:
2025-02-10
公开号:
CN119597490B
公开日期:
2025-05-16
类型:
发明专利
摘要
本发明提供基于键列分区的HIVE分组运算性能优化与调度方法,涉及数据处理技术领域,包括通过构建键列分布直方图,确定键列分区策略,对数据进行预处理;基于资源评估和动态规划算法优化数据分区;采用最小生成树算法计算最优数据传输路径,并动态调整分配方案。本发明可提高HIVE分组运算性能,实现计算负载的动态平衡,有效解决数据倾斜问题,提升大规模数据处理效率。
技术关键词
分布式计算集群
数据
分布直方图
节点
分区策略
动态规划算法
多层感知机
生成树
矩阵
动态平衡状态
复杂度特征
生成资源
计算机程序指令
低密度
系统性能提升
网络拥塞程度