一种面向算力主机接入的高并发管理方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种面向算力主机接入的高并发管理方法
申请号:CN202510698279
申请日期:2025-05-28
公开号:CN120378372A
公开日期:2025-07-25
类型:发明专利
摘要
本发明提供一种面向算力主机接入的高并发管理方法,属于云计算领域,本发明根据实时的流量负载情况动态调整令牌桶的生成速率和分布策略。同时,结合智能预测缓存,系统会在设备请求连接突增时优先加载可能的连接认证数据,并对缓存内容进行动态调整,避免在高并发时由于缓存不合理导致的性能瓶颈。
技术关键词
并发管理方法 分布式令牌桶 缓存策略 分布式缓存集群 节点 机器学习算法 分布式监控系统 系统资源分配 优化预测模型 历史流量数据 速率 构建预测模型 缓存命中率 动态 整体效能 训练算法 主机