一种加速大模型推理任务的异构智能算力优化管理调度系统

本发明公开了一种加速大模型推理任务的异构智能算力优化管理调度系统，涉及算力优化管理调度技术领域，本发明通过异构算子级调度重构算力管理范式，动态尺寸块划分与梯度突变检测协同作用，将长序列场景下显存碎片化问题转化为可控的块迁移任务，突破传统显存交换机制的性能瓶颈；基于硬件能力指纹库的算子级调度策略，使位置编码等计算密集型任务精准匹配向量指令集硬件，消除黑盒调度带来的资源错配损耗；整数化路由与计数排序算法重构专家选择流程，在指令集受限节点实现近无损推理，激活老旧算力池的潜在价值。