4万Agent协同、多模型组队，Agent基础设施开始重构

AI 智能体，现在有了专用的算力。

上周四，北京举行的开放计算技术大会（OCTS26）上，浪潮信息推出了业界首款 CPU 原生液冷整机柜服务器与元脑 SD200 超节点 AI 服务器等一系列 AI 基础设施产品。

当产业共识从「做大模型」转向「用智能体」时，针对应用范式正在发生变革的 AI 工作负载，浪潮信息完成了算力体系的底层重构。

Agent 时代

需要专门优化的算力

今年是智能体（Agent）规模化应用的关键节点。据 IDC 预测，2025-2030 年全球智能体市场年复合增长率将达到 139%。Gartner 判断认为，今年将有 40% 的企业应用集成智能体，到 2028 年，超三成企业应用将深度嵌入智能体能力。

在软件层面上，技术落地的趋势已经渗透到了各个层面：一方面，Kimi、DeepSeek、GLM 等先进大模型持续向智能体原生化方向升级，模型自身的任务规划、工具调用与自主执行能力不断强化；另一方面，ChatGPT Work、Workbuddy 等企业级智能体框架广泛渗透办公、研发、运营等业务场景，企业 AI 应用正从「单次调用模型完成问答」，转向成百上千个智能体在后台持续协同、自主完成复杂任务的「群智工作模式」。

过去的大模型像个大脑，而原生智能体大模型驱动的应用，相当于机器人装上了手和脚，已经为执行任务做好了准备。

但与此同时，这种进化也为 AI 算力提出了极高的要求。从单次对话到端到端的项目交付，Token 的消耗呈指数级增长，一个用户请求可能触发下游数百个子任务和工具调用，这就意味着背后服务器中数百个芯片内核的调用。

面对复杂的工作负载，算力硬件的分工也在被重新定义。传统上「CPU 负责调度、GPU 负责计算」的简单分工被打破。

从底层逻辑看，每个智能体本质上都是一个小型 CPU 沙箱环境，核心承载逻辑管理、流程资源调度、系统协同等工作，它们的工作方式并非 GPU 擅长的并行矩阵运算，工作天然适合交给 CPU 来处理。研究显示，在智能体执行链路中，CPU 处理相关环节的时间占端到端延迟的比例最高可达 90.6%。

这意味着 CPU 的重要性将会显著提升。GPU 决定模型能力的上限，而 CPU 驱动的多智能体协同，能通过工程化手段提升 AI 输出结果的完整与可靠性。

反映到算力配比上，面向智能体时代，数据中心整体将会新增大量独立的纯 CPU 算力集群。传统 AI 服务器中 CPU 与 GPU 的算力配比约为 1:8 到 1:4，而在智能体时代，数据中心不仅需要海量的 GPU 执行大模型推理，还需要 CPU 服务器来承担智能体主机的负载。

来自产业端的信息显示，国内头部互联网企业今年 CPU 服务器的新增采购，几乎全部投向智能体相关业务。与之匹配的智能体基础设施（Agent Infra）也成为行业共同探索的方向。

这一范式的转变，正在重新定义 AI 的基础设施。

CPU 原生液冷整机柜服务器

打造高密度群智协同载体

在 7 月 9 日举办的 2026 开放计算技术大会上，浪潮信息面向智能体时代发布了两大核心成果：业界首款 CPU 原生液冷整机柜服务器与元脑 SD200 超节点 AI 服务器，从 CPU 算力底座与 GPU 推理引擎两端，给出了智能体规模化落地的开放架构解决方案。

智能体时代最鲜明的特征，是「群智协同」成为常态，任务的完成不再是单个模型的一次响应，而是由大量智能体分工执行任务规划、工具调用、数据检索、流程执行与结果汇总，背后需要规模空前的 CPU 算力作为支撑。

在公有云场景中，头部智能体应用已呈现出惊人的 CPU 资源消耗特征：每一个智能体实例通常需要占用两个 CPU 核心，支撑沙箱运行、任务拆解与外部交互，亿级用户规模的智能体产品，背后对应着海量持续运行的 CPU 算力池。

而在企业侧，智能体的规模化部署更带来了管控难题：分散在各终端的智能体存在权限混乱、安全审计缺失、版本不统一等风险，企业亟需一个统一、可管控、可规模化的智能体运行底座。

数据中心功耗密度攀升是推动架构重构的第二动因。传统风冷散热的单机柜功率极限约为 40-50 千瓦，而到 2026 年底，高密度 AI 算力机柜的单机柜功率将突破 300 千瓦级，增长幅度达 10-50 倍，这早已超越了风冷甚至是风液混合散热的上限。也正因如此，原生液冷成为高密度算力的必然选择。

浪潮信息推出的业界首款 CPU 原生液冷整机柜服务器，以原生液冷全新架构架构重新定义 CPU 计算系统。

在原生液冷架构下，它基于开放 OCM 架构打造，单机柜最高可支持 384 颗多元 CPU 处理器，能够支撑 4 万+个智能体同时协同运行，大幅提升了企业侧智能体部署的密度与管理效率。

该机柜单柜功耗最高可达兆瓦，是传统通用 CPU 机柜的数倍。

区别于传统风液混合散热方案，这款 CPU 整机柜服务器采用原生液冷架构，通过计算与散热的协同设计，对内存、光模块、网卡等全部发热部件进行解耦与平面化重构，依托一体化冷板实现零软管、零线缆、零风扇的极致散热形态，从硬件底层解决了高密度 CPU 系统的散热瓶颈，同时提升了系统运行可靠性与能效水平。

这款机柜的核心技术突破集中在三个维度： 

• CPU 计算系统重构。该方案与在风冷散热架构中加装液冷的传统思路不同，对散热和计算架构协同设计，打造出 0.5U 超薄算力节点，可实现 2U 空间内部署 16 颗 CPU 的高密度架构；
• 标准化算力模组。基于液冷 OCM 开放算力模组架构设计，支持 X86、ARM 等多元架构 CPU 无缝兼容，可根据业务需求灵活衍生不同形态的算力节点，兼顾高负载下的性能稳定性与长上下文场景的大内存、高带宽需求
• 全域部件液冷重构。突破传统液冷仅覆盖 CPU 的局限，对内存、网卡、光模块等所有发热部件一并纳入液冷散热体系，无线缆设计，支持热维护，保障业务零中断，整机柜运维效率提升 100% 以上。

面向未来 GW 级智算中心的演进，高密度液冷机柜也同步适配了 800V 高压进机柜的供电趋势。传统 380V 供电在单机柜百千瓦级场景下，会面临铜缆过粗、施工与运维难度剧增的问题，800V 高压直流已成为兆瓦级机柜的标配。这样的架构设计为下一代供电标准预留了适配空间。

元脑 SD200 超节点升级

万亿模型 Token 生成延迟低至 4.77ms

如果说原生液冷服务器解决了智能体能不能规模化跑起来的问题，那么升级后的元脑 SD200 超节点 AI 服务器，则为智能体提供了高质量、低延迟的「智能输出引擎」。

这一次，浪潮信息带来了升级后的元脑 SD200 超节点 AI 服务器，并宣布率先完成了对 Kimi K2.6、DeepSeek V4、GLM 5.2、MiniMax M3 等主流领先开源大模型的高性能优化。这是元脑 SD200 系列的重要迭代：2025 年产品首发时，元脑 SD200 就实现了 8.9ms 的单 Token 生成速度，是国内首个突破 10ms 大关的超节点系统。

经过一年的架构优化，元脑 SD200 性能再次实现突破，实测数据显示，在 Kimi K2.6 万亿参数模型上，该服务器的单 Token 生成时间仅需 4.77ms，首 Token 延迟较优化前显著降低 35%，能够充分支撑智能体高频调用、多轮交互与多智能体并行协作的低延迟需求。

浪潮信息表示，这一性能提升来自于软硬全链路的协同优化。其在硬件层面持续优化了超节点内部的 Fabric 互联架构，提升卡间通信路由的确定性，降低通信耗时；软件层面则引入了多 token 预测、JIT 等推理优化技术。

当前，企业智能体的应用场景正快速走向复杂化，单一模型已难以覆盖长文本理解、代码生成、逻辑推理、多模态处理、行业知识问答等多元需求。不同模型在各能力维度各有所长，「多模融合」正成为提升智能体智能水平的核心路径：通过多个先进 AI 模型并行生成结果，再经评审、比对与融合机制形成最终输出，能够有效突破单一模型的能力边界与视角局限，为智能体提供更稳定、可信的智能供给。

这一路线的有效性已得到验证，在 DRACO 深度研究基准测试中，融合模型取得 53.9% 的最优成绩，验证了其在复杂调研、多步骤分析场景的能力优势；在 AIME 2026 数学推理、GPQA 通用高难问答两项国际基准测试中，融合模型分别以 97.2% 和 90.8% 的成绩领先单一模型，同时提升了复杂推理与专业知识问答能力。

在系统能力上，元脑 SD200 单机最大可承载 4 万亿参数规模的大模型，同时支持多个万亿参数模型并行部署，适配多模融合的应用模式。结合元脑企智 EPAI 平台的多模融合能力，用户仅需发起一次 API 调用，系统即可将任务同步分发至多款大模型，由不同模型生成候选结果后，再通过评审融合模型完成交叉分析与综合判断，输出更完整、可靠的最终答案。

通过开放互连技术、软硬协同优化与多模融合能力的系统级组合，这套模式突破了单点硬件的性能边界，为复杂智能体应用提供了端到端的推理引擎支撑。

面向企业本地部署智能体的需求，浪潮信息同步推出了元脑 SD200 超节点企业版，其延续了标准版的原生内存语义开放互联架构，基于开放交换架构构建 16 卡统一 Scale-up 计算域，实现统一寻址与低时延跨卡通信，可将万亿参数模型的首 token 延迟降低 40% 以上。企业版单机支持 TB 级统一显存，可完整承载当前主流万亿参数开源模型，满足企业长上下文理解、复杂逻辑推理、多智能体协同的核心业务需求，大幅降低了企业部署高性能智能体算力的门槛。

以往企业通常只部署千亿参数模型，仅能实现 AI 辅助编码、辅助写作等浅度应用；而万亿参数模型可直接生成可用的完整代码、完成复杂方案输出，让 AI 真正进入生产环节替代人力。现在，更多企业无需采购超大规模超节点，也能支撑起智能体的深度生产级应用。

开放协同加速 Agent 落地

算力升级驱动智能化转型

从大模型到智能体，AI 基础设施的创新正在从单纯的硬件升级走向系统级的协同重构。

浪潮信息此次发布的两大产品，形成了清晰的算力分工：GPU 超节点负责思考，持续输出低延迟、高质量的 Token；CPU 原生液冷整机柜服务器负责行动，承载海量智能体调度编排、工具调用与有序协同。再搭配元脑企智 EPAI 平台实现统一管控，三者共同构成了「群智协同 + 多模融合」的完整技术体系，呼应了 Agent 时代的核心演进方向。

从产业落地节奏看，2026 年下半年将成为超节点方案的规模化落地节点，国内头部互联网客户已进入批量部署阶段。在开放计算生态，标准化硬件架构、协同优化的软硬体系的持续推动下，单位 Token 生成成本与智能体运行成本将会持续降低，从而推动 AI 真正走向全企业、全流程的规模化落地，成为企业业务流程重构、生产效率提升的核心驱动力。

AI 智能体的崛起，标志着一场算力基础设施变革的开始。长远来看，Token 生产将如同工业流水线一般，走向更精细的环节拆分：Prefill 阶段与 Decode 阶段分离，Decode 阶段的注意力计算、前馈网络也将拆分，每个环节匹配最适配的芯片架构与系统设计，实现全链路效率最优。

这一演进方向，也与浪潮信息融合架构的底层逻辑相通：通过高速互联实现算力、内存、存储的池化，让所有资源可自由连接、按需组合、价值最大化。预计未来二到三年内，GW 级智算中心将逐步落地，新形态的智算基础设施将会支撑 AI 从技术创新全面走向大规模应用。

文章来自于"机器之心"，作者 "泽南"。