对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传”
对话盛颖:xAI,Infra的浪漫,SGLang,开源,平权与“甄嬛传”她是xAI前推理团队负责人。她研究并发起的开源推理引擎SGLang,已经成为众多大模型部署和推理的重要底层工具,也是目前AI infra领域最具影响力的开源推理框架之一。如今,她从SGLang开源生态中孵化出创业公司RadixArk,希望把只有少数科技巨头才能拥有的前沿AI基础设施,变成整个行业都可以使用的开放技术底座。
搜索
她是xAI前推理团队负责人。她研究并发起的开源推理引擎SGLang,已经成为众多大模型部署和推理的重要底层工具,也是目前AI infra领域最具影响力的开源推理框架之一。如今,她从SGLang开源生态中孵化出创业公司RadixArk,希望把只有少数科技巨头才能拥有的前沿AI基础设施,变成整个行业都可以使用的开放技术底座。
刚刚,SpaceX 宣布正与英伟达达成合作,共同设计 Starmind AI1 卫星计算载荷。每颗 Starmind 卫星都将搭载 NVIDIA Rubin GPU 和 Vera CPU,把接近数据中心级别的算力部署到太空。
最近,Wafer AI 在 AMD MI355X 上部署了 Kimi K3。结果是,原本需要 16 张 NVIDIA B200、横跨两台服务器运行的模型,在一台配备 8 张 MI355X 的 AMD 服务器中就能完成部署。
企业采购Agent,正在变得越来越容易。
有人总结,运行 Kimi K3 其实很容易,只需要 1.5TB GPU 内存、大约 8 张 H100,以及一座小型变电站。一名开发者拿出一台 128GB 统一内存的 M5 Max,直接加载 Kimi K3 发布在 Hugging Face 上的官方 MXFP4 权重。
2026年7月16日,东京。 英伟达CEO黄仁勋拍了一个大大的马屁:"日本发明了现代制造业。现在,它正在建设将驱动下一次工业革命的AI工厂。"不过效果很明显,日本被彻底忽悠瘸了,在同一天,市场估算投资额接近3.4万亿日元的项目落地(约1408亿元人民币)。
Encore AI是一家专门研究企业客户互动数据、以此训练和部署AI语音Agent的初创公司,其Agent既可与客服和销售团队协同工作,也可独立自主运行。该公司近日完成由Team8领投的3000万美元A轮融资。
听说K3这么猛,又属于免费开源,于是就有同学跑来问我一个特别真实的问题。听说K3这么猛,又属于免费开源,于是就有同学跑来问我一个特别真实的问题。这个问题问得太好了,好到我可以直接拿它当这篇文章的选题。因为它正好踩中了开源模型最反常识的地方。
AI 客服在最近两年被认为是 Agent 商业化落地的为数不多的最佳场景之一,借助 RAG 技术,成本远低于人工客服,也让我们过上了被迫绞尽脑汁「转人工」的生活。
当大模型 Agent 被部署到工具调用、长程任务和开放环境中,一个关键问题会随之出现:能否在不更新模型参数的情况下,将执行经验沉淀下来,并在下一次做得更好?