Adam的稳+Muon的快？华为诺亚开源ROOT破解大模型训练「既要又要」的两难困境
Adam的稳+Muon的快？华为诺亚开源ROOT破解大模型训练「既要又要」的两难困境在 LLM 优化领域，有两个响亮的名字：Adam（及其变体 AdamW）和 Muon。
来自主题: AI技术研报
9667 点击 2025-11-27 14:37
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
在 LLM 优化领域，有两个响亮的名字：Adam（及其变体 AdamW）和 Muon。
智能体终于拥有了可以海量复制的“实战演练场”。阿里此次开源的新项目ROCK，解决了无法在真实环境中规模化训练的难题。有了ROCK，开发者想要训练AI执行复杂任务时可以不再“手搓”环境，直接进行标准化的一键部署。
前些天，一项「AI 传心术」的研究在技术圈炸开了锅：机器不用说话，直接抛过去一堆 Cache 就能交流。让人们直观感受到了「去语言化」的高效，也让机器之心那条相关推文狂揽 85 万浏览量。参阅报道《用「传心术」替代「对话」，清华大学联合无问芯穹、港中文等机构提出 Cache-to-Cache 模型通信新范式》。
既然语言可以当序列来学，那图像能不能也当序列来学？
视觉-语言-动作模型（VLA）在机器人操控领域展现出巨大潜力。通过赋予预训练视觉-语言模型（VLM）动作生成能力，机器人能够理解自然语言指令并在多样化场景中展现出强大的泛化能力。然而，这类模型在应对长时序或精细操作任务时，仍然存在性能下降的现象。
脉冲神经网络（SNN）不用再纠结二进制短板了。
科学发现的轨迹，如同交织在人类历史中的璀璨织锦，经历了一系列范式的演进。早期的探索，主要依赖于由直觉、反复试验或机缘巧合驱动的经验发现。随后，以牛顿力学为代表的理论框架，为我们洞察自然现象的基本原理提供了基石。
Google宣判RAG死刑！那条曾让无数工程师自豪的技术链，如今只剩下一行API调用。Gemini的File Search，把检索、分块、索引、引用，全都封进了模型内部。开发者不再需要理解流程，只需要上传文件。当智能被自动化吞并，工程师第一次发现，自己也成了被自动化的一部分。
AI正从「规模时代」，重新走向「科研时代」。这是Ilya大神在最新采访中发表的观点。这一次，Ilya一顿输出近2万字，信息量爆炸，几乎把当下最热门的AI话题都聊了个遍：Ilya认为，目前主流的「预训练 + Scaling」路线已经明显遇到瓶颈。与其盲目上大规模，不如把注意力放回到「研究范式本身」的重构上。
在AI视频创作过程中，创作者常因频繁切换多种工具而疲惫，导致创作热情消磨。近期，多所高校联合开源的UniVA框架，像一位「AI导演」，能整合多种视频工具，提供从脚本到成片的一站式自动化体验，改变传统「抽卡」式创作，支持多轮交互和主动纠错，还能实现风格迁移、前传创作等功能，为视频创作带来高效与便捷。