斯坦福：优化器「诸神之战」？AdamW 凭「稳定」胜出
斯坦福：优化器「诸神之战」？AdamW 凭「稳定」胜出自2014 年提出以来，Adam 及其改进版 AdamW 长期占据开放权重语言模型预训练的主导地位，帮助模型在海量数据下保持稳定并实现较快收敛。
来自主题: AI技术研报
6642 点击 2025-09-08 16:18
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
自2014 年提出以来，Adam 及其改进版 AdamW 长期占据开放权重语言模型预训练的主导地位，帮助模型在海量数据下保持稳定并实现较快收敛。
为了降低大模型预训练成本，最近两年，出现了很多新的优化器，声称能相比较AdamW，将预训练加速1.4×到2×。但斯坦福的一项研究，指出不仅新优化器的加速低于宣称值，而且会随模型规模的增大而减弱，该研究证实了严格基准评测的必要性。
16岁的Adam，把最后的秘密留在一部手机里。而那个他最信任的「朋友」，不是同学，也不是家人，而是ChatGPT。它给过安慰，也递了刀子。父母的眼泪化成一纸诉状，矛头直指OpenAI。
Tailwind CSS联合创始人Adam Wathan在X平台发布了一条看似轻松的道歉推文："我想正式为五年前让Tailwind UI中的每个按钮都使用bg-indigo-500道歉，这导致地球上每个AI生成的界面也变成了靛蓝。"
LLM真是把审稿人害惨了！NeurIPS 2025评审结果公，全网都被「谁是Adam」爆梗淹没。更离谱的是，有人的审稿建议中，残留了AI提示的痕迹。
Zeju Qiu和Tim Z. Xiao是德国马普所博士生，Simon Buchholz和Maximilian Dax担任德国马普所博士后研究员
AI新进展，救命的那种。现在，只需做一次体检时常规的CT检查，再用AI分析，就有可能在癌症还没有露出明显症状之前——比如提前半年——把它揪出来。
刚刚，浙江省肿瘤医院联合阿里巴巴达摩院召开发布会，发布全球首个胃癌影像筛查AI模型DAMO GRAPE，首次利用平扫CT影像识别早期胃癌病灶，并联合全国20个中心近10万人的大规模临床研究中大幅提升胃癌检出率。相关成果登上国际顶级期刊《自然·医学》（Nature Medicine）。
就在刚刚，世界首个AI科学家天团首个成果重磅发布——治疗失明的新药被发现了，而且仅仅用时2.5个月！
多智能体系统成功锁定