告别纯奖励试错！二次尝试+反思蒸馏，复杂任务提升81%
告别纯奖励试错！二次尝试+反思蒸馏，复杂任务提升81%强化学习已经成为大模型后训练阶段的核心方法之一，但一个长期存在的难题始终没有真正解决：现实环境中的反馈往往稀疏且延迟，模型很难从简单的奖励信号中推断出应该如何调整行为。
来自主题: AI技术研报
8327 点击 2026-03-03 14:17
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
强化学习已经成为大模型后训练阶段的核心方法之一，但一个长期存在的难题始终没有真正解决：现实环境中的反馈往往稀疏且延迟，模型很难从简单的奖励信号中推断出应该如何调整行为。
为了松绑参数与计算量，MoE 曾被寄予厚望 。它靠着稀疏激活的专家子网络，在一定程度上实现了模型容量与计算量的解耦 。然而，近期的研究表明，这并非没有代价的免费午餐 ：稀疏模型通常具有更低的样本效率 ；随着稀疏度增大，路由负载均衡变得更加困难 ，且巨大的显存开销和通信压力导致其推理吞吐量往往远低于同等激活参数量的 dense 模型 。
在近日的一场播客中，曾做出 5 款产品的 AI 创业公司 Every 创始人兼 CEO Dan Shipper 采访了一位特别的年轻人 Alex Mathew。这个来自美国得克萨斯州奥斯汀 Alpha 高中的 17 岁高三学生，同时也是一名 AI 硬件创业者。
AI 行业，似乎已经提前进入了以个人 Agent 为代表的「后 ChatGPT 时代」。这印证了独立 AI 基准测试机构「Artificial Analysis」的预测结论：2026，Agent 正在全面爆发。近期，他们发布了对 AI 领域发展的全面总结：《2025 年终 AI 发展报告》。
近日， Anthropic 和斯坦福研究者 Neil Rathi 与这位传奇研究者联合发布了一篇新论文，并得到了一些相当惊人的新发现。在这项研究中，他们挑战了当前大模型安全领域的一个核心假设。长期以来，业界普遍认为要在模型发布后通过 RLHF 或微调来限制其危险行为。但 Neil Rathi 和 Alec Radford 提出了一种更本质的解法：
现有Rectified Flow（RF）模型在反演阶段面临的核心挑战，是逆向ODE对微小误差高度敏感，容易沿着数值不稳定方向偏离前向流形，导致轨迹发散、重建不一致、编辑不可控。为解决这一问题，团队提出PMI（Prox-Mean-Inversion），一种针对RF反演稳定性的轻量化修正机制。
作为一名还算资深的AI从业者，我要紧急厘清一个正在疯狂传播的技术谣言。因为就在哈梅内伊身亡的消息确认后仅仅几小时，一篇题为《深度揭秘Claude和Palantir是如何杀死哈梅内伊的》的文章迅速引爆了中文互联网，在朋友圈和各大社群刷屏。
这个看似科幻的想法，正在被一家名为Simile的公司变成现实。他们刚刚完成了1亿美元的A轮融资，由Index Ventures领投，Hanabi、A星、Bain Capital Ventures参与投资，连人工智能领域的传奇人物Andrej Karpathy、Fei-Fei Li、Adam D'Angelo等都加入了投资行列。
Google DeepMind最新AI智能体Aletheia在FirstProof挑战赛中，独立攻克了6道世界级数学难题，实现了从竞赛水平到PhD科研级的质变。人类数学研究的「手工时代」或许正步入倒计时。
香港科技大学 & 北航 & 商汤等提出了一个专门面向视频生成扩散模型的 QAT 范式 ——QVGen，在 3-bit / 4-bit 都能把质量拉回来，并且让 4-bit 首次接近全精度表现成为现实。该论文现已被 ICLR 高分接收：rebuttal 前 88666（top 1.4%），rebuttal 后 88886 （top 0.5%）。