NeurIPS 2026 | 港大提出RaPO:强化微调破解MLLM灾难性遗忘,代码已开源
NeurIPS 2026 | 港大提出RaPO:强化微调破解MLLM灾难性遗忘,代码已开源在 LLM/MLLM 领域,基于 verifier 奖励的强化微调(Reinforcement Fine-Tuning, RFT,如 GRPO)在激发复杂推理能力方面展现出显著优势。由于 On-policy 优化的特性,很多研究指出 RFT 相比传统的监督微调(SFT)天然具备更强的抗遗忘能力。
搜索
在 LLM/MLLM 领域,基于 verifier 奖励的强化微调(Reinforcement Fine-Tuning, RFT,如 GRPO)在激发复杂推理能力方面展现出显著优势。由于 On-policy 优化的特性,很多研究指出 RFT 相比传统的监督微调(SFT)天然具备更强的抗遗忘能力。
Astra修改小模型权重?MIT那篇爆火研究,被大佬公开质疑了。
经过决策训练的语言模型,重新打开生成开关后,未必还能稳定地推理。在研究者的实验中,4B 模型在约 40% 的问题上几乎不生成推理;9B 模型则走向另一端,在约 70% 的问题上持续生成,直到触及长度上限。
你花钱买了一台最新款的智能电视,为了保护隐私,你决定研究一下里面的代码。为了提高效率,你打开了 ChatGPT 辅助分析。
Anthropic 开源了基于零知识密码学的 FlashProve,使用户无需获取模型权重即可验证回答确由指定模型生成;该系统已在 4000 亿参数的 Llama 4 Maverick 上达到约 110 Token/s,但仍是受成本和上下文限制的研究原型。
今年,我们不打算做大而全的新闻盘点(交给 AI 总结就够啦),而是邀请十字路口身处 AI 一线的朋友们 ——创业者、研究员和投资人,分享 10 个真正触动他们的 AI 瞬间。
9 月以来,全球顶尖大模型几乎都在秀 3D。
随着递归自我改进(Recursive Self-Improvement,RSI)受到关注,智能体如何从交互经验中持续改进自身成为研究热点。智能体记忆机制影响着这些经验能否被有效保留和利用。
“在每一个有创造性活动的领域里,一个人的Taste,加上他的能力和机遇,决定了他的风格;而他的风格,反过来决定了他的贡献。因此Taste和风格之于科学研究,就像它们对文学、艺术和音乐一样至关重要。”
大家好,我是天南,具身算法研究员。 前几天还在和同事吐槽 PI 的 API beta,一直觉得他们把事情想的太简单了。