为什么明明很准，奖励模型就是不work？新研究：准确度 is not all you need
为什么明明很准，奖励模型就是不work？新研究：准确度 is not all you need训练狗时不仅要让它知对错，还要给予差异较大的、不同的奖励诱导，设计 RLHF 的奖励模型时也是一样。
来自主题: AI技术研报
9029 点击 2025-03-24 15:33
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
训练狗时不仅要让它知对错，还要给予差异较大的、不同的奖励诱导，设计 RLHF 的奖励模型时也是一样。
3月20日，丹麦制药巨头诺和诺德执行副总裁兼首席科学官Marcus Schindler在Linkedin发布了关于诺和诺德的研发组织架构调整的消息。Marcus Schindler还提到，大数据和人工智能将成为我们科学工作的核心，使我们能够加深对疾病的理解并做出明智的决定。这些变化不仅使我们能够快速创新，而且还缩短了从不确定到确定的路径，减少了周期时间和成本，同时增加了我们成功的可能性。
最新一期TED采访中，奥特曼重申对OpenAI率先发布AGI的信念，并称没有多少人会关心。全程45分钟，他还重点分享了自己对AI未来的独特看法。
清华智能产业研究院（AIR）博三在读，去年六月份，出于对语言模型 LLM 的强烈兴趣，加入了字节 as Top Seed Intern，在人工智能的最前沿进行探索。刚好这个话题和我现在做的工作强相关，我分享一下自己的观点和亲身体验。
人工智能正在重塑游戏和互动媒体行业，人工智能是前所未有的价值创造源泉，它重塑行业的速度甚至比我们在互联网、移动电话和云计算兴起时所观察到的平台和架构变革还要快。
有25万块GPU的CoreWeave，已提交上市文件，计划IPO。虽然有英伟达等支持，但CoreWeave估值350亿美元，并不被媒体看好。而科技媒体初创Edward Zitron，更是直言CoreWeave财务糟糕，就是定时炸弹，而GenAI炒作泡沫即将破裂！
一个超越DeepSeek GRPO的关键RL算法出现了！这个算法名为DAPO，字节、清华AIR联合实验室SIA Lab出品，现已开源。禹棋赢，01年生，本科毕业于哈工大，直博进入清华AIR，目前博士三年级在读。去年年中，他以研究实习生的身份加入字节首次推出的「Top Seed人才计划」。
OpenAI 的培训研究副总裁 Liam Fedus 即将离职，以创立一家材料科学 AI 初创公司。Fedus 在 X 上发表声明，确认了该报道并补充了一些额外细节。
3 月 18 日上午，字节跳动豆包大模型部门（Seed）召开全员会，由负责模型应用相关工作的朱文佳，与新近加入的负责 AI 基础研究探索工作的吴永辉共同主持。两人谈到了未来的目标，明确 Seed 部门的最重要目标是探索智能上限；同时强调进一步加强组织文化，提高技术开放程度，并考虑推进开源。
OpenAI 又有重量级员工出走！这次是后训练负责人、研究副总裁 William Fedus。今天凌晨，Fedus 在 X 上发表了一则公开离职信，讲述了他离职的原因以及今后的去向。