UC Berkeley、UW、AI2 等机构联合团队最新工作提出：在恰当的训练范式下，强化学习（RL）不仅能「打磨」已有能力，更能逼出「全新算法」级的推理模式。他们构建了一个专门验证这一命题的测试框架 DELTA，并观察到从「零奖励」到接近100%突破式跃迁的「RL grokking」现象。
早在 2021 年，研究人员就已经发现了深度神经网络常常表现出一种令人困惑的现象，模型在早期训练阶段对训练数据的记忆能力较弱，但随着持续训练，在某一个时间点，会突然从记忆转向强泛化。
人在去机场的路上，有感而发，随便写写。 我昨天下午终于完成了OKKI 2025的新品发布会。 这是我第一次以发布会顾问+主持人的身份，深度参与一场外贸行业ToB产品的发布。
“当下正从数字化时代步入智能化时代，这将极大降低外贸行业的参与成本。”阿里国际站总裁张阔在3月6日的跨境电商增长新趋势大会上认为，“而以AI为主的外贸环节全面智能化，是未来的核心机会。”
今天分享一篇符尧大佬的一篇数据工程（Data Engineering）的文章，解释了speed of grokking指标是什么，分析了数据工程
过度训练让中度模型出现了结构泛化能力。
