AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员
7821点击    2026-10-27 13:46

AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员


🚥本周「十字路口」的嘉宾是李磊,小米 MiMo 大模型后训练研究员、香港大学在读博士。一边参与大模型训练,一边读 PhD,他和许多同学一样,面对着 AI 带来的巨大机会,也置身于飞速变化的节奏中:既兴奋,也焦虑。


这期播客,我们聊的主题是:在 AI 时代,PhD 怎么拿到一个理想的结果?


我们聊了 PhD 路上的 10 个关键问题:慢科研,还是快科研?学校和导师怎么选?内地、香港、美国如何选?怎样争取研究机会与实习机会?论文发表之后,如何通过开源和社交媒体,让研究被更多人看见,产生真正的影响?如果本科就能进入 AI Labs,读 PhD 还值得吗?


我们也聊到了 PhD 圈里的“大粉理论”:小红书的粉丝量超过论文引用数。这个说法背后,是研究成果传播方式的变化。


最后,我们还聊了 RSI、数商、Benchmark 等近期受到关注的话题。


如果你正准备读 PhD,或正在为研究、毕业和求职感到焦虑,希望这场对话能帮你想清楚:下一步,什么值得投入,又该从哪里开始。


微信收听播客:


AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员


小宇宙收听播客:


AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员


🎬 视频播客已同步上线于 @Koji杨远骋 的视频号、小红书、哔哩哔哩、Youtube 等平台


AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员


AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员


AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员


👦🏻 Koji


我们先来快问快答,帮助大家更好的了解李磊,请问你的年龄?


🧑🏻‍💻 李磊


28 岁。


👦🏻 Koji


MBTI 和星座?


🧑🏻‍💻 李磊


ENTJ,巨蟹座。


👦🏻 Koji


求学经历可以介绍一下吗?


🧑🏻‍💻 李磊


我 2016 年在西安电子科技大学读本科,2020 年到北大计算语言学研究所读硕士,2023 年到香港大学 NLP Group 读 PhD。


PhD 怎么拿理想结果?


👦🏻 Koji


最近小米 MiMo 做了一件很有意思的事情,你们把 MiMo-V2.6 的 Pro 和 Flash 两款模型的后训练直播直接搬到了网上,国内外有非常多的关注和讨论,你就是幕后的推动者。


很有意思的是,你一边在参与飞速发展的 AI 行业,另一边同时还是在读的博士四年级学生。今天想聊一个很多人都很感兴趣的话题:在 AI 时代要怎么读好 PhD,才能拿到一个不错的结果?


🧑🏻‍💻 李磊


先说说 PhD 重要的里程碑,首先是读 PhD 这个决定。我纠结了一段时间,最后我给自己的答案是:如果 10 年以后躺在床上,可能还是会后悔没有去读 PhD。 既然这样,那就去读吧。


这一步蛮重要的,现在大家会有很多考量,机会成本很大,尤其是整个工业界的待遇和学术界之间有 gap。但我觉得钱的事情可以以后再说,这段时间你能够去专注做一些自己想做的事情。如果当时不去,回过头来我还是想要这样一段经历。


接下来的 milestone 挺戏剧的。我在北大最后的一段时间跟师弟合作,获得了 Best Paper 。入学两个月后,我参加的第一个会议,师弟的 paper 中了 Best Paper,我自己也有一篇工作。


刚入学时,我对于能不能顺利完成博士考核,其实打过退堂鼓。但 2023 年 11 月刚好入学两个月拿了奖,当时觉得属于巅峰开局,甚至害怕会不会出道即巅峰。


👦🏻 Koji


这么巅峰开局之后,后来的路一直很顺利吗?


🧑🏻‍💻 李磊


整体来说,可能验证了我之前的一套打法。


👦🏻 Koji


什么打法?


🧑🏻‍💻 李磊


总结来说,一个是快速迭代,自己要有比较专注高效的的工作节奏,及时参与到社区,向 peers 或者更 senior 的老师同学获取反馈。


第二个是技巧和心态上,选择去做难而正确的问题。 如果事情不够难,就会有非常多的竞争对手,在现在的时代很容易被干掉。


正确有两个方面:一个是大家都非常关注的问题,大概率是目前比较重要的;另一个是难。当你在解决一个重要问题的时候,即使它很难,只要 make a little bit of progress,也很有可能获得非常大的影响力。


👦🏻 Koji


难而正确意味着做起来会很慢,同时还要拿到正反馈,听起来似乎是冲突的,但你已经回答了:一个难并且重要的事情,哪怕一点点进步,大家也会认为非常 significant。


🧑🏻‍💻 李磊


这样的话,反倒大家对你的要求不会那么苛责,因为大家都知道很难。很多人面对困难的问题,第一步就觉得太难了不知道怎么解决,没有头绪。但是只要你能够找到一个好的切面,比较扎实地提供一部分解释,或者实验理论分析,对于后续想要研究这个问题的人来说,就是一个非常重要的 milestone。


AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员


👦🏻 Koji


你觉得这一套 PhD 打法适合所有人吗?


🧑🏻‍💻 李磊


不一定适合所有人,但我目前观测下来,它很大程度上可以减轻焦虑。


👦🏻 Koji


PhD 们都在焦虑什么?


🧑🏻‍💻 李磊


现在的 PhD 首先焦虑 publication。但又面临一个很 drama 的问题:整个顶会的系统在 AI 的冲击下,可能处在有些难以为继的状态。


再就是首先要满足毕业要求。其次是发了那么多 paper 之后还有没有用?比如 Astra 出来之后,很多做具身的会觉得整个 domain 都被颠覆了,这也是焦虑的来源。


最后是做了有意义的东西、有了 publication 之后,能不能完成从 PhD 到工作的转换。


👦🏻 Koji


在这些焦虑面前,你有什么应对建议?


🧑🏻‍💻 李磊


如果还要在这个游戏里面玩,心态上还是要放松。虽然竞争剧烈,但社区也在想办法稳固审稿系统。大家要相信这套系统已经运行了很久,还是有内在生命力的,能够保证好的内容被录用。


第二个是做的东西有没有意义。乍一看 Astra 很牛,但仔细看会发现它其实有很多毛刺。大家要对大模型锯齿状的智能有一定了解:它在有些地方看着非常厉害,但有些地方是完全没有的。


这很考验大家真的坐在电脑前去 coding、设计 harness、跑出来看数据和模型的表现到底怎么样,而不是被 social media 上的一些炒作震惊瘫坐。你能看到的东西容易被放大,但有非常多看不到的地方,依然值得去思考和研究。


👦🏻 Koji


比如举个具体的例子,最近你看到还值得去思考探索的、尤其像 Astra 这种 SOTA 模型的一些毛刺?


🧑🏻‍💻 李磊


我们也在做一些具身实验。一个值得研究的问题是:能力是从哪里来的?你可以 traceback 到很多模型到底是哪里泛化过来的。知道它从哪里来,才能更好地提升它。


👦🏻 Koji


我浅显的理解是,OpenAI 一直在采购具身的相关数据,是用这类数据训练出来的?


🧑🏻‍💻 李磊


我们猜测可能是这样。再具体到各个 domain,比如在 simulator 里的效果怎么样、在真机上怎么样,会不会有一些泛化的 gap,这些都是非常值得研究的问题。


AI 论文会挤垮顶会吗?


👦🏻 Koji


所有的学术顶会都被 AI 论文大水漫灌,你觉得这个系统还会好吗?


🧑🏻‍💻 李磊


压力确实存在。比如我做审稿人、做 Area Chair,原来可能看两三篇,现在大概是 10 篇左右的量级,审稿人的工作量受到最直接的冲击。考虑到大家都是 DDL 战士,原来留半天把最后几篇搞定,现在这种情况下,做出的判断随机性就会变大,这是最直观的冲击。


整个会场的容纳量也在变大,像 NeurIPS 就有三个会场。但社区也在通过限制投稿数量、推动更有经验的审稿人承担更大责任、引入 AI 审稿辅助决策来让结果更准确。像 AAAI 现在要求做决定时由两个 senior SPC 讨论,也是想在方便管理的情况下把录用决策做准确。


但有人的地方就会有随机性,大家不要把 accept or not 作为最终的 reward。


👦🏻 Koji


现在听起来有一条 hack 系统的路:用 SOTA 模型做 100 篇论文投出去,拼随机概率。你怎么看这种做法?


🧑🏻‍💻 李磊


这种做法不好,相当于对整个系统进行 DDoS 攻击,瞎猫碰死耗子总是有可能的。但 paper 本身并不是为了让它中稿,而是做了一个很有意思的研究,希望找个地方分享给大家,是 knowledge sharing。


100 篇这样的东西,背后的人真的把事情弄清楚了吗?是否有严密的论证、理论或实验去验证提出的 hypothesis?这些才重要,而不是 paper 到底中没中。


如果人加 AI 的组合能够提出 100 个有价值的问题,并且在 AI 帮助下解决得很好、提供可靠的的答案,那投不投稿都无所谓。就像 OpenAI 放出几百个数学证明,可能有些对的,有些是错的,但它有一定意义,只是同样需要耗费很多人力去验证。


👦🏻 Koji


你觉得会不会出现一些新的评价体系?


🧑🏻‍💻 李磊


其实现在已经开始弱化 publication 体系了。但只要存在评价体系,就一定会有 reward hacking。


比如现在筛选候选人时,paper 更像 nice to have 的东西。原先是个很好的金标准,现在大家都有,没有也变得没那么重要。


👦🏻 Koj“i


为什么 ”99 个人有而你没有” 反而不重要了?因为显得很 outlier 吗?


🧑🏻‍💻 李磊


对,可能意味着他知道这个游戏坏了,就不玩这个游戏,我们还蛮喜欢这样的画像。现在贡献开源项目是个很加分的项,但也存在 hacking 机制,有人用 AI 提 PR 被 merge 了,就说自己是贡献者。


我有一个筛选的小指标,尤其是有 publication 的:看他们的代码、数据有没有开源,开源之后 issues 有没有人维护。


AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员


👦🏻 Koji


更是在真实世界里看看作品有没有产生影响力?


🧑🏻‍💻 李磊


对,我们现在比较关心比如 Hugging Face 的下载量。如果你做了一个模型说是 SOTA,但在 Hugging Face 上个月的下载量只有数十次,可能解决的并不是那么重要的问题。


👦🏻 Koji


Hugging Face 的下载量可以 hack 吗?


🧑🏻‍💻 李磊


也可以 hack,但代价蛮大的。首先要下载下来存到硬盘上,硬盘还蛮贵的。


PhD 为何要做小红书?


👦🏻 Koji


我看了一下,你的小红书粉丝数今天是 2.4 万。上次聊天你开玩笑说比论文引用数要高,为什么会去对比论文引用数和小红书粉丝数?


🧑🏻‍💻 李磊


这可以归到 PhD 的 must-to-do 里面:做自媒体。


Social media 是一个反馈比较快的地方,发的东西好不好,点赞和收藏是很直接的反馈。现在大家的线下交流少了,但在小红书或 Twitter 上,推荐算法能够帮你吸引到一批有相同 research taste 的同学,会有非常好的交流,这是反馈层面。


另一个层面是最近提到的“大粉理论”:PhD 学生的 Twitter 或小红书粉丝量、点赞量要超过 citation,说明在践行大粉理论。我觉得它是一个 Attention Is All You Need 的显化。


现在的 paper 很多,原先大家依赖的分发机制是看每一年 ACL accept 的几百篇 paper,根据关键词和老师挑出几篇看完。但现在一个会议四五千篇,不可能看得过来,大家会依赖论文推荐或社媒的推荐系统,如果你能在系统中占据更大权重,声量被放大,工作就能被更多人看到,更好地强化工作的价值。


👦🏻 Koji


在 PhD 圈子里,除了大粉理论,还有什么理论?


🧑🏻‍💻 李磊


薄肌理论也应该推行到 PhD 群体里。读博是一个漫长的过程,身心健康始终是第一位的,确实需要换换脑子。


👦🏻 Koji


作为 PhD,要怎么运营小红书?


🧑🏻‍💻 李磊


首先是利他。发争议性的观点容易爆,但大家只会点赞评论,不会觉得跟这个人相关。只有持续产出对别人有帮助的内容,收获的影响力才是副产物。


第二个是要坚持。我一开始在小红书发很多论文 notes,粉丝增长很少。直到有一天发了引用和粉丝关系的讨论,突然爆了一下。把它做成日常的事情,想到什么发什么,最后呈现出最真实的状态,一定能吸引到想吸引的人。


第三个是做自己。赛道很卷,去模仿别人会很累,因为不知道对方背后的动机是什么。做自己,把想到的、符合前面两个条件的内容发出来。粉丝数量不是最重要的,找到一帮同频的人有一个好的交流平台,目的就达到了。


👦🏻 Koji


利他、高频、做自己,这几个建议蛮好的。你在小红书上点赞最多的笔记是哪几篇?


🧑🏻‍💻 李磊


拿奖的最多,比如青云奖学金,还有 citation 超过 1 万的笔记。学术方面,之前关于 On-Policy Distillation 的 notes 关注度也蛮大。我们团队比较早采纳这种新范式,看到之后觉得很不错于是就写了笔记。


👦🏻 Koji


我看最近代季峰老师、自然意志他们的新工作出来,你也会发分析解读,流量感觉也不错?


🧑🏻‍💻 李磊


大家很关注 Neo Lab 的动态。代老师他们做得非常不错,有一些 RSI 工作正好用了小米的基模,我就顺手研究了一下。


👦🏻 Koji


现在小红书完全是你个人工作、生活和研究兴趣的外化?


🧑🏻‍💻 李磊


对。


👦🏻 Koji


如果把读 PhD 从入学到毕业划分,你认为可以分成怎样的几个阶段?


🧑🏻‍💻 李磊


首先是知道怎么做研究,这是一个很重要的 milestone。


做研究之前有一些 preliminary basics,要了解很多基础知识,比如 machine learning、statistics。这些课虽然今天用 AI 似乎不需要补,但很有必要从头到尾自己做一遍。我们当时用 TensorFlow、NumPy、MATLAB 把 SVM 等基础算法实现一遍,吴恩达老师在 Coursera 上的课程非常重要。到今天泛化、overfit 等经典概念仍在整个系统中运作,像 vLLM 用的 PagedAttention 就是操作系统的概念,这些是 basics。


第二个阶段是 research 作为 knowledge sharing,如何让知识更好地传播。这里面包括 paper writing、实验设计、怎样验证你的 hypothesis,这些需要学习。AI 可以作为很好的 reviewer 或老师,帮你提建议、加强假设。


第三个是大家容易忽略的:怎么 maximize impact。做好自媒体、做好开源,每个工作配套宣传、软件、博客和分享。到了这个阶段,可以独立做好一篇 paper 并获得影响力,这是基本功。


接下来的阶段是 leadership。我很感谢遇到的老师,很早的时候孙栩老师就告诉我们要培养 leadership。当你掌握了整套 pipeline 以后,要能够交给更 junior 的同学。每个同学情况不同,需要 case by case 引导。你从一个 generator 变成 critic,去帮助他们。 有的同学 self-motivated,给一点引导链路就通了;有的则需要更强烈的督促去帮他建立起来。


还有是要完成从学术界到工业界的转变,在一个更加现实、竞争维度更多的层面去做事情,这块我也在学习。


没资源,研究怎么起步?


👦🏻 Koji


做 PhD 要怎么冷启动?


🧑🏻‍💻 李磊


我的冷启动来自大三时勇敢地发了 cold email。我给后来的硕士导师发邮件,其实我给很多老师发了大概 10 封只收到这一封回复。孙老师很愿意给我机会,让大二升大三的我来组里实习,得以叩开后面的大门,发顶会、顺利保研。


现在难度变大了,有名一点的 professor 邮箱里全都是 cold email,有很多申请 RA 的邮件。工业界也是,考虑到算力,HC 更加稀缺。


关于怎么冷启动,首先要想办法 maximize 你的 impact。现在大家不只看 paper,而是看 output,比如 GitHub 项目、好用的 harness,或者有意思的 application。这些对算力需求没那么大,发挥创造力可以做出产品化的东西,是通往偏产品岗位的路径。


如果是偏研究的岗位,在大家都在用 AI 做 sloppy 写作时,你能把基础性的东西理顺,写好 research blog。一篇篇写好 Notion 博客,有条件的话设计小实验进行推导和改进。像苏剑林的博客早期全是推导,没有特别多算力,但不影响他最后提出 RoPE,现在大家都在用,他现在是 Kimi 的研究员。


路径就是:努力 reach out,过程中肯定会收到很多没有回复或 negative feedback,但要坚持做好输出。这是学习进步的过程,展现出好的作品集,像冒泡排序一样慢慢冒上去,就会被看到。 我拿到的第一个实习是金山,当时他们看了我的博客联系到我,但我当时想搞 machine learning,就没有去做软件开发。


AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员


👦🏻 Koji


这很像十字路口常说的一句话:只要一直 build,就有好事发生。


🧑🏻‍💻 李磊


真的是这样。


👦🏻 Koji


冒泡排序的比喻很有意思,一直冒泡,就更可能泡到上面去?


🧑🏻‍💻 李磊


泡到上面蛮重要的。有一本书叫《巴拉巴西成功定律》,他们用大数据和网络科学的方式研究诺贝尔奖得主发出自己获奖论文的规律是什么。


👦🏻 Koji


发现了什么规律?


🧑🏻‍💻 李磊


结论是没有规律,你必须一直发,他们自己都没办法预测哪一篇会是自己的代表作。


第二个效应是,大都会博物馆里的画不可能刚画出来就送进去,它们是怎么流通进去的?研究画作在馆藏之间的流通图会发现,去到某些名气不大的市政博物馆后,就很有可能被著名的的博物馆借走。


这里面有一些关键节点,节点的可达性非常高。通过冒泡进入 critical path 上,成功的概率就会大很多。一方面需要不断创造和发作品,另一方面这里面依然有迹可循:一直努力,聪明地 build。


👦🏻 Koji


有哪些你认为非常成功、拿到“大结果”的 PhD?


🧑🏻‍💻 李磊


我想到的比如 Berkeley 的 Eric Wallace,他原来做大模型安全,毕业去了 OpenAI。之前 Swarm 攻陷 Hugging Face 的事件,他作为内部研究员出来复盘。看他的 research,idea 都很简单,但能在非常好的时机把问题提出来并定义好。


选学校还是选导师?


👦🏻 Koji


PhD 选学校和选导师,你分别有什么建议?


🧑🏻‍💻 李磊


选学校的优先级应该远远低于选导师。 读 PhD 很像古代的师徒制,国内外情况 case by case。普遍来说国内更像上下级,其他地方更像合作,导师进行督促和支持。


能去更好的平台尽力去,学校名字能让估值涨一涨,但 Top 30 和 Top 50 之间,可能没有太大本质区别;相比学校排名,课题组之间的差异可能更值得关注。


很重要的一点是看 alumni 的成果和精神状态,私下去问问毕业和在读的 PhD。


👦🏻 Koji


精神状态怎么看?


🧑🏻‍💻 李磊


看大家是不是在一个比较快乐的状态读 PhD。也有比较痛苦但成功的 PhD,可能著作等身但非常痛苦。


👦🏻 Koji


哪些组属于比较快乐的?


🧑🏻‍💻 李磊


给我们组打个广告:HKU-NLP,还有北大的计算语言学研究所,氛围都非常轻松愉快。


👦🏻 Koji


PhD 要怎么选导师?


🧑🏻‍💻 李磊


挺难选的。Google Scholar、CSRankings 和公开演讲都是公开信息,很多 private 的细节需要实际合作半年甚至更久才能发现,这是一个双向匹配。


👦🏻 Koji


你当时是怎么做的?


🧑🏻‍💻 李磊


我当时在上海 AI Lab 实习,认识了现在的 co-supervisor 孔令鹏老师。合作了大概半年,觉得风格比较匹配。


如果大家还有时间,推荐直接去做 RA。一方面能接触到在读和毕业的 PhD,打听更多情况;另一方面能了解组里的风格,帮助快速做判断。


慢科研,对吗?


👦🏻 Koji


最近有一份学生慢科研倡议在网上掀起很大争议,大概有超过 100 位中美老师和研究员共同发起,希望本科生不要着急发 paper,要慢下来做研究。你怎么看这个倡议?


🧑🏻‍💻 李磊


这个事情 drama 的地方在于,它跟现在的节奏形成了鲜明对比,保研季或升学季的考核要求好像跟它冲突。


我看过具体的倡议,老师们是说不会把 paper 作为筛选的唯一标准。当大家都有的时候,paper 就没那么重要了,他们倡导的是有 research output 和经历,在打扎实基础的情况下,把做了什么、为什么做、怎么做讲清楚,而不是为了简历上多几篇 paper 去挂名或产出 sloppy 的论文。他们呼吁不要做这种事,并不是说不要做科研。


自己要平衡好课业和科研,心态放轻松去做重要的事情。节奏可以稍微慢一点,但要有逐步推进,快和慢是相对的。


👦🏻 Koji


你自己是一个快的人还是慢的人?


AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员


🧑🏻‍💻 李磊


我会花比较长的时间去选择想做的事,前期花的时间越多,对于后面其实越划算。


我之前有过经历,较早时做过一个 idea,但没有把预实验做好想明白,花了半年多时间调算法,最后发现假设是错的。


现在做实验前,我会抽一个很小的假设,用 toy experiments 快速验证,端到端能验出很多东西。选方向也是,密集看论文,和敬仰的老师讨论,形成接下来投入的方向。时间花够了之后,做的时候就要很快,想办法最大化你的 GPU utilization 和数据处理速度,用 AI 帮助并行加速产出。


内地 香港 美国,选哪里?


👦🏻 Koji


在内地、香港和美国读 PhD,各有哪些优劣?


🧑🏻‍💻 李磊


内地读 PhD 的优势是能更快去到工业界。劣势是相对传统的师徒制,高校学术界有横向纵向的考核压力,部分老师动作变形会对学生成长不利,需要谨慎筛选。有的老师组能平衡得很好,既保证课题组运转,也保证学生成长。


香港跟内地融合密切,同时具有独特的港口优势,吸引到的老师 profile 更有活力,但也有生活上的压力。


美国离硅谷和美国学术圈更近,但现在签证和 CPT 实习问题相对痛苦。


👦🏻 Koji


什么样的画像更适合去美国读 PhD?什么样的适合留在内地和香港?


🧑🏻‍💻 李磊


去美国读 PhD 首先不能太挑剔美食,要耐得住美食的寂寞,并且喜欢那边的文化氛围。


在内地和香港,更重要的是在一定压力下能不能平衡好很多事情。如果能处理好,留在内地和香港是非常不错的选择。


👦🏻 Koji


现在 PhD 们聚在一起,聊得最多的话题除了学术是什么?


🧑🏻‍💻 李磊


Package。Final year 的同学要找工作会焦虑,junior 一些的同学会思考什么 research 方向更值得做,好奇工业界在关心什么,希望毕业后能丝滑过渡。


👦🏻 Koji


读本科时大家是同学,读到 PhD 发现不同的专业带来了截然不同的世界,尤其 AI 和非 AI 完全是两个世界?


🧑🏻‍💻 李磊


这也是我时常觉得自己 lucky 的原因。现在有所谓的 i 型分化,在 AI 领域的人像是 i 上面的那个点,剩下的人像下面那一竖,中间隔着很大的鸿沟。


但 AI 是非常平权的东西。原先学习需要去 Coursera 或听 Stanford 的课,现在 access 到的 ChatGPT、DeepSeek 或 MiMo 储备了极高的知识量。用好它,能帮助你在自己的 domain 里提高效率、改变工作范式。


未来不是 AI 替代人类,而是能够用好工具的这些人胜出。 就像掌握烧火的智人干掉了别的人种一样,意识到世界在发生剧烈变化,积极拥抱它。鸿沟里也有非常多的梯子,大家是能够把这两者结合在一起的。


👦🏻 Koji


今天教授创业是一个大浪潮,PhD 们怎么看老板创业?


🧑🏻‍💻 李磊


现在的融资环境以科技为导向,最前沿的 researchers 和 professors 自然被推到前台。融了资成立公司后,资源能更快把事情构建起来,机制更灵活。学校买卡、招工程师和买数据受资金限制,startup 形式能把要素聚齐,起到杠杆加速的作用。


但硬币的另一面是,拿了钱之后资本会有要求,层层传达到学生,可能需要做学术以外的 dirty work。它给了你更大的资源,你要利用这些资源,就需要付出一定的代价, 关键是大家去权衡好不同阶段的需求。


还有必要读 PhD 吗?


👦🏻 Koji


学校里没有算力和资源,有人觉得不如直接去公司不读 PhD 了。你觉得在理工科或 AI 领域还有必要读 PhD 吗?


🧑🏻‍💻 李磊


看你对 PhD 的期望是什么。如果希望通过读 PhD 进入大公司,没有必要,本科生也能去,像 Jason Wei 和很多 OG 研究员本科甚至高中毕业就做得很牛。能不能去取决于做得牛不牛,而不是学位。


但如果希望有一段相对完整、没有太大压力、某种意义上脱产的时间,去做想要研究的事情,满足对领域的好奇心,读博很有价值。你不去做,别人不会帮你做,在这个过程中培养基础知识、学习 maximize impact 的 skills,把它作为人生特殊的旅程,是非常值得的。人活 80 岁,读 PhD 5 年并不是很漫长。


👦🏻 Koji


2026 年这一年下来,有哪些 AI 带给你的 Aha Moment?


🧑🏻‍💻 李磊


整个 Agent 范式被推到前台,对社会形态的冲击让我们感受到震撼。


我最早做研究时做的是分类任务,判断句子是 正面的还是负面的;后来模型强一点做机器翻译、写作文;今天 Agent 配备了 tool 之后,能够自动化帮人做非常多的事情,通过脚手架触达生活各个角落。它在 digital world 已经有了很多能力,下一步走向 physical world 会催生更多火花。


第二个是小米的后训练直播。大规模 RL 带来了非常全面的能力提升,早期训练时就让我们感受到了类似 R1 的震撼。


MiMo 为何直播后训练?


👦🏻 Koji


小米把后训练拿出来直播,最初的想法是什么?


🧑🏻‍💻 李磊


当时有一些 rumor 和讨论,对中国大模型的形象非常不利。我们希望能有正向引导。大家不做 RL 可能是因为难度高、对 infra 和数据要求极高,我们希望给大家信心,证明这个事情可以做,并且效果很好。


我们用非常透明的方式展示出来,把该开源的开源,通过直播吸收 feedback,做得不好的改进,做得好的放大。


👦🏻 Koji


直播放出去后,小米收到来自国内和国外最多的回复分别是什么?


🧑🏻‍💻 李磊


国内特别关心花费的费用,因为金额直接挂在直播页面上,大家点开看到人民币在燃烧,刺激比较大。


国外对我们的透明度表示震惊。推特上有评论说这是首次工业级直播,展示了几乎是 TensorBoard 级别的训练 dynamics,对研究者来说像金矿一样可以做分析。


👦🏻 Koji


最近两三个月大家讨论非常多的就是数据行业,国内也出现了很多估值非常高的数据公司,比如 UniPat、Humanlaya 等等。


你怎么看这个事情?是什么原因让他们估值那么高,以及这个生意你觉得可持续到什么时候?


🧑🏻‍💻 李磊


估值高蛮正常。大模型往下推就是算力、数据和人才,没有一个是便宜的。好的数据、solid 的算法加上好的 infra 带来好效果。数据是产生人类智能的源头,现在专家数据的生产复杂度和质量要求上升了好几个量级,能做好的人理应分到蛋糕。


可持续性是一个 dynamic 的过程。随着模型能力提升,能持续产生高质量燃料的数据公司会持续产生价值。模型能力是锯齿状的,需要找到缝隙,组织规模化体系和激励机制做好交付。模型公司自己做会分散精力、浪费算力,在推进智能前沿的过程中时间是不可逆的资源,所以大家花钱买数据的需求是持续存在的。


但如果数据公司无法产出高质量数据,生意就做不下去。模型能力提升后自己产数据的成本会极低,竞争会非常剧烈,能持续规模化产出高质量燃料 pipeline 的公司,优势会被放大。


👦🏻 Koji


什么样的公司或组织,具备什么样的能力,才能够让高质量数据的 pipeline 一直持续?


🧑🏻‍💻 李磊


高质量始终是相对于特定模型而言的。太难的数据如果模型太差学不会,需要定义数据的难度,摸清 access 到的模型水位,这里面有很多 know-how。


另外要判断哪些数据更有价值:一方面是 PR 价值,做出来的 demo 很酷炫;另一方面是模型学会后带来的经济价值。做好取舍平衡,去找到专家建立规模化产线。


RSI、数商、Benchmark


👦🏻 Koji


在模型训练一线,你看到 RSI 的信号了吗?


🧑🏻‍💻 李磊


信号越来越强烈了。从字面理解,模型产生数据帮助自己改进,就是广义的 RSI。


更准确的定义是模型自己训练自己,比如在 PostTrainBench 或 ML bench 上寻找更好的参数和算法,这块进展会非常迅速。因为问题的定义明确,模型擅长搜索,可以通过 scale compute 找到路径,像 Karpathy 训练语言模型,PPL 肯定会不断往下降。


AI 时代,PhD 路上的 10 个关键问题|对谈李磊:港大 PhD、小米 MiMo 研究员


但目前还没有被很好挖掘的能力是 taste,即定义问题的能力:什么问题是重要的、下一个阶段需要解决什么问题。只有具备了定义问题的能力,研究员才能够放心把端到端的事情交出去。 目前研究员负责方向决策,模型负责产出数据和训练的 self-improvement,前端决策目前还没看到很好的提升。


👦🏻 Koji


在 RSI 领域,你觉得最有影响力的 Benchmark 是哪一个?


🧑🏻‍💻 李磊


目前蛮多的,但还没看到特别让我兴奋的,处于百花齐放的初期,大家还没有形成共识。


👦🏻 Koji


今天做 Benchmark 的人越来越多,一个好的 Benchmark 想要冒出来被大家注意到、被大家尊重、被大家去想要打榜,需要怎么做?


🧑🏻‍💻 李磊


首先要衡量模型新的、重要的能力。比如我们之前做的 Video-MME,大家还在做 6 秒视频理解时,我们拉到一个多小时。随着 Agent 能力变强,理解长视频是全新维度的能力。


其次是数据质量要从 use case 中来,避免人造的东西。人造的数据模型容易捕获并产生强 awareness,表现会异常,跟真实用户体验有很大 gap。


第三是 impact。做好易用性,让大家一键启动、一键测评,做好主流评测套件的适配生态。核心是帮他人省时间,别人才更有可能去 adopt 你的东西。


👦🏻 Koji


最近 MIT 大一新生选机械工程成了最热门专业,全美四年制本科 CS 入学人数同比下降 8.4%,读 CS 的人变少了,你怎么看?


🧑🏻‍💻 李磊


一代版本一代神。Junior 的 coding 需求确实被 AI 吃掉了一部分,大家即使不选 CS 专业,也会辅修课程确保对 CS 有 general 的理解,在 AI 辅助下做 coding,这正在变成必修课。


👦🏻 Koji


假设平行世界里你有一个高三要高考的亲弟弟,成绩很好,你会建议他学什么专业?


🧑🏻‍💻 李磊


我不会建议他选什么专业。行行出状元,你不需要成为这行的 Top 1%,因为那个太累了。 只要始终和自己比,维持在前 20%、30% 的水位,每一天取得进步,每一行都会有杰出的成就和人才涌现。


👦🏻 Koji


节目的最后,很多在读的 PhD 和学生面临着困难、焦虑和困惑,如果从你的经历里提炼一条简单的建议送给大家,让大家每天过得开心一点,你会想到什么?


🧑🏻‍💻 李磊


Paper 迟早是会中的,饭还是得吃,觉还是得睡,没有什么大不了的。


👦🏻 Koji


吃好、喝好、睡好,然后再写 paper。谢谢李磊!


🧑🏻‍💻 李磊


谢谢 Koji,拜拜。


文章来自于"十字路口Crossing",作者 "Koji"。

关键词: AI新闻 , AI访谈 , 人工智能 , PDH
AI转型,免费服务,就找AITNT
AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
智能体

【开源免费】AutoGPT是一个允许用户创建和运行智能体的(AI Agents)项目。用户创建的智能体能够自动执行各种任务,从而让AI有步骤的去解决实际问题。

项目地址:https://github.com/Significant-Gravitas/AutoGPT


【开源免费】MetaGPT是一个“软件开发公司”的智能体项目,只需要输入一句话的老板需求,MetaGPT即可输出用户故事 / 竞品分析 / 需求 / 数据结构 / APIs / 文件等软件开发的相关内容。MetaGPT内置了各种AI角色,包括产品经理 / 架构师 / 项目经理 / 工程师,MetaGPT提供了一个精心调配的软件公司研发全过程的SOP。

项目地址:https://github.com/geekan/MetaGPT/blob/main/docs/README_CN.md

2
无人直播

【开源免费】VideoChat是一个开源数字人实时对话,该项目支持支持语音输入和实时对话,数字人形象可自定义等功能,首次对话延迟低至3s。

项目地址:https://github.com/Henry-23/VideoChat

在线体验:https://www.modelscope.cn/studios/AI-ModelScope/video_chat


【开源免费】Streamer-Sales 销冠是一个AI直播卖货大模型。该模型具备AI生成直播文案,生成数字人形象进行直播,并通过RAG技术对现有数据进行寻找后实时回答用户问题等AI直播卖货的所有功能。

项目地址:https://github.com/PeterH0323/Streamer-Sales