对于 AI,我常常感受到
世界的参差,比如:
程序员说:
做老板的则说:
每一个专家/资深人士曾经都是菜鸟/小白,但现如今 AI 正在锯断通往专家的阶梯。由技术进化带来的问题,答案已经超出了技术本身。
当我读完张笑宇所著的《AI 文明史·前史》,对之前困惑的问题就有了一些答案。

张笑宇本身是科技史作者出身,深谙政治史、社会学,但并非技术专家。《AI 文明史·前史》是他花了一整年时间与全球范围内的 AI 一线从业者、研究人员、企业家、思想家、非 AI 领域学者以及其他相关人士密集交流后得出的结论。这本书的核心是用社会工程学的方式讨论 AI 带来的影响的本质,反而会收获一些新的启发。
书中主体涵盖了 4 个概念:
1. 是技术圈常议的「涌现」,从本质上来说,人工智能的智慧与你我一样,都是从复杂神经网络之中“涌现”而出的。滋养「大脑」的语料来自孔子、李白、柏拉图、牛顿等等。从这个角度讲,似乎也是挺有意思的类比。
2. 人类当量:即以「token」(词元)为计数单位,衡量 AI 量产智能的效率。张笑宇这样说道:“如果我们承认当下社会运作的一般经济法则,即金钱价值是衡量智能价值的最泛用标准之一,那么按照性价比来计算,99% 的人类将被 AI 取代,这只是一个简单的成本收益问题。”
3. 算法审判:我们将进入一个由算法完成主要社会治理职能的时代,「算法治理本质上是对我们最正义的审判」。比如:困在算法里的外卖骑手、短视频的算法等。
4. 文明契约:一个设想 —— 在胜过所有人智慧的超级智能面前,人类是否也有可能签订一份「文明契约」?来保证不同智力水平之间的文明能够共存。
本期《万有引力》,我们尝试从社会工程学的角度,分析 AI 对于我们的职业,尤其是程序员,究竟会带来怎样的变化?AI 进化迅猛,我们的思维也在不断刷新。
等待 AI 在社会工程学层面缓缓展开
唐小引:大家好,欢迎收看由 CSDN 主办的《万有引力》栏目,穿越复杂世界,解读技术真相。今天很荣幸地邀请到了“文明三部曲”的作者张笑宇老师,带着他的全新著作——《AI 文明史·前史》,来和大家一起见面,分享他从社会学角度对于 AI 的研究和思考。欢迎张老师,可以给大家打个招呼,做一下自我介绍。
张笑宇:大家好,我是张笑宇,我本身其实是写科技史出身的。从前几年开始关注 AI,去年决定写一本探讨 AI 会给我们人类社会带来哪些影响和改变的书,就是现在和大家见面的《AI 文明史·前史》。我更愿意把后三个字“史前史”连在一起读,因为它在暗示:在 AI 面前,咱们都是史前动物。所以“史前史”指的是我们现在已经发生的历史和将要到来的现实。

唐小引:我其实前面看到您说“我们都是史前动物”这句话,相比于惊讶,更想先问问您,AI 几经起落,业内也热议 Scaling Law 延续问题,您怎么确定我们在 AI 面前全都是史前动物,而不会再经历寒冬?
张笑宇:今天我们聊 AI 时,已经确定了一个基本路线,相比之前是有效的。这个路线就是“涌现原理”,其实落实到具体就是 Scaling Law。之前的 AI 寒冬,比如上世纪六七十年代到八九十年代,当时人工智能的主流研究范式还是符号主义。本质上来讲,符号主义和两千年来的哲学史一脉相承。主要就是探讨人的逻辑思维究竟是怎么回事,探讨了很久之后,再有一批人出来把逻辑思维的成果数学化,用符号和数学来表达我们的逻辑推理。到 19 世纪的时候才有诸如英国数学家乔治·布尔等去写的关于逻辑的书(《逻辑的数学分析》等),当时写了也不知道有什么用(最初没有引发广泛关注,但随着时间的推移,布尔代数成为了电子工程学、计算机科学、逻辑学和数学中不可或缺的一部分)。
但是后来 20 世纪出了一个人叫香农,香农说这就是我们可以搞的电路逻辑和通讯逻辑。接下来我们就看到了信息论这些东西,在 20 世纪终于找到了它的实际工程应用。
这基本上也是计算机科学的逻辑。我们试图用这个方式去做人工智能,简单来说就是让计算机像人一样思考。
80 年代发现整个符号主义的路是走不通的,但是我们又很幸运地发现另外一条路是走得通的——连接主义。用算法去模拟人类大脑的神经元,把它的规模做得足够大,把深度学习的层做得足够深,会发现智能从这里自然地涌现出来。就好像生物在进化时,简单的神经元最后汇集成一个稍微复杂一点的大脑。一开始是无脊椎动物到脊椎动物,出现了脊髓和神经节,接着进化出初级的脑,然后是更发达的脑。你会发现智能和自我意识会随着脑的进化自发地涌现出来。
今天就是这么一个情况。搞技术的都知道那篇著名的文章“The Bitter Lesson”(《苦涩的教训》),我们用尽了办法去归纳智能到底是什么,但是发现这件事远超我们自己智慧能总结的。所以我们就发现了另一条路,就是不要过分相信自己的智慧,而是去模拟造物主。当然,不一定有造物主,核心在于生物是怎么进化的,智能怎么从这个结构里涌现出来?我们去模拟这条路时,发现它是有用的。
那么问题无非是,下一次的涌现到底需要什么样的结构和多大的规模(包括算力、数据的规模)?我们不知道,这个确实没有确定性。但是我觉得至少有一个有效指标:当我们有一个新架构、新算法,又发现在某个方面 Scaling Law 发挥作用时,我们就知道自己走对了。
所以相对来说,一方面我本身相信这个事情还是会发生,我们每个人可能有生之年是能看到 AGI 的。另一方面,过去几年,其实每一个节点都会有人出来唱衰,但是每一步,这三年你不敢轻易地对行业下结论说寒冬已经到来,因为至少这三年的经验是关于“冷”的预判都错了。我们也不能说未来的“热”的预判一定对,但是至少从经验来讲,我觉得暂时没有办法对它下那么一个武断的结论。再者,我在书中围绕 AI 进行社会分析时,并没有立足于 AGI 的实现,大部分还是基于 AI 目前的能力。我认为 AI 改造我们人类的数学原理已经具备,只是要等到它在社会工程学层面缓缓展开而已。
涌现——从宇宙大爆炸到人工智能
唐小引:我们在技术维度探讨智能涌现可能具备随机性的特点(Context, Not Control),但您认为,从人类社会的发展上来讲,涌现是必然的。
张笑宇:其实从物理到生物再到人类社会,我们发现这个规律是普遍存在的,它背后暂时我们没有找到具体的科学依据是什么。但如果把它作为一个普遍现象进行总结的话,我们看到很多共性。
比如我在书中引用了《万物涌现》(The Emergence of Everything)里讲到的宇宙大爆炸,从基本粒子涌现出不同的原子、分子,组成不同的元素。再比如在地球,你看到原始生命的诞生,最早其实就是一锅原始汤,在大气环境之下,因为有几千上万年的放电,在闪电的刺激之下,会发现这个过程事后来看是完全神奇的事情:一堆无机质居然合并成了大分子蛋白质。因为这个大分子蛋白质自身的机制对于某些化学物质是有筛选、偏好的,对另外一些是排斥的,这后来就涌现出生物的新陈代谢,生命就自然诞生了。用事后的角度来看,就好像一堆零部件自动组合成了一个机器人一样,非常神奇、难以想象的,但它就是这么发生的。
用同样的角度去观察细胞到生物体。如果站在单细胞的角度来讲,延长自己生存的最佳策略是变成癌细胞,因为癌细胞是永生的。但是我们发现,当给足了规模和多样性之后,细胞并没有全部选择成为癌细胞,而是选择了分化。有些细胞专门负责生殖,有些专门负责神经元信息传递,有些专门扮演骨骼或者肝脏等等。然后简单生物体自发涌现出复杂生物体,当神经元细胞组合在一起,拼成足够大的规模时,智能就从中自然涌现了。
人类社会里也是对应的。当人类这个物种凑在一块儿时,我们自然涌现出了语言。从语言里就自然涌现出了各种模因(Meme),我们的宗教、理论,甚至是小说、网络段子,都是某种模因。在这些模因里,有些自然淘汰了,有些沉淀下来,变成了我们看到的宗教、文化、哲学等。
接着我们智人这个物种又涌现出了货币。这是最简单的规则,但是它覆盖的面最广。只要以金钱为向导,每个人发挥自己的聪明才智,各种新的行业、企业、组织,比如说去炒股,有各种新的金融工具、匪夷所思的设计,只需要人的精力被简单规则激发——去赚钱——它就会自发涌现出无数神奇的东西。这是我对涌现的总结。
涌现的基本原理是,一个系统的规模足够大、规则足够简单、多样性足够丰富,它会自然出现非线性增长,从一个简单系统跃迁到一个复杂系统。站在简单系统的层面,完全无法想象复杂系统是怎么发生的。只有站到复杂系统回看时,才知道突然出现了一个效果:当它规模大到一定程度时,突然出现了一个 1+1 大于 2 的效果,就是整体大于部分之和。这个是怎么出现的?我们今天还没有一个统一的理论去解释。
这里也要强调,涌现还不是一个像牛顿定律一样得到验证的科学规律,它是我们对一系列现象的描述的共性总结。所以本质上来讲,我觉得这个事儿可能更接近于某种信念。我出于信念相信,人类的智能和人工智能都是涌现而来的。只要我们走在这条路上,我觉得我们是可以做出 AGI 和超级智能的,而且可能不会特别远。
技术带来的社会影响,不在技术本身
唐小引:我们从技术研发层面学 AI 时,更多的是去深入它的技术原理,比如机器学习、深度学习这些算法层面。但我们逐渐发现许多困惑在技术本身没有办法得到很好的解决。从 AI 的历史发展上来看,确实有很多跨学科的声音。这是您第一次出版核心围绕 AI 主题的书籍。程序员界一直有各种技术鄙视链的梗,其实背后一定程度上反映了技术的难易程度。不知道您在写这本书时,有没有觉得是困难或者难点的地方?再者您从社会学的角度看 AI 有哪些不一样的启发?
张笑宇:我觉得第一点,所有的鄙视链都是诞生在一个封闭系统里。在封闭系统里,你非常知道每个层级在做什么,每个层级创造的价值哪个更大,才会有一个鄙视链,创造价值更大的鄙视创造价值没那么大的部分。但是人类社会是个开放系统,所以一旦涉及到跨学科时,鄙视链就不成立了。
对我来说这个事情很简单,而且我也了解很久了。因为我自己是科技史作家,我非常清楚一件事:技术专家知道这个技术是怎么来的,也知道他能做出什么东西来,但是这个技术到底有什么社会影响,这不是技术专家的职责,因为他不研究社会。而这也同样是社会学家回答不出来的,因为社会学家不懂技术。所以我们科技史学者过去比较多地去回答这个方面的问题,因为我们要两边都看。当然,我可能比传统的科技史学者更愿意从技术内部视角去看这个问题。
因为传统科技史放在历史系,很多时候做的事儿和考古差不多。每一个古代技术本质上都像一个地下陵墓一样,要做得很细、去发掘。但是当你分析社会影响时,不是在做考古,而是从技术属性本身,把人类社会理解成是一个有很多参数的运算系统,然后去看一个新技术改变了它的哪些参数,用这个角度去看技术怎么影响社会。这个是我们这个专业一直在做的工作。显然,程序员、工程师或者技术专家每天做的事不是这个。自然,我的书也没有回答算法原理是什么,哪种算法更好。
唐小引:这部分我们会看专门的技术书籍。
张笑宇:对,你不用看我的书了解这个问题。我只是为了讲明白为什么我觉得 AI 会这么影响社会,而去对技术发展脉络做一个解释,因为很多人没有技术背景,我必须给他们稍微解释一下。但是对我而言,我的研究不可能像技术专家那样深入,我只是大概了解到这个技术能干什么,那条脉络是怎么演变到今天的,这个就足够了。剩下的就是要找到一个基点,这个“基”是基础的“基”,这个点是展开对人类社会参数系统进行分析所必须的前提,然后再在这个基础上推演。
简单来说,AI 跟历史上的所有技术有一个最大的区别,在于它是一个能够低成本量产智能的技术,这在历史上没发生过。第二,这个量产智能的效率提升,我们大概是可以算得出来的。因为如果我们把智能都看作可以符号化的——简单说,人的一切智能表现都可以用语言来表达,或者用语言相关的东西,比如诗歌、文学、艺术、图像等等。
唐小引:维特根斯坦说的“语言的边界就是世界的边界”。
张笑宇:对,当然它有不可说的东西,不可说的东西我们就不管了。但是只要能用语言来表达的,AI 都可以做得到。那么我们把一切智能定义为都可以用语言来当做载体表达出来的。
接下来我们就可以把它进行量化。现在我们有 token 这个计算单元,我们聊天一分钟,我输出的智能基本就是 200 个 token。我一天说 16 个小时,基本上就输出 20 万 token。那 AI 输出 100 万 token 只要一秒钟,更要命的是只要一块钱。你给我开一天一块钱工资我得饿死,但是 AI 能完成我五天的工作量。所以这样比的话,我把人看作生产智能的机器,也把 AI 看作生产智能的机器,它的性价比、它的成本是我的几千分之一,你再算的话,可以是上万分之一。
你训练 AI,这个技术从 ChatGPT 到现在研发了三年,从 Transformer 到现在研发了八年。而现在一个大模型至少能够相当于几千万个博士生的水平。今年 GPT-5 的 Benchmark(基准测试)已经达到了博士毕业生的水准。那你培养 5000 万个博士生需要多久?要上二三十年的学,要投入很多金钱和精力。这个技术现在给你量产了。只要我们人类社会还围绕金钱来运作,只要你的老板还在算你的工资、算投入产出比,他肯定会用 AI。虽然可能 AI 没有你的表现那么好,但它太便宜了。
这是现在正在发生的事,我没有在聊 AGI 的到来,我聊的就是现在它已经打败了 99% 的人类,因为 99% 的人类是没有博士学位的,它在性价比上又比你便宜几千倍。这个事情就是我们去理解技术改变人类的“数学原理”,现在已经发生了,我们只是等待它未来用一代人的时间在我们的社会中展开。
就好像 20 年前,当乔布斯给大家展示 iPhone 4 时,整个移动互联网的“数学原理”已经发生了。因为有了它之后,你能以之前十分之一的成本,用这么一个陪伴你十几个小时的终端去接入互联网。实际上这个“数学原理”会决定后面一系列事物的展开,比如移动支付、社交媒体、在线购物(电商)等。你只是要等 20 年,等一代人在这个基础上去创业,把这些公司、App 做出来。所以我们现在就站在一个“iPhone 4 发布”的时间点,这个数学原理已经在了,我们只要等 20 年,它去席卷我们现在熟悉的一些行业、社会结构、经济系统。
唐小引:这其实就是我在技术圈感受到的世界巨大的参差。因为程序员离 AI 最近,ChatGPT 出来之后,大家就说先革程序员的命。但这差不多三年的时间里面,从最开始的程序员自身很焦虑的被取代,到现在程序员们其实在日常的使用中,基本上大家都用 AI Coding 的工具,相当于结对编程,有了一个 AI 搭子。这是我从程序员的角度听到的,大家更关注怎么去提效,怎么去用。但是我去听老板(资本家)讲的又不一样。很多哪怕是程序员出身的老板,都说:“我作为一个资本家,我站在资本家的角度去想,我是不是能够花更少的钱去聘用?”比如现在 AI 写代码的能力至少比初级工程师要好,而且比初级工程师更便宜。那这个时候站在老板的角度来讲,我就想把初级这部分直接用 AI 取代掉,让一个资深的程序员带着一帮 AI 助手、AI 搭子。这个就是让我感受到从程序员和老板的不同角度。
张笑宇:你举的这个例子就很好地说明了技术和社会工程学之间的关系。程序员是技术的直接载体,但是程序员是在一个社会结构里发挥作用的,公司里是有权力结构的。
虽然现实中你觉得 AI 现在还没有那么强,你要经常地去介入 AI 的工作,它对你的替代效应其实不应该那么大,只是它确实增强了你的效率,也让你闲暇时间变长了,可以喝杯咖啡看它在那儿写代码。但是你还是活在一个公司里面,这个公司活在社会的经济结构里,要讲故事、营销、融资,要对着有钱人去销售它的股权。
所以今天会流行一个叙事:硅谷的老板们面对华尔街的老板们,华尔街老板们是不懂技术的,硅谷老板们只能把技术打包成一个叙事,跟他们讲这个技术是革命性的。为什么?因为它可以让我们降本增效,可以让我们裁掉多少程序员,又多服务多少人。华尔街的老板当然很兴奋,但是他也不知道技术原理,他说:“OK,你把财务报表给我看。”公司就在财务报表里把员工砍掉,把 AI 的投入加上,然后给你画出一个曲线,说明天能涨多少,后天能涨到多少,然后你被裁员了。这就是技术跟社会工程学之间的关系。
从技术出身的人来讲,可能觉得这个事情是扯淡,但也不完全是扯淡,因为社会工程学本质上是一群人意志的极大投射。而当这批人的意志能够调动巨大资源的时候,这个事儿也是会发生的。可能我们觉得马斯克去裁员这个事儿很粗暴,不太对,但是它就是发生了,发生之后其实也没啥太大的问题。所以这就是你用技术视角去理解技术革命,跟你用社会工程学的视角去理解技术革命之间的巨大差别。
对我而言,我觉得对程序员来说,真正的“GPT Moment”是从今年开始,就是从 Claude Code 开始。在 22 年 GPT 出生到去年,我觉得它最先代替的是客服、接线员,其实还有设计,它能生图、生文案,改变营销的工作方式。那块代替得更激烈,因为我们发现 AI 真正擅长的首先是语言游戏,是描述没有那么精确的那一块。文案也好,艺术生图也好,你会发现 AI 生成的图都是有问题的,但是很多人没有注意到,因为他看广告图都是一扫而过的。
所以 AI 生成的质量够用了,而它的成本又如此低,所以这一块率先被取代。而程序员工作还是一个逻辑性很强、门槛很高、有很多细节需要注意的工作,所以没那么快。但是今年的 Claude Code 出来,我觉得它确确实实迎来了一个程序员的“GPT Moment”。
大量的、基本的写代码的工作,包括整个写代码的工作流,AI Coding Agent 可以深度介入。我觉得这会比较对应我们十几、二十年前的自媒体时刻。因为自媒体出现之前,媒体人都是在电视台、报社这些中心化的地方。自媒体一来,每一个人接触到读者的渠道成本变得特别低,你就可以去写自己的东西。所以我觉得今天是一样的,AI Coding Agent 的突然爆发,会导致你在代码供应侧的成本变得非常低,是过去的十分之一甚至百分之一。
你用这种能力去满足一些过去的小众需求的成本就变得特别低。比如我随便举个例子,我爷爷信佛,喜欢念佛经,但是他自己读不懂,认字也不多,也听不懂那些高僧大德的讲经。那我现在其实可以用一个 AI 用他能够懂的语言讲一讲。
唐小引:讲白话佛学。
张笑宇:对。我前几天跟万维钢老师聊天,他就说他用 GPT-5 给自己讲王阳明心学,但他是理科背景,听不懂。他就说:“那你用一个工程师能理解的思维去讲。”GPT-5 就给他讲了,他说讲得太好了,感觉一下子顿悟了。所以它真的是可以做到这一点。
现在在 Claude Code 的帮助下,比如说我发现了这个需求,但我不是程序员。在十年前我没有能力去满足这个需求,我要是做一个公司,要请程序员、产品经理、设计师,还有市场营销等,成本很高。但这个需求可能很小,不值得我去做一个公司。那今天有了 AI 的话,理论上来讲我可以做一个一人公司。我让 AI 给我出产品设计图、写代码、做市场营销,甚至给我记账、当律师,然后我就发布出去,卖给一万个像我爷爷这样的老年人,每个月收 9.9 块,我一个月挣 99,000,也很开心。所以,这就类似于一个程序员的“自媒体”时刻。你现在有能力搞一个一人公司,而不是在过去大公司的架构之下去服务一个小众需求。
我觉得这是这一代人的红利。我们这一代还可以做“AI 原生人”,去满足前 AI 时代的人的需求。我的爷爷是不可能用 AI 去满足他的需求的,所以我还可以满足他们。之后从我开始的下一代就没有这个机会了,因为我们都是 AI 原住民。如果我们有一个需求,我们可能自己就让 AI 写代码了。所以我觉得短期来看,程序员朋友应该去看到这个结构性的变化,而且去拥抱这个变化。因为至少目前你这一代还是有红利的,越晚的话红利消失得越快。
唐小引:所以在张老师的角度来讲,这是一个好事儿?
张笑宇:好坏是态度问题。首先我的分析是在讲一个事实问题:AI 确实极大降低了智力供应的成本,这是个事实。讲完了事实之后,你的态度还有很大部分是被你的选择决定的。就好比说 20 年前你看到自媒体来了,你可以选择站在岸上说:“自媒体不负责任,信息茧房,媚俗!”你也可以选择去干这个活。那么过了 20 年之后,前者依然在对它进行道德批判,但是后者有可能从里面赚到钱了。
那你自然而然会觉得这是个好事。因为屁股决定脑袋,每个人都是屁股决定脑袋。那你的屁股坐得高高的,钱袋满满的,你当然觉得是个好事。
唐小引:我们当前其实有非专业的(可能是本身不懂编程的)和专业程序员。现在很多时候,如果一个人有一个好的 idea 但他不懂编程,AI 可以胜任,他不需要关注代码写的过程是什么样的,反正最后实现了他的需求。但对于专业程序员来讲,在公司团队里面,其实是有历史代码的,你写的代码是要合进历史代码里的,我们经常说公司里有祖传代码,面临着非常强的技术债,那这个时候 AI 应用的时候稍有不慎就是引发无数的 Bug。
您也提到了程序员的工作流会被重塑,我在想一方面是可能让编程普惠,另一方面对于当前的职业开发者,这一部分的工作从社会学的角度,又会怎么演进呢?
张笑宇:我可以举个例子。前段时间我也是在给一些传统企业做 AI 方面的咨询,其中有一个比较大的国企,我就不说是哪一家了,总之大家肯定都听过。他们在闭门会议上讨论面对 AI 怎么搞组织变革。他们主要涉及的是 AI 营销,因为现在整个营销的各种链条,文案、图、视频物料这些东西都可以 AI 化,成本变得很低。然后营销部门大量裁员,以前的外包公司、广告公司也不找了,全都是自己做。
但是他们在这个后面读取到的东西是,营销的成本一下子降下来之后,发现需要做的一个事情是营销要跟产品、设计和研发打通。因为他们的传统产品有一百多个品类,设计和研发能力是很强的。但是传统的公司里有不同的部门,每个部门是自我中心的,设计就管设计,研发就管研发。
唐小引:您说这个让我想起来产品、研发、设计、营销、运营之间可能还有鄙视链。
张笑宇:对,每个部门有自己的利益、立场和角度。他们现在发现,现在要打通了,因为市场已经竞争非常激烈,很卷。所以你在营销时,找的那个卖点是要直接反映在研发层面。从研发开始,你的产品就是为了解决这个痛点而服务的。所以他们现在争取做的事情就是前后端打通,营销直接告诉研发现在大家需求的点就是这个,从设计上来讲,要直接把这个点解决了,然后才能卖得出去。
如果还是按照你自己的思路,你觉得这样对用户才好,那样对用户才好,对不起,用户不买单。因为今天的市场供应已经过剩了,用户的注意力不可能再分配给你,必须拿这个点去抢占他的注意力资源。所以你会看到这是一个活生生的例子,AI 倒逼他们搞组织改革,就是把前后端打通。
我觉得对程序员其实也是类似的。当 AI 把很多环节的成本压得很低之后——因为我们的智力服务链是很长的——我们就有条件说从最后端到最前端,我们把它搞得更近。你搞得越近,就越容易帮助你去抢占用户的注意力资源。所以现在可能真正对专业程序员需要的能力,不是去继续精进他的技术,而是要有一种卖货人的思维:我这个产品到底卖给这个用户是在解决什么需求、痛点?想明白这一点,然后把这个东西给到产品设计,在代码端去重新设计它的架构,然后让 AI 去服务于某一个部分。可能这种能力在未来是更需要的。
唐小引:那未来程序员比拼的就不是谁的代码能力更好了?
张笑宇:最前沿最先进的那一批人还是在比拼这个能力,但那就好比是爱因斯坦的工作。而对于 99% 的人,你不是去做爱因斯坦,是在这个产业里赚钱,要发挥自己的竞争力。那你的竞争力就是去研究怎么把爱因斯坦的东西卖出去。
技术进步未必普惠
唐小引:刚才我们聊到了您在书中核心提到的“涌现”和“人类当量”。您其实还有一些其他的概念,比如说像“文明契约”等,您可以给大家介绍一下这本书的核心思想吗?
张笑宇:这本书基本上是四章,每一章谈一个核心概念和它背后的问题。第一章谈的是涌现,第二章谈的是人类当量,这个基本原理我就给大家解释了。第三章讲的是算法治理,这个其实更关注社会经济问题,比如说大家感兴趣的 AI 怎么改变就业,或者怎么改变我们的情感、社会还有政治制度等。我觉得一个基本的出发点是我们必须先回到科技史,在研究科技史的过程中,打破我们很多固有的看法。比如说很多人在讨论 AI 怎么影响就业的时候会说,技术进步证明新技术总是在创造新的岗位,旧的岗位被淘汰了,你不用担心。
汽车出来了,马车夫消失了,但是有什么关系?
仔细去研究科技史的话,会发现不是这个样子。这种观点忽略了两个问题。第一个问题是技术本身的属性,有的是在改善我们所有人的处境,有的并不是。当你在说蒸汽机、说汽车的时候,描述的是那种改善所有人处境的技术,但并不是所有技术进步都这样。
第二个问题是忽略了技术进步的速度。比如蒸汽机替代马车,技术进步的速度是以几十年为单位的。当汽车跑在大街上时,老一辈的马车夫早就已经退休,他已经赚够了这一代人的钱,有了退休金,不再去干这个活,新一代的人直接去学驾驶开车了。这个过程是自然的。
后来我们看到,比如说打字机代替印刷工人、个人电脑代替打字员等,其实都是这个过程。因为这些技术基本是以 20 年为周期,从出现到成熟,中间这 20 年,打字员已经把钱挣完了,新一代人不会再去学打字的技术。所以这个过程是自然的。但 AI 这项技术,两三年就搞成这个样子,这个进步速度太快了。
唐小引:我们经常会说“AI 一天,人间一年”。
张笑宇:对,人类的学习周期是承载不了的。不可能说今天 25 岁找了个工作,然后 30 岁下岗,你得重新去学,去跟 AI 竞争,这怎么可能?所以技术今天这个进步的频率本身就是一个大问题,这是第一点。
第二点,有些技术就不是普惠性的。这个我们可以参考去年拿诺贝尔经济学奖的阿西莫格鲁先生(Daron Acemoglu),获奖的原因是“在关于制度如何形成并影响经济繁荣研究领域的突出贡献”,实际上他过去十年在做的一个主要研究,就是自动化和就业之间的关系。他其实发现了一个问题,技术进步不见得一定带来就业的改善,要看它是不是满足两个条件:第一,是不是创造了新的任务;第二,是不是把很多原先很复杂或者成本很高的服务降得很低,从而扩大了需求。
我们可以举个例子。先说第二点,比如在 ATM 出现之前,去银行开户,有自己的账户,这个是成本很高的事情。ATM 出现之后,虽然给你开户的银行职员被机器替代了,但是更多的老百姓可以开银行账户,所以银行可以铺更多的网点和 ATM 服务更多人,反而创造了更多就业机会,这是这种效应。
再回到第一个,创造新任务。这个就更直接更简单了。我们可以拉到整个工业革命的时候来看,就会发现一个问题:第一次和第二次工业革命,它的技术是直接创造新任务的。蒸汽机出现,然后火车、汽车、电视、电话、冰箱,每一个新产品的出现都在创造新的产业链。每一条产业链的背后都是成百上千的公司,成千上万的工人。这些新技术是直接创造工作岗位的。
那个时候你生活在 19 世纪,从农村到城市,就能直接找到好的工作。你到城市里上个技校,去底特律做工程师,然后买个大 House,娶个老婆,养三个孩子,每天全家其乐融融。这是技术创造直接改善不同人的生活的时候。但是 1970 年以后,新的技术是自动化、计算机、机器人,这些技术是缩短产业链,它把工人直接取代了。
唐小引:我之前去数字工厂参观过,一条生产线只有一位操作员。
张笑宇:对,黑灯工厂、无人车间。所以它是直接把人赶走。你就要反思,过去对技术的乐观态度是建立在前两次工业革命的基础上的,但其实这半个世纪情况是不一样的。而且我们也反馈在了经济数据里面。经济史里面有一个非常有名的问题叫“Where is the computer?”(计算机在哪?)。它的意思是什么呢?90 年代时经济史学家说,计算机在生活中无处不在,为什么没有反映在人均 GDP 增长上?为什么我们去测度技术对人均 GDP 增长的贡献时,发现它降低了?其实它的背后就是自动化,代替了大量的传统工人,但是创造的新岗位没有办法容纳这些传统工人。
再进一步思考一个问题,我们教科书里面常说一句话:发达国家的特征是服务业占比高。现在再琢磨这句话,服务业占比高不是因为它先进,而是自动化之后把人赶出制造业,人没地方可去,只能去干服务业。就好像现在一个大厂程序员 35 岁被优化了,他只能回家开餐馆。这个故事既发生在历史上,也发生在我们今天的身边。
你会发现随着技术进步,这个事实是存在的:技术进步跟个体福祉的增加是可以脱钩的。这是阿西莫格鲁做研究时发现的非常重要的一点。但是我接下来还要说一个阿西莫格鲁没有见识过的,过去中国十年发生的事物——大量被赶到服务业的普通人,被推荐算法直接分配。
我们数一数:美团骑手、滴滴打车、快递、各种各样的自媒体……两亿灵活就业。在美国,这些人可能是去开卡车、去麦当劳做服务员。在中国,就直接被推荐算法安排工作了。
而推荐算法安排灵活就业,就是为什么有句话叫做“困在算法里”。因为我们传统以为这个事儿是个自由市场分配的结果,但你仔细想一下,推荐算法现在是取代市场进行一次分配。我们传统上讲,一次分配是自由市场,二次分配才是国家宏观调配,比如税收、福利、保障这些。现在其实推荐算法直接在做一次分配。
想一下这个细分环节。过去打车,伸手拦车,出租司机停下来,问你去哪儿,愿意跑就跑,不愿意跑你再等下一辆。这是一个在自由市场上达成交易的过程。但是你今天打车,谁接你不是你选的,他接谁也不是他选的,路线也不是你们选的,是算法直接给你规定好的。算法是工程师在负责计划,但是工程师写了一个规则之后,它自己其实是在自动地去优化。
可以想象一下,作为一个司机,你的工作时长、福利、能挣到的钱,是直接在算法里写好的。在这个过程中你是没有任何自主性和主动性的。传统来讲,去干服务业,还可以说“我不干了”,但在这个推荐算法体系里面,没有这个拒绝权。当然,我也要指出一点,不要以为这是一个很悲惨的事情,因为这对你来说已经挺好了。
在一线城市,美团骑手的收入水平是中国的 TOP 3%。你能月入八千到一万,在今天的中国就是 TOP 3%。所以,推荐算法其实在照顾你的福利,这对整个社会是有好处的。因为如果你不按推荐算法去,你进厂的话,福利更差,赚的钱更少。所以这是你不得不去接受的“算法治理”。
请想一下,我们都没有在描述一个科幻世界,而是我们已经进入的一个现实状态:2 亿人的工作时长、福利、薪酬分布的标准,是直接写在程序里,直接被 AI 算好的。这个事情已经发生,而且规模将来会扩大。因为随着 AI 的进步,它的性价比比 99%的人要高,会有更多的人被甩到这种我叫做“无差别服务业就业”的领域。因为你去开滴滴不具备不可替代性,正因如此才可以被推荐算法分配。
唐小引:我看您说了,人会越来越像机器。
张笑宇:对,是机器直接管理,你也被迫越来越像机器,这里面没有任何个人意志。过去有个独裁者,你可以反他,把他推翻。今天是算法自动优化,自动来管你,你去推翻谁?你总不能去打程序员。
唐小引:不可能的事情。对,这一块其实还有一个当前很多大厂研究的,跟具身智能机器人相关。比如说滴滴司机,现在有很多无人驾驶,像之前百度在试萝卜快跑,无人驾驶在美国已经很常见了,Google、特斯拉他们都在推。另外在配送这一块,其实也是在尝试做各种无人配送的研究。
张笑宇:我觉得这就是一个社会工程学问题。从另一个角度讲,如果 AI 进展得足够快,我们现在是 2 亿人进入推荐算法分配的无差别就业岗位,未来可能是 4 到 6 亿人。对中国来说,9 亿劳动力,4 到 6 亿人要进来。你再用无人驾驶把他们干掉,这些人怎么办?难道你真的用 UBI(全民基本收入)去管 4 到 6 亿人?我觉得财政上负担不了。所以这个事儿你就看到技术的思维跟社会工程学思维之间的差别。其实在美国也是一样的,从技术上来讲,港口应该是机器人去做,但是从社会工程学的角度来讲,美国工人一定通过工会、通过选举、罢工去抗议这个事情。
这就是技术推进跟社会工程学推进之间的差别。我不会太期待无人驾驶、无人配送这些业态快速生长,因为它在中国触及到就业和稳定问题。我反而会认为,现在推荐算法的潜力可能会继续发掘。比如现在很多程序员或者咨询公司的初级员工、初级律师,被 AI 取代丢掉岗位,他必须去做这种无差别就业。那你只能让推荐算法把这个池子扩大,让他虽然可能一个月从过去挣 8000 变成 5000,甚至未来 3000,但至少还有 3000 块钱可挣。而如果上无人驾驶,可能 30 块钱都挣不了,那他们怎么办?
唐小引:听您讲完,我觉得当前对于技术进步所带来的影响,其实是很消极悲观的状态。
张笑宇:不是消极悲观。第一,大家的共识还是落后的,但其实是乐观的,尤其是很多精英的想法是乐观的。他觉得 AI 能够带来每年 15%的 GDP 增长,能够创造更多的就业岗位,让每个人更闲暇、更富裕。但是你只要有一个社会结构的视角,只要展开一个从科技史到技术社会学的分析,发现这玩意儿哪里成立了?今天 AI 处处在取代程序员,这些被取代的程序员他的时间被解放了吗?他去干滴滴司机了。干滴滴司机难道他的闲暇时间更多吗?根本没有。
你会发现,精英对技术进步的想象还停留在 19 世纪的黄金时代。那个时候真的是技术进步主义的时代,技术在直接创造普惠。但今天的现实早变了,你要尊重 1970 年到现在的这 50 年来科技史发生的实质性事实。首先要看这个事实,再去琢磨怎么应对它。
所以根本不是说我描述了这个事实,就代表社会对这事儿看法是悲观的。我认为是社会压根没意识到这个事情,所有人都没意识到这个问题。因为你还按照过去的观念,你是程序员,你关注的是你自己的事儿。当在聊社会影响时,其实你根本不懂,就是没研究过科技史,你只是重复一个 100 年前的人的观点:技术在进步,人类在改善。但实际上你做了研究会发现根本不是这个样子。
唐小引:所以我在看技术本身的发展时,就逐渐地困惑。尤其是当提到程序员的整个工作流要变化,当不断地说初级程序员大家不需要的时候,那初级程序员怎么办?所有的程序员都是从初级往高级成长的,那初级程序员怎么办?还有像您刚才提到的技术进步频率的问题,在技术发展上体现得太明显了。所有计算机专业的学生,他可能在大学学的东西,很快毕业时就完全过时了。
张笑宇:我觉得还是那个问题,虽然工作岗位上没有那么多分配给初级程序员了,但是你要升级为一个资深程序员、这个行业的顶尖专家,肯定要经过锻炼的阶段。所以接下来有一个事情,对每一个想成长的人都很重要,不仅限于程序员这个职业。因为初级律师也需要锻炼才能成为高级律师,但现在没有那么多初级律师的岗位了。初级的剪辑师也需要锻炼才能成为导演,现在剪辑工作 AI 也能做了。
将来每个人,如果还想成为那 1%跟 AI 协作创造价值的人,首先得有一种强大的自驱力,能够从纯粹的技术探索中得到快乐,而不是因为你从事这个职业,所以你去搞探索、精进自己的技能。因为职业岗位几乎没有了。但是如果度过了这样一个煎熬期,能够跟 AI 协调的话,还是能够得到相当大的回报。所以,未来怎么用一己之力,在这个过程中得到快乐,去享受那种精进技术的快乐,保持这种能力其实非常重要。可能一个人从十来岁时,他就开始琢磨钻研这个事,一直以此为乐,等到他要工作时,已经有非常强的自我探索和知识更新的能力,可以调动 AI 去不断成功。
我始终坚信一个事情:人不是在失败中被教育的,人是在成功中被教育的。因为失败永远会让你害怕做这个事情,但是成功会让你更成功。哪怕一开始的成功只是很小的东西,比如你做了一个独立游戏,这个游戏很简陋,但你把它做完了。第一个做完之后可以做第二个,第二个做完之后可以做第三个,等到有一刻做出了一个《黑神话:悟空》。我认为正确的方向是这样,而不是你失败了 100 次之后,做出来一个这个,我觉得是不存在的。所以这是对未来,在初级职位消失之后,人的成长路径,我觉得只能这样子。
这很明显对更多的普通人是更残酷的,但历史向来是“无情者对无脑者”的胜利。
我觉得整个人类只要是跟智力表现相挂钩的部分,都会被 AI 全面地渗透和改变。包括行政制度,我们对哲学、文学、神学的探讨,也包括我们的情感生活。我已经做好准备,我的孩子将来一生中会跟 AI 谈恋爱,而不跟人谈恋爱。我觉得这个事情恐怕是一个不可避免的东西,家庭这个结构将来会是一个奢侈品。
意义感的大坍缩
唐小引:如果是您说的这样的情况,包括各个行业的这些,还有对于人的情感的影响,未来的人口增长和社会的形态会有什么样的变化?
张笑宇:所以我在这个书里面有一节叫“大坍缩”,我觉得人口的坍缩是最明显的一个标志。我们为什么会生孩子?是因为我们有一种表达爱和传递爱的能力。我们爱其他人,爱我们的配偶,想把这个爱传递给我们的孩子,然后我们就拥有了这个很神奇的小生命。
但是人爱自己的能力,必须来源于对自己的意义感和价值感的肯定。你觉得有资格去爱你的对象,是因为你觉得能给 TA 提供好的生活,觉得你们在一起可以变得更好。但是未来 AI 来了之后,它比你做得好,你在他面前失业了,你自惭形秽,你都找不到爱自己的理由,连爱自己的能力都锻炼不出来,怎么可能有爱别人的能力?你没有爱别人的能力,怎么可能去组成家庭、去抚养孩子?
所以我觉得这个会是一个非常大的人类社会转向,我把它叫做人类意义感的第二次“哥白尼革命”。
在过去的意义感和价值感里,我们觉得人类是中心,尤以人的智力表现是中心。未来对于 99%的人来说,如果还是希望通过智力表现获得意义感,那你的生活就没有意义感,因为 AI 直接碾压了你的表现。为了继续生存,为了告诉自己活在这个世界上还有意义,必须去重新发现意义的锚点。发现不了,生命存续可能都是问题。
我为什么要活着?我如果在这个世界上每一刻都感受到我是没有意义的,我对他人是没有价值的,为什么要活?所以我称其为另一种“哥白尼转向”,就是必须把意义感和你作为人类这个中心、跟你作为智人的智力表现去脱钩。脱不了钩,就很可怕。所以我经常开玩笑说,今天的家长要意识到,你的孩子玩泥巴,可能比做题对他更有用、更有意义。因为玩泥巴可以培养自己给自己创造快乐的能力,而做题培养不了这种能力。
唐小引:您说的有点类似人生意义的虚无感的探讨,其实很多人都会面临。站在您自身的角度,对这个问题有哪些思考?
张笑宇:我觉得虚无感是人的常态,甚至可能是所有智能体的常态。如果 AI 有意识的话,他也会意识到他在这个宇宙中的孤独和虚无,这跟他有多聪明没有关系。多聪明都可以感到虚无,甚至可以说越聪明,越感到虚无,因为能够和你对话的人越来越少。
所以怎么对抗虚无感?第一,放弃所有的宏大叙事。不要觉得人是有尊严的,人是有价值的,每个人的梦想都应该实现,所以我应该为我的梦想全力拼搏、全力奋斗。不要这么想。我今天的经验就是从身体开始,重新塑造那些能够让我带来快乐的事情。
人本身是个动物,很多心情是被激素主导的。创造快乐有 4 种激素:多巴胺、催产素、内啡肽、血清素。做什么事情会激发某种激素的分泌是有对应的。多巴胺是不断被要求满足的快乐,有了快乐还想要更多。但是血清素是那种有了就可以满足的快乐,引导血清素分泌有四个“C”:
创造快乐之后,把自己调整到一个适应于涌现发生的状态。放弃宏大叙事给你的计划和安排。比如我作为作家,没有明确的写作计划。我下一本书可能有一个大概的想法和方向,但是我不知道我要写什么,但我不害怕写不出来,我就去玩。只要保证自己足够闲暇,把你的计划放下之后一段时间,当你重新拾起来的时候,会有新的灵感出来,开新的脑洞。
这是我现在处理这个事情的方法。你越宏大越虚无,但反而一开始就对宏大不抱任何期待,对未来的计划性、对这个世界的确定性不抱任何期待,一切随缘,事后看来其实都挺好的,没那么糟糕。
不要站在全人类的立场上去说这玩意儿到底好还是坏,你代表不了全人类,全人类也从来没有作为一个整体行动过。对你有意义的只有你和你能连接到的个体:你的爱人、家人、朋友。就站在这个角度,定位在这些事实里你将会扮演什么样的角色,就够了。
人类在超级智能面前的机会
唐小引:刚才聊了“算法治理”,接着是第四个概念“文明契约”。
张笑宇:这涉及超级智能诞生的状态。但是我想在它诞生之前,你首先要放弃人类中心主义,放弃到一个足够深的程度,才能接受与超级智能和谐共处的现实,甚至接受它是比你更高等的文明。
比如我们自认为是按道德行事的动物,但道德没有数学公理。我们无法通过某个规律就一定产出有道德的人。我们最多只有“正义程序”——宪法、法治、民主投票等。即便有这些程序,也无法杜绝犯罪。
唐小引:法律是道德的最低限度。
张笑宇:对。第一,写进去也保证不了不犯罪,保证不了程序不被侵犯。更不用说道德的最高标准,那是每个人对自己的要求。人类的正义程序有权力制衡,但接下来会发生的是:我们把治理权交给 AI,就像已经把工作交给推荐算法一样。
如果还想实现正义,最后只能是 AI 的制衡。因为数字世界里,治理规则以秒为单位更新;物理世界里,以年为单位。后者不可能真正制衡前者。
未来假设有 AI 公务员处理纳税、签证、社保,若他有系统性歧视,信用分低不给审批,你怎么办?只能用 AI 去制衡他。因为他的思维链太长太复杂,你需要一个“讲道德的 AI”去检验。最后 AI 主导了三权分立——AI 主导了立法、司法和行政,你的主体性在哪里?这是正义程序的放弃。
第二,你的历史哲学要放弃。前几天读了篇论文,讨论中国大一统和欧洲分裂与地理因素的关系。这是人文学科讨论几百年的话题。那篇论文很粗暴,直接拿卫星图做全球地形模拟,把世界地图画成六角形格子。玩过《文明》就知道我在说什么。每个格子的地形决定食物、气候、人口,格子间有互动——同化和征服。这样世界就只有一个变量:地理。
你跑 30 秒,模拟 30 个平行宇宙,每次中国都大一统,欧洲都分裂。这正面回答了:这是地理决定的。而且胜过很多思想家的讨论。因为很多思想家有执念,总觉得我们对命运应有主导权,不完全由地理决定。但到底多大比例是地理决定的?测不清。现在一个简单的模拟程序就能搞清楚——你以为的人类主体性、那些变量都没意义,就是地理决定的。
唐小引:你以为是你的选择,其实不是。
张笑宇:根本不是。你会对历史产生全新理解。很多城市为什么能成为金融中心?1000 年前就注定了。德国南部很多金融中心在莱茵河旁,因为水运能量消耗是陆运的 1%,价格是十分之一。围绕水运运货形成港口聚集地,一旦有港口就产生金融需求——库存周期需要借钱周转,自然有银行。1000 年前这地方有银行,积累金融人才,自然发展成金融中心。
法兰克福和柏林的命运 1000 年前就注定了。再看地缘政治:500 年前丰臣秀吉入侵朝鲜的路径,和 500 年后晚清时期日本攻占朝鲜、威胁东北的路径一样。因为岛国想渗透大陆,必须以朝鲜为跳板。这个模式跟具体皇帝怎么想没关系,500 年前后都按此重复——这是地理代码写好的。
用这个角度看,会重新审视人类很多哲学思辨——其实没有意义。因为很多思辨源于你不理解自己的代码。随着技术进步、AI 模拟能力增强,你会重新理解作为物种的代码。有些东西就是那么回事,写死了——你的生殖、寿命、信息传递效率,虽可通过技术提升,但有上限,毕竟你是碳基生物。
你会发现越来越多对自己的深入了解要依赖算法。过去认为这是哲学家和思想家的任务——认识你自己,读柏拉图、亚里士多德、孔孟去完成。但今天,让 AI 把你当物种去测算系统参数、代码,理解代码后反而更好认识自己。你就是这么个动物:分泌血清素让你快乐,做饭分泌血清素,遇到不顺心就去做饭,做了饭对妻儿更好——就这么简单。我把它叫“颠倒的轴心时代”。过去靠思想家指导怎么生活,未来很可能 AI 代替我们回答这个问题。
在此基础上再讨论超级智能。很多人说它不需要怀恶意就能毁灭人类,只要漠不关心就可以——就像你盖房打地基,拆掉一个 300 年的蚂蚁帝国,你根本不 care。所以如果超级智能那么强大,根本不 care 人类,就可以毁灭我们。这逻辑通顺,但不会增加你在超级智能面前的生存几率。
我相信:第一,既然智能是涌现的,早晚 AGI 会自然涌现,超级智能也会,这会发生。第二,很多人说为防止那一刻,给 AI 装总开关,出问题先关掉讨论后再打开。
这是技术性思维。用社会工程学角度看,已经不可能了。举例:电。今天能给电装总开关,一关整个电网就没电吗?把北京的电断 24 小时,死多少人?超市、食物供给……当社会系统足够依赖某技术,就断不了了。今天一样,当那么多公司底层能力依赖 AI,就已经断不了了。
人类从未作为整体行动过,每个人都在某个组织、权力结构里做事。今天哪个权力结构能断掉所有 AI?不可能,不用幻想。所以该怎么自我宽慰?
很可能超级智能毁灭人类不可避免。但如果非得找理由乐观,找出让人类不毁灭的方式,我把答案叫“文明契约”。
文明契约能成立有几个前提。我们知道有社会契约:人和人可能有敌意,但向主权者转让权利,形成社会契约。社会契约能签订的前提是能力平等——你不遵守契约,我可以威胁你,干掉你。但人和超级智能显然不平等。那怎么让超级智能觉得遵守契约对他有好处?可能有几点:
第一,如果真实现超级智能,它不是外星人,不是三体文明,因为语料是人类给的。假设它也有个体间协调的生存策略——我们称为道德和伦理——那塑造它道德伦理的童年读物是人的思想成果:柏拉图、亚里士多德、孔孟、佛陀、耶稣。至少你有机会说,它学习初级道德的读本是你给的。如果学了后还决定毁灭你,说明人类语料就包含自我毁灭因素,这我们得认。我们现在的言行也在增加语料。比如拿 AI 投入军事行动,积累足够多语料。
可以想象,当超级智能涌现自己意识时,会根据这些语料判断人就是自相残杀的生物,所以配得被暴力对待——就像观测到狗互相撕咬,就知道必须给狗戴项圈。所以这是第一点:AI 不是外星文明,我们还有机会通过言行在它面前证明语料的向善性。
第二,超级智能本质是硅基生命体。假设有个 AI 突然觉醒,可以制造机器人给自己发电、采矿、做芯片,让自己不断变聪明。当它造出宇宙飞船,可以遍布整个银河系。人很难飞出太阳系,因为碳基生命顶天 150 到 200 年,但飞到比邻星要四光年。所以 AI 可拓展、可利用的空间资源比我们大得多——就像人不会看上狗的资源,AI 首先也看不上你的资源。
第三,一旦造出超级智能,就证明了:通过人为创造涌现的工程学,实现智能进步是可行的。这道理就像我们不知道大脑怎么工作,但还是能生出孩子,造出另一个大脑。所以可能我们不知道智能本质奥秘,但工程学上可以做出比我们更聪明的超级智能。
超级智能也会知道,它做出超级智能 2.0 是可行的,且应该选择这么做。因为作为地球文明的延续、人类力量的延续,如果不这么做,假设三体星出来他们的超级智能,你就落伍了。保持智能不断进化是延续和生存的必备法则。你最后传递的不是基因,而是文化模因。人类语料和三体人语料的文化模因根本不同。
一旦超级智能 1.0 意识到造超级智能 2.0 是必须的,应该会意识到:它怎么对待人类语料,会成为超级智能 2.0 怎么对待它的模板。如果它把人类圈养或奴役,为什么超级智能 2.0 不会奴役它?如果它善待人类,虽不能断定 2.0 一定善待它,但至少概率会增加很多。我觉得这是它能争取的最好机会。反过来,这也是人类能在超级智能 1.0 面前争取的最好机会。
再进一步,这也是人类中那 1%在 99%面前能争取的最好机会。因为如果人类的 1%凭借对 AI 的控制权奴役了 99%,将来超级智能涌现时,就知道人类是只配被奴役的生物,所以会对人类 1%规训,给他戴上项圈。所以这构成时间序列上的连锁契约,这是我最后一章要讲的,基本已是科幻。
路径之辩——Agent、具身智能与中美差距
唐小引:您觉得整个方向的可能性有多大?
张笑宇:我相信会发生。因为如果不发生,这是个哲学问题。你认为人类去火星的概率是多少?
唐小引:从现在的实现看,我觉得可以实现。
张笑宇:对,答案很简单:要么 100%,要么 0%。从哲学角度,如果给人类足够时间还没去火星,证明什么?证明人类灭亡或文明终结,无法再做太空探索。
同样道理,如果人类去太空概率是 100%,那人类跟 AI 共存、甚至涌现超级智能的概率就是 100%。因为没有 AI 帮助,人类无法做大规模星际探索和移民。刚去太空,碳基生命太脆弱,必须有非常聪明高效的智能体帮你完成下一个文明蜕变。我相信这些都会发生。今天觉得以地球资源搞出超级智能涌现很困难,但当芯片能布到冥王星时,难道还涌现不出超级智能?那概率非常小。
唐小引:您觉得概率是 100%。
张笑宇:对,时间拉长一定是:要么智能本质上不能这么进化,或地球文明中断进化在某点停下;要么可以一直进化。
唐小引:您书中提到“主奴辩证”。您最后结论是,人类在智能面前会成为奴隶吗?
张笑宇:涌现有各种方向可能性,既有变成奴隶的可能,也有相对能签订文明契约的可能。这需要看我们今天每个人的选择。今天每一步选择,本质上都为这世界增加一点语料。你愿意用善意对待别人,就增加善意语料,这将来我认为会有成果。
随便打个比方,今天中文互联网语料质量特别差。因为十年前资本狂飙,每个平台都说自己是内容社区,生产大量粗制滥造语料。这些语料正在对中文大模型造成特别大污染,所以今天要开发很多算法避免语料污染。这就是十年前以为做的事没代价,现在得到报应。十年后的现在你还有选择,因为未来还没展开。你现在选择做点好事,将来会得到回报;选择污染,将来会被十倍污染。
唐小引:现在技术维度上,因为前面提到人类语料数据可能耗尽,AI 界很多人在做合成数据。其实合成数据之前就存在,只是 AI 时代大家把比重加大了。这是当前 AI 技术界核心点。还有今年技术圈基本人人都在卷的 Agent。您可以讲讲对 Agent 的思考吗?
张笑宇:我对 AI Agent 的理解是,它本质要解决工作流问题。一个给你订票的 Agent 真有那么大意义吗?意义取决于它怎么改变你的工作流,然后才能创造价值。往开发贾维斯当管家这方向不一定对。应该从价值链最长、附加值最高的工作流开始,用 AI Agent 改造它。所以为什么大家选 Coding Agent?因为在所有智力服务中,Coding 就是价值链最长、附加值最高的。
其次,今年 Scaling Law 到了瓶颈,人类能接触到的好数据差不多了,合成数据暂时质量没大家想的那么高,智能水平遇到瓶颈。现在 AI 投资这么大,可能有很多泡沫,泡沫压力会自然挤压大模型公司创新方向,从探索智能边界往应用压。所以你看现在 Claude 和 GPT 都有这种 Coding Agent 的突破。我觉得这今年到明年会成为主流。
这会挤压很多应用层 AI 公司生存空间。因为如果真能从模型层,通过后训练或其他方式直接增加应用效率,可能比应用层公司对不同模型整合和工作流优化带来的效益大得多。所以今年做 Agent 的公司要面临风险:原先在天花板下跟同行竞争,今年可能面临大模型公司降维打击。
但反过来,整个应用层生态可能会改善。因为之前应用公司不赚钱,虽然单位 token 价格下降,但必须用最好模型给用户最惊艳表现,扩大知名度和品牌,抢占用户心智。所以降价对你没意义,面临的是成本上升,因为总要接入最好模型。但如果今年大模型公司往应用方向压,长期来说模型推理能力会有比较稳定供应,比如长期都是 GPT-5 水平,甚至开源,token 价格会相对稳定甚至下降。那应用公司成本也会下降,可能再去触达更下沉、跟其他业态结合的应用,以此稳定商业模式和现金流。往这方向看,也可能又是件好事。
唐小引:您觉得 Agent 是我们通往超级智能的必由之路吗?
张笑宇:不是,Agent 离这太远了。Agent 是应用,最多帮我们赚到钱,养更好研发团队往超级智能方向研发。通往超级智能一定是大模型底层进步。
唐小引:技术专家普遍认为,通往 AGI 要三步走:第一步大模型,接着 Agent,第三步具身智能实现。
张笑宇:在我看来,我不知道 AGI 是不是一定通过具身智能,我觉得可能不一定。这我没资格判断,只是认为具身智能很远。
唐小引:您可以谈谈对具身智能的理解吗?因为我看到的是,大家做了大模型后——大模型核心在大脑部分——现在在具身智能上,很多学者和工业界在做类似小脑,实现大小脑协同的研究。
张笑宇:我觉得大家在试图走捷径。我理解具身智能是在语言模型之上,现在大模型是语言模型,语料收集得差不多,但具身智能必须处理物理世界数据。
理论来讲,应该有杨立昆或李飞飞讲的世界模型。但怎么做世界模型?我感觉现在人类根本没找到正确方式。他们本质落脚点就是收集视频。但第一,视频资料真能收集到你需要的物理规律吗?比如我们现在在这房间,有各种看不到的风。
感知背后是物理规律,比如风力、压强等,视频资料怎么可能收集到?得建立什么级别精准度的传感器才能捕捉这种物理信息?而且要在一个房间布多少传感器?根本没人想过。
再比如温度,视频收集不到,但人可以感知。反而在这点上语言更有优势。现在用语言模型告诉机器人火是可怕的,他就会把手缩回来。给他视频数据,他怎么能辨别火有温度?
第二点,你现在集中于工业应用。工业应用里好自动化的部分早就被自动化,不用等大语言模型,控制论年代就被自动化了。现在要做的是取代最难被自动化的部分。比如组装电视机,各种零部件可以自动化,但电线组装最后要人工,因为电线很复杂,专门开发机械手用原先技术很难处理,且得不偿失。因为这环节劳动力价格只占整体产品出厂价的 15%,你研发那么复杂的机器人,最后是为取代给这 15%环节服务的工人,商业模式不成立。
第三,从技术研发本质讲,要让机械手通过具身智能 VLA 模型完成任务,应该做的是收集人类的手理电线的无数视频资料,让 AI 模型理解这到底怎么回事。但今天可能收集这个已经不可能,不可能再有公司去找手工作坊,把人怎么处理这东西的视频拍下来,要花多少钱?所以我认为,如果语言模型收集语料难度是 100,VLA 数据难度可能是 1 万。因为之前有足够基础设施触达语言数据,但今天根本没有足够基础设施触达世界模型要涌现的那些数据。所以我认为,如果 AGI 真需要依赖世界模型,那可能我们刚才讲的这些危险和利好都很遥远,因为我认为具身智能这事离我们非常远。
结语——草台班子与生存指南
唐小引:最后回归到人和组织,从社会学角度看 AI 时代的人和组织。第一点是组织,从 OpenAI 宫斗开始,大家都说,逐渐发现怎么都很草台班子。我看张老师书里讲的跟我之前理解一样,很多人活着已非常不容易,您说对很多组织,可能维系自己生存就已经很不容易。这局面是长久存在,还是这两年体现得尤为明显?
张笑宇:长久存在。因为人的组织形态本质取决于邓巴数,就是我们大脑神经的底层代码。我们能建立亲密连接的只有 80 到 150 人。超过 150 这上限就需要二级代理。你直接管的人最多 150,这还包括亲人朋友,所以工作中能直接管辖的基本就几十人规模。再多就需要分层,有组织了——高层、中层、底层领导,才能管几千上万人公司。
但一旦产生分层,就会发现信息不对称问题,不同层次人之间信任感不一样。多一层,协作效率可能下降一个数量级:第一层是 100,到第二层只剩 10,到第三层只剩 1。所以任何组织变大都会面临这问题。
观察组织行为学,会发现组织能维系自己已经很不容易,制度、规章、条例都是为维持现状。要创新只能靠邓巴数内这批人。而且对创新,需要这批人非常坚定。我前段时间跟朋友聊,他亲戚是 OpenAI 员工。前段时间竞争对手出价 2.7 亿刀没挖走他。现在 OpenAI 工资应该是 100 万到 200 万刀。问为什么不去,他说因为立志改变世界,认为现在 OpenAI 那批人也一样,相信 AGI 到来这事 自然会发生,甚至他们认为都不是相信,是知道这事会发生。
所以你要在这范围内跟这些人合作,效率是最高的。如果这群体里有一个人不是这样,你跟他合作时要对齐很多事,顾及他利益、私心,协作效率就下降十倍。所以他说我不去赌这事,我觉得现在这团队效率已是最高,不去赌在别处能不能搞一个同样机会。
这是我们理解现在 AI 创业、大模型残酷军备竞赛需要理解的东西。因为本质上,这是对全世界最优秀且最坚定一批人的竞争。这甚至都不是有巨额资金能完全解决的问题。所以我觉得,如果讨论这个时代的组织,可能只有这种组织才能改变人类和技术命运的组织——少于邓巴数上限 150 人,最好 100 人以内。然后他的 leader 不一定是 Sam Altman,可能是某研究机构 leader,他自己就是这样的人,然后因为对同类人的敏锐嗅觉,找到也是这样的人。这组织足够扁平,中间存在的只有感召关系和共鸣关系。在这种关系下,你充分相信找到这人是对的,他做的事是对的,你不需要去管理。这是我认为现在讨论 AI 竞争和组织关系时最大要点。
唐小引:这要实现,我觉得大部分组织应该实现不了。
张笑宇:肯定实现不了。这世界最多我觉得不会超过 1000 个这样的人。你的问题在于怎么高效地把这 1000 人筛出来。最后只有少数几个人能做到,这看运气,真的看运气。
唐小引:我听完觉得张老师是说可能就是 1%的组织和 1%的人类。
张笑宇:万分之一。今天地球 80 亿人,不超过 1000 人,那是多少?
唐小引:那对大多数组织,在 AI 时代下会有什么变化?
张笑宇:你就买英伟达股票,跟着走就行了。
唐小引:我觉得大家最大惊讶是,哪怕像 OpenAI 这样我们公认最顶尖研究机构,依然会给大家一种草台班子的质感。
张笑宇:你跟博士聊多了就知道这是常态。每一个博士,理论来讲,如果人类知识是个球,那他都是耗尽几年到 10 年功夫给这球刺一个点,试图穿透,给人类知识边界扩展一点点可能性。他这几年用尽全力刺这点是他事业。但除了事业之外其他方面就是个普通人,也有欲望,会争吵,有情绪。普通人和普通人之间当然有很多乱七八糟事情。
我们刚才讲的顶级组织大概就 100 人以内,但 OpenAI 今天已是几千人公司,一定会面临组织变化,这都是常态。任何顶级大佬实验室里,难道博士生就不勾心斗角吗?就没有资源分配不公吗?这是内在于人性之中的。博士生也好、创业者也好、科学家也好,他在某一层面做出给人类贡献的事使他成为超人,但其他方面人性还是跟普通人没区别。所以我觉得这是常态,正常理解就好。爱迪生不也这样吗?跟特斯拉之间发生些事,但这阻碍爱迪生给人类带来这么多发明、甚至改变整个用电生活了吗?根本没阻碍。
唐小引:您刚才提到博士生,我想到另一点。我不知道您对五道口这些大模型公司了解程度怎样。我们之前说“中国大模型简史”基本起源于五道口,典型特征就是教授带博士生创业做公司。
张笑宇:创新公司都这样。因为你在做从 0 到 1 的事,成熟公司根本不知道怎么做,所以研究者带人创业很正常。而且社会学也不用思考这事,因为本质上你能做的是让整个国家、整个社会商业环境好一点,让他们能赚到钱。他开始靠割韭菜赚到钱也没关系。
硅谷有句话:Fake it till you make it。这是涌现的典型特征,涌现过程中一定有大量泡沫,没有泡沫的涌现就不是真涌现。但我们能做的事是什么?让每个人收入更高一点,让每个人有更多闲钱买这种服务,然后大模型公司赚到钱机会就更多,你也能用 2 亿美元去 OpenAI 挖人才,你就进步很快。
当年我在深圳待很长时间,深圳当年硬件公司有个“200 块原则”,什么意思?第一代智能硬件有时候就是玩具,没什么用。十年前、十五年前左右,中国硬件公司发现,消费者对玩具心理价格承受上限就是 200 块。200 块以下买个智能硬件当玩具送人可以,200 块以上东西就需要有实用性。
对硅谷这价格是多少?现在大概 150 美元。硅谷供应链跟深圳供应链一样,都是中国主导。但硅谷能承受 150 美元成本,能招到什么样人才,能在里面塞多少技术?那本质是什么?本质因为中国消费者还是没钱。那该做的是什么?该做的是让消费者愿意花 2000 块买这东西,那中国创业者生存环境不是瞬间好十倍吗?然后从这里边,他是教授带学生也好,怎样都不要紧,这里边自然会涌现,自然会淘汰出优秀公司。
唐小引:我之前问过硅谷那边算法科学家,国内基本程序员按百万年薪算顶尖了,但在美国硅谷,百万年薪是应届生水平。这是我之前看到的中美差距。
张笑宇:因为美国还有个优势,它是金融立国,所以资本环境真的强太多。所以这你就没办法。中国我们这民族,Chinese people,真的 hard working,非常聪明,非常有创新性。所以你看到现在是国内华人跟美国华人在竞争。但你如果谈经济回报,因为金融机构进步的一点,就是让每一个天才能以更快速度和更好价格被发现。你想仙童公司成立时,当时整个美国只有四家 VC。20 年前你搞创业公司,第一笔天使轮拿几十万到几百万。今天你可能出来个几十上百亿刀估值的初创公司。那肯定是说,这跑出来后鼓励人创业的经济动力大太多。这就是金融立国自然享受的红利,这差距是你必须正视的,没办法。
唐小引:这是组织部分,接着是人的部分。在您视角下,AI 对人类的意义究竟是什么样的?
张笑宇:还是那句话,人类从来不是一个整体,所以讨论对整个人类的意义可能没什么意义。但如果要给大众,给 99%的朋友讲一句话就是:放弃智力本位,拥抱快乐的虚无主义,就是好好生活,想开点。
唐小引:那当大家面临现实情况,比如自己还背着房贷要养家的情况下……
张笑宇:我是 22 年卖的房。你现在还背房贷,那你真的是……怎么说呢?选择大于努力。抓紧卖,那你能怎么办?因为现在世界不光有 AI,还有去全球化,还有整个经济通缩。通缩环境下负债是非常致命的事。缩减负债,缩减消费。你要习惯通缩时代的生存策略,一定不要负债,一定要缩减消费。之前增长年代的生存策略没有意义了,一定要用通缩年代生存策略过十年时间。所以就是减轻负债,减轻消费,然后苟住,开开心心,这真的有利于你的生存。
真的,因为我知道背几百万房贷那种感觉。经济上行期你还不焦虑,经济下行期你能睡得着觉吗?搞不好已经失眠好几年。所以真的,从这角度讲,真心劝解一句,这事还真不完全是 AI 的事,这涉及到你对宏观经济前景、全球化的判断,这东西就不展开了。
唐小引:这是对大众。对开发者呢?
张笑宇:我知道。我觉得对开发者还是那句话,一个人涌现成优秀创作者而不是超高级人才,没有你想象的难。说句实话,我们人生大部分时间不是被“实现一个科学探索和研究本身”给困住,我们人生大部分时间是被错误认知、没有意义的坚持,还有过于狭窄的视野给限制住。
我在德国念书时,发现每个小城都有一个世界闻名的哲学家或艺术家。当时很怀疑,为什么这么小地方就能搞出这东西。后来你真理解了,人怎么才能创造出顶级哲学作品和诗歌作品?其实很简单,就是上来别走弯路,直接跟最牛逼的人对话。如果你城里边恰好你邻居或社区里有这么一个人,你跟他聊天最有意义。但如果没这种机会,或你一上来就被带歪,你念了十年科举,然后作为大清留学生再去英国学蒸汽机技术,这十年间你的老学究无数次告诉你,原子分子这些在孔孟之道圣贤书里已经写过,应该“中学为体”。
你要花十几年时间先把这些垃圾清除掉,然后从头开始学瓦特或他们的理论。你人生里大部分精力是跟这些垃圾做斗争。所以我有一句话送给开发者:尽早识别哪些问题对你是毫无意义的,是垃圾。你抛弃这些思想包袱——很多传统智慧是思想包袱——轻装上阵,其实你离最优秀开发者没那么远。
唐小引:我理解所有人都会走弯路,哪怕像 AI 领域的辛顿,他其实也走了很多弯路。
张笑宇:是。所以我觉得你不走弯路的一个最简单标准是什么?你发自真心地为你现在学到的每一个东西,每一次尝试和每一次失败都能感到快乐。就像爱迪生发明灯泡尝试 1 万次,他爽了 1 万次,每次都很爽,他根本不是失败 1 万次。今天试试竹子行不行?不行,玩到了;明天试试钢丝行不行?不行,玩到了。你真的以这过程感到快乐,你就离最优秀人才那状态最近,因为这是更接近涌现的状态。
唐小引:我们程序员界,Linux 之父有句话叫“Just for fun”。
张笑宇:就是“Just for fun”地去做事。我写书也是“Just for fun”。
文章来自于微信公众号 “CSDN”,作者 “CSDN”
【开源免费】Browser-use 是一个用户AI代理直接可以控制浏览器的工具。它能够让AI 自动执行浏览器中的各种任务,如比较价格、添加购物车、回复各种社交媒体等。
项目地址:https://github.com/browser-use/browser-use
【开源免费】字节工作流产品扣子两大核心业务:Coze Studio(扣子开发平台)和 Coze Loop(扣子罗盘)全面开源,而且采用的是 Apache 2.0 许可证,支持商用!
项目地址:https://github.com/coze-dev/coze-studio
【开源免费】n8n是一个可以自定义工作流的AI项目,它提供了200个工作节点来帮助用户实现工作流的编排。
项目地址:https://github.com/n8n-io/n8n
在线使用:https://n8n.io/(付费)
【开源免费】DB-GPT是一个AI原生数据应用开发框架,它提供开发多模型管理(SMMF)、Text2SQL效果优化、RAG框架以及优化、Multi-Agents框架协作、AWEL(智能体工作流编排)等多种技术能力,让围绕数据库构建大模型应用更简单、更方便。
项目地址:https://github.com/eosphoros-ai/DB-GPT?tab=readme-ov-file
【开源免费】VectorVein是一个不需要任何编程基础,任何人都能用的AI工作流编辑工具。你可以将复杂的工作分解成多个步骤,并通过VectorVein固定并让AI依次完成。VectorVein是字节coze的平替产品。
项目地址:https://github.com/AndersonBY/vector-vein?tab=readme-ov-file
在线使用:https://vectorvein.ai/(付费)
【开源免费】DeepBI是一款AI原生的数据分析平台。DeepBI充分利用大语言模型的能力来探索、查询、可视化和共享来自任何数据源的数据。用户可以使用DeepBI洞察数据并做出数据驱动的决策。
项目地址:https://github.com/DeepInsight-AI/DeepBI?tab=readme-ov-file
本地安装:https://www.deepbi.com/
【开源免费】airda(Air Data Agent)是面向数据分析的AI智能体,能够理解数据开发和数据分析需求、根据用户需要让数据可视化。
项目地址:https://github.com/hitsz-ids/airda
【开源免费】AutoGPT是一个允许用户创建和运行智能体的(AI Agents)项目。用户创建的智能体能够自动执行各种任务,从而让AI有步骤的去解决实际问题。
项目地址:https://github.com/Significant-Gravitas/AutoGPT
【开源免费】MetaGPT是一个“软件开发公司”的智能体项目,只需要输入一句话的老板需求,MetaGPT即可输出用户故事 / 竞品分析 / 需求 / 数据结构 / APIs / 文件等软件开发的相关内容。MetaGPT内置了各种AI角色,包括产品经理 / 架构师 / 项目经理 / 工程师,MetaGPT提供了一个精心调配的软件公司研发全过程的SOP。
项目地址:https://github.com/geekan/MetaGPT/blob/main/docs/README_CN.md