EP 118
置身奇点之中｜AI 投资周期、数学冲击与旧金山氛围
正在穿越奇点的感觉 00:00
卢正石 今天录制的时间是2026年10月11日，星期日早上。变化实在太快了，胜准今天刚连上录制，开口就说“累死了”，最近发生的事实在太多了。新模型不断发布，这次又说数学要走到尽头了，下次又会轮到什么呢？发展速度的曲线似乎正以我们难以预料的斜率不断变陡。所以，关于我们是否真的正在经历奇点，似乎不只是我们，社区里也有各种讨论。今天围绕这个话题，我准备了一篇，胜准和钟贤也各准备了一篇，一共准备了三篇。我想把这种快速变化的现象放进过去的框架里看看：当年的铁路热潮、光通信热潮是什么样的？相关产业经历了怎样的周期？面对如今这个飞速变化的世界，稍微退后一步，从全局看接下来究竟会发生什么，我们又该做些什么。这是一个商业思想实验。我平时就常聊这方面的话题，所以想先讲一个商业思想实验。
用 time gap 与 domain gap 绘制的 AI 市场地图 01:26
崔胜准 我很好奇这次是什么版本。
卢正石 这是我用来观察当前市场的框架。这张图以前在逃亡者联盟等场合也用过。我把 x 轴设为 time gap，y 轴设为 domain gap，试着把当前市场正在发生的事放进同一个框架里。在图的右上角，我们称之为 Frontier Labs 的OpenAI、Claude 这样的公司正朝着技术前沿、朝着奇点推动发展。紧跟其后的是 Qwen、DeepSeek 等我称为 Quasi Frontier Labs 的公司，大约落后两到六个月。再往后，是从通用领域退开一步，想做特定领域垂直业务的法律、咨询和会计领域的公司。无论是 Frontier Labs 还是 Quasi Frontier Labs，都在向后面跟进的大众，以及超出我们所说的“知识”，也就是 LLM 之外的领域不断扩展。我用箭头标出了这些扩展方向。绿色线上写着 adoption frontier，这条线右侧的人是正在跟上变化的人，左侧则是尚未跟上的人。我想用这条线表示这种区别。我一直觉得，把整个产业画成二维图很有意思，
所以硬把它放进了这张图。那么我们在哪里呢？就是我标着“we’re here”的位置。在各领域最偏 virtual 的一端，是我们称为 LLM 的知识产业的宠儿；另一端是 physical 的尽头，也就是 human labor。我试着把各个领域放在这两端之间。越靠近物理世界、越接近现实，就越难建立我们常说的能提供奖励信号的 RL 环境；越靠近虚拟世界，就越容易。两端之间聚集着许多庞大的领域，也聚集着规模惊人的产业。我觉得我们的位置就在稍稍触及 RLVR 边界的这一带。如果把这张图画得更贴近现实，我想大概是这个样子。前面把它画得很大，但我们所关注的前沿实验室发生了什么、数学领域发生了什么，编程领域又有哪些工作实现了自动化，这些话题在以工程师和创业者为代表的社区里，都再平常不过。可只要往外走一步，就有一个庞大的群体，觉得这些还不是现实。胜准刚才和我私下聊天时，不也说过吗？一出门就找不到能聊这些的人。因为不是所有人都跟得上这个速度，大多数人目前还跟不上。现在仍有很多人说，Tesla FSD和现代汽车配备的驾驶辅助系统
是一样的东西。所以，考虑到人们对变化速度有着不同的感受，我觉得积累程度大致是这样。对很多普通人来说，AI 带来的变化还没有真正发生。还有我们说的 superintelligence，特朗普说要改成 superintelligence，结果 SpaceX 也成了 SI。不过，等 ASI 出现，位于 RLVR 边界之上的产业恐怕就都要完了。整体来看，大致有这样一套策略：尽早看出 Frontier Players 提供的价值，判断自己的领域是否安全，而最终赚钱的方式，就是利用一点时间差，从后面跟上来的人那里赚钱。如今除前沿实验室以外，大多数商业模式基本都是这样。再往前走一步，我们还可以针对自己的领域建立专属的 RL 环境。所以我觉得，训练模型、做微调这些事，在过去两三年里似乎都消失了，很多人说靠提示词工程就能全部替代。但做微调和模型开发的人，似乎又要迎来自己的时代了。Jev 这样的案例，我觉得就是一个很好的例子。这也是今天话题的起点：
堪比铁路与通信的 AI 投资周期 06:36
卢正石 如今投入 AI 的资金，正被拿来和过去的大泡沫、铁路和通信等行业的基建投资热潮相比，规模几乎堪比铁路，人们说这是一轮相似的投资周期。投入的钱也多得惊人。我们先看几个数字。四家科技巨头计划在 2026 年年底前投入的资金加起来，是 7250 亿美元。10 亿美元，按每美元 1000 韩元算，就是 1 万亿韩元。四家科技巨头投入资本开支的资金，就接近 1000 万亿韩元。有些用的是自己赚的钱，有些通过发行股票筹集，甚至有些通过举债筹集，还有不少钱没有记在账面上。而英伟达一个季度赚的钱，约有89万亿韩元，接近100万亿韩元。可是现在靠AI赚钱的公司，Anthropic和OpenAI都不公开营收。人们只能根据外界流传的数字，以及零星披露的数据，来估算它们的ARR。按全年算，这两家公司的营收合计约400亿到650亿美元，折合约100万亿韩元。资本开支几乎是收入的十倍，赚到的钱却只有十分之一。而且这些收入，也差不多相当于英伟达一个季度就能赚回来的钱。
capex 与收入之间的巨大落差 08:17
卢正石 所以两者之间有巨大的差距。现在仍是投入惊人的投资阶段，这轮投资为什么还能持续？因为人们相信它还会增长。现在才刚刚开始。如果消费者市场也像企业市场一样打开，规模就会大得惊人；如今Google、Meta和Apple创造的整个产业规模，都将被AI取代。这些论点都藏在这套投资逻辑里。所以，事情真会这样发展吗？如果没有实现，又该怎么办？我试着提出了几个这样的问题。如今这个世界正以惊人的速度发展，尽管如此，我还是写下了作为这场思想实验起点的四个问题。
崔胜准 继续之前，我还不太能想象1000万亿韩元到底有多少。脑子里没什么概念。有什么可以参照吗？
卢正石 韩国一年的政府预算大概有400万亿韩元吧。韩国的年度GDP大概是1000万亿韩元。也就是个人、企业和政府花的钱加在一起。应该差不多是这个规模。当然，这里面有时间差，把这些也算进去，计算就复杂了。哪一年买的GPU现在是否正在创造营收，这些投入和产出很难逐一核算，所以我只是按今年的水平粗略估算。即便如此，只比较今年的投资和今年的收益，差距也很大。所以请大家考虑到这一点，再听我接着说。我引用这些数字，并不是要像分析师那样精确计算、预测，而是为了对大趋势做一场思想实验。因此，我引用的有些数据点可能不准确。这一点先请大家谅解。那我们开始吧。这确实是一笔巨款。胜准刚才问到了这个问题。我给公司同事解释1万亿韩元是什么概念时，会说我在圣水洞办公室时，远处蚕室的乐天塔看起来很大，楼也非常高。把那块地、楼里的住宅，酒店等全部算上，据说那处房产大约值10万亿韩元。所以我会说，可以拿它当作参照。
前沿的多元化与消失的 escape velocity 10:47
卢正石 回到最根本的问题，大家也知道，并非只有Anthropic、Google和OpenAI才能开发前沿模型。只要有资本、足够的算力，数据集和人才，任何人都能开发前沿模型。这种看法似乎已经传开了。而且前面提到的规模也非常惊人，发展得很快啊。现在说它正以光速发展，也不为过。发展这么快的行业，通常会出现所谓的逃逸速度。一两家公司突破逃逸速度，形成垄断市场，取得技术垄断地位，之后便能轻松赚钱，受到专利或其他方式的保护，就像制药行业会发生的那样。但这里却在持续走向多元化。多元化不断发生，甚至让人疲惫，新的参与者也不断加入。仅仅因为大家相信这个市场会变大。最近，Andreessen Horowitz经常发布这类内容，尽可能搜集资料，围绕当前 AI 市场发展到什么阶段这个主题制作了很多 YouTube 视频。据说大约一半的美国人都在使用 AI，但付费订阅的人还不到 5%。这很不可思议。
再看总收入，前 10% 的用户贡献了超过一半的收入。前 1% 到 2% 的用户就贡献了 20% 的收入。所以这是一个收入高度集中的市场，而在高收入群体中，绝大多数付费工作负载并非我们用 ChatGPT 进行的那种聊天。不是聊天服务，而是大量智能体服务，比如工作流程自动化、视频制作，或者编程。大多是这类工作。所以在 Andreessen Horowitz的另一段 YouTube 视频里，他们也说程序员有 3000 万。这是全球范围内的数字。而这些人实际上可以说几乎都已经开始使用 AI，他们创造的收入现在接近 100 万亿。而知识工作者的数量，据说大约是 1.5B。也就是大约 15 亿人。他们说，如果这些人都开始使用 AI，市场会增长到多大？但这一点也值得追问：他们真的会像程序员编程时那样，大量使用这类智能体工作负载吗？还是只会用一些简单功能，比如让 AI 总结邮件？现在还不知道。OpenAI 和 Claude 也推出了 Work。它们希望普通知识工作者也能使用，于是结合办公软件套件推出了 Work。但 Work 增长得怎么样，它们并没有公布相关指标。
如果增长确实又快又显著，它们应该会拿出数据，说产品表现有多好。所以我目前推测，除了编程，AI 在知识工作中还没有得到广泛使用。再看消费市场，年初 OpenClaw 出现时，我们就在想：如果大众都用上它，会产生多大的影响？现在我们也在观察。Grokbot、Muse。据说 Muse 有 500 万用户，Grokbot 据说也有一些用户，但我们还没看到很多面向消费者的应用。人们目前还没有广泛使用这些产品。我也在想，接下来会怎样。所以，现在这场大规模过度投资，依据的都是同一种说法：将来所有知识工作都会用上 AI，消费者的使用场景也会出现。那么，相比现在的使用量，未来会增长多少，根本无法估量。不过，我觉得也该问问：真会这样吗？因为以我身边的情况来看，人们采用 AI 的速度没有想象中那么快。企业的工作流程似乎也在向 AI 转变，但我感觉速度还不快。
那么，模型接下来的竞争会怎样？我们一直在比拼基准测试成绩嘛。大家认为前沿模型会通吃一切，技术上将由 Anthropic 和 OpenAI一决高下。我原以为 Google 肯定会追上来，但 Google 现在意外地有些安静，这一点让我们都很疑惑。Meta 也在追赶，还有 Elon Musk 的 Grok。那么下一阶段会是什么样的竞争？所以，就像我上次说的，我去欧洲出差时受了点小伤，趁着卧床休息的那几天，我问 Claude，过去的历史上发生过哪些类似的事，也查阅了一番。从投资规模来看，尤其是投资占 GDP 的比例，有个值得关注的例子：从 19 世纪初到 20 世纪初，持续约 100 年的铁路热潮。想想看，18 世纪末蒸汽机首次出现，并推动了工业革命。由此首先发展起来的是铁路，其次是利用蒸汽机实现工厂自动化，这是当时最大的变化。回顾铁路的历史，第一条铁路线建于 1825 年，第一条商业运营线路则于 1830 年连接了曼彻斯特和利物浦。这是最早的商业铁路。
而在那之前，利物浦是棉花进口港，曼彻斯特则用这些棉花纺织，制布的加工厂聚集在那里。可以说，曼彻斯特是工业革命最早兴起的城市。可直到那时，两地还靠运河运输。后来铁路出现，打破了运河对运输市场的垄断，运费大幅降低，运输速度也变快了。而且流动的不只是货物，客运市场也突然爆发，
铁路革命与过度投资狂潮 17:21
卢正石 人们出行也更频繁了。这就像 ChatGPT刚出现时的情景。哇，世界要变了。于是各地城市和各条支线都掀起了建设热潮。在有利可图的路段，建起来的不只是一条线路，而是接连建起好几条。于是出现了大规模过度投资，此后几十年间，资金不断投向铁路。但当时的想法也一样：只要建成铁路，市场就会大幅增长。可从结果来看，确实投资过度了，所以很多公司倒闭了。投资铁路线路本身的人几乎没能收回投资。但建设留下了基础设施，也让运费降低。运输变便宜后，人们的生活方式也随之改变。正是因为这些行为变化，真正开始赚钱的，是在铁路基础上创造新价值的人。运输业者反倒纷纷倒闭了。乡下的农场主把鲜奶运进城，催生了新产业，新鲜蔬菜也运进了城。这些产业依托铁路发展起来，收益实际上都流向了他们。
所以概括来说，投资者，也就是铁路投资者，想着这能赚多少钱，于是掀起了投资狂潮。随着这股投资狂潮兴起，银行等机构，以及投资者并不是唯一的出资者，普通投资者，甚至消费者都涌入债券市场，为这个产业提供资金。整个国家都参与了。可他们全都亏了钱。那么，价值流向了哪里？流向了那些在铁路基础上创造附加价值的经营者。再从更宏观的角度看，整个社会都从中受益，这样说才准确。后来，这些产业又怎么样了？它们承受不住过度投资，进入了行业整合阶段。所以最终，在美国有JP Morgan，在英国则有少数寡头企业，接手铁路，将尚未统一的部分标准化，并协调时刻表。后来政府也开始监管，禁止它们串通定价。随着这些变化出现，铁路市场才变成了我们今天熟悉的样子。少数寡头企业受到监管，整个产业也形成了难赚大钱的格局，长达百年的周期就此结束。
崔胜准 那么，现在对应的是什么？我很好奇。
AI 基础设施热潮的真相时刻 20:23
卢正石 现在对应的，是一个对未来市场规模抱有美好预期、基础设施投资不断过热的初期市场。
崔胜准 那么，当年倒闭的那些企业对应现在的哪些企业呢？
卢正石 现在还没出现倒闭的企业。当人们对未来的前景极其乐观时，会发生什么呢？资本市场也会跟进。只要投资持续，资金不断流入，市场就会继续扩大。而真正见分晓的时刻，就是资本市场打上问号的那一刻。消费者市场的普及比预想中慢啊。相比已投入的资金，Anthropic 或 OpenAI 的营收增长率比预想中慢啊。如果这么想，比如后续跟进的股票投资。企业上市时，会出售新发行的股份来筹集资金嘛。那笔钱也非常可观。这叫股权融资（equity financing），如果靠股权融资还不够，就会向外部借债。可看看现在的基础设施投资，债务融资的占比超过 80%。所以超大规模云服务商也在借债，外面还有专门投资基础设施的私募股权机构等。而且，和当年铁路业一样，现在连私人债券都出现了。鼓励人们投资 GPU 热潮、数据中心建设热潮的这类产品如今开始涌现，这与铁路市场的过度投资阶段非常接近。每当一个产业出现新的美好前景，事后回头看，相比最终实际形成的业务规模，人们总是抱着很高的期待，随之而来的是过度投资，过度投资让光纤网络铺得更多，铁路网也铺得更多。
还有，实际上需要的软件公司数量有限，投资却多得多。回头想想，文字处理软件是这样，后来到了 Web 2.0 时代，无数网页应用也是这样，移动互联网时代同样如此。应用时代开启时，出现了多少家应用公司啊。需要的相机应用只有一个，相机应用却有几千个。就是这样，供应总是超过实际需求。那么，过剩的供应从哪里来呢？因为人们期待市场会大幅增长，资本因此涌入，带来大量投资，过剩的供应就是这么产生的。所以用这个角度看 AI 市场，我觉得现在也有类似的情况。因为刚才我在这里也展示过，单看今年，和赚到的钱相比，投入的钱要多得多。他们今年花了7,250亿美元，赚到的钱大约是1,750亿美元。这个数字除了 Anthropic 和 OpenAI，还把其他 neocloud 公司都算进去了。这样汇总之后，收入估高了也才1,750亿美元，即便如此，相对于目前的投资额，也只有三分之一或四分之一左右。那么明年就得赚多得多的钱，可要实现这样的收入增长，究竟还能增长多少？想想就觉得，恐怕增长不了太多。
看不到编程之后的需求这一问题 24:10
卢正石 因为现在编程领域已经用上了，而编程过去就是整个软件市场，这些人用了将近一年时间，全都进入了智能体编程市场，随着他们转向智能体编程，Anthropic 和 OpenAI 的营收也急剧上升了。所以增长曲线才会这么陡。要有下一波用户涌入，就得出现像编程一样适合这种模式的其他工作流程，而且得像编程一样引发热潮，以同样快的速度普及，但现在并没有。
崔胜准 所以这不是面向企业还是消费者的问题，而是用户涌入的速度本身就没那么快，对吧？
卢正石 对，对。所以资金充裕时，人们抱着这种期待，
泡沫破裂后打开的消费者市场 24:59
卢正石 进行了规模惊人的过度投资，可一旦发现现实达不到预期，接下来资本市场就会崩盘。投资者赚不到钱。而赚不到钱时，过度投资的领域就会整合并走向标准化，随后是所谓的商品化，再之后，监管也会跟进。等到产品能以很低的价格供应给市场时，消费者市场才开始增长。铁路发展时也发生过同样的事。铁路热潮兴起的时期，从19世纪中叶到19世纪末，人们满怀期待地想：“铁路带来的未来会有多光明？”当时又正值美国西部开发，与南北战争等事件交织在一起，人类的居住范围不断扩大，这些变化全都相互关联。铁路就这样发展壮大，但到了19世纪末，泡沫最终全部破裂，形成了我们今天所知的由少数几家企业主导的寡头格局。当然，铁路的这些变化历时100年，而 AI 的变化几乎每一两年就发生一次，这是两者的区别。还有，铁路建成以后，至少会留下能用几十年的基础设施，模型就像保质期只有四个月的库存。四个月后新产品一上市，旧的就消失了，这是不同之处。但从整体来看，我觉得它们或许正经历相似的周期。
所以到了20世纪，JP Morgan 这样的人进场，完成整顿和重组之后，基于这套基础设施，邮购、包裹配送以及城市化等才开始蓬勃发展。城市化还推动了知识产业的发展。所以，如果拿现在和铁路热潮对照，看看中国有几家前沿实验室，美国有几家，韩国也有几家由政府主导的，欧洲也有几家，日本也说要做，我认为，这说明资本怀着对未来的美好憧憬不断涌入，资金充裕的阶段还没有结束。我觉得还会持续一段时间。我觉得我们可能正处在这个阶段的中期。所以，正如我刚才所说，消费市场要等这一切结束、实现标准化，成为完全通用的商品后，才会开始形成。可就在去年年底，大家还在说，Anthropic 和 OpenAI在前沿领域拉开的差距越来越大，“以后模型会变得非常贵，OpenAI 打算推出3000美元、1万美元的套餐。因为它带来的生产力提升会远远超过付出的费用。”当时大家都这么说，对吧？都说模型会越来越贵。可现在恰恰相反。模型价格一直在降。但资本支出却持续增加。所以我们谈到企业之类的话题时，经常会这么说。我们常常讨论AI会在多大程度上改变知识工作，说“AI一来，一切都完了。我们全都会失业。”以前是这么说的，但到目前为止，还没切身感受到明显的变化。
从蒸汽机转向电动机的知识劳动 28:34
卢正石 虽然这是另一个角度，但我认为，现有的知识工作体系还没有适应AI的特点作出改变。人们经常用这样一个比喻：过去，蒸汽机塑造了工厂的形态。当时有一台大型蒸汽机，动力主轴通向工厂内部，再通过许多皮带连接一楼、三楼等各层，带动各处的标准化工具运转。电力刚引入时，人们只是把蒸汽机换成一台大型电动机，生产率几乎没有提高。电力真正带来的生产率提升，是从小型电动机出现后，缝纫机等各道工序有了新型小机器，生产流程随之重组时，才开始出现的。人们经常用这个比喻。所以，我们几十年来建立的企业知识工作体系，即使引入了AI，也仍然像用蒸汽机一样使用它。如果按电动机带来的变化重构体系，真正的变化才会从那时开始。说是那时才会开始。
不过，这些目前都还是推测。从我在旁边的观察来看，或是看看Palantir、Chamath做的AD90.ai，还有那些谈论所谓FDE、面向众多企业提供AX咨询和系统建设服务的公司，我觉得这个市场可能也还没完全成熟。所以，最关键的是需求能否追上投资金额。这一点最重要。目前还追不上。今后，除了编程，是否会出现其他市场，让Anthropic和OpenAI的营收保持今年的增长速度，到2027年仍持续增长，我想这是第一个观察点。当然，除了这两家，它们创造的需求也可能分散到Google、Meta、Microsoft和许多小公司，由这些公司承接，体现在各家公司的营收数字里。但首先要看增长率能否维持。第二，目前以GPU为代表的过度投资都由资本市场消化。刚才胜准问过：“1000万亿韩元到底是多大一笔钱？”对吧？那相当于的不是国家预算，而是一个国家的GDP。韩国的经济规模也并不小。是规模相当大的经济体之一。
可是，投入相当于一个国家经济规模的资金，究竟是否合理？那些提供GPU和云服务的公司，能否持续找到足够的客户，与为投资筹集的资金规模相匹配？现在大家都说“建多少，就能卖多少”，连建数据中心的人也都很乐观。但随着这些数字逐渐成为现实，我觉得情况会有所不同。所以，最终是大幅崩盘，还是小幅崩盘，恐怕取决于投入与实际营收之间的差距。这个差距取决于，相对于GPU投资，新兴云服务商、Anthropic等各方的营收总和能否持续追上投入，以及这期间的投资金额能否有所下降。相应的需求可能来自企业市场，也就是所谓B2B编程之后，企业采用AI智能体的需求。真正的大市场是消费者采用AI，比如Muse、Grokbot，还有Gemini Spark等。再看如今所谓的搜索领域。Amazon、搜索、Google这些领域的需求，AI还没有完全拿下。Google的传统业务和Amazon的商品销售业务依然保持着巨额营收。这些营收是否会被Grokbot、Meta的Muse等产品拿走，以及这个市场能否增长，我想会是接下来的观察指标。
毫无边界地扩张到所有领域的 AI 公司 33:09
卢正石 还有一件事让我觉得很有意思：最近，韩国的晋源、활성，还有Nota的CTO 김태훈、Lablup的CTO 김준기，这四位CTO受邀参加了我在Lablup大会主持的座谈。看看现在的AI公司。所有人都在向各个领域扩张。就在一年前，大家还会说：“我们做微调，我们做编排软件，我们开发模型，我们做别的业务。”当时大家都是各守一个领域。可现在看看这些公司，从 OpenAI 到 Anthropic，都在跨越边界，不断扩张。Anthropic 和 OpenAI 也公开表示，生物、法律，还有企业内部的工作流程，以及所谓的办公领域，这几个大型垂直领域要由他们自己来做，他们会全部包揽，只有其他领域才会寻求合作。他们已经公开这样说了。
所以各个层级的企业如今都在向其他层级扩张。而这一切现象的根源在于：模型并不能像我们原先想的那样获取那么多价值。以前我们以为，模型做得好的公司会赚走所有的钱，但事实并非如此。模型越来越通用，价格也越来越低；中国模型和其他类似模型大约两到四个月后就能追上来。如果它们的能力都提升到相近水平，前沿模型一涨价，您会怎么办？理性的企业即使觉得性能稍逊，也会转用 GLM或 DeepSeek。所以模型厂商无法像原先预想的那样获取那么多价值。模型这一层也越来越通用。那么从各层来看，价值就会向上下两端转移。向下转移时，NVIDIA 这样的芯片公司和数据中心运营商就能赚到钱；向上转移，则会进入应用领域。我现在是这么看的，大多数关注市场的企业，包括 Andreessen Horowitz，也这么看：应用市场现在甚至还没有真正打开。目前只有少数几个应用。所以模型层获取的价值向上下两端转移，也非常有意思。
流向稀缺之处的价值 35:38
卢正石 这就引出了一个非常重要的问题。我之前提到过“逃亡者行动手册”：尚未进入 AI 市场的我们不知道该往哪里走，而现实是，已经进入市场的人也不知道该往哪里走。证据就是实验室四处扩张，原本处于各个层级的潜力公司也在四处扩张。我觉得这两种现象是一回事。他们也还不知道答案。再回到刚才说的铁路热潮，从大局来看，就像盲人摸到了大象的后腿，我们也只能凭摸到的部分判断。那么，价值会流向哪里？答案是，最终能获取价值的地方并不是技术最强或资金最多的地方。价值的流向始终遵循经济学的基本逻辑：流向稀缺之处。稀缺之处大致有那么几个。首先，在消费市场，供给可以无限增加，但付费消费者的数量目前是有限的。人口甚至还在持续减少，所以消费者变得更加稀缺。
因此，价值会流向消费者目光停留的地方。接下来，在企业和编程等领域，过去稀缺的是做出东西的能力，如果人人都能创造，下一个稀缺资源会是什么？我认为是能积累背景信息与责任的地方，这是我的概括。如今在 AI 时代，有些人做得很出色。他们既擅长运用 AI，又有创业经验。有创业经验意味着什么？就是不只做别人交代的事，还能自己组织工作、承担责任，承受风险，把事情做成。这样的人会成为稀缺资源，价值获取也会转向他们。而他们创办的，比如 Palantir 这样的公司，或针对特定领域提供 AI 工作流程咨询和解决方案的公司，也将成为获取价值的地方。编程领域已经先走到了这一步，在我看来，编程市场已经到头了。该进来的人都进来了。编程的工作流程我觉得也几乎发展到头了。我每月花在 token 上的钱都快超过 100 万韩元了，这还只是订阅费。连我都觉得不会再多花了。说着说着，我得出了一个结论：还需要再观察一段时间。
而且未来似乎没那么乐观。从资本市场的角度看，我们似乎正走到泡沫可能破裂的时点。等泡沫破裂后，Anthropic 或 NVIDIA 的股价可能下跌，但真正的发展会从那时开始。如果画成曲线，现在似乎快到顶点了，但还会继续上升，再小幅回落，然后迎来第二轮真正的增长。我觉得会出现这样的周期。我认为现在重要的是看清那个时代。从奇点正在到来的这个市场中退一步，站远一点看，想想市场会走向何方。这是个思想实验。等这个阶段结束，将来回头看，也许等某件事尘埃落定后再看现在，就会清楚地觉得：当时就该做那件事。但现在看不出来。价值向来不会停留在技术出色、学历高的地方，而是停留在稀缺的地方。历史上一直如此。刚才谈到公司时，我稍微透露了一点。我在自己的公司，以及我参与的几家大公司，都在尝试运用 AI，改变工作流程。在这个过程中，有些工作过去很稀缺，如今却被归为可以交给 AI来替代的工作；有些工作依然稀缺，那就是充满不确定性的工作。也就是评估指标尚未明确的地方。
因此，需要有人站出来，即便如此，仍能决定“我们往这边走”，为这个决定负责，并持续推动执行。无论是对 AI 还是对人，都不断说“往这边走，走，走”，“做下去，做下去，做下去”。说到底，这就是领导力。这样的能力正变得稀缺。价值会流向那里。那个人现在虽然在我手下从事这个行业的咨询工作，但做完之后，可能会走出去，把这种能力推广到那个行业，做出某种产品。那家公司就会在模型与客户之间获取价值。我有这样的感觉。当时我和申正圭代表去了 Lablup 的会议，聊过这个话题。我问 CTO 今后什么会变得重要，他回答说，品牌会变得重要。即使大家提供的商品都一样，也要让人觉得和这个人交易体验最好，这个人值得信赖，和他交易，今后也会有好处。他说，答案就在于建立这样的品牌。这话也很有道理。把刚才说的稀缺性
像 K-pop 一样两极分化的产业结构 41:45
卢正石 放到企业中来看，什么样的市场可以说已经走到尽头了呢？就是那些不用动脑，只做交代下来的事，按按按钮就能挣钱的市场。过去，艺术家也是每个地方都需要一位，而且在当地都能赚到不少钱。但随着技术进步，这个市场扩大了。首尔的艺术家和纽约的艺术家如今都在互联网上竞争。当这种连接越来越发达，这也是技术带来的变化，市场不再局限于本地，而是合并成一个更大的市场，参与者越来越多，却不是人人都能挣钱，只有爆款能赚钱。但那些爆款赚的钱又多得惊人，也就是市场的预期收益提高了，于是，即使眼下挣不到钱，梦想成为明星的人也会不断进入市场，形成这样的市场格局。如今所有行业都会变得像我们的K-pop 娱乐市场一样。市场扩大，明星赚得盆满钵满，而希望成为明星的练习生也越来越多。但真正赚钱的只有少数人，很多人赚不到钱。我认为，今后每个具体行业都会变成这个样子。钟贤，您现在在美国吧。我每次去旧金山都有这种感觉：那里有独特的氛围和节奏，您应该忙得不可开交。能不能分享一下
在 SF 现场看到的前沿生态 43:30
卢正石 遇到了什么有意思的事？
朴钟贤 我昨天到了旧金山，想尽可能感受这里的前沿动态，所以四处走访。我就从这个角度接着聊聊自己观察到的事情。这位就是 Jev 的开发者。我也听了这些人的演讲，了解了他们开发 Jev 时的想法。Jev 开发者讲的内容也和前面的话题有关，我来说说看。他说，现在的 LLM 都是按帮助人的方式训练出来的。但仅凭这一点，最终无法取得大幅进步。所以不能只停留在帮助人，还要做到即使人完全退出，也能实现完全自动化。这将打开巨大的增长空间。为了实现自动化，才做了 Jev。他是这么说的。在类似的趋势中，怎样才能一路向上发展，我感觉他似乎也在思考这个问题。您刚才提到，推理和目前的 CapEx 投资都存在需求跟不上的问题，但我的观察是，从目前来看，为什么会有这么多 CapEx 投资？因为相对于现有设备，推理需求实在太大，设备一造出来就能卖掉。我经常观察到这样的情况。我参加过一场活动，是推理公司 Modal举办的会议。这里看到的是其中一场分论坛的演讲者。这样的分论坛全天有多场同时进行。我们熟悉的知名公司创始人都来了，还做了演讲。我想说的是，推理公司的价值真高啊。资金也很充裕。这么多知名人士和公司，都想与推理公司合作，愿意来这里投入时间。我当时有这种感受。
AI 电影与视频生成市场的萌芽 45:24
朴钟贤 我还在那里认识了很多公司的人，尤其是初创公司的人，比如正在参加这一期 YC 项目的创业者，也遇到了很多推理服务商。我遇到这些人，并不是抱着“去见推理服务商”的目的才去见他们的。就是在路上问问旁边的人，对方就说：“我们做推理。”每次遇到这种情况，我都会问：“对你们来说，卖推理服务更难，还是买 GPU 更难？”大家都说：“当然是买 GPU 难。只要能买到 GPU，产能有多少就能卖多少。”几乎所有人都是这么回答的。而且推理服务的种类也很多。并非只有部署 LLM并出售推理服务的公司。比如 Dreamscale Labs，这家公司正在参加本期 YC 项目，他们想提供驱动机器人所需的VLA 或世界动作模型的推理服务。像他们这样的公司，对响应速度等要求很高，所以在找旧金山市内的 GPU。
因此，推理服务也在向这些特殊用途拓展。视频生成模型的推理服务当然也有很多。还有人在这些服务之上再叠加一层，比如：“我们要为电影制作公司提供视频生成模型的推理服务。或者像他们那样，提供面向机器人的服务。”通过这样逐层叠加，做成价值更高的完整方案，他们似乎想以此在推理市场竞争。这样的公司和各类从业者，我见到了很多。所以，像 Vast 这样的服务，还有 Weights & Biases 等众多推理公司，都在举办活动，尽可能吸引更多人。OpenRouter 也常谈到这些。另外，推理公司 Fal还与以视频生成模型闻名的 LTX等公司一起，为了吸引更多人举办活动。我也感受到，现场的公司都在拼尽全力地开展业务。这一点让我印象很深。再说说视频领域。我个人对视频很感兴趣，有一场只放映AI制作电影的活动，我发现还有这样的活动。
觉得很新奇，我就去了。到了现场，我把这些作品都看了一遍。作品当然并不完美。但我发现有人看哭了。这让我很惊讶。从实际主要受众的角度看，这方面的需求或许会出现。我觉得，也许真能这样制作电影、放映电影，开展这样的活动。顺着这个话题继续说，我参加这类活动时，偶然遇到一些人，才发现不知不觉间，已经有不少AI制作的电影问世，还被收录到IMDb等网站，甚至有了评分。我以前完全不知道。这些不是韩国电影，大多与中国有关；我见到了这样的作品。还有制作这类电影的人，尤其是最近所谓的短剧、微短剧。这种短视频形式的微短剧卖得非常好。这也是一股内容趋势，很多作品也用AI制作。现场的人还说，电影制作公司只是不明说，没有哪家不用AI生成画面。言下之意是大家都在用。不过，我无法核实真假。模型公司也会大力宣扬：“我们有电影制作公司这样的企业客户，为了满足他们的需求，我们做了哪些努力？”他们很爱炫耀这些。所以视频……嗯，您说。
卢正石 没有。前阵子很火的《金部长》那部剧，里面的朝鲜场景不也全是用AI做的吗？还有YouTube上的《星际争霸》电影之类的作品。而且我觉得韩国人在这方面应该很有优势。这些作品上传后，我也会一集一集地看。很有意思，质量也特别好。
朴钟贤 所以我也展示了一下他们在那里做的工作，我想，要让作品真正具有电影的价值，就不能让人发现哪里不自然。他们似乎是这么想的。所以即使摆在眼前对比，细节也要做到让人察觉不出异样。比如脚踩到草丛时，草丛会如何反应，连这些都会反复调整，他们就在做这样的业务和研究。而我目前对视频剪辑最感兴趣，说到视频剪辑，Descript这项服务的营收最高，也最受欢迎。所以我去了那家公司，有机会和他们聊了聊，还和CEO聊了聊，也见到了一位工程师。这次我在旧金山待了将近两周。要说我得到的最重要的信息，就是这里需要能将音频与时间精准对齐的转录模型。时间误差连0.1秒都不能有，但这样的模型其实并不多。开源的也没几个。做这类B2C服务的公司会在内部自行研究这类模型，自己开发模型。而这类模型往往只公开论文，不开放权重。他们开发的模型只供内部使用。走在最前面的这些公司，面对的就是消费市场。为了打开您刚才提到的消费市场，他们在内部竟把AI打磨到了这种程度。我观察到了这些情况。感觉大家都在努力
Physical Intelligence 与 1X 的 scale-up 战略 51:20
朴钟贤 打开消费市场。接下来聊聊机器人领域，机器人公司也是如此。这是我在刚才提到的Modal公司举办的那场活动上听的几场分享，视频应该很快会上传到YouTube。各场分享正在陆续上传。主要有Generalist、Physical Intelligence，还有1X的创始人，他们都上台分享了。概括一下我的感受，就是他们正在部署，正在扩大规模。他们几乎都在谈如何扩大规模。“我们是如何实现规模化的？”这又不同于语言模型的规模化。因为视频的数据量大得惊人，如何从各种环境中收集高质量视频，用来训练模型？所以Physical Intelligence打算尽可能多地部署到工业环境中，通过现场运行来获取数据。Generalist则运营着类似数据工厂的设施，因为这些工厂遍布世界各地，他们讨论的是如何将数据工厂里的视频有效地汇集到一处。他们谈了很多这样的话题。总之，感觉这个领域也快要发展起来了，连实体领域也是如此。1X的人形机器人Neo很有名，我有机会见到了实物，就是在这样的活动上。Physical Intelligence那边，联合创始人在分享结束后走下台，就在现场随意走动。
我就上前叫住他，问了些好奇的问题，有了这样的交流机会。这是我第一次因工作来到旧金山，我在这里并没有广泛的人脉，也没有类似的关系，所以来之前，我怀疑自己能否加入他们的对话，进入能获取这些信息的内部圈子，并与他们好好交流。我是带着这样的疑虑来的。可真正来了之后发现，这样的机会比想象中更多，我们通常所说的前沿圈子，似乎比我想象中更开放，也更容易接近。所以只要愿意，任何人都能走近他们，从中有所收获，再去做我们想做的事。我现在就是这样的感受。
卢正石 对，没错。过去说“给我介绍个人，介绍个人”，他们真的会热心帮忙介绍。
崔胜准 您是不是隐约提过，有点不想回来，想一直待在那里？
朴钟贤 我在这里一直是这么形容的，当初决定来旧金山时，我很大程度上受了身边人的影响。很多人都说：“你去旧金山看看吧。”去那里和人交流，得到的信息会不一样，遇到的人也不一样。听了很多这样的说法，我来时其实还带着一点抵触情绪。到底能有什么不同？反正我们都是用AI快速做出东西，再在线上完成工作，亲自跑一趟旧金山，又能有什么不同？我是这么想的，但旧金山还真不一样。我把这称作“旧金山就是不一样症”。结果我自己也患上了“旧金山就是不一样症”。接下来我会尽量利用好在这里的剩余时间。我在这里也遇到了这样的人，有人看了这个视频，在旧金山联系我，我们还一起聊了聊。所以我想，也许还有感兴趣的人，趁我还在旧金山、回去之前，我想在这里办一场关于用视频大模型制作视频的活动。我遇到一位当地很聪明的创业者，就决定在这里办这场活动。在这里有兴趣的朋友，欢迎来参加……
崔胜准 活动叫什么名字？
朴钟贤 活动叫 Video as Code。不是用视频生成模型来制作视频，而是借助 LLM 理解视频，生成代码，再用代码制作视频。就是胜准前两周讲过很多的 Video as Code，用它做出很棒的视频。我在这里遇到一位很擅长这个的朋友，所以想和他一起办一场聊这些内容的交流会。
OpenAI 公开数学研究与 Mathpocalypse 55:23
卢正石 好，那么我们再回到 AI 前沿的话题，这周发生了很多事。这周最难过的恐怕是数学家们。OpenAI 又公布了重大成果，请胜准聊聊相关的事吧。
崔胜准 甚至出现了 Mathpocalypse 这个说法，可见这次动静有多大。简单梳理一下，10月6日，OpenAI 一口气公开了722篇论文。这在数学界引起了怎样的震动，虽然数学家们早有预料，但真正迎来他们的 AlphaGo 时刻时，这几天还是出现了很多最真实的反应。有意思的是，除了官方博客，这些内容也公开在 GitHub 上。公开的内容相当多，论文也都能看到。722份文稿中，目前有3份已经撤回了，因为发现了错误。但我觉得这一点很有意思。上面写道：作为模型开发的一部分，我们使用未解决的研究问题来评估模型。由于模型在现有数学评测中的表现已经趋于饱和，我们扩大了这类评估。所以给我的感觉，与其说是在做数学，不如说是为了提升模型能力，把数学当成了试验材料。实际上，公开了722份 manuscript，也就是类似论文的文稿。其中的成果类别，也就是研究结果的类型，大约有372类；而实际交给模型去解的未解决问题，大约有4000道。
所以并不是把交给它的问题全解出来了。另一个引起热议的是准黎曼问题。我也不太清楚它具体是什么，但解决的并不是黎曼猜想，而是类似前置步骤的问题。所以并非所有最难的问题都解决了。再从数学所涉及的领域来看，比如数论等等，这些内容横跨约17个数学领域，约占全部数学领域的40%。按领域来算，大致是这样。而且据说未解决的问题非常多。最顶尖的难题数量应该比较少，比如千禧年难题就只有少数几道，但目前列为难题的问题，有将近9万道收录在 MathDB 中。这个总量相当庞大，这次成果也并未涵盖全部。我查到的情况大致如此。再看8月28日，内部模型训练是恢复了，并非刚开始。8月28日恢复训练后，9月8日公布了与 Navier-Stokes 有关的成果；菲尔兹奖得主们在11日发表了声明；到21日，已经解决了100多道问题，至于要不要公布这些成果，他们说会征询顾问团的意见，也就是请知名数学家提供建议。顾问团在9月29日提出了建议，成果于10月6日公布。整个过程推进得很快。
数学界的冲击与 AHM 声明 58:53
崔胜准 数学界对此发表了各种声明。其中比较激烈的一份来自AHM，主张数学应该由人类来做，表示反对AI做数学。他们发起的联署已经征集到相当多的签名。此外，顾问团也提到，虽然我们提供了咨询意见，但像这样向数学界大量抛出成果，完全不是健康的做法。尤其是用研究者无法使用的内部模型，抢先完成研究、拉开差距，根本没有帮助。顾问团还正式表达了应该停止这种做法的意思。不过最让我印象深刻的是，至少在我个人看来，数学界应对得相当稳健，也广泛听取了各种意见。比如有一个网站，名字本身就很有意思，叫Proofs and Prompts。它成立于8月，似乎在讨论和试验AI与数学相关的自动证明等议题。
那里有个项目，针对出现的100多种解法，收集了100多条回应。回应者包括数学家和学习数学的学生，汇集了这些人的看法，其中也有知名数学家的回应。这些都是对这件事的反应，我还试着给它们加了标签。惊叹与兴奋36条，失落与悲伤22条。我用AI给这些反应做了分类。还有乐观与希望、平静与观望，以及青年研究者的反应，刚才提到的获取机会与不平等问题，还有手稿，也就是类似论文的材料，据说读起来非常难。它们没有像一般的数学论文那样经过同行评审，表述也没经过打磨，很难读懂。于是有人问，为什么要我们无偿劳动，去解读这些材料？从无偿劳动、验证负担的讨论，到“我们还是应该一起读懂并消化它”，或是“应该无视它”，各种各样的说法都有。
卢正石 AHM发表的那份声明说了什么？是说应该叫停吗？
崔胜准 不是。是说不能容忍AI这样介入数学研究。他们说要强硬应对，采取法律措施等行动，还要开展游说。也有这样一些说法。
卢正石 是啊。不过我不太确定会不会有效。这不是挡不住的事吗？
崔胜准 那100多条反应里也有这样的自嘲。所以我用ChatGPT的事件功能，设置了这件事的追踪提醒。我想看看大家是不是真的不做无偿劳动了。这里说的无偿劳动，就是阅读、梳理并研究那些论文。可这件事一直在继续。今天凌晨3点我还收到了报告，大家仍在继续读，毕竟那是他们倾尽一生探索的领域，很难不产生好奇心。所以大家确实在读这些材料，不断发现新东西，也发现不足，再加以改进，这些事如今一直在发生。
Math 2.0 与数学身份的重构 1:02:41
崔胜准 但数学界现在担心的是，尤其是年轻数学家的培养，以及数学作为一门学科，其生态所面临的问题。主流看法是，这一生态正受到严重威胁，对这些问题的担忧正在公共讨论中被谈及。我还找了一些出现情绪化反应的视频。Terence Tao开始谈论Math 2.0。前几天，他把自己的博客当作讨论平台，让各种意见在那里汇集。今天凌晨，他分享了最近在Caltech演讲时用的幻灯片。估计在10月6日发布之前，Tao就已经知道这件事，所以提到了Math 1.0和2.0，也谈到了我们今后该怎么走的一些想法，还说现在这件事就像给数学家剧透电影一样，直接剧透了。他当时的发言中也流露出这样的忧虑。之后沉寂了一阵，凌晨又把一篇关于Math 2.0的博文发到了Mathstodon。他在那里公开的幻灯片中，有一页如今再次成为批评的对象。
那一页以癌症治疗作比喻：要治疗，难道不该先充分了解病情吗？但在医学界，如果临床试验证明有效，即使尚未完全理解其作用机制，只要能帮助患者，就该继续推进这项进展。人们这样解读并引用那页内容，对他提出批评。动态里也能看到这样的看法：数学界有些傲慢，正因此遭到反弹。软件行业的态度也有些冷淡。比如Tristan Buckmaster，就是在Navier-Stokes那件事中，提出自己的研究可能被超越，或可能被拿来使用的那位研究者。有人引用他的视频来批评数学界：重要的是探索真理，还是保住数学家的饭碗？现在有这样的批评。软件行业里，连《大教堂与集市》的作者Eric S. Raymond这样的人也说得很重。我以前不知道他说话这么尖锐：“我们两三年前就接受了这一点，承受冲击，继续向前走，你们也该这样。”Kent Beck也说了类似的话。软件行业更早受到冲击，感觉他们的态度有些冷淡。
朴钟贤 说到Math 2.0，我想起Karpathy以前讲的软件1.0、2.0、3.0。他好像是说，软件本身的结构发生了很大的变化？所以给这些变化编上版本号来讨论。Terence Tao似乎也在说，数学的结构也在发生某种变化，并提出了一些看法，比如我们该如何应对。看来人们的反应不太一致。
崔胜准 重要的不是完成证明，而是在探索问题的过程中获得的理解。这种说法在Navier-Stokes那件事之后经常出现。所以现在大家还有些迷茫和困惑，虽然会流露出各种情绪，但数学界搭建了公开讨论的平台，相比当时的软件行业，某种程度上似乎应对得更好。让大家说出自己的感受，也接纳各种不同的意见，并讨论为了维系自身的身份认同，或继续从事这一行，我们应该做些什么。感觉他们多少还是借鉴了软件行业和围棋界经历过的事，来思考这些问题。
卢正石 是的。不过，所谓的研究领域，不只是数学，我们也常讨论下一个会是什么，对吧？
崔胜准 刚才说到，菲尔兹奖得主和知名数学家当中，也有人发现自己的研究问题已被研究，感到失落的同时，又产生了好奇心。情况就是这么复杂。至于数学方面更深入的内容，我也无法完全理解，所以主要看了看大家表面的反应，其中有一点挺有意思。
公钥密码与降低的攻击门槛 1:07:20
崔胜准 加密技术可能面临风险。Vitalik Buterin 这次也发了文章，虽然我不太懂这个领域，但那边有几位人士说，这次涉及的数论问题等内容，可能对 RSA 之类的公钥加密构成量子计算之外的另一种威胁，也就是来自 AI 的威胁。所以能感觉到，那个领域的气氛有些紧张。
卢正石 没错。如果出现新的方法，我们目前所知的那些东西就可能被打破。那些算法也都是建立在数学计算需要耗费大量时间这个前提之上的。如果出现某种捷径，算法的复杂度就可能降低。虽然还不至于立刻被攻破，但那些加密算法本身，仔细一看其实非常简单，所以存在被破解的可能。
崔胜准 最近针对韩国银行的攻击在海外也成了话题，攻击者用了 DeepSeek发动攻击，还留下了相关痕迹。总之，发动这类攻击的门槛也同样降低了。
卢正石 没错。所有问题似乎都变成了投入算力进行搜索的问题。“帮我做、帮我做、帮我做”的时代正在到来。
崔胜准 而数学界现在掀起了轩然大波，正在讨论今后的方向。也有很多人说，某种程度上，这可能是让数学界变得更健康的机会。过去在学术界，论文成果一直是替代指标。我们真正想做的并不是这个，但为了衡量成就，就像古德哈特定律所说的那样，成就评价走向了奇怪的方向。现在也有人说，这是一个纠正这种情况的机会。而且这不只是数学界的问题，论文等学术产出正在激增，所以已成为整个学术界面临的问题。但 OpenAI 真正关心的，完全不是这些事。这是我的理解。他们只是想提高模型的能力。为此，他们需要更好、难度更高的问题。所以 Noam Brown 和 Mark Chen 引用的不是关于数学的讨论，而是这张图。Astra 的时候，还是内部模型的时候。而且，这还不是终点。还在继续发展。不过这次有个有意思的看点：Navier–Stokes 是九月初的事，对吧？当时用了 1 万个 agent、88 小时，我们之前详细讨论过这件事。现在才十月初，短短一个月后，ChatGPT ProThinking 解一道题只需 3 小时。也就是说，刚才提到的约 372 道题，平均都能以这个速度解出。单个 agent 平均花约 3 小时。所以这意味着什么，现在有很多猜测。简单想来，一个月内，通过 RL 获得的能力提升了这么多。至于 Navier–Stokes，我和很多人都有一个猜测：攻克那道难题时，1 万个 agent应该留下了大量优质的解题轨迹。这些轨迹会成为下一轮训练的数据。
朴钟贤 初次突破需要那么多资源，但知道方法后，再跟着做就不难了。我觉得也可以这么理解。
崔胜准 也就是说，思路逐渐清晰，有些东西可以组合。看数学家的博客文章，他们说这是凸包中的想法组合，所以会用 convex hullof ideas 这个说法。似乎是通过某种组合来解决问题的。虽然并非所有创新都如此，但有些创新来自不同文献之间的……这正是数学研究中会出现的模式。普通数学家很难深入了解自己专业领域之外的内容，而现在的模型很擅长查阅文献并将其联系起来。所以这次那 100 条反应中，“竟然把这个和那个联系起来，做出了这个？”这样的反应相当多。这位是 Patrick Toulme，在 Google 从事 RSI 相关工作，做 Gemini RSI，也做过 TPU。他大概昨天发了一篇帖子。
RSI loop 与急速提升的模型能力 1:11:55
崔胜准 他说所有实验室都在运行 RSI 循环，而通过 RL 提升的能力会大幅提高数学和编程水平，但 RL 做得太多时，语言能力会受损，受到负面影响。所以刚才那种难以读懂的输出，会不会也与此有关？还有文字表达依然不太好，会不会也与此有关？我不禁这么想。还有 bot 之类的东西，在硅谷的反响似乎也不错。接下来是这一部分。Fable 5.5 还没推出，但有人说已经有人通过路由用上了，评价相当好；至于 OpenAI 的 Bel，有人说到 12 月会更好，连 Gemini 团队的人都在传这样的消息。不过，这只是传闻。
卢正石 是啊。对这种发展速度，感觉自己也渐渐习以为常了。
崔胜准 总之，再多说一条传闻：最近还有消息说，Anthropic 已经开始进行下一轮预训练，有这样的说法。也就是继续做之前在做的事。
朴钟贤 Gemini 4 也是。这里还有一些私下展示成果的活动……总之，这里经常办那种谁都能去、现场展示一下的活动。他们也会私下召集大客户，更详细地向他们推介。
崔胜准 Gemini 4 也还没将 Argon全面发布，但……可能是因为内部反馈说它编程不太行，Barium-B 发布了，现在又在训练 Carbon。所以，Argon 这个 checkpoint才刚被提起没多久，新的 checkpoint 就接连出现。这就是现在的普遍模式。
卢正石 就是让它做更多 RL。一直做到奏效为止。偶然得到一个好的 checkpoint，就继续训练，作为模型发布。
崔胜准 这是 Hugging Face 的一位研究员发的。Hugging Face 那边说了声“谢谢”，然后把 OpenAI 的 GitHub当作 RL 的目标，正在做这样的事。除此之外，最近那些制作 RL 环境的公司也发了很多推文。“我们也在做这个。”看来接受科技巨头委托、提供 RL 环境的公司和从业者相当多。
卢正石 销售 RL 环境和 RL 数据集的公司赚了很多钱。
崔胜准 刚才我简略提到的想法的凸包，通常是说，有这样一些点时，在这些点的外围，比如这里，两点之间会连成一条线。这样就形成了凸包。目前一些数学家认为，它只能做到这种程度，无法创造出全新的、不同的维度。但即便如此，在这个范围内产生新点，也已经相当出色，令人震惊。有人持这种看法。但 LessWrong 等地方有人反驳：如果用凸包来看，它看似只在内部组合，其实也能外推。有这样的讨论。所以，扩展边界看起来并非不可能。大家正在讨论这些问题。
卢正石 对。其实没人说过，那条边界根本没有定义。事实上，没人知道边界在哪里。AI 的边界和人类的边界也可能不同。
崔胜准 所以我也为了理解这些概念，动手试了试。我做了个交互式叙事作品，可以边操作边看凸包是什么、又是怎样形成的。说到凸包这个概念，“凸”在数学里有多种用法，这样的东西也叫凸。不过，这里说的是 Nassim Taleb 提出的凸性试错。其中有可能遭受损失，但如果有机会通过期权获益，就像看涨期权那样，把损失限定住，再尝试各种有前景的事。这样一来，损失有上限，成功时则能让收益最大化。所以，就像刚才正石说的，只要其中出现一个有意思的成果，就有可能弥补此前的大量损失，甚至还有盈余，对吧？所以我也尝试探索了厚尾现象之类的概念，做了这样的东西。不过，这只是我为了理解概念而做的。对于目前的氛围，François Chollet 又提出了一个有意思的、略带负面意味的观点。
François Chollet 认为智能爆炸不会到来的反驳 1:17:14
崔胜准 Chollet 一向就是这种风格。他提出质疑，说递归式自我改进之后并不会发生智能爆炸。他发过这样一篇帖子。所以这也让我印象挺深，我把它翻译了，顺便和模型聊聊。Chollet认为，科学本身就像RSI一样，会以这种方式不断改进自身，但纵观科学史，投入增加不一定带来相应的成果。投入本身得呈指数级增长，成果才能线性增长。所以按这种方式改进，即使实现了RSI，智能爆炸也不会发生。这是他提出的一个观点。接下来还有一点。刚才Chollet引用了Michael Nielsen和Patrick Collison在2018年关于科学研究生产力的研究，用它来说明自己的观点，而Nielsen本人最近却引用了这篇文章：Vernor Vinge于1993年写的《The Coming TechnologicalSingularity: How to Survivein the Post-Human Era》。他引用了数学家兼科幻作家Vernor Vinge在1993年写的文章，说未来就像一堵不透明的墙。刚才我画过一张图，越往未来走，即使真的出现超级智能，这也是科幻作家的困境。
以前预测起来还比较容易，容易想象未来会是什么样，但随着技术发展的迹象不断出现，如果又出现了极其强大的技术，要具体预测人们能用它做些什么，反而会感觉像有一堵墙挡在面前。他是这么说的。Michael Nielsen引用这段话时，提到一个问题：现在是否正处于这样的时期？他说，人们似乎经常谈起他这些年来不断引用的那些话。如今我们看到了许多迹象，却依然无法准确预测接下来会怎样。他提出了这个问题，所以我拿来分享。不过，这是不是去年这个时候的事了？我和成铉聊过Hinton的说法。雾，雾正以指数级消散。所以近处还能看清一些，稍微看远一点就看不清了。我最近脑子里也乱得很。刚才正石说，自己渐渐能平静看待这些事，但我当初也算是做了选择，决定试着承受这些消息。可现在真的太难熬了。
卢正石 我也会关注，但之后会怎样，我觉得现在是时候从更宏观的角度来看了。变化太快，微观地看已经跟不上了。
教育应守护的价值与实验的限制 1:20:17
崔胜准 所以我最近见到不同的人，总会说起一个困扰：这一切对与我密切相关的教育到底意味着什么？我很难想明白。因为眼下这些变化还没有影响到日常生活。今天某个模型又能做什么了，在教育领域，这些消息也是如此。但另一方面，我担心的是，教育原本擅长的事，是让学生花自己的时间，动自己的脑筋去练习。如果说不要省掉这个过程，也别全交给AI，要保留学生把原本该做的事做好的价值，那本来就是教育一直在做的事。所以，这些当下的变化看起来没多少切入点。因为那反而可能损害教育原本的价值。但显然有什么正在发生。所以一方面，我有些不安，仿佛眼前有一堵墙，看不清未来。尽管我努力理解当下的这种处境，最近还是苦恼于看不清它会走向何方。
朴钟贤 既然说到了教育，我补充一点。有个朋友想和我一起办活动，他从事教育工作。他在探索怎样用 AI把教育做得更好。大方向上，他走的是和 3Blue1Brown 一样的路。只是他想用 AI 把这件事做得更好。看到这些尝试，我发现他真的是个怀有崇高教育目标的人，和他聊过之后更有这种感觉。所以我想，或许会出现利用 AI在教育领域发挥作用的消费者应用。感觉这一切才刚刚萌芽，这是我个人的感想。
卢正石 听胜准这么说，我想起一句话。预测未来最好的方法就是创造未来。不管对错，先朝着自己设想的、自己相信是正确的未来走去，不断告诉大家“这就是对的”，或许它最终真的会成为未来。我觉得会迎来这样的时代。
崔胜准 为了弄清情况而做的实验，比如刚才说的凸性试探，要迅速叫停失败的尝试，针对可能成功的选项多做实验，但有些领域一旦失败，后果可能非常严重。所以，epistemic action 本身，也就是为了弄清情况而做实验，与其他领域相比，只能采集更少的样本点，我觉得存在这样的限制。而教育似乎就是这样的领域，这也是我一直在思考的问题。所以我自己也还没想清楚。不过 Nielsen 最近说，即便如此，还是有可以预见的限制条件。Nielsen 还谈过这一点。比如能源、资源这些显而易见的因素，把它们作为限制条件来预测，有些东西就能看出来。我觉得，这和刚才正石说的话有相通之处。
教宗的 AI 发言与模型意识讨论 1:23:28
崔胜准 另外还有各种各样的事，最近教皇经常发推文。教皇本人。
卢正石 啊，真的吗？嗯。
崔胜准 有些内容与 AI 的意识有关，诸如此类。听说 Anthropic见了很多宗教界人士。Chris Olah 等人。最近还有这么一件事，是 10 月 8 日吧。他们更新了 Usage Policy，规定不能发表带有虐待意味的言论。否则就不给予使用权限。这些讨论的背景，宗教界的反应、AI 的意识问题，以及这些事与 Anthropic IPO 有什么关系，这里面有好几股动向。最近就发生了这样一件事。
卢正石 我想问问两位。它有灵魂吗？你们怎么看？
崔胜准 灵魂吗？这个嘛，我目前还不认为它有灵魂。
朴钟贤 我认为有。
崔胜准 啊，是吗？不过这里说的不是灵魂，而是意识。
卢正石 好，那就用“意识”这个说法，把讨论的层次稍微降一点吧。模型会有 consciousness 吗？
崔胜准 functionalconsciousness 是存在的，这是 Anthropic 的主张。不过我不会找它做心理咨询。也不会用它来寻求共情之类的，只是用它来帮忙，所以在这方面，我会保持一点距离。
朴钟贤 我认为有。不过，与其说“有”，不如想想灵魂、意识这些东西的本质。仔细想想，它们都是人们虚构出来的，或者说，与其说是虚构，不如说是抽象出来的概念。那么，这些东西其实并没有那么……不像宗教等领域所说的那样，是什么无形的神圣存在。我觉得它们不是那样的东西。其实只是一种叫法，指人脑中发生的一系列思维过程。虽然我们无法用语言明确界定，但大家对此有某种共同的理解，指的是一些特殊的思维过程或互动。而 AI 也能像人一样做到这些。之前提到的那部 AI 电影，看到有人看了落泪，我就有了类似的感受。虽然电影是 AI 制作的，但如果它确实能与人产生强烈的情感互动，那它是否也触及了我们通常所说的灵魂？我是这么想的。
卢正石 我的回答可能有点奇怪：只是载体不同，但两者同构。只是 substrate 不同，我认为它们是 isomorphic 的。
崔胜准 不过……有意思的是，现任教皇 Leo 14世就任时，梵蒂冈官方发布的资料里提到了工业革命。Leo 14世本人本科读的是数学。后来又学习了神学，会说五种语言，看来是一位非常聪明的人。他就任时，谈到工业革命，还说自己的使命是思考在 AI 时代，宗教、天主教该如何发展，人类又该如何面对。他主动承担起思考这些问题的角色。所以最近，“艺术应当属于人类”之类的言论不断从教皇那边传出。
卢正石 还有件有意思的事。说到别的话题，是什么来着？Grok 已经装进 Tesla 车里了。坐车时开着 FSD，然后跟 Grok 说话，它的延迟很低，回答非常快。函数调用也做得很好。让它分析一件事，它就会完成所需的调用，分析完再给出结果。这时，坐在旁边的家人静静听了一会儿，然后说：“把这个装到 Optimus 上，不就是人了吗？”
崔胜准 这就是 Tesla 想做的事。
卢正石 我感觉普通人的认知转变原来就是这样发生的。我静静听着，想到我们一直关注模型的基准测试和规模，身处这些讨论之中，所以察觉不到那种差距，但圈外的人们他们自己看到并认识到的价值每发生变化，就会一步步实现跃升，我是这么想的。发展得太快了。
崔胜准 总之，许多应用不断涌现，又被人逆向工程，这些都出现在时间线上。我认为归根结底是因为模型能力提升了。模型能力提升后，当然，并非处处都能用上，有适用的地方，也有不适用的地方，但在适用的地方，效果已经非常好，而且还会越来越好。刚才提到测试时计算，内部模型上升的曲线并没有止步于此，目前观察到的是，即使在一个月内，它也在快速增长。在某些方面，尤其是递归方面。所以等到年底推出时，情况可能又不同了。不过年底也快到了。
卢正石 所以即便如此，
每个人都会迎来自己的时刻 1:28:53
卢正石 我们也得找到自己该做的事。
崔胜准 日常生活倒不会有太大变化。
卢正石 越是在这样的时代，重要的终究是提出正确的问题，也就是问对问题。而能提出这样的问题，是一种稀缺的能力。我们做这种思想实验时，也得多问一些错误的问题，才能从中碰巧找到正确的问题。我觉得这个过程是对的。
崔胜准 我们之前也简单聊过，数学界迎来了 AlphaGo 时刻，轮到数学界了嘛。我认为每个人都该想到，无论在哪个领域，终有一天都会轮到自己。
谁知道企业家会不会也迎来自己的那一刻？
卢正石 会的，很快。
崔胜准 数学家们其实也都预感到了。可真正轮到自己之后，感受就完全不同了。亲身经历后才知道。
所以虽然不知道它会以什么形式到来。
卢正石 我也感觉到，最近我们对那些大惊小怪的反应越来越难产生共鸣了。所以在这一切之中，什么是信号，什么是噪声，我们会继续观察，把这个过程持续下去。好，那么今天就到这里，结束录制吧。
朴钟贤 谢谢。