EP 105

从 GPT-5.6 发布到 ICML 现场

· 卢正石, 崔胜准, 朴钟贤 · 1:15:34
整页
查看本期参考资料

ICML 周与 GPT-5.6 突然发布:开场 0:00

0:00 卢正石 今天录制时是2026年7月11日星期六早晨。本周正值ICML周,所有人都忙得不可开交。与此同时,GPT-5.6又突然正式发布了,今天我们会聊聊GPT-5.6,看看都发生了哪些事情,以及围绕ICML,我们也举办了各种活动,见到了许多人,接下来简单分享一下我们的感想。那么先从GPT-5.6的话题开始聊聊吧?这一周真是忙得不可开交。首先,周边一传出这个要发布,

GPT-5.6 发布前后的氛围与早期用户反应 0:31

0:43 崔胜准 毕竟每逢重大活动,总会有人来蹭热度嘛。所以大家为了彰显存在感,SpaceX xAI也介绍了Grok 4.5,Muse Spark也从0.1提升到了1.1并进行了介绍,不过之前说Gemini 3.5 Pro会在夏季发布,如今7月上旬都快过去了,却还没有发布。所以看推文时间线的话,那些总是在做Gemini相关工作的Google AI Studio人士,Logan的表情总给人一种看起来很伤心的感觉。

1:19 所以有趣的一点是,Sam Altman和OpenAI官方账号都说会在周四发布,此前一直都有这样的传闻。一会儿说周二,一会儿说周三,但一听说周四要发布,大家这才纷纷发出了试用后的感想。也就是那些名人,那些名人的反应,

1:40 我在Twitter上一路找了下来,有趣的是,有些人竟然提前试用了长达两个月左右。当然,这不是出口管制,虽然说是由政府进行管控,但由此可以看出,他们确实给不少人提前用了。不过大家共同的反应是,

1:58 虽然没有Fable 5那种大模型的强烈气息,但非常不错,“这是新的日常主力工具”这样的说法普遍出现了。所以在编码方面,性能似乎确实有所提升。大家都试用过了吗?我在Codex里稍微用了一下。

Codex 更细分的 effort 档位与成本扣减体验 2:14

2:17 朴钟贤 不过刚才也提到它是新的日常主力工具,虽然是这么说,但即使我也是通过订阅使用,还是感觉额度消耗得相当快。

2:31 崔胜准 effort设成什么了?effort方面,在Sol这个最大的模型里,

2:36 朴钟贤 新增了High、Max和Ultra这些选项,对吧。总之就像Claude一样,上面多了些选项,我就从最上面开始逐个点了一遍,全都测试了一下。

2:45 崔胜准 原来如此。我只在High左右用过。

2:48 卢正石 是啊。一下子出现了六个档位,都不知道该选什么,心情非常复杂。感觉OpenAI确实在test-time compute上下了很多功夫。这种细分也做得很完善。是的。所以我们也得逐渐摸清这些东西,

3:07 崔胜准 人类还得培养出判断哪种effort适合自己工作的感觉,才能高效地控制使用成本,感觉我们已经进入了这样的时代。目前是这样。而且他们又突然介绍了GPT-Live。前一天还使用了GPT-Live,在发布GPT-5.6 Sol时,甚至在直播最后将其用于同声传译。GPT-Live以full duplex形式推出了,我也试用了一下,虽然不知道以后会不会一直使用,但确实比以前有所改善。所以现在可以一边对话一边进行同声传译,当然,在那次直播,也就是GPT-5.6直播时,确实出现过一次失误。那也是个有趣的点,不过总之它已经推出了。所以在创业圈里,偶尔也能看到从事这类工作的人在一天之内就遭受了打击,类似这样的情况。原本正试图突破这个难题,结果它却以full duplex形式直接推出,看来有些人因此陷入了比较棘手的处境。这确实是个问题。至于GPT-5.6相关的消息,我现在也不会再仔细查看图表

以 full duplex 形式推出的 GPT-Live 与同声传译 3:17

ChatGPT Work 拆分与递归式自我改进信号 4:10

4:18 崔胜准 之类的内容了。有一点很有趣,进入网页界面后,会分成Chat和ChatGPT Work。所以像以前那样使用effort,让多个智能体以不同方式运行,进行资料调研之类的工作时,适合用ChatGPT Work,而Chat的响应非常快。我甚至更新了应用,但在应用里并没有直接看到effort调节或模型切换选项。也许有相应的操作方法,总之响应非常快。所以大概是像以前使用Instant那样来使用的,看来还得慢慢摸索。目前直播中让我觉得有趣的部分是,

4:59 其中提到了一个关于递归式自我改进的故事。也就是我们曾多次介绍过的,去年10月31日,不对,是30日。他们说会在30日推出automated AI research intern。9月,2020年9月,之后在2028年3月,要打造完全自动驾驶式的AI researcher,也就是打造一个身为AI的AI researcher,而这次发布时,Sol对最小的模型Luna进行了post-train,至于是哪种post-train,我也不太清楚。不知道是进行了SFT,还是进行了RL,其中涉及某些重要成果的部分,以及出现数字的部分都被遮住了,他们还公开了部分提示词,但很普通。不过他们介绍了如何使用那个提示词,由Sol对能实际用于业务的Luna进行post-training。所以关于RSI的信号一直在出现,现在作为联合创始人去了Thinking Machines Lab,对吧。Lilian Weng在OpenAI时,发表了一篇关于自我改进的名为harness engineering的文章,梳理了现在正在发生的许多事情,涵盖harness engineering以及与自我改进相关的内容,也就是说,不管怎样,自我改进既包括更新weight的自我改进,也可以像Autoresearch那样改进harness本身,这种自我改进也是可行的嘛。她发表了一篇全面涵盖这些内容的文章,值得一读。所以这里暂时不详细展开,只向大家介绍一下。

6:37 卢正石 核心信息是应该改进weight吗,还是说改进harness会更快呢?目前侧重于改进harness,

6:46 崔胜准 但现在OpenAI释放的信号是,改进weight也正在通过自我改进循环进行。因为已经post-train了Luna。所以两者似乎都在发生。而Anthropic也在大约一个月前恰当地介绍过这件事。他们发过一篇文章,主题是用于自我改进的AI已经到了自行创造自身的时候。如果直接来看价格和速度,价格就是Opus级别。现在Opus 4.8的输入价格是每100万token 5美元,输出25美元,不过输出有点贵。输出贵了大约5美元,因此形成了这样的定价。所以虽然价格属于Opus级别,但我们关注的是它被包含在订阅政策之内。所以目前仍然是订阅制。幸好如此。不过有传闻。

GPT-5.6 定价结构与 GPT-6 订阅制的关注点 7:04

7:35 崔胜准 是关于GPT-6的传闻。现在距离它首次出现、距离有人开始使用它已经有两个月,那就意味着它在更早、早得多的时候就已经出来了嘛。所以从时间上看,如果观察Claude这边的模型发布间隔,此前已经出现过间隔缩短到两个月以内的信号嘛。所以现在有传闻说,GPT-6也已经准备得相当充分,而且GPT-6会是大型模型,达到Mythos级别,现在有这样一种氛围。

8:03 到时候OpenAI会不会把它纳入订阅,还是改为按量计费,似乎会成为一个看点。而且感觉这一天比想象中更近。是啊。Fable 5虽然

8:15 朴钟贤 已经把日期稍微延长了一些,但似乎也释放出了将不再提供订阅套餐的信号。OpenAI为了改善收益,当然也可能会这么做,我正因此吓得瑟瑟发抖。是啊。听说如果按照原来的使用习惯来用,

8:35 崔胜准 一天花上约5,200元人民币都不稀奇。所以就像刚才所说的,原本应该在7月7日关闭,大家都在观望,琢磨该在什么时机使用它,结果他们在7月7日把期限延长了。所以大家纷纷说:“我为了这个熬了通宵呢。”类似这样的反应。然后变成了可以用到12日,发生了这样的事情。

8:58 接下来还有一件有趣的事,Sol发布之后,他们进行了一次重置。重置了5-hour和weekly rate limit之后,Thibault这次出现在了直播中。“I smell fear. 害怕了吗?”因为如果大家转投GPT-5.6,出现用户大迁徙,那就麻烦了。不过确实有这种感觉。

9:19 还得看12日的情况,如果GPT-5.6足够好,大家当然会大规模转投过去。所以这里似乎仍然是战场。市场会作何反应,GPT-6又会怎样。所以这就是看点。刚才胜准讲话的时候,Codex应用更新了,

Codex 应用整合与 RTS 游戏般的 Agent 管理体验 9:35

9:41 卢正石 Codex应用和ChatGPT应用合并了。现在直接变成了一个ChatGPT应用。Codex应用不再单独存在了。

9:50 崔胜准 不过它确实问了是否要保留Codex图标。

9:53 卢正石 确实只问了这个。所以我也观察了一下周围人的反应,感觉大家都像是在玩游戏。

10:01 崔胜准 在什么时机投入哪种资产,使用哪些agent去做什么事,大家像玩游戏一样进行管理,我调查后发现,早在2025年初就有人说这像是在玩RTS,像是在玩StarCraft,而且这种说法并不少见。所以要选择什么时候投入坦克,虽然现在这一代人可能不太了解StarCraft,但大家就是以进行战略模拟的感觉来做这些事。所以我也尝试生成了一次,因为写prompt时会出现near-hit, miss,所以会分泌多巴胺嘛。因此很多人会把它比作老虎机,而现在除此之外,还变成了思考该如何操作、如何通过管理来完成目标,所以就连把握rate limit重置等事项的时机,也都会带着某种策略来进行。看看剩余量,决定用这个还是用那个,要提高effort还是降低effort。等一次性准备到这个程度之后,再向Fable 5投一个大任务,就会像这样制定策略,似乎有这样一种感觉。不过这样下去,人也会变得神志不清。

超越全部 AtCoder 人类选手与一小时内证明数学猜想 11:21

11:21 崔胜准 我自己也正在经历。另外还有一件有趣的事,7月9日有一个叫AtCoder的采用启发式方法和算法进行竞赛。去年曾因此出现过一个话题。因为saiho似乎是圈内人尽皆知的人物,而且他当时确实拿下了那个领域的第一名。就在去年这个时候的7月。而那个夏天正是IMO上传出OpenAI取得突破的时期。也就是说,AtCoder、IMO,也就是国际数学奥林匹克竞赛,这些领域取得突破是在去年夏天左右,所以Sam Altman说了句“Good job, saiho.”Sam Altman曾经这样shout-out过一次,一年后,saiho又发帖了。所以AtCoder结束了,而现在OpenAI,当然奖项是颁给人的,但OpenAI的分数比人类的分数高出了非常多。所以在算法部分和启发式部分,OpenAI智能体解出了满分8,300分,至于具体是怎么解出哪些题的,我也不太清楚。就算看了,可能也会因为太难而看不懂。所以总之是以巨大差距获胜了,接着OpenAI在启发式赛道也超过了所有人类参赛者。所以这意味着仅仅一年时间,在编程领域也能解开最顶尖的题目,去年还做不到的事,现在已经实现了。而且在数学领域,每次有模型发布,

12:53 因为有OpenAI的Sébastien Bubeck等人,都会谈到数学相关的话题,这是从另一位那里传来的消息,他们悄悄把这样的东西放到了CDN上。这是Cycle Double Cover Conjecture,翻译过来大概叫作循环双覆盖猜想,他们又解决了。所以数学界目前还没有正式验证,但数学模型又一次展现了性能,而且并没有花费特别长的时间,好像只花了1个小时。用的也不是公开模型。看来他们还公开了提示词。所以他们利用了64个子智能体,从图分解、流理论、代数表示、归纳法、嵌入等方向出发,通过智能体工作流处理这些内容,在1小时内完成了某个猜想的数学相关工作,这个我也得再了解一下。虽然现在还不太清楚,但目前就是觉得有必要深入了解。关于这件事,我也在和钟贤讨论,

13:59 Dwarkesh采访的是3Blue1Brown吗?所以他对Grant Sanderson进行的采访,涉及了很多关于数学的有趣话题,而以这些具体话题为基础想要传达的信息也很有意思。所以我觉得这些内容,我们下次可以聊一聊。在这些事情都能自动完成的时代,人类的理解之类的东西应该如何自处,这个话题就先作为预告留在这里。我最近思考的是,上次我说过,有处于循环之外和循环之内这样两个流派,但这并不是二选一,而是这个也要体验,那个也要体验。理解之后再去做,以及虽然不理解但总之先把事情做成,我思考了一下同时体验这两者的意义,这个也希望下次可以聊一聊。

AI 2040 翻译实验与下期讨论预告 14:29

14:54 崔胜准 最后,7月9日不是有一个叫AI 2027的著名预测吗?就是展望未来的那个。所以Daniel Kokotajlo从OpenAI离职后,和Scott Alexander一起制作了2027,而昨天凌晨又发布了AI 2040。也就是说,是在GPT-5.6发布前大约1个小时发布的。所以我也得读一读,但内容非常多。而且还是英语,所以我直接在GPT-5.6 Sol里,通过Codex提供了这个链接,让它克隆到本地,只说了我想把它翻译成韩语。结果15分钟后就变成了这样。所以就这样一路看下来,这似乎不是LLM直接翻译的,而是LLM使用了某种工具来翻译。我看到Python之类的也在运行。总之全部内容都已经这样翻译成韩语了,我会读一读。目前还不太清楚具体是什么内容。不过应该也会有一些有趣的展望吧。我准备的内容暂时就到这里。是啊。我们在ICML期间,来自全球顶尖前沿实验室的

AGI-pilled 成为主流后的 ICML 现场氛围 16:00

16:06 卢正石 研究人员来了,各类媒体和公司也来了,我们见了非常多的人,如果说有一个大家普遍认同的观点,那就是几乎所有人都是AGI-pilled。认为这场游戏几乎已经尘埃落定的人占据了主流,而且很多研究,我记得上次我大概和Nikhil做过一次采访,也和一位来自硅谷的风险投资人做过采访,那位朋友也问我:“你在ICML有什么新的感受?”我当时说,大多数人都是AGI-pilled,而且很多研究比起模型算法之类的东西,更关注如何才能更好地进行评估,以及如何进一步推进评估指标,我记得当时提到过,这类研究非常多。这让我印象很深。

16:57 而且即便如此,从事LLM的人几乎也全都是规模主义者,但也有一些落后于LLM发展的领域。其中最具代表性的AI for Science,最近也备受瞩目,不是吗?大家从LLM转向Physical AI之后,又都在努力把AI for Science打造成Physical AI之后的下一个趋势,但这个领域似乎仍然分成两派。一派是规模主义者,另一派则认为:“那样行不通。生物学不是靠那种方式就能解决的。”双方泾渭分明,所以当这两个群体在聚会上碰面时,彼此都会觉得不自在。我觉得在一段时间内,他们会像水和油一样,

围绕 AI for Science 的规模主义与领域主义之争 17:03

17:45 卢正石 在那里无法融合,而规模主义者的观点非常明确。通过在这里投入数据、模型和更多算力,我们将会看到Bitter Lesson继续占据主导地位,因为他们已经见过太多这样的情况,所以有一个群体坚定支持这种观点。而另一边那些人的特点是,他们都是在自己的专业领域深耕多年后才过来的,进入AI世界的时间并不长,因此对于过去三四年间,整个社区多么强烈地经历了Bitter Lesson,他们目前还没有那么切身的体会。但是因为有他们自己解决过的问题、做过的实验,所以带着一种“这些什么都不懂的家伙跑过来,一些什么搞计算机的家伙跑过来,以为敲几下电脑键盘就能解决问题,但这里可不是那种地方。”的意味,我发现这两派泾渭分明。目前还不知道哪一派会赢。

18:47 不知道是否真的存在某种domain-specific的东西。您说不知道吗?

18:52 崔胜准 现在不是几乎已经决定了吗?正石呢?我已经决定了。我虽然是规模主义者,但从观察者的角度来看,

19:02 卢正石 不能轻率断言哪一派会赢。因为我个人押注了规模主义,所以如果这样那样去做,会有种“那个问题是能解决的啊。”的感觉。

19:14 崔胜准 不过之前说今年是AI for Science之年,但出乎意料的是,信号并没有特别多。但后来才知道,Periodic Labs问世已经快一年了,他们正在努力建造工厂。要形成闭环,就必须连到实验环节,但目前还没有做到那一步。不过他们在RL方面也做得非常积极。Periodic Labs也是如此。是的,现实世界中的事情需要时间吧。

科技巨头展位巡礼与以招聘为中心的展会景象 19:38

19:40 卢正石 那么,我们要不要正式开始聊聊ICML?钟贤逛了很多ICML展位,我们先来听听相关的内容,我也应该去看看的,

19:53 崔胜准 在国外举办的会议来到韩国时,本来正是去参加的机会,但我没能去。

19:59 卢正石 COEX周边可是遭了一场大乱。人真的非常多。首先,我也去了一趟ICML。

20:08 朴钟贤 因为本质上是学术会议,所以主要还是发表论文,但其中尤其是最近,我觉得业界的影响力很强,所以我们先逛逛赞助公司的展位,看看都有哪些公司来到现场、在关注些什么,做出了哪些贡献。

20:26 崔胜准 不过您当时是怎么申请的?我是以媒体身份参加的。

20:30 朴钟贤 我提前以媒体资格提交了媒体申请,还签了类似承诺书的文件,注册后去参加的。总之,现场人特别多。他们还发了很多赠品,大家为了领连帽衫,排起了非常长的队伍。大体上,当然所有大型科技公司都来了。OpenAI, Google, Apple, Meta, Amazon,Microsoft这些公司全都在,大部分的运营方式都差不多,一边举办lightning talk环节,让公司内部的研究人员过来介绍他们正在做的事情,同时研究人员还会不断轮班,常驻现场,如果有人有什么疑问,就在对方过来时为其解答,基本都是以这种方式运营的。我们的明星之一Noam Brown也来了,我看到有人拍到了他的照片,可惜那个时间我不在,所以没能见到他。而且实际过去和他们聊过之后,

21:25 他们确实会在一定程度上解答疑问,但大家最主要的目的都是招聘。毕竟这是全球性的大型学术会议,尤其有很多即将毕业的研究生,所以我感觉招聘这些学生才是他们最大的目的。所以Google、Microsoft的展位,以及OpenAI,都会在展位上说“现在安排的是接受Q&A的环节。”基本都是这样运营的。Meta也在,Meta还带来了眼镜,并安排了可以一起体验那款眼镜的环节,这些活动也都有举办。接下来,与之类似,

22:00 韩国也有一家定位类似大型科技公司的企业,就是Naver,Naver的运营方式也几乎一模一样。所以Naver各个领域的研究人员都常驻展位,如果有人说“我对这个很好奇”,他们就会尽可能帮忙对接从事相关研究的研究人员,让双方能够交流。所以我在Naver的展位上,也见到了一位从事机器人研究的人,询问了他们是如何开展工作的,听到了很多相关内容。接下来,除了大型科技公司,也有一些足以被称为前沿实验室的公司,尤其像Mistral,是一家法国公司,他们目前正在韩国招聘创始成员。看起来似乎打算在韩国开设分公司。

中国企业展位与中国研究者的存在感 22:27

22:43 朴钟贤 接下来还有很多中国公司,例如ByteDance,最近大家好像都很喜欢Seedance。因为用Seedance生成视频的效果非常好,所以他们也在这段时间发布了新模型,另外还有Alibaba和Xiaomi,Xiaomi也因为最近推出的大型LLM模型表现不错,很受大家欢迎,所以也来到了现场,这些展位的运营方式同样和大型科技公司几乎一模一样。有意思的是,我逛中国公司的展位时观察到,毕竟向ICML投稿论文并前来发表的人员中,中国学生特别多,所以现场到处都能听到中文。我强烈感觉这些公司是在为了招聘中国人,才在ICML设立展位的。其实中国人的比例确实非常高。

23:33 卢正石 甚至有个玩笑说,AI行业是由身在美国的中国人和身在中国的中国人共同推动进步的,不是吗?但从统计数据来看,这句话确实没错。奇怪的是,印度人并不多。在这个领域。我也有类似的感受,

23:48 朴钟贤 毕竟这是ICML学术会议,所以论文发表环节才是最主要的环节,但去那些环节一看,真的有超过一半的发表者都有华人姓名。虽然我无法确认他们的国籍,所以我觉得:“真正的华裔人士确实都做得很好啊。”我有这样的感受。接着我一路逛了各个展位,

Neocloud 与 inference Serving 厂商的崛起 24:07

24:09 朴钟贤 公司真的非常多,没能全部看完。大致分类的话,比较引人注目的是新云服务商、出租并销售GPU的公司,以及许多销售inference的公司,这让我切实感受到,inference在商业层面现在真的正在逐步建立起完整的商业模式,我有这样的感受。比较知名的有RunPod、Together AI、Nebius之类的公司,我个人也非常常用RunPod。我会租用GPU,现场就有这些公司,接下来,如果只说几个我比较关注的,其中有些是韩国人创办的公司,总部大概好像都设在旧金山,如果只挑两家公司简单介绍一下,有一家叫VESSL AI。这家公司同样是把GPU全部买下来,

VESSL AI、FriendliAI 等韩国基础设施玩家 24:56

25:01 朴钟贤 再出租销售GPU的公司。我以前也不太了解。不过他们似乎主要在做B2B销售。所以有一家像Lambda Labs那样,向frontier lab整套提供GPU的集群供应商,接下来,如果说属于类似的同一生态,还有一家叫FriendliAI,是销售inference的公司。所以如果大家在OpenRouter上使用过提供LLM模型服务的API,应该有不少人见过FriendliAI,虽然我自己没有直接用过,但记得它在列表里。

25:40 他们租用GPU,在上面提供模型服务,再通过API销售。我问他们有什么技术护城河,对方回答说,在于如何高效地完成inference,在充分满足latency和带宽要求的同时,尽可能将uptime维持在99.9%,然后再降低inference的价格,实现这些目标就是他们的护城河。这种inference服务领域最著名的项目大概就是vLLM。我也经常使用它,创建vLLM这项服务的人是联合创始人权宇硕博士。权宇硕博士在UC Berkeley一边研究一边做出了这个项目,

26:30 我原本只了解到这里,但问过以后才知道,FriendliAI是首尔大学的全炳坤教授在这个实验室从事了相关研究,并以实验室开发出的技术为基础创办的公司。所以我问他们,那和vLLM有什么不同,对方说权宇硕博士在做vLLM之前,去UC Berkeley之前,曾在这里和他们一起写过论文。所以从某种角度来看,可以说它们是从相近的体系中以这种方式衍生出来的项目,应该可以这样理解。顺带一提,FriendliAI并不是开源的,所以我们只能付费使用。vLLM和SGLang这两个

27:11 卢正石 在inference领域似乎最为知名,vLLM凭借PagedAttention确实没错。是一家开创了新局面的公司。

27:19 最近几乎大多数inference似乎不是使用vLLM,就是使用SGLang来完成。

27:26 朴钟贤 是的。PagedAttention,那是权宇硕博士写的论文,以此为基础发展成了开源项目,最后甚至成立了公司,可以说是这样的案例。

27:36 崔胜准 不过钟贤是在什么场景下使用它的呢?

27:40 朴钟贤 vLLM吗?我会下载开放模型来提供服务,用它运行inference时,通常会从刚才上面提到的RunPod租用GPU并部署vLLM,然后在那里提供模型服务并使用。

27:54 然后在那里提供模型服务并使用。

27:55 朴钟贤 是自己使用的时候吗?对。通常我们推进项目时,有不少项目会自行提供服务,只使用经过inference得到的数据。因为安全问题等各种原因,遇到这类情况时主要会使用它。最近AI行业

日益成为综合艺术的 AI 基础设施栈 28:11

28:15 卢正石 几乎正在变成一门综合艺术。以前我们还会讨论做fine-tuning之类的事情,后来变成直接给frontier模型做RAG更好,随着harness风潮兴起,大家又一窝蜂地涌向了那个方向,但那个方向也变得过于笨重,所以现在的趋势是把一些小task重新整合起来,放入单个小型模型,再让这个模型执行inference会更好,目前正在朝这样的趋势发展,RAG、harness、fine-tuning、post-train、数据集,这些似乎全都整合到了一起共同运作。因此,inference也需要根据模型大小、以及workload的类型,还有更适合prefill还是decode,采用完全不同的策略,听从事这个领域的人讲,真正精通的人几乎必须掌握一门综合艺术。

29:05 所以前几天我们也录制了Nikhil的节目,是和申正圭代表一起在Lablup录制的。录完之后,我想着顺便给他们互相介绍一下,于是把Nikhil和申正圭代表介绍给了彼此,当时Nikhil在开会,我因为在后面收拾整理,所以没有一起参加会议,大约一个小时后,Nikhil出来说:“哇,那个人是何方神圣?”Nikhil称赞申正圭代表,说自己来到ICML后几天里见了数不清的人,但那些交流都不如刚才和正圭开的一小时会议有收获。Nikhil说,正圭代表从底层的芯片到数据中心,从inference到应用程序的workload,几乎从最底层开始,对所有环节都了如指掌,还问:“为什么那家公司不进军数据中心业务?感觉那家公司最适合做这件事了。”“他太忙了,顾不上做,要不我们来试试?”我记得当时还这样开过玩笑。各家公司也都以这种方式纷纷亮相,

30:10 对于现在才入场的人来说,要一次性理解这些,感觉需要学习的先修课程非常多。但在了解这些的行家之间,大家是在这种综合艺术的某个层面上讨论这个产业的,这是我这次感受到的一点。

30:33 崔胜准 那是光靠“帮我做、帮我做”无法实现的层级。

30:36 卢正石 为了让“帮我做、帮我做”能够完美实现,底层还需要加入许多东西,这样说应该比较准确。如果在综合艺术的基础上再往前迈一步,

专用加速器与硬件优化生态持续扩张 30:45

30:48 朴钟贤 如果到这里为止,都是基于NVIDIA GPU出租集群的业务,或是在集群上优化inference的业务,那么还有一项,就是真正制造全新的芯片。也就是加速器。应对方要求,这里没有上传照片,不过,曾出演过我们AI前沿频道的李镇元担任CTO的HyperAccel也设有展位。据说他们很快就会推出专用加速器,OpenAI最近似乎也非常专注于这一领域。所以在Cerebras这种专用芯片上,GPT实际上已经能够运行,之后可能还会与Broadcom合作,设计一款inference专用芯片并很快推出,最近似乎也传出了这样的消息。因此,有实际制造类似加速器的公司,接下来还有研究如何在各种加速器上更好地运行LLM,并进行优化的Nota AI,这个生态系统似乎已经形成了一套从硬件、针对硬件进行优化,一直到提供LLM服务的成熟商业模式。刚才我们谈到GPT-5.6时,

31:55 说大家有些害怕脱离订阅制,我也说过自己对此感到害怕,那么对我们而言,价格方面的替代方案或许就是GLM或开源的中国模型,在这些平台上提供服务,然后让我们以更低的价格使用,这也可能成为一种替代方案。我产生了这样的想法。

32:15 崔胜准 Nota AI所说的优化,具体是在优化什么?我对那里也不是十分了解,不过根据我听到的简单介绍,

32:24 朴钟贤 例如Qualcomm芯片内部有NPU。有些需求是要把LLM部署到这种芯片上并运行,据我所知,他们就是帮助完成这些工作的。

32:37 崔胜准 也可能是调度之类的方向。虽然我也不太清楚。应该是在说移植。

32:45 朴钟贤 因为硬件各不相同,所以要适配相应的硬件,例如按照硬件所支持的quantization、ALU等,进行quantization,或者切分内存,再考虑如何以各种方式构建Transformer,我记得大概是这方面的内容。Nota AI可能开展着范围更广的业务,我听到的内容是,他们也在做这样的工作。

33:08 崔胜准 HyperAccel说的是以B开头的芯片,对吧?

33:13 朴钟贤 没错。应该很快就会公开了。接下来似乎会以A、B、C为主,

33:18 卢正石 芯片按照A、B、C、D这样的代码命名。是这样命名的吗?

33:24 朴钟贤 感觉像以前Android的命名方式。如果对接下来的企业进行分类,与数据相关的展位也相当多。其中最有名的应该还是Scale AI。也就是介绍他们如何制作并销售数据。不过因为这里也是学术会议,比起宣传自家业务,展位似乎更侧重于招聘学生,给人一种展示自身研究成果的感觉,我也是这么觉得的。接下来还有一些我第一次听说的公司,这次有Voxel51、Toloka等公司,特别是收集并销售Physical AI领域数据的公司,因为刚才提到了Scale AI,在机器人领域,Scale AI从数据层面来看,有一些难以开展的部分。因此,有不少公司在收集相关数据。现场有这些公司的展位,其中让我印象比较深的是,我以前不知道这家公司,但他们的展位非常大。这家公司叫Handshake AI,他们主要联系本科生或研究生,每个人应该都有自己主修的领域,例如数学系的学生就算是颇为专业的数学领域专家,或者擅长某种语言的学生就是该语言的专家,他们以这种方式把学生聚集起来,再请这些学生“制作这样的数据”。然后收集这些数据,出售给前沿实验室,他们采用的是这种商业模式,规模似乎比想象中大得多。据说这家公司在美国相当有名。

从 Scale AI 与 Handshake AI 看专家数据市场 33:28

34:58 卢正石 Mercor或AfterQuery这些公司制作数据集的方式也没有太大差别,这家公司似乎反而采用了更开放的众包方式进行了扩展。

35:10 崔胜准 总之,就是在收集专家数据。

35:14 卢正石 无论领域是finance、legal,还是physics、chemistry,一旦确定下来,这个领域内具体存在哪些分支,无论是AI还是前沿实验室,都无从知晓,因此,现在这些公司扮演着过去搜索时代某种爬虫的角色。深入领域内部,在不断拓展该领域范围的同时,针对其中众多细分领域,由人来设定某种intent、意图,然后数据集的形成,则是由模型重新组合生成的。在我看来,应该不存在完全由人亲自编写的数据集。不过,由模型在其中制作数据集,

36:00 再将其制成一套完整的post-train数据集,到最后还是需要真正了解该领域的人因为需要由人来evaluate,所以需要相当多的人手。非常高端的领域需要请收费昂贵的专家参与,而像一般的编程,数学、物理,以及所谓的韩语、英语、数学等领域,本科生水平也能胜任,所以那就是Handshake AI,或者我们熟悉的数据集公司所采用的方式,而这些方式非常有意思的一点是,通过这种方式开拓出新的数据领域之后,就拿着这些数据卖给前沿实验室。

36:41 因为那些实验室反正也需要扩大自己的数据覆盖范围。所以只要那边某一家实验室购买到一定程度,就可以把同样的数据全部卖给其他实验室,我觉得大概就是这样的市场。而且数据集依然是越多,就越能带来模型性能的提升,所以前沿实验室在这些数据集上据我所知投入了极其庞大的资金,就是这样。

37:10 崔胜准 这个名字意味深长啊。Handshake AI,听起来有点不祥。如果这样分类,就有相当多的新云服务商,

37:17 朴钟贤 也有数据采集公司。除了研究模型的实验室以外,这是一个大的分类,是我感受到的一个大类。接下来,我从几个展位中挑出了几个想重点介绍的地方。有一家叫General Intuition的公司。JC既是我的私人朋友,也担任我们sudoremove频道的联合主持人,JC强烈推荐我一定要去看看,所以我就去了,这里有一个名为Medal的游戏平台。这是一个让玩家在玩游戏时,把自己觉得这次表现特别出色的场面直接截成片段,并进行分享的平台。因此,这是一个拥有海量游戏视频数据的平台。而且其中一个重要之处是,还会一并收集玩家的input。因此,可以知道按下某个键时游戏会发生怎样的变化,通常如果只有视频,就没有相应的input键记录,因而也就没有与动作对应的input数据。因为拥有这种数据,所以这里的数据对我们最近谈论的world model非常有利。

用游戏数据打造 world model MIRA 的 General Intuition 37:24

38:20 朴钟贤 他们由此成立了General Intuition这家公司,并推出了一个名为MIRA的world model,当时正在这里演示这个模型。所以我们很好奇,就询问了相关情况,有一款叫Rocket League的游戏,在西方很有名,是一款用类似迷你车的载具来踢足球的游戏。我也不太清楚具体情况。不过通常在那款游戏里,我们按下按键后,game engine和程序会运行并进行rendering,然后我们看到画面,但这个模型并不是这样,而是由world model直接把画面传给我们。原有的方式完全消失了,如果把游戏看作物理模拟,就是由world model来进行模拟。他们制作并演示的就是这样一种模型。

39:05 而且他们还公开了相当多的technical blog。我之前不太知道这些已经公开了,到展位现场询问时,我问他们用了多少数据进行训练,model size是多少,结果发现相关信息还挺多的。首先,参数量是5B,与目前常见的video model相比,架构并没有太大差异。之所以是5B,是因为与LLM相比,这个模型非常小,但他们似乎认为只有达到这种规模,我们实时输入input时,帧画面才能快速连续生成,从而实现interaction。所以很多video model似乎也都是14B、5B、7B,大致处于这样的规模。

39:49 接下来,这里说模型使用了Rocket League的1万小时数据进行训练,technical report里似乎有这样的数据。这是我让智能体帮我调查的,我在现场问他们用了多少数据进行训练时,他们回答:“我们不能透露细节,但规模是YouTube scale。”他们是这样回答的。他们说使用了极其庞大的数据来训练video,接下来是这里的融资情况,这里也以获得巨额投资而闻名。据说他们获得了Seed轮融资,而且不久前还完成了Series A轮融资。不过我觉得,他们的商业模式中有一项可能会非常成功,因为他们拥有大量数据,所以我问他们是否会把数据卖给前沿实验室,但他们说这是自己的护城河,会尽量不对外出售。既然获得了投资,似乎也有可能出售,上面的投资方大概也是为此才投资的。但他们说即使获得了投资也不会出售,目前也没有在卖,而是会自己打造world model并将其出售。他们是这样说的。所以这件事让我印象颇深。那家公司最初获得投资时,

40:57 卢正石 我记得自己也曾非常关注。虽然那家公司目前还不太为人所知,但它拥有的数据集似乎非常独特。

41:08 朴钟贤 我觉得他们还一并收集了游戏key log这一点,在动作领域应该具有相当高的价值。以上讲的是General Intuition的world model——MIRA,接下来是ElevenLabs。这是我个人最近使用得非常多,也很感兴趣,所以就询问了一下,ElevenLabs的负责人也来到了现场,尤其是负责Scribe,也就是将语音转换为文本的STT或ASR,也称为speech recognition。那位负责人来到现场后,详细介绍了“我们是这样开发的。”给我们讲了很多这方面的内容。接下来,我最好奇的事情之一是,现场有一个METR展位,

ElevenLabs Scribe 与 METR 展位速写 41:17

41:47 朴钟贤 但METR展位一直都没有人,所以我没能和他们交谈。这点太遗憾了。

41:53 卢正石 听说一个展位要3万美元,为什么没来呢?是的,我也听说了。我听说是4万美元,

42:01 朴钟贤 好像这个位置就是4万美元。旁边有来自新加坡政府的人,他们说整个活动期间一次都没见到过。好像是有什么情况。此外,还有一些

42:15 从事各种研究的其他公司。这里快速略过,接下来如果再分一类,量化或交易公司也非常多。

42:24 展位也特别大。不过那些公司,即使我亲自过去,也没有达到能与他们交流的水平,所以没能仔细了解,但总之,还有这么一个大类别。感觉大家都是为了招聘才参展的。大致就是这种感觉。

42:39 卢正石 看来 exhibition 展位真的非常大。有很多人都进去了。我看到里面挤满了人,根本不敢进去。

42:49 朴钟贤 各个展位前排的队也太长了,热门展位就连交流一次都有些困难。所以我也在那里待了大半天,但还是没能全部看完。

Side Event 与 Robotics Night 的现场密度 43:00

43:00 卢正石 就是啊。所以周边也有很多会面,每到午餐时间,各处都有前沿实验室研究人员聚在一起吃午饭的房间,我也进去跟着参加了各处的午餐聚会,全都是年轻人,来自 Google DeepMind,然后是 OpenAI,基本就是这些。OpenAI 和 Google DeepMind 的人经常很自然地成群结队,但 Anthropic 的人却不太一起行动。这一点有些特别。也许是因为来的人不多,所以并不怎么显眼。除了赞助商展位的官方活动外,

43:39 朴钟贤 还有很多边会活动,这是我参加边会活动时拍摄的其中一张。正石似乎也经常举办并参加边会活动。接下来,我去了其中由 RealWorld 举办的Robotics Night,看了这样的演示。那里也来了非常多人,差不多有一百几十人到场。所以我见到了很多从事机器人研究的人,并和他们进行了交流。机器人毕竟是一个特定领域,所以我强烈感觉这个领域本身的交流密度比较高。其中也有来自 Toyota Research Institute等业界机构的人,也有学术界的研究生,尤其是从事相关研究的研究人员也相当多。那里大多数人也像刚才提到的那样,有人认为 scale 才是答案,也有人认为答案在于如何充分利用 domain knowledge,大家的意见各不相同,有人认为应该采用 RL,也有人认为在这里最好不要采用 RL,讨论的观点非常多样,大家彼此之间交流得非常活跃。

44:47 所以我参加了这些活动。

44:50 接下来,正石的活动和我的日程有些冲突,所以只是短暂地去了一下,没能待太久,我个人在那里感受到的是,交流密度真的非常高。而且有非常多人来自旧金山,关于最近热议的是否应该进行 token maxxing,有人说这毫无意义,也有人说高效利用才重要,存在很多这样的讨论,我听了他们的对话,听说有一家初创公司人均 per week会使用价值1万美元的 token。于是另一个人说:“为什么只用这么一点?为什么要设这样的限制?”对方就是这样说的。“我有时一天就会烧掉价值2万美元的 token。”我听到这话后,不禁怀疑我们现在真的是生活在同一个世界吗,我产生了这样的想法。怎么才能在烧掉那么多 token 的同时还能创造 ROI 呢?看来确实存在一些通过消耗 token来创造价值、让业务做得更好的事情。我感受到了这些。还得仔细问问他们到底做出了什么。

亲眼目睹每天花费 2 万美元的 token maxxing 45:02

46:01 卢正石 token maxxing、某种产出成果的质量,以及对这些成果的 evaluation,都必须 pair 在一起运作,才能进行评价,不能只凭“我用了多少 token”就去评价某件事,这是我的观点。我记得很多人也在说,token maxxing 的时代是不是已经略微过去了。我也很好奇这一点,所以问过他们,

46:28 朴钟贤 但他们似乎很难详细说明。他们只说因为要处理大量数字,并整合数据,所以必须使用那么多,听到他们这么说,我就在想,做那类工作或许真的会用掉很多。

46:41 卢正石 确实有可能。

46:42 崔胜准 是的。2万美元相当于一天大约15.6万元人民币吗?

46:46 卢正石 没错。那是根据本人的订阅套餐倒推出来的吗?还是实际上真的用了那么多?

46:52 朴钟贤 是的,我问了这一点,对方说全部都是通过 enterprise 使用的。在 enterprise 层面使用订阅套餐,好像会违反 Terms of Service。然后我又问,从前沿实验室的角度来看,也就是从 Anthropic 这类公司的角度来看,是个人通过订阅使用的量更多,还是 enterprise 使用的 token 更多,对方说 enterprise 消耗的 token 数量占压倒性多数。我暂时就分享到这里,今天是星期六上午,活动还有

47:24 星期六和星期日两天,如果有机会,下周我会继续再为大家介绍一次。

47:31 崔胜准 不过钟贤,刚才展示的资料是放在 AI 前沿网站上的吧。

47:36 朴钟贤 是的,这次资料是按添加到 AI 前沿网站的方式制作的,做成了添加到那里的形式。今后如果我们有要分享的资料,也会尽可能继续添加到那里。谢谢。我觉得这样比较合适。

成为 ICML 真正主活动的 Networking 与派对 47:50

47:50 卢正石 ICML主活动固然是主活动,但周边的餐厅和咖啡店,以及晚上举办的派对,光是在这些地方之间来回奔波就忙得不可开交。所以我觉得,比起主会议,那些活动或许才是重头戏。而且前沿实验室的人与其说是来这里看论文或学习,不如说一半以上也是为了来玩,所以大多数人要么之前去过济州岛,要么结束后去济州岛,又或者之前去过釜山,或之后去釜山。因为韩国这个国家本身也很受欢迎,听说这次ICML的参会人数几乎创下了历史纪录。所以有的说是1万人,有的说是1.4万、1.5万人,我每天都在COEX周边活动和生活,那里也是我主要的工作据点,但我感觉COEX一带从来没有这么多人。而且那里的人也不是那种非常时髦的外国人,而是到处都是和我们差不多的工程师,看着他们来来往往,我就想,哎,这有点奇怪啊?有种仿佛又回到旧金山的感觉,我产生了这样的想法。女性的比例也没有那么高,理工男的比例倒是很高,感觉这一周的理工男密度占据了压倒性优势。所以我们也主办了好几场周边活动,

49:15 我自己也参加了不少。从本周一开始,一直到今晚,周一、周二、周三、周四、周五、周六、周日晚上,我每天都在参加派对。先从周二晚上说起,周二是Delta Institute和Striker VC,Recursive Intelligence以及一家叫Illorian的公司,这些都是通过投资组合联系起来的公司。都是Striker VC投资过的公司,Striker则是我们不久前录过节目的Nikhil担任合伙人的一家风险投资机构。这家公司也非常有意思,到场的工程师密度也非常高。所以给我留下深刻印象的是,我与一位来自Mistral的研究员交谈,聊了各种各样的话题,内容并没有太大不同,他们认为在美国市场建立某种presence是比较重要的。然后如果询问他们内部的敏感数据,当然就会像这样摆摆手,不肯透露,也有这样的情况。我见到的人当中,有一家叫Flapping Airplanes的公司。

Flapping Airplanes 与对下一代模型范式的押注 49:26

50:24 卢正石 我一听到Flapping Airplanes这个名字,就想,这个flapping,是鸟这样拍打翅膀的意思,他们是做什么的?难道是什么航空模拟公司吗?因为人太多,现场很吵,所以我竖起耳朵仔细听了听。我在上一期节目里也提到过,有一些声称要尝试打造新模型的公司。他们从SSI的层面认为,某种程度上,Transformer主义是错误的。应该出现一种data-efficient程度高得多、能够以快得多的速度通过few-shot进行learning的模型。有一些团体就是这样主张的。这些团体的特点是由极其聪明的人组成,一般有10到20人,多的话有30人,起步valuation就达到数十亿元人民币,融资金额也达到十几亿元人民币。Flapping Airplanes成立好像也不到一年。几个月前完成了第一轮种子融资,valuation是1.5B,也就是按我们的货币计算,valuation约为120亿元人民币,获得了约10亿至15亿元人民币的种子融资。我和那位朋友昨天午餐时又见了一面,因为他身上隐隐散发着天才的气息,我就说:“我们一定要再见一次。”于是昨天请他吃午饭,问了他各种各样的问题。

51:48 最近Twitter上流传着那些说法,你们也知道吧。打造前沿模型的配方其实没什么特别的。都是已经公开、彼此都知道的配方,只是能以那种规模承担资本风险,实际执行的公司没有几家,大家都在公开这么说。对于这一点,他认为这是理所当然的。大家确实都知道彼此的配方,然后我们还聊到了哪些算法正在取得进步,以及他们正在哪些关键点上布局并继续推进,我记得我们聊了这些内容。

52:32 崔胜准 是二十多岁,还是三十多岁?应该是二十多岁。那位朋友也是从Stanford毕业后,

52:37 卢正石 去了一家叫Citadel的金融公司。他在那里工作了一段时间,后来转去了那边。

52:46 朴钟贤 他是怎么获得那么高的valuation的呢?

52:51 卢正石 不清楚。我没有问这个,毕竟他不是老板,大概是因为市场对这方面的价值给予了非常高的评价吧。能以那样的valuation投入那么多资金的风险投资机构,都是非常知名的公司。像Sequoia、a16z,或者Index Ventures,它们并不是硅谷的小型基金,而是超大型基金。所以这些超大型基金就像过去SoftBank的Masayoshi Son选中新公司时那样,当别人都只融资约5000万、1亿元人民币时,他会以十几亿元人民币的规模、数十亿元人民币的valuation进行投资,让那家公司在资本层面占据巨大优势,并帮助它确立市场领导地位,从而在某个市场取得优势。这种策略以前经常被采用。

53:41 现在Bay Area那些领先的基金似乎也借鉴了这种策略。那些公司是在说:“这里都是非常知名且优秀的公司,无论从人才还是正在开展的研究来看,“就有这样的价值。”他们是在进行一种declare。我觉得这就是一种宣告,而且Bay Area的前沿公司资本规模极其庞大,所以只要前面的风险投资机构认可这样的valuation,就会有一种大家都认可并接受的氛围。他们也知道后面有人会接手,有所倚仗,所以才会定出那样的valuation。而且他们掌握的信息肯定比我们多。当然,这种趋势的风险非常大,但如果能创造出并非Transformer、而是真正接替Transformer的下一个candidate,就有望获得惊人的return,我认为其中也融入了这样的期待。看来确实是有些什么。

54:58 崔胜准 你看,Jerry Tworek也离开OpenAI,创办初创公司了嘛。不知道现在是不是仍处于stealth阶段。偶尔会听到这种说法,听说正在做些新东西,看来确实是有些什么。对。不过就算问他们,他们也绝对什么都不说。只会含糊地说:“这是个问题。

55:18 卢正石 是一个非常严重的问题。”然后东拉西扯地绕开话题,但他们想做的,就是需要一种next transformer paradigm的模型。那位朋友让我印象很深,周三,我们举办了AI前沿韩国,也就是我们的播客。我们和美国的SemiAnalysis联合主办了AI Industry Night。原本只打算邀请大约20位来Lablup,一边简单用餐一边聊天,但报名的优秀人士实在太多了,所以我们宁可损失订金也取消了原来的场地,在活动前一天紧急换成了更大的venue。幸好Lablup的申正圭代表把公司场地借给了我们,我们就在公司大厅里接待了大约40到50位来宾,大家来到现场进行了交流。钟贤刚才也提到过,

AI Industry Night 与数据中心价值链对话 55:35

56:19 卢正石 有来自旧金山的风险投资人,以及OpenAI研究人员,还有新云服务商,包括从事AMD相关业务的TensorWave,来了许多非常有意思的人。韩国这边则有SK Square,还有HyperAccel的李镇元,之后李东洙博士也来了,LG电子来了很多人,晓星重工业也有人参加,我们主要召集了从数据中心到芯片端都感兴趣的人士,主要围绕这些话题进行了交流。讨论内容几乎大多是数据中心价值链中目前哪里存在瓶颈、哪些公司正在做什么,接着是韩国有哪些机会,其实他们对韩国了解得并不多。SK海力士、三星电子和BTS,基本就是外国人眼中的整个韩国。所以他们会问,除了存储器,在其前面的价值链中,你们的数据中心业务是如何构成的,电力状况如何,以及其中的参与者除了SK这样的大型企业之外,有没有小型企业,他们又在如何做准备,我记得他们接连询问了这类问题。因此大家进行了非常多元的交流,还有从事OpenAI机器人研究或post-training的人,接着GLM也来了一位工程师,我们聊起GLM,并问他:“你知道你们在韩国非常受欢迎吗?”他说:“不知道,完全不知道。”我还记得我们聊过这样的事情。周四,我和Matthew Kim代表与一家名为AfterQuery的

生物 AI Meetup 与 virtual cell 之争 58:01

58:09 卢正石 公司共同主办了Yacht Night,当天因为雨下得很大,交通也很拥堵,又发生了各种状况,比较混乱。不过到了那里以后,我们和前来的研究人员进行了交流,而周五,因为我最近打算把业务转向AI和生物领域,所以从周五、周六一直到今天,我结束这个以后也会再次去参加workshop,ICML主tutorial环节,那个叫什么来着?主conference结束后,后面会举行workshop环节,workshop环节有很多有意思的内容。所以我主要在听生物或AI for Science方向的session,昨天有一个GenBio session,针对前来参加GenBio的人,我们通过熟人之间相互宣传,只邀请了身处生物与AI交叉领域的人士,举办了一次meetup。大家一边用餐,一边聊了各种话题,有来自Arc Institute、NVIDIA,以及Anthropic的人,主要都是从事生物与AI相关工作的人,也有来自Harvard的人,等等。这些人所在的地方,也就是我刚才提到发生争执的现场。最大规模主义者

59:36 和那些认为“喂,不能那样做”的人稍微分成了两派。说来挺有意思,当时我和我们桌的一位NVIDIA人士、几位来自Arc Institute的人,以及一位在Harvard读博士时退学创业的有趣朋友坐在一起,有个朋友原本坐在我们这桌,后来却逃到了另一桌。后来听他说,他去了另一桌后说:“那桌很危险。那里聚集了一群规模主义理想派,正在以非常危险的方式研究生物。这不是能用那种方式解决的问题。”不过,和我聊得比较多的那位是在Arc Institute开发Evo 3模型的人,我们聊到了当前DNA foundation模型存在什么问题,以及在构建virtual cell方面,所有实验室都在谈论virtual cell,关于那个virtual cell的概念全都不一样。而且生物领域的东西,我也在一点点了解,首先,数据并没有LLM那么多。散布在互联网上的文本,毕竟也没有Video数据。各个实验室的数据都非常零散,即使那些数据量很大,也不代表全都是关键性的数据。比如进行实验时,会先经历准备实验等一系列过程,直到最后真正触发某种反应的瞬间,才会出现反应,假设存在按时间顺序产生的数据,那么真正有价值的数据区间,全都集中在后面的几分钟或几小时内,而前面的部分,其实是可以压缩成一条的数据,但目前说到生物数据,连前面的数据也会包含在内,以制药公司为例,它们拥有非常庞大的数据,我们也会说自己拥有数百万次实验的数据,但很多人提到的那个令人不愿面对的事实是,事实上,那些数据中真正能够用于training、具备数据价值的部分,很多时候只是一些非常短暂的瞬间。所以目前整体上仍然存在现实局限。

61:58 在追求这种规模时,即便compute可以准备到位,足以用来training的数据集确实仍然不足,大家也有这种认知,但似乎每个人又都多少抱有一些超越现实的乐观想法。觉得这个问题这样解决不就行了吗?所以我上次也说过,来自传统生物管线的人,会从那个领域出发,思考为了实现它必须预先解决的条件等问题,因此问题都非常domain-specific,定义得十分具体,而从计算机科学领域出发的人,则是超级通才。所以借用一下这个领域的人带有贬义的说法,就是一些没受过正规训练的计算机佬跑过来,以为把那个做几次就能成功,但这个领域根本不是那么回事。我记得当时说话时大概就是这种语气。不过我觉得这场会议的优点也正在于此。各个领域中走在最前沿的人都会来到这里,而且必须在短时间内交流,所以大家会假设彼此都有一定了解,直接切入主题,抛出一些触及本质的问题。然后围绕那些问题,如果双方无法你来我往地交流,就会觉得“看来不行”,随即各自离开;如果能交流下去,确认彼此的基础后,就会互相提出几个核心问题,这种时候经常能产生真正有价值的对话,我也会在其中逐渐感受到前沿人士眼中各类问题的难度分布,并在脑海中形成完整的脉络。我觉得这一点非常好,但有一点可以确定,那就是在LLM这边,正如我刚才所说,大家似乎都吃了AGI pill。这是一个能成功的游戏,论文的方向已经大量转向应该如何衡量这种成功,我想刚才已经提过了。正因为相信它能够实现,大家才会研究该如何准确衡量它,才能衡量出更好的成果。现在只要模型一发布,不管是好模型还是差模型,基准测试全都已经maxxing,而这些问题正在成为研究主题,所以那里似乎仍处在我们熟悉的趋势延长线上,而AI for Science这边显然正在努力成为下一个趋势。除了少数非常有前瞻性的风险投资家以外,其他普通的风险投资家还没有跟上这股趋势。至于资本市场和大众,自然更不用说,目前这股趋势还没有到来,但它会成为下一个趋势,到今年秋天或明年春天左右就会明确站稳脚跟,接棒Physical AI,这一点我确实深有感触。大概就是这些。哎呀,周三、周四、周五真是太累了。

对 AGI 的确信与崛起为下一波趋势的 AI for Science 63:07

65:15 崔胜准 是的。真是一路高强度地忙过来了。你看,我的嗓子现在都哑了。说的话也太多了,

65:21 卢正石 而且人们聚在嘈杂的地方交谈时,也会涉及这个研究课题。必须进行source separation。本来应该只听传到我这里的声音,但所有声音全都混在一起传进来,只能一边捕捉一个个单词,一边靠上下文彼此交流。这种体验还挺有意思的。

不断压缩的发展周期与尚未真正启动的 Agent 市场 65:45

65:45 崔胜准 那么,把今天的内容全部wrap-up一下,结论是什么?

65:50 卢正石 把今天的内容全部wrap-up一下,就是发展进程正在进一步压缩。过去我们会分一个月里的几次来讲的话题,再早些时候甚至会分几个季度来讲的话题,现在我们在第一周、第二周、第三周里,和钟贤已经拍了大约三次,虽然每次听起来似乎都在讲类似的内容,但我们怀着一种焦虑,觉得变化的速度正在越来越快,所以一直在急切地讨论。我认为这正是我现在感受到的、最核心的信息。

66:26 另外,我觉得有意思的一点是,关于AI应用的话题。不管是在YouTube、harness相关内容里,还是提到哪里的黑客松,大家都会谈论智能体。用智能体做了什么、怎样让工作效率提高,但这里完全没有人在讨论这些话题,这次来到ICML的人虽然大部分也是研究人员出身,但风险投资家等人也完全不问这方面的问题,甚至根本不谈这些,我觉得这一点很新鲜,而当我就此提问时我感受到了两种信号。一种是“那不是 Codex 全都能做完吗?”这种普遍的看法,在应用层,Codex 或编码工具链这类超级应用通过提示词,以 generativeUI 和 generative service 的形式,不就什么都能做了吗,这是其中一种,第二种则让我觉得:“这甚至还没有开始啊。”我听着那些话,

67:39 感觉“这个领域甚至还没有开始啊。”对此,我的观点是,当然,只要吩咐 Codex、Claude 或其他这些工具,它们全都会做出来,但人们甚至连吩咐都不会去做,所以会出现替人们下指令的公司,就像 B2B SaaS 不断涌现一样,众多 AI 智能体公司也会开始出现,但这还没有开始。因为底层基础变动得太厉害,而且底层基础还没有严密地构建起来。不过,我认为那里会在 industry-wide 的范围内成为一个极其庞大的产业,所以我觉得我们应该继续关注。后一种说法是,虽然他们不谈这些,

68:25 崔胜准 但又说一个无比庞大的市场将会开启,所以才不做,这其中的逻辑我实在没能理解……

68:31 卢正石 只是还没到他们开始关注的时机。市场时机还没到,无论是运作资本的风险投资家,还是前沿实验室里的人……资本现在之所以还不谈这种智能体工作流,

68:45 崔胜准 是因为市场时机还没到。

68:49 卢正石 简单来说,也可能是 ICML 本身的特性。来这里的人本身就有这样的特点,如果去 Y Combinator 演示日之类的地方,大概满场都在谈这些。

69:01 崔胜准 因为这里是 ICML,语境可能确实有所不同,我这周总之一直在关注 ICML,

与产业融为一体的研究格局 69:02

69:06 朴钟贤 但我们今天也几乎没有谈到什么论文研究成果、这类话题,就我个人而言,赞助商展位这些东西反而给我留下了更深的印象。如果仔细思考这意味着什么,与过去不同的是,研究与产业贴得更近了。因为规模极其重要,而且我个人,尤其是去参加正石的活动时,比如遇到在前沿实验室真正研究模型的人,我就问了这些人。这次 ICML 有没有什么值得关注的论文,有什么值得看,我到处都在问这些问题。我问了很多人。因为研究实在太多了,我也在想其中究竟该重点看什么?但大多数人都说,最近与论文相比,产业界传出的那些讨论似乎更有价值。因为研究也是围绕产业界开展的。

70:09 听着这些话,我感觉“双方确实靠近了。产业界和学术界贴到一起了。”我产生了这样的想法。没错。以前如果说这种分层是

70:23 卢正石 先有汇编语言,再有 C,上面有 Python,Python 上面还有 Django,那么最上层开发应用的人只要熟练使用 Django 就行,各层之间存在这种分工,但现在感觉从汇编语言到最上面的 Django,全都直接粘在了一起。所以这个技术栈相当深,也比较宽,似乎只有成为一个对这些技术栈全部都有所了解的多面手,才有资格谈论上层应用也好,还是其他什么话题也好,仿佛这样才具备参与讨论的资格。否则,即使去了所谓的产业界,也会突然有点没什么可聊的。“Codex 很好用。

71:14 Claude Code 很好用。在 loop engineering 中,我运行过某个工具链。”像这种话,必须进一步深入到“那么这个要这样处理,把模型单独拆出来,再这样修改,这个使用 Codex 的。这里我们公司的 proprietary data 太多了,所以这个必须使用这个模型。”要谈到这些层面,才会有相互交流的感觉。另外,我听到的一个有趣消息是,

依赖前沿实验室的风险与中国开源模型 ban 前景 71:39

71:42 卢正石 这也是上周上传的播客中谈到的内容,我们不是都在从事某种业务吗?但我们不假思索地对 Codex 不断说“做一下,做一下”,塞进去的那些东西,不正是公司的核心资产吗?甚至在使用 auto-compacting 的同时,还以整理完善的形式放进同一个线程,把公司的整个工作流全都塞了进去,那么从前沿实验室的角度来看,一家公司的业务就这样直接转移到了他们手里,这便成了促成这种转移的契机。而之后,无论是 Anthropic 还是 OpenAI,这些公司要 justify 自己的 valuation,就必须像过去 Microsoft 等公司所做的那样,直接吞下并掌握众多核心产业。Microsoft 也通过 Office 一举拿下了整个市场,Google 也拿走了非常多的东西。虽然如此,但对于 AI 来说,它不是单纯地销售存储空间、销售 function,或者销售 distribution channel 之类的东西,而是销售 intelligence,因此很难划分层级,这类讨论不是有很多吗?正因如此,企业开始意识到,把这些东西全都白白交给前沿实验室是极其危险的,因此使用开源模型构建自己的工具链和自己的算力集群,其重要性似乎正以超出预期的速度迅速攀升。本地部署模型的重要性。另外,这里还有一个有趣的要点,美国企业目前所依赖的开源模型,几乎全部都是中国模型。它们以 Qwen、Kimi 等模型为基础,说是来自 SemiAnalysis 的朋友,这么一说大家就都知道是谁了。总之,听那位朋友说,到明年左右,美国政府或许会禁止美国企业使用中国的开源模型,也就是会不会 ban,会不会禁止,那位朋友说自己有这样的预测。如果真是这样,那么由西方世界友好国家提供的所谓准前沿模型、开源前沿模型的价值就会大幅上涨。听到他们是这么认为的,我觉得确实有可能。也觉得这在商业上会有很大的意义。毕竟现在除了中国,也没有别的了。

74:24 崔胜准 我感觉 AI 2040 里也有过类似的说法。虽然没仔细看,但无论如何,中国是个重要关键词。是啊。就这样彻底 ban 掉。把开源模型本身。

74:35 朴钟贤 对,预计连在本地部署运行也会 ban,是这样预测的。

74:39 崔胜准 虽然不太确定这在现实中是否可行,但无论如何,确实可以出台这样的政策。我们确实有点忙得晕头转向。

信息过载时代的梳理需求与收尾 74:44

74:46 卢正石 想从容地整理一下,再聊些什么、讨论些什么,想拥有专注钻研一个主题的余裕,可现在这个世界并不给我们这样的余裕。我甚至记得自己在公司说过,这周之前先忙着吸收信息,从下周一开始,“我们要开始干活了。”我当时就这么说过。GPT-5.6 发布了,而且我也听到了很多关于模型规模的推测,但那些内容他们也让我不要说,他们透露的东西实在太多了,以后大家最终都会知道的吧。那么就到这里,我们今天的录制就告一段落。钟贤、胜准,今天也谢谢二位。

75:32 朴钟贤 辛苦了。

75:32 崔胜准 很有意思。