EP 105
从 GPT-5.6 发布到 ICML 现场
ICML 周与 GPT-5.6 突然发布:开场 0:00
卢正石 今天录制时是2026年7月11日星期六早晨。本周正值ICML周,所有人都忙得不可开交。与此同时,GPT-5.6又突然正式发布了,今天我们会聊聊GPT-5.6,看看都发生了哪些事情,以及围绕ICML,我们也举办了各种活动,见到了许多人,接下来简单分享一下我们的感想。那么先从GPT-5.6的话题开始聊聊吧?这一周真是忙得不可开交。首先,周边一传出这个要发布,
GPT-5.6 发布前后的氛围与早期用户反应 0:31
崔胜准 毕竟每逢重大活动,总会有人来蹭热度嘛。所以大家为了彰显存在感,SpaceX xAI也介绍了Grok 4.5,Muse Spark也从0.1提升到了1.1并进行了介绍,不过之前说Gemini 3.5 Pro会在夏季发布,如今7月上旬都快过去了,却还没有发布。所以看推文时间线的话,那些总是在做Gemini相关工作的Google AI Studio人士,Logan的表情总给人一种看起来很伤心的感觉。
所以有趣的一点是,Sam Altman和OpenAI官方账号都说会在周四发布,此前一直都有这样的传闻。一会儿说周二,一会儿说周三,但一听说周四要发布,大家这才纷纷发出了试用后的感想。也就是那些名人,那些名人的反应,
我在Twitter上一路找了下来,有趣的是,有些人竟然提前试用了长达两个月左右。当然,这不是出口管制,虽然说是由政府进行管控,但由此可以看出,他们确实给不少人提前用了。不过大家共同的反应是,
虽然没有Fable 5那种大模型的强烈气息,但非常不错,“这是新的日常主力工具”这样的说法普遍出现了。所以在编码方面,性能似乎确实有所提升。大家都试用过了吗?我在Codex里稍微用了一下。
Codex 更细分的 effort 档位与成本扣减体验 2:14
朴钟贤 不过刚才也提到它是新的日常主力工具,虽然是这么说,但即使我也是通过订阅使用,还是感觉额度消耗得相当快。
崔胜准 effort设成什么了?effort方面,在Sol这个最大的模型里,
朴钟贤 新增了High、Max和Ultra这些选项,对吧。总之就像Claude一样,上面多了些选项,我就从最上面开始逐个点了一遍,全都测试了一下。
崔胜准 原来如此。我只在High左右用过。
卢正石 是啊。一下子出现了六个档位,都不知道该选什么,心情非常复杂。感觉OpenAI确实在test-time compute上下了很多功夫。这种细分也做得很完善。是的。所以我们也得逐渐摸清这些东西,
崔胜准 人类还得培养出判断哪种effort适合自己工作的感觉,才能高效地控制使用成本,感觉我们已经进入了这样的时代。目前是这样。而且他们又突然介绍了GPT-Live。前一天还使用了GPT-Live,在发布GPT-5.6 Sol时,甚至在直播最后将其用于同声传译。GPT-Live以full duplex形式推出了,我也试用了一下,虽然不知道以后会不会一直使用,但确实比以前有所改善。所以现在可以一边对话一边进行同声传译,当然,在那次直播,也就是GPT-5.6直播时,确实出现过一次失误。那也是个有趣的点,不过总之它已经推出了。所以在创业圈里,偶尔也能看到从事这类工作的人在一天之内就遭受了打击,类似这样的情况。原本正试图突破这个难题,结果它却以full duplex形式直接推出,看来有些人因此陷入了比较棘手的处境。这确实是个问题。至于GPT-5.6相关的消息,我现在也不会再仔细查看图表
以 full duplex 形式推出的 GPT-Live 与同声传译 3:17
ChatGPT Work 拆分与递归式自我改进信号 4:10
崔胜准 之类的内容了。有一点很有趣,进入网页界面后,会分成Chat和ChatGPT Work。所以像以前那样使用effort,让多个智能体以不同方式运行,进行资料调研之类的工作时,适合用ChatGPT Work,而Chat的响应非常快。我甚至更新了应用,但在应用里并没有直接看到effort调节或模型切换选项。也许有相应的操作方法,总之响应非常快。所以大概是像以前使用Instant那样来使用的,看来还得慢慢摸索。目前直播中让我觉得有趣的部分是,
其中提到了一个关于递归式自我改进的故事。也就是我们曾多次介绍过的,去年10月31日,不对,是30日。他们说会在30日推出automated AI research intern。9月,2020年9月,之后在2028年3月,要打造完全自动驾驶式的AI researcher,也就是打造一个身为AI的AI researcher,而这次发布时,Sol对最小的模型Luna进行了post-train,至于是哪种post-train,我也不太清楚。不知道是进行了SFT,还是进行了RL,其中涉及某些重要成果的部分,以及出现数字的部分都被遮住了,他们还公开了部分提示词,但很普通。不过他们介绍了如何使用那个提示词,由Sol对能实际用于业务的Luna进行post-training。所以关于RSI的信号一直在出现,现在作为联合创始人去了Thinking Machines Lab,对吧。Lilian Weng在OpenAI时,发表了一篇关于自我改进的名为harness engineering的文章,梳理了现在正在发生的许多事情,涵盖harness engineering以及与自我改进相关的内容,也就是说,不管怎样,自我改进既包括更新weight的自我改进,也可以像Autoresearch那样改进harness本身,这种自我改进也是可行的嘛。她发表了一篇全面涵盖这些内容的文章,值得一读。所以这里暂时不详细展开,只向大家介绍一下。
卢正石 核心信息是应该改进weight吗,还是说改进harness会更快呢?目前侧重于改进harness,
崔胜准 但现在OpenAI释放的信号是,改进weight也正在通过自我改进循环进行。因为已经post-train了Luna。所以两者似乎都在发生。而Anthropic也在大约一个月前恰当地介绍过这件事。他们发过一篇文章,主题是用于自我改进的AI已经到了自行创造自身的时候。如果直接来看价格和速度,价格就是Opus级别。现在Opus 4.8的输入价格是每100万token 5美元,输出25美元,不过输出有点贵。输出贵了大约5美元,因此形成了这样的定价。所以虽然价格属于Opus级别,但我们关注的是它被包含在订阅政策之内。所以目前仍然是订阅制。幸好如此。不过有传闻。
GPT-5.6 定价结构与 GPT-6 订阅制的关注点 7:04
崔胜准 是关于GPT-6的传闻。现在距离它首次出现、距离有人开始使用它已经有两个月,那就意味着它在更早、早得多的时候就已经出来了嘛。所以从时间上看,如果观察Claude这边的模型发布间隔,此前已经出现过间隔缩短到两个月以内的信号嘛。所以现在有传闻说,GPT-6也已经准备得相当充分,而且GPT-6会是大型模型,达到Mythos级别,现在有这样一种氛围。
到时候OpenAI会不会把它纳入订阅,还是改为按量计费,似乎会成为一个看点。而且感觉这一天比想象中更近。是啊。Fable 5虽然
朴钟贤 已经把日期稍微延长了一些,但似乎也释放出了将不再提供订阅套餐的信号。OpenAI为了改善收益,当然也可能会这么做,我正因此吓得瑟瑟发抖。是啊。听说如果按照原来的使用习惯来用,
崔胜准 一天花上约5,200元人民币都不稀奇。所以就像刚才所说的,原本应该在7月7日关闭,大家都在观望,琢磨该在什么时机使用它,结果他们在7月7日把期限延长了。所以大家纷纷说:“我为了这个熬了通宵呢。”类似这样的反应。然后变成了可以用到12日,发生了这样的事情。
接下来还有一件有趣的事,Sol发布之后,他们进行了一次重置。重置了5-hour和weekly rate limit之后,Thibault这次出现在了直播中。“I smell fear. 害怕了吗?”因为如果大家转投GPT-5.6,出现用户大迁徙,那就麻烦了。不过确实有这种感觉。
还得看12日的情况,如果GPT-5.6足够好,大家当然会大规模转投过去。所以这里似乎仍然是战场。市场会作何反应,GPT-6又会怎样。所以这就是看点。刚才胜准讲话的时候,Codex应用更新了,
Codex 应用整合与 RTS 游戏般的 Agent 管理体验 9:35
卢正石 Codex应用和ChatGPT应用合并了。现在直接变成了一个ChatGPT应用。Codex应用不再单独存在了。
崔胜准 不过它确实问了是否要保留Codex图标。
卢正石 确实只问了这个。所以我也观察了一下周围人的反应,感觉大家都像是在玩游戏。
崔胜准 在什么时机投入哪种资产,使用哪些agent去做什么事,大家像玩游戏一样进行管理,我调查后发现,早在2025年初就有人说这像是在玩RTS,像是在玩StarCraft,而且这种说法并不少见。所以要选择什么时候投入坦克,虽然现在这一代人可能不太了解StarCraft,但大家就是以进行战略模拟的感觉来做这些事。所以我也尝试生成了一次,因为写prompt时会出现near-hit, miss,所以会分泌多巴胺嘛。因此很多人会把它比作老虎机,而现在除此之外,还变成了思考该如何操作、如何通过管理来完成目标,所以就连把握rate limit重置等事项的时机,也都会带着某种策略来进行。看看剩余量,决定用这个还是用那个,要提高effort还是降低effort。等一次性准备到这个程度之后,再向Fable 5投一个大任务,就会像这样制定策略,似乎有这样一种感觉。不过这样下去,人也会变得神志不清。
超越全部 AtCoder 人类选手与一小时内证明数学猜想 11:21
崔胜准 我自己也正在经历。另外还有一件有趣的事,7月9日有一个叫AtCoder的采用启发式方法和算法进行竞赛。去年曾因此出现过一个话题。因为saiho似乎是圈内人尽皆知的人物,而且他当时确实拿下了那个领域的第一名。就在去年这个时候的7月。而那个夏天正是IMO上传出OpenAI取得突破的时期。也就是说,AtCoder、IMO,也就是国际数学奥林匹克竞赛,这些领域取得突破是在去年夏天左右,所以Sam Altman说了句“Good job, saiho.”Sam Altman曾经这样shout-out过一次,一年后,saiho又发帖了。所以AtCoder结束了,而现在OpenAI,当然奖项是颁给人的,但OpenAI的分数比人类的分数高出了非常多。所以在算法部分和启发式部分,OpenAI智能体解出了满分8,300分,至于具体是怎么解出哪些题的,我也不太清楚。就算看了,可能也会因为太难而看不懂。所以总之是以巨大差距获胜了,接着OpenAI在启发式赛道也超过了所有人类参赛者。所以这意味着仅仅一年时间,在编程领域也能解开最顶尖的题目,去年还做不到的事,现在已经实现了。而且在数学领域,每次有模型发布,
因为有OpenAI的Sébastien Bubeck等人,都会谈到数学相关的话题,这是从另一位那里传来的消息,他们悄悄把这样的东西放到了CDN上。这是Cycle Double Cover Conjecture,翻译过来大概叫作循环双覆盖猜想,他们又解决了。所以数学界目前还没有正式验证,但数学模型又一次展现了性能,而且并没有花费特别长的时间,好像只花了1个小时。用的也不是公开模型。看来他们还公开了提示词。所以他们利用了64个子智能体,从图分解、流理论、代数表示、归纳法、嵌入等方向出发,通过智能体工作流处理这些内容,在1小时内完成了某个猜想的数学相关工作,这个我也得再了解一下。虽然现在还不太清楚,但目前就是觉得有必要深入了解。关于这件事,我也在和钟贤讨论,
Dwarkesh采访的是3Blue1Brown吗?所以他对Grant Sanderson进行的采访,涉及了很多关于数学的有趣话题,而以这些具体话题为基础想要传达的信息也很有意思。所以我觉得这些内容,我们下次可以聊一聊。在这些事情都能自动完成的时代,人类的理解之类的东西应该如何自处,这个话题就先作为预告留在这里。我最近思考的是,上次我说过,有处于循环之外和循环之内这样两个流派,但这并不是二选一,而是这个也要体验,那个也要体验。理解之后再去做,以及虽然不理解但总之先把事情做成,我思考了一下同时体验这两者的意义,这个也希望下次可以聊一聊。
AI 2040 翻译实验与下期讨论预告 14:29
崔胜准 最后,7月9日不是有一个叫AI 2027的著名预测吗?就是展望未来的那个。所以Daniel Kokotajlo从OpenAI离职后,和Scott Alexander一起制作了2027,而昨天凌晨又发布了AI 2040。也就是说,是在GPT-5.6发布前大约1个小时发布的。所以我也得读一读,但内容非常多。而且还是英语,所以我直接在GPT-5.6 Sol里,通过Codex提供了这个链接,让它克隆到本地,只说了我想把它翻译成韩语。结果15分钟后就变成了这样。所以就这样一路看下来,这似乎不是LLM直接翻译的,而是LLM使用了某种工具来翻译。我看到Python之类的也在运行。总之全部内容都已经这样翻译成韩语了,我会读一读。目前还不太清楚具体是什么内容。不过应该也会有一些有趣的展望吧。我准备的内容暂时就到这里。是啊。我们在ICML期间,来自全球顶尖前沿实验室的
AGI-pilled 成为主流后的 ICML 现场氛围 16:00
卢正石 研究人员来了,各类媒体和公司也来了,我们见了非常多的人,如果说有一个大家普遍认同的观点,那就是几乎所有人都是AGI-pilled。认为这场游戏几乎已经尘埃落定的人占据了主流,而且很多研究,我记得上次我大概和Nikhil做过一次采访,也和一位来自硅谷的风险投资人做过采访,那位朋友也问我:“你在ICML有什么新的感受?”我当时说,大多数人都是AGI-pilled,而且很多研究比起模型算法之类的东西,更关注如何才能更好地进行评估,以及如何进一步推进评估指标,我记得当时提到过,这类研究非常多。这让我印象很深。
而且即便如此,从事LLM的人几乎也全都是规模主义者,但也有一些落后于LLM发展的领域。其中最具代表性的AI for Science,最近也备受瞩目,不是吗?大家从LLM转向Physical AI之后,又都在努力把AI for Science打造成Physical AI之后的下一个趋势,但这个领域似乎仍然分成两派。一派是规模主义者,另一派则认为:“那样行不通。生物学不是靠那种方式就能解决的。”双方泾渭分明,所以当这两个群体在聚会上碰面时,彼此都会觉得不自在。我觉得在一段时间内,他们会像水和油一样,
围绕 AI for Science 的规模主义与领域主义之争 17:03
卢正石 在那里无法融合,而规模主义者的观点非常明确。通过在这里投入数据、模型和更多算力,我们将会看到Bitter Lesson继续占据主导地位,因为他们已经见过太多这样的情况,所以有一个群体坚定支持这种观点。而另一边那些人的特点是,他们都是在自己的专业领域深耕多年后才过来的,进入AI世界的时间并不长,因此对于过去三四年间,整个社区多么强烈地经历了Bitter Lesson,他们目前还没有那么切身的体会。但是因为有他们自己解决过的问题、做过的实验,所以带着一种“这些什么都不懂的家伙跑过来,一些什么搞计算机的家伙跑过来,以为敲几下电脑键盘就能解决问题,但这里可不是那种地方。”的意味,我发现这两派泾渭分明。目前还不知道哪一派会赢。
不知道是否真的存在某种domain-specific的东西。您说不知道吗?
崔胜准 现在不是几乎已经决定了吗?正石呢?我已经决定了。我虽然是规模主义者,但从观察者的角度来看,
卢正石 不能轻率断言哪一派会赢。因为我个人押注了规模主义,所以如果这样那样去做,会有种“那个问题是能解决的啊。”的感觉。
崔胜准 不过之前说今年是AI for Science之年,但出乎意料的是,信号并没有特别多。但后来才知道,Periodic Labs问世已经快一年了,他们正在努力建造工厂。要形成闭环,就必须连到实验环节,但目前还没有做到那一步。不过他们在RL方面也做得非常积极。Periodic Labs也是如此。是的,现实世界中的事情需要时间吧。
科技巨头展位巡礼与以招聘为中心的展会景象 19:38
卢正石 那么,我们要不要正式开始聊聊ICML?钟贤逛了很多ICML展位,我们先来听听相关的内容,我也应该去看看的,
崔胜准 在国外举办的会议来到韩国时,本来正是去参加的机会,但我没能去。
卢正石 COEX周边可是遭了一场大乱。人真的非常多。首先,我也去了一趟ICML。
朴钟贤 因为本质上是学术会议,所以主要还是发表论文,但其中尤其是最近,我觉得业界的影响力很强,所以我们先逛逛赞助公司的展位,看看都有哪些公司来到现场、在关注些什么,做出了哪些贡献。
崔胜准 不过您当时是怎么申请的?我是以媒体身份参加的。
朴钟贤 我提前以媒体资格提交了媒体申请,还签了类似承诺书的文件,注册后去参加的。总之,现场人特别多。他们还发了很多赠品,大家为了领连帽衫,排起了非常长的队伍。大体上,当然所有大型科技公司都来了。OpenAI, Google, Apple, Meta, Amazon,Microsoft这些公司全都在,大部分的运营方式都差不多,一边举办lightning talk环节,让公司内部的研究人员过来介绍他们正在做的事情,同时研究人员还会不断轮班,常驻现场,如果有人有什么疑问,就在对方过来时为其解答,基本都是以这种方式运营的。我们的明星之一Noam Brown也来了,我看到有人拍到了他的照片,可惜那个时间我不在,所以没能见到他。而且实际过去和他们聊过之后,
他们确实会在一定程度上解答疑问,但大家最主要的目的都是招聘。毕竟这是全球性的大型学术会议,尤其有很多即将毕业的研究生,所以我感觉招聘这些学生才是他们最大的目的。所以Google、Microsoft的展位,以及OpenAI,都会在展位上说“现在安排的是接受Q&A的环节。”基本都是这样运营的。Meta也在,Meta还带来了眼镜,并安排了可以一起体验那款眼镜的环节,这些活动也都有举办。接下来,与之类似,
韩国也有一家定位类似大型科技公司的企业,就是Naver,Naver的运营方式也几乎一模一样。所以Naver各个领域的研究人员都常驻展位,如果有人说“我对这个很好奇”,他们就会尽可能帮忙对接从事相关研究的研究人员,让双方能够交流。所以我在Naver的展位上,也见到了一位从事机器人研究的人,询问了他们是如何开展工作的,听到了很多相关内容。接下来,除了大型科技公司,也有一些足以被称为前沿实验室的公司,尤其像Mistral,是一家法国公司,他们目前正在韩国招聘创始成员。看起来似乎打算在韩国开设分公司。
中国企业展位与中国研究者的存在感 22:27
朴钟贤 接下来还有很多中国公司,例如ByteDance,最近大家好像都很喜欢Seedance。因为用Seedance生成视频的效果非常好,所以他们也在这段时间发布了新模型,另外还有Alibaba和Xiaomi,Xiaomi也因为最近推出的大型LLM模型表现不错,很受大家欢迎,所以也来到了现场,这些展位的运营方式同样和大型科技公司几乎一模一样。有意思的是,我逛中国公司的展位时观察到,毕竟向ICML投稿论文并前来发表的人员中,中国学生特别多,所以现场到处都能听到中文。我强烈感觉这些公司是在为了招聘中国人,才在ICML设立展位的。其实中国人的比例确实非常高。
卢正石 甚至有个玩笑说,AI行业是由身在美国的中国人和身在中国的中国人共同推动进步的,不是吗?但从统计数据来看,这句话确实没错。奇怪的是,印度人并不多。在这个领域。我也有类似的感受,
朴钟贤 毕竟这是ICML学术会议,所以论文发表环节才是最主要的环节,但去那些环节一看,真的有超过一半的发表者都有华人姓名。虽然我无法确认他们的国籍,所以我觉得:“真正的华裔人士确实都做得很好啊。”我有这样的感受。接着我一路逛了各个展位,
Neocloud 与 inference Serving 厂商的崛起 24:07
朴钟贤 公司真的非常多,没能全部看完。大致分类的话,比较引人注目的是新云服务商、出租并销售GPU的公司,以及许多销售inference的公司,这让我切实感受到,inference在商业层面现在真的正在逐步建立起完整的商业模式,我有这样的感受。比较知名的有RunPod、Together AI、Nebius之类的公司,我个人也非常常用RunPod。我会租用GPU,现场就有这些公司,接下来,如果只说几个我比较关注的,其中有些是韩国人创办的公司,总部大概好像都设在旧金山,如果只挑两家公司简单介绍一下,有一家叫VESSL AI。这家公司同样是把GPU全部买下来,
VESSL AI、FriendliAI 等韩国基础设施玩家 24:56
朴钟贤 再出租销售GPU的公司。我以前也不太了解。不过他们似乎主要在做B2B销售。所以有一家像Lambda Labs那样,向frontier lab整套提供GPU的集群供应商,接下来,如果说属于类似的同一生态,还有一家叫FriendliAI,是销售inference的公司。所以如果大家在OpenRouter上使用过提供LLM模型服务的API,应该有不少人见过FriendliAI,虽然我自己没有直接用过,但记得它在列表里。
他们租用GPU,在上面提供模型服务,再通过API销售。我问他们有什么技术护城河,对方回答说,在于如何高效地完成inference,在充分满足latency和带宽要求的同时,尽可能将uptime维持在99.9%,然后再降低inference的价格,实现这些目标就是他们的护城河。这种inference服务领域最著名的项目大概就是vLLM。我也经常使用它,创建vLLM这项服务的人是联合创始人权宇硕博士。权宇硕博士在UC Berkeley一边研究一边做出了这个项目,
我原本只了解到这里,但问过以后才知道,FriendliAI是首尔大学的全炳坤教授在这个实验室从事了相关研究,并以实验室开发出的技术为基础创办的公司。所以我问他们,那和vLLM有什么不同,对方说权宇硕博士在做vLLM之前,去UC Berkeley之前,曾在这里和他们一起写过论文。所以从某种角度来看,可以说它们是从相近的体系中以这种方式衍生出来的项目,应该可以这样理解。顺带一提,FriendliAI并不是开源的,所以我们只能付费使用。vLLM和SGLang这两个
卢正石 在inference领域似乎最为知名,vLLM凭借PagedAttention确实没错。是一家开创了新局面的公司。
最近几乎大多数inference似乎不是使用vLLM,就是使用SGLang来完成。
朴钟贤 是的。PagedAttention,那是权宇硕博士写的论文,以此为基础发展成了开源项目,最后甚至成立了公司,可以说是这样的案例。
崔胜准 不过钟贤是在什么场景下使用它的呢?
朴钟贤 vLLM吗?我会下载开放模型来提供服务,用它运行inference时,通常会从刚才上面提到的RunPod租用GPU并部署vLLM,然后在那里提供模型服务并使用。
然后在那里提供模型服务并使用。
朴钟贤 是自己使用的时候吗?对。通常我们推进项目时,有不少项目会自行提供服务,只使用经过inference得到的数据。因为安全问题等各种原因,遇到这类情况时主要会使用它。最近AI行业
日益成为综合艺术的 AI 基础设施栈 28:11
卢正石 几乎正在变成一门综合艺术。以前我们还会讨论做fine-tuning之类的事情,后来变成直接给frontier模型做RAG更好,随着harness风潮兴起,大家又一窝蜂地涌向了那个方向,但那个方向也变得过于笨重,所以现在的趋势是把一些小task重新整合起来,放入单个小型模型,再让这个模型执行inference会更好,目前正在朝这样的趋势发展,RAG、harness、fine-tuning、post-train、数据集,这些似乎全都整合到了一起共同运作。因此,inference也需要根据模型大小、以及workload的类型,还有更适合prefill还是decode,采用完全不同的策略,听从事这个领域的人讲,真正精通的人几乎必须掌握一门综合艺术。
所以前几天我们也录制了Nikhil的节目,是和申正圭代表一起在Lablup录制的。录完之后,我想着顺便给他们互相介绍一下,于是把Nikhil和申正圭代表介绍给了彼此,当时Nikhil在开会,我因为在后面收拾整理,所以没有一起参加会议,大约一个小时后,Nikhil出来说:“哇,那个人是何方神圣?”Nikhil称赞申正圭代表,说自己来到ICML后几天里见了数不清的人,但那些交流都不如刚才和正圭开的一小时会议有收获。Nikhil说,正圭代表从底层的芯片到数据中心,从inference到应用程序的workload,几乎从最底层开始,对所有环节都了如指掌,还问:“为什么那家公司不进军数据中心业务?感觉那家公司最适合做这件事了。”“他太忙了,顾不上做,要不我们来试试?”我记得当时还这样开过玩笑。各家公司也都以这种方式纷纷亮相,
对于现在才入场的人来说,要一次性理解这些,感觉需要学习的先修课程非常多。但在了解这些的行家之间,大家是在这种综合艺术的某个层面上讨论这个产业的,这是我这次感受到的一点。
崔胜准 那是光靠“帮我做、帮我做”无法实现的层级。
卢正石 为了让“帮我做、帮我做”能够完美实现,底层还需要加入许多东西,这样说应该比较准确。如果在综合艺术的基础上再往前迈一步,
专用加速器与硬件优化生态持续扩张 30:45
朴钟贤 如果到这里为止,都是基于NVIDIA GPU出租集群的业务,或是在集群上优化inference的业务,那么还有一项,就是真正制造全新的芯片。也就是加速器。应对方要求,这里没有上传照片,不过,曾出演过我们AI前沿频道的李镇元担任CTO的HyperAccel也设有展位。据说他们很快就会推出专用加速器,OpenAI最近似乎也非常专注于这一领域。所以在Cerebras这种专用芯片上,GPT实际上已经能够运行,之后可能还会与Broadcom合作,设计一款inference专用芯片并很快推出,最近似乎也传出了这样的消息。因此,有实际制造类似加速器的公司,接下来还有研究如何在各种加速器上更好地运行LLM,并进行优化的Nota AI,这个生态系统似乎已经形成了一套从硬件、针对硬件进行优化,一直到提供LLM服务的成熟商业模式。刚才我们谈到GPT-5.6时,
说大家有些害怕脱离订阅制,我也说过自己对此感到害怕,那么对我们而言,价格方面的替代方案或许就是GLM或开源的中国模型,在这些平台上提供服务,然后让我们以更低的价格使用,这也可能成为一种替代方案。我产生了这样的想法。
崔胜准 Nota AI所说的优化,具体是在优化什么?我对那里也不是十分了解,不过根据我听到的简单介绍,
朴钟贤 例如Qualcomm芯片内部有NPU。有些需求是要把LLM部署到这种芯片上并运行,据我所知,他们就是帮助完成这些工作的。
崔胜准 也可能是调度之类的方向。虽然我也不太清楚。应该是在说移植。
朴钟贤 因为硬件各不相同,所以要适配相应的硬件,例如按照硬件所支持的quantization、ALU等,进行quantization,或者切分内存,再考虑如何以各种方式构建Transformer,我记得大概是这方面的内容。Nota AI可能开展着范围更广的业务,我听到的内容是,他们也在做这样的工作。
崔胜准 HyperAccel说的是以B开头的芯片,对吧?
朴钟贤 没错。应该很快就会公开了。接下来似乎会以A、B、C为主,
卢正石 芯片按照A、B、C、D这样的代码命名。是这样命名的吗?
朴钟贤 感觉像以前Android的命名方式。如果对接下来的企业进行分类,与数据相关的展位也相当多。其中最有名的应该还是Scale AI。也就是介绍他们如何制作并销售数据。不过因为这里也是学术会议,比起宣传自家业务,展位似乎更侧重于招聘学生,给人一种展示自身研究成果的感觉,我也是这么觉得的。接下来还有一些我第一次听说的公司,这次有Voxel51、Toloka等公司,特别是收集并销售Physical AI领域数据的公司,因为刚才提到了Scale AI,在机器人领域,Scale AI从数据层面来看,有一些难以开展的部分。因此,有不少公司在收集相关数据。现场有这些公司的展位,其中让我印象比较深的是,我以前不知道这家公司,但他们的展位非常大。这家公司叫Handshake AI,他们主要联系本科生或研究生,每个人应该都有自己主修的领域,例如数学系的学生就算是颇为专业的数学领域专家,或者擅长某种语言的学生就是该语言的专家,他们以这种方式把学生聚集起来,再请这些学生“制作这样的数据”。然后收集这些数据,出售给前沿实验室,他们采用的是这种商业模式,规模似乎比想象中大得多。据说这家公司在美国相当有名。
从 Scale AI 与 Handshake AI 看专家数据市场 33:28
卢正石 Mercor或AfterQuery这些公司制作数据集的方式也没有太大差别,这家公司似乎反而采用了更开放的众包方式进行了扩展。
崔胜准 总之,就是在收集专家数据。
卢正石 无论领域是finance、legal,还是physics、chemistry,一旦确定下来,这个领域内具体存在哪些分支,无论是AI还是前沿实验室,都无从知晓,因此,现在这些公司扮演着过去搜索时代某种爬虫的角色。深入领域内部,在不断拓展该领域范围的同时,针对其中众多细分领域,由人来设定某种intent、意图,然后数据集的形成,则是由模型重新组合生成的。在我看来,应该不存在完全由人亲自编写的数据集。不过,由模型在其中制作数据集,
再将其制成一套完整的post-train数据集,到最后还是需要真正了解该领域的人因为需要由人来evaluate,所以需要相当多的人手。非常高端的领域需要请收费昂贵的专家参与,而像一般的编程,数学、物理,以及所谓的韩语、英语、数学等领域,本科生水平也能胜任,所以那就是Handshake AI,或者我们熟悉的数据集公司所采用的方式,而这些方式非常有意思的一点是,通过这种方式开拓出新的数据领域之后,就拿着这些数据卖给前沿实验室。
因为那些实验室反正也需要扩大自己的数据覆盖范围。所以只要那边某一家实验室购买到一定程度,就可以把同样的数据全部卖给其他实验室,我觉得大概就是这样的市场。而且数据集依然是越多,就越能带来模型性能的提升,所以前沿实验室在这些数据集上据我所知投入了极其庞大的资金,就是这样。
崔胜准 这个名字意味深长啊。Handshake AI,听起来有点不祥。如果这样分类,就有相当多的新云服务商,
朴钟贤 也有数据采集公司。除了研究模型的实验室以外,这是一个大的分类,是我感受到的一个大类。接下来,我从几个展位中挑出了几个想重点介绍的地方。有一家叫General Intuition的公司。JC既是我的私人朋友,也担任我们sudoremove频道的联合主持人,JC强烈推荐我一定要去看看,所以我就去了,这里有一个名为Medal的游戏平台。这是一个让玩家在玩游戏时,把自己觉得这次表现特别出色的场面直接截成片段,并进行分享的平台。因此,这是一个拥有海量游戏视频数据的平台。而且其中一个重要之处是,还会一并收集玩家的input。因此,可以知道按下某个键时游戏会发生怎样的变化,通常如果只有视频,就没有相应的input键记录,因而也就没有与动作对应的input数据。因为拥有这种数据,所以这里的数据对我们最近谈论的world model非常有利。
用游戏数据打造 world model MIRA 的 General Intuition 37:24
朴钟贤 他们由此成立了General Intuition这家公司,并推出了一个名为MIRA的world model,当时正在这里演示这个模型。所以我们很好奇,就询问了相关情况,有一款叫Rocket League的游戏,在西方很有名,是一款用类似迷你车的载具来踢足球的游戏。我也不太清楚具体情况。不过通常在那款游戏里,我们按下按键后,game engine和程序会运行并进行rendering,然后我们看到画面,但这个模型并不是这样,而是由world model直接把画面传给我们。原有的方式完全消失了,如果把游戏看作物理模拟,就是由world model来进行模拟。他们制作并演示的就是这样一种模型。
而且他们还公开了相当多的technical blog。我之前不太知道这些已经公开了,到展位现场询问时,我问他们用了多少数据进行训练,model size是多少,结果发现相关信息还挺多的。首先,参数量是5B,与目前常见的video model相比,架构并没有太大差异。之所以是5B,是因为与LLM相比,这个模型非常小,但他们似乎认为只有达到这种规模,我们实时输入input时,帧画面才能快速连续生成,从而实现interaction。所以很多video model似乎也都是14B、5B、7B,大致处于这样的规模。
接下来,这里说模型使用了Rocket League的1万小时数据进行训练,technical report里似乎有这样的数据。这是我让智能体帮我调查的,我在现场问他们用了多少数据进行训练时,他们回答:“我们不能透露细节,但规模是YouTube scale。”他们是这样回答的。他们说使用了极其庞大的数据来训练video,接下来是这里的融资情况,这里也以获得巨额投资而闻名。据说他们获得了Seed轮融资,而且不久前还完成了Series A轮融资。不过我觉得,他们的商业模式中有一项可能会非常成功,因为他们拥有大量数据,所以我问他们是否会把数据卖给前沿实验室,但他们说这是自己的护城河,会尽量不对外出售。既然获得了投资,似乎也有可能出售,上面的投资方大概也是为此才投资的。但他们说即使获得了投资也不会出售,目前也没有在卖,而是会自己打造world model并将其出售。他们是这样说的。所以这件事让我印象颇深。那家公司最初获得投资时,
卢正石 我记得自己也曾非常关注。虽然那家公司目前还不太为人所知,但它拥有的数据集似乎非常独特。
朴钟贤 我觉得他们还一并收集了游戏key log这一点,在动作领域应该具有相当高的价值。以上讲的是General Intuition的world model——MIRA,接下来是ElevenLabs。这是我个人最近使用得非常多,也很感兴趣,所以就询问了一下,ElevenLabs的负责人也来到了现场,尤其是负责Scribe,也就是将语音转换为文本的STT或ASR,也称为speech recognition。那位负责人来到现场后,详细介绍了“我们是这样开发的。”给我们讲了很多这方面的内容。接下来,我最好奇的事情之一是,现场有一个METR展位,
ElevenLabs Scribe 与 METR 展位速写 41:17
朴钟贤 但METR展位一直都没有人,所以我没能和他们交谈。这点太遗憾了。
卢正石 听说一个展位要3万美元,为什么没来呢?是的,我也听说了。我听说是4万美元,
朴钟贤 好像这个位置就是4万美元。旁边有来自新加坡政府的人,他们说整个活动期间一次都没见到过。好像是有什么情况。此外,还有一些
从事各种研究的其他公司。这里快速略过,接下来如果再分一类,量化或交易公司也非常多。
展位也特别大。不过那些公司,即使我亲自过去,也没有达到能与他们交流的水平,所以没能仔细了解,但总之,还有这么一个大类别。感觉大家都是为了招聘才参展的。大致就是这种感觉。
卢正石 看来 exhibition 展位真的非常大。有很多人都进去了。我看到里面挤满了人,根本不敢进去。
朴钟贤 各个展位前排的队也太长了,热门展位就连交流一次都有些困难。所以我也在那里待了大半天,但还是没能全部看完。
Side Event 与 Robotics Night 的现场密度 43:00
卢正石 就是啊。所以周边也有很多会面,每到午餐时间,各处都有前沿实验室研究人员聚在一起吃午饭的房间,我也进去跟着参加了各处的午餐聚会,全都是年轻人,来自 Google DeepMind,然后是 OpenAI,基本就是这些。OpenAI 和 Google DeepMind 的人经常很自然地成群结队,但 Anthropic 的人却不太一起行动。这一点有些特别。也许是因为来的人不多,所以并不怎么显眼。除了赞助商展位的官方活动外,
朴钟贤 还有很多边会活动,这是我参加边会活动时拍摄的其中一张。正石似乎也经常举办并参加边会活动。接下来,我去了其中由 RealWorld 举办的Robotics Night,看了这样的演示。那里也来了非常多人,差不多有一百几十人到场。所以我见到了很多从事机器人研究的人,并和他们进行了交流。机器人毕竟是一个特定领域,所以我强烈感觉这个领域本身的交流密度比较高。其中也有来自 Toyota Research Institute等业界机构的人,也有学术界的研究生,尤其是从事相关研究的研究人员也相当多。那里大多数人也像刚才提到的那样,有人认为 scale 才是答案,也有人认为答案在于如何充分利用 domain knowledge,大家的意见各不相同,有人认为应该采用 RL,也有人认为在这里最好不要采用 RL,讨论的观点非常多样,大家彼此之间交流得非常活跃。
所以我参加了这些活动。
接下来,正石的活动和我的日程有些冲突,所以只是短暂地去了一下,没能待太久,我个人在那里感受到的是,交流密度真的非常高。而且有非常多人来自旧金山,关于最近热议的是否应该进行 token maxxing,有人说这毫无意义,也有人说高效利用才重要,存在很多这样的讨论,我听了他们的对话,听说有一家初创公司人均 per week会使用价值1万美元的 token。于是另一个人说:“为什么只用这么一点?为什么要设这样的限制?”对方就是这样说的。“我有时一天就会烧掉价值2万美元的 token。”我听到这话后,不禁怀疑我们现在真的是生活在同一个世界吗,我产生了这样的想法。怎么才能在烧掉那么多 token 的同时还能创造 ROI 呢?看来确实存在一些通过消耗 token来创造价值、让业务做得更好的事情。我感受到了这些。还得仔细问问他们到底做出了什么。
亲眼目睹每天花费 2 万美元的 token maxxing 45:02
卢正石 token maxxing、某种产出成果的质量,以及对这些成果的 evaluation,都必须 pair 在一起运作,才能进行评价,不能只凭“我用了多少 token”就去评价某件事,这是我的观点。我记得很多人也在说,token maxxing 的时代是不是已经略微过去了。我也很好奇这一点,所以问过他们,
朴钟贤 但他们似乎很难详细说明。他们只说因为要处理大量数字,并整合数据,所以必须使用那么多,听到他们这么说,我就在想,做那类工作或许真的会用掉很多。
卢正石 确实有可能。
崔胜准 是的。2万美元相当于一天大约15.6万元人民币吗?
卢正石 没错。那是根据本人的订阅套餐倒推出来的吗?还是实际上真的用了那么多?
朴钟贤 是的,我问了这一点,对方说全部都是通过 enterprise 使用的。在 enterprise 层面使用订阅套餐,好像会违反 Terms of Service。然后我又问,从前沿实验室的角度来看,也就是从 Anthropic 这类公司的角度来看,是个人通过订阅使用的量更多,还是 enterprise 使用的 token 更多,对方说 enterprise 消耗的 token 数量占压倒性多数。我暂时就分享到这里,今天是星期六上午,活动还有
星期六和星期日两天,如果有机会,下周我会继续再为大家介绍一次。
崔胜准 不过钟贤,刚才展示的资料是放在 AI 前沿网站上的吧。
朴钟贤 是的,这次资料是按添加到 AI 前沿网站的方式制作的,做成了添加到那里的形式。今后如果我们有要分享的资料,也会尽可能继续添加到那里。谢谢。我觉得这样比较合适。
成为 ICML 真正主活动的 Networking 与派对 47:50
卢正石 ICML主活动固然是主活动,但周边的餐厅和咖啡店,以及晚上举办的派对,光是在这些地方之间来回奔波就忙得不可开交。所以我觉得,比起主会议,那些活动或许才是重头戏。而且前沿实验室的人与其说是来这里看论文或学习,不如说一半以上也是为了来玩,所以大多数人要么之前去过济州岛,要么结束后去济州岛,又或者之前去过釜山,或之后去釜山。因为韩国这个国家本身也很受欢迎,听说这次ICML的参会人数几乎创下了历史纪录。所以有的说是1万人,有的说是1.4万、1.5万人,我每天都在COEX周边活动和生活,那里也是我主要的工作据点,但我感觉COEX一带从来没有这么多人。而且那里的人也不是那种非常时髦的外国人,而是到处都是和我们差不多的工程师,看着他们来来往往,我就想,哎,这有点奇怪啊?有种仿佛又回到旧金山的感觉,我产生了这样的想法。女性的比例也没有那么高,理工男的比例倒是很高,感觉这一周的理工男密度占据了压倒性优势。所以我们也主办了好几场周边活动,
我自己也参加了不少。从本周一开始,一直到今晚,周一、周二、周三、周四、周五、周六、周日晚上,我每天都在参加派对。先从周二晚上说起,周二是Delta Institute和Striker VC,Recursive Intelligence以及一家叫Illorian的公司,这些都是通过投资组合联系起来的公司。都是Striker VC投资过的公司,Striker则是我们不久前录过节目的Nikhil担任合伙人的一家风险投资机构。这家公司也非常有意思,到场的工程师密度也非常高。所以给我留下深刻印象的是,我与一位来自Mistral的研究员交谈,聊了各种各样的话题,内容并没有太大不同,他们认为在美国市场建立某种presence是比较重要的。然后如果询问他们内部的敏感数据,当然就会像这样摆摆手,不肯透露,也有这样的情况。我见到的人当中,有一家叫Flapping Airplanes的公司。
Flapping Airplanes 与对下一代模型范式的押注 49:26
卢正石 我一听到Flapping Airplanes这个名字,就想,这个flapping,是鸟这样拍打翅膀的意思,他们是做什么的?难道是什么航空模拟公司吗?因为人太多,现场很吵,所以我竖起耳朵仔细听了听。我在上一期节目里也提到过,有一些声称要尝试打造新模型的公司。他们从SSI的层面认为,某种程度上,Transformer主义是错误的。应该出现一种data-efficient程度高得多、能够以快得多的速度通过few-shot进行learning的模型。有一些团体就是这样主张的。这些团体的特点是由极其聪明的人组成,一般有10到20人,多的话有30人,起步valuation就达到数十亿元人民币,融资金额也达到十几亿元人民币。Flapping Airplanes成立好像也不到一年。几个月前完成了第一轮种子融资,valuation是1.5B,也就是按我们的货币计算,valuation约为120亿元人民币,获得了约10亿至15亿元人民币的种子融资。我和那位朋友昨天午餐时又见了一面,因为他身上隐隐散发着天才的气息,我就说:“我们一定要再见一次。”于是昨天请他吃午饭,问了他各种各样的问题。
最近Twitter上流传着那些说法,你们也知道吧。打造前沿模型的配方其实没什么特别的。都是已经公开、彼此都知道的配方,只是能以那种规模承担资本风险,实际执行的公司没有几家,大家都在公开这么说。对于这一点,他认为这是理所当然的。大家确实都知道彼此的配方,然后我们还聊到了哪些算法正在取得进步,以及他们正在哪些关键点上布局并继续推进,我记得我们聊了这些内容。
崔胜准 是二十多岁,还是三十多岁?应该是二十多岁。那位朋友也是从Stanford毕业后,
卢正石 去了一家叫Citadel的金融公司。他在那里工作了一段时间,后来转去了那边。
朴钟贤 他是怎么获得那么高的valuation的呢?
卢正石 不清楚。我没有问这个,毕竟他不是老板,大概是因为市场对这方面的价值给予了非常高的评价吧。能以那样的valuation投入那么多资金的风险投资机构,都是非常知名的公司。像Sequoia、a16z,或者Index Ventures,它们并不是硅谷的小型基金,而是超大型基金。所以这些超大型基金就像过去SoftBank的Masayoshi Son选中新公司时那样,当别人都只融资约5000万、1亿元人民币时,他会以十几亿元人民币的规模、数十亿元人民币的valuation进行投资,让那家公司在资本层面占据巨大优势,并帮助它确立市场领导地位,从而在某个市场取得优势。这种策略以前经常被采用。
现在Bay Area那些领先的基金似乎也借鉴了这种策略。那些公司是在说:“这里都是非常知名且优秀的公司,无论从人才还是正在开展的研究来看,“就有这样的价值。”他们是在进行一种declare。我觉得这就是一种宣告,而且Bay Area的前沿公司资本规模极其庞大,所以只要前面的风险投资机构认可这样的valuation,就会有一种大家都认可并接受的氛围。他们也知道后面有人会接手,有所倚仗,所以才会定出那样的valuation。而且他们掌握的信息肯定比我们多。当然,这种趋势的风险非常大,但如果能创造出并非Transformer、而是真正接替Transformer的下一个candidate,就有望获得惊人的return,我认为其中也融入了这样的期待。看来确实是有些什么。
崔胜准 你看,Jerry Tworek也离开OpenAI,创办初创公司了嘛。不知道现在是不是仍处于stealth阶段。偶尔会听到这种说法,听说正在做些新东西,看来确实是有些什么。对。不过就算问他们,他们也绝对什么都不说。只会含糊地说:“这是个问题。
卢正石 是一个非常严重的问题。”然后东拉西扯地绕开话题,但他们想做的,就是需要一种next transformer paradigm的模型。那位朋友让我印象很深,周三,我们举办了AI前沿韩国,也就是我们的播客。我们和美国的SemiAnalysis联合主办了AI Industry Night。原本只打算邀请大约20位来Lablup,一边简单用餐一边聊天,但报名的优秀人士实在太多了,所以我们宁可损失订金也取消了原来的场地,在活动前一天紧急换成了更大的venue。幸好Lablup的申正圭代表把公司场地借给了我们,我们就在公司大厅里接待了大约40到50位来宾,大家来到现场进行了交流。钟贤刚才也提到过,
AI Industry Night 与数据中心价值链对话 55:35
卢正石 有来自旧金山的风险投资人,以及OpenAI研究人员,还有新云服务商,包括从事AMD相关业务的TensorWave,来了许多非常有意思的人。韩国这边则有SK Square,还有HyperAccel的李镇元,之后李东洙博士也来了,LG电子来了很多人,晓星重工业也有人参加,我们主要召集了从数据中心到芯片端都感兴趣的人士,主要围绕这些话题进行了交流。讨论内容几乎大多是数据中心价值链中目前哪里存在瓶颈、哪些公司正在做什么,接着是韩国有哪些机会,其实他们对韩国了解得并不多。SK海力士、三星电子和BTS,基本就是外国人眼中的整个韩国。所以他们会问,除了存储器,在其前面的价值链中,你们的数据中心业务是如何构成的,电力状况如何,以及其中的参与者除了SK这样的大型企业之外,有没有小型企业,他们又在如何做准备,我记得他们接连询问了这类问题。因此大家进行了非常多元的交流,还有从事OpenAI机器人研究或post-training的人,接着GLM也来了一位工程师,我们聊起GLM,并问他:“你知道你们在韩国非常受欢迎吗?”他说:“不知道,完全不知道。”我还记得我们聊过这样的事情。周四,我和Matthew Kim代表与一家名为AfterQuery的
生物 AI Meetup 与 virtual cell 之争 58:01
卢正石 公司共同主办了Yacht Night,当天因为雨下得很大,交通也很拥堵,又发生了各种状况,比较混乱。不过到了那里以后,我们和前来的研究人员进行了交流,而周五,因为我最近打算把业务转向AI和生物领域,所以从周五、周六一直到今天,我结束这个以后也会再次去参加workshop,ICML主tutorial环节,那个叫什么来着?主conference结束后,后面会举行workshop环节,workshop环节有很多有意思的内容。所以我主要在听生物或AI for Science方向的session,昨天有一个GenBio session,针对前来参加GenBio的人,我们通过熟人之间相互宣传,只邀请了身处生物与AI交叉领域的人士,举办了一次meetup。大家一边用餐,一边聊了各种话题,有来自Arc Institute、NVIDIA,以及Anthropic的人,主要都是从事生物与AI相关工作的人,也有来自Harvard的人,等等。这些人所在的地方,也就是我刚才提到发生争执的现场。最大规模主义者
和那些认为“喂,不能那样做”的人稍微分成了两派。说来挺有意思,当时我和我们桌的一位NVIDIA人士、几位来自Arc Institute的人,以及一位在Harvard读博士时退学创业的有趣朋友坐在一起,有个朋友原本坐在我们这桌,后来却逃到了另一桌。后来听他说,他去了另一桌后说:“那桌很危险。那里聚集了一群规模主义理想派,正在以非常危险的方式研究生物。这不是能用那种方式解决的问题。”不过,和我聊得比较多的那位是在Arc Institute开发Evo 3模型的人,我们聊到了当前DNA foundation模型存在什么问题,以及在构建virtual cell方面,所有实验室都在谈论virtual cell,关于那个virtual cell的概念全都不一样。而且生物领域的东西,我也在一点点了解,首先,数据并没有LLM那么多。散布在互联网上的文本,毕竟也没有Video数据。各个实验室的数据都非常零散,即使那些数据量很大,也不代表全都是关键性的数据。比如进行实验时,会先经历准备实验等一系列过程,直到最后真正触发某种反应的瞬间,才会出现反应,假设存在按时间顺序产生的数据,那么真正有价值的数据区间,全都集中在后面的几分钟或几小时内,而前面的部分,其实是可以压缩成一条的数据,但目前说到生物数据,连前面的数据也会包含在内,以制药公司为例,它们拥有非常庞大的数据,我们也会说自己拥有数百万次实验的数据,但很多人提到的那个令人不愿面对的事实是,事实上,那些数据中真正能够用于training、具备数据价值的部分,很多时候只是一些非常短暂的瞬间。所以目前整体上仍然存在现实局限。
在追求这种规模时,即便compute可以准备到位,足以用来training的数据集确实仍然不足,大家也有这种认知,但似乎每个人又都多少抱有一些超越现实的乐观想法。觉得这个问题这样解决不就行了吗?所以我上次也说过,来自传统生物管线的人,会从那个领域出发,思考为了实现它必须预先解决的条件等问题,因此问题都非常domain-specific,定义得十分具体,而从计算机科学领域出发的人,则是超级通才。所以借用一下这个领域的人带有贬义的说法,就是一些没受过正规训练的计算机佬跑过来,以为把那个做几次就能成功,但这个领域根本不是那么回事。我记得当时说话时大概就是这种语气。不过我觉得这场会议的优点也正在于此。各个领域中走在最前沿的人都会来到这里,而且必须在短时间内交流,所以大家会假设彼此都有一定了解,直接切入主题,抛出一些触及本质的问题。然后围绕那些问题,如果双方无法你来我往地交流,就会觉得“看来不行”,随即各自离开;如果能交流下去,确认彼此的基础后,就会互相提出几个核心问题,这种时候经常能产生真正有价值的对话,我也会在其中逐渐感受到前沿人士眼中各类问题的难度分布,并在脑海中形成完整的脉络。我觉得这一点非常好,但有一点可以确定,那就是在LLM这边,正如我刚才所说,大家似乎都吃了AGI pill。这是一个能成功的游戏,论文的方向已经大量转向应该如何衡量这种成功,我想刚才已经提过了。正因为相信它能够实现,大家才会研究该如何准确衡量它,才能衡量出更好的成果。现在只要模型一发布,不管是好模型还是差模型,基准测试全都已经maxxing,而这些问题正在成为研究主题,所以那里似乎仍处在我们熟悉的趋势延长线上,而AI for Science这边显然正在努力成为下一个趋势。除了少数非常有前瞻性的风险投资家以外,其他普通的风险投资家还没有跟上这股趋势。至于资本市场和大众,自然更不用说,目前这股趋势还没有到来,但它会成为下一个趋势,到今年秋天或明年春天左右就会明确站稳脚跟,接棒Physical AI,这一点我确实深有感触。大概就是这些。哎呀,周三、周四、周五真是太累了。
对 AGI 的确信与崛起为下一波趋势的 AI for Science 63:07
崔胜准 是的。真是一路高强度地忙过来了。你看,我的嗓子现在都哑了。说的话也太多了,
卢正石 而且人们聚在嘈杂的地方交谈时,也会涉及这个研究课题。必须进行source separation。本来应该只听传到我这里的声音,但所有声音全都混在一起传进来,只能一边捕捉一个个单词,一边靠上下文彼此交流。这种体验还挺有意思的。
不断压缩的发展周期与尚未真正启动的 Agent 市场 65:45
崔胜准 那么,把今天的内容全部wrap-up一下,结论是什么?
卢正石 把今天的内容全部wrap-up一下,就是发展进程正在进一步压缩。过去我们会分一个月里的几次来讲的话题,再早些时候甚至会分几个季度来讲的话题,现在我们在第一周、第二周、第三周里,和钟贤已经拍了大约三次,虽然每次听起来似乎都在讲类似的内容,但我们怀着一种焦虑,觉得变化的速度正在越来越快,所以一直在急切地讨论。我认为这正是我现在感受到的、最核心的信息。
另外,我觉得有意思的一点是,关于AI应用的话题。不管是在YouTube、harness相关内容里,还是提到哪里的黑客松,大家都会谈论智能体。用智能体做了什么、怎样让工作效率提高,但这里完全没有人在讨论这些话题,这次来到ICML的人虽然大部分也是研究人员出身,但风险投资家等人也完全不问这方面的问题,甚至根本不谈这些,我觉得这一点很新鲜,而当我就此提问时我感受到了两种信号。一种是“那不是 Codex 全都能做完吗?”这种普遍的看法,在应用层,Codex 或编码工具链这类超级应用通过提示词,以 generativeUI 和 generative service 的形式,不就什么都能做了吗,这是其中一种,第二种则让我觉得:“这甚至还没有开始啊。”我听着那些话,
感觉“这个领域甚至还没有开始啊。”对此,我的观点是,当然,只要吩咐 Codex、Claude 或其他这些工具,它们全都会做出来,但人们甚至连吩咐都不会去做,所以会出现替人们下指令的公司,就像 B2B SaaS 不断涌现一样,众多 AI 智能体公司也会开始出现,但这还没有开始。因为底层基础变动得太厉害,而且底层基础还没有严密地构建起来。不过,我认为那里会在 industry-wide 的范围内成为一个极其庞大的产业,所以我觉得我们应该继续关注。后一种说法是,虽然他们不谈这些,
崔胜准 但又说一个无比庞大的市场将会开启,所以才不做,这其中的逻辑我实在没能理解……
卢正石 只是还没到他们开始关注的时机。市场时机还没到,无论是运作资本的风险投资家,还是前沿实验室里的人……资本现在之所以还不谈这种智能体工作流,
崔胜准 是因为市场时机还没到。
卢正石 简单来说,也可能是 ICML 本身的特性。来这里的人本身就有这样的特点,如果去 Y Combinator 演示日之类的地方,大概满场都在谈这些。
崔胜准 因为这里是 ICML,语境可能确实有所不同,我这周总之一直在关注 ICML,
与产业融为一体的研究格局 69:02
朴钟贤 但我们今天也几乎没有谈到什么论文研究成果、这类话题,就我个人而言,赞助商展位这些东西反而给我留下了更深的印象。如果仔细思考这意味着什么,与过去不同的是,研究与产业贴得更近了。因为规模极其重要,而且我个人,尤其是去参加正石的活动时,比如遇到在前沿实验室真正研究模型的人,我就问了这些人。这次 ICML 有没有什么值得关注的论文,有什么值得看,我到处都在问这些问题。我问了很多人。因为研究实在太多了,我也在想其中究竟该重点看什么?但大多数人都说,最近与论文相比,产业界传出的那些讨论似乎更有价值。因为研究也是围绕产业界开展的。
听着这些话,我感觉“双方确实靠近了。产业界和学术界贴到一起了。”我产生了这样的想法。没错。以前如果说这种分层是
卢正石 先有汇编语言,再有 C,上面有 Python,Python 上面还有 Django,那么最上层开发应用的人只要熟练使用 Django 就行,各层之间存在这种分工,但现在感觉从汇编语言到最上面的 Django,全都直接粘在了一起。所以这个技术栈相当深,也比较宽,似乎只有成为一个对这些技术栈全部都有所了解的多面手,才有资格谈论上层应用也好,还是其他什么话题也好,仿佛这样才具备参与讨论的资格。否则,即使去了所谓的产业界,也会突然有点没什么可聊的。“Codex 很好用。
Claude Code 很好用。在 loop engineering 中,我运行过某个工具链。”像这种话,必须进一步深入到“那么这个要这样处理,把模型单独拆出来,再这样修改,这个使用 Codex 的。这里我们公司的 proprietary data 太多了,所以这个必须使用这个模型。”要谈到这些层面,才会有相互交流的感觉。另外,我听到的一个有趣消息是,
依赖前沿实验室的风险与中国开源模型 ban 前景 71:39
卢正石 这也是上周上传的播客中谈到的内容,我们不是都在从事某种业务吗?但我们不假思索地对 Codex 不断说“做一下,做一下”,塞进去的那些东西,不正是公司的核心资产吗?甚至在使用 auto-compacting 的同时,还以整理完善的形式放进同一个线程,把公司的整个工作流全都塞了进去,那么从前沿实验室的角度来看,一家公司的业务就这样直接转移到了他们手里,这便成了促成这种转移的契机。而之后,无论是 Anthropic 还是 OpenAI,这些公司要 justify 自己的 valuation,就必须像过去 Microsoft 等公司所做的那样,直接吞下并掌握众多核心产业。Microsoft 也通过 Office 一举拿下了整个市场,Google 也拿走了非常多的东西。虽然如此,但对于 AI 来说,它不是单纯地销售存储空间、销售 function,或者销售 distribution channel 之类的东西,而是销售 intelligence,因此很难划分层级,这类讨论不是有很多吗?正因如此,企业开始意识到,把这些东西全都白白交给前沿实验室是极其危险的,因此使用开源模型构建自己的工具链和自己的算力集群,其重要性似乎正以超出预期的速度迅速攀升。本地部署模型的重要性。另外,这里还有一个有趣的要点,美国企业目前所依赖的开源模型,几乎全部都是中国模型。它们以 Qwen、Kimi 等模型为基础,说是来自 SemiAnalysis 的朋友,这么一说大家就都知道是谁了。总之,听那位朋友说,到明年左右,美国政府或许会禁止美国企业使用中国的开源模型,也就是会不会 ban,会不会禁止,那位朋友说自己有这样的预测。如果真是这样,那么由西方世界友好国家提供的所谓准前沿模型、开源前沿模型的价值就会大幅上涨。听到他们是这么认为的,我觉得确实有可能。也觉得这在商业上会有很大的意义。毕竟现在除了中国,也没有别的了。
崔胜准 我感觉 AI 2040 里也有过类似的说法。虽然没仔细看,但无论如何,中国是个重要关键词。是啊。就这样彻底 ban 掉。把开源模型本身。
朴钟贤 对,预计连在本地部署运行也会 ban,是这样预测的。
崔胜准 虽然不太确定这在现实中是否可行,但无论如何,确实可以出台这样的政策。我们确实有点忙得晕头转向。
信息过载时代的梳理需求与收尾 74:44
卢正石 想从容地整理一下,再聊些什么、讨论些什么,想拥有专注钻研一个主题的余裕,可现在这个世界并不给我们这样的余裕。我甚至记得自己在公司说过,这周之前先忙着吸收信息,从下周一开始,“我们要开始干活了。”我当时就这么说过。GPT-5.6 发布了,而且我也听到了很多关于模型规模的推测,但那些内容他们也让我不要说,他们透露的东西实在太多了,以后大家最终都会知道的吧。那么就到这里,我们今天的录制就告一段落。钟贤、胜准,今天也谢谢二位。
朴钟贤 辛苦了。
崔胜准 很有意思。