EP 121

Anthropic S-1 解读:风险因素是“人类的未来”的股票?

· 卢正石, 崔胜准, 朴钟贤 · 1:01:31
整页
查看本期参考资料

乐观与悲观交锋的10月,以及Anthropic上市 0:00

0:00 卢正石 今天录制的日期是2026年11月1日,星期天早上。我们经历了非常艰难的10月。乐观与悲观情绪交织,股市也起伏不定,我们的未来究竟会变好还是变坏?各种观点似乎正在市场上激烈碰撞。就在这期间,Anthropic可以说几乎成了AI市场的龙头。Anthropic为了上市提交了S-1申报文件,里面的数字我们稍后也会看一看。

0:37 先说说那份S-1申报文件一个非常独特的地方:风险因素部分写到了对人类未来的担忧。里面有这样的表述。一家公司准备上市,却写出这样的话,恐怕除了核武器公司,很难见到。可见对于AI带来的未来究竟是光明还是黑暗,人们的看法分歧很大。胜准待会儿会用“二元化”来形容,我们先简单聊聊这个话题,再谈谈S-1申报文件。胜准,乐观还是悲观?我们会变好还是变坏?

1:20 崔胜准 我也不知道。这正是一个分岔点。最近的氛围很微妙。今年尤其如此。我们一直在聊数学界,也会去想象各自的AlphaGo时刻。

GPT-6.1 Terra消息与OpenAI视频 1:35

1:35 崔胜准 先给大家介绍几条消息。虽然没引起太多关注,但GPT-6.1 Terra发布了。Terra很擅长制作这类3D内容。这是用生成式视频模型做的,再用它进行3D建模,借此展示Terra也很好用。Gemini的Carbon也发布了。昨天发布的一段视频让我觉得很有意思。这个视频挺耐人寻味的。大约一分钟,我们慢慢看。它叫Museum of What Could Be,场景像是一座展示未来之事的博物馆,一个角色正在写些什么。

2:16 朴钟贤 这是发在OpenAI官方频道上的视频吧。

2:19 崔胜准 不过大家对它的看法很不一样。有人说,这不是视频模型生成的,而是3D做的吧?只是渲染得特别惊艳吧?有这样的讨论。这是一个讨论方向,另一个是:视频大约36秒处出现了一句话。

Optimism achieved internally与Bogdanov–Takens分岔 2:37

2:37 崔胜准 Optimism achieved internally.“achieved internally”这个说法,科技巨头,尤其是OpenAI,经常用。“AGI achieved internally.”他们一直都这样说。但这里既用OAI指代OpenAI,又写着“Optimism achieved internally.”现在大家有所期待,是因为有传言说下一个模型Bel会在今年发布。Sam Altman此前也说过,到了年底,Astra的后续模型会发布。所以这也在营造期待。而且视频本身还有一个有意思的地方:大家对这张图是什么也众说纷纭。

3:22 我查了一下,发现它叫Bogdanov–Takens分岔。据说属于研究分岔现象的数学。这是20世纪70年代提出的数学理论,它最终会不会是在传达某种关于岔路口的信息呢?现在大家期待的还有内部模型在数学等领域取得突破。10月26日,又解出了指数时间假说之类、被视为P vs NP相关突破前兆的问题。随着这些进展出现,有人认为下一次飞跃可能会成为人类的分岔点。最近也有这种延伸解读。

科技巨头描绘的美好未来与TESCREAL批评 4:02

4:02 崔胜准 而科技巨头描绘的那些美好未来,如果真的实现了,既有新药研发,也有我们变得富裕,所有人都变得富裕。与这些说法并存的,是近来强烈的悲观情绪。人们也对Fable 5.5抱有期待。至于悲观的一面,Cereal用了约一小时,花了相当大的篇幅探讨,Bernie Sanders也出现在其中,还有科技巨头中的寡头,节目把这些人比作祭司,谈到对他们的批评和抵抗,以及这些穿红衣服的人等,梳理了正在引发社会关注的问题。我觉得整期节目的内容做了不少研究,但我更喜欢后半部分。前半部分则有点像在谈过去的话题。

5:02 对这种悲观论调,有人认为它是优生学的复活。因此,批评者会使用TESCREAL这个词。包括超人类主义、通过技术追求无限进步、奇点主义、宇宙主义、硅谷理性主义运动、有效利他主义,据说Anthropic尤其与之关系密切,还有长期主义。他们从这个角度提出批评,认为这已成为社会问题。节目也谈到其中存在分歧。先撇开这些,我找来了一些数字,听了双方的说法后,我忽然有些好奇。

生成式AI普及的局限与用户抵触 5:42

5:42 崔胜准 据说全球目前有83亿人。83亿人中,据说有60亿人在使用互联网。要上网,就得有电脑,对吧。所以我不太清楚电脑有多少台,但总之,有60亿人在使用互联网,这同时也是一个市场。这些都是粗略的数字。据说约有50亿人在使用智能手机。也就是全人类的70%左右吧?他们都在使用智能手机。但生成式AI的免费用户据说约有20亿人。这也是个很粗略的数字,并不精确。而生成式AI的付费用户有1亿人。可能远少于此,但目前就是这样的分布。

6:24 这与人们的抵触情绪和使用门槛有关,我觉得抵触情绪也是一个因素。讨厌互联网的人比以前少多了,以前可能确实有这样的人。但讨厌智能手机的人似乎比讨厌互联网的人多一些。反过来想,虽然它已成为人人需要的必需品,人们却仍有想和它保持距离的倾向。我一度觉得,这或许也反映出人们抵触这些技术的倾向。或者说,是觉得自己不需要它的倾向。

6:53 卢正石 可能是抵触情绪,也可能只是技术逐渐普及的过程,不是吗?

7:02 崔胜准 也就是说,它还没有普及到这里,而且我觉得抵触情绪在这个阶段尤其明显。虽然有人因为智能手机,当然也因为社交媒体而举行抗议,但真有人因为智能手机而抗议过吗?我也不太清楚。不过,关于社交媒体,人们倒是经常说它存在一些风险。至于AI,我感觉近来这些问题正变得越来越突出。还有一点,我想和这件事联系起来:

AI智能体投资与岗位替代的两难 7:32

7:32 崔胜准 上周我虽然没能参加,但你们谈到经济方面的逻辑时,提到了那些投资过度的领域,以及仍需继续投资的领域。大家现在都对此抱有很高的期待,对吧?但究竟靠什么实现,我还不知道,现在很多人都看好智能体,不是吗?认为智能体会催生某种经济活动。

7:56 可智能体做的事,就是替人干活嘛。既然它会取代工作岗位,如果现在投入的这些资金要靠智能体干活才能真正产生经济效益,而这些工作又不是保留原有的工作,而是取而代之,那么投资成功的逻辑是什么?那岂不是得有很多工作被取代?所以我通过数字推测,这或许就是人们最近感到担忧的原因。

8:31 朴钟贤 对AI这项技术本身的乐观,是啊。因为归根结底,替代劳动力可能是最主要的部分,所以对社会而言,前景也可能不乐观。您是这个意思吧?

8:41 崔胜准 没错。跳过中间过程来说,如果投资成功,最终就会走向替代,而如果人们因此失去工作,消费不也就没了吗?那不就等于踢了个乌龙球吗?所以我觉得,这里头存在着一个困境。其他几位怎么看?

从织布机看劳动与市场的长期变化 9:00

9:00 卢正石 不过胜准说的也确实有道理。在19世纪中叶,大多数人的衣服还得靠人操作织布机、纺织机来制作。那时候,市场存在某种稳定状态,对吧?衣服的供应量就这么多,衣服的价值也就这么多。当然,当时人口也在快速增长,但衣服的需求不会增长到超过人口所需的程度。所以市场应该处于某种均衡状态。

9:30 但机器刚引入时,衣服的生产效率大幅提高,短期内衣服价格下跌,原本从事这项工作的人也确实有失业的。但从整个人类的长远发展来看,衣服从非常重要的必需品变成了可以按喜好选择的商品,对吧?就拿我们来说,现在衣柜里不也挂着几十件衣服吗?穿衣服不只是为了御寒,这样一来,市场也扩大了许多。

10:08 我说这些,归根结底是想举知识工作者的例子。从当年做衣服的人的角度看,那10年、20年、30年,对他们个人的人生来说,是巨大的损失;但从整个人类来看,经过大约50到100年,结果却带来了巨大的收益。也就是说,涌现出大量原本不存在的市场。这些变化当时历经了100年,历史学家才得以分析这个过程,并为它定性。可现在这场变化,正如我们刚才看到的,似乎都在今年一年内发生了。

从Jevons Paradox看AI时代的劳动需求 10:50

10:50 崔胜准 没错。

10:50 朴钟贤 我也有类似的想法。这周在一个研究聚会上,我们聊到过这个话题。主题是杰文斯悖论,谈的是蒸汽机刚出现时的情况。蒸汽机刚出现时,据说煤炭的使用效率大幅提高。但煤炭因此有剩余了吗?并没有。实际上,随着蒸汽机大量增加,煤炭使用效率虽提高了,煤炭最终却更短缺了。说的就是这样一个悖论。

11:19 人类劳动可能也是如此。如今AI让劳动更高效,有人担心人类会不会全被取代,但到了未来,人们说不定反而会劳动得更多。因为如果借助AI,同样的劳动能够创造更多价值,人们就可能有动力投入更多劳动,从而创造更多价值。所以,那样的未来会不会到来呢?不对,对于这些问题,人们在悲观与乐观之间似乎各有各的看法。

11:50 崔胜准 我觉得现在的问题是,很难具体想象它会变成什么样。也就是说,新的工作岗位可能会出现,也可能出现全新的工作概念,可到那时,那些事也会由AI代理来做吧。

12:06 朴钟贤 就拿我正在做的事

从视频制作看效率提升与有限的需求 12:08

12:08 朴钟贤 来想想具体案例和未来吧。以视频为例,以前制作视频要拍摄、剪辑,还要经过许多其他环节,现在有了AI,这些流程正被大幅压缩。所以,以前有很多人很难制作视频,如今他们也制作了更多视频。也就是说,内容总量在增加,但制作视频的人数和投入制作的时间并没有减少。虽然制作流程更高效了。

12:43 崔胜准 可观众数量终究是有限的。真正愿意为此付钱的人也有限,就像您上次说的,即使因为稀缺性而增加了产量,也很可能无法直接转化为个人的生计,对吧?

12:57 朴钟贤 我也一直在认真思考这个问题。以视频来说,总人口、人们观看YouTube的总时长,这些都不会增加。

小众内容与技术消除的信息不对称 13:08

13:08 朴钟贤 总量是固定的。但原本高度集中的广播电视业逐渐分散,细分内容也随之出现,让每个人更容易找到自己喜欢的内容,选择也越来越多。我觉得至少会发生这样的变化。再大胆想象一下,以后看视频的会只有人吗?我觉得AI可能也会看。

13:31 卢正石 不过,这并非AI独有的现象,技术进步也会带来这种变化。技术进步总会消除某种不对称。古腾堡的印刷术如此,蒸汽机也如此,新出现的媒体,还有YouTube之类的平台,都消除了某种不对称。

KTX展现的集中化与长尾结构 13:51

13:51 卢正石 我举个KTX的例子。KTX开通后,全国都成了一日生活圈,对吧?对吧?当初建设KTX时,人们认为首尔的许多功能会向地方分散。因为我们总是追求理想状态。总会设想理想的结果。可当这种不对称消失时,资源反而总会进一步集中。

14:15 KTX开通后,受影响最大的是地方的区域中心城市。比如光州、全州、清州。它们原本承接着周边居民的各种需求。人们身体有点不舒服,就坐KTX去首尔看病。要买东西,也去首尔。要看演出,还是去首尔。于是首尔的功能更加集中,创造的附加价值也大幅增加。资源进一步向首尔集中。区域中心城市则衰落了。但反过来,正如钟贤刚才所说,再往下那些规模很小的乡级或郡级地区,反而成了受益者。以前绝不会去的游客,现在会去了。

15:01 所以,当我们觉得一个行业很稳定时,往往会看到几个明星人物,中间有一批中坚力量,下面还有一批人支撑,我们习惯了这种稳定的金字塔式行业结构。一旦技术消除了信息不对称,往往就会出现这种情况:塔尖更高,中间层纷纷垮掉,尾部的人却能受益,形成极为陡峭的长尾结构。各个领域都是如此,这是我们普遍能观察到的事实。这次知识劳动行业恐怕也一样吧?

15:40 那些深谙此道、能引领舆论,还能用 AI 一次做出上百条视频的像钟贤这样的人,会更受欢迎,工作也会更多。而那些从未尝试过、原本根本没有制作能力的人,也能用它做出自己的作品,至少赢得身边人的喜爱。但处在中间、以此为业的许多人就会失去生计。

附带损害与跨越数代人的转型成本 16:06

16:06 崔胜准 所以最近有人说,别把这种事叫作 collateral damage,也别把我们叫作 collateral。他们的意思是,在这种转型或进步中,不想成为附带损害的承受者。我想,这就是那些声音出现的原因。

16:22 卢正石 不过,这类问题向来都是随着世代更替才逐渐化解的。当事人在那个时代另谋职业,或找到其他出路的情况几乎没有。他们只能依靠国家的财政扶持维持生计;到了下一代,才会出现新的职业形态。

16:46 所以我认为,我们现在该关注的是:一条路是担心眼下正在消失的职业,通过监管阻止它们消失;另一条路是,既然迟早会消失,就努力尽快推动转型。可眼前的萝卜明明该一刀切下去,他们却说不许切萝卜。因为这样最省事。但靠这种禁止政策也挡不住。因为人们都会选择更高效的方式。嘴上虽然这么说,轮到自己的行业,他们会要求只能用人制作的东西,转头却又都在 AliExpress 上买东西。所以大家都自相矛盾。这件事终究会走向市场的均衡点。我主张尽早做好准备。

自动化时代的就业监管与税收再分配 17:35

17:35 崔胜准 今天早上,我做了个还没有结论的思想实验。就拿餐饮业来说吧。不知不觉间,每张桌上都有了自助点餐设备。这样一来,前厅服务的负担多少减轻了一些。顺着这个方向想,机器人做菜,机器人上菜,假设餐食能轻松、优质地制作出来,也能由机器人完成上菜。那时,我曾想国家是否仍该要求餐饮企业雇用人类员工。从监管的角度来说。

18:09 卢正石 我觉得,像从中获得财富的OpenAI、Anthropic,韩国应该也会出现这样的明星企业。AI 领域会涌现明星企业。就拿 SK 海力士和三星电子来说。按今年来看,它们缴纳的税款可能占全国税收的三分之一到近一半。只雇用五万到六万人左右的两家企业,竟贡献了韩国税收的三分之二?集中程度惊人。但实际上,通过政府职能,这些财政收入又会以财政政策的形式重新分配。所以这套机制现在得尽快运转起来。

18:50 崔胜准 没错。而且这不只是韩国的情况。说到底,如果这笔投资成功,政府与科技巨头就会出现科幻作品中常见的那种勾结。权力完全集中,形成中央集权,甚至掌握至高无上的权力。人们会想象出这样的景象,所以似乎都很担心。虽然这不是眼下就会发生的事。

19:12 卢正石 好在我们还有民主制度这个工具。

19:15 崔胜准 我一方面觉得,这事要是进展得太顺利,恐怕会有麻烦,另一方面也抱有期待,但还是很担心。种种迹象让我觉得,2026年会是一个bifurcation,也就是分岔点。这种感觉正通过各种迹象显现出来。至于2027年,我完全无法想象。

19:35 卢正石 这是一年多以前的事了。我有位关系很好的前辈,曾任Kakao副社长,叫申珉均,我叫他珉均哥。我们关系很亲近。

极度富足时代体育与照护的新价值 19:44

19:44 卢正石 有段时间,他一直跟我说,未来在于体育。他为此跟我聊了很久。比如百米赛跑之类的项目,人跑得比车快吗?当然是车快。机器在所有体育项目上都更强。可人们偏要制定规则,创造体育项目,在其中创造故事,搭建这样的舞台,这个产业才发展起来。

20:09 那么,正如胜准刚才所说,如果现在一切都由AI和机器人来做,就会迎来Elon Musk和Sam Altman所说的所谓的极大富足时代。财富虽然会因此极度集中到少数人手中,但这些财富会以税收形式回到政府手里,政府则要通过财政政策,把钱用于保障所有人的生活。可我会想,难道领着政府给的生活费过日子,直到死去,就是我们的人生吗?我认为人生不必如此。

20:44 我想到的是娱乐、体育、艺术,或者所谓的照护。也就是照顾别人。传统上,祖母会帮忙照看孩子。人们说这不产生附加价值,但现在如果开始为此付钱,问她每周花多少时间照看孙辈,我认为政府就该为此支付一笔可观的月薪。而且,未来人们可能会觉得,为这类事情付钱是理所当然的。这样的经济形态是可能出现的。不再像现在这样,觉得是家人就不用付钱,帮忙洗碗或做了别的事也不用付钱。其实,人们通过劳动或情感付出的东西,如今并没有被赋予金钱价值,但将来或许会被赋予很高的价值。这样的时代也许会到来。我认为就应该这样。

从Claude拒答政策看AI权力集中 21:39

21:39 崔胜准 不过,权力集中的问题,从Claude最近的政策就能看出来。前一阵子,逆向工程和复制游戏引发了不少争议,对吧?可就在最近几天,听说他们在系统提示词还是什么地方加入了相关指令,让它委婉地拒绝这类请求。这又引起了很多人的反对。虽然有人反对复制游戏,但人们也反对由他们来禁止这件事。凭什么由你们来决定?工具应该保持中立。这该由我自己判断。所以,一旦权力集中,那些敏感问题,有时甚至是伦理问题,就全由科技公司说了算。

22:21 卢正石 不过,也许因为我是市场主义者吧,会不会有别的公司来提供这种服务?会不会有中国公司出来,把这些都做了?

22:29 崔胜准 确实有人说,用开放权重模型不就行了。总之,我最近一直在琢磨这些事。我想把话筒再交给钟贤,听完S-1的事之后,再回来继续聊。

Anthropic S-1 filing概览与风险因素 22:42

22:42 卢正石 现在大家都在热议Anthropic提交S-1的事,新闻也几乎都在报道这个话题。我们来听听S-1提交的事吧?钟贤,请简单讲一下吧。

22:53 朴钟贤 我来快速梳理一下。

22:55 崔胜准 S-1是什么?是上市时要用的那个什么来着?

22:58 卢正石 就是说,我们要上市,把公司可以公开的所有内容、所有信息打包整理,编成一本书公开。应该会非常厚。我也只是下载了,还没读。

23:15 朴钟贤 大概有500页。

23:17 卢正石 钟贤,我们来看看主要内容吧?

23:20 朴钟贤 因为这是上市文件,里面有大量数字,尤其是与钱有关的数字。特别的是,正如刚才所说,除了权力集中,甚至比这更进一步,AI模型实际上可能带来哪些威胁,这些风险因素也写在里面。比如它可能真的对人类构成威胁,以及可能失去控制,还有Hugging Face遭黑客攻击等事件,文件里都有提到。

23:51 崔胜准 这些话竟然写进去了,感觉挺微妙的。

23:54 卢正石 是的,确实很有可能。

23:57 朴钟贤 是的。这些风险,看来大家多少都意识到了。回到这份文件的主要内容,首先是上市这件事。接着,Anthropic这家公司获得了极高的估值。看起来会以接近2000万亿韩元的估值上市,这意味着未来AI的使用会大幅增加,会替代大量劳动,估值中也包含了这些预期。接下来,我们就用数字逐一看看这些预期。

Anthropic营收与客户数每季度翻番 24:29

24:29 朴钟贤 首先,Anthropic的营收增长得非常快。当然,增速似乎略有放缓,但营收仍在飞速增长。按季度看,营收在成倍增长。看第二季度的数据,已经达到十几万亿韩元,接近15万亿。营收就是这样飞速增长。

24:47 卢正石 大家都希望营收能一直按这个速度增长,但第三季度增速略有放缓。也有人说第四季度可能会进一步放缓。不过,我还听说过另一个因素。Anthropic封锁了中国公司和其他公司用来做模型蒸馏的API调用,如果继续接受这些调用,营收本会更高。我听到一种说法,认为封锁这些调用也产生了影响。

25:14 朴钟贤 是的,听说这次推出Opus 5.5时封锁了很多。所以按年度来看,上半年营收增至去年的14倍。营收确实增长得非常快。而且,实际支出较高的客户数量也增加了很多。客户数量在增加,单个客户的支出也增长了十倍。所以说,增长很稳健。我觉得可以这样看。

25:37 卢正石 年消费超过10万美元的客户,也就是每年花约1.5亿韩元的客户,去年只有950个,今年增至十倍了。接着,100万美元约合15亿韩元,年消费超过15亿韩元的客户也变多了。

25:53 朴钟贤 是的,达到1900个。

25:54 崔胜准 是API那边的客户吗?

25:55 朴钟贤 关于营收,还有一个数字:收入可能来自订阅,也可能来自API,

贡献80%营收的API与订阅业务的账 26:01

26:01 朴钟贤 不过订阅通常面向个人。实际上,Anthropic的营收中据说有80%来自API费用。

26:08 崔胜准 那也可能不是开发者在用。

26:10 朴钟贤 大概还是企业里的开发者用得最多吧。

26:13 崔胜准 所以,比起直接使用API,我当时想,会不会有一些这样的服务,有过那么一瞬间的想法。开发者都是用订阅的。

26:21 卢正石 对,按服务条款,提供服务时不能使用订阅账号嘛。得通过API。假如我做了法律文书或金融相关的服务,比如说我是Harvey,那就只能通过API来提供服务。

26:39 崔胜准 可以说这类服务变多了。

26:41 卢正石 很多做得好的角色聊天服务也在用Anthropic。所以这类服务应该也不少。订阅占比低于API占比,有点意外,但想想也合理。对吧?

26:53 朴钟贤 对,稍微分析一下价格就知道,订阅的价格低得离谱,比API便宜太多了,这方面的影响应该也很大。

27:03 卢正石 对。不过订阅虽然便宜,仔细想想,我这么说没有客观依据,Anthropic或OpenAI维持200美元套餐这类订阅方案的原因,可能是订了以后用得多的人不少,但不用的人也非常多。那些钱可都是利润。这些因素都算进去了,套餐才能维持下去。大概是这样。

27:25 崔胜准 前几天套餐改了吧。改成Max和Ultra了。只是改了名字。

27:29 卢正石 那就和OpenAI采用一样的策略了。

27:32 朴钟贤 不是。价格大概不一样。

27:35 崔胜准 对,就是把5X改叫Max,至于Ultra,就是把原来的200美元套餐改叫Ultra,估计又在准备什么了吧。

27:43 卢正石 好,再看财务。

Anthropic的净亏损、经营现金流与token利润率 27:45

27:45 卢正石 净亏损807亿美元,但营业上是盈利的。

27:49 朴钟贤 对,我想再看看财务数据。先简单看下数字:营收就是收到的钱,为了赚这些钱,算力等方面应该花了不少,模型开发也要花很多钱。那么实际赚了多少钱呢?营收约16B,损益约为负0.7B,也就是亏损了约1B。这是扣除算力、人力等成本后的数字。

28:18 接下来是经营现金流。这个是扣除实际成本,先不算研发等面向未来的投入,只扣除运行算力等开支后,从营收中减去成本,实际赚了多少呢?约4B,也就是将近5到6万亿韩元,可以说现金还是赚到了这么多。接下来是净损益。实际亏损大得离谱,接近100万亿韩元,能请您解释一下吗?

28:51 卢正石 那大概是在IPO之前,把此前累积的可转换债券等,或SAFE等为融资而设的安排,具体结构我也不太清楚。大概是为了做调整,暂时计入账面的亏损吧。所以大概只会在上市前出现,下个季度就不会再有那个数字了。

29:13 所以我们应该重点关注的是,营收有这么多,按这笔营收来看,损益应该算是正的。上半年约有1.6B的利润。大家原以为,算力等开支会让Anthropic亏损巨额资金,结果一看,竟然已经盈利了。大家惊讶的正是这一点。哇,token的利润率接近70%。NVIDIA的利润率是70%,卖模型的公司也有70%的利润率,再拿这个模型提供服务的公司也有70%的利润率。这说明它创造了巨大的价值。

Frontier Lab的利润率与消失的知识工作 29:54

29:54 卢正石 那么,这些利润就像胜准开头说的,如今可能是某些人的血泪换来的。有些职业正因此消失。

30:05 崔胜准 对。Microsoft是什么来着?最近公布了自愿离职计划。据我所知,约四分之一的人接受了。

30:13 卢正石 所以,就像我们反复说的,人类的知识工作,并非每天都在创造,或是提出什么洞察,更多只是处理已知的信息,把文件从一个文件夹移到另一个文件夹,或更新Excel表格,再汇总成PowerPoint文档,发给其他地方。这类信息处理工作最多了。就像去区政府开具居民登记证明,以前由工作人员收费办理,现在都由机器办理。同样的事正在发生。那么,这里的关键是Anthropic

30:50 朴钟贤 确实在赚钱。

30:52 卢正石 有收入了。前沿实验室并非只会亏钱。

30:55 朴钟贤 甚至上半年的规模可能超过5万亿,如果只看现金往来的话。

AI回答冲击Google与Reddit的广告模式 31:01

31:01 卢正石 这还关系到Google股价大跌。Google的搜索质量虽然提高了,但广告的单次点击利润下降了。前两天Reddit的股价也大跌了。人们消费传统媒体的那些环节,正在全面瓦解。以前有什么疑问,就去Google搜索,看看相关的Reddit帖子,或去Quora之类的网站提问。过程中出现的广告位,现在都消失了。ChatGPT直接整理好答案,一次就解决了。

31:38 崔胜准 因为它10秒内就能看完几十个网站,再把答案告诉你。质量根本没法比。

31:44 卢正石 这一领域消失的恐怕也是中间层。在极小的细分市场存活的公司会获利,爆款会表现得更好,而定位模糊的中间层又会全部消失。继续吧。

31:58 朴钟贤 总之,虽然已经在赚钱,但市场给出的估值太高了。所以,需求和营收今后还能继续这么快地增长吗?为此,我找了其他报告中的一些数据。

各职业的AI采用率与GDPval带来的冲击 32:10

32:10 朴钟贤 这些数据反映各类职业对AI的使用情况,也就是使用比例。以工程领域,尤其是编程为例,人们从一年前就陆续开始使用,现在可以说几乎人人都在用。而法律、金融等非工程类职业也从今年开始使用,使用比例增长得更快。所以可以说,大多数职业领域都已经开始采用AI。接下来要看的是,每个人究竟花多少钱。因此,也可以认为,未来新增用户的空间可能不大。

32:56 崔胜准 我刚才查数据时,突然想到,就查了一下GDPval的情况。这是OpenAI去年发布的。现在虽然还没完全饱和,但已达到80%多。

33:07 朴钟贤 那涵盖各种职业的任务,对吧?

33:10 卢正石 那么,现在100个人里,从理论上合理推想,有80个人会失业,对吧?

33:17 崔胜准 如果这个计划成功,肯定会带来附带伤害。我觉得附带伤害是不可避免的。

33:25 卢正石 对,会发生的,会发生的。

33:27 崔胜准 不过正石一直在说,中间层会全部垮掉。

33:31 卢正石 所以我绝不是想宣扬“大家都会垮掉”的末日论。现在主持节目的我们三个人也属于中间层。我们也不是科技巨头。我们只是夹在中间,在这个小圈子里和大家聊天的人。那就不需要我们了。其实要是有像 All-In 播客那样的节目,每周推出完整的韩语配音版,大家就会去看那个。何必来看我们呢?所以我们也会受到冲击。

33:58 崔胜准 受到冲击后就得转移,也得考虑逃离或转型。

34:02 卢正石 我想说的是,要积极思考转型,并付诸行动。这就是我想传达的核心信息。我认为转型的方向已经很明确了。

34:14 崔胜准 是什么?

34:15 卢正石 人性化的部分,有稀缺性的部分。

34:19 崔胜准 现在确实该认真思考了。

34:20 卢正石 要做的事还有很多。我们来看一下这张图吧?

智能价格暴跌与加速的产业重组 34:23

34:23 朴钟贤 接着说,如果给 AI,也就是智能定个价,这和刚才说的替代劳动是同一回事。总之,智能正变得越来越便宜,因为比人力便宜,才会取代人力。那智能之外的其他商品呢?它们问世后,价格降了多少?以电力为例,80 年间价格大约降了 10 到 30 倍,而计算能力在约 60 年间,价格几乎降到了原来的千亿分之一。但 AI 降价的速度比这还快。您刚才说,变化要经过几代人才能显现出来。但 AI 带来的变化也许用不了一代人的时间就会显现。

35:13 卢正石 我们这一代就会看到结果。你看,短短一年就已经这么快了。一年里,前沿实验室到底干掉了多少个领域?

35:23 朴钟贤 很多业务已经开始重新洗牌了,或许也可以这么看。

35:29 卢正石 韩国的就业相对稳定,所以变化来得稍晚一些。但问题终究会积累,该爆发时还是会爆发。

35:38 朴钟贤 我想到一件事。您刚才提到了角色聊天,曾是这个领域领头羊的Character.AI 已经经历了崛起、破产,走完了这么一轮。这似乎也说明,变化的速度有多快。

35:53 卢正石 前沿实验室暂时没关注的那些细分领域,用 Muse 之类的智能体自己设定好角色,就能用上Character.AI 那样的服务了。如今发展不错的角色聊天服务,从某种意义上说,也可能很难成为主流。世界变化真快啊。

AI-native企业与旧金山淘金热 36:16

36:15 朴钟贤 接下来再看一个问题:AI 公司真的赚了很多钱吗?如果这些公司赚得更多,也会向 Anthropic 或 OpenAI 这样的模型供应商支付更多费用,需求也会越来越大。所以这里把它们归为 AI 原生公司,也就是 AI 本身就是产品的公司,比如角色聊天公司。据说这类公司的收入比那些只在原有软件中稍微加入 AI 的公司高得多。也就是说,积极使用 AI 的业务正在市场上创造价值。所以也许正因为如此,需求会增长得更快,我们可以这样推测。

37:01 卢正石 毕竟现在是淘金热。大家都在做 AI 公司,据说旧金山现在依然很火热。您上周还在那里呢。

37:11 朴钟贤 所以我也打算这么做。我也觉得现在该搬过去了。

37:15 卢正石 看来您很快就要搬去美国了。

37:18 朴钟贤 如果可以的话。另外,在AI公司中,

从基准测试看模型竞争与Kimi的下滑 37:22

37:22 朴钟贤 如果聚焦Anthropic和OpenAI,归根结底,模型有多聪明,是前沿实验室的竞争力之一。我们最常看的指标AAII,这周发生了变化。我拿其中一个分数来说,在调整后的评分中,Claude和GPT仍然稳居前列。顺便说一句,指标调整后,新发布的Gemini 4 Carbon目前位居第一,但Carbon还没有公开,我们现在还用不了。应该很快就会开放吧。

37:53 我为什么提这个呢?从Anthropic的角度看,中国实验室是最大的威胁之一。尤其是进步很快的Kimi。改版前,Kimi K3.1 Pro是上周发布的,到现在有一周了吧。上周刚一发布,排名就大幅上升。当时的分数让人觉得,它是不是已经接近这个水平,真的对前沿实验室构成威胁了。但基准测试一调整,Kimi的排名就降了一些。所以无论如何,前沿实验室目前似乎仍有稳固的优势,我觉得可以这么看。

38:28 崔胜准 具体是怎么调整的?

38:29 朴钟贤 基准测试中,非公开题集的占比似乎提高了一些。而且基准测试本身也在不断调整。因为题目一旦公开,就会被逐一攻克,所以会不断换成更难、以前没出现过的题目。随着这些变化,分数似乎有了很大变化。也就是说,像Muse和Kimi这样排名突然大幅变动的模型,可能成功适应了原来的基准测试,我觉得可以这么理解。

38:57 崔胜准 也就是说,它们可能只是擅长特定的基准测试,整体智能水平未必那么高,也可以这么看吧。

39:04 朴钟贤 不同领域的分数也可能有差异。另外,基准测试成绩和实际使用时感受到的性能也可能有差距。顺便说一下Kimi,我这周正好见到一位Kimi的相关人士,有机会当面问了问。我问了不少问题,他们说目前正集中精力提升编程能力。因为我对视频感兴趣,就问他们有没有打算认真做视频。他们说暂时没有这个打算,他们是这么想的。不过,最近那种通过编程制作视频的方式,比如刚才展示的3D内容,还有Blender之类,这次Kimi的模型也做得非常好。

39:41 卢正石 说到模型,我上次和钟贤一起做节目时也说过,模型擅长视频、擅长这个那个,就像汽车不断加入各种功能。所以我觉得可以把每个模型都看作一款整车车型。比如这家公司推出的那个模型,听说OpenAI 7系列配上自动空调了?以后大概会是这样的时代。

40:06 朴钟贤 可这些功能来得太快了。我如果不尽快转向,恐怕就快生存不下去了。

40:13 卢正石 要么成为主流,要么成为强大的小众品牌,牢牢留住属于自己的两千名客户,不然就得走向主流。如果自己的定位是介于两者之间的中小城市,那就很难了。好,我们继续。

Anthropic的大规模compute合同与过度投资争议 40:34

40:34 朴钟贤 接下来看看这家实验室在算力上的支出,我们来分析一下。他们在算力上花了多少钱,这里有具体数字,我们看看。先说总额,大约是6000亿美元。这是目前列出的支出。当然,这个数字还会变动。而且这不是明年一年要花的钱。有的支出排到了2033年,有的合同期限甚至接近10年。因为算力合同已经签好,这笔钱会逐步花出去。6000亿美元差不多是1000万亿韩元。支出规模就是这么大,可以这么理解。

41:13 就像上周提到的,有些是长期租赁合同,也有些属于短期合同。像与SpaceX签订的合同,其中的解约条款允许双方解除合同。只要提前90天通知,Anthropic可以解约,供应商SpaceX也可以解约。这意味着价格会不断变化吧。总之,算力支出的规模达到了1000万亿韩元。

41:42 不过仔细想想,从刚才的营收增长趋势看,到今年年底,年化营收可能在1000亿美元左右,应该能达到这个水平。如果假设今后继续增长,目前列出的支出数字看起来其实没那么大。也就是支出约1000万亿韩元,营收却比这还多,可以这么理解。

42:06 卢正石 因为算力是核心资产,一切最终都归结为算力嘛。所以现在算力说到底就是石油。

42:19 朴钟贤 总之,已经签约的算力,石油也是一样,如果用石油生产的东西需求持续增长,石油就会一直供不应求。另一方面,AI领域投入了巨额资金,如果需求跟不上投入,算力恐怕就会过剩。这就会进入上次提到的过度投资阶段吧。如果是目前这个规模,我觉得或许还算不上过度投资。

42:48 卢正石 直观感觉是这样。

Anthropic与OpenAI的估值,以及与中国Lab的差距 42:50

42:50 朴钟贤 接下来再看看竞争对手,稍微想一想,Anthropic在5月以接近1万亿美元的企业估值获得了融资。约1400万亿韩元?最近获得了这样的估值认可,OpenAI也差不多。但像Kimi这样的中国实验室,几乎只有二十分之一的水平?它们按这样的规模融资,所以企业估值似乎差距很大。

43:21 卢正石 OpenAI和Anthropic似乎被认为有可能成为下一个Google或Meta,因此获得了相应的估值。Anthropic即使还没上市,账上的现金也已超过1200亿美元。刚才钟贤提到的算力,或是人才,以及为拓展市场所需的获客开支,他们似乎也有足够余力投入营销。

43:50 而OpenAI据说正准备以约1.25万亿美元的估值筹集约300亿美元,但据说融资洽谈都不太顺利。世事风水轮流转,眼下看来,Anthropic似乎占了上风,我认为这种力量对比很快就会改变。那些出资的人,以及其他相关人士,真正了解其中技术是什么的人,我认为几乎没有。听金融业人士谈起时,我发现他们只是把市面上的新闻粗略拼凑起来,就据此下结论。所以反过来,我认为OpenAI现在1.25万亿美元的估值,相比Anthropic被严重低估了。

44:36 朴钟贤 OpenAI的话,据说现在的支出非常庞大。再说估值,大家目前预计Anthropic会以约1.5万亿至2万亿美元的估值上市。那么再看看如今正在赚钱的同等规模的大型科技公司,Meta的市值就在这个水平。Apple的规模则比它大两三倍左右。再看这些公司赚多少钱,每季度能赚100亿、300亿美元,就是这么大的金额。所以,如果Anthropic能像Meta一样,赚到现在的约10倍,这个估值就说得通了。我觉得它或许能赚到现在的10倍以上呢?所以说,这个估值也许并不算贵。

瞄准下一代Google的Anthropic与OpenAI 45:27

45:27 卢正石 其实OpenAI和Anthropic都在涉足B2B和B2C。B2B传统上是Office、B2B SaaS这类产品所处的领域,B2C则包括像Meta那样运营内容社交平台,或靠广告运营搜索服务。它们两边都在涉足。Microsoft做的事和Google做的事,OpenAI和Anthropic都在同时争取。

45:58 它们并不满足于在算力之上提供模型,也就是提供智能,只做智能供应商。我上次也说过,模型创造的价值会降低,价值会向上下游转移。Anthropic和OpenAI也在布局上层的服务领域,自己把这些都准备起来。等它们准备好一切,打通从上层服务到底层算力的整个链条,就该被视为下一代Google、下一代Tesla了。那它们是不是也该获得Google和Meta目前稳稳维持的估值,甚至更高?毕竟相当于Microsoft加上Google。它们之间的竞争会如何,还要继续观察,但我觉得市场现在似乎正是按这些逻辑给它们估值。

搜索广告萎缩与价值转移 46:46

46:46 卢正石 但可以确定的是,在这些数字背后,有人获益,就会有人受损。因为就像刚才胜准说的,客户数量有限,他们点击的广告数量也有限。所以当Anthropic和OpenAI一路走高,Google的股价也跌了不少。因为搜索广告收入现在正在减少。这样一来,预料中的事就发生了。人们越来越习惯通过AI获取信息,并直接在AI里办完所有事,可以这么说吧。或许到了明年年初,这些数字会体现得更加明显?我自己也不点Google广告了,甚至都很久没上过Naver了。

47:31 朴钟贤 我好像也是。像Reddit,之前好像拦截过AI的访问流量?最近似乎发生过这样的事。结果流量好像减少了90%,我听说有这么回事。所以我们会开玩笑地把它叫作“死亡互联网”,跟朋友们这么聊。但实际上,网上那些发表评论的账号背后似乎有不少并非真人,而是AI。不过AI终究不会看了广告再点进去,或者消费些什么,但现在还不是这样嘛。这不都是价值在转移吗,我是这么想的。

上市后买不买Anthropic股票 48:06

48:06 朴钟贤 那我们收个尾吧。所以,上市后你会买吗?这个问题也同样问各位观众。

48:14 卢正石 会,我会买。Anthropic和OpenAI的股票,顺便说一句,我目前还没持有这两家的股票。其他AI公司的股票,我也在陆续买入,如果这两家公司上市,最近的行情是这样嘛。IPO之后,股价相较于发行价先小幅跌破,再涨到发行价之上,就这样上下波动,至于Anthropic和OpenAI,就像我上次在自己的分享中说的,我会买来当保险。万一我的公司倒了,而公司倒了就意味着它们做得非常好,所以我会买它们的股票来对冲风险。

48:53 而且可以确定的是,服务的重心正从我们熟悉的Google、Meta,以及Naver,转向这类AI模型服务,这一趋势如今已经得到印证。那么,它们在此基础上,至少还有两到三倍的增长空间,我是这么判断的。基于这两点,我应该会买。反过来,对于处在另一边的公司,我觉得应该持有空头头寸。

49:23 朴钟贤 您是说竞争对手吗?

49:24 卢正石 对。韩国那些我们一直熟悉的掌控入口的公司,其实面临风险。

49:31 朴钟贤 我应该也会买。说到底,那些公司正如刚才胜准担心的那样,完全可能走向中心化,那它们可能会成为影响力超过现在十倍的公司。要问那样的未来是否美好,也许不是,但即便如此。

49:52 卢正石 大家都担心自己的工作和公司,但转过身来,从个人角度看,又都会去买Anthropic的股票。SK海力士的股票,大家不也都买了吗?我身边就没见过谁没买。毕竟它还在动嘛。那么,Anthropic的S-1披露就聊到这里。现在整个时间线都被S-1披露的话题刷屏了,我们就先聊到这里。接下来,胜准,说说你最后想分享的内容吧。

被AI超越后依然存在的游戏与乐趣 50:24

50:24 崔胜准 那我快速讲一下。上周和这周,我分别做了好几场报告。这份是在婴幼儿教育课程学会做的报告。与AI共存也是那里的核心话题,幼儿教育领域也不例外。我是作为讨论嘉宾参加的。当时做的幻灯片里,就像刚才正石说的,体育、纯粹的玩耍。我最近一直在思考“还剩下什么”这个问题。我说的“剩下”,是指就像数学和围棋已经经历的那样,当自己领域最前沿的人都被彻底超越时,依然留下的东西。到那时,我还有什么值得亲自去做?我思考的就是这类问题。

51:12 于是我产生了疑问。是这样吗?那数学呢?其他学科呢?艺术呢?我觉得最好别把这种可能性当成零。我觉得这是一种很好的对冲。软件开发、编程实现这些方面,早就超过我了。我说的不是实现层面,而是构思、创意,甚至艺术创意本身,如果它连这些都比我做得好,我还剩下什么?我似乎总会这样想。但即便在这些方面被超越,乐趣是不是依然属于我?或者也依然属于成长中的孩子们?我是带着这样的意味说的。

51:56 是在不确定性中寻找乐观,并非科技巨头所说的那种乐观。如今一切都太不确定了。不过,幼儿教育界有位叫 Loris Malaguzzi 的人说过,接纳不确定性也许是一种重要的态度。这让我得到了一些慰藉。所以,虽然我也不知道未来会怎样变化,但我一直在想,能否在其中找到属于自己的乐观。

52:26 于是我试着将数学界遭受的这场 TNT 冲击做成了可视化。围棋有过第 37 手,数学界也有过类似时刻。但之后人们依然会下围棋。数学家也许会转向其他方向,但我想他们依然会研究数学。因为从中获得的乐趣和好奇心都属于每个人自己,很难被夺走。

52:54 依然怀着好奇心亲自尝试,从亲身经历中学习的乐趣。孩子们做的事,归根结底是在经历人类曾经走过的过程。探索、试错、体验。所以,这些体验本身很难被夺走。因为哪怕只是发现一点小东西,逐渐了解数学的乐趣也会一直存在。即使我并不处于最前沿。一直以来不都是这样吗?总有人比我更出色。我觉得这些乐趣会延续下去,希望大家能把注意力放在这里。只是面对太多不确定性,也难免会动摇。

Uneven Future与属于自己的AlphaGo时刻 53:29

53:29 崔胜准 但我也在思考迁移、摩擦,以及如何与他人同行。所以,我和几位相熟的作家朋友一直围绕 Uneven Future 这个主题开展活动。它不只是指凹凸不平、不均匀,换个说法翻译后,我发现面对这个不平坦、并非自己选择的未来,我们如今似乎都在摇摆。所以我想记录下 2026 年的这个当下。

53:54 说到想象力,我昨天演讲的内容又更进了一步。我讲了自己编程 30 年后,最近为何放下了编程。对程序员来说,就像《SICP》一书中提到“咒语”的概念,编程与想象力有关,语言曾像魔法一样发挥作用。

54:18 不过,从这个角度想,想象力就是刚才说的那件事。我的艺术构想,也就是属于我自己的 AlphaGo 时刻,现在或许该试着想象它了。这就是我昨天想传达的信息。就像数学界那样,若不亲自受到冲击,就很难产生那种感受。所以,虽然这只是模拟,但凡是涉及智能的事,被压倒的可能性都不为零。而且,那不只是实现某个东西的层面,甚至在人类自身的想法和创意上,也可能远远超越我。受影响的不只是我,还有我的领域。比如做生意,正石的事业也是如此。上次你们还录了这个话题。韩语里“sa”音的风险,带这个音的职业的风险。医生、律师。

55:10 卢正石 没错。

55:11 崔胜准 “社长”的韩语说法里不也有“sa”音吗?虽然对应的是不同的汉字。所以我觉得,如今有必要想象一下属于自己的 AlphaGo 时刻。我预计自己的职业或事业肯定会经历种种起伏,但我们毕竟还得生活下去,所以要在其中找到让我精神上保持健全、生活也能过得安稳的方法,并以健康的方式去寻找,因为今后一定会发生一些事,我觉得我们得能想象自己会有怎样的心态。我是这么想的。2026年确实是让人这么想的一年。

55:48 卢正石 可不是嘛。

从AI前沿走向人类的生存之道 55:49

55:49 卢正石 我们原本是为了跟上AI前沿,学习最前沿进展的播客,可最近聊的内容,简直成了人文节目。作为人类,我们该怎么办?现在正是人人都在问这个问题的时候,前沿的发展显然已经超出了我们分析和预测的范围,变化太快了。年初我们还在想,如果这样或那样,未来会怎样,结果才过上半年,那个未来就来了。我们以前聊AGI、ASI,聊什么是AGI,现在已经不聊这些了。

56:27 崔胜准 而且刚才说,用户还非常少。反过来说,接下来用户只会越来越多。

从国际象棋看人与AI共存 56:33

56:33 朴钟贤 刚才您还提到了围棋,听说国际象棋最近特别流行。人气非常高。说到国际象棋,我也会去最有名的chess.com平台下棋,那里的AI能帮上很多忙。对于一开始害怕和别人对弈的人,有不同水平的AI可以陪他们练习。无论是和人下棋,还是和AI下棋,哪一步下得不好、怎样下会更好,AI都会耐心讲解,给出反馈。所以大家似乎更能享受下国际象棋了。这么一想,这不就是人和AI共存的一个很好的例子吗?

57:14 卢正石 没错。

57:15 崔胜准 正石,你最近还写代码吗?

57:17 卢正石 不写啊。代码倒是写了很多,但不是我亲手写的。

57:20 崔胜准 你虽然在做这类工作,但不亲手写代码嘛。

57:24 卢正石 我连代码都不打开看。

57:26 崔胜准 我以前很喜欢写代码。但意外的是,有些人并不觉得可惜。我就是这样,也有人觉得很可惜。有些人现在才意识到,自己喜欢的不是代码,而是思考和创造的过程。他们发现自己真正喜欢的是这个。

57:44 卢正石 我并不怀念为了避免指针错误而小心写代码之类的事。我大学时费了很大劲才学会编程,能熟练运用指针,做好内存管理时,确实很有成就感,但我并不怀念那种感觉。也不想成为擅长这些事的人。

58:06 崔胜准 不过让我不安的是,那些不用的能力正在退化,我确实能感觉到。

58:12 卢正石 所以我最近又开始读长篇的书了。借此让思考一直延续下去。即使在Twitter上看到消息,也不会读超过两三页,感觉思考的能力正在一点点流失。

品味与人际关系成为资本的极度富足时代 58:33

58:33 卢正石 不过,未来会不会变成这样呢?如果进入大富足时代,大家也都有钱了,之前我们和Seojun Kim代表聊过这事吧?在阿联酋,人们已经不用为生计发愁,就会看一个人的爱好有多高雅,以此来评价这个人。我觉得资本的概念也会这样改变。衡量一个人的,不再只是现在意义上的钱,还会看他有什么品味、有什么个人品牌、多少订阅者,办场聚会能来多少人之类的。年轻人比拼Instagram粉丝数这类数字,人人都想当YouTuber,我觉得这或许是正确的选择。

59:18 朴钟贤 我也这么认为。归根结底,人与人之间交流的需求不会消失吧。即使它所占的比重可能下降。而且这种交流会变得更加稀缺,这也符合“人会转向稀缺之物”的说法。

59:33 卢正石 稀缺性确实存在。长得帅、长得漂亮的人依然很吃香。因为稀缺嘛。

59:40 崔胜准 如果一年后的2027年1月我们还在做播客,到时就看看我们的想法有了什么变化。

59:46 卢正石 我们也该放下分析,采取行动了。朝另一个方向走。其实,胜准和我也可以把智能手机和AI挡在门外,开一家这样的咖啡馆。让这里成为人们只和彼此交谈的空间。

识别下一个Google的想象力 60:05

60:05 崔胜准 还有,正石以前提过,新时代的企业家或艺术家现在应该已经诞生了。

60:13 卢正石 而且他们可能就在我们身边,也可能在旧金山,反过来,也可能在首尔。要看准这些人,看准如今价值汇聚的未来。虽然我们只关注两家前沿实验室,但在这之上,刚才钟贤提到,AI原生公司的使用量在增加,也正进入各类服务。说不定OpenAI和Anthropic只是当年的Yahoo和AltaVista。下一个Google和Amazon说不定已经在某处创立了。所以我们要对此做好判断,找出那些尚未被高估、尚未体现应有价值的低估资产,并做好资产配置。我觉得这就是现在该做的事。

61:01 崔胜准 那或许也是一种想象力。想象未来会发生什么的能力。

61:05 卢正石 没错。这是很有人情味的事。我第一次见钟贤时,就觉得“这人不错”。看到有些人时也会这样,会看到想与他们同行、愿意投资的未来。怎样才能被认可为那样的人,我想这也是很重要的话题。那么,今天的内容就到这里吧。

61:27 崔胜准 辛苦了。

61:29 卢正石 谢谢。