EP 105
AI 能做科研吗？
开场与今日主题 0:00
崔胜准 大家好。正在录制的今天是2026年7月18日。下面由我们开始进行。钟贤，准备了什么话题？
朴钟贤 首先，第一个话题是关于AI与研究，我想聊一聊这个。在经历了大型学术会议期间，见到许多研究人员、阅读大量相关研究后，我想到了这个时代的问题之一。AI能做研究吗？对于这个问题，我们将介绍一些主要案例，以及目前的发展趋势，然后再谈谈我们的看法。
被拒稿的 PPO 论文与同行评审的局限 0:30
朴钟贤 首先要介绍的内容是，John Schulman是OpenAI的联合创始人，现在则在Thinking Machines Lab。在名为PPO的强化学习领域，尤其是在ChatGPT最风靡时，采用RLHF，也就是利用人类反馈进行RL的技术中，这是使用最广泛的算法，但听说这个算法的论文实际上在2017年被拒稿了。
崔胜准 原来还发生过这种事。
朴钟贤 我之前也不知道，这是一个月前发布的推文，浏览量非常高。其实大家都有这种感受。好的研究并不一定就能顺利刊登在好的学术会议上。有时也会被拒稿。大家似乎都对这些情况深有同感，顺便一提，我想到另一篇论文，就是我在这条推文下转发的Tony Zhao的论文，听说那篇论文当时也几乎被拒稿了。如今在动作领域，这项研究非常受欢迎，但当时审稿人却并不看好。
崔胜准 就是说，人们其实并不知道。
朴钟贤 这样的案例实在太多了，每个领域的人都经常谈到这类事情。做过研究的人都会有这种体会。
崔胜准 PPO是与Policy Optimization相关的吗？
朴钟贤 我记得是Proximal Policy Optimization。总之，简单介绍一下，它在ChatGPT中是这样使用的：当我们进行对话时，由人类对这段对话是好是坏之类的方面作出评价，再根据这些评价来改进模型，可以把它理解为这样一种算法。一开始由人类来做，但人的能力有限，所以也会再创建一个模仿人类的模型来完成，虽然后来以这种方式不断发展，但基本上就是用于这样的场景。
不过这里想说的不只是被拒稿这件事，就连作者本人也没想到，未来在GPT，也就是LLM中，这个叫作PPO的算法会得到非常有力的应用，并产生如此大的影响。
在后来被用于LLM之前，审稿人是如此，甚至连作者本人也很难确信它日后是否真的能产生巨大影响。
也就是说，评价一项研究是否优秀本身就非常困难。很难为其打分。我们可以思考这些问题。
崔胜准 看来难以评价会成为今天的核心话题。
AI slop 时代的 arXiv 与学术会议 2:54
朴钟贤 很难拥有好的眼光。作为类似案例，如果简单梳理一下学术界最近发生的几件事，其中很有意思的是arXiv。最终，那篇PPO论文也只是上传到了arXiv，所有人都能看到，实际引用量也非常高，但并未刊登在任何期刊或学术会议上，最后就是这样的结果。
去年，arXiv表示CS类别中的某些论文只接收通过同行评审的论文，曾经有过这样的说法。原因非常简单。相信大家都能猜到，因为AI撰写的论文实在太多，不仅无法进行质量管理，还存在其他各种问题，因此像过去那样公开所有内容的方式今后只能有限度地采用。关于这件事，Hacker News上也出现了许多争论。大家打了不少键盘仗。最终，赞成者认为，用LLM生成论文
成本非常低，但要检验和评价论文是否真的优秀，却既昂贵又困难，因此上传到arXiv的论文中，虽然这么说不太好，但在使用LLM撰写的论文里，有些论文对研究毫无意义，也就是所谓的垃圾研究，应该会有很多。
如果这种劣质内容泛滥，人们就会离开arXiv，所以它虽然是为了让所有优秀研究都能顺利公开而建立的平台，但也不得不这么做。另一种观点则认为，arXiv本来不就是为了在同行评审前上传并传播论文而存在的吗？
原本可以借此发掘PPO这样的成果，怎么能把这条路堵上？似乎存在着这样相互对立的意见。
崔胜准 它原本是预印本平台。毕竟是一个可以在向期刊投稿之前，提前发布论文的地方，不是吗？门槛也比较低。
朴钟贤 至于它最初创立的原因，虽然我也不是特别清楚，但按我的理解，毕竟它从LLM出现之前的时代就已经存在了。
崔胜准 是的，最早是在物理和数学领域。
朴钟贤 虽然也有上传那些因被拒稿而未能得到发掘的研究这一层意义，但更主要的原因是期刊和学术会议的流程太慢。
崔胜准 有时需要六个月，甚至更久。
朴钟贤 在快速变化的学术界，等到正式出版时往往已经有些晚了，所以作为一种更快共享知识的工具，它似乎也深受人们喜爱。
崔胜准 但现在世界又倒退回去了。
朴钟贤 所以观察最近的学术会议，同样的事情也在发生。这次ICML收到了两万三千篇投稿，据说收录了六千篇。我读研究生已经是十年前的事了，我读研究生时，规模还不是以千篇为单位，我记得当时好像只有100篇左右。如果发表100篇就算很多了，当时好像经常会这样说，真的是发生了很大的变化。
崔胜准 发表的论文本身也很多啊。有6,352篇。
朴钟贤 是啊。发表的论文竟然也有这么多，确实让我有些惊讶。而且类似地，在一个叫ICLR的学会上，也有非常多的评审意见，据说其中相当一部分完全是由AI撰写的。也就是说，论文写作变得容易之后，不仅论文的平均质量下降了，评审也应付不过来，于是连评审也用AI来做，导致评审质量也随之下降。
这次ICML上也出现了这样的讨论。他们似乎把评审赛道的规则分开，分别采用与AI一起评审、不使用AI、由真人亲自评审，好像是这样分开进行的。但据说有些人明明选择了由真人亲自评审，却被查出使用AI进行了评审。所以这些人被排除在评审之外，总之，现在学术界用于评价论文的评审系统，似乎也正在经历变化。不过还不知道最终会走向什么答案。
崔胜准 因为产出量压倒了一切，所以才会出现这些问题啊。
朴钟贤 那么回到一个更本质的问题，什么是好的研究？归根结底，学会决定录用与否的系统，这些都是为了寻找好研究而建立的系统，至于我认为什么样的研究才是好的研究，首先，研究最本质的意义是，假如存在人类的全部知识，那么哪怕只增加一点点，我个人认为这就是研究。而新增的这部分知识，如果能真正对我们的世界产生巨大影响，并朝着好的方向改变世界，那就是好的研究。我是这样认为的。不知道胜准对好研究有没有自己的定义？
崔胜准 是啊。虽然我没有认真思考过，但我认同的一点是，扩展并开拓人类知识或智慧的前沿，显然是其中一个方面。
朴钟贤 这是我以前读研究生做研究时曾经思考过、最近又重新思考起来的问题，我们先从这个观点出发，假设这就是好的研究，继续讨论吧。
崔胜准 我还想补充一点，研究伦理也很重要。对人类产生的影响，可能有很多不同的类型。
朴钟贤 确实如此。因为也有可能无视伦理进行研究。尤其是在战争时期，这样的事情也经常发生。总之，对于这些好的研究，我们需要妥善地开展、评价并发掘，要从无数研究中找出这样的研究，但问题在于奖励。这个问题不仅存在于LLM中，在人类社会中也同样存在。目前人类社会发掘好研究的方法，就是同行评审，也就是说，由同行研究者彼此判断研究是好是坏。这归根结底就是当前的学术体系。这是一个已经延续了几百年的学术体系。
崔胜准 评审不是不收取报酬的吗？学者们帮忙评审不就只是在作贡献吗？
朴钟贤 我也不太清楚。可能即使没有明确的金钱往来，但通过评审加入那个学术共同体并参与组织学会，这些本身就会成为很大的激励，所以我觉得间接成本肯定是存在的。而且虽然我不确定，但据我所知，很多评审似乎也会支付报酬。
是吗？据我所知，这一点会因学会或期刊而有很大差异。而且总之，我们似乎还没有找到比同行评审更好的系统。至少在人类社会中是这样。但现在因为LLM，
这个系统开始出现裂痕，这也成为了我们这一代人面临的问题之一。关于LLM，我们已经谈过很多次，以良好的奖励为基础，通过RLVR提升智能，是提高现有LLM智能水平最重要的方法，因此在数学方面，我们稍后会更详细地谈到，已经达到了IMO金牌，也就是数学奥林匹克金牌的水平，去年和前年就已经达到了。
崔胜准 我记得前年是银牌，去年是金牌。
朴钟贤 但对于研究而言，目前很难提供verifiable的奖励，因此，LLM为了完成好研究而进行的能力提升似乎也不太容易，同样地，在人类社会中，似乎也很难妥善发掘出好的研究。
可复现性：Hugging Face Reproduce Challenge 10:04
朴钟贤 我找来了一些我看到的、为解决这个时代的问题而进行的有趣尝试，想给大家介绍一下。第一个是目前正在进行的项目。Hugging Face正在举办一个名为ICML复现挑战的活动。让智能体对论文中提出的方法实际重新实现一遍，以此验证这些方法是否可靠。
这一直是学术界争议很大的问题之一，论文里会说：“我们用这种方法进行了这样的实验，效果变得这么好了。”然后闪亮登场，但等到我亲自尝试重新实现时，经常会发现根本实现不了。那就无法复现了。这样一来就很难让人相信。那要怎么验证呢？也可以要求全部开源，实际上，很多时候还涉及硬件实验而且是使用闭源的作为重要资产的模拟器完成的但很多情况下又无法将其公开，所以现实中确实存在不少困难。不管怎样，现在仅根据论文中提出的逻辑开展这种复现挑战。也就是说，在某个 AI 写的大量研究中有些 slop 的实验可能存在失误或者本身就是错的，再极端一点，甚至可能根本没做实验而是伪造了数据。按照我的逻辑，实验结果应该会是这样，也可能就这样直接发表出来。
崔胜准 所以成功复现的多吗？
朴钟贤 这个我也不太清楚。现在还处于大家提交成果的阶段，可能要到8月2日才结束所以恐怕得等结束后再看了。不过这只是我个人的预测，那么多的六千篇论文中究竟有多少得到了复现呢，现在大约有八百篇完成了复现。
崔胜准 不过无论如何，得到验证、确认能够复现的大约有八百篇。六千篇中能有这么多，也算相当不少了。
朴钟贤 是的，好像是这样。不过这里面应该也包括证伪。所以无论如何，这个复现挑战最终是从过去仅凭论文本身进行同行评审发展到实际运行，并验证数据是否真的能顺利得到，因此可以说是一种中间阶段的奖励。所以也可以说，这是筛选优秀研究的中间阶段，我觉得可以这样理解。
研究 Ralphthon 现场 12:27
朴钟贤 接下来还有一件事，这是最近在我们韩国尤其流行的活动之一，名叫 Ralphthon，在网络迷因层面很流行许多参与者也都玩得非常开心。我也去过现场，这是一个运行 Ralph 来举办黑客松的挑战。因为概念本身很有趣，大家都让 Ralph 运行着参与者之间也很适合愉快地交流，也很适合建立人脉，这次正值 ICML 举办期间Ralphthon 的主题是研究型 Ralphthon。所以举办了两种黑客松，第一种是用 LLM 写论文。真正经过研究和实验，直到产出论文为止的论文写作。然后第二种是评审这些论文。就这样设置了两个赛道举办了 Ralphthon，我采访了现场的一些参与者。
不过请允许我暂时岔开话题说一件事，有教授参加，也有医生参加，还有研究人员，甚至连高中生也来了。所以我们频道上传了相关视频。因为当时在现场进行了直播我看到一个朋友年纪特别小，就问年龄，结果对方说只有15岁。我觉得很新奇，就问在做什么，对方说自己一直在努力使用 LLM但在上下文中不断用提示词填入数据后感觉从某个时刻开始，性能就会下降。对方想知道性能会在什么时候、以什么方式下降。重要数据应该放在前面还是后面，性能应该会因此而有所不同，对方很想了解这些问题。这个朋友还是高中生大概从未在学校之类的地方做过研究，但提出的个人问题以及为解决问题而付出的努力，真的非常接近真正的研究，看到对方主动完成这一切，我非常赞叹。
崔胜准 如果是高中生，可能上过 AP，虽然我不太了解美国或加拿大的情况，但无论如何，也可能通过高级课程较早接触过这些内容，总之，原来还发生过这样的事。
朴钟贤 所以我也印象非常深刻。
崔胜准 不过不是采访过求奉好几次吗？
朴钟贤 是的，第一次采访时，Ralphthon 这个活动还没有诞生。当时求奉说想尝试举办一次 Ralphthon。
崔胜准 就是那种要熬夜通宵的活动，对吧。
朴钟贤 是的，求奉说想试一试，所以第一次采访时我就听求奉谈过这件事，后来真的举办了 Ralphthon还在旧金山和新加坡举办，所以在海外也很受欢迎。那个年纪很小的朋友也觉得 Ralphthon独特又有趣，所以很想参加就说趁着来到韩国也过来参加了。
崔胜准 我也得找时间看看那期视频。
朴钟贤 不管怎样，我认为最令人振奋的是无论研究还是编程，构建本身都可能是一件痛苦的事情但求奉把这件事很好地升华成了所有参与者都能享受的形式，我觉得这一点真的非常好。借这个机会让我宣传一下，画面中的这位就是郑求奉，他以 Team Attention 的名义举办了这个 Ralphthon，求奉举办的活动我一直都参加得非常开心。我有空时就会去，每次去都会发现一些有趣的设计总能玩得很尽兴再回来。
总之，回到刚才的话题，大家用 AI 写论文，再用 AI 进行评审，然后按照得分高低进行排序还举办了海报展示环节。当然，也邀请了真正从事研究的研究人员担任评委来进行评审。求奉还介绍了优秀评审智能体是如何进行评选的，评委们先按照平时的评审方式选出了所有优秀的成果。
其实还另外评选了一个，就是比较评委对 AI 论文的评审与智能体评审给出的分数是否接近，不考虑具体方法，只选取打分接近的智能体，结果最终正是那个评审智能体获胜了。所以我问这次活动最有趣的一点是什么求奉就选出了这个。看完这个，我们可以思考的是所谓评审的质量，现在就连评估论文都面临困难，评审也是如此。
评审代理与奖励设计的问题 16:40
朴钟贤 那么什么是好的评审，这也很难界定。单纯考察与人类评审委员的相关性，可能比某些评审方法论更好，我觉得这似乎暗示了这一点。我们做RLVR也是一样，如果有一个好的奖励，就不强制要求在其中采用什么方法，而是让它自行尝试解决。这种方法论在这个案例中也得到了很好的应用。我们可以思考一下这些问题。总之，如果思考这些尝试本身所蕴含的意义，那么在研究中，怎样才能更好地给予奖励？现在，让人类逐一妥善给予奖励这件事本身就极其困难，而且数量上也难以承受，所以想设法用AI把这件事做好。在给予奖励这件事本身上，也正朝这个方向努力，但归根结底，这并不是RLVR，也就是说，目前还不是verifiable的奖励。即便如此，也要设法尽可能把奖励具体化。学术界似乎也在积极进行这类方向的尝试。
崔胜准 也就是说，给LLM提供评分量表来评估的方法最近似乎也被广泛使用，可能也属于这一类。
朴钟贤 是啊。听胜准提到给LLM提供评分量表，我又突然想到，Kimi K3已经推出了，而在Kimi K2时期，通过给这类LLM提供评分量表，让它尽可能详细地进行评估，并成功提升了智能体的性能，据我所知，这也是Kimi K2性能出色的原因。可以说是同一个方向。看起来也很有潜力。
崔胜准 感觉现在差不多要进入今天比较难的部分了。
Dwarkesh × Grant Sanderson：数学与 AI 18:38
朴钟贤 胜准也对这个很感兴趣，所以这是我们决定一起看过之后整理的内容，最近Dwarkesh播客发布了两期节目，其中一期的嘉宾是Grant Sanderson，他因3Blue1Brown这个频道而闻名，是一位数学讲解者，节目把他形容为最优秀的讲解者。这是对一位把数学讲解类YouTube频道运营得极其出色的人的访谈。所以这期谈的是与数学有关的话题，接下来一期则是
崔胜准 Adam Brown。
朴钟贤 Adam Brown，对。他现在在DeepMind工作。他在那里大概正在研究超级智能，他原本是做物理学的。在Stanford研究物理。所以一共发布了关于物理和数学的两期节目，我们想谈一谈看完之后的感受，以及由此产生的一些想法。
崔胜准 不过，你应该也设计了与前面话题相衔接的连接点吧？
朴钟贤 归根结底，如果把数学或物理这样的科学，或者纯研究领域考虑在内，AI究竟能否在这里实现breakthrough，也就是AI能否完成研究，我主要挑选了这方面的内容。归根结底，就是数学的进步。对，没错。数学领域最近传来了很多消息。OpenAI证明某些假设或猜想的案例正在陆续出现，我们似乎认为这些就是breakthrough。这里似乎也包含着这种期待，那么究竟能走多远呢？我看这段视频时
IMO 金牌不等于 AGI 20:13
朴钟贤 感到惊讶的是，开头出现了这样的内容。三年前也做过一次访谈，三年前正是人们频繁讨论AGI的时候。AGI会不会实现，又会在什么时候实现。所以从什么是AGI开始，如果AI拿到IMO金牌，那不就是AGI了吗？也就是说，数学能力特别强，不就代表真的很聪明吗？当时有人这样问，但据说Grant Sanderson当时也表示并非如此。据说他当时是这么说的。那只不过是众多基准测试中的一个。只是在一个基准测试上取得突破，现在的LLM非常擅长这种事，三年前也已经像现在这样，只是恰好攻克了那一个测试而已。那大概并不是通用智能。
但到了现在，AI已经拿到了IMO金牌，而我们并不会因此把它称为AGI。所以Grant Sanderson很有先见之明。这似乎让我们更加专注于他所说的话。
崔胜准 IMO其实是由才华非凡的高中生参加的竞赛。而现在，模型已经能处理本应由数学家研究的数学问题，所以短短一年间确实取得了惊人的进展。
朴钟贤 AI拿到IMO金牌的时候，我也看到过很多类似的讨论，有一家经营GPU集群业务的公司，其创始人曾获得过IMO金牌，那位创始人在Latent Space上说过这样的话。也就是说，IMO金牌只是成为数学家的入门门槛。IMO是在九个小时左右解答六道题。分两天进行，也就是说，充其量只是一个十小时的任务，但我们真正进行数学研究，是一个需要一万小时、数万小时的任务，能否向那个阶段迈进，才是下一个课题，那位创始人是这么说的。
也就是说，虽然这些题目只有人类中极其聪明的人才能解答，但也可以认为它们的规模并不算大。
所以Grant Sanderson说，IMO不为人知的事实是，人们可以为它进行大量训练。也就是说，可以不断尝试解题。
崔胜准 即使是具有新颖性的题目，实际上也是可以通过训练掌握的题目。
朴钟贤 对人来说。对，Grant Sanderson似乎是这么说的。简单地用我所熟悉的世界来打个比方，如果我们要解韩国高考的数学题，只要大量练习历年真题和类似题目，进行充分训练感觉就像能够顺利解答高考题一样，IMO在这一点上似乎也没有什么不同。不过这里谈到的是，目前的AI，应该是以去年为准。去年获得IMO金牌的模型大概也都差不多，数学内部也是分领域的。就像我们现在谈论AGI，但仅仅擅长数学并不能算是AGI一样，因为它有时连其他一些理所当然的事情都做不到，数学内部也是同样isomorphic，也就是说是同构的，数学内部有代数、几何、数论、组合数学这些领域。
其中组合数学题解不出来，其他题却解得太轻松了。所以即使在这里面，也存在独立的尖峰型智能。顺便说一下，所谓组合数学，指的就是排列组合题。
崔胜准 我也依稀记得看过那段视频，如果2024年出了两道几何题，当时它应该就能拿到金牌，我记得Grant Sanderson好像是这么说的。
朴钟贤 是的。所以IMO一共出六道题，但科目有四个，每次的题目分布都不一样。因为当时出了一道组合数学题，所以它错了一道，其他题全都答对了，我记得当时好像拿了银牌。是前年。没错。虽然我对数学的造诣并没有特别深，但我问过这个问题。我问了那些曾经很用功学数学的朋友。结果他们说，即使在人类当中，组合数学专家也是单独的一类人。看来即使在数学内部，也有类似专业的细分。据说组合数学是典型的天才所擅长的领域。他们说这是一个更偏先天天赋的科目。
暂时结束IMO这个话题，继续往下说，那么究竟能不能做出优秀的研究，什么才是优秀的研究，从数学的角度再稍微思考一下这些问题，就会想起过去的一些案例。Dwarkesh在这里也提到了，这里写的是Galois这个人创立的群论，这里是这样翻译的，据说这就是群论。据说在构想出这个群论后，便产生了这些成果。但它真正受到重视，甚至对夸克预测等领域产生影响，据说花了100年。也就是说，一种理论出现后，直到它真正对人类社会产生影响，直到它被验证确实是一项优秀的研究，这个时间尺度极其漫长。那么这种过程就无法反复进行。正是因为这些困难，当前用来提升LLM智能的RLVR，也就是即时给予奖励，并朝着与之相符的方向发展智能的时间尺度，与此相差太远，所以这种方法无法应用在这里。这就是其中一个难点。
Galois 群论与跨越百年的验证时间尺度 24:27
朴钟贤 接下来，还有一点让我印象深刻，Grant Sanderson引用了一句话。优秀的数学家证明定理，伟大的数学家提出好的猜想，
崔胜准 就是某某猜想，有很多著名的猜想。
朴钟贤 是的，比如Poincaré猜想之类的。然后，真正最顶尖的数学家会提出定义。会提出好的定义。他是这么说的。所以，我们当今看待研究的角度，其实还停留在证明theorem，也就是出色地证明某种理论或假说之类的层面。那么AI究竟能不能走到更后面的层次，这最终是我们需要思考的问题，不知道您怎么看？我很好奇您的看法。
崔胜准 我也是，我之所以提议和钟贤一起看这一期Dwarkesh，其实是因为Dwarkesh正在策划这个系列。为什么有些方面做得很好，但有些方面依然做不好，尤其是在科学领域，这些能力为何可能无法取得突飞猛进的发展，他一直紧咬着这个问题反复追问。不过看着这些内容，也许是受到了影响，我现在也仍然抱有疑问。我也很好奇。轮到我时也会介绍一下，在做得好的方面表现得极其出色，而在做不好的方面却始终做不好，这种尖峰型的特征像分形一样不断重复，刚才Grant Sanderson也这么说，我觉得非常准确。容易摘到的果实肯定会不断被摘走。尽管如此，我还是希望在眼前较近的时间范围内，仍然必须有人类参与的这种发展方向至少还能持续五年左右。
朴钟贤 总之，您似乎认为以现阶段基于RLVR的智能提升方法，恐怕很难抵达那么高的层次，看来您是这么想的。我的想法也差不多。
崔胜准 不过正石有一些不同的观点，但正石今天状态不太好，否则肯定会说上几句，大概下次就能听到了。
朴钟贤 观看这段视频的各位，想必也在各自的领域思考着类似的问题，今天我们打算围绕研究，尤其是科学领域，来谈谈这个话题。至于AI究竟能不能做出优秀的研究，我认为完全可以。至于能否像最顶尖的数学家那样提出定义，我不太确定，但我认为它可以做出优秀的研究，因为在Grant Sanderson这一期里也提到了一个案例。数论学家Montgomery和物理学家Dyson谈到了Riemann ζ之类的话题。他们在讨论某个公式时，说这和数学里的某个东西、物理里的某个东西一样，从而发现了彼此之间的某种共同点。
崔胜准 普林斯顿高等研究院会安排一些场合，让非常有声望的学者能够偶然相遇，我记得这大概就是发生在某次午餐时间的轶事。
朴钟贤 是午餐时间，还是喝茶时间，听说是在那样的场合闲聊时提到的。那些我们认为属于截然不同领域的事物，其实完全可能有非常多的共同点。那就是isomorphic的，也就是说我们是同构的，一直在谈论这些。如果认为研究就是扩展人类的知识，那么每个人虽然都很了解自己的领域，但不可能同样了解所有其他领域。可是LLM如果只从知识的角度来看，就能瞬间全部了解透彻。所以，把这个领域中的某个要素恰好应用到另一个领域时，以isomorphic的方式应用时，就可能产生进展。如果充分地从这种角度思考，把其他领域的事物拿过来应用，从而扩展人类尚未发现的知识，是完全可行的。
崔胜准 没错。不过我个人觉得，因为上下文的诅咒，只有在提示词里要求模型这么做时，模型才会这么做。因为如果只是让模型去做，分布就会趋向平均，因此只会说那个领域本来就会说的内容，不会主动借鉴其他领域。只有明确要求借鉴，模型才会借鉴。所以我个人认为，这仍然是人类能够发挥作用的部分。
朴钟贤 听你这么一说，我想到了很多方法，最简单的就是直接在提示词里让模型查看其他领域，也可以特意把其他领域的内容拿来输入给模型，或者从更偏向RLVR的角度来思考，可以从LLM输出的token中，特意挑选熵较低的token，让模型也向其他方向进行探索。
崔胜准 所以关于这类想法，Gwern去年曾以LLM Daydreaming为名，提出过一种让模型在睡眠时连接各种事物的类似概念，总之，通过harness之类的方式，应该也能在一定程度上克服这个问题。
朴钟贤 无论如何，LLM这种东西，归根结底并非不可能做到。在思考这些方面时，因为无论是过去，还是最近做产品时，我都一样。做研究时也一样，我会阅读其他论文，从中获得灵感，想着要不要把这个应用到这里试试，我当然经常会有这样的想法。我认为这些事情是完全可行的，大致就是这样的看法。那么再进一步说说最近这一期，这一期讲的是物理，视频大概有1小时40分钟。其中大约1小时10分钟、20分钟，也就是绝大部分内容，真的就只是
Adam Brown：压缩即智能的观点 30:51
崔胜准 物理学课程。
朴钟贤 就是在讲解相对论。当然，这本身也给人留下了非常深刻的印象，但接下来最终谈的是，那么AI该如何做到这样的事情，讨论的是这类问题。不过，关于物理学相对论的内容，理论上当然非常困难，我个人也认为自己没有完全理解，但我希望大家可以看一看，是因为即使无法完全理解，其中也有很多可以局部理解的内容。目前Grant Sanderson的3Blue1Brown频道上正在连载的视频，好像叫Compression is Intelligence，也就是“压缩即智能”，讲的是这样的观点。
崔胜准 之前稍微谈过熵，看来现在正在把它做成系列。
朴钟贤 好像是三部曲。视频谈到，压缩就是智能，这正是它的核心主题。我也有类似的感受。也就是说，爱因斯坦创立相对论，花了十年还是二十年，是从什么想法出发的，视频对这些内容讲了很多。而我们现在只用一个小时就听完了这些。也就是说，在研究的年代，人们探索各种各样的想法，提出一些假设，进行思想实验，也会真正进行物理实验，在这些基础上积累起来的海量知识，最终被压缩，再压缩，然后以尽可能让我们所有人都能理解的程度，浅显易懂地讲解出来，这件事本身就是智能。3Blue1Brown频道最终所表达的就是这类观点，我建议大家从这个角度去看一看。原来这么困难的东西，也能这样解释，确实会让人产生这样的想法。
崔胜准 不过事实上，无论Grant Sanderson把内容讲解得多么直观，困难的东西还是很难。虽然我很喜欢看，但也无法全部理解。不过刚才只是顺带提了一下，像Galois和阿贝尔这样的人，有一些关于英年早逝的天才们的有趣故事，Grant Sanderson好像也在筹备这类纪录片。似乎在制作某种把数学家的纪录片延伸到AI时代的内容，我也非常期待。
朴钟贤 我一直都会把3Blue1Brown频道推荐给身边的人。因为我个人确实从中得到了非常多的帮助，就我实际工作而言，虽然上学时学过很多傅里叶变换之类的内容，但真正工作中需要使用时，以及研究中需要使用时，我其实并不理解，可看过那个视频一次后，马上就理解了。视觉呈现真的非常强大，我当时就是这么想的。那我先继续说。这里谈到理论物理，归根结底，理论物理的难点之一就是，实验实在太难了。必须让某些粒子以接近光速的速度运动，必须做这些实验，才能逐一观察某些假设，但归根结底，我们只能进行思想实验。在没有实际实验的情况下，不做实验究竟能走多远，就是要把这个任务交给AI。那么，不做实验的AI究竟能把研究推进到什么程度呢？对此，Adam Brown是这样说的：假设我们拥有爱因斯坦级别的智能，假设LLM拥有这种级别的智能，到目前为止，人类历史上一次只有一个这样的人，或者即使一直都有如此杰出的人，数量也没有特别多，对吧。如果把这些人视为LLM，那么我们可以大量制造LLM，让它们在脑海中进行大量不同的实验，所以我们肯定能发现更多东西。只要把问题视为搜索，并向搜索投入计算这一庞大资源即可。能够发现的东西会多得惊人。大致就是这个意思。
没有实验的理论物理与 LLM 的探索 33:44
朴钟贤 而且这篇文章是我把资料全都提供给它后，由Fable 5写的。我逐一审阅Fable 5写的内容时，特意保留了这一点。它用了“乐于浪费”这样的表达。如今被我们认为全都正确的事物中，其实有许多并不正确。在爱因斯坦相对论的案例中，也出现了大量这样的情况。牛顿的万有引力、重力，这些都是我们曾经认为完全正确的事物，其实却存在很多矛盾。视频中也用了大量篇幅，通俗易懂地解释这些矛盾案例。所以找到这些矛盾后，为了弥补它们，就需要新的解释，而对于重新证明那些被认为正确的猜想，LLM并不吝惜这种浪费，因此在做这些事情的过程中，完全有可能找到此前遗漏的东西。这就是刚才最开始提到的Hugging Face复现挑战。因为论文通过了peer review，大家自然都认为它们是正确的，但还是要特意进行复现，以证明它们也可能是错的，这种证伪对于LLM而言，在我们人类看来是一种浪费，但其实并不是浪费。所以可以总结为，像这样，LLM能够充分帮助我们进行研究的切入点，即使在当下也确实存在。
那么说到今后会如何，当然，各个领域的进展速度应该会有很大差异。因此，那些可以完全在脑海中推演的领域，比如数学、理论等，当然应该会率先发展，然后才是需要实际做实验的领域，例如生物或化学，那些必须实际合成或观察反应的研究，当然只能发展得稍慢一些。我想到的大致就是这些。而且眼下能够轻易给予reward的领域，当然会率先发展，其他领域则会慢一些，我觉得这正是Dwarkesh现在做播客时想要表达的观点。这是有局限的。除了RLVR，是否还需要一些其他方法？又或者在之前的系列中，提到pretraining存在局限。continual learning之类的也完全行不通。究竟要怎么做，我们才能达到更高层次的智能？Dwarkesh似乎一直在进行这种脉络下的访谈，这次好像也在沿着类似的脉络展开。
接下来，如果考虑最终的终极目标，对于刚才greatest mathematician所对应的定义，AI能够创造出来吗？这到最后仍会是人类的任务吗，还是会成为AI的任务？关于这些问题，每个人的想法应该都会有所不同。我个人觉得AI应该可以做到吧？我是这么想的。所谓定义，创造出来就行，但它是不是一个好的定义，最终取决于它能否在现实中得到良好体现，并充分解释物理现象和自然现象，如果能做到，它就会成为一个好的定义，所以归根结底，这可能与名为探索的search problem没有区别。如果能够进行某种evaluation，如果能够进行verification，AI是否也能做到这一点呢？不过，我觉得这不会发生在未来2年左右的时间尺度内。这似乎还是很久以后的事，但如果把目光放到10年、20年后，或许可以做到吧？我个人是这么想的。
崔胜准 到2040年，大概到了那个时候，看来什么事情都有可能发生。那么，我们已经听过钟贤的看法了，我也接着谈谈吧？重复的部分就略过一些，我也来讲讲自己的想法。上一期也提到过一次，这是Periodic Labs，也就是原本在OpenAI从事材料、物理等领域工作的人创办的公司，联合CEO Liam Fedus最近正在做这种事。因为需要做实验，所以正在建造工厂。我想起了Liam Fedus发布的这条推文，所以又拿来分享一次。有些领域显然需要通过实验来闭合循环。
所以我看完那段视频并与模型对话后，试着生成了一篇名为《智能自动化时代所剩下的事物》的文章。我在其中强调了几点，Grant Sanderson曾说，智能突破至少有三种形式，我又把Grant Sanderson提到的内容拿来分享了一次。所以，可以像刚才所说的lightning bolt，也就是如闪电一般，把两个不同的领域放在一起，不过这个相对来说比较容易。在如今这个时代。
在智力自动化时代，人类还剩下什么 39:17
崔胜准 是的，没错。没错。但堆起一座新的山非常困难，也要花很多时间，而且无法早早知道它究竟对不对，也很难评价。所以这类成就很难像答对了标准答案那样立即得到评价。它是否真的是富有成效的想法，可能要到几十年后才会显现出来。这是智识突破的三种形态之一，另外一种也挺有意思。即使没有新的概念，也通过推进海量推理得出答案。在形式化证明这一类领域，早已可以在 Mathematica 或 Lean 这类系统中运行自动证明机器，探索那些人类难以理解、仿佛外星数学一样的东西，据说这已经成为可能。Grant Sanderson 曾说过，证明它为真，与判断它是否真的是我们想要的东西，是否是能够改变我们思维的想法，是两回事。这让我想起了他的话。
所以，让人类能够消化理解依然很重要，而他也说过，机器也能很好地解释这类东西。所以这部分也让我有所思考，而且这也与在我们频道里，正石、钟贤和我相互交流有关。要解释什么，什么样的想法值得深入钻研，应该按什么顺序呈现给人们，以及为什么这件事有趣——负责做出这些选择的角色，暂时仍然很重要。
所以，Grant Sanderson 对自身存在价值所作的定位，也让我觉得颇为深刻。所以目前来看，这一判断依然成立，Dwarkesh 也说过这样的话：自己学习困难内容时，虽然也会阅读正文，但让模型来解释后，难度就会一下子降低很多。我也非常认同这种说法。不过，AI 虽然很擅长写这种解释性的文章，却不太擅长创意写作。虽然写得不错，但始终无法突破一定的水平。
朴钟贤 您这里所说的创意写作，是指哪种写作？
崔胜准 比如小说之类的。钟贤上次也说过一次吧。笑话或小说之类的，AI 不太行。
朴钟贤 没错。笑话是真的不行。
崔胜准 没错，一点都不好笑。所以 RLVR 要发挥作用，就必须能够针对最终结果是对是错给出一个标量奖励。这样一来，由于它会对应该包含哪些 token之类的整条路径给予奖励，所以确实能让模型更擅长编程，但每一个 token是否都具有足够的价值，就不得而知了。可是在写作中，每一个 token 都是最终成品的一部分，所以这似乎无法通过 RLVR 解决。
Dwarkesh 说的这番话让我印象颇深。好文章会考虑读者会在哪里停顿、产生怎样的误解，以及必须按什么顺序思考，才能接受下一句话。每一个句子和词语都不只是包装，而正是内容本身。写作不像代码那样，即使表面杂乱，只要结果好就可以——这一点让我颇有共鸣。所以需要有一个判断重要性的层面。
即使在自动化的知识生产中，什么才有价值这一人类问题，尽管有些模糊，也不会轻易消失。因为模型也在不断朝着更善于评审、更善于判断的趋势发展，所以这种情况或许不会永远持续，但 Dwarkesh 和 Grant Sanderson 似乎都认同，它不会轻易消失这一观点。因此，教师的位置似乎也会发生一些转移。有这样一种感觉。所以仍然需要教师，是因为需要社会关系，而不是因为单纯的讲解。他表示，由于教师所做的教育本质上是一种社会性、关系性的活动，因此仍会有一部分保留下来。
最后再读一遍这段话：重要的是辨别哪些问题值得提出的感觉，看见相隔遥远的思想之间联系的能力，以及以长远眼光判断新概念是否真的富有成效。长远眼光似乎很重要。将复杂结果压缩为人类可以理解的形式的技术，以及在知识过剩之中引导人们判断什么值得关注等内容，我把它们从复杂数学的讨论中全部拆解出来，请 Fable 5只留下了骨架。所以我关注了这些要点。
朴钟贤 如果让我把写作和数学联系起来思考一下，我个人非常喜欢小说。可是，什么才是好小说呢？如果问我为什么觉得这个有趣，我很难解释清楚。
再从数学的角度来看，刚才您提到了 Lean，我听说过这样一件事。就 Lean 而言，虽然我也不太了解，前年 DeepMind 在 IMO 获得奖牌时，是银牌吧。当时就是用 Lean 编写代码的。Lean 看起来就像数学公式。它虽然是文字，却看起来像代码，像数学代码，而且听说只要运行一下，就能判断它是 true 还是 false，是这样一种语言。所以有人说，如果学好 Lean，大致也能把数学转化为verifiable的形式。
崔胜准 没错。不过必须先把它全部翻译成 Lean。但好像从今年开始，他们已经不使用 Lean 了。
朴钟贤 没错。所以这里就会谈到当时让大家都感到害怕的Adam Brown 那一期。随着时代发展，无论是使用 Lean，编写数学代码，还是写小说，两者其实都只是在写作。假设LLM是在吐出token，用数学做出了优秀的研究，那个output证明了theorem，但output是长达数百万行的Lean代码。那人类看了以后就很难理解了。这是令人担忧的问题之一。可以说，这就是一部无趣的小说。虽然无法解释，但它确实是真的。
我曾经很担心这一点，但从目前来看，看OpenAI最近发布的一些内容，据说那些内容很容易理解。Adam Brown说了这番话之后，Dwarkesh就说：“那会不会只是对您来说很容易？”虽然有过这样的对话，但不管怎样，以真正聪明的人类为标准，它还没有达到无法解释的程度。也就是说，并不是什么极其艰深的话。看到Adam Brown评价说，那是人类能够接受的解释，我就觉得，从某种角度来看，这是否也接近一部好小说？因为人类阅读以后，能够接受。所以没问题。也可以这样表达吧。
所以从某种角度来看，无趣的小说就是长达数百万行的Lean代码证明，而有趣的小说，则是人类能够解释，也就是读完后能够理解的解释。这也就是Compression is Intelligence。这也与它有所关联：经过良好压缩，把解释变得简单易懂的文章，就是聪明的文章。而且从某种角度来看，那也可能是一部好小说。这些是否也可以这样联系起来呢？最近我一直在思考这个问题。
不过，有趣的小说和容易理解的小说，似乎又不是一回事。所以即使我自己思考这些问题时，分类也并不明确，因此，我觉得现在做不好或许也是理所当然的，但要问未来是否也会如此，我就不确定了。不过，这件事在一段时间内当然还是做不到的。
压缩与智能的脉络，以及 Vintage LM 47:28
崔胜准 不过，说到压缩，这件事其实非常有趣。有一个因谈论AGI而出名的人，也就是让AGI这一概念广为流传的人，就是DeepMind的联合创始人Shane Legg。而Shane Legg的导师是Marcus Hutter。Marcus Hutter会在哪里出现呢？他就是为Wikipedia压缩设立prize的人。看谁能压缩得多么高效。所以压缩正是Shane Legg和Marcus Hutter的研究主题。也是通往AGI的研究。而构成其基础的理念，是一个叫作Solomonoff induction的概念。Shane Legg的博士论文探讨了Solomonoff induction如何汇入这套理论的相关内容。
而Ilya Sutskever也曾在解释Kolmogorov复杂度时，谈到过一次与此相近的内容。所以，虽然我现在也是在自己尚未理解的情况下谈论这些，但那些基础理论中与压缩相关的部分，以及与智能相关的部分，在algorithmic information theory这一脉络中非常重要，我突然觉得，这些正是构成当今AI基础的一些思想。
朴钟贤 是的，我最近也经常有这样的想法。看着AI的发展，尤其是如果我想象自己出生在一千年前，一千年前的某个人和我的大脑能力，应该不会有那么大的差异。但一千年前的人能够产出的output，与我现在能够完成的output却有着巨大的差异，这是因为人类的知识积累起来了。而且正因为这些知识得到了良好的压缩，我们才能通过正规教育课程，在成长过程中以极快的速度把它们全部装进脑中，所以到了二十岁，就已经能够做很多事情了。
崔胜准 是的。因为脑中已经装入了大量脚手架，所以在许多方面，我们都可以把它们当作工具，当作思考的工具来使用。
朴钟贤 是的。大脑的硬件应该没有那么大的差异，所以，把知识压缩好并装入脑中，会不会就是智能的本质呢？我会产生这样的想法。从宏观角度来看。
不过，Ted Chiang曾经说过，LLM是对网络进行模糊JPG压缩的产物，这句话也曾引发过争议。总之，我们先继续往下说。不过，我本科专业是应用物理，其实现在已经离物理很远了。所以我对此并不是很了解。因此那些内容对我来说也不容易，我尝试过的是，把Adam Brown的transcript交给AI，让它把这些内容制作成mnemonic book。先出现对话，然后中间出现一些类似模拟的内容，出现一些可以tinkering的东西，接着到了后面，又出现针对前面内容进行提问的测验，我把它制作成了可以运用记忆术的形式。
接下来，听这些内容时，刚才也提到了Ted Chiang，Ted Chiang在2000年写过一篇作品，其译本标题大概是《人类科学的演变》，里面讲到当meta-human出现时，人类就必须从事考古学。也就是努力理解meta-human所做的研究，其中讲了这样一个令人哭笑不得的故事。这是一篇很短的短篇小说，很有意思。我想到了这件事，而我想用今天后半段时间讨论的是，正如前面所说，我认为Dwarkesh是经过执着的策划后，才投入这一过程的。所以，RLVR或许唯独在科学领域尤其薄弱。这是今年5月发布的一篇blog文章，Dwarkesh先抛出了这样的策划方向，然后实际寻找合适的interviewee，在采访过程中，既有Michael Nielsen，也有从事这类科学研究的人，还有讲解数学的Grant Sanderson，按照这一策划把内容一点点提炼出来，是一个非常有趣的亮点。所以，当RLVR不起作用时，会有哪些替代方案呢？我也确实想象过类似的事情。
不过，刚才正好钟贤提到了千年前的古人，对吧。而今年4月出现了一项有趣的尝试。Alec Radford将其称为复古LM，Alec Radford就是创造GPT的人。不过，他只使用1930年代以前的数据，也就是只使用此前问世的文本训练了一个语言模型，想看看使用pretraining和RL之类的方法，是否能够想象出1930年代以后会出现的各种发展，他正在进行带有这种意味的实验。因此，复古LM这一系列正在逐渐形成，我个人觉得很有意思，一直在关注。
我还是第一次听说复古LM，归根结底，如果这里的数据制作得非常好，而它又能实现截至2000年代的技术发展，那我们当然可以据此projection并想象，以当下为基准，它今后自然也能做到，对吧。从某种角度看，这似乎也可以算是一种证明。所以我觉得，观察这件事本身就会对预测未来大有帮助，而且根据这个结果，人们的想法可能会改变，实际行动也可能随之改变。
崔胜准 是的。所以我只是想介绍一下，像这样联系起来看，似乎存在一些有趣之处，接下来，最近正在发生的构成RLVR根基的理念其实非常古老，从Ronald Fisher的score function理念开始，那已经是非常久远的事情了。不过，REINFORCE算法本身的问世好像是在1990年代初。统计学中的score function出现在1900年代初，也就是20年代，随后Williams等人提出的policy gradient则出现在1990年代初。就这样，利用奖励进行强化学习的理念，也就是如今LLM所采用的RLVR的基础理念，其实很早就已经出现了。
RLVR 与能够自我微调的模型 52:49
崔胜准 所以按照我的理解，如果非常简短地解释一下，这里的x是条件概率，当存在x这个条件或输入时，有一个能够输出y的模型parameter theta，它会给出概率。而所谓score function，归根结底就是求概率取对数后的gradient。所以，为了让它做得更好，如果从系统外部，也就是模型外部给予奖励，即使计算图没有连接起来，因为也只是给这里乘上一个scalar，所以就能改变分布。
因此可以朝着优化objective function的方向发展，而它能在LLM中奏效，是因为LLM会输出概率。输出token的概率logit后，就会得到概率，而从这个概率中会得到vocab。某个token会以百分之多少的概率出现，我们从中取排名靠前的一定百分比，然后进行next-token prediction，token的数量归根结底就是action space，所以能够强化LLM以概率方式输出的内容，而在RLVR中，先连续写出代码，然后由外部的验证器运行测试并告知代码是否有效，就可以把这个结果作为reward R输入，如果这些token的整条轨迹有效，就全部赋予高概率，如果无效，就赋予低概率，而DeepSeek介绍的GRPO之类的方法，会先设置这些结果的平均baseline，然后进行相对评价，对表现高于平均水平的给予正值，对低于平均水平的给予负值，以这种方式强化轨迹本身，对吧。
所以大致理解这一点之后，我就明白了Dwarkesh所说的，归根结底，至于哪些token会表现得更好，当然最近的研究也在做这件事，但因为无法保证，所以只要能够运行即可，因而它不适用于写作；类似地，还有哪些事情做不到呢，就是那些答案不唯一的事情，这个答案可能正确，那个答案也可能正确的事情，以及这些事情所蕴含的意义。这些依然无法通过RLVR来完成，而这类问题往往存在于设计或艺术领域。
朴钟贤 对，我在这里稍微说明一下，那个x就是input text，也就是prompt，而y就是output token。然后pi是LLM，
崔胜准 也就是产生那个概率的东西。theta是LLM的parameter。
朴钟贤 theta是LLM parameter。所以其实那个y并不是单个token，而是会连续输出N个，N个连续输出后，假设最终是在解一道数学题，那么无论解题过程怎么写，只要最后解对了，就会认为整个解题过程大概都是正确的，并整体提高其概率，因此至于解题过程写得有多简洁、写得有多漂亮，对这些方面就很难正确地进行RL，这也可能导致前面提到的那种长达100万行的Lean代码被生成出来，这似乎也与此前担忧这些问题的语境相通。
崔胜准 没错。不过最近的研究正试图逐一指出并处理这些问题，比如使用各种regularizer，或者通过各种技巧进行hacking，但从根本上来说，我仍然感觉目前还处在这个regime之中。
朴钟贤 就是在reward中加入这些要素。比如用多短的解题过程得出了答案，也会采用这类指标，我最近也在尝试做设计。因为我个人是工程师，当然不懂得如何做好设计。所以我是怎么做的呢，YC有一段内容展示了他们如何使用AI进行设计。如今我们平时浏览网站或者看PPT时，一眼就会觉得那是Claude做的设计，这个一眼就能看出来。但看了YC做的东西之后，完全看不出那些痕迹。我就想，他们到底是怎么做的，才能不只是感觉相似，而是把这种感觉截然不同的设计也做得这么好，所以我正在努力模仿他们的做法。
不过归根结底具体要怎么做，还是有点复杂。要制作soul，也要制作mood board，还要做诸如此类的各种事情，但最终还是由人来selection。所有属于taste范畴的行为都由人来做。做完之后，再把它作为input输入进去。也就是taste。然后当N种output design生成出来后，
他们还会从中再次selection。也就是说，对于可能存在多个正确答案的事情，他们的做法是让human进入这个loop，然后这样迅速地逐一pick。所以，对于taste，也就是偏好方面的事情，目前好像依然必须这么做。归根结底，那是人的偏好，是创作者的偏好，所以很难像魔法一样一下子生成出来。
崔胜准 显然不是通过制作模型来实现，而只是在text层面进行。
朴钟贤 虽然也算是image层面，是image或text层面，但无论如何，都是token level。因为image也会以token的形式输入。
崔胜准 当然也有克服这个问题的方法，但目前还不够优雅。
是的。这是其中一个今天想介绍的内容，但即便如此，依然有很多表现很好的领域。所以我也很有意思地读了这个，Anthropic不是收购了Bun嘛。所以在7月8日，他们介绍了把一个约有100万行代码的大型项目改写成Rust的近乎成功案例的故事，这个也很有意思。有趣的是，要运行这个项目，还是需要专家花大约3小时，把自己掌握的知识全部压缩起来，制作出完善的规格，然后再运行才能成功，并不是直接就能做到。即使使用agent swarm也是如此。所以这一点给我留下了很深的印象，具体内容要详细得多，也更长、更有趣。
开放权重模型不是已经发布了嘛。所以TML，也就是刚才提到的John Schulman参与的TML，发布了一款叫Inkling的模型，接着是Kimi K3，刚才也提到过的Kimi K3也发布了。Inkling比较有意思的一点是，在英语中，Inkling，这里的主视觉图也确实是墨水的痕迹，我也查了一下它的含义，据说核心语感是模糊的线索、预感。所以这意味着现在才刚刚开始。看起来他们也以开放权重的形式发布了一个规模接近1T的模型，给人一种这是他们开始用它展示某些东西的预告片的感觉。
最有意思的部分是，一位叫朴载雄的人在博客中整理得很好，也就是自我微调。Lilian Weng发布了《Harness Engineering for Self-Improvement》，而他们介绍了自己正在做的事情，作为对那篇文章的实践版本，我觉得这一部分是核心。
总体来看，就是进行微调，将其部署到他们自己的基础设施Tinker上，对模型本身进行微调，这里出现了一个有趣的例子，就是微调模型，让它说话时不使用e。文学领域有一种创作方式，就是不使用e。这是乌力波等团体经常进行的实验，叫作lipogram，也就是在不使用小写e或大写E的情况下进行创作。而他们就是针对这个进行微调。
朴钟贤 那么现在就是连接名为Inkling的模型，运行OpenCode，
崔胜准 对。也就是微调它自己。
朴钟贤 那么输出token就会逐渐发生变化。
崔胜准 这种为了某个特定目的对自身进行微调的RSI部分挺有意思的。
朴钟贤 首先，开发那个Inkling的Thinking Machines Lab，也就是TML，本来就是由许多非常知名的人士聚集在一起创办的，OpenAI前CTO Mira Murati离职后创办了它，刚才提到的John Schulman也是如此，Lilian Weng也是如此，除此之外，还有很多知名人士。所以大家一直非常期待，但有一段时间始终没有发布模型。
崔胜准 模型没有发布，只发布了一些基础设施和论文。
朴钟贤 是的。推出了微调服务之类的东西，最近还发布了一个omnimodality模型，那个也让我印象很深。
崔胜准 此后，他们不断发布与自我改进相关的文章。所以除了TML之外，还有一家我第一次见到的机构，叫作AIDE²，他们的自我改进不是通过模型权重实现的，这个好像属于harness方面。不过现在这两种方式混合在一起了。有对harness进行自我改进的方式，如果那个harness是会更新模型权重的Autoresearch类harness，那么就会给人一种模型更新同时在两边发生的感觉。至于那款Kimi K3，
我还没有实际使用过，只看文章的话，确实很厉害。博客对技术内容也介绍得相当不错。虽然我已经把这个翻译好了，但实际运行起来可能并不容易，不管怎样，这都是一件具有里程碑意义的事情。
朴钟贤 首先，它的规模确实大到个人很难运行，但这么大规模的模型能够以开放权重的形式发布，本身就是一件非常鼓舞人心的事情。当然，因为众多GPU云和neocloud厂商都会运行并部署它，还会通过 OpenRouter 提供，
崔胜准 至于有什么技术上的 breakthrough，单看这些还不太清楚，Kimi K3当然也是走MoE路线的，刚才提到的Inkling也公开了其MoE相关的所有内容。感觉他们做得很好，甚至还说自己在做芯片设计。中国这边在芯片方面受到限制，但他们也在做芯片设计。从Kimi K3身上似乎也能看到这方面的内容。
每一项内容都经过了精心制作，或者应该说，能看出他们要求精心制作的痕迹？甚至连视频剪辑也是，提前一天先发布了预告片。而且他们还提到，那支预告片本身就是由Kimi K3剪辑的。
Satya Nadella和Demis Hassabis的推文也挺有意思，不过相比Demis Hassabis说的内容，Satya Nadella提出的逆信息悖论似乎更有一些值得思考的地方。在智能时代，企业该如何保护自己的核心知识资产？虽然大型科技公司承诺不会将其用于学习和训练，但使用模式本身也会成为数据，不是吗？而这本身就是非常强有力的信息。所以他提到的逆信息悖论引发了很大的讨论，我觉得其中有一些很值得思考的点。Demis Hassabis所在的Google目前似乎有点为难。
朴钟贤 而且最近模型出现得实在太快，从各处不断冒出来，所以我们也会因此时喜时忧，但只要把时间框架拉长到以年为单位，从年度尺度来看，很多公司其实都追赶得相当不错。Gemini上次发布的时候，获得好评的时期也持续了相当久，所以只要再等一等，即便有什么问题，应该也都能解决好，再推出不错的成果吧。尤其Google拥有大量数据，硬件也准备得非常充足，所以很难想象Google
崔胜准 会追不上，不过还是希望他们能加把劲。我想只要保持耐心，再稍微等一等，应该就会有成果出来了。那么GPT-5.6用了一周，感觉怎么样？
实际使用体验：GPT-5.6 与 Minecraft 代理 65:26
朴钟贤 我试用了一下，昨晚运行的任务超过10个小时还没结束，所以我直接把它停掉了。的确存在这种情况。它会运行得非常久，正如正石提到的，它专注于test-time compute这一点，似乎也以这种形式体现了出来。
崔胜准 不过有意思的一点是，最近我在制作Minecraft相关的这些东西时，一直抱着Fable 5更擅长的先入之见在进行开发。像这样，我在这里下达指令后，模型就会操控机器人，而这个机器人也是模型制作的。一般都是让机器人执行任务，但我想知道它卡住的地方为什么会卡住，所以我用机器人使用的命令制作了一个能让我亲自操作的界面。而它完成得相当不错。
不过在用Fable 5制作的过程中，我一直让Sol来做审查。Sol每次都会非常严厉地审查，不断指出这里错了、那里也错了，结果Fable 5还真向它屈服了。所以我试着把主导权交给了Sol。交给Sol之后，因为我习惯以HITL的方式不断来回沟通，所以会边聊边做，但它审查Fable 5时，倒没有像Sol那样咄咄逼人。而是什么都接受。所以我也感受到，Sol在这种节奏下确实做得不错。
朴钟贤 那么刚才在Minecraft里让它“去这里”之后，机器人走着走着，好像已经到了某个地方，这些都是Sol和Fable 5制作并让它运行起来的吧？
崔胜准 是的。不过其中解决的一个难题，是在大规模加载区块时，该如何对其进行流式传输，这方面的问题比较困难。Fable 5做的方案出了差错，是Sol把它解决了。最近我就在尝试这样使用它们，但说实话时间实在太少了。钟贤怎么样？为了准备YouTube之类的内容，既要看新闻，又有很多东西要读，还得过日常生活。
朴钟贤 是啊，毕竟还有本职工作。
崔胜准 是啊，光是让它编程就已经感觉时间不够用了。
朴钟贤 我也是。
崔胜准 所以现在全都改成远程操作了，即便在手机上也能做，但还是存在抽不出太多时间的问题。今天结尾稍微打个广告，正如我提过几次的，我会在以Toss创办的设计学校而闻名的Pi Design School教授AI课程。
制作Minecraft智能体时，既有在循环之外制定规格并运行的工作，也有进入循环内部，即使我不懂Rust，也会一边理解当前算法的核心部分，一边参与其中的模式。我认为这两种模式应该来回切换，两边都亲身体验一下。
所以我正在做这方面的教学，面向想做设计、想学习设计的人，除了我负责的课程之外，还有一些很有意思的课程，所以就在这里宣传一下。
朴钟贤 听胜准介绍后，我也进去看了一下，虽然我对设计完全不了解，但如果想把设计做好，确实让我产生了想去的念头。
崔胜准 是啊。开发者们也会申请。不知道是在考虑与本职工作的衔接，还是因为职业转型而犹豫，即使没有设计基础的人，也有人申请预备课程的第一期和第二期，不过学费确实很贵，几乎相当于大学学费。是啊。看来确实需要投入一笔不小的资金。不过，设计领域非常有名的人士和高手们似乎也会一起参与。我原本打算开设一门能够涵盖这些思考的课程。今天感觉怎么样？我们把一直拖了又拖的内容一路讲了下来，一直讲到了Dwarkesh与Grant Sanderson、Adam Brown的那几期节目，都涵盖了一遍。
结尾 69:51
朴钟贤 首先，今天聊的似乎并不是商业话题，更像是一次把思绪尽情延伸到很远的地方，尝试天马行空的构想并彼此分享的时间。我个人本来就喜欢这些，所以也喜欢做这样的事。
崔胜准 那今天就到这里吧？
朴钟贤 好，辛苦了。
崔胜准 很有意思。
朴钟贤 谢谢。