EP 103
理解がボトルネックになるとき
帰ってきたFableと初めての使用感 0:00
ロ・ジョンソク 収録している今日は、2026年7月4日土曜日の朝です。今回、Fableが戻ってきましたね。それで皆さん、Fableを使うのに大忙しです。
チェ・スンジュン ちょっと使ってみましたか？どうですか？
ロ・ジョンソク 私の場合、利用する領域がすべてガードレールに引っかかります。生物学関連の話を少し持ち出しただけでも必ずすべてOpus 4.8に切り替わります。そういう話が入っているものが最近の私の主要コンテンツなので、引っかからないものがないほど、ほぼすべて引っかかります。私は最近構築しているプロジェクトがあるので、
パク・ジョンヒョン コーディングを少し回してみたのですが、トークンが本当にあまりにも早く減るので、一度、一通りレビューさせたんです。果たして間違いを見つけられるのか、私が知らなかった間違いがあるのかと思っていたら、本当に30分でエージェントを一斉に動かし、5時間分のクォータをすべて使い切ってしまいました。
ロ・ジョンソク Maxの5時間分のクォータを30分で使い切ったということですよね？
パク・ジョンヒョン 実行自体はUltraで行いましたが、エージェントを同時にたくさん立ち上げたので、30分ですべて使い切ったようです。
チェ・スンジュン そのエージェントもFableエージェントですか？低性能モデルのエージェントですか？それは私が指定したわけではありませんが、
パク・ジョンヒョン おそらくすべてFableで立ち上げたようでした。私は確認してはいません。実際、明らかに良いですか？使ってみて。ひとまず、私は本当によく分かりません。きっと良いのでしょうが、レビューしてくれた内容をすべて正確に追うほうがむしろ遅いので、ひとまずできるだけたくさん回しておいています。人間の認知が追いつかない状況になっているんです。
ロ・ジョンソク わあ、これは2倍良い、3倍良い、という感じではありません。私は、Opus 4.8でも解けず、
チェ・スンジュン GPT-5.5でも解けなかった問題を、昨日いくつか解いてもらえました。それから、タイムラインには意図的に選び抜かれた見事な事例が相変わらずたくさんありました。そこで今日は、そうした見事な事例を紹介するというよりは、ひとまず方向性について話そうと思い、さまざまなタイムラインを見てみました。この前までどれほど息つく暇もなかったかというと、2025年11月24日にOpus 4.5が登場しましたが、私たちがずっと追ってきたように、このようなリズムで登場し、今回は話題になる出来事があった後に再登場した状況です。その間にSonnet 5も登場しました。結局、リソースが豊富な人たちは常に最高のモデルを選んできたので、
フロンティアモデルのリリース周期 2:02
ロ・ジョンソク 当然、より多くのお金を払ってでも最高のモデルを選ぶでしょうし、そうでない人たちにとっては、現実の多くの問題がOpusやGPT-5.5程度の水準でも解けるものが多いので、企業側としても一度実験を仕掛けているのではないかと思います。収穫逓減については前回、私たちも話しましたが、
チェ・スンジュン 収穫逓減を感じるなら、あえてもっと高価なモデルを使う必要もありませんし、企業側としても実験を仕掛けているのではないかと思います。自分に合った問題を適切な水準のモデルで解決すべきですが、これからはもう少し慎重に選ばなければならない価格帯への突入時点なのではないかと思いました。私も実感しているのは、
パク・ジョンヒョン 私がどんなふうに言っても、明らかにはるかによく理解してくれる。だから仕事がうまく進むように思える。そういう感覚は確かにありますね。
ロ・ジョンソク それに合わせて、私たちの期待も上がり続けます。以前うまくできていたことが少しできないだけでも、今では腹が立ちますよね。それで、私が最近試していた
難しいバグと急速な使用量の消費 3:20
チェ・スンジュン Minecraft内でエージェントを作ることが、ほかのエージェントを作る際にもすべて応用できそうだったので、1か月ほどずっと取り組んでいたのですが、Opus 4.8でもできず、Codexでもできなかったことを昨晩Fableに任せた後で驚いたのは、それをするのに、あっという間に20%を使ったことです。Fableの全使用量のうち、1つか2つの問題を解いただけなのですが。
ロ・ジョンソク 具体的に解決した作業は何ですか？非常に難しい問題だったのですか？ほかのものでは解決できず、毎回何時間もさまよっていたバグがあったのですが、
チェ・スンジュン そのバグを、これまでほかのモデルは認識すらできなかったのに、Fableはレビューで見つけ出し、そのうちいくつかを解決しました。全使用量の20%を使ってしまったので、これはいけないと思い始めた頃に、Simon Willisonが投稿したんです。AI EngineerでClaude CodeチームのCat WuとThariq Shihipar、最近この方もXで盛んに活動していますが、そのお二人がfireside chatをしたそうです。そこで、こんな話が出たそうです。これがFableに与えたプロンプトです。すべてのコーディング作業について、適切な低性能モデルを自ら判断して選び、それをサブエージェントで実行して。と指示したところ、Sonnet 5である作業を行い、より小さな仕事はHaikuに任せ、うまくやり遂げた。
モデル選択を任せるサブエージェント 4:16
チェ・スンジュン そしてFableはこれを自分のメモリに、ユーザーがこのように話したと記録しました。理由はコストと効率性のためだ。実装作業に最高のモデルが必要となるケースはまれだ。判断、レビュー、統合はメインループに残しておく。Fableにどのように作業すべきか細かく指示するよりも、Fable自身に判断させるべきだ、という話だったそうです。最近Anthropicの技術スタッフから出てくる話に共通して登場する内容なんです。以前は私たちがプロンプトと仕様を、もちろん、その仕様自体もAIに作らせはしますが、綿密に作り、それを正確に実行したか確認するのがハーネスですよね。それをやれ、そこから外れるな。ところが今のFableクラスでは、自ら判断させ、細かく指示するなということです。実は、人間よりAIのほうがうまく設計し、計画できるという意味ではないでしょうか？スンジュンさんが今読んでくださった話は、数か月前、
判断と実装の役割分担 5:50
ロ・ジョンソク 約6～7か月前にしていた話とまったく同型なのですが、Opusが非常に高価だと思われていた頃、判断はOpusにさせ、コーディングはSonnetにさせろと言われていた当時のやり方とまったく同じなんです。その後、その間にMaxプランのようなものが登場し、Opusが体感的に少し安く感じられるようになって、今ではすべての仕事をOpusで行う世界になりましたが、そういう観点から見ると、今後Fableの価格が人々にとって負担となる水準にとどまり続けるのか、それとも、ここでもフロンティアラボ間の競争やほかの技術的進歩によって、下落するトークン価格の曲線に乗るのかが、注目すべき点になりそうですね。
AnthropicとOpenAIのアプローチの違い 6:45
ロ・ジョンソク ただ、その進歩が起きる周期は似ていますね。私が抱いている印象としては、AnthropicとOpenAIは、哲学が少し違うように思います。Anthropicはthinking tokensにそれほど大きな比重を置いたり研究したり、あるいはサービスでもthinking tokensをHighに上げるかMediumにするかによって、何かが劇的に変わるという感じよりも、モデル自体にどうすれば一発で仕留めさせられるかという部分に比重を置いているように感じます。ChatGPTは依然としてtest-time computeに非常に大きな期待を寄せているようです。
GPT-5.5もGPT-5.6もそうですが、実験的に、あるいは検証を通じて下位にある小規模なモデルでも、十分に長いtest-time computeを投入すれば性能が非常に良くなることが分かっているじゃないですか。では、そのモデルがtest-time computeを投入しながら緩やかに上昇する曲線における単位コスト当たりの成果と、Fableのような大規模モデルが一発で短いトークン数のうちに生み出した成果、結局、その間のトレードオフにおいて、私たちは商業的な岐路に立つことになるような気がするんです。
私は、どうせ10Tモデルのトークンが返ってくるまで時間がかかるのも、あるいは、あちらでthinking tokensをたくさん使うのも、あちらのほうが良い場合もあるのではないかと思うんです。会社に置き換えてみると、一人の天才が一気呵成に終わらせる仕事もあれば、そこそこの人が十人いてこそ、うまくいく仕事もあります。それは仕事の特性に応じて、社長が機転を利かせるべき領域じゃないですか。この問題も、それと少し似たものになりつつあるように思います。ユーザーの立場からすれば、選択肢が多様になるのは良いことではないですか？
チェ・スンジュン この仕事にはこのモデルを使い、あの仕事にはあのモデルを使えばいいわけですから。
ロ・ジョンソク さらに、中国モデルという選択肢まで生まれつつありますからね。
認知的負債と新たなボトルネック 8:49
チェ・スンジュン ジョンヒョンさんがおっしゃったのは、生成されたコードをレビューするときに認知的負債があるようだ、ということでしたよね。ところが、最近タイムラインで見かける方法の中に、それに関連した、かなり面白いものがあったんです。これは出たばかりの話ではあるのですが、結局、モデルの性能が向上し、物事が進み、うまく生産され、解決されている一方で、自分はそれを理解したうえでやっているのか、ということです。人間の認知に関する問題も、今かなり取り上げられています。
そこで、先ほども言及されたThariq Shihiparという方が、これは今日の明け方か昨日に出た図だったと思います。そこで「自分の未知のものを見つけ出す」と題して、Alfred Korzybskiの「地図は領土ではない」という言葉を引用しながら、自分がこれをどのように理解し、仕事を成し遂げたのかという方向で面白く話を展開していました。地図と領土の間にある差を、私は未知のものと呼びます。Claudeが未知のものに遭遇すると、私が何を望んでいるのかについて、最善の推測に基づいて判断を下さなければなりません。やるべきことが増えるほど、Claudeが間違える可能性のある未知のものも増えます。ですから、私は先ほど人間を中心にお話ししましたが、
地図と領土の間にある未知 9:29
チェ・スンジュン 今見ると、AIにもまったく同じように当てはまる部分がありますね。そのため、Fableの作業品質は、私がその未知のものをどれほど、どれほど明確にできるかによってボトルネックが生じる最初のモデルです。理解が新たなボトルネックだという、相通じる一文のように思います。これも面白いですね。それらをいつ使うべきかについての直感を養うための内容だということです。
そこで、自分の未知のものを知る。これはよく知られている4象限ですよね。1950年代にはすでにNASAや国家安全保障の分野で言及されていましたが、2000年代初頭にDonald Rumsfeldという人物が使ったことで有名になりました。ただ、Donald Rumsfeld自身はknown knowns, known unknowns,unknown unknownsについて語り、unknown knownsについては語らなかったそうです。ところが後に、これが哲学者によって追加され、全部で四つとなり、4象限が大きな話題になったのですが。それを踏まえて、Claudeがこのような状態にあったなら、氷山の水面下の部分を明らかにできるよう手助けしなさい、という形で、finding your unknownsに使う方法などについて語っていました。Fableが登場してから、
パク・ジョンヒョン この未知のものをうまく扱うことがボトルネックだと書かれていましたが、Fable以前も、私は同じだったように感じていたんです。なぜFableが登場してから、この未知のものが、より大きなボトルネックになったのか気になります。思考がより深くなった、と言いたいのだと思います。
ロ・ジョンソク 私たちはFableについて、こんなに大騒ぎしていますが、また6か月後にはClaude Fable^2 が登場するかもしれないじゃないですか。次世代の20Tモデルが登場する可能性もありますが、そのときも、おそらくまた非常に同型的なこのような話をしているでしょう。この話も、ある意味では今Fableによってcontextが再び合っているだけで、7～8か月前、6か月前のOpusとSonnetの間の話に当てはめても、当時も当てはまっていたじゃないですか。
チェ・スンジュン では、今すでに二度出てきたということは、これにはパターンがあるということですね。前の文脈にもパターンがありましたし、今ジョンヒョンさんがまさに指摘してくださった部分にもパターンがあるので、これがいつまで有効かは分かりませんが、続いていく可能性のあるパターンだと考えることもできますね。結局はリピート記号を付けて、また元に戻ってくる部分なのかもしれない、と考えるようになりました。これは実装前、実装中、実装後という三つの段階に分けて、その後に話が展開されるのですが、私が面白いと思ったのは、実装後にクイズを受ける部分です。一度、順番に見ていきましょう。死角に対する自覚、
実装前後の理解を支える仕組み 12:37
チェ・スンジュン 自分が今認識できていないことを、どう認識するのか。それをFableであれ、ほかのモデルであれ、一緒にアイデアを出し、プロトタイプを作ってみること、そのための具体的なプロンプト。それでも未知のものが残っている場合は、インタビューを受けるわけです。Claudeに、未知のものや曖昧な部分について私にインタビューしてほしいと頼み、質問を受けるために使い、結局、専門家へのインタビューやCTAなどで使われるCognitive Task Analysisという領域もあるのですが、そこで行うことをモデルと一緒にやるような感じでしょうか。そして計画を立て、ノートを作り、実装中の段階に入ります。実装ノート。結局、最近の私たちは、
ほかの方々もおそらくそうだと思いますが、無限に圧縮しながら使っていますよね。圧縮し続け、contextを圧縮し、一つのセッションで使い続けるようになります。やっているうちに、インターフェース自体がそれを促すんです。そこで、何らかのノートをLLMウィキ形式にするにせよ、HTMLにするにせよ、拡張された脳のように、モデルにもそのような記録作業をさせるパターンを紹介しています。実装後は、このようにしてほかの人も説得しなければならないので、あるいは、ほかのモデルも説得しなければならないので、説得用の資料を作ることもします。
レポートとクイズを通じた学習 14:20
チェ・スンジュン 私が最後に見たのは、Dwarkesh Podcastの回を私たちが5月初めに取り上げたときにも、フラッシュカードを作るのが印象的だったじゃないですか。学んだことをフラッシュカードにして、自分自身に質問させる、Ankiのように使う部分がありましたが、ここでThariq Shihiparも、このようにpromptingしたそうです。「この変更で起きたすべてのことを、私が正しく理解できているか確認したいです。変更内容についてのHTMLレポートを作成してください。私が読んで理解できるよう、context、直感、実施された作業などを含め、一番下には、私が必ず合格しなければならないクイズを入れてください。」
私はこの部分を全体の内容の中で、自分の関心事として捉えたんです。今が重要な時点だ。なぜなら、こうしたことを結局、人間がsteeringし、orchestrationする最終責任者である状況において、成果物は出てくるものの、それがどのように生み出されたのかを本当に知らなくてもよいのかという疑問が、ずっとあったからです。ただ、それについては賛否両論があるようです。知らなくても、うまく動けばいいのではないか。しかし、そうなった場合、ここに負債が積み上がっていくという立場もあり、例えばMitchell Hashimotoのような人も、そちらの立場ですね。その部分を、人間の認知能力を高める取り組みとの関連で扱ったのが、今回の記事でもあります。
では、これをドッグフーディングとしてThariq Shihiparがどう実践したのかというと、Fableをリリースする際、そのローンチ動画をこのような思考法を通じて作ったということです。Thariq Shihiparが登場する動画があるんです。FFmpegのようなものを知らない状態で、この動画をどう編集したのか。そのため、こうしたものもおそらくすべてAIを使ってスライドを作り、ElevenLabsのようなものを使って作業したのでしょう。さらにカラーグレーディングに関することまで、自分が知らないことをClaudeに教えてもらい、理解できるようにすること。Claudeにカラーグレーディングについて教えてほしいと頼み、自分にとって未知だったことを発見し、解決した。
だから「地図は領土ではない」という言葉は、地図に抽象的に表現されたものが実際の領土をある程度反映してはいるものの、それ自体ではないということですよね。そのため、それをより緻密に一致させていく文脈で紹介されたのだと思います。お話を聞いて思い出したのですが、
コンテンツの圧縮と失われる理解 16:45
パク・ジョンヒョン 最近YouTubeに動画をアップロードするとき、クイズも一緒に投稿できることをご存じですよね？ そういう機能があるんです。
チェ・スンジュン そうなんですか？ それは知りませんでした。
そうなんですか？ それは知りませんでした。YouTubeに投稿するとき、クイズも一緒に投稿できるんです。ところで、私が視聴者としてYouTubeを見るとき、最近はYouTubeにGeminiが付いていて、内容が長すぎるとそのボタンを押して先に要約を見てから、YouTube動画を見るんです。AIと対話するだけでなく、私たちが消費するコンテンツ自体を圧縮して自分の頭に入れるという行為を、よくするようになります。その代わり、動画を非常にたくさん見ても、細部は見落とすという状況が起きます。そのため、そうした文脈からも、
パク・ジョンヒョン YouTubeがクイズのような機能を提供しているのかもしれません。こうした機能が実際のサービスにも組み込まれていて、クイズを解きながらYouTubeを見て、私たちが学びたいことをすべて学べず、見落としてしまうのを防ぐ仕組みも一緒に登場していること自体が、「理解が新たなボトルネックだ」というこのテキストの文言によって、私たちの時代を表しているのではないか。YouTubeにクイズ機能が突然できたことを思い出しました。そうですね。つまり、摩擦を加えることが人間の脳には本当に必要ですよね。
チェ・スンジュン 摩擦がなければ、学習できませんよね。「理解が新たなボトルネックだ」というツイートが、最近7月にまた投稿されていたのですが、この方はNotionにいる方だったんです。かなり長い文書です。先ほどThariq Shihiparが話したことの拡張版とでも言うべきでしょうか？そこで、これを今、人間がどのように学び取るべきなのか。今、このように膨大なコードにdiffが生じているのに、それを自分がどう把握して作業するのか。教育での学びや昔のコーディング教育、さまざまな試みを見ると、マイクロワールドというSeymour Papertの昔の概念のようなものを、この方もMIT CSAIL出身だったんです。そのため、そちらの歴史をよく知っているのだと思いますが、パーソナルコンピューターに関連して、Explain Diffという、diffについて説明するskillをこの方が作って公開しました。
人間の理解を助けるツール 18:00
チェ・スンジュン そのskillを使えばNotionページにもできますし、HTMLにもできるのですが、この方はそれを印刷して持ち歩いているんです。いつも持ち歩きながら、それを見るために。人間の時間と脳を使う良い方法ですよね。メモもしながら取り組んでいます。もちろん、これだけでなく、ここにインタラクティブな作業を加えて、その概念を理解できるような何かを作ることを、自ら開発しながら進めています。Andy MatuschakとMichael Nielsenが量子コンピューティングに関するものを紹介するとき、ニーモニック技法を使い、文章の途中でクイズを出す方式なんです。ここでクイズが登場します。それを理解した状態で仕事をさせる、
これもクイズをAI loopの速度調整装置として説明しているスライドの部分ですが、成果物が出てきたら、それが正しく進んでいるかを自分が従来の感覚でも判断できなければならないはずなのに、今はあまりにも多くのことが起きて、認知的負債が積み上がっているため、その認知的負債を解消するツールをドッグフーディングしながら、作り上げている時点なのだという認識を持ちました。興味深い話です。パーソナルコンピューターやコーディング教育の歴史に関する話などが出てきて、このようにダッシュボードまで作り、そうした話がずっと展開されました。
それでタイトルが「It’s mportant for Humansto Understand How Things Work」です。これが最後の締めくくりの部分です。核心は常に拡張だった。Alan Kayの話もしながら、締めくくられました。そして最後の部分を読んでみると、「この点から、私は未来について非常に楽観的です。私たちが正しいツールを作れば、私たちはこれまで以上に世界を深く理解できます。私たちは、ただループから抜け出す必要があるわけではありません。むしろ、ループの中へさらに深く入っていくこともできます。それは私たち次第です」これは少しひねりを加えた表現ですよね。
最近言われているloop engineering、つまり、ループを構成するハーネスを作っておいて、モデルが自動で次々とやり遂げればよい。人間はループの外にいればよいということではなく、ループの中で根底で起きていることを深く理解し、自分の能力を高めるうえでも、現在の方法論が通用するというそんな印象を受けました。では、ここまで一気に進めてみて、これは私個人の経験なのですが、ここでこのテーマについて少し話していきましょうか？ただ、こういう時代を少し分解するとでも言うのでしょうか？
繰り返される業務のフレームワーク 21:34
ロ・ジョンソク 分解して、それを解釈する枠組みを作る試みは、永遠に続く流れのように思います。私たちが仕事を初めて学ぶ新社会人の頃は、学校での勉強だけを終えて社会に出ますが、仕事に直面すると、自分には知っていることがあまりないという思いから、どこかのコンサルティング会社が作ったフレームワーク、何とかというフレームワーク、ある本が教えてくれることなど、数え切れないほどのフレームワークを学び、そうしたテンプレートが自分のPCの中にきちんと整理されていることが、仕事をするための準備だと考えるようになりますよね。
ところが、ある時点で現実の問題を何度か経験すると、そうした形式論から抜け出し始めるんです。私たちが今、AIとどうすればうまく仕事ができるのか、AIにはどんな特徴があるのかと話すこと自体が、私はHarvard Business Reviewのような本を読まなくなってかなり経つので、10年前までは読んでいたと思うのですが、当時「企業の人材をどう教育するのか、組織構造をどう効率化するのか？」と語られていた話とほとんどすべて同型なんです。ですから、私たちもこれらの問題をじっくり見ていると、
こうしたツールが積み重なるにつれ、今私たちが話しているこれらの形式がそっくりそのまま下位レイヤーの形式知へと移る可能性があると思うんです。ですから、ある意味では高校生や大学に入ったばかりの学生たちは、このやり方では学習していないのかもしれません。彼らがどのように学習しているのか、私たちは改めて調べる必要があるとは思います。だからといって、こうした内容が誤っている、間違っているという話ではありませんが、私が感じているそんな既視感について、一度お話ししてみました。何をおっしゃりたいのかは分かります。
チェ・スンジュン いわゆるロさんがおっしゃってきたAI仙人たちも、こういう方法を使っているのだろうか？そこで今、私たちが安全策を講じるという観点から、従来よく知られている、先ほど出た「理解が新たなボトルネックだ」などで明らかになったものが、これまで人類が蓄積してきた学習の方法論なのですが、その方法論が今後も維持される場合に備えた安全策ということですね。つまり私たちは、何かを簡単に理解し、
ロ・ジョンソク 問題を分解して下まで全部理解しなければならない、それが良いことだと教えられた世代なのかもしれませんが、もっと下の新しい世代は、それをそのまま下のレイヤーに押し込み、私たちがCPU assemblerが最適化されているかどうかを問わないのと同じように、全部下に押し込んで、「やって、やって、やって」と言いながら、そのまま次のレイヤーで、彼らなりの生産性や新しい知識体系が形成される可能性はかなり高いのではないかと思います。
それで今、ソーシャルメディア上の言説を主導している人たちは、ほとんどが私たちの世代じゃないですか。少し年齢を重ねていますよね。でも、20代前半や10代は違うかもしれない。その点も考えてみる必要があります。20代前半に当たる方々が作っている作品を見ると、
AIが読むREADMEと新しい世代 24:47
パク・ジョンヒョン 例えば、ヨンギュさんのOh My OpenCodeだったと思います。私の記憶では、READMEに「人は読まないでください」という言葉が書かれていたと思います。READMEがずっと全部書かれていて、どうせAIが読むのだから、お前がわざわざ読む必要があるのか、という具合に前提そのものが違うんです。READMEは本来、最初のページで素早く理解してもらうために、読んでもらおうと書くものだと私たちは考えていましたが、今ではそれは単にAIがやる仕事だと。そのように扱っているようですし、私も似たような悩みに行き着いているのですが、おそらく多くの方が皆同じなのだと思います。とにかく、このAIというものが新たに登場し、
今、私たちの働き方を大きく変えていて、私たちがまるで社会人になったばかりのような、そんな感覚を私も抱いています。私が思うのは、AIとこうして仕事を続けていると、私の理解がボトルネックになっている、先ほどの話のように、私の脳が少し足りないのではないかとよく思うんです。私がついていけないから、これをもっと速く使えていない。それで私たちは友人同士でいつもそんな表現を使うのですが、『Cyberpunk 2077』というゲームとそのコンテンツを見ると、脳が焼けていくcyberpsychoになるという設定があります。AIを使っていると、そこでも身体を機械で増強するんです。増強を続けたり、化学的な増強を続けたりすると、脳が焼けて壊れてしまうという設定が出てくるのですが、自分自身も少しそうなっていると感じています。これをどうすればうまく活用できるのか、
cyberpsychoにならずに、最大限まで増強できるのか。これをご覧になっている方々、私たちがYouTubeをやる最大の理由の一つになると思うのですが、ご覧の方々から、そういうコツを教えていただけたらと思います。私もものすごく聞いて回っているんです。とにかくYouTubeは非常に多くの人に広がるものなので、コメントをいただければ、
チェ・スンジュン そうですね、そうですね。
パク・ジョンヒョン 私もそういうものを一度しっかり参考にして、試してみたいです。
チェ・スンジュン 昨年寄せられたコメントの中で、Neil Gaimanの『数学者たち』というSFに登場するAIについて、ある方がお薦めしてくださったので、3冊を続けて徹夜しながら読んだ記憶があります。コメントから学ぶことも確かにあるんですよね。
ウサギの穴を閉じる判断基準 26:48
ロ・ジョンソク 私は最近、Fableが「悪意のある内容だ。Opus 4.8で回すよ」と言うように、私の頭の中にあるこの認知過負荷は解消できないという判断が少し生まれたせいか、rabbit holeへのgateが一つできました。「これは調べても私の結果には役に立たない」そうなったらそのまま閉じて、「やって、やって」モードでloopを回してしまいます。閉じて「やって、やって、やって」と言って、その下で、これがなぜこうなったのかということについては、もう終わったlayerだと判断しています。
チェ・スンジュン 知りたいものと、知りたくないものがあるということですか？いいえ、知りたい……私たち、こういう話をよくするじゃないですか。
ロ・ジョンソク 私たちは誰もcodingをしない時代になったけれど、6か月ほど経って「software engineerは終わった」だの何だのと、そんな話をしましたが、6か月が経った時点で私たちがしていることを見ると、明らかにengineeringなんです。codingだけをしていないだけで、一つ上のlayerに上がって、同じようにlogicを決め、意思決定をし、どの問題をどのように分散配置するか、良い問題と悪い問題を見分ける仕事を、まさにしているんです。
そうした文脈で、これが次のlayerへと引き続き非連続的なjumpを起こしているので、私たちは基盤がずっと下にあるから、そこから上まですべて分かってこそ、分かったことになるのではないかというような教育を受けてきた人たちなんです。例えば、先ほどと同じように、私たちがassemblerと、その中でCPU opcodeがどのように動くのかにもはや関心を持たないのと同じように、その下にあるframeworkがどのように動き、何がどのように作動するのかという部分については、単に3回のgateを設けるんです。
誰かが結果を出したら、この結果について「振り返って」と言うのではなく、「お前、これは本当に合っているの？」ということを、同じmodelに3回聞きます。それなりのauto researchで解いたものですが、3回にわたって「合っています。合っています。合っています」と答えたら、そのまま閉じます。合っているんだろう、と。そして、それを私たちの会社の会計帳簿でもtestしてみたのですが、3回ほど回して数字を計算すると、1ウォン単位までほぼ合っています。ふと、また思い出したのが、
チェ・スンジュン ある漫画で私が印象深く見た場面なのですが、魔族がこんな話をしていました。「人類は航海術が生まれる前にも海へ出た。知らなくてもやった。black boxのまま、飛行の原理を知らない状態でも、崖から飛び降りたりした。飛んでみようとして」そんな話をしていたことを、ふと思い出しました。そうですね。それで私の周りで、
ロ・ジョンソク 最近、事業アイデアがよく、優れた感覚を持つ人たちについて、なぜこの感覚が良いと感じられるのだろうと、じっくり問いかけてみると、そのlayerの間にある程度線を引くべきだというバランス感覚をうまく発揮する人たちです。「それはやる必要がありません。」それもやってみたからこそ分かるんです。正直、ひと通り無駄骨を折って試してきたからこそ「その程度で切り上げればいいです。」という感覚が身についた人たちがいて、私はそれを興味深く見ています。
Claude・Codex・人間の議論 30:00
チェ・スンジュン 最近はほかの方法でもいくらでもこのようにできますが、何かをしていて行き詰まったと思ったらこれはClaude Code側で、これはCodex側です。desktop appなのですが、ファイルをpollingして、議論用のファイルをそれぞれ作っておきagendaを上げた後、相手が私の議論上の意見に対して別の意見を付けたら確認して、それに回答するというものです。
文書はそれぞれが所有して並列的に進めながらも合意はできるようにする方式で試してみたのですが、私はここでこれをしながらも、自分の性格上これを知りたくて議論の内容について意見を出し、design decisionのようなことも一緒に行う方向で三位一体の形で試しているところです。
ただ、そこから学ぶこともありました。
ロ・ジョンソク Claude、Codex、スンジュンさんの3人systemですね。
チェ・スンジュン それで、そのように話しながら議論するのですが、その議論をすべて私が取り仕切るのは大変です。modelたちが取り仕切り、私は時々加わる程度です。さて、ここまで私が調べた内容を共有しました。ジョンヒョンさんも別の観点から調べたことがあるとおっしゃっていましたよね。
ロ・ジョンソク では、お話しいただけますか？はい、続けます。
Fableの使用感と評価指標 31:13
パク・ジョンヒョン 今日はFable、GPT-5.6について話しましたが、最初に始めたときにも私たちが話しましたし、おそらく参加された方々も、私を含めて全員が最も気になるのは「それでFableはいいの？ どれくらいいいの？」という質問だと思います。価格もそうですが、実際に使ってみても明確に体感としてこれほどいい、というふうには感じられません。体感はtaskごとにあまりにも異なり、むしろ価格の場合は、はっきりと実感するのですが。
まずevaluation指標を見てみようと思います。最もよくご覧になるのが、このArtificial Analysis指標だと思いますが、これは「ここの表に韓国modelがいくつかあるね。」というときにも大きな話題になったので、おそらくほとんどの方がご覧になったでしょう。やはりここでもFableが1位に上がっていて、Opus 4.8とGPT-5.5も、ひとまずほぼ同じ値が出ています。
ちなみに、この指標はbenchmarkを一通り実行して、その点数を付けたものです。試験を解く、つまり何らかの定型化された試験を解いて点数を付けたものですが、その試験はかなり多様で継続的に更新されているため、十分に妥当だとその程度には人々から信頼されている指標だと考えればよいでしょう。人に例えるなら、あえて言えば大学修学能力試験のような定型化された試験を解き、採点してみたところ、十分に難しい。そのように考えればよいと思いますが、ではこれが良い指標なのかと問われるとそこには少し懐疑的です。
なぜならbenchmarkには問題と正解が公開されているからです。公開されていない場合もありますが、そのためbenchmarkも問題が継続的に変わるようにrolling benchmarkとして運営されることもあります。いずれにしても、似た問題や過去問がすべて公開されているためそこまで難しいものではありません。hackingされる余地がかなりあります。
LMArenaの人間選好評価 33:04
パク・ジョンヒョン そこで、もう一つ見られるものとしてLMArenaがあります。とにかくA/B testを行うと「良いです。」、「嫌いです。」、「こちらのほうが良いです。」といった回答を集め、チェスのEloのように計算するsystemなのですが、LMArenaという名前で、最近商業化を始めました。もともとは非営利団体でしたが、営利団体に変わり莫大な投資も受け、すでに多くの収益を上げ始めています。ここを見ると、agentというものができたんです。
agent modeになり、指示すると自らtool callを行い、あれこれ処理して回答が出ると、最後にagentが出した結果が良かったか悪かったかをチェックする仕組みになっています。ちなみに、これはmodelが何なのか教えてくれませんでした。そこで同じように、このLMArenaとArtificial Analysisのevaluationについて調査させ、PPTを作らせるということを一度試してみました。
こうしてできたPPTが今ここに表示されていますが、これをそのままPPTとして受け取れます。ちなみに、このまったく同じpromptはFableにもまったく同じように指示してみました。そうしたところ、デザインは少し異なりますが、内容や調査結果、PPTに盛り込まれている内容そのものは大きく違わないように思いました。目次があり、現在は17億ドルのvaluationで最近、投資を受けたんです。それで、この程度のvaluationの会社になった。タイムラインも描き、表も作ってくれるのですが、ここで興味深いのは、ここを見ると中国語が使われていることです。PPTのこうした点から推測すると、
私は英語だけでpromptを入力して対話したのですが、おそらく今、裏側で動いているこのテストagent modeでテストされたmodelは中国を拠点とするmodelなのだろう、ここで「良い」を押せば、「中国modelも十分に高評価を得たのだな。」というevaluation指標が収集されたのだろう。こうしたことを推論できます。それで、売上が8か月で1億ドルに達したというニュースを
YouTubeで一度見て、いったい彼らは何を事業にしているからこのvaluationでこれほど多くの資金を得られるのか気になり、調べさせてみました。すると、ビッグテック企業がこぞってこれを買っていたんです。人々が仕事を指示し、それに対して満足した、不満だったという情報自体が、非常に高価なサービスなのだなと。ビジネス面を離れて、さらに下へ見ていきます。ずっと下へ見ていくと、どのlabが費用を支払っているのか、その結果が出ています。では、私たちの最初の質問が
「それでFableはいいの？」という質問だったとき、何を見るべきなのか、あるいは実際のところどうなのか。そうするとLMArenaというのは人の好みのようなものが含まれた指標なので、何らかの試験の点数結果ではなく、現実世界に存在する大勢の人の好みが必要となるtask、例えばデザインなら、このデザインはきれいだ、良くない。あるいはslide deckだと考えるなら、このslide deckはプレゼン資料として良い、良くない。こうしたものは定型化して正解、不正解と点数を付けるのが難しいですよね。だから、このようなtaskを指示するときはLMArenaの点数を参考にするとよいのだな、そう思いました。ところが、ここで一度事件がありました。その事件は1年ほど前だったと思います。
Llama 4と評価の最適化 36:25
パク・ジョンヒョン 以前はLMArenaの点数を本当に盲信していて、「ここで良いmodelなのだから、良いmodelなのだ。」と思っていたのですが、それ以降、見なくなるきっかけとなった出来事があり、それはLlama 4が出たときのことでした。Llama 4が出たとき、通常modelが出る前に非公開modelをLMArenaに上げてそうですね。あらかじめテストをすべて回します。1週間ほど点数を積み上げて、
その点数がmodelの公開と同時に、名前が突然パッと変わって「ジャーン、実はこれLlama 4でした」と言いながら一緒に出てくるのですが、そのときLlama 4が1位だったんですよ。1位だったか2位だったか、そのくらいでした。ところが、実際に人々がLlama 4を使ってみると、あまりにも良くなかったんです。「こんなにイマイチなのに、どうしてこれが1位になれるんだ？」その後、分かったのですが、Llama 4をあれこれtuningした後、すべてLMArenaに入れてテストしていたんです。その中で1位になったものだけを残したわけです。では、これをもとに私たちが推測できるのは、人間の好みというものも一つのbenchmarkであり、LLMをtuningすればハッキングできる程度の難易度だということです。
こうしたことに、当時初めて気づいたように思いますし、そのためLMArenaの場合は、そうしたことができないようにpolicyを強化したそうです。複数のものを同時にあまり多く上げられないようにするなどです。考えてみると、今どのLLMがより優れているかという話はさておき、このvaluationについて考えてみると、今のLLMは通常、evaluation benchmarkを一つ定めます。taskを一つ定めます。codingなら特定のcoding benchmark、すると、それを攻略するためにSWE-benchのようなものを攻略するために、LLMがどんどん発展します。すると、そのSWE-benchのdata分布に該当するcoding taskが得意なLLMになるわけです。このようにevaluationの目標という旗を立てて、そこを一つずつ攻略していくのですが、私たちが一般的に考える、仕事ができる人とは少し隔たりがあるように思います。これは特定の旗だけを攻略しているのであり、
ばらつきのある知能と評価の旗印 37:50
パク・ジョンヒョン その旗を本当に私たちの世界のあらゆる場所に立て終えれば、いわゆるAGIを達成できるだろう、general intelligenceと呼べるのでしょうが、今はそのため、私たちはjagged intelligenceと表現しています。あることは得意で、あることは苦手で、「これはこんなに上手なのに、なぜこれはできないんだ？」数学の場合、IMOの難しい数学問題をすべて上手に解くのに、なぜ私が頼むこんな簡単なtaskはできないんだ？こうした状況が起きるのですが、代表的なものとして、私がいつも残念に思うことがあります。私は小説を読むのが好きなんですよ。ところが、小説を書かせると面白くありません。小説の前後がつながらず、破綻してしまいますし、あるいはギャグを書かせても、ユーモアのようなものがまったく面白くありません。LLMがギャグを言うこと、そうしたことは結局のところ、すべてevaluationが難しいからだと私は考えています。
では、このようなLMArenaで人々がそうしたtaskをすべて指示して、「いい」「嫌い」といったdataを数え切れないほど集めれば、LLMはそうしたことも上手にできるようになるのだろうか？こうした点を、私は興味深く見守っていますし、結局、多くの会社がそうしたものをすべて、経済的価値の高い、人の好みが必要なtaskを攻略しようとしているため、LMArenaという会社は多くのお金を稼いでいるのではないかと思います。こうしたところにもevaluationのビジネスチャンスがありそうだ、そのように考えています。
チェ・スンジュン 先ほどGrant Sandersonとのインタビューをご覧になったとおっしゃっていましたよね？私はまだ見ていないのですが、面白かったですか？そこでもそういう話が出たと、ちらっと聞きました。
パク・ジョンヒョン はい、そうです。Dwarkesh Podcastの最近のエピソードが3Blue1Brownなのですが、おそらく多くの方がご覧になっていると思います。映像をご覧になれば何かすぐ分かるはずです、その絵柄を見れば。その方が出演して、数学を制覇すること、しかし、それと実際にLLMが賢いホワイトカラーの仕事をすべて代替することとの間には隔たりがありますが、それについてどう考えるかを話し合うんです。
私は昨夜、一度全部見たのですが、よく理解できませんでした。とりあえず面白いです。リーマン予想がどうのこうのと、そういう話を非常にたくさんするのですが、それは何度か見直さなければ、と思っています。まず、私も3Blue1Brownチャンネルが好きで、たくさん見てきたので、ただ見ること自体が、声を聞くだけでも面白いです。ぜひご覧になることをおすすめします。
チェ・スンジュン では、このようにevaluationがとにかく大きなビジネスになるということですよね。gold diffであれ、好みであれ、それがfrontier labを養う大きなビジネスになる。先ほどのIrregularの場合も少し異なりはしますが、とにかくテストしてあげることが大きなビジネスになっている。そうした親和性があるような印象は受けました。買ってくれるところがビッグテックだ。
ドメインモデルと境界設計 41:21
ロ・ジョンソク 今はdatasetもそうですし、evaluationもそうですが、ほとんどの場合、ビッグテックが最も多くのお金を使っています。コードも依然としてお金を払って買っていますし、専門家を招いて、非常に専門的なdatasetを作ることも活発に行っていると承知しています。それが差別化のポイントになり、modelの能力差になる世の中ですよね。
チェ・スンジュン ビッグテックのようにやるには、それと同じことをしなければならないわけですよね。しかし、あらゆる領域を網羅する
ロ・ジョンソク general intelligenceが目標ではなく、それぞれのdomainで事業に必要な範囲だけを網羅すればよいのなら、はるかに少ない労力でできます。30B、以前にも一度お話ししたような気がしますが、大方のconsensusとして、30B以上はないと、何を学習させても使い物にならない、というのはあるようです。ですから、そこに自社のlogicをうまく学習させれば、かなり良いものになるのではないでしょうか？Engramのように、最初からそれを専門にするとして出てきた会社もあるじゃないですか。
チェ・スンジュン ああ、そういう会社があるんですね。全体的なorchestrationや判断は大きなmodelに任せるとしても、小さなmodelが多くのものを網羅できるようにする戦略が必要になるかもしれませんね。
ロ・ジョンソク modelがサービスそのものだという点に異論はないように思います。ただ、それを背後のtoolやmemoryまでmodelに完全に学習させてしまうのか、それとも引き続きcontextを管理してあげるのか、こうしたことは、ほんの2～3年前まではかなり大きな産業領域だったじゃないですか。ところが、modelの価格があまりにも安くなったことで、その流れが下火になりましたが、最近、その流れが再び出てくる時期になったように思います。
チェ・スンジュン 高くなってきたからですね。そして、modelが静的なツールを開発できるようにtokenを使って、まず静的なツールを開発した後、それを使えるようにする戦略と小さなmodelをorchestrationする戦略の共通点は境界を設けることだと思います。どのラインで、何を、誰が、どうやって行うのか、境界を作ることに関するengineeringが生じるように思います。
ロ・ジョンソク そうなんですよ。私はバランス感覚と表現していますが、それをどのような形で行うか、そこからまたengineeringの問題なんです、すべてが。
チェ・スンジュン 結局はengineeringですね。
オーディオ・ロボティクスにおける評価の機会 43:36
パク・ジョンヒョン 最後にdatasetとevaluationの話に戻って、もう少し話を広げてみると、今日はLLMについてだけ話しましたが、LLMを越えて、私たちはほかのmodalityにも関心が高いので、最近はaudioに関心が高く、あるいはroboticsにも関心が高かったので、VLAのようなものを見ていると、evaluationははるかに難しいんです。
そしてdataもかなり不足しており、data自体が非常に高価です。そこにはビジネスチャンスが非常に多いと思っています。YC batchなどを見ても、物理環境のdataを集めて何かをしようとする企業が数多く登場しているようですし、あるいはevaluation自体をmodelにしようとするところも多いようです。
以前、GPTがhuman feedbackでRLHFを行う際、PPOに使われる、「人間はこういうものを好むだろう」というmodelを数多く作っていたと認識していますが、
チェ・スンジュン surrogate modelのようなものを作るわけですね。そういうものがありましたが、
パク・ジョンヒョン 特にaudioや物理環境では、どのような視点でこの映像を見て、今うまくできているか、たとえばコーヒーを淹れるよう指示したなら、コーヒー豆をうまく挽けたかというようにsubtaskへ分けて、そのsubtaskの画面で現在の動作がうまくできているか、いないか、こうしたスコアを正確につけなければなりませんが、それも結局evaluationです。そのため、汎用rewardでスコアをつけられるmodelに多くの人が関心を持っているようです。
チェ・スンジュン そうですね。いずれにせよscalarが一つ出なければ目標が生まれません。
ロ・ジョンソク 目標ができれば、その目標に向かって何でも作るようになりますから。それでは、今日はFableの話から始めて、さまざまな話題について語り合いましたが、ニュースなどであまりにも多くの情報が出てくるため、視点を定めて何かをするには、少し負担を感じる時期ではありますが、ご覧の皆さんからもさまざまなfeedbackをいただければ、私たちも大いに参考にしたいと思います。ジョンヒョンさんが新たに参加してくださり、
今週のまとめと次回の話 45:17
チェ・スンジュン 新たな観点から、普段は取り上げてこなかった話を今日見ていくことができて面白かったです。ミトスを皮切りにFable、
ロ・ジョンソク さらにGPT-5.6まで目まぐるしく駆け抜けていたサイクルに米政府が介入し、ストーリーラインが少し複雑になっているようですが。それでも、発展の方向やこうした方向性には逆らえないように思います。それに関連して、以前登場したものも私たちが改めて一つずつ見直すようになっている気がしますし、以前した話が再び登場するというそんな既視感も強く覚えるように思います。今週はソウルでおそらくICMLが開催されるので、
ソウルでとても面白い方々にたくさんお会いできそうですが、その話も次のエピソードで一度お伝えできればと思いますし、また今日はジョンヒョンさんをお招きして2回目のエピソードをお届けしましたが、これからも引き続き、よいお話をたくさんお願いいたします。それでは、今日はこのあたりで締めくくりたいと思います。
それでは、今日はこのあたりで締めくくりたいと思います。
それでは、今日はこのあたりで締めくくりたいと思います。