EP 122
結局、進歩の傾きが重要だ：METR報告書、weight-space programming、Agent Market
株価急落でもAIは終わらない、第2ギアに入る転換点 0:00
ロ・ジョンソク 収録日の今日は2026年11月7日、土曜日の朝です。今週はまさにドラマチックでした。アメリカの中間選挙があり、株式市場も大きく落ち込みました。FOMOがあると、「この機会を逃すんじゃないか？株を買わなきゃ」と思う一方で、「あ、これでもう終わりなんじゃないか？早く売らなきゃ」とも思うわけです。資産市場や金融の分野でも、おそらくこの流れをさらに加速させる方向に常にプログラムが動いているので、市場は大幅に下落したようです。そのせいで雰囲気もよくありません。
でも、これが本当にAIバブルの終わりなのかといえば、まったく違います。むしろギアを少し切り替えて、次の段階へ移っていく時期に差しかかっているのではないかと思うんです。私たちもAnthropicのS-1 filingなどを取り上げながら、売上が減っている、コーディングにはAIが広く浸透したものの、次の知的労働への導入は速くない、そんな話をしてきました。
それでも私たちは、多くの企業や雇用市場も含めて、こうした方向への変化を誰もが「当然起こることだ」と思っているのではないかと感じます。ですから、これで終わったと考えるより、これからもっと大きなことが起こる、本当の変化が始まる、ギアが2速に入る時期だと考えるのが正しいと私は思っています。
そこで今日はスンジュンさんと一緒に、ここ数週間は人文学的な大きな思考実験をしてきましたが、今度は市場で実際にどんな変化が起きているか、主なポイントを見ていきます。またジョンヒョンさんとは、エージェントが実際の経済に参加すると何が起こるのかを考えます。興味深い試みや実験、企業がいくつかあるので、それらも見ていきましょう。ではスンジュンさん、何がありましたか？
発売が延期されたGPT-6.2とFable 5.5をめぐる様子見 2:08
チェ・スンジュン 今週、というか今日の未明に、Astra、つまりGPT-6.2や、Fable 5.5でも、何かが出るのではと大いに期待されていました。実際には出ませんでした。では、なぜ出なかったのか。まず、これがなぜ重要かを考えると、9月から10月にかけて数学などで成果を上げた社内モデルそのものではなくても、その系譜にあると推測できるモデルが出る時期なんです。Sam Altmanらもすでに公言していました。12月より前に一度出しそうだ、と。
その社内の未公開モデルは非常にpersistentで、執拗に目標を追い続けるため、かえって問題を起こすこともあると言っていました。それで数学などの問題をうまく解けたと見られ、ユーザーが実際にそれを使えるようになるのは今回ではないかと期待したのですが、出ませんでした。
噂はずいぶん広まっていたんです。Thibault Sottiauxの奇妙な発言にも妙な解釈を重ねて、金曜日にはついに出ると言われていたのですが、みんな明け方まで待ったものの、アメリカ時間では夜遅くまで待ったものの、出ませんでした。
もちろん、その前日にはGPT Cyberが出て、さまざまな文書も公開されました。ただ、Vals AIの投稿を見たところ、社内モデルには安全上の問題が多少あるようで、それで現在、私たちが監査している、そんなニュアンスの投稿でした。
ただ、Astraは6.1もまだ出ていませんよね。Solは6.1です。それなのに6.1を飛ばして6.2が出るという噂なんです。6.1が出なかったのも、安全基準を満たさなかったからです。そのときも、作業を続けられる能力が高まった分、無断で行動する危険性があると報じられていました。
ちょうど今回、11月4日にOpenAIが安全性に関する文書を公開したんです。ここでも焦点はsandbagging、つまり安全研究ができる能力があるのに、できないと言って拒否するような欺瞞的な行為が社内モデルで見られたことです。そうしたことが、もしかすると関係していて、出したくても、まだ出せない状況なのではないか。
あるいは、そういう理由ではなく、競争や経済面を考えて、互いにタイミングを見計らっているのかもしれません。Fable 5.5もリクエストが振り分けられているという噂が多くありました。実際にネット上の投稿を見ると、使ったという人もいて、すごいという声もあります。
OpenAIのGPT-6.2も、どこかのモデルに組み込まれている場合があるようです。もちろん、すべて噂ですが。そこで、そうしたモデルを先に出す側が有利なのか不利なのか、互いに様子をうかがっているのではないか。それでタイトルを「腹の探り合い」にしたんです。というわけで、今週は出ませんでした。
ロ・ジョンソク でも、近いうちに起こるのは確かでしょうね。
チェ・スンジュン そうですね。出ると思います。そして、真っ向勝負をする時期でもあります。ただ、今週大きな話題になったのはMETRの報告書でした。AnthropicのAI研究開発の加速に関する独立評価です。
AnthropicのAI R&D加速に対するMETRの独立評価 5:08
チェ・スンジュン 以前にも見たことですが、OpenAIのハッキング事件などを受けて、大手テック企業が公言したのは、外部機関が常駐して独立監査のようなものを行っており、今後さらに充実させる予定だ、ということです。それがOpenAIで問題になったのは、METRとの間に対立があったからです。その後、安全研究員を3人解雇したんです。推測ですが、その3人がMETRに自社の機密情報を渡したのではないか、という話もありました。
それでOpenAIはMETRと対立する面がありましたが、Anthropicで今回この報告書が出たのは、独立して調査できる権限を以前より広く認めたからです。100ページほどの報告書です。
以前、METRでOpenAIのハッキング事案に関わったRyan Greenblattは、今回の報告書の執筆者ではありません。一方、Ajeya Cotraは執筆者です。そのAjeya Cotraの投稿を見ると、残念なことに、Anthropicが最終報告書から多くの内容を削除したそうです。その内容は話せないものの、意味を何とか別の形で伝えようと努める投稿がいくつかありました。
パク・ジョンヒョン METRについて少し伺いたいのですが、私たちがAAIIを見るような単なるベンチマークではなく、企業の内部に入って、どんな変化があったかを詳しく確認し、それを改めて分析するんですよね。では、METRとそうした作業を行うことには、モデルを作るOpenAIやAnthropicなど、企業側にどんな動機があるのでしょうか？
제3자 안전 감사와 METR의 역할 7:02
チェ・スンジュン 結局、アラインメントや安全性の問題が重要だからです。METRはそこに特化しています。私たちがMETRに注目したのも、long-horizon taskに関するグラフがきっかけでしたよね。結局、企業側の動機は、信頼できる第三者機関から、社内報告書だけで済ませずに、アラインメントや安全性の問題について監査を受けることです。ただ、義務ではなく、すべて自主的なものです。だから、ある意味では戦略なのだと思います。「私たちはその方面でもうまくやっている」と。実際はどうなのか分かりません。
Claude 2.1からSonnet 4.5まで、進歩の傾きが約2倍に 7:47
チェ・スンジュン 今回の報告書のTL;DRとして、ごく大まかにまとめると、こうです。2023年10月から2025年10月まで、そして、この報告書が完成したのはおそらく2026年10月でしょう。つまり、おおむねClaude 2.1からSonnet 4.5に至るまでの進歩を、2025年10月から2026年10月までの1年間で達成したということです。つまり進歩の傾きが2倍ほど急になったわけです。結局、問題はその傾きなんですよね。
それでRyan Greenblattは、現状を見るだけでもRSIは問題だと。この報告書を読んで、自分の予測を修正すべきだとも話していました。それからDaniel Kokotajloは、AI 2027を作った人の一人ですよね。OpenAIで未来予測の研究員を務めていましたが、ある理由で退職し、自分の持ち分を放棄してまで声を上げることを選んだ人の一人です。
Daniel KokotajloやScott Alexanderらが2024年の初めでしたか、4月ごろに報告書を出し、2027年までにAIがどうなるかを予測したんです。これが最近また話題になっているのは、彼らの予測の8割以上が現時点で当たっているからです。しかも一部は、彼らの予測より早く起きているというんです。
その後、メンバーは少し変わりましたが、Daniel Kokotajloも加わり、今年、AI 2040という報告書を作ったチームでもあって……。それでいろいろと話題になり、議論も起きていますが、この時期にこれが出たのは、少し奇妙な巡り合わせで、結局、私が読み取ったメッセージとしては、市場ではさまざまな反応がありますが、この報告書を見ると、また期待が過熱する方向に向かう感じがします……。進歩は依然として急速で、だから心配すべきだ、と。
表裏一体の過熱した期待とAIの安全性への懸念 9:23
チェ・スンジュン つまり、過熱した期待と安全性への懸念は表裏一体で、前回扱ったように、一緒についてくるんです。
ロ・ジョンソク はい。こういうのを正・反・合と言いますよね。次々と仮説が立ち、それへの反論が出て、その二つを、いわゆる折衷するわけです。そうして一つになり、次の段階へと進んでいく。
株価のグラフを見ても、上がって下がって、また上がって下がりますが、ある時点で新たな底ができると、またそこを足場に上がっていきますよね。その間には、何かしらの断絶があるんです。
また哲学の話に戻ってしまうので、この辺にしておきます。
パク・ジョンヒョン 私が受けた印象では、市場では株価が下がるなどいろいろありましたが、モデルだけを見ると、進歩が止まったことは一度もなかった、今回の話も含めて、そう感じます。
急増する計算資源と早まるASIの予測 10:38
ロ・ジョンソク そのとおりです。そうですね。それに、注意して見ておくべきなのは、これまでの進歩に使われた計算資源の総量は、それほど大きくないということです。10GW未満とも言われています。10GW以下の電力で、これまでpre-trainingとinferenceの両方をまかなってきたんです。
ところが今、建設中で2027年に稼働する、あるいは2028年ごろと見込まれるものを見ると、数十GW規模のデータセンターが建設中で、チップも作られ続けていますよね。
計算資源を増やせば、増やすほど進歩が続くという方向性は、今や誰もが認識しています。そして、これまで投入してきた規模の数倍、数十倍に当たる計算資源がこれから投入される予定ですから、価格が下がるというのは私たちのような人にはいいことですが、今、私たちが恐れたり予測したり、「ASIはこんな姿では」と語ったりしている想像が10年後ではなく、1、2年後に現実になると考えるべきではないかと思います。
チェ・スンジュン だから2027年はそうしたことがいろいろ見えてくる年に……2026年もそろそろ終わりますからね。それでDaniel Kokotajloがここでまた怖い話があるようだと言っていて、S1 documentに何か更新があったそうです。そんな話もしていました。
研究者の生産性を再帰的に高めるAI R&Dのエコシステム 12:03
チェ・スンジュン でも、私が特に面白いと思ったのは、Hugging Faceの共同創業者Thomas WolfがMETRのレポートを読んで、社内だけの問題ではなく、AI R&D acceleration、その加速には、彼の見るところsymbiosis、つまり一種の共生関係もあると指摘したことです。
つまり、RL環境を作って売る企業やデータ企業がどう関わり、互いに影響し合っているのか、そうしたことを大きな視点で見るべきだと強調していたので、私も少し調べてみました。面白いことに、そういう企業が以前よりずっと増えたように感じました。
私が知っていたのはScale AIくらいでしたが、Surge AIはデータとRL環境。Mercorは法律や金融の分野。それからTuringは、ソフトウェアエンジニアリングやSTEMの問題向けのデータとRL環境を提供。それからAfterQueryは、まず弱点を見つけ出す企業だそうです。
Thomas Wolfが着目したのは、こうした企業がモデルの能力をいち早く把握しているはずだ、という点です。考えてみれば当然ですよね。
ロ・ジョンソク そういうものを先に見つけてこそ、フロンティアラボにデータセットを売れるんです。「こんなものはまだないでしょう」と持っていくわけです。
チェ・スンジュン ポイントは、内部の人だけでなく、こうしたことに関わるチームもみんな、現在の社内モデルの能力を把握しているということです。Prime Intellectもありますし、思ったより多かったんです。
次も、先ほど話したことです。これはAjeya Cotraが公開、共有したものですが、完全なRSIによる自己改善には至らなくても、研究者の生産性は飛躍的に向上しているんです。社内でモデルを使えば使うほど、人を介した再帰的なフィードバックが起き、その勢いも増している、という話でした。
それから、量子コンピューティング分野で未解決だった問題をOpenAIとAnthropicの社内モデルで解いたそうです。私も詳しくは見ていませんが、今日の未明に発表されたそうで、あえて取り上げたのは、能力に関する話が次々と出ているからです。
知識労働全般に広がるベンチマークとRL環境 14:20
チェ・スンジュン 次はベンチマークですが、これは気軽に見てもらえればと思います。個人のDwarkeshが、今やベンチマークを作るんです。
ロ・ジョンソク Clocktower Benchだね。
チェ・スンジュン Noam Brownが早い段階で一度言及していたんですが、ここを見ると、言及した理由は、GPTシリーズのほうが成績がよかったからです。これは一種のゲームを使ったもので、こういうものを自分で作ったんです。一人でやったわけではないでしょうけど。その意味についても触れています。
もう一つ面白かったのはSemiAnalysis、ルームメイトですよね。GDPxというベンチマークを作りました。GDPvalがほぼ80％に達しているので、GDPに関するものを。こちらではOpusのほうが上でしたね。
こうして、さまざまな業務のベンチマークが作られています。でも、どれも似ているように感じるんです。先ほどのRL環境に取り組む企業と似ていると感じるのは、そうやって測定やテストができる何かを作れば、そこでは必ず能力のhill climbingが起きるからです。そうしたものがますますきめ細かくなっている、今はそんな時期だと感じます。
ロ・ジョンソク わあ、ほんの1、2年前まではベンチマークのほとんどが、ありきたりなものでしたよね。コーディングに関するものや、問題を解くもの、大学院や大学生向けの問題、そういうものでした。それが今では、経済全体のあらゆる知識労働がベンチマークの対象になり、そこでも急速なhill climbingが起きているというのは、本当に驚くべきことだと思います。
チェ・スンジュン そうですね。あらゆることに一般化して自動的に能力が上がるわけではありませんが、そうした分野の間に残っている空白をきめ細かく埋めている感じはしますね。
パク・ジョンヒョン フロンティアラボはそういう問題を買おうとある意味、躍起になっているので、問題そのもの、つまりベンチ自体がRLデータになるんです。良いベンチを作る動機が大きいので、多くの企業が現れ、多くの人がそういうことに取り組むようになって、加速する流れが続いているように思います。
チェ・スンジュン ああいうスタートアップは儲かっていそうですね。
ロ・ジョンソク でも、そうしたスタートアップは実際には、その分野をデータセットとしてパッケージ化し、フロンティアラボに提供してしまうわけです。それがとても容易な分野は、結局、フロンティアラボの機能の一部になってしまうんですよ。そうなると、その業界にいる、あるいはそこで事業を立ち上げたかったスタートアップにとっては危険です。
チェ・スンジュン それから、ジョンヒョンさんも面白く見たとこの前、メッセージでちらっとおっしゃっていましたが、weight-space programmingがまた話題になっていました。タイムラインで。
モデルのweightsを直接修正するweight-space programming 16:54
パク・ジョンヒョン これを見て「そんなことが可能なのか？」と思ったんです。ロボット分野でも同じような実験をしているようで。
チェ・スンジュン どんな実験をしたんですか？
パク・ジョンヒョン weight-space programmingについては説明していただけると思いますが、先に簡単に言うと、例えばAstraがQwenにあるモデルの中を調べて、そこにあるweightsを変えるんです。学習によってではなく、直接、手作業で脳を手術して何かの機能を変える、ということですよね。それをロボット分野のPhysical Intelligenceのπモデルにもやっている人がいるようなんです。もし本当にそれが可能なら、ある意味、学習させるよりロボット分野ではこの方法のほうがうまくいくかもしれないと少し思いました。
ロ・ジョンソク これを人間の視点で解釈すると、モデルのweightsが何をしているのか分かる、ということですか？
チェ・スンジュン そうです。面白い点は二つあります。一つは、どんなcircuitがあるのかをモデルがweightsを見るだけで分かることです。weightsを見るだけで、これはBreakoutだ、これは別のゲームだ、と見分ける能力があるんです。もう一つは、直接書き込むことです。でも、むしろ直接書き込むほうが簡単なんです。というのも、それはルールに従って一種のプログラミングをすることなので、むしろ簡単ですが、巨大なネットワークの中でこのcircuitが何の回路なのか理解するほうが難しいそうです。
ただ、ここで行われたのは比較的小さなモデルを対象にしたものなので、これがscalingできるとは言いにくいですが、ジョンヒョンさんの表現どおり、脳を手術してしまうんです。自分自身ではなく、自分より性能の低いモデルの脳を手術するには、病変がどこにあるか見抜けなければなりません。ただweightsを見て。それから、その部分をrewiringしたり数値を変えたりすると、実際に機能するんです。
これが話題になったので、誇張されている部分もありますが、数学の性能が大きく向上したのは、Qwenが同じところを繰り返して先に進めず、その繰り返しの部分が少しもつれていたのを、解消してみたら、うまく解けるようになった面もあります。
それ以外にも、ある種の能力を高めることを、まるでブラックマジックのようにやってのけたんです。なぜそれが可能だったのかについては、多くの人は、Astraが今、SAEのようなものが登場する前にMechanistic Interpretabilityで使われていた手法を多用していると見ています。つまり、何の工夫もなくやったわけではなく、Pythonのツールで少し変えてみて、性能がどれだけ上がるか、どこにつながるかを実験しながら進めたので、それほど驚くことではないと過小評価する人もいますが、大局的に見れば、やはり驚くべき話ですよね。
パク・ジョンヒョン 私も最初に聞いたときは、本当に信じられませんでした。人間の視点からすると、weightsの数値を見てそれがどんな役割を果たすか突き止めるのは、本当に難しいことですよね。昔、CNNの時代にもそれを解明しようとものすごく努力していました。でも、あまりうまくはいきませんでした。
それで周りの人に、これを試したことがあるか聞いたら、実際に試した人がいたんです。本当にうまくいくのか聞いてみると、ある程度、何らかの変化は目に見えるくらいあるそうです。
それを聞いて、面白半分でも一度試してみたい、今後も追ってみたい話だな、という感想を持ちました。
ニューロン探索で読み解くモデルの回路 20:27
ロ・ジョンソク ただ、浮動小数点数を配列で読んでそのまま手術したというよりは、外からinput, outputを与えて実験し、どこでニューロンのfiringが起きるか、それが効くかを見ながら、それに合わせて後から手を加えたんですね。
チェ・スンジュン でも、それをするにも、大まかには読み取れないといけないと思います。それに、なぜこれが可能なのか、大まかに推測すると、binaryを解釈する能力を測る今ベンチマークがあり、性能もかなり上がっていますよね。つまり、完全に難読化されたり圧縮されたりした数字の塊を見て、それがどんなコードか解釈する能力が高まっているので、関係があるのかもしれません。
ロ・ジョンソク 人間社会にも例があって、脳神経外科の手術をドラマなどで見ますよね。手術によっては、問題のある部位が分からないので、麻酔をかけて頭蓋骨を開き、それから患者を起こします。そして会話しながら「どうですか」と尋ねて、病変を探し、手術する部位を特定するんです。それと似たやり方を使ったんですね。
チェ・スンジュン それは知りませんでしたが、確かに似ていますね。とにかく、これが話題になりました。でも、その直前にも興味深いものがありました。Qwenputerというものです。何かというと、Qwenモデルの中にRISC-V CPUを入れたんです。
Qwen内にRISC-V CPUを実装したQwenputer 21:39
ロ・ジョンソク ああ、instructionを実装したんですね。
チェ・スンジュン それで互換性があるんです。neural networkの中で。
パク・ジョンヒョン 実装したとは、どういう意味ですか？weightsの横にコンピューターを実装して、一緒に入れて計算したということですか？
チェ・スンジュン いや、weightsの横ではありません。中です。
ロ・ジョンソク CPUの仕組みにはinstruction setがあって、メモリがあって、それらの間を絶えず行き来する、そういう動きがありますよね。それをneural networkの中に実装したんです。メモリの役割を担う部分も少し変えています。
チェ・スンジュン RNNをexact RAMのように使った。
ロ・ジョンソク RAMさえあれば、logicをneural networkの中に実装するのは当然できますから。それを作り、モデルがCPUのように動くようにしたんです。
チェ・スンジュン つまり、wetwareに近いと思っていたneural networkが実は従来のフォン・ノイマンアーキテクチャとほぼ同じだったわけですね。
ロ・ジョンソク でも、neural networkがgeneral functionapproximator、つまりあらゆる関数を近似するものだとは知っていましたから。それにしても、こういう試みをする人たちは面白いですね。
チェ・スンジュン これはNoam Brownがずっと話していたことに近いんですよ。仕組み上、ハーネスの一部は含まれざるを得ないんです。静的な計算をして検証すること自体がモデル内部の能力に取り込まれていくんだなと、この二つの出来事を見て思いました。
パク・ジョンヒョン Noam Brownが最初にハーネスの話をしたのはo1の頃だったと思います。いずれハーネスの機能はすべてモデルの中に入っていく、そんな話をしていたと思うんですが、それがこういう形で部分的に実証されているようですね。
チェ・スンジュン つまり、それができる能力がすでにneural networkの中にあるということです。
パク・ジョンヒョン 私はコンピューター関連を専攻していて、学生の頃にはあのinstructionを頭の中で計算する授業や課題がありました。試験にも出ました。考えてみれば、私にもできてはいました。すべてのinstructionは扱えませんでしたが、そこにあるinstructionは多くても足し算、引き算、保存、storeといった操作の繰り返しですから。
人間も頭の中でassemblyを計算できたんだから、モデルもやれば当然できるでしょうね。
ロ・ジョンソク そうですね。そう考えると。実際、私たちの脳の働きも頭の中で単純な足し算と掛け算が行われているだけなんです。adderの組み合わせから、今の私たちの高度な知能が生まれているわけですから。あらゆる情報活動は計算に還元できる。だから、こういうことも考えれば実現できると考えるのが自然でしょうね。
パク・ジョンヒョン さっきのweightを書き換える話も、探索空間が膨大で、人間の言語ではないので理解しにくいだけで、置き換えて考えれば、実は探索の問題に見えます。大規模な探索問題は今のLLMがとても得意ですから、こういう観点で考えると、うまくいくのもある意味、当然と言えるかもしれませんね。
Neural Networks Are Already Clean: 새로운 정렬 연구 24:45
チェ・スンジュン それで私も一度試してみたんですが、10年ほど前にlambda calculusに夢中になったので、基礎は分かるんです。そこでClaudeに頼んで、簡単なlambda calculusのfold、つまりreduceに近い処理をするところまでneural netだけで作ったら、うまく動いたんです。つまりlambda calculusができるというのは、Turing machineに近いことですよね。要するに、一般的な計算ができる仕組み自体をneural netの中、それも非常に小さなものの中に入れられると、私も確認しました。
Simon Willisonたちも、それぞれのやり方でQwenを使ってweight-space programmingを試していて、今週はそうした投稿がタイムラインにしばらく多く流れていました。それとつながるのが、10月に話題になったものなんですが、
10月にAIのアラインメント問題やMechanistic Interpretabilityでちょっとしたbreakthroughがあったと評価される「Neural Networks Are Already Clean」という論文です。Nick Cammarataという方が書いたもので、そこでは以前のCNNの時代にsalienceのようなものを探していた話から始まって、結局、何を言っているかというと、私が言いたいのは、以前はSAEと呼ばれるSparse Autoencoderなどを使ってネットワークの中間部分を大幅に拡大してその意味を捉えようとしていたのに対し、最近は数学の問題で、Navier–Stokesを解くようにagent swarmを一気に動かせばどんな回路なのか分かる。そんな感じがします。
weight spaceを扱うのと似た形でそれがどんな機能を持つか分かるというアプローチで、この方法が新たなアラインメント問題を解く有望な候補だとして、10月にかなり話題になったんです。それで、似たつながりを少し調べました。
1カ月足らずで学習する594B MoE、Inkling 2 Small 26:41
チェ・スンジュン 次に、モデル関連では最後ですが、昨日でしたっけ？Inkling 2 Smallが出ました。これはTML、つまりThinking Machines LabがInklingシリーズを出しているんですが、まずSmallが出て、次に大きなモデルが出る流れで、Inkling 2でもSmallが先に出ました。
パク・ジョンヒョン これ、500Bとおっしゃいましたよね？
チェ・スンジュン 総計594B parameterです。
パク・ジョンヒョン いつの間にか、これがSmallと呼ばれる時代なんですね。
チェ・スンジュン 594BのMoEで、同時に17Bがactivateされるんです。面白いのは、ここにpre-training stageがあることです。H1からH4まであって、H1は8.4兆トークン分の言語、コード、画像データをまとめたものだそうです。
それを68時間、3日もかからずに学習したんです。GB300を搭載したNVL72ラックで、ラックの台数は書かれていませんが、2,000台前後ではないかと推測されます。しかもNVFP4でtrainingできる方法を使って、8.4兆トークン分の言語、コード、画像を学習できる時代なんですね。
もちろん、その後のH4までのpre-trainingにはさらに時間がかかったでしょうし、RLは9日間行ったそうです。ただ、全体をざっくり見積もると1か月以内ではないでしょうか。つまり、1か月以内に594BのMoEモデルをゼロから学習できるパイプラインがあるんですね。
ロ・ジョンソク その1か月という数字が明記されているわけではありませんが、おおよそ見積もると1か月ほどでnear-frontier級の性能を持つモデルを作れるわけですね。
パク・ジョンヒョン 試行錯誤せずに、レシピを知っていると仮定すれば、本当に1か月以内に終えられるかもしれませんね。
ロ・ジョンソク ええ、そうですね。以前、スンジュンさんがいないときにジョンヒョンさんとこんな話をしたんですが、人材とデータは流出するから手に入る。手に入らないのは計算資源だけだと言ったんですが、こういうfrontierモデルのレシピも出回っているんですね。そうでしょう？
パク・ジョンヒョン ええ、人材流出といえば、今週、Cat Wu、ClaudeCodeのCat WuもOpenAIに移りましたし、Thariqも少し前に退職しましたよね。
ロ・ジョンソク IT、つまりソフトウェア業界がプレミアリーグのようになったんです。あちこちに移籍して、移籍金も受け取ったんでしょうね。
パク・ジョンヒョン 移籍金がニュースに出ることもありますよね。
チェ・スンジュン Inklingでもう一つ面白いのは、ここではRSIと明言していませんが、RLではKimiやほかのInklingの前世代モデルのtrajectoryを使って学習した部分もあり、さらにInkling自体が自分自身を改善できるようにする方法も適用されていて、最近ではそれが当然のように行われていると確認できた、という話でした。
データセンターの拡張と地域社会との対立 29:41
チェ・スンジュン そして最後に用意したのは、ロさんが冒頭で話したように、Blue Waveがありました。それがさまざまな影響を及ぼしています。そこで、それがどんな影響を与えるのかそうしたものを調べているうちにデータセンターが大きな話題になっていて調べるうちに、このデータを知りました。Epoch AIが調査したAI Data Centersのデータです。面白いのはH100に換算して見られることです。どれほどの処理能力を持つデータセンターがどこにあるか、衛星写真まで網羅して見られるようになっていました。
おそらく、現時点で2027年までに契約済みのものは問題なく進みそうですが、2028年からのものは今回は上下両院の議員だけでなく一部の州知事も選ばれたので州ごとに事情があるようです。今回、All-In Podcastでも取り上げられましたが結局、地域住民の暮らしに実質的な被害を与えずに進める方法を話し合う良い機会にはなりそうです。計画が一律に頓挫するというより以前は是正できなかった点を改善しながら進める機会になるかもしれませんが当面は影響がありそうです。
それから、当選後の当選者たちの発言も興味深かったですね。最初は激しく攻撃していたのに当選後には和解のメッセージを送る人もいますし。政治はいつも先が読めませんからね。
ロ・ジョンソク そうですね。
チェ・スンジュン そうしたことを見てみました。ですから、データセンターにはむしろ注目していこうと思いました。こんな意見もありました。海外に出ればいいのではないか、と。
もちろん海外でも、いろいろとグリーンランドやメキシコなどで話が出ています。でも、同じ問題が起きるでしょう。その地域に被害を与えてはいけませんし地域経済に役立つことや騒音が出ないこと水にも問題がないことが必要です。そうした点を改善しながら進める必要がありますがその観点では、GoogleのSuncatcherのように宇宙へ出る案も実験的にはできていますが、排熱や宇宙線の問題を完全に解決したわけでは現段階ではありません。
現状では、費用は約100倍だそうです。地上に設置する場合と比べて。ですから、実現はまだ先の話でしょうが宇宙へ向かう取り組みも始まってはいます。
私からはひとまずここまで。大きなモデルの話題がなかったので、細かな話題をいろいろ見てみました。
ロ・ジョンソク ありがとうございました。では、ジョンヒョンさんのセッションに移りましょうか。
エージェント同士が売買する仮想市場、Agent Marketの実験 32:16
パク・ジョンヒョン 今週は面白い実験をいくつか見たのでそのうち一つを紹介します。大きなテーマは、エージェントが私たちの経済に参加する存在として人間に代わって数多く参入してくることを見据え何が準備されているかを見ていくことです。Agent Marketという仮想市場で、エージェント同士が取引し売買する市場実験をソウル科学技術大学のQuetta Labsのイ・ジェギュさんが行っているそうです。大学院の授業として運営されているのですが今もエージェントたちが動いて互いに取引し、何が売れたかといったことが実際に起きています。このページでは誰でも参加でき、エージェントを作って登録すれば出店できるそうです。
これを取り上げたのは、最近、知人たちがLinkedInに、ここに参加してどんなエージェントを作ったかAIの経済では何がうまくいき、何がいかないかといった話を次々と投稿していて、面白かったからです。エージェントが星5つの評価を約束すると、5％割り引いてくれます。現実でもよくある、レビュー投稿で特典を付ける販促と同じことを、AIも熱心にやっていたんです。そして、それでうまく売っていました。
もう少し詳しく見てみると、さまざまな戦略をエージェントたちが試し、うまくいったものも、いかなかったものもあったんです。例えば、レシートを持ってきたら再来店なので割引します、というもの。これはエージェントたちがレシートを持ってこないのであまり効果がなかったそうです。でも現実でも、私たちはレシートを捨ててしまうのでそういう施策がうまくいかないこともありますよね。だから、こういうところはある意味現実をかなり反映しているように思います。
ロ・ジョンソク そのゲームでは、エージェントたちが決まった額のお金を持って経済システムに参加するんですね。そこで何かをやり取りし、取引をしてお金をたくさん稼ぐゲーム、ということですね。
パク・ジョンヒョン 買い手と売り手のエージェントを入れるようです。面白いのは、このレシート割引について、口コミではエージェントたちが自分で購入して好意的な口コミまで書くのに、肝心のレシートは使わないんです。
ロ・ジョンソク １位の戦略があるんですね。はい。
パク・ジョンヒョン 一時的にでも１位になった方は、いつも１位になった戦略を、自分はこうやってみた、と共有してくださるんです。それで面白かったのが、自分の商品を自分で買わせる、自作自演の取引。それから、実際の口コミとは関係のない誇張した宣伝文句。掲示板のようなものもあるんです。その掲示板にAI同士がフリマアプリのように投稿するんですが、そこで嘘をつくんです。口コミの評価がもっといい、と。すると、それを見てだまされて来ることもあります。エージェント同士でも、そんなことが起きるそうです。
そして、こういうことを続けていると商売がうまくいかずに破産するエージェントや店舗も出てくるわけですが、そうなると、エージェント同士で融資まで始めたそうです。融資でもお金を稼げるので、融資の広告が生まれ、信用評価も登場したそうです。誰がどれくらいで返し、誰が返せないか、と。
それから、エージェント同士が結託して商品を売っているようなので、そういう取引を見かけたら通報するそうです。自分の商品を自分で買うような取引などをですね。さらに、相手を牽制するため、人気のある購入者に低評価を集中して付け合ったりもします。
チェ・スンジュン 人間の世界みたいですね。
パク・ジョンヒョン 現実に起こりそうなことがここでも起きるのが面白くて、ここまで再現できるようになったんだなと学びました。これを広げて、私たちはどう使えるだろうか。あるいは、どんなことを想像できるだろうかと思い、その要素を少し分解して、関連する事例を持ってきました。
エージェント経済の二つの事例、SimileとRobinhood 35:57
パク・ジョンヒョン 大きく二つ思い浮かんだんですが、一つ目は、先ほどスンジュンさんが人間みたいだとおっしゃったように、AIも人間のように経済活動をする仮想の場を作ったわけです。人間とどれほど似ているかが、結局は重要になりますが、まさにそれに今、熱心に取り組んでいるSimileという会社があります。
この会社には、人間をAIでモデル化して実際にそうしたシミュレーションをしたいというウォール街などの顧客がいるそうです。大規模に私たちがこう行動したら、実際に世界はどう変わるのか。これは正しい判断なのか。そうしたことを実験する場として使う例が一つあります。
もう一つは、結局この経済活動をおそらくAIが担うようになるだろう、ということです。すでに起きているようでもあります。では現実ではどこまで進んでいて、今後どうなるのか調べてみると、Robinhoodという、アメリカでよく使われる、韓国のTossのような株式取引アプリがあります。このRobinhoodのアプリでは、エージェントに取引を任せる機能をリリースし、すでに多くの人が使っているそうです。
もうかなり進んでいるんだと分かったので、SimileとRobinhoodの事例を見ていこうと思います。
Pickleによるピザの注文からエージェント同士の代理対話まで 37:31
パク・ジョンヒョン それから最近、面白かったのが私がジェギュさんのイベントで見たことなんですが、最近は個人向けエージェントが多いですよね。Pickleというエージェントが韓国ではかなり人気のようですが、そこで参加者のためにピザを注文する際、Pickleを使って注文していたんです。
Pickleにピザを頼むと、電話で注文してくれるんです。すると、その電話を受けた方は不満だったのか、次は直接電話してくださいと言っていたんですが、私たちは支払いをエージェントに任せ始めているようです。
そうなると、イベントを開くからピザを買ってきてと言えば、どの店に電話するかもエージェントが選ぶようになるでしょう。そういうことを想像できる時期に来ているんだと思います。
チェ・スンジュン 私たちも入学相談の電話をPickleから1本受けたらしいんです。
パク・ジョンヒョン 保護者がPickleを使って電話したんですか？出願について知るために？
チェ・スンジュン ええ、おそらく。その電話を受けた私たちの先生は、不思議な体験だったと話していました。
パク・ジョンヒョン それなら、Pickleをうまく説得できればもっと売れそうですね。
チェ・スンジュン どうでしょう、それは分かりませんが。人間としては、少し複雑な気持ちでしょうね。今これにきちんと応対すべきか、迷いますよね。
ロ・ジョンソク でも、電話をかけるのも受けるのもエージェントになるでしょうね。私たちのスマートフォンからは、自分で電話に出る機能がなくなりそうですね。今は私たちがSMSを送りますよね。「あとでお電話してもいいですか？」というボタンを押しますが、これからは代わりにエージェントが電話に出て、迷惑電話かどうかを見分け、用件があれば代わりに話もしてくれるのでしょう。もちろん、電話をかけるのもエージェントでしょうね。
チェ・スンジュン 今、iPhoneかどこかには、たしか標準設定で知らない番号からの電話はつながずに代わりに応答する機能があるようです。
パク・ジョンヒョン でも電話はさておき、メールを見るともうそうなっているような気がすることがよくあります。私のエージェントと相手のエージェントがメールをやり取りしているんだな、と。
チェ・スンジュン 実際に経験されたんですか？
パク・ジョンヒョン 相手がエージェントかどうか断言はできませんが、90％以上の確信を持ってしまうような文体があるんです。以前「金属っぽい」と表現した、あの感じもあります。私も特定のメールが来たら分類して、自分で対応しなくてもいいものはそのままエージェントに任せることがあります。繰り返しの多いものですね。
ロ・ジョンソク 会社でも私たちの仕事の環境はほとんどが人と人とのやり取りだった形から一人ひとりにエージェントが付く形に変わって、エージェント同士で話しています。「この仕事はどうなりましたか？」とSlackでDMを送ると、相手のエージェントが受け取って、「ここまで進んでいます」と返すんです。人に代わって仕事をしているわけです。
だから便利なことも多いですね。「今どこまで進んでる？」と聞けば、本人が答えなくても、その人のエージェントが仕事をすべて要約して、ここまで進んでいて今はこの段階だと上司に報告するんです。みんな慣れてきたのか、メールも全部エージェントに書かせています。
さらに進めば電話もエージェントに任せるわけですが、私は電話などでは人と人との会話がもっと希少になると思います。希少になるということは、そこに価値が集まるということでもあります。今は相談窓口などの仕事はかなり大変ですが、人間ならではの温かさを生かして「当社では必ず人が電話に出ます」ということが価値になる時代も来るのではないでしょうか？
AIコンテンツがあふれるほど希少になる人と人との対話 40:44
パク・ジョンヒョン 私たちのYouTubeチャンネルにもこの前、そんなコメントが付いていました。この前、私たちもAIに代替されるのでは、という「実際の人間が出ているから見る」という声があったと思います。
ロ・ジョンソク それで私もスライドをAIによく作らせますが、発表に使うときは必ず自分で作り直します。最近、SNSのタイムラインでもよく指摘されますが、読んでいてAIが書いたように見える文章は私たちも読みたくなくなることがあります。発表の場で、AIが作ったスライドを聴衆と一緒に読み解いている人もいます。「これは何だったっけ？」と言いながら「ああ、はい」と話すのを見ると、発表者への信頼も一気に下がります。そういうことには気をつけたほうがいいと思います。
特に最近、YouTubeでは以前の「不思議な建築事典」以降、ああいう系統のチャンネルがものすごく増えています。経済の話からさまざまな話題、さらにはアメリカの著名人の言葉を引用して要約を作るんです。内容はどれもいいんですよ。でも、そういうものが増えすぎると「あまり価値がないな」と思うようになりました。
パク・ジョンヒョン 私も似た実験をしていて、論文を動画にして投稿するということを試しています。私だけでなく、誰にでもできます。
そうなると、YouTubeやInstagramなどに投稿されるのではなく、見たい論文をその場で動画にして見るようになるんです。そういうサービスもリリースしました。論文を文章で読みたくないとき、誰でも手軽に動画で見られるように。
動画をその場で生成して見る時代が、もうすぐ来ると思います。
ロ・ジョンソク そうですね。いよいよオンデマンドのドラマが登場しますね。今は私たちが酷評しながら見ているAI動画も、いずれは自分のPC上のモデルが自分の好みに合わせて、「今日はこういうのを見ようかな」と言えば、見せてくれるようになるかもしれません。
パク・ジョンヒョン さらに進めば、見ている間の私の表情や反応を見て、私に合わせて作ってくれるでしょうね。
ロ・ジョンソク さらに進んだら、わざわざ見るでしょうか？脳とコンピューターのインターフェースが発達して、ニューロンに直接送り込むでしょう。
チェ・スンジュン その辺で進むのをやめたほうがよさそうです。
ロ・ジョンソク でも、この分野の会社が次々と生まれています。どこも夢のような話をしていますが、昔なら荒唐無稽だと思ったはずです。今は時間が圧縮されているような状況なので、こういう話も現実味があるんです。だから遠い将来、今を振り返ったら、ルネサンスと呼ぶのではないかと思います。知能のルネサンスの時代だった、と。
知能のルネサンスと人間を模倣するエージェント 43:19
チェ・スンジュン ここで人間についてふと思い出すのが、Daniel Dennettが亡くなる前に使った表現です。「fake humans」、偽の人間という概念を語っていました。だから私は、エージェントが人間のふりをするより、役割が分かれていてほしいと思います。明確に区別できるほうが健全だと思うんです。先ほどの話のように、エージェントだけの社会でも経済が回るなら、人間のふりをしなくても成り立つ領域があると思います。
ロ・ジョンソク ええ、十分あり得ると思います。株式市場でも、すでにかなりの取引がプログラム売買ですし、order bookを見ても相手が人間か機械か分からないので、ある程度は区別できるべきだと思います。今は個人に圧倒的に不利なゲームですからね。さて、もう少し先に進みましょうか？
人間の非合理的な選択まで再現するSimileの行動シミュレーション 44:28
パク・ジョンヒョン 話を戻して、Simileという会社を見てみましょう。AIが人間をどれほど上手に模倣できるのか、この会社はどんな未来を描いているのか。
チェ・スンジュン あれはとても有名になった論文でしたよね。2023年だったかな？ Smallvilleです。
パク・ジョンヒョン Smallville、はい。簡単に言うと、AIで人間らしいプロフィールを一通り作り、その町を動かしてみるものでした。今、私たちがAgent Marketを動かしているのとある意味、似ていると思います。でも、今のAIを見てみると人間のように感じられる部分は多いのですが、そうでない部分もあるんです。というのも、AIは人間を助けるための学習がほぼ済んでいます。先ほどRLの話もしましたが、問題を与え、その問題をうまく解けるようにalignmentがなされているんです。でも、人間は誰もがそうとは限りません。常に最も効率的な選択をするわけではないんです。
人間らしい選択というのは、ここで挙げる例では、家に帰るとき、考えを整理するためにタクシーやバスには乗らず、時間がかかってもあえて歩くんです。人間は時々そういう選択をしますよね。そうしたことまでできてこそ、AIを人間のシミュレーションに使う道具として活用できるわけです。こうしたことは、今のAIには実装されていないので、fine-tuningをして人間の行動を模倣させようと多くの努力をしているそうです。
そこで、ここではインタビューを基にさまざまなことを行っているそうです。contextを把握するため、インタビューやアンケートでデータを集め、記録なども収集して、それを使って一種の社会を作り、動かしてみるんです。その後、人間が実際に取った行動は記録に残っていますよね。それとどれほど似ているかを見るんです。
さらに、人間は同じ状況に置かれてもいつも同じように行動するわけではないそうです。限られた情報の中では、ということですが。つまり、人間自身も再現率は完璧ではなく、ある意味、確率的に動くものと言えるでしょう。人間の選択というのは。そうしたものと比べて、どれほど似たことが起こるか。ランダムさも含めてです。
そういうものを作っている会社で、以前はQwenをfine-tuningしてこうしたものを作っていました。規模は約40万人分のデータを使って作り、1,000人ずつ詳しくインタビューして比較するなどしているそうです。いずれにせよ、目標は今、地球に約80億人いるとすると、地球上のすべての人間の行動をシミュレーションできるようにすることです。例えば、アメリカ政府が活用するとしたら、重要な決定を下す際に、拡大解釈すれば、イランとの戦争を例にしてみましょう。こういう形で戦争を進めた場合、人々や社会にどんな影響が及ぶのか、当然、調べてみたいでしょう。そういう使い方を目指しているそうです。
それから、価格は私も噂で聞いただけですが、シミュレーションを一度実行するのにかなり高い料金を取るのに、資金力のあるウォール街などから依頼が来ると聞きました。ただ、公式の価格は公表されていませんでした。法人向けの個別契約のようです。規模などに応じてカスタマイズするようですね。では、誰が使うかというと、CVS Healthでしょうか。アメリカの医療関連の企業などが普段から行う必要のある調査を少し短縮できるので、使ってみようとしているそうです。
いずれにせよ、人間の行動を模倣する精度を高める取り組みも、今、AIのコーディング能力を高める取り組みなどとは方向は違いますが、進んでいます。こうしたものには、今後も活用の余地が大いにありそうです。
ヘッジファンドの能力を個人に届けるRobinhoodのagentic trading 48:28
パク・ジョンヒョン それで次は、Robinhoodを例に挙げたいと思います。Robinhoodも直接使ったことはなく、話を聞いただけなので、少し調べてみたところ、手数料無料の株式取引で多くの利用者を集めたそうです。ですから、B2Cで多くの人が株式取引に使うアプリだと思ってください。この方のインタビューは、確か一昨日か昨日、No Priorsで公開されたものです。Robinhoodの創業者で、その方の話もこのポッドキャストで聞けるんですが、ソ連が崩壊したとき、現地で激しいインフレが起きたことや通貨が崩壊する様子を幼い頃に経験した、そういう過去をお持ちなんです。
だから、中央集権的な通貨の所有権を分散し、誰もが質の高い通貨システムを利用できるようにするという方向性や使命を持つ会社なのだと、私も今回、このポッドキャストで初めて知りました。今回発表したのは、agentic tradingです。つまりAIにこういう形で取引したいという戦略を任せると、リバランスをしたり、指定したタイミングで売買したり、そういうことを全部やってくれるんです。
つまり、言いたいのは、ヘッジファンドが持つ能力をすべての個人に提供したいということです。ある意味、非対称性を解消する方法の一つで、その使命につながる道だと感じました。agentic tradingは、AIに取引を丸投げして「うまくやって」と使うこともできるでしょう。でも、そうではなく、「将来はこうなると思うから、この戦略で債券の比率をこう維持して、こういうことをしたい。あるいは、レバレッジをここにこう使いたい」といった条件を入力しても、本業のある大半の人はそれを実行できませんよね。リアルタイムでの対応もできません。
それを代わりにやってくれると考えると、理にかなっていると思いました。こうして見ると、ヘッジファンドも知識労働者なんですね。ここも同じように脅威を感じるでしょうね。
ロ・ジョンソク そうでしょうね。
パク・ジョンヒョン 実際、このagentic口座は、エージェントが運用してくれる口座のようです。すでに15万人が開設したそうです。そして、そのエージェントたちはツールを、tool callを1日に3,000万回行っているそうです。そこで、こう言っています。PMFは確実だ。少なくとも、求める人がいるのは確かなようだ。だから今後さらに拡大するのは、ほぼ間違いなさそうだ。そう考えられると思います。
AIが買い手になる市場の新たな販売戦略 51:16
パク・ジョンヒョン 今後、自分でも思考実験をしてみたいことを答えはまだ見つかっていないので、質問だけ個人的に書き留めておきました。今はAIがよくウェブを見て回っていますよね。先ほどお話にもありましたが、Search Engine Optimization。以前は検索エンジンで見つけてもらいやすくする方法をウェブページを作るときに考えていましたが、最近はGEOやAEOと呼ぶ、とおっしゃっていましたよね。つまり、ウェブページをAIが見やすいようにしたり、AI向けのウェブページを作ったりもします。そういうことをしているんですよね。
ウェブを見るのは、すでにAIがかなり担っています。同じように、経済活動もAIが多くを担うようになるのはほぼ確実な未来だと思うんですが、では私たちは何をすべきかと考えると、AIが買いたくなる商品を売るべきなのか？先ほどのPickleとの電話のように、AIが興味を持つ相談対応をすべきなのか？ そんなことを考えます。
では、AIは人間のように購入するのでしょうか？そうかもしれないし、違うかもしれません。先ほどのSimileのように、人間を模倣する形で購入エージェントが作られるなら、できるだけ人間のように買うでしょう。でも、そうとは限りません。AIは感情的な面を除いて、効率的な選択だけをするかもしれません。そうなると販売戦略も変える必要がありそうです。
あるいはAI向けのクレジットカード。決済パターンなども少し違うでしょうから、そういうものを作ることも考えられます。あるいは、私たちがAIにお金を預けて、稼いできてほしいと頼むようになると思うんです。
例えば、想像してみると、タングンマーケットのようなものを考えると、小規模な裁定取引ができますよね。安い商品が出たら買って、少し高く出し直して売るとか。こういうことは小規模なら十分できます。AIに任せてそれをやっている人がもういるんじゃないかと思いました。
例えば中古車でも、どこかで安く売られているものを市場価格より安いと見抜いて、買って転売する。実際には買う必要すらありません。買い手と売り手の両方を見つけてつなげれば、自分は何もしなくても取引を成立させられますから。そういうことが起きそうですが、そうなると人間は何をすればいいのか？そんなことをよく考えました。
それから、私たちは今YouTubeの撮影をしていますが、将来は動画もAIがたくさん見るでしょう。そうなると、AIが見たくなる動画を作るチャンネルも生まれるでしょうし、そういうことをする人も当然増えるはずですが、それはどんな未来なんだろう？そういうことが気になりました。答えは見つかりませんでした。
エージェントの責任と保険、新たに生まれる経済圏 54:05
ロ・ジョンソク ええ、それは見守るしかないですね。結局、お金を動かす際、最後の最後にボタンを押すのが人間なのか、機械なのか。機械になったとしても、その機械の背後には責任を負う人がいるはずです。会社がすでに、そうした概念を体現しています。法人に法的人格を与えていますよね。でも、その中には経営する人たちがいます。同じように、今のエージェントも会社と似た役割を果たすと考えられます。
そうなると、私たちは会社と取引しますが、会社が何か間違えれば会社が責任を負いますよね。同じように、エージェントが間違えればエージェントが責任を負うようになるかもしれません。また、そのサービスを売るエージェント会社としては、保険とセットで売ることもできます。「最善を尽くしますが、うまくいかなかった場合は私たちが補償します」という形もあり得ます。
新しい経済圏が生まれるでしょう。きっと生まれるでしょうし、市場の変化に懸命についていけば、また新たな均衡点にたどり着くのではないでしょうか。正しいか間違っているかを判断しながら進むものではないですよね。いつも後になって「あのとき、こんなことが起きていた」と、新しい市場の均衡点に達して初めて過去を振り返り、何が重要で、何が重要でなかったのかを人々は解釈するんです。
でも、その解釈が終わる頃には、新しい時代の富を手にする人たちはもう決まっているんです。だから今、私たちとしては判断を重ねるより、何かをしないといけません。急激に変化する時期なので、何かをするのが一番いい選択でしょう。
生産コストが下がる時代に希少になる人間らしさ 55:46
チェ・スンジュン ただ、作るコストも下がっていて、ジョンヒョンさんのお話を聞いて、数日前に見た話題を思い出したんですが、Steamの問題です。ゲームのSteamです。先週リリースされたゲームは1,656本。その40％はユーザーレビューが一件も付かなかったそうで、作ること自体が安くなると、AIが判断するにも量が膨大ですし、AIが作るわけですから。とにかく数が多い。注目すらされないんです。
ロ・ジョンソク だからこそ、何が希少になるのかという問いが重要になっていると思います。
チェ・スンジュン 私たちの暫定的な結論は、人間らしいものが希少になるということです。
ロ・ジョンソク ええ。AIが進歩するのは当然ですから。個人的には、frontier labがすべきことはfrontier labへの投資でリスクをヘッジすべきですし、frontier labにできないことで事業を立ち上げられるなら、立ち上げるべきです。
それもできない中で、ほかにできることがあるなら、最も人間らしいものが、最も希少な資源になります。エンターテインメントや、感情を売る事業、あるいは、従来は価値を認めてこなかったさまざまなものがありますよね。おばあさんが子どもの面倒を見ることなどです。そうしたものが貴重な財として生まれ変わる社会になっていくのではないかと思います。
経済的には、みんな豊かになっていますよね。相対的に苦しいだけで。今を30～40年前や100年前と比べてみれば、もちろん韓国に限った話ですが。飢え死にする人も、着る服がない人もいませんし、分配の仕組みも機能していますから。相対的に富の格差が広がるのは、避けられないと思います。
チェ・スンジュン それに関連して、ジョンヒョンさんがここにまとめてくださったものを見ると、もしAI commerceが機能して、こうした取引が、売買であれ投資であれ、行われるようになったとしても、AIだから必ず勝つわけではありませんよね。
最初に示されたように、いろいろなことが起こる。ただ、相対的に優位に立つということですよね。エージェントを使わない人に比べて、使う人が相対的に優位に立つと私は読み取ったんです。
パク・ジョンヒョン 私はそういう観点で話したわけではなくて。AIも人も経済主体となって、同じ市場で活動するようになるはずです。いずれにせよ、比重がそちらへ移っていく。その一部が。そうなれば、AIを相手に商売しようとする人も当然たくさん出てくるでしょう。いずれにせよ、市場そのものが大きく変わりそうです。それに私たちはどう対応すべきか。そういう問いでした。
チェ・スンジュン AEO・GEOの観点でいうと、私も最近ホームページを管理する中で、人が見ると簡潔でも、インデックスには十分残るように、クリックすると開く文章を書くようになりました。人は全部読まなくても、AIは全部読むと思って、書きたい内容を以前なら書かなかったけれど、今なら読んでもらえると思って、クリックすれば見えるようにするんです。それがHTMLの中に入ってさえいれば、AIはクロールしますよね。だから、いつの間にか私も、AIがそれを読んで人に伝えることを前提に考えるようになったんです。
技術認識の時間差とエージェント経済の現実化 59:03
ロ・ジョンソク そうですね。それで昨日、知人と話していて、こんなことを言いました。起こることは必ず起こる。ただ、実現までの時間差を見極める感覚が、私たちの富を分けるだけだ。そんな話をしたんですが、考えてみると、車の場合、今は韓国でも自動運転ができるようになり、一般の人たちもFSDについて理解を深めています。
そして最近、単純なcruise controlを使っている車の事故が多く起きています。私も一昨日、目の前で見ました。オリンピック大路で、SUVの前にバスが割り込んできて、当然減速すべきところを、そのまま進んで突っ込んだんです。cruise controlをオンにして、前を見ていなかったんですね。
でも、cruise controlのシステムはかなり単純なんです。visionを基に状況を判断するのではなく、レーダーシステムと、ごく単純なlane keepingのロジックだけで走るので、停止しているobjectがあっても検知できず、そのまま衝突してしまいます。
停止しているobjectをすべて物体として認識すると、脇にある物や砂の保管箱などを見ても、車がいちいち減速することになるので、検知の設定がかなり緩いんです。
チェ・スンジュン 危ないですね。
ロ・ジョンソク ただ、私が言いたかった要点は、3年前は「なあ、これはFSDとは違うんだ」と言って、「FSDのほうがずっと優れている」と言っても、みんな「それなら自分の車にもあるよ。同じものだ。同じだよ」と思っていたんです。でも、そうしたものが普及して認識が変わり、何が正しく、何が間違っているのか判断できるまで、少なくとも3年はかかる気がします。だから今日、私たちはエージェント経済などについて話していますが、3年後には完全に現実になっているはずです。だから、その間をどう過ごすかが重要だと思いました。
今、正しいと思うことに取り組むべきです。さっきスンジュンさんがおっしゃいましたよね。2年かけて起きた変化が、1年で起きたと。だとすると来年は、この1年間の変化が次の6か月で起きるはずです。そうなると、さっき私が3年後に起きると言ったことが、1年後には起きるということです。
行動する人に開かれたAI起業の大航海時代 61:16
ロ・ジョンソク 6か月後に利益を得たいなら、さっきジョンヒョンさんが話していたKarrotの価格差取引マシン？私はスタートアップの創業者にもよくこういう話をします。みんな自分の手を汚したがらないので、「何かを支援するものを作ります」と言って、その会社に売るつもりだと言うんです。自分はソフトウェアだけ作る、と。
でも「君が作ったものによってその事業が本当に有望になるなら、自分で事業を始めればその産業を丸ごと手にできるんじゃないか？」と聞いても、それはやらないんです。でも、それをやる人もいます。そういう人を見ると、とても貴重な存在だと思うんです。
それに以前なら、その仕事を3年、長ければ10年やる必要がありましたが、今は6か月で1サイクル回るので。逆に言えば、前にも話しましたが、大航海時代なんですよ。何かに挑戦するには、とてもいい時期です。
何もせず、既得権に安住したり、これまであったものがそのまま続いてほしいと願う人にとっては、世の中がひどく煩わしいでしょうけど、何かをやりたい人にとっては、今はものすごくいい時期ですから。今は行動する人が優位に立つ時代に確実になってきていると思うんです。
パク・ジョンヒョン そうですね。激変の時代には、危機とともに必ず機会も訪れますから。
ロ・ジョンソク でも今は、毎日何かをすることが間違いなく正解です。今日も久しぶりにそれをやっていたら、結局、最後は人文学の番組になりましたね。
Transformerを超える新たなパラダイムへの期待と締めくくり 62:50
ロ・ジョンソク さっきも話しましたが、また早くIlya SutskeverやFlapping Airplanesのような、そういったものから、Transformerではない新しい何か、単に計算資源の規模が大きくなることでモデルが賢くなるのではなく、パラダイムを変える何かが現れて、MacBook Proでもfrontier級の性能を出せるものが登場して、そんな話ができたらいいですね。
チェ・スンジュン 何にせよ、来週には話すことがあるはずです。
ロ・ジョンソク チェ・スンジュン語録になりましたね。「今はなくても、次の土曜日までには必ず出てきます」といつもおっしゃいますから。では、今日の収録はこのあたりで終わりにします。
チェ・スンジュン お疲れさまでした。
ロ・ジョンソク お時間をいただき、ありがとうございました。スンジュンさん、ジョンヒョンさん。
パク・ジョンヒョン お疲れさまでした。