EP 118
特異点のただ中を見渡す｜AI投資サイクル、数学ショック、サンフランシスコの空気
特異点を通過しつつあるという感覚 00:00
ロ・ジョンソク 収録日の今日は2026年10月11日、日曜日の朝です。変化があまりに速くて、スンジュンさんは今日、収録に入るなり「疲れて死にそう」と言っていましたが、本当にいろいろなことが起きていますよね。モデルの発表もそうですし、今度は数学が終わったと言われていますが、次は何が終わるのでしょうか。進歩の速さを示すグラフが私たちには予測もつかない傾きで、ますます急になっている感じがします。だから、本当に私たちはシンギュラリティを通過しているという話は、私たちだけでなく、コミュニティでも盛んに話されているようです。そこで今日は、その話を私が一本、スンジュンさんも一本、ジョンヒョンさんも一本、合わせて三本用意しました。私の話は、こうして急速に変化する現象を過去の枠組みに照らし、鉄道ブームや光通信ブームはどうだったか、その中で産業はどんなサイクルをたどったか。今、これほど目まぐるしく変わる世界から少し距離を置いて、全体を見渡し、次に何が起こるのか、そして私たちは何をすべきか。ビジネスの思考実験です。私はいつもそういう話をよくするので、ビジネスの思考実験についてお話しするところから始めたいと思います。
time gapとdomain gapで描くAI市場の地図 01:26
チェ・スンジュン どんなバージョンなのか気になりますね。
ロ・ジョンソク これは私が考える、今の市場を見るための枠組みなんです。以前、逃亡者連合などほかの場でも使った図です。x軸をtime gap、y軸をdomain gapとして、今の市場で何が起きているのかを一つの枠組みで捉えようとしたんです。まず右上には、私たちがFrontier Labsと呼ぶOpenAIやClaudeのような企業がいて、最先端へ、シンギュラリティへと引っ張っていっています。そのすぐ後ろをQwenやDeepSeekなど、私がQuasi Frontier Labsと呼ぶ企業が約2～6か月遅れで追っています。さらにその後ろには、汎用分野から一歩離れ、特定分野に特化しようとする法務やコンサルティング、会計業務の企業が続いています。そしてFrontier LabsもQuasi Frontier Labsも、後からついてくる一般の人々や、あるいは私たちが「知識」と呼ぶLLMを超えた分野へと拡大し続けていますからね。それらを矢印で示してみました。緑の線にはadoption frontierと書きましたが、この線の右側にいるのは変化についていっている人たちで、左側にいるのは、まだついてきていない人たちとして表しています。私はいつも産業全体を二次元のグラフで表すのが面白いと思うので、
無理やり図に入れてみました。では、私たちはどこにいるのか。「we’re here」と書いたところです。分野の中で最もvirtualな端には、私たちがLLMと呼ぶ知識産業の寵児があり、反対の端にはphysicalの極みであるhuman laborがあります。その間にさまざまな分野を配置してみたんです。そして物理世界、現実世界に近づくほど、いつも話している報酬シグナルを与えられるRL環境を作るのは難しくなり、仮想世界に近づくほど簡単になります。その間には、実に大きな分野が集まっています。巨大な産業が集まっているのですが、私たちはRLVRの境界に少しかかるこの辺りに位置しているのではないかと考えています。この図をもう少し現実に即して描くと、このくらいになると思うんです。先ほどは大きく描きましたが、私たちが見ているFrontier Labsで何が起こり、数学では何が起こり、コーディングで何が自動化されたか。こうした話は、エンジニアや起業家が中心のコミュニティではごく当たり前の話なんです。でも、そこからほんの一歩外に出るだけで、それがまだ現実になっていないコミュニティが、非常に大きく広がっています。スンジュンさんも先ほど、私との雑談でそんな話をしましたよね。外に出ると、この話ができる人がいない、と。誰もがこの速度で生きているわけではなく、大半の人は、まだそうではないからです。今でもTesla FSDと現代自動車に搭載された運転支援システムは同じものだという
議論がたくさんあります。そうした時間感覚に照らしてみると、蓄積はこのくらいだと思います。多くの一般の人にとって、AIはまだ現実に起きていないことなんです。それからsuperintelligenceですが、トランプがsuperintelligenceに変えようと言ったので、SpaceXもSIになったようですね。でもASIが登場したら、RLVRの境界上にある産業はすべて終わってしまいそうです。大きく見れば、おおむねこういう戦略があります。Frontier Playersが提供する価値にいち早く気づき、自分の分野が安全かを判断する。そして結局、収益を上げるのは少し時間差を置いて後からついてくる人たちから稼ぐ仕組みで、今ではFrontier Labs以外の大半のビジネスモデルがそうです。ここからもう少し進むと、私たちが独自に、分野ごとのRL環境を構築するとかですね。モデルの学習やファインチューニングは、この2〜3年ですべてなくなり、プロンプトエンジニアリングで代替できるという声が多かったのですが、また、ファインチューニングやモデル開発に携わる人の時代が少しずつ来ているように思います。そしてJevのような事例はとてもよい例だったと思います。それが今日の話の出発点なのですが、
鉄道や通信に匹敵するAI投資サイクル 06:36
ロ・ジョンソク 今、AIへの投資は過去の大きなバブル、鉄道や通信などのインフラ投資期と比較され、鉄道にも匹敵する投資サイクルだと言われています。投じられるお金も桁外れです。数字を少し見てみると、2026年にビッグテック4社が年末までに使うという金額を合計すると、7,250億ドルです。10億ドルは、1ドル＝1,000ウォンで計算すると1兆ウォンですから、約1,000兆ウォン近いお金をビッグテック4社が設備投資に使うわけです。自分たちが稼いだお金もあれば、株式で調達したお金もあり、借入で調達して帳簿に載らないお金も多いんです。ところが、NVIDIAが四半期に稼ぐ額は約89兆ウォン、100兆ウォン近くになります。一方、今AIで収益を上げている会社、AnthropicとOpenAIはどちらも売上高を公表していません。世に出ている数字や少しずつ出てくるデータをもとにARRを推定しているんです。年間で見ると、この2社を合わせて約400億ドルと650億ドルで、100兆ウォンほどになります。CAPEXへの投資はほぼ10倍。でも、稼ぐ額はその10分の1。しかも、その収益の合計もNVIDIAがほぼ1四半期で回収する額と同じくらいなんです。
capexと売上の間にある巨大な格差 08:17
ロ・ジョンソク つまり、ここには大きな開きがあります。今も桁外れの投資期ですが、この投資期が成り立つ理由は何か。さらに成長するからです。まだ始まったばかりだ、と。企業向けだけでなく消費者向け市場が開けば、市場は途方もなく大きくなる。現在Google、Meta、Appleが築いている産業全体がAIに置き換わる。そうした論理が背景にあるわけです。では、本当にそうなるのか。そうならなかったらどうするのか。そうした問いをいくつか立ててみました。今、ものすごい速さで進歩している世界ですが、それでも、この思考実験の出発点となる4つの問いを書き出してみたんです。
チェ・スンジュン その前に、1000兆ウォンがどれくらいなのかなかなか想像がつきません。頭の中でイメージできなくて。1000兆ウォンに相当するものは？
ロ・ジョンソク 韓国の年間政府予算が400兆ウォンくらいだったと思います。それに、韓国の年間GDPが1000兆ウォンほどでしょう。つまり、民間と企業と政府が使うお金の合計です。それがそのくらいになるはずです。時期のずれはあるでしょうが、そこまで考慮すると計算が複雑になりますし、いつ買ったGPUが今の売上を生んでいるのかについては、投入と産出をすべて対応させるのが難しいので、今年の水準で大まかにまとめました。それでも、今年の投資額と今年の収益を比べるだけでも、大きな差があるわけです。ですから、その点を踏まえて聞いていただければと思います。数字を厳密に計算して何かを予測するアナリストというより、大きな流れを思考実験するために数字をいくつか挙げているので、一部の数字には誤りがあるかもしれません。その点はあらかじめご了承いただいたうえで話を始めると、本当に大きな金額ですよね。スンジュンさんから質問がありましたが、私がこの1兆ウォンという額を会社の人たちに説明するときは、聖水洞のオフィスにいた頃、蚕室のロッテタワーが大きく見えたんです。高さもありますし。あの敷地と、そこに建つレジデンスやホテルなどを全部合わせると、あの不動産は約10兆ウォンだと言うんです。だから、それを基準に考えればいいと話しています。
フロンティアの多元化と消えたescape velocity 10:47
ロ・ジョンソク では、本題に戻ると、ご存じのとおり、AnthropicとGoogleとOpenAIだけがフロンティアモデルを作れるわけではありません。資本と十分な計算資源、データセットと人材さえあれば、フロンティアモデルは誰でも作れるという認識は、ある程度広まったようです。そして先頭では、ものすごい勢いで急速に進歩していますよね。今は猛スピードで進歩していると言っても過言ではありませんが、これほど速く発展する産業では、普通、escape velocityと言いますよね。脱出速度を超えた一、二社が独占市場を形成し、技術を独占して、その後は楽に稼ぎ、特許で守られたり、ほかの形で守られたり。製薬業界のようにそういうことが起きるものですが、そうはならず、多様化が続いているんです。うんざりするほど絶え間なく多様化が進み、新たな参入者も増え続けています。市場は大きくなるはずだという、その前提だけを頼りにです。それに最近、Andreessen Horowitzがこうした発表を盛んにしていて、できるだけ多くのデータを集め、現在のAI市場がどの段階にあるのかをテーマに、YouTube動画を多く出しています。アメリカ人のおよそ半数がAIを使っているそうですが、料金を払っている人は5％にも満たないそうです。信じられない数字ですよね。
それに売上全体を見ると、上位10％が売上の半分以上を生み出している。さらに上位1～2％が売上の20％を占めている。つまり、売上が上位に極端に集中した市場で、その売上のほとんどを生むワークロードは、私たちがChatGPTで行うようなチャットではありません。チャットではなく、膨大なエージェントサービスで、ワークフローの自動化や、動画制作、あるいはコーディングなど、ほとんどがそうした仕事なんです。それで、別のAndreessen HorowitzのYouTube動画でもこんな話をしています。コーダーは3,000万人いる。世界全体でです。ところが、コーダーは事実上、ほぼ全員がすでに使っていると考えられ、彼らが生む売上は今、ほぼ100兆です。一方、知識労働者の数は約15億人だそうです。つまり15億人ほどいるということです。では、その全員が使い始めたら市場はどれほど大きくなるのか、という話ですが、ここにも疑問を持つ必要があります。果たして知識労働者が、コーディングのエージェントのワークロードほど使うのか、それともメールの要約を頼むような簡単な用途にとどまるのか、まだ分かりません。OpenAIもClaudeもWorkを作りましたよね。コーダー以外の知識労働者にも使ってもらおうと、オフィス製品群と組み合わせてWorkを作りましたが、どれほど成長しているかを示す指標は発表していないんです。
明らかに急成長しているなら、その数字を示して、これほど好調だと言ったはずですが、コーディング以外の知識労働ではまだあまり使われていないのではないかと、私は推測しています。そして消費者市場については、年初にOpenClawが登場したとき、これが一般の人々に行き渡ればどれほどの影響があるだろうと考えました。今、その様子を見ていますよね。Grokbot、Muse。Museは500万人が使っているそうですし、Grokbotにも利用者がいるそうですが、消費者向けアプリはまだあまり見かけません。人々がまだそれほど使っていないんです。今後どうなるのだろうと思います。つまり、現在起きている極めて大規模な過剰投資の根拠となっているのは、こういう話です。これから知識労働者がみな参入する。そして消費者向けの用途も広がる。そうなると、今の利用量に比べてどれほど増えるか見当もつかないわけですが、本当にそうだろうかと問い直す時期に来た気がします。というのも、身近で見ていると、人々のAI導入は思ったほど速くないんです。企業の業務フローもAIに切り替わりつつありますが、まだペースは遅いと感じます。
となると、今後もモデルの……これまではずっとベンチマーク競争でしたよね。フロンティアモデルがすべてを手にする。だから技術面ではAnthropicとOpenAIが決着をつけるだろうと。Googleも当然追いつくと思っていましたが、意外にも今、Googleが少し静かなのがみんな不思議に思っている点です。Metaも追いかけてきて、Elon MuskのGrokも追いかけてきている。では、次はどんな競争になるのでしょうか。それで、以前お話ししたとおり、ヨーロッパ出張中に少しけがをして、数日間寝ている間に、過去にはどんなことが起きたのか、そうしたことをClaudeに尋ねながら調べてみました。今の投資規模を見てみると、GDP比で特に目を引くのが、1800年代初頭から1900年代初頭まで約100年間続いた鉄道ブームです。考えてみると、1700年代後半に蒸気機関が初めて登場し、それが産業革命を牽引しましたよね。そこから生まれた一つ目が鉄道で、二つ目は蒸気機関によって工場の自動化が始まったことです。この二つが当時の大きな変化でしたが、鉄道の歴史を見てみると、最初の鉄道路線は1825年に造られ、最初の商業路線は1830年にマンチェスターとリバプールを結んだ路線だったそうです。
それまでは、リバプールが綿花を輸入し、マンチェスターには、その綿花を織って布を作る工場が集まっていました。まさに産業革命が始まった都市でしたが、当時はまだ運河で輸送していました。そこに鉄道が登場し、運河が独占していた市場を切り崩し、はるかに安く輸送できるようになって、速度も上がり、貨物を運ぶだけでなく、旅客輸送の市場も一気に拡大し、
鉄道革命と過剰投資の熱狂 17:21
ロ・ジョンソク 人々の行き来も増えました。それはまるでChatGPTが初めて登場したときのようでした。「わあ、これで世の中が変わるぞ」と。そこで各地の都市や支線で建設ブームが起きます。収益が見込める区間には路線が一本だけでなく、次々と何本も造られます。そうして過剰投資が広がり、数十年にわたって鉄道への投資が続いたんです。でも、そのときも同じでした。路線ができれば市場は大きく広がる。ところが結果的には、過剰投資だったのは確かで、非常に多くの会社が倒産しました。鉄道路線そのものに投資した人たちは、投資資金をほとんど回収できなかったんです。でも、その結果残ったインフラと安くなった輸送費によって、人々の暮らし方が変わるんです。そうして人々の行動が変わったことで、実際に稼ぎ始めたのは、そのインフラの上に新たな価値を生み出した人たちだったんです。当の運送業者はみんな倒産したのに。地方の農場主が新鮮な牛乳を都市に届ける事業が生まれ、新鮮な野菜も都市に届けられるようになりました。こうした事業が鉄道を利用するようになり、実質的に利益を得たのは彼らだったんです。
大きくまとめると、投資家、特に鉄道の投資家たちは、どれほど大きな利益が出るかと期待して、投資ブームが起きたんです。その投資ブームが起きると、銀行や投資家だけでなく、一般の投資家や消費者までこぞって債券市場に参入し、その産業に資金を投じました。国中が、です。でも、そこでみんな損をしました。では、その価値はどこへ行ったのか。その上で付加価値を生み出した事業者の手に渡ったんです。さらに広い視点で見れば、社会全体がその恩恵を受けたと考えるのが妥当です。その後、その産業はどうなったか。過剰投資に耐えきれず、統合の局面に入ったんです。結局、アメリカではJP Morgan、イギリスでは少数の寡占事業者がそれらを引き受け、統一されていなかったものを標準化し、時刻表も調整しました。さらに政府の規制も入り、運賃を談合で決めてはならないといった決まりもできて、今、私たちが知る鉄道市場になったんです。少数の寡占事業者が規制を受け、大きくは儲けられない産業となって、その100年のサイクルが終わりました。
チェ・スンジュン では、今はどの段階に当たるんですか？ そこが気になります。
AIインフラブームの真実の瞬間 20:23
ロ・ジョンソク 今は、将来市場がどれほど大きくなるかという明るい見通しのもと、インフラへの過剰投資が盛んに起きている初期の市場に当たります。
チェ・スンジュン つまり、倒産したところは今のどこに当たるんですか？
ロ・ジョンソク まだ倒産したところは出ていません。将来の見通しが非常に明るいとき、何が起こるかというと、資本市場もついてくるんです。投資が続き、資金が流れ込み続ける間は、市場は拡大し続けます。そして、本当の正念場は、資本市場が疑問を抱いた瞬間に訪れます。思ったほど消費者への普及が進まないな。表に出ている投資額に比べて、AnthropicやOpenAIの売上の伸びが思ったより遅いな、となれば、後に続く株式投資なども。株式公開をすると、新株を売って資金を調達しますよね。その額も莫大です。新株による資金調達をエクイティ・ファイナンスと言いますが、そのエクイティによる資金調達でも足りなければ、外部から借り入れて資金を調達します。ところが今のインフラ投資を見ると、負債による資金調達が80％を超えています。ハイパースケーラーも借り入れをして、外部にはインフラ投資を専門とするPEなどもあります。さらに、鉄道で起きたのと同じように、今は民間の債券まで出ています。GPUブームやデータセンター建設ブームへの投資を促す商品が登場している今の段階は、鉄道市場で過剰投資が起きた局面と非常に似ています。産業に新たな明るい見通しが生まれると、後から振り返れば、いつも実際に実現した事業の規模よりもいつも期待が大きく、その期待に応じて過剰投資が起き、その過剰投資で光通信網もさらに敷かれ、鉄道網もはるかに多く敷かれました。
それから、実際に必要なソフトウェア企業の数を超えて多くの投資が行われました。考えてみれば、ワープロもそうでしたし、その後のWeb 2.0時代には数多くのWebアプリケーションもそうでしたし、モバイルの時代もそうでした。アプリの時代が始まったときも、アプリ企業が本当にたくさんありました。必要なカメラアプリは一つなのに、カメラアプリは何千もあったんです。そうして、実際の需要を上回る供給がいつも生まれるんです。では、その余分な供給はなぜ生まれるのか。市場がはるかに大きくなるという期待による資本の流入や投資など、そうしたものが生み出すんです。ですから、AI市場もこの枠組みで見ると、今、似た状況にあるように思えます。先ほどここでもお見せしましたが、今年だけを見ても、稼ぐ金額に比べて投資する金額がはるかに大きいんです。今年、これらの企業が7,250億ドルを使い、稼ぐ金額は約1,750億ドルです。これはAnthropicとOpenAIに加え、ほかのネオクラウドなどもすべて合わせて集計した数字で、多めに見積もっても1,750億ドルです。それでも投資額に対して3分の1か4分の1程度にしかならないんです。となると、来年はもっと稼がなければなりませんが、その売上がどこまで伸びるかと考えると、感覚的には、あまり伸びそうにないんです。
コーディングの次の需要が見えないという問題 24:10
ロ・ジョンソク というのも、コーディング分野にはすでに参入が進み、コーディングはかつてソフトウェア市場全体に相当する規模でしたが、そうした企業がほぼ1年の間にこぞってエージェント型コーディング市場に参入し、その市場への参入が進んだ分、AnthropicとOpenAIの売上は急増しましたよね。だから伸び方がこれほど急になったわけですが、次の流入が起きるには、コーディングと同じくらい、このワークフローに合う次の業務がコーディング並みの熱狂と導入の速さで広がる必要があります。でも今はそうなっていません。
チェ・スンジュン つまり、B向けかC向けかの問題ではなく、流入そのものがそうなっていないということですよね。
ロ・ジョンソク そうです。資金が潤沢な間は、その期待から
バブル崩壊後に開かれる消費者市場 24:59
ロ・ジョンソク とてつもない過剰投資が起きましたが、現実が期待に及ばないとなると、次には資本市場の崩壊が起きるんです。投資家は利益を得られません。そして利益を得られなくなると、過剰投資されたものが統合されて標準化が進み、その後、いわゆるコモディティ化が進み、それから規制が入ります。そうして非常に安く市場に供給される時期になると、ようやく消費者市場が成長し始めるんです。鉄道でもまったく同じことが起きました。鉄道ブームが起きた1800年代半ばから後半にかけては、まさに「これがもたらす未来はどれほど明るいのか」と期待されました。しかも当時は、アメリカの西部開拓と南北戦争などが重なり、人々が暮らす範囲が絶えず広がっていた時期で、そうした動きとも結びついていたんです。そうして拡大しましたが、1800年代後半にはバブルがすべて崩壊し、今、私たちが知る少数の企業による寡占体制に変わったんです。もちろん、鉄道では100年かけて起きたことですが、AIではほぼ1年、2年単位で起きている点が違います。それに、鉄道は建設すれば数十年使えるインフラが残りますが、モデルは4カ月で入れ替わる在庫なんです。4カ月もすれば次の新製品が出て、消えてしまう点が違いますが、大きな枠組みで見れば、似たようなサイクルをたどっているのではないかと思います。
そして1900年代にJP Morganのような人たちが参入し、再編をきれいにやり遂げて初めて、このインフラの上で通信販売や小包、あるいは都市化といったものが花開き始めたんです。そして、その都市化が牽引した知識産業の発展もありました。そこで今の状況を鉄道ブームと重ねて考えると、中国にフロンティアラボがいくつかあり、米国にもいくつか、韓国にも政府主導でいくつかあり、欧州にもいくつかあり、日本も取り組むと言っています。こうした動きを見ると、明るい未来を見込んだ資本が流入している資金潤沢な段階は、まだ終わらないと思います。もう少し続くと思うんです。今はその途中にいるのではないかと思います。ですから、先ほど申し上げたように、消費者市場は、これがすべて終わって標準化され、完全に汎用品になってから開き始めますが、昨年末の時点では、AnthropicとOpenAIがフロンティアで築く差が非常に大きくなり、「これからモデルは非常に高くなり、OpenAIは3,000ドルや1万ドルのプランを出そうとしている。それによる生産性向上の価値が料金をはるかに上回るからだ」といった話をしていましたよね。モデルの価格は上がるだろうと。ところが、今は逆なんです。モデルの価格は下がり続けています。一方で設備投資は増え続けています。それで私たちも企業などについて話すときに、こういう話をよくしますよね。AIが知識労働をどれほど変えるのかと話して、「もうAIのせいで全部終わりだ。私たちはみんな大量失業する」などと言っていましたが、今のところ、実感としてはあまり変化を感じられません。
蒸気機関から電気モーターへ変わる知識労働 28:34
ロ・ジョンソク これも別の見方ですが、これまでの知識労働の仕組みがAIに合わせて変わっていないのだと私は思うんです。ここでよく使われるたとえがあります。かつて蒸気機関が工場という仕組みを作りました。大きな蒸気機関が一つあって、動力を伝える主軸を工場につなぎ、そこからたくさんのベルトを1階や3階へとつないで、その下で、標準化された道具を動かす仕組みでした。最初に電気が導入されたときは、蒸気機関を大型モーターに置き換えただけだったので、生産性はほとんど上がりませんでした。電気による本当の生産性向上は、その後、モーターが小型化し、ミシンなど、各作業の流れに合わせて新しい小型機械が生まれ、工程が組み直されてから初めて起きた、というたとえがよく使われます。つまり、私たちが何十年もかけて築いてきた企業という知識労働の仕組みは、AIが入ってきても、まだ蒸気機関のように使っているだけで、電動モーターのときのように仕組みを変えれば、本当の変化はそこから始まる、という話をしています。
ただ、これもまだ皆の推測です。私がそばで観察したり、PalantirやChamathが手がけるAD90.aiなど、それから、いわゆるFDEを掲げ、多くの企業を対象にAXコンサルティングやシステム構築を行う会社を見ていると、その市場もまだ少し立ち上がりきっていない気がします。だから結局、最も重要なのは、需要が投資額に追いつくかどうかなんです。今は追いついていませんが。今後、コーディング以外に新たな市場が生まれて、AnthropicとOpenAIの売上が今年と同じ成長率で2027年にも伸び続けるかが最初のポイントだと思います。もちろん、その2社が生む需要はGoogleやMeta、Microsoftや多くの小規模企業にも分散して取り込まれるので、数字も各社に分散するでしょうが、成長率が維持されるかが第一です。次に二つ目は、今GPUに象徴される過剰投資を資本市場が吸収していますが、先ほどスンジュンさんが「1,000兆って、一体どれほどの額ですか？」とおっしゃいましたよね。国家予算ではなく、国のGDPに相当するほどの額で、韓国もそれほど小さな経済ではありません。かなり大きな経済の一つです。
そんな国単位の資金投入を正当化できるのか。GPUやクラウドを提供する企業が、投資のために調達する資金に見合う顧客を確保し続けられるのか。今は「建てれば建てた分だけ全部売れる」と言って、IDCを建てる人たちも皆、楽観的ですが、こうした数字が現実になっていけば、少し変わってくると思います。結局、大きく崩壊するか、小さく崩壊するかは、投資額と得られる売上の差にかかっていると思います。その差は、GPUへの投資に対してneocloudやAnthropicなどの売上をすべて合計したものが追いつけるか、そして、その間の投資額が少し減るかどうかにかかっています。その需要はエンタープライズなど、いわゆるB2Bコーディングの次に来る企業でのエージェント導入への需要でしょう。本当に大きいのは消費者への普及ですが、MuseやGrokbot、それからGemini Sparkなど、いわゆる今の検索ですね。Amazonや検索、Googleなど、そうした分野の需要をAIが完全に奪ったわけではありません。Googleは今も従来の事業で、Amazonは物を売る事業で巨額の売上を維持しています。そうした売上をGrokbotやMetaのMuseなどが取り込むのか、そして、その市場が成長するのかが次の指標になると思います。
境界なくあらゆる領域へ広がるAI企業 33:09
ロ・ジョンソク それから、もう一つ興味深かったのは、最近、韓国のジンウォンさんやファルソンさん、Notaのキム・テフンCTO、それからLablupのキム・ジュンギCTOと、4人のCTOをお招きして、Lablupのカンファレンスでパネル討論をしたのですが、今のAI企業を見ているとですね。あらゆる企業が、あらゆる領域に進出しています。ほんの1年前までは「うちはファインチューニングをやっています。うちはオーケストレーションソフトウェアを手がけています。うちはモデルを作っています。うちはこれをやっています」という具合に、一つの領域をそれぞれ担っていました。でも今の企業を見ると、OpenAIやAnthropicをはじめ、どこも境界なく事業を広げています。AnthropicもOpenAIも、バイオ、法務、それから企業内のワークフローやオフィスと呼ばれるいくつかの巨大な分野は自分たちで手がける、そこは全部自分たちでやって、それ以外でだけ提携する、と公然と話しています。
だから、あらゆるレイヤーの事業者が今、あらゆるレイヤーに進出しているんです。その動きの出発点にあるのが、結局、モデルは私たちが思ったほど価値を取り込めていないということです。以前は、優れたモデルを作る会社が利益を総取りすると思っていましたが、違います。モデルは汎用化が進み、価格が下がっていますし、中国のモデルなども2〜4か月遅れで追いついてきます。それらの性能が高い水準で横並びになれば、フロンティアモデルが値上げしたら、どうしますか？合理的な企業なら、少し性能が劣ってもGLMを使うか、DeepSeekを使うほうへ移るでしょう。だから、モデル側は当初の予想ほど価値を取り込めなくなるんです。モデルはますます汎用化しています。そうなると、レイヤーで見れば、価値の獲得先が上下に広がります。下のレイヤーでは、NVIDIAのようなチップ企業やデータセンター事業者が利益を得るようになり、上のレイヤーはアプリケーション領域でしょう。私自身もそう見ていますし、市場を見ている多くの事業者も、Andreessen Horowitzも、アプリケーション市場は、まだ開かれてすらいないと見ています。今あるのは、ほんの一部だけです。ですから、モデルのレイヤーが得るはずの価値が上下へ移っているのも、とても興味深い点です。
希少な場所へ移る価値 35:38
ロ・ジョンソク そこで、非常に重要な問いを立てる必要があります。先ほど「逃亡者のプレイブック」と言いましたが、AI市場にまだ参入していない私たちも、どこへ向かうべきか分かりませんが、すでに市場にいる人たちも行き先が分からないのが現実です。その証拠は、AIラボが四方に事業を広げ、各レイヤーにいた有望企業もまた四方に事業を広げていることと無関係ではないと思います。彼らにも、まだ答えが分からないんです。先ほどの鉄道ブームの話に戻って、目の見えない人が象の後ろ脚をつかむような気持ちで大づかみに考えると、価値はどこへ移るのでしょうか。答えはいつも、価値を手にするのは、技術力が高いところや、資金が豊富なところ、そういうところではなく、経済学の基本原理に従って決まる、ということです。希少なところへ移るんです。希少なものは、いくつかに限られます。まず消費者市場では、供給は際限なく増やせても、お金を払う消費者の数は今のところ限られています。しかも人口は減り続けていて、消費者はますます希少になっています。
だから、消費者の視線が集まるところへ価値が移るでしょう。次に、企業やコーディングのような領域では、以前は作ること自体が希少でしたが、誰もが作れるようになったら、次に希少な資源は何かと考えると、「文脈と責任が積み重なるところ」だと私はまとめました。今、AIの時代に活躍している人たちがいますよね。AIを使いこなせて、事業を手がけた経験もある人なら、事業を手がけた経験とは何でしょうか。人に言われたことをこなすのではなく、自分で仕事を組み立てて責任を負い、リスクを引き受けながら何かを実行できる人だということです。そういう人たちが希少な資源になり、価値の獲得先がそこへ移るでしょう。そうした人たちが作るPalantirのような会社や、特定の分野のAIワークフローを扱うコンサルティング・ソリューション企業へ、価値を獲得する場が移ると私は考えています。コーディングには先にこの変化が訪れましたが、コーディング市場はもう終わったと思うんです。参入する人はみんな参入しました。コーディングのワークフローもほぼ行き着くところまで来たと見ています。私はトークン代に100万ウォン以上払っているんですが、サブスク料金だけで、ですよ。私ももう、これ以上は使わないと思います。話しているうちに結論が出ました。もう少し様子を見る必要がある。
そして、先行きはあまり楽観できそうにない。資本市場から見ると、バブルが一度はじけてもおかしくない時期に差しかかっているように思います。そのバブルが一度はじければ、AnthropicやNVIDIAの株価は下がる可能性がありますが、その後に本番が始まります。あえてグラフにすると、今はほぼ頂点にいるようですが、こう上がって、少し下がってから、再び二度目の本格的な成長が始まるサイクルが来ると思います。今はその時代の流れをよく読むことが重要だと思っています。今、シンギュラリティが近づいている市場から一歩外に出て、もう少し遠くから眺めたとき、この市場はどこへ向かうのか、という思考実験です。今の時期が終わって、後から振り返れば、何かが終わった未来から今を見たとき、あのときあれをやるべきだったとはっきり分かるはずですが、今は見えませんよね。価値は常に、技術力や学歴に優れたところではなく、希少なところにあります。歴史的にも、ずっとそうでした。先ほど会社の話をしたときにも少しヒントをお伝えしましたが、私も自分の会社や関わっているいくつかの大きな会社でAIを導入してワークフローを変える実験をしています。そこで、以前は希少だったものの、今はAIに任せて代替しようと分類する項目もあれば、今なお希少な項目もあります。不確実性のある領域です。評価指標が明確に定まっていない領域です。
だからこそ、誰かがそこへ行って、それでもなおこちらへ進もうと決断し、その決断に責任を持って、実行を引っ張り続けられるわけです。AIであれ人であれ、「こっちへ行こう、行こう、行こう」、「やって、やって、やって」と。言ってみればリーダーシップです。そういう領域は希少になっています。価値はあちらへ移るんだな、と。あの人は今、私の下でこの業界のコンサルティング業務をしているけれど、それが終われば外に出て、その能力を別の業界に応用し、何かを作れば、その会社がモデルと顧客の間で価値を獲得する存在になるんだろうな、という感じがしています。シン・ジョンギュ代表と、あのときLablupのカンファレンスに行ってこの話をしたのですが、CTOに「これから何が重要になりますか」と尋ねると、「ブランドです」と。誰もが同じ商品を提供していても、あの人との取引が一番よかった、あの人は信頼できる、あそこと取引すれば今後も得をしそうだ、と思わせるブランドを築くことが答えだとおっしゃっていました。それも意味のある話です。先ほどの希少性を、会社で起きている現象に
K-popのように二極化する産業構造 41:45
ロ・ジョンソク 当てはめて言うと、どんな市場がもう終わったと考えるべきかというと、何も考えず、言われた仕事だけをして、ボタンを押すだけでお金をもらうそういう市場は終わったと見るべきでしょう。昔は芸術家も町ごとに一人ずつ必要で、それぞれ十分に稼いでいましたが、技術が発展して市場が広がったのです。ソウルの芸術家とニューヨークの芸術家が同じインターネットという場で競争しています。そうしてつながりが高度になると、これも技術によって起きたことですが、市場が地域ごとに分かれるのではなく、一つの市場にまとまって、はるかに大きくなり、参加者は増えても、全員が稼げるわけではなく、大ヒット作だけが稼ぎます。ただ、その大ヒット作が稼ぐ額はとてつもなく大きいので、つまり市場の期待値が上がるので、今は稼げなくても自分もスターになれると夢見る人たちが参入し、そういう市場の形ができるのです。あらゆる産業が、今の私たちのK-popエンターテインメント市場のようになります。市場は拡大し、スターは莫大なお金を稼ぎ、スターになることを夢見る練習生が膨大な数に増えます。けれども、稼げるのはごく少数で、多くの人は稼げません。これからは、あらゆる産業がこういう形に変わっていくと私は思っています。ジョンヒョンさん、今アメリカにいらっしゃいますよね。サンフランシスコは私も行くたびに感じますが、独特の雰囲気とスピードがあるので、目まぐるしいでしょうが、何か面白いことがあったら
SFの現場で見たフロンティアのエコシステム 43:30
ロ・ジョンソク ぜひ聞かせてください。
パク・ジョンヒョン 昨日SFに来て、このフロンティアをできるだけ捉えようとあちこち回っています。その観点から私が観察したことを続けてお話しします。こちらがJevを作った方ですね。こうした方々の発表も聞きましたし、どんな考えでJevを作っているのかも聞きました。Jevを作った方の話も先ほどの話につながるので、少しお話しすると、今のLLMはどれも人を助けるように学習されています。けれども、それだけでは結局、大きく成長できないだろうと。だから、人を助けるのではなく、人が完全に介在しなくても完全に自動化できるものを作らなければ大きな成長の可能性が開けるでしょう。自動化を目指してJevを作った、という話をされていました。同じような流れの中で、どうすればさらに上へ進めるのか、その方もそう考えていたようです。インファレンスと現在のCapEx投資に需要が追いついていないというお話がありましたが、現時点で見ると、なぜこれほどCapEx投資が行われているのか。今ある設備に対してインファレンス需要が多すぎて、作るそばから売れるからです。私はそういう状況を何度も目にしました。あるイベントに行ったのですが、Modalというインファレンス企業が開いたカンファレンスでした。ここに映っている方々は一つのセッションの登壇者で、こうしたセッションが一日中、複数同時に開かれていました。私たちも知っている有名企業の創業者たちがそろって発表していました。私が言いたいのは、インファレンス企業の価値は高いんだな、と。資金も豊富ですし。多くの著名人や企業がインファレンス企業と何か一緒にしたくて、喜んでこういう場に出て、時間を使っているんだな。そう感じました。
AI映画と映像生成市場の胎動 45:24
パク・ジョンヒョン ここでも多くの企業の人に会ったのですが、特にスタートアップです。例えば、現在YCのバッチに参加している人たちや、インファレンス企業の人たちに本当にたくさん会いました。そういう人たちに、「インファレンス企業の人に会おう」と思って会ったわけではありません。道を歩いていて、そばにいる人に聞くと、「うちはインファレンスをやってるよ」と。そのたびに、私は必ず聞いたんです。「インファレンスを売るのと、GPUを買うのと、どっちが難しい？」と聞くと、みんな「GPUを買うほうが難しいよ。GPUさえ買えれば、全部売れる」と。ほとんどの人がそう答えました。それに、インファレンスにも実にいろいろあります。LLMだけを動かしてインファレンスを売る人たちばかりではありません。一例として、Dreamscale Labsという現在YCのバッチに参加している人たちは、ロボットを動かすためのVLAやworld action modelのインファレンスを売りたいそうです。そういう人たちは、例えば応答速度などが重要なので、サンフランシスコ市内にあるGPUを探していました。
このように、特定の用途向けのインファレンスにも広がっています。動画生成モデル向けのインファレンスももちろん数多くありますし、その上にもう一層重ねて、「うちは映画制作会社向けに動画生成モデルのインファレンスを提供する。あるいは、あの人たちのようにロボット向けに提供する」というふうに層を重ね、フルパッケージで付加価値を高めてインファレンス市場で競争しようとしている人たちや、さまざまな事業者にたくさん会うことができました。Vastというサービスもそうですし、Weights & Biasesなど、多くのインファレンス企業がイベントを開いて、できるだけ人を集めていました。OpenRouterでも、そういう話をよく聞きました。それから、Falというインファレンス企業は、LTXは動画生成モデルで有名な会社ですよね。こうした会社と一緒に人を集めようとイベントを開いていて、ここにいる企業もみんな必死に活動しているんだなと、強く感じました。映像の話に移ると、私は個人的に映像に関心があるので、AIだけで作った映画の上映会があると知ったんです。
珍しくて面白そうだったので行きました。行って、作品を一通り見たのですが、もちろん作品は完璧ではありません。でも、泣いている人もいたんです。それを見て驚きました。実際の主な観客の視点で考えると、こういう需要が生まれるかもしれない。実際に映画を作って上映する、そういうこともできるかもしれないと思いました。さらに、その先の話ですが、こうしたイベントでたまたま人に会って感じるのは、いつの間にかAIで作られ、すでに公開された映画がIMDbなどにも登録され、評価まで付いているものがかなりあるんです。私もまったく知りませんでした。韓国映画ではなく、ほとんどが中国系の作品でしたが、そういうものを目にしました。そうした映画を作る人たちの間では、最近は特にショートドラマ、マイクロドラマと呼ぶそうです。短尺のマイクロドラマという形式がとてもよく売れているそうです。そういうコンテンツの流れもあり、AIでもたくさん作られています。そして、そこにいた人たちによると、映画制作会社が公に言わないだけで、AIでシーンを生成していない会社はない。どこもやっている、というニュアンスでした。私には真偽を確かめられませんが。それで、モデルを作る会社も、「映画制作会社という法人顧客がいて、その顧客の要望に応えるために、私たちは何をしているか」ということを盛んにアピールしていました。それで動画の……はい、どうぞ。
ロ・ジョンソク いや、少し前に流行った『キム部長』というドラマでも、北朝鮮のシーンは全部AIで作っていましたよね。それにYouTubeにはStarCraftの映画などもありますし、韓国にはこういうことが得意な人がすごく多いと思うんですが、そういう作品が公開されて、私もシリーズで見ています。面白いです。品質もすごく高いですし。
パク・ジョンヒョン それで私も、そこで行っている作業を見せたんですが、本当に映画としての価値を持たせるには、たとえば不自然なところが見つかってはいけないと考えているようです。だから目で見比べても気づかないほど細かな部分まで、足で草むらを踏んだときに草むらがどう反応するか、そういうところまで調整して仕上げていて、そうした事業や研究をしているんです。それから私は動画編集に今いちばん関心があるので、動画編集の分野では、Descriptというサービスが売上も最も高く、人気もあるサービスなんです。そこでその会社を訪ねて、話をする機会があったんですが、CEOとも話せましたし、社内のエンジニアにも会いました。今回、私はサンフランシスコに2週間近く滞在しているんですが、その中で最大の収穫と言えるのは、ここでは音声を正確なタイミングで文字起こしできるモデルが必要だということです。0.1秒のずれも許されないのに、そういうモデルは実は世の中に多くありません。オープンソースのものも数えるほどです。こうしたB2Cサービスを手がける会社は、社内でそういうモデルを自ら研究し、独自に開発していたんです。しかも、そうしたモデルは論文だけが公開されていて、オープンウェイトではありません。社内だけで使うモデルとして開発しているんですが、最前線にいる人たちは、これは消費者市場ですよね。おっしゃっていた消費者市場を切り開くために、社内ではAIをここまで磨き込んでいるのかと。こうしたことが見えてきました。みんな消費者市場を開こうと、
Physical Intelligenceと1Xのscale-up戦略 51:20
パク・ジョンヒョン かなり努力しているようです。次にロボティクスの話に移ると、ロボティクス企業についても、先ほどのModalという会社が開いたイベントで見たセッションの話ですが、たぶん近いうちにYouTubeに上がるはずです。セッションが一つずつ公開されているんです。主にGeneralist、Physical Intelligence、そして1Xの創業者がそろって登壇し、話してくれました。受けた印象をまとめると、実際に導入している、規模を拡大している、ということです。ほとんどが規模拡大についての話でした。「どうやって規模を拡大したのか？」言語モデルのスケールアップとはまた違うんです。なぜなら動画は、データ量が桁違いに大きいので、さまざまな環境でどう質の高い動画を集めて、モデルを学習させるかが課題です。そこでPhysical Intelligenceは、できるだけ多くの産業現場に導入し、稼働させながらデータを得る方針です。Generalistはデータ工場のようなものを運営していて、世界中に工場があるので、そのデータ工場の動画をどうすれば一か所にうまく集められるか。そういう話が多かったんですが、いずれにせよ、ここもまもなく開けそうです。フィジカル分野もです。1XのヒューマノイドNeoは有名ですが、実物を見る機会がありました。こういうイベントでです。Physical Intelligenceの場合は、共同創業者がセッション後に壇上から降りて、普通に会場を歩いていたんです。
そこで声をかけて、気になることを質問する、そんな機会もありました。私がサンフランシスコに仕事で来るのは初めてで、こちらに大きな人脈があるわけでもないので、自分から会話に加わり、情報が集まる輪に入って、有意義な交流ができるだろうかと、疑問を抱いて来たんです。でも実際に来てみると、そういう機会は思った以上に開かれていて、私たちがいわゆるフロンティアと呼ぶこの人たちの集まりも、思ったより緩やかに開かれているようです。だから誰でも望めば近づいて、そこで何かを得て、やりたいことができるんだなと。そう感じています。
ロ・ジョンソク ええ、そうですね。行って「誰か紹介して、紹介して」と言えば、本当によく紹介してくれます。
チェ・スンジュン ちらっと帰りたくないとおっしゃっていませんでしたか？ ずっといたいって。
パク・ジョンヒョン ここではいつもこう表現しているんですが、サンフランシスコに行こうと思ったのは、周りの人たちの影響が大きかったんです。多くの人に、一度行ってみろと言われました。行って交流すれば得られる情報も違うし、出会う人も違う、と何度も言われたので、少し否定的な気持ちで来たんです。いったい何が違うんだろう？どうせ何でもAIを使ってさっと作り、オンラインでやるのに、実際にサンフランシスコへ行ったところで、何が変わるんだろう、と思って来たんですが、サンフランは違う。「サンフランは違う病」と呼んでいるんです。その「サンフランは違う病」にかかってしまって。まずは残りの期間、ここでできるだけ頑張ろうと思います。こちらでもそういう方々に会いました。この動画を見て、サンフランシスコで私に連絡をくださり、一緒にお話しした方々もいるんです。なので、興味のある方もいるかと思って、私がサンフランシスコから帰る前にこちらでvideo LLMを使って動画をどう作るかについてこちらの優秀な創業者の方と出会い、ここでイベントを開くことにしました。こちらにいる興味のある方は、ぜひ……。
チェ・スンジュン イベント名は何ですか？
パク・ジョンヒョン Video as Codeです。動画生成モデルで動画を作るのではなく、LLMの力を借りて映像を理解し、コードを作り、そのコードで、スンジュンさんが先々週たくさん話していたVideo as Codeでとても良い動画を作っている友人にここで出会ったので、一緒にそうしたことを語るセッションを開こうと思います。
OpenAIの数学研究公開とMathpocalypse 55:23
ロ・ジョンソク さて、それでは私たちのフロンティアの話に少し戻って、今週はいろいろなことがありましたね。今週一番悲しかったのは数学者たちかもしれません。OpenAIがまた大きな成果を発表しましたが、その周辺の話をスンジュンさんに聞いてみましょう。
チェ・スンジュン 「Mathpocalypse」という言葉が生まれるほどの出来事がありました。手短に振り返ると、まず10月6日にOpenAIが722本の論文を一挙に公開しました。それが数学界に波紋を広げ、数学者たちも予見していたことですが、実際に自分たちのAlphaGoの瞬間を迎え、数日間、生々しい反応が続いていました。面白いことに、公式ブログもありますが、GitHubにも公開されています。論文を含め、多くの資料が公開されていて、722件のうち、現在3件は撤回されています。誤りがあったためです。私はこの部分が面白いと思いました。そこには、モデル開発の一環として未解決の研究問題を使ってモデルを評価する。従来の数学の評価ではモデルの性能が飽和したため、こうした評価を拡大した、とあります。つまり、数学に取り組むというより、モデルの能力を高めるために数学を犠牲にしたような印象です。実際、722本の原稿、論文のようなものが出ていますが、その成果のカテゴリー、つまり研究成果の種類は約372種類で、実際に解くよう与えられた未解決問題は約4,000問です。
与えられた問題をすべて解いたわけではありません。例えば、準リーマン問題も話題になりました。私も正確には分かりませんが、リーマン予想を解いたわけではなく、その前段階のような問題を解いたんです。難問をすべて解いたわけではありません。それから、数学で扱う分野、数論などを見てみると、約17の数学分野にわたり、数学の全分野の約40％に当たる内容でした。分野で見れば、そういう規模です。そして、未解決問題は非常に多いそうです。最難関の問題は数が少ないでしょうし、ミレニアム懸賞問題のようなものはごく少数ですが、現在、難問とされている問題は9万問近くMathDBに登録されているので、その規模は膨大です。ただ、すべてを扱ったわけではない、というところまで調べました。それで、8月28日は内部モデルの訓練開始ではなく、再開の日です。8月28日に再開し、9月8日にNavier-Stokes関連の成果を発表、フィールズ賞受賞者たちが声明を発表したのが11日で、21日にはすでに100問以上を解いていて、これを発表するにあたっては諮問委員会の助言を受けることになり、著名な数学者たちの助言を受けて、9月29日に諮問委員会の勧告があり、10月6日に発表されました。息つく暇もない展開でした。
数学界の衝撃とAHM声明 58:53
チェ・スンジュン それで数学界からはさまざまな声明が出ました。中でも強硬なのがAHMの声明で、数学は人間がすべきだ、だからAIによる数学に反対する、という署名を募っていて、かなり多くの署名が集まっています。また、諮問委員会の見解としては、私たちは助言こそしたものの、このような形で数学界に大量に発表するのはまったく健全ではない。特に、研究者には公開されていない内部モデルを使って先行したり、格差を生んだりするのはまったく有益ではない。こうしたことはやめるべきだ、という趣旨のことを諮問委員会が公式に述べています。ただ、私が一番感銘を受けたのは、私個人の感想ですが、数学界は健全に対応し、多様な意見を幅広く集めていると感じたことです。それで、このPromptsというサイトは名前自体が面白いのですが、Proofs and Promptsといいます。8月に発足し、AIと数学に関する自動証明などを議論し、実験しているところのようです。
そこに何があるかというと、100以上の解法が出たことについて、「100以上の反応」と題して数学者や数学を学ぶ学生などの反応を集めたものがあるんです。著名な数学者たちの反応も含め、この出来事への反応を集めてタグを付けてみたんです。驚嘆・興奮が36件、喪失感・悲しみが22件。これをAIで分類してみたんです。楽観・希望、淡々・静観、それから若手研究者の反応、先ほど話したアクセスや不平等の問題、それからmanuscript、つまり論文のようなものがとても読みにくいそうです。通常の数学論文のように査読を受けて表現を練り上げたものではなく、非常に難しいので、それを読み解くためになぜ私たちが無償で働かなければならないのか、と。無償労働や検証の負担といった話から、それでも一緒に読んで理解すべきだ、無視すべきだ、など、実にさまざまな意見があります。
ロ・ジョンソク AHMが発表したあの声明は、どんな内容ですか？やめるべきだということですか？
チェ・スンジュン いいえ。AIが数学でこうしたことをするのは容認できない。強硬に対応し、法的措置なども取る。ロビー活動もする。そういった話もありました。
ロ・ジョンソク そうですよね。実効性があるかは分かりませんね。止められないことではないですか？
チェ・スンジュン 100以上の反応の中にも、そうした自嘲がありました。それで私はChatGPTのイベント機能を使ってこれを設定しておいたんです。みんな本当に無償労働をしていないのか、と。ここでいう無償労働とは、その論文を読み、整理して学ぼうとすることです。ところが、これがずっと続いていて、今日の午前3時にも報告を受けたのですが、みんな読み続けているんです。というのも、自分が一生をかけて探究してきた分野なので、好奇心を持たずにはいられないと思うんです。それで実際にこれを読んで何かを発見し、足りない点を見つけてさらに改善することが今も絶えず行われています。
Math 2.0と数学のアイデンティティの再構築 1:02:41
チェ・スンジュン ただ、数学界が今懸念しているのは特に若い数学者の育成や学問としての数学の生態系に関わる問題が大きな脅威にさらされている、という見方が主流でそうした懸念が今、公の場で議論されています。実際、感情のこもった反応が見られる動画も探してみました。Terence TaoはMath 2.0について語り始めました。数日間、自分のブログを議論の場にしてさまざまな意見を募っていましたが今日未明、最近Caltechで発表したスライドを共有しました。10月6日の発表直前にもTaoはおそらく知っていたのでMath 1.0と2.0について言及し、私たちがどう進むべきか提案していました。それから、今の状況は映画のネタバレのように、数学者に先を明かしている、と。そうした問題意識がにじむ発言をした後、しばらく静かでしたが未明にMath 2.0についてのブログ記事をMathstodonに投稿しました。そこで公開したスライドのうちこのスライドがまた批判の対象になっています。
ここではがん治療にたとえているのですが治療するなら、きちんと理解してから行うべきではないか、と。でも医学界では臨床試験で効果が確認できればその仕組みをすべて理解していなくても患者のためになるならその進歩を続けるべきだ、という意味に解釈して引用し、人々が批判しているんです。数学界は少し傲慢だと反発を受けている様子もタイムラインからうかがえます。ソフトウェア業界の見方も少し冷ややかなんです。Tristan Buckmasterという人がいましたよね。Navier-Stokesのときに自分の研究が追い越された、あるいは利用されたのではないかと疑念を呈した人の動画を引用して批判しているんです。大事なのは真理の探究であって、数学者の飯の種を守ることなのか、と。そうした批判が出ているのですがソフトウェア業界では『伽藍とバザール』のEric S. Raymondのような人もこんなに厳しく言う方とは思いませんでしたが私たちはもう2、3年前にそれを受け入れ、耐えながら前に進んでいるのだからあなたたちもそうすべきだ、と。Kent Beckも似たようなことを言っていました。ソフトウェア業界は先に打撃を受けた立場から少し冷ややかな態度を示しているようです。
パク・ジョンヒョン Math 2.0と聞くと、以前Karpathyがソフトウェア1.0、2.0、3.0と話していたのを思い出します。ソフトウェアも構造そのものが大きく変わるというか、そういう変化に番号を付けて話していたと思うんですが、Terence Taoも数学も何か構造的に変わると話しながらいろいろな意見を示し、私たちはどうすべきかという点で人々の反応が少し分かれているようですね。
チェ・スンジュン 証明することが重要なのではなく問題を探究する過程で得られる理解が重要だという話をNavier-Stokes以降、何度もしてきましたし今はとにかく混沌として、混乱していますしさまざまな感情が表れていますが、数学界は議論の場を設け、ソフトウェア業界のときよりもある意味、うまく対応していると思います。そうした感情を口にできるようにし、多様な意見を取り入れて、自分たちのアイデンティティや、この仕事を続けるために何をすべきかを考えているんです。すでにソフトウェア業界や囲碁界が経験したことを踏まえて対応している感じはあります。
ロ・ジョンソク はい。ただ、いわゆる研究は数学だけではありませんから、次は何かという話を私たちもよくしていますよね。
チェ・スンジュン 先ほどはフィールズ賞受賞者や著名な数学者の中にも、自分の研究課題がすでに扱われ、失望すると同時に好奇心も湧く人がいるという複雑な状況だとお話ししました。数学の深いところまでは私も理解しきれないので、表面的な反応を中心に見たのですが、興味深い点がありました。
公開鍵暗号と下がった攻撃のハードル 1:07:20
チェ・スンジュン 暗号が危うくなる可能性があるんです。それでVitalik Buterinも今回、投稿していましたし、私はこの分野に詳しくありませんが、その分野の何人かは、今回扱われた整数論の問題などがRSAなどの公開鍵暗号にとって、量子コンピューティング以外の別の脅威になり得る、AIによる脅威になり得ると言っていました。その分野には少し緊張した空気が感じられます。
ロ・ジョンソク そうですね。新しいアプローチが生まれると、従来の前提が崩れることがあります。あれも数学的な計算に膨大な時間がかかるという前提でアルゴリズムが成り立っていますが、何らかの近道が見つかって、アルゴリズムの計算量が下がることもあります。すぐに破られるほどではありませんが、暗号アルゴリズム自体は、実は非常に単純なものなので、破られる可能性はあります。
チェ・スンジュン 最近、韓国の銀行を狙った攻撃が海外でも話題になりました。DeepSeekを使って攻撃したそうで、その痕跡が残っていますが、いずれにせよ、そうした攻撃を行うハードルも同じように下がっているわけです。
ロ・ジョンソク そうですね。あらゆる問題が、計算資源を投入した探索の問題に変わってきています。「やって、やって、やって」の時代が来ています。
チェ・スンジュン 数学界は大騒ぎになり、今後の方向性を議論しています。ある意味、より健全になる機会だという声も多く上がっています。これまで学術界では、論文の成果が代理指標でした。本来、それが目的ではないのに、成果を測ろうとした結果、グッドハートの法則のように、妙な方向へ成果の評価が進んでしまいました。今はそれを正す機会だという意見も出ています。それは数学界だけの問題ではなく、論文などの生産が爆発的に増えているため、学術界全体の課題になっています。ただ、肝心のOpenAIの関心はまったくそこにはない、というのが私の解釈です。単にモデルの能力を高めたいんです。そのためには、もっと質が高く、難しい問題が必要ですから。だからNoam BrownやMark Chenが引用したのは、数学の話ではなく、またこのグラフ一つです。Astraのとき、内部モデルだったときのものです。そして、これで終わりではない。進み続けています。今回、面白い注目点は、Navier–Stokesは9月初めでしたよね。1万のエージェント、88時間で私たちも一度、詳しく取り上げましたが、今は10月初め。この1か月の間にChatGPT ProThinkingでは1問あたり3時間で、つまり、先ほど触れた約372の問題が平均してこのくらいで解けたそうです。エージェント1体で平均3時間ほどです。これが何を意味するのかについて、今、さまざまな推測が出ています。単純に考えれば、この1か月でRLによって能力がこれほど向上したということです。それからNavier–Stokesについては、私も含め多くの人が推測していることですが、難問を解いたとき、1万のエージェントが非常に優れた解法の軌跡を残したはずです。それが次の学習データになるわけです。
パク・ジョンヒョン 最初に突破するには、あれほど大量のリソースが必要でも、解き方が分かれば、次にたどるのは難しくない。そう解釈することもできそうです。
チェ・スンジュン つまり、筋道が見えて、組み合わせられるものです。数学者のブログ記事などを見ると、凸包の中でのアイデアの組み合わせだと。そこで「convex hullof ideas」という表現を使っています。何かを組み合わせる形で解いているようです。すべての革新がそうとは限りませんが、革新の中には、異なる文献を……数学では、まさにそういうパターンがあります。普通、数学者は専門外のことを深く理解するのは難しいのですが、今のモデルは文献調査と文献同士を結びつける作業が非常に得意で、今回の100件の反応の中にも、「これとこれを結びつけて、これができたの？」という反応がかなりあります。この方はPatrick Toulmeという方で、GoogleでRSIに携わり、Gemini RSIやTPUも手がけた方だそうです。その方が昨日あたりに投稿した内容です。
RSI loopと急上昇するモデルの能力 1:11:55
チェ・スンジュン どのラボもRSIループを回していて、RLで伸びるのは数学やコードの能力ですが、RLをやりすぎると言語能力には悪影響がある。マイナスの影響があるということです。だから、先ほどのように読みにくい文章が出るのもそれと関係があるのか、あるいは、いまだに文章をうまく書けないのもそれと関係があるのかと考えてしまいます。それからボットのようなものについても、シリコンバレーでの反応は悪くないようだとか。それから、この部分ですね。Fable 5.5はまだ出ておらず、ルーティング経由で使っている人がいるという反応があり、かなり良いそうです。OpenAIのBelは12月にはさらに良くなると、Geminiチームの人が噂するほど、そんな話が出ています。あくまで噂ですが。
ロ・ジョンソク ええ。このスピード感にも少しずつ慣れてきた気がします。
チェ・スンジュン 噂をもう少しお話しすると、最近、Anthropicが次の事前学習の実行を始めたという話もあります。これまでの取り組みを続けているわけです。
パク・ジョンヒョン Gemini 4も。ここでは非公開で何かを見せるイベントなどを……とにかく、こちらでは誰でも行って何かを見せるそんなイベントをよく開いています。また、非公開では大口顧客を別に集めてより詳しくアピールしているそうです。
チェ・スンジュン Gemini 4も、まだArgonを全面的にはリリースしていませんが、社内でコーディングが苦手だと言われたからか、Barium-Bが出て、今はCarbonを仕上げています。それで、checkpointがArgonの話に出てから間もないのに、checkpointが次々と更新されているんです。これが今、共通のパターンです。
ロ・ジョンソク とにかくRLをもっとやらせる。うまくいくまで。そして、たまたま良いcheckpointができたら、それを仕上げてモデルとして発表する。
チェ・スンジュン これはHugging Faceの研究者が投稿したものですが、Hugging Faceは「ありがとうございます」と言って、OpenAIのGitHubをRLのターゲットにする、そんなことをしているそうです。それ以外にも、RL環境を作る企業のツイートが最近とても多いんです。「うちもそれをやっています」と。つまり、ビッグテックから依頼を受けてRL環境を提供する事業を営む人がかなり多いようです。
ロ・ジョンソク RL環境とRLデータセットを販売する会社は、かなり儲かっています。
チェ・スンジュン それで、先ほど少し触れたアイデアの凸包ですが、普通、こうして点があると、点の外側に、つまりこの場合はこの間に線ができるんです。そうやって凸包を作るわけですが、現在、数学者の仮説の一つでは、この程度であって、まったく新しい、別の軸を作るわけではないのでは、というんです。ただ、それでもその中で新しい点が生まれることには非常に優れた、衝撃的な面があるという仮説もあります。一方、LessWrongなどでは、いや、これを凸包として見ると中だけで組み合わせているようでも、外挿もできる、と。そういう話もあります。つまり、境界を広げることも不可能ではなさそうだ。そんな議論がされています。
ロ・ジョンソク そうですね。あの境界の定義が実はないということは、誰も言わないんですよね。実際、その境界がどこなのか、誰にも分からないんです。AIの境界と人間の境界は違うかもしれませんし。
チェ・スンジュン それで私も、こうした概念を理解するためにティンカリングをしてみました。凸包とは何か、どういうものかをその場で操作しながら見られるインタラクティブなストーリーテリングです。それで、凸包という概念ですが、数学では「凸」をいろいろな意味で使いますが、こういうものも「凸」と言います。ただ、こちらはNassim Talebが語った凸型のティンカリングなんです。ここでは損失が出る場合もありますが、オプションで利益を得られるなら、コールオプションのように損失を限定して、良さそうなことをいろいろ試す。損失を限定し、成功したときの利益を最大化するわけです。先ほどロさんがおっしゃったように、その中から何か一つ面白いものが生まれれば、多くの損失を補って余りあることが起きる可能性があるわけですよね。そこで、そうした厚い裾についての概念も少し探ってみる、そんなことをしてみました。ただ、これは私が概念を理解するために作ったものです。さて、今の状況について、François Cholletがまた興味深い、少し否定的なニュアンスのある、
知能爆発は来ないというFrançois Cholletの反論 1:17:14
チェ・スンジュン いつものCholletらしい感じなんですが、少し異議を唱えるような話をしていて、再帰的自己改善と、その先の知能爆発は起こらない、という投稿をしたんです。それが私にも印象に残っていてモデルと話すついでに訳しておいたんですが、Cholletの意見では、科学はすでにRSIのように自分自身を改善していくものですが、科学の歴史を見ると、投入を増やしても必ずしもその分だけ成果が上がるわけではない。投入量自体を指数関数的に増やしてようやく成果が直線的に伸びる。だから、この方法で改善してRSIが実現したとしても知能爆発は起こらないだろう、という話が一つあります。それから、これも先ほどCholletが引用したMichael NielsenとPatrick Collisonが2018年に科学の生産性について研究したものを引用して話しているんですが、そのNielsen自身が最近、こんな文章を引用していました。Vernor Vingeが1993年に書いた“The Coming TechnologicalSingularity: How to Survivein the Post-Human Era”という文章です。1993年に数学者でありSF作家でもあるVernor Vingeが書いた文章を引用して、未来は不透明な壁のようだ、と。先ほど図を描きましたが、未来へ進めば進むほど、仮に超知能が実現するとしても、そこがSF作家たちのジレンマなんです。
つまり、以前は予測しやすく、未来はこうなると言いやすかったけれど、技術に関する証拠が出てきて、さらに途方もない技術が現れたら、それで何ができるのかを具体的に予想しようとしても、かえって壁があるように感じる、という話をしていました。そこでMichael Nielsenがそれを引用して言っていたのは、今がそういう時期なのか、人々がこの話や、私がこれまでずっと引用してきたものをよく話題にしているようだ、ということです。私たちは今、多くの証拠を目にしているけれど、この先どうなるかはうまく予測できていないのでは、という話をしていたので、取り上げてみました。でも、これってもう去年の今ごろでしたっけ？ソンヒョンさんとHintonの話をしましたよね。霧、霧が指数関数的に減っていく。だから近くは少し見えるけれど、少し遠くは見通せない、という話で。私も最近、頭の中がかなり混乱しているんですが、先ほどロさんは、こうしたことに冷静になってきたとおっしゃいましたよね。私はそれでも、こういうニュースに耐えていこうと自分なりに決めていたんです。でも今、それがとてもつらいです。
ロ・ジョンソク 見てはいますが、この先どうなるかはもう少し大きな視点で見るべき時期だ、というのが私の考えです。細かく見るには、変化が速すぎるので。
教育が守るべき価値と実験の制約 1:20:17
チェ・スンジュン それで最近、いろいろな方に会って打ち明けている悩みが、これが一体、私に深く関わる教育にどんな意味を持つのか、考えるのが難しいんです。というのも、こうしたことはまだ日常に影響を与えていないからです。今日、どのモデルに何ができるようになったとか、教育の分野では、そういうことが。でも一方で心配なのは、従来の教育が得意としてきたこと、学生が自分の時間を使い、自分の頭で考えて何かを練習することを省かず、すべてをAIに任せるのでもなく、自分がもともとやっていたことをきちんとできる価値を守ろうと言うと、そもそもそれは教育がしてきたことなんです。だから今起きているこうした変化が入り込む余地はあまりなさそうです。なぜなら、むしろそれが教育本来の価値を損なう面もあるので。でも、何かが起きつつあるのは確かなんです。だから一方では、少し不安も感じます。ここには壁があって、未来がよく見えない。そんな今の状況を理解しようと努めていても、どこへ向かうのか見えず、最近悩んでいます。
パク・ジョンヒョン 教育の話が出たので、一つだけ付け加えると、イベントを一緒に主催しようと言っている友人が教育に携わっているんです。つまり、AIを使ってどうすれば教育をより良くできるかを考えていて、大きな方向性としては3Blue1Brownと同じ道を歩んでいます。ただ、それをAIでもっと良くしようとしているんです。そういう取り組みを見ていると、教育に対して本当に崇高な目標を持っている友人なんだなと、話してみて思いました。だからAIを使って、そういうところにも影響を与える消費者向けアプリが出てくるかもしれない。ようやく生まれ始めたように思う、という個人的な感想です。
ロ・ジョンソク スンジュンさんのお話を聞くと、あの言葉を思い出します。未来を予測する最良の方法は、それを創ることだ。正しいか間違っているかはともかく、自分が考える、自分が正しいと信じる未来に向かってみて、「皆さん、これが正しいんです」と訴え続ければ、それが未来になっている、そんな時代になるのではと思います。
チェ・スンジュン 気づくための実験や、先ほど話した凸型のティンカリングをするときは、失敗は早めに切り上げ、成功しそうな選択肢についてたくさん実験する必要があるんですが、分野によっては失敗が致命的になり得るんです。だからepistemic actionそのもの、知るための実験をすること自体にほかの分野に比べてサンプル点を少なくせざるを得ない制約があるように思います。教育もそういう分野ではないかと考えています。なので、私もまだ考えがまとまっていません。それでも最近Nielsenが言っているのは、それでも予測できる制約はある、ということです。Nielsenがそういう話もしているんです。エネルギーや資源のような明白なものに制約を設けて予測すれば、見えてくる部分がある。それが先ほどロさんがおっしゃったことと通じる部分があると感じました。
教皇のAI発言とモデルの意識をめぐる議論 1:23:28
チェ・スンジュン ほかにもいろいろな動きがあって、最近、教皇聖下がよくツイートされています。
ロ・ジョンソク あ、本当ですか？ ええ。
チェ・スンジュン AIの意識に関するものなどいろいろあるんですが、Anthropicは宗教界の人たちと多く会ったそうです。Chris Olahたちが。そういう動きがあって、最近、10月8日ですね。Usage Policyを更新して、虐待するような発言をしてはいけない。そうしたら利用権限を与えない、と。そうした議論の流れと宗教界の反応やAIの意識の問題、それらがAnthropicのIPOとどう関係するのかというさまざまな話の流れがあるんです。そういうことが一つありました。
ロ・ジョンソク お二人に質問してみますね。この子には魂がありますか？どう思いますか？
チェ・スンジュン 魂ですか？どうでしょう。私はまだ魂があるとは思っていません。
パク・ジョンヒョン 私はあると思います。
チェ・スンジュン あ、そうですか？ここで話しているのは魂ではなく意識です。
ロ・ジョンソク ええ、では意識という表現にしてもう少しレベルを下げて話したほうがよさそうですね。モデルにconsciousnessはあるのでしょうか？
チェ・スンジュン functionalconsciousnessがあるというのがAnthropicの主張ですが、相談には使っていないんです。共感を求めるような使い方はせず、助けてもらうために使っているので、その点では少し距離を置いています。
パク・ジョンヒョン 私はあると思います。ただ、「ある」と言うより、魂や意識といったものの実体を考えてみると、人が想像上のものとして、いや、想像というより抽象的に作り出した概念ですよね。だとすると、それらは実はそれほど……宗教などで語られるような形のない神聖な存在、そういうものではなかった気がします。そうした一連の思考は、人間の脳内で起こる思考過程をそう呼んでいるだけで、言葉で明確に定義することはできませんが、人々が共感できるような特別な思考過程や相互作用を指していて、AIもそれを人間のようにできる。先ほど話したAIの映画を見て人々が泣いているのを見たとき、似たようなことを感じたんだと思います。AIが作ったものでも、人間とこうした感情的なやり取りを強く生み出せるなら、それは私たちが一般に魂と呼ぶものにも通じるのではないか、と思います。
ロ・ジョンソク 私の少し変わった答えは、基質が違うだけで同型だ、というものです。substrateが違うだけでisomorphicだというのが私の考えです。
チェ・スンジュン でも……面白いのは、現教皇のレオ14世が就任されたとき、教皇庁が公式に公開した資料には産業革命の話が出てくるんです。レオ14世ご自身は学部では数学を学ばれたそうです。その後、神学を学ばれた方で、5か国語を話し、とても聡明な方のようです。その方が就任されたとき、産業革命に触れながら、ご自身の使命としてAI時代の宗教やカトリックはどうあるべきか、人類はどうあるべきか、そうしたことを考える役割を自ら担うというお話がありました。それもあって最近は、芸術は人間のものであるべきだ、といった発言が教皇から相次いでいます。
ロ・ジョンソク もう一つ面白いのは、別の話ですが、何でしたっけ？GrokがTeslaに搭載されたんです。それで車に乗り、FSDをオンにしてGrokに話しかけると、遅延がとても少なく、すぐ答えるんです。function callも上手ですし、これを分析してほしいと頼むと、必要な呼び出しもすべて行って分析結果を返してくれるんです。そうしていると、隣で家族が黙って聞いていて、「これをOptimusに載せたら、もう人間だね」と言ったんです。
チェ・スンジュン Teslaがやろうとしていることですね。
ロ・ジョンソク こうして一般の人の認識は変わるんだな、と感じました。じっと聞いているうちに、私たちはモデルのベンチマークやサイズなど、そういうものに囲まれているので、その差を感じられないんですが、その世界の外にいる人たちは自分たちが見て認識する価値が変わるたびに少しずつ段階的に飛躍していくんだな、と思いました。進歩があまりにも速いです。
チェ・スンジュン とにかく多くのアプリが作られ、リバースエンジニアリングもされて、そういうものがタイムラインに流れてくるんですが、結局、モデルの能力によるものだと思います。モデルの能力が上がれば、もちろん、すべてに当てはまるわけではなく、当てはまる分野も、そうでない分野もありますが、当てはまる分野では非常にうまくいっていて、今後さらによくなるはずです。先ほどのtest-time computeの話で、internal modelが向上するグラフは、そこで終わりではなく、現在の観測では、ひと月の間にもぐんぐん伸びています。再帰的な部分では。だから年末に出る頃には、また話が変わっているでしょう。でも、年末はもうすぐですよね。
ロ・ジョンソク それでもやはり、
誰にでも巡ってくる自分の番 1:28:53
ロ・ジョンソク 私たちは自分たちの仕事を見つけなければなりません。
チェ・スンジュン 日常は大きく変わりませんよね。
ロ・ジョンソク こういう時代だからこそ重要なのは、結局、正しい問いであり、いわゆる「right question」であり、そういう問いを立てられること自体が希少な能力ですから。私たちもこうして思考実験をしながら、間違った問いもたくさん立ててみてこそ、その中で偶然、正しい問いに行き当たるんです。それでいいのだと思います。
チェ・スンジュン 私たちも一度、少し話しましたが、数学はAlphaGo momentを迎え、自分の番が来たじゃないですか。誰もが自分の番が来ることを考えておくべきだと思います。どんな分野でも。
事業家としての番が来るかもしれないでしょう？
ロ・ジョンソク 来るでしょうね、もうすぐ。
チェ・スンジュン 数学者たちも、みんな予感はしていたんです。でも実際にその時が来ると、感じ方がまったく違うんです。経験してみると。
どんな形で来るかは分かりませんが。
ロ・ジョンソク 最近、私たちはだんだん、大騒ぎに共感することが少しずつ減っていると、私も感じています。だから、この中で何がシグナルで、何がノイズなのか、観察を続けるそんな取り組みを続けていきます。では、今日はこのあたりで収録を終えたいと思います。
パク・ジョンヒョン ありがとうございました。