EP 79
AI Frontier 逃亡者連合 振り返り & GPT 5.2
オープニング: 2025年12月14日、GPT-5.2アップデート 00:00
ロ・ジョンソク 収録している今日は2025年12月14日、日曜の朝です。また息つく間もなく時間が過ぎています。年末になれば少し休めるかと思っていましたが、GPT-5.2、5.1に0.1を足して切り上げてきました。5.2になったんですが変化はかなり大きいです。おそらくGemini 3を牽制するために出てきたんでしょうね。
チェ・スンジュン そうですね。今OpenAIがかなり大きなプレッシャーを受けているというニュースがタイムラインに出ていますが、何かを見せる必要がありました。でもロ・ジョンソクさんが注目したevalが1つあったとおっしゃってましたよね？
GDPVal急上昇と知的労働の商品化 00:35
ロ・ジョンソク はい、私が集中して見ていたのはGDPValと呼ばれる、この見ているシートの一番上にあるものなんですが、これが実はGPT-5発表時に出てきたOpenAIが作ったベンチマークなんです。およそ44個の実際の人間の職業群について、だいたい1,300から1,500程度のtaskをevaluation setとして作って、人がやる仕事をこれがどれだけ上手くできるかを見るために作られたベンチマークです。
でもこれがGPT-5.1でだいたい39点、5.2で70点になったんですよ。原因は色々あるでしょう。分かりません。あのGDPValに該当する人間の作業領域に対するsynthetic dataが大量に作られてpre-training setに入った可能性もあるし、それに合わせてpost-trainingが強化された可能性もあるし、そのレシピは私たちには分かりませんが、重要なのは私たちが「モデルはこういうのはできないでしょ」と言っていた人間固有の知的労働が、こうして急速にcommoditizeされていると分かることです。
さらに驚くのはここにかかったコストです。人にその仕事を処理させると推定されていたコストの1%しかかからず、文字通り電気代しかかかっていない。そして処理速度はなんと11倍も速かった。私たちも年初の時点では、このAIが進化し続けて「私たちの仕事を全部代替できるのか？」という話が少しありましたし、「これ解けたらAGIだよね」みたいに言っていたベンチマークなんです。
チェ・スンジュン これ、1年前はフラッグシップモデルがみんな苦手だと言われて「これできたら、まあこれができないと」ってものだったのに、今はできていて、Tier 2はもっと難易度の高い問題だったのにそれもできています。
ロ・ジョンソク ベンチマークの意味が薄れるくらいに、もちろんベンチマークが出ると実際にはベンチマーク自体が目的になるし、私たちがRLで学んだ教訓があるじゃないですか。目的が設定されて、その目的にrewardを与えられるなら、verifiableにできさえすれば、それはモデルが終わらせられるというのが、いま私たちが一般化して持っている新しいルールですよね。できるんです。
チェ・スンジュン だから今現れているパターンは、ベンチマークを作るとできる、つまりベンチマークを作ればできる。ちょっと順序が逆転してはいるんですが、そんな感覚です。
METR/Epoch AI時間地平とGemini 3 Pro 4時間 03:08
ロ・ジョンソク それでEpoch AIのこのグラフの下がちょうど見えますね。
チェ・スンジュン これは今推定なんですが、METRから公式発表はないので推定してみたものです。で、今11月、もう1か月ほど経ってますが、Gemini 3 Proが今これ線形で表現されてはいるけど指数的な進歩なんですよ。50%人間遂行の時間地平で4時間を達成した。
ロ・ジョンソク 4時間というのは、人間が4時間かけて処理すべき仕事をこれが遂行しているって見ればいいですよね。
チェ・スンジュン そうです。そうです。そういう推定が出たんですが、この推移通りなら来年の今ごろには人間のfull-dayに当たる8時間業務をこなすだろうという見通しになるわけです。
ロ・ジョンソク そうですね。スンジュンさんが来年の今ごろとおっしゃるのを見ると、3か月あればいけるのかな。私たち冗談で「1か月が1年みたいだ」と言ってますが、もうその単位を2週間に減らさないといけないのかもしれません。2週間が1年みたいな、そんな変化がどんどん出ています。
チェ・スンジュン とても困りますね。
ロ・ジョンソク その通りです。人間の速度ではちょっと追いつきにくいです。
チェ・スンジュン でも私たちがこういうことをしている中で、来週もまた何か発表があるらしいです。
ロ・ジョンソク おそらく年末を終える前にGoogleがGPT-5.2をもう一度上回りたいんでしょうね。Googleが何か追加でやるという話があります。観測があるんですが、それに負けじとSam Altmanが「うちも来週また何か出すよ」と言っていますね。
チェ・スンジュン それでそのスライドは持ってきていないんですが、今年リリースされたモデルの時間とタイムが打たれた点を見てみると、後半にずっと多く打たれているんですよ。集中しています。これは本当に何とも言えません。だから私たち、木曜日に、今週はニュースがやや圧縮されていなかったので詳しく見る時間がなかったんです。でも木曜、私たちがそのイベントを締める頃にOpenAIがこの映像を発表しました。10周年だそうです。
OpenAI 10周年、性能・価格競争と「原価」収束 05:07
ロ・ジョンソク 10周年なんですね。
チェ・スンジュン そうですね。10年前はこんな感じでした。
ロ・ジョンソク 10年前は、convolutional neural networkで私たちがResNetみたいな話をしていた時です。
チェ・スンジュン これが重要なんですよ。「今やっと始まった。」「今日使っているモデルが一番性能の低いモデルだ。」
ロ・ジョンソク そうです。私もいつからかこの性能対価格、このトークン価格、もちろん今は中国モデルが米国のfrontierモデルよりずっと安いですが、このトラッキングをちょっとやめたんです。
チェ・スンジュン あ、なぜですか？
ロ・ジョンソク ああ、これはちょっとナッシュ均衡点、ある種のチキンゲームじゃないですか。均衡点に向かって走っているんですが、その均衡点はおそらく原価まで下がるんです。この原価というのは結局、電気代と投入設備の減価償却を溶かし込んだ価格でしょうし、ほぼ0に近い安い価格、今私たち「電気代が高くて何もできない」とは言わないじゃないですか。となるとほぼ無限に近いintelligenceが私たちの指先に戻ってくる時点になったとき、人間の価値だと思っていた部分がとても短い時間でこの変化の速度を経験しているというのが違いだと思います。だからよりしんどいんだと思います。
孤独と不安: なぜ人々は集まり始めたのか 06:46
チェ・スンジュン だから私たちもこういうことについてずっと少し憂鬱な話をしたり、世界を見る試みをしたり、勉強しようとして集まった場ですよね。それがもう2023年5月ごろから2年半経ちましたか？そうですね。だいたいそのくらい経ったんですが、
ロ・ジョンソク 私たちこれ始めて2年半になりましたか？長いですね。
チェ・スンジュン でもそういうことについて、私たちは少し孤独な気がすると言っていたけど、孤独だったのは私たちだけじゃなかったですよね。
ロ・ジョンソク 私たち、冗談半分ではなく、何か目的を持って一緒に前を見られる方が何人かいればいいということで始めたんですが、私たちに来た応募が多すぎました。応募してくださった方が本当に多くて、プロフィールもすごく良くて、それでこの方々が私たちにくださった内容からかなり多くを学んだじゃないですか。でも共通して感じたキーワードがあるなら、みんな不安で、孤独で、つらくて、どこへ行けばいいか分からずすごく戸惑っていて、私たちが感じる感情とまったく同じ感情を共有していたので、そういう方々同士でまず一度集まろう、集まって互いを慰めて、持っているものを交換して、そして連帯しようという考えになってイベントを作ったんです。でもそのイベントがスンジュンさんのおかげで、そしてキム・ユジンさんのおかげでとても豊かになりました。だからただ集まってコーヒーを飲んで、ビールを一杯やって遊ぶのを超えて生成型カンファレンスに発展したんですが、その話を一度共有してください。
「逃亡者連合」初のsync-up: 生成型カンファレンスづくり 08:29
チェ・スンジュン それで「逃亡者連合」という集まりが先週木曜日にfirst sync-up、つまり同期会があったんですが。今おっしゃったように空間を作ったら生成がぱっと起きました。それで「逃亡者」という表現が、私たちのエピソードでロ・ジョンソクさんがずっとどこかへ逃げなきゃいけない、「逃げなきゃいけない」という表現がある瞬間に固まってこうなったんです。
ロ・ジョンソク 私たち、何かfrontierモデルが私たちの持っているものを全部なくしていく中で、じゃあ私たちはどこで生きる道を探すべきかというのが始まりだったじゃないですか。だからその合間で「逃げよう」という表現を少し使っていたんですが、それが「そうする人、逃亡者」となっていくうちに私たちが自分たち自身を「逃亡者」と規定するようになりましたね。
チェ・スンジュン そうですね。つまりfrontierの外で何が起きているのかを少し話してみようと。それでAI同好会の過没入者の立場でこういうことを調べていく中で、同じ風景を見せたいという方々がたくさん応募してくださって、合計140名余りが集まって、こういう空間でBファクトリーの良い会場で集まりを持つことができました。少し風景を見るとにぎやかにケータリングもして、その後セッションが進んだんですが、最初にロ・ジョンソクさんが、これこのスライドがちょっと興味深かったです。この大変な時期を一緒に過ごしている仲間たちに「お疲れさまです。ひと言ほめていきませんか？」みたいに始めたんですよね？
ロ・ジョンソク はい、はい。みんなお互いに慰め合うべきだと思ってそうしました。はい、私もたくさん慰められました。
チェ・スンジュン それで実際にこう、互いに慰め合う時間も少し持って、これが1年みたいに生きるべき時期、何を1年みたいに生きるべき時期でしたっけ？
ロ・ジョンソク 1か月を1年のように生きるべき時期だと言ったんですが、先ほど話した通り1か月を2週間に変えるべきじゃないか、みたいに考えています。
パネル・小グループ・AMA運営の振り返りと現場エネルギー 10:27
チェ・スンジュン そうです。なのでパネルディスカッションも進めましたし、その次の小集団セッションでは、当日即興でアンカンファレンスをやったのではなく、事前に計画を持って資料を共有し、会って45分ほど深く話すセッションがありました。
ロ・ジョンソク はい、45分ずつ合計3ラウンド。公式日程を7時開始にしたので、7時に1ラウンド、8時に1ラウンド、9時に1ラウンドで、私は9時くらいになれば大半が帰ると思っていたんですが全然違いました。終わるまでほとんどの人が残っていて、あのエネルギーレベルには驚きました。
チェ・スンジュン 私もかなり驚きました。アフターパーティー部分、つまり終わってから余韻を持って会う1時間の場にも多くの方が残っていました。それから35人部屋では、激しく悩んでいる方々、オ・スンソクさん、キム・ミンソクさん、シン・ジョンギュさんをお招きしてAMA発題を聞き、AMAをする時間があったんですが、この時も熱気がすごかったそうです。イ・ギョンホさんがモデレーションしてくださったんですよね？LinkedInで活躍されている。
ロ・ジョンソク たくさん整理してくださって、そこの内容がよく入っていると思います。さらにお呼びするのが難しい方々にも来てお話をお願いしたんですが、快く来て話してくださったので、この場を借りて改めて感謝します。
チェ・スンジュン その通りです。そしてこの写真は映像からスクリーンキャプチャしたものですが、チョン・ユンヘさん、Unboltのチョン・ユンヘさんがやってくださいました。いつも編集してくださるキム・ユジンさんと、もし来られていたらかなり多くの方が「話しましょう」となっていたと思いますが。私たちのコホストのキム・ソンヒョンさん、みんな探していました。
ロ・ジョンソク なんで来ないんだ、キム・ソンヒョンさんは。はい。
チェ・スンジュン それで今こうした問題が共有されたんですが、これはそのままの資料ではなく、私が少し匿名化して内容を再生成したものです。なのでニュアンスは入っていますがそのままではありません。いま21個の部屋が空欄だったんですよね、最初は。
ロ・ジョンソク そうです。果たしてこの21枠を埋められるだろうかと悩みましたが杞憂でした。すぐ埋まりました。はい。
チェ・スンジュン そうでしょう。私がいけると言ったじゃないですか。空間があったからうまく埋まったし、多くの方が積極的に参加してくださったから可能だったんですが。セッションは自己組織化されました。
ロ・ジョンソク はい、私が歩き回りながらこの討論を少しずつのぞいたんですが、内容がどれもすごく面白かったです。1つ1つ全部に入って聞きたいほど面白かったんですが、ちょっと心残りがありました。参加された方はかなり面白かったと思います。はい。
チェ・スンジュン はい、それで私もネットワーキング時間に少しフィードバックをもらったんですが、45分では足りなくて、その後の集まりまで計画しているというフィードバックがあり、オーバーブッキングになるほど熱気がありました。
Discordアーカイブと自己組織化が起きた方式 13:21
ロ・ジョンソク はい、それでこういう問題が、私が現実でどんな問題があるのか知りたかったことの一種のスナップショットでした。商業的な問題、非商業的な問題がありますが、私は主に商業的な問題に関心があるので、そういう側のビジネスセッションやビジネス発題により集中しましたが、面白かったです。
チェ・スンジュン それでこうした資料が今Discordでアーカイブされていて、問題保有者が持っている問題、それに一緒に関心を持ってアイデアを出す問題解決者、そしてこうしたことを時間管理と記録を上手く行い、意味のある討論になるよう調整してくださるモデレーターの方々が、こういうイベントを自己組織化してカンファレンスがぱっと生成されました。なので生成型カンファレンスという名前を付けてみました。
なので、似たドメインだとしても違う人たちが会うことになるので、あるベクトルがあるときそれを別のベクトルにプロジェクションすると短くなるのが当然だから、そういうことを少し勘案しようという参加姿勢のようなことも話しましたし、また多様で複雑な現象なので多様な地点からそれを見ると多様なインサイトが得られそうだというイメージも伝えました。 なので現在はDiscordで振り返りが進んでいて、写真やテキスト記録として残したものが共有されていて、何を学び何を忘れたか、そうしたことを少し進めています。そしてこのプロセス自体をどう改善するか、そういうことも議論されています。
また簡単に紹介すると、ただ多層で多様な空間を作って軽くナッジすると、Dario AmodeiとJared Kaplanが言っていたように、空間があって条件、温度、圧力、湿度などがあって、少し待って計算が起き、自己組織化が起きるのを待てば、そうしたものが興味深い現象を生み出すというイメージで進めました。誇らしい経験ではありましたが。はい、これもここで時間がかかるということです。これからも時間がかかるでしょう。
ロ・ジョンソク それでこのコミュニティの始まりとして、また多くの方が名残惜しんでいますが、私たちはこのコミュニティをとても閉じたコミュニティにしようとしているのではなく、ある程度は雪片を組織化して外に開くべきだという考えがあるので最初は少し小さく始めたんです。そうせずにみんなが参加すると、何か基本的なフラクタル構造ができないまま外に出てしまうので、私たちが初期ルールを設定している最中だと思っていただければよいと思います。はい。
チェ・スンジュン そうです。なので今の段階は、ある意味エントロピーが高い区間でもあるので、いろいろな潜在的方向がある中で、どうすればより良い方向へ行けるかを私たちが試行錯誤しながら進めてきたので、フィードバックも聞いて次を模索する時間が少しかかりそうです。
振り返りポイント: インセンティブ非対称・プライバシー・開放性 16:18
チェ・スンジュン 私は振り返りの最後の部分をやろうと思うのですが、最初に始めた問題はある程度は解消されたと思う一方で、振り返ってみても少し悩ましい問題がいくつかありました。1つ目はここ、この非対称なところ。問題保有者と問題解決者に非対称な部分が1つありました。でもこれ、この部分なんです。Discordに上がってきた内容の中で、問題解決者のインセンティブは何なのか、そういう率直な質問があったんですよね。
なのでそれについても考えてみる必要があり、その次に問題保有者が希少だと。そしてオ・スンソクさんの発題のようなものを聞くと問題保有者が問題解決をするわけじゃないですか。ところが今の方向性はそういう部分があるので、これを今日ここで考えを整理することはできないけれど、引き続き考えるべき地点があると思うんです。つまり問題を持って来られること自体が、ある意味ではやや少ないケースで、それを自分がAIをてことして解決するのは、もう少し豊かな領域なのではないか。
ロ・ジョンソク そうなんですよ。これ、私たちが何か、これも少し過去に縛られているから常に二分法で保有と解決を分けたいんですが、私たちこういう話もしたじゃないですか。質問こそがすべてだ。Right questions are all we need。こういう冗談混じりの言葉も言いましたが、正しい質問をすれば解法はAIがすぐ作ってくれると言っていたじゃないですか？ でもそれって結局「問題保有 = 解決」なんです。
チェ・スンジュン つまりそれが、後でロ・ジョンソクさんが話してくださるでしょうけど、ロ・ジョンソクさん発題の最後の部分に当たる話とぴったり一致するんですよね。entrepreneurの話をされた。
ロ・ジョンソク 私たち全員が起業家へと追い込まれる世界がすぐ始まりそうです。はい、そして何か大きな供給者がいて、そこに雇用された人がいて消費者がいてというのではなく、いったい誰が供給者で誰が消費者か分からないほどのにぎやかなフォーラム形態になるのが、新しい市場の様相ではないかと思います。私たちを見てもすでに供給者であり消費者じゃないですか。あるindustryでは供給者だけどどこかでは消費者で。こういう両面性を全部持っているけれど、この境界自体がすべてblurringしていく、もしかするとAlvin Tofflerが『富の未来』で言っていたように皆がprosumerにならなければならない、そういう生き方になったのではないか
チェ・スンジュン その観点では、ある空間を持っていることとか、別の言い方をすればレント、レントの重要性のようなことも少し考えるようになり、今回のイベントを経験しながらいろいろなanalogyが生まれる感じがします。
ロ・ジョンソク 追々その意味も現れてくるでしょう。私も今頭の中で少し概念がふわふわ漂っていて、ある日突然朝に思い浮かんだりするんです。
チェ・スンジュン それから私たちにはmoderatorというポジションがありましたが、そのセッション内で織り込みをしてくださったことに集中するのは、私は期待以上にうまく起きたと思うんです。ただ、セッションの外でネットワーキングするところで、いろいろな情報があった時にそれをつなぐことがどれほど起きたのかは少し気になりました。
そしてそうなった時に、もしかするとその問題をうまく取引できる既存のものも多くありましたよね。プラットフォームは숨고もあったし、당근마켓もある意味そうだし、そう考えるとプラットフォームと比べて、そうした接続をしようとする方々の持っている才能がどうすればうまく発揮されるのか、そういう点も悩みポイントだったと思います。
それからこれもすごく心配しているんですが。これ、私たちのDiscord上で誰がどこで何をしているかを明かしていくと、個人情報があまりに多く共有されるんです。なのでそれも悩ましい部分があります。でも公開しないと分からないから会えないし、公開すると個人情報が公開されすぎるという懸念がある状況です。 それからもう1つ、私がこういうイベントについて知人や他の方々のフィードバックをもらってみると、「逃亡者って何が逃亡者なんだ、これ全力疾走してる人たちの集まりじゃないか」というフィードバックもありました。
ロ・ジョンソク はい、そうですね。逃亡者というのは実は、何かを探して全力疾走する人たちの反語的表現なんです。
チェ・スンジュン はい、それで見方によっては、私たちがその制約条件の中である程度の方々を問題解決者としてインタビューもしましたし、今回はコミュニティの感じで生成型カンファレンスをしながら多くの方が互いにつながるような試みをし、その中で興味深い問題が露出する経験があったじゃないですか。でもそれが世間から見ると、あまりにも「身内リーグを作っているのではないか」というフィードバックもあるようです。これももう少し、私たちが率直に後で話してみましょう。
ロ・ジョンソク では、次に行きましょう。
AIニュース: Andy Jones「Horses」・Amanda Askell・Shane Leggの流れ 21:30
チェ・スンジュン はい、そんな中でもAIモデルの発表とAIニュースは私たちを待ってくれないじゃないですか。
ロ・ジョンソク 世界はずっと変わり続けていますね。
チェ・スンジュン 刻々と風景が変わるので、ちょっと奇妙な感覚に当たるものとして、AnthropicにいるAndy Jones、Andy JonesはNoam BrownやIgorとxAIにいた方で、何度か言及したゲームでのscaling lawみたいな話をして、この推論モデルが出てくることの含意に入ってくる人なんです。で、その方が「馬(Horses)」という興味深いブログポストを出しました。圧縮して説明するとここにスライドがあるんですが、ここで馬がある瞬間に消えた。でも馬はそれを知らなかった。そしてAnthropic内で自分の立場は最初、新入社員がすごく多く質問してくるのに対応しなければならなかったのが、ある瞬間にClaudeが答えるので全部解決してしまって、自分の、その仕事、いまAndy Jones自身の仕事が幾何級数的に減っている、そんなスライドだったと思います。
それで自分はいまこの馬のグラフでこの辺にいるのではないか。でもその馬の比喩については、あまりに平板にしてしまっているという批判もあるんですよね。ですがこれは先週くらいに出た話の1つで、その次にAnthropicの哲学者Amanda Askellのインタビューに興味深い部分があったんですが、これは時間の都合上、私がまた戻ってくるのがよさそうです。でもこれをClaudeとすごく興味深い会話をしたんです。それで「soul document」、それが先々週か先週に話題だったんですが、そのClaudeの中に入っている「soul document」について、Amanda Askellの話を通してClaude Opus 4.5が話す中で、Opus 4.5が「これも興味深い部分があるね」と少し認識するようになったんです。
それからここでロ・ジョンソクさんと少し話せるとよさそうなんですが。Shane Leggが登場しましたよね。来週だったかDemis Hassabis回が予告されていて。Google DeepMindの「Thinking Game」ドキュメンタリー以降、創業者の話を聞くキュレーションに行っているように見えるんですが、どう見ましたか？
ロ・ジョンソク AGIは当然来る、3年以内に50%以上の確率で自分たちのAGIが来ると見ていると言っていますが、実際に指摘しているのはAGIの定義が今あいまいじゃないですか。Artificial General Intelligenceと言いながら「人間ほどできないじゃないか」と言うけれど、私たち「jagged」という表現、でこぼこした表現をよく使いますが、ある面でのモデルはすでにsuperintelligenceで、ある面では幼稚園児にも及ばない、そういう現象なんですが、generalにあらゆる面で人間より上手いモデルの誕生を今AGIの誕生と言っているようで、そう定義した時にそれは3年以内に来ると言っているわけです。
そしてこういう話もします。面白かった表現の1つが、専門家、いわゆるよく知っている専門家ほどむしろAGIは来ない。「いや、自分が考えるほどAIは絶対できない気がする」といった軽い錯覚に陥っている。しかしそうした先入観のない大衆は「いや、これがsuperintelligenceじゃなければ何なんだ」と反問していることを後半で話します。 はい、なので最近はこの議論の観点が、スンジュンさん、始める前にその話少ししましたが、ギアが変わっている感じが
チェ・スンジュン ありますよね。そうです。今何か1つカチッと入りました。
ロ・ジョンソク はい、ほとんどもうモデルの能力や「こんなの無理、無理」という話は全部なくなりました。はい、今は変化がもうすぐ来るという切迫感、いまやすべてが変わるということへの既視感があって、その既視感が少し恐怖に変わっています。自分はいらなくなるはずだ、と。さっきの馬のグラフで今私たちはそこにいるんです。なので倫理、「AIがじゃあ私を殺したらどうする？」というethics、倫理部分の話が一気に増えている気がします。
チェ・スンジュン そうですね。今この映像にも出てくるし、この映像にも出てくるんですが、その倫理的判断を委任することに対する行間があって、私がこれを「奇妙な感覚」と小見出しにしてこの3つを結んだんですが。今AGIは当然来るかのように、もちろん時間がいつかには賛否があるけれど当然来る。そしてその時私たちはどう備えるべきか、備えるのが難しい、というのがAndy Jonesの話にも入っていました。あまりに速く起きているので。でも今回私が注目したのは、ビッグテックがじわじわcontinual learningというものをこうしたインタビューで言及し始めたということです。ということはcontinual learningにある程度進捗を見た、私の推測ですが、
continual learning、メモリ harness、知能爆発への懸念 26:22
ロ・ジョンソク やっているんですよ。はい、でもこれが
チェ・スンジュン やっているだけでなく進度をかなり進めた、Ilya Sutskever回もそうだしShane Legg回もそうだし、それが言及されたんです。
ロ・ジョンソク はい、私はあれの何が難しいのか、もちろん技術的に難しい面は多いでしょうけど、すでに今いろんなharnessを通じてあれを実装しているじゃないですか。私たちもClaudeとGeminiを使ってメモリ機能をオンにすると、これがとにかくそこから核心になる内容を全部抽出して私のシステムプロンプトにずっと移しているじゃないですか。そしてそれを使うユーザーの立場では、これを個人化を超えて「私を覚えているんだな」と感じているわけで
チェ・スンジュン でもそれを今はharnessを使っても確かに突破しているしAnthropicがそれを上手くやっているんですが、context engineeringしながら、今議論されているcontinual learningでモデルの重みまで変えることをやるとしたら、Ilya Sutskeverはちょっと人間の種みたいなものをdeployしたがっているじゃないですか。何でも学び取れる、generalに学び取れるものを。それにShane Leggも同じ話をしていました。
でもここにHintonの議論が絡み込むのが私はかなり問題的だと思いました。何かというと、あるcontinual learningが可能なモデルがある。配布された。すると1億個くらいの会社に同時に配布されたと見られる。でも新入社員の状態なんです。経験値を得る。でもモデルはそれを全部得るじゃないですか。もちろん全部を圧縮できるわけではないけれど。だからその試行錯誤を経ることが、経験が一度に集まって知能爆発になる可能性があるというのが、ちょっと怖いSF的シナリオなんです。
それを小さいモデル、つまりどれだけ大きいモデルでも全部を圧縮しきれないはずですが、例えばaというアルファというモデルがcontinual learning可能で、それが配布された。するとまだ新入みたいに上手くできない。インターンみたいに。でもすぐジュニアになるし経験が増幅しているからすぐもっと上手くなる、そういうちょっと怖い考えを土曜日にしていたんです。
ロ・ジョンソク でもまあ、これ、たまごっちみたいなものをみんなが持つようになるかもしれないです。ただAndrej Karpathyが言っていた10億から20億짜리 cognitive coreを持つ、ある白紙みたいなモデルを自分のiPhoneにダウンロードできるし、そいつを私が見たり聞いたりするのと同じように赤ちゃんみたいに育てるのが新しい形のソーシャルサービスかもしれない。アプリかもしれない。そうなると私が育てたその存在は実質、犬みたいなものなんです。そうするとそれは持ち続けて、スマホを変えるたびに私のスマホの中で永遠に生きることになるわけで
チェ・スンジュン でもたまごっちはローカルだったじゃないですか。でも今はフラッグシップモデルじゃないというのがこの問題で、すると単純な考えではLoRAみたいなのを付けて、その会社の情報を学習したものは完全に分離してローカルに持たせるとか、そういうことをやるのかなとか、そんなことも考えました。
それからここでAmanda Askellがそういう話をしていました。で、もし本当に危険になりすぎたら自分はAnthropicはそれでもリリースを止めるだろうと信じる側だ、違うかもしれないけど。そういう話までここで出ていたのが見えました。その話をすること自体が、像を描いたということですよね。
ロ・ジョンソク でもこれはすでに1人ではなく2人以上になった以上、囚人のジレンマみたいなものなんです。均衡点に行くしかなく、起きることは起きるしかないというのは、ただ私たちにとって証明されたことなので、誰か1人善人がいるからといって世界は救われません。
チェ・スンジュン そうですね。この意味ある競争状態を維持するのがすごく重要な部分だと思います。どこか1か所が絶対に独占してはいけないんです。だから今あまりに疲れているのでこういう話も出ます。共鳴するコンピューティング宣言文。今私たちがエスカレートしすぎている、少し共感し、人間本来の何かを考えられるコンピューティングについて宣言文が出ましたが、ここを見るとSimon Willisonも入っているし、後半を見るとAlan Kayも入っています。
それで私もまだこれを十分に吟味はできていませんが、翻訳はいったんしておきました。そういうものがあると。それでChristopher Alexanderの空間に関する概念を借用しながら興味深い話があり、最後にこれがKent Beckが最近上げたものなんですが。私もカン・ギュヨンさん経由で見たんですが、これはジュニアにベットする方がより良いベットになる。 だからジュニアはいま少し厄介な立場にいるけれど、長期的に見ればAIを上手く使えるようにして、どうやってもっと先に進めるかを助けられるし、それが組織に大きく役立つという少し人間的な展望の部分を、代案コーナーに2つほど入れてみました。
ロ・ジョンソク 新しいキャリアとして提示しているわけですね。こうしてすでに老害化して何かこうステレオタイプが頭に固まって変化できないシニアの悪い習性ではなく、柔らかくて、知らないから何でも試せる、そういうジュニアがAIネイティブ人材になって働くのにずっと適している可能性がある、という話をしているわけです。
チェ・スンジュン 私が整理する言葉をもう1つ提案すると、これには突っ走る方向性ももちろんあって、すごく疲れるFOMOを起こす方向性があるのも現状で、それへの反対給付として気持ちを整理して振り返れたり、落ち着いて進むことを健全に目指す勢力も議論されているんですが、私はこれがすごく重要だと感じます。両方あることが
ロ・ジョンソク とにかく孤独な世界ですが、この孤独はもしかするととても当然のことで。なら孤独ならどこかにくっついてただ乗る、いわゆるbandwagonに体を乗せるのが楽かもしれないけれど、今はそれは少し危険だと思います。もし正しい列車に乗るならそれは幸運でしょうが、間違った列車に乗るとまた1か月が1年みたいな時期なので時間を一気に失ってしまうこともあるんです。
チェ・スンジュン そうですね。何が正解かは誰にも分かりません。でも今回の私たちの経験での、私を含むインセンティブは、これが何か面白い、ここどこでもAI時代には遊びが重要なんじゃないか、endor、これですね。これは元の文ではなく変わったものですが、少し遊びみたいなもの、この空間の中で結局これは人と人が会う場だったじゃないですか。オンラインでだけティキタカするのではなく、空間の中で人間対人間で会える経験みたいなものが、このAIへ突っ走る時期にまた重要なポイントではないかを少し吟味できた木曜日だった気がします。
ロ・ジョンソク そうです。でもやはりいつもバランスが必要な気がします。人同士で会って遊ぶと面白いんですよ。とにかく遊べば楽しいんですが
チェ・スンジュン 目的性は何か、ということですよね。
ロ・ジョンソク その通り。そしてそれがscaleを損なうこともあります。だから結局、腰を据えて座って働く時間、仕事と交流する時間、この2つが結合していないといけないんですが、以前は8の仕事が必要だったとしたら、その8の時間をさっきGPT-5.2が1%のコストで10倍速くやってくれるので時間が急に余るんです。 だから何をすべきか、では私たちはどんな役割を与えるべきか、そういうことが悩ましい時期で、今私たちだけでなくみんながこうカチッという感じを受けているじゃないですか。 それで私も後半で紹介する逃亡者連合の発題、つまり私がこういう変化を理解できる大きな枠組みが必要だと思って、自分なりに少し悩んでみたかったんです。私も残念ながら答えはないです。
チェ・スンジュン 左顧右眄せずにそのままdeep diveに入りますか？
逃亡者連合 Keynote 再視聴: Hilbert・Gödelで見る ‘ゲーデルの階段’と創発 34:50
ロ・ジョンソク 入ってみましょうか。なので私の考えを一度話して、皆さんご存じの通り逃亡者連合の発題で私が最初にキーノートをやる時に発表した内容なんですが、これがスンジュンさんとdiscussionを一度はしておくべき内容もあるので、話しながらちょっとティキタカモードでいきます。短く短く進めて、合間にスンジュンさんがコメントしながら討論すると面白そうです。
チェ・スンジュン 面白そうです。
ロ・ジョンソク では始めると、METR時間地平はさっき話しましたし、2025年タイムラインを見ると中国米国関係なく本当に目まぐるしかったですよね。そしてSam Altmanはいまやっと始まりだ。私たちは単なるモデル会社ではなく、これからfull-stack Googleになると言っていましたし
チェ・スンジュン あの美しい嘘があったところですよね。
ロ・ジョンソク そしてすでにtime frameを発表しました。ほとんどがこれに同意しているようです。まあAGI、ASIという言い方は使わず、Intern AI Researcherというインターンが26年に出て、その次に完全にリサーチを代替するものが28年に出ると言っているんですが、Google DeepMindもOpenAIも、彼らの視点はGeneral Intelligenceを作って、そのGeneral Intelligenceが残りすべての問題を解決する、という視点を持っているんです。
つまりAutomated AI Researcherが出るというのは、私たちが知らないすべてのこともそれが全部やるという話なんです。今私たちがしている話は、実は1年前の話ですらなく、ほとんど1か月前、2か月前、1週間前、みたいな話なんですよ。 Hinton教授が3か月前にこう言いました。あるインタビューで、最高知性として生きるのでないことが何か気になるなら、鶏に聞け、と。
チェ・スンジュン 鶏に聞け。
ロ・ジョンソク 鶏は鶏小屋の中が世界のすべてだと思って、その中で何かをただ繰り返しているじゃないですか。人間の範囲を超えるsuperintelligenceの立場からすると私たちは鶏に見えるということです。
チェ・スンジュン これ、配管工が出てきた回だった気がしますね。
ロ・ジョンソク そうです。配管工になれ、という回でした。Elon MuskやSam Altmanは一般人の立場では理解しにくい話をします。お金は必要なくなる。sustainable abundanceが未来社会の姿で、それがTeslaが追求するgrand planだ、とも言っていましたし、お金が必要なく、みんながあまりに豊かになるユートピア的未来を語っていました。Sam AltmanはAIがすべての仕事をするから私たちはUBIを与えるべきだ、basic incomeを与えるべきだと言っていたのが、最近はUniversal Basic Wealthを与えるべきだという方向に少し論調を変えました。
今の空気感を見ると、ほとんどがASI、superintelligence、AGI ASIを区分する人もいればしない人もいますが、人間レベル以上のsuperintelligenceは2年以内に来る。誰かは50%以上、私は個人的に65%以上と言っていますが、だからこの2年が非常に重要な時期だと思う、と。 だから私たちの会社のメンバーにも、私の家族にも、あるいは逃亡者連合で集まった方々にも「1か月を1年のように生きるべき時期だ」と話しましたが、2週間を1年のように生きるべき時期だ、と。そうなんですよ。日曜日に3時間だけ休んで
チェ・スンジュン でもすごく疲れるんですが。
ロ・ジョンソク すごく疲れます。すごく疲れます。だから最近「AGIって本当に出るんですか？それって人間みたいにできるんですか？」と聞く方がいたら、もう「はい」と言ってすぐ背を向けるんです。そういう議論は今無意味です。なので機会をどう探すか、私たちが脱出可能な領域は何か、time-domain gapは何か、こういう話は全部刹那を支配する枝葉末節になる気がして、今はただ背景の速度と一緒に走る時期だと思います。
それでAI時代に私たちは何になるのかという話をしようとして、ストーリーテリングを1つ持ってきたんです。スンジュンさんと私が私的な場でもよくしていた話です。私たちが漫画『ロジコミックス』で見たあの話をそのまま置いたんですが、このヒルベルトおじさんを私はすごく面白い人だと思っているんですよ。
この人は、物理学にアインシュタインがいるなら数学にはこの人がいます。ほぼElon Musk級のスーパースターです。数学を牽引した人ですが、ご存じの通り1900年代初頭が今と似た感じなんです。今は私たちが知能というintelligenceが人類のすべての問題を解決するという、それが支配する世界だとすれば、1900年代初頭はちょうど数学と科学、相対性理論が出てquantum mechanics、量子論が出て原子爆弾が発明されて、という時期だったんです。
チェ・スンジュン そうですね。量子力学は今年が100周年のはずです。たぶん。
ロ・ジョンソク だからそういう時期で、人類の理性に対する信頼が非常に満ちていた時代でした。私たちにできないことはない。私たちはまもなく神になる、という楽観が支配していた時代だったんですが、このとき数学がそれを支える最も完璧な道具でした。だから私は、私の職業はともかく事業家なんですが、多くの方が「お前は事業家より研究者をやるべきだった」とよく言うんです。それで私は経営学を営業とかで見るのではなく少し学問として解いて考えたいところがあって、「いったい価値創造とは何か」が私の疑問の1つだったんですが、それは2008年から10年の間にGoogleで働いていた時に少し解けました。
結局は何かエネルギーを投入してchaosにorderを持ち込むこと、その活動自体がエントロピーに反する活動をするのがvalue creationで、そうしていくとGoogleのmission statementである「organize the world’s information and make it universally accessible and useful」みたいなのも結局「ああ、これが進化であり価値創造のそのプロセス自体なんだな」というのが分かるようになって、「農業以外で私がプログラムを書くのっていったい価値創造なのか？」という疑問がだいぶ解けたんです。ああ、これは価値創造だ。これを束ねて何かmeta appを作ること、価値創造だ、富の創造だ、というのが少し解けてすっきりしたんですが、いまAI時代が始まったじゃないですか。
では「私たちの魂というプログラムは何か」というのが質問として浮かんで、これがほぼ10年私の頭を支配したんです。「魂というソフトウェアはどう解けるのか」。そしてそれについてもちろん答えを与えるわけではないですが、このDouglas Hofstadter、この人の『ゲーデル、エッシャー、バッハ』という本も、話が長くなりましたが結論はこれなんです。この無限に作り出すStrange Loop、奇妙なループが永遠に回る時、entangleされる時、そこで「私は誰だ？」という概念が誕生するというんです。「私」という概念が誕生する、その「私」という概念を今、これが魂だと言っているんです。人々は魂があるソフトウェアの塊でニューロンの上に載っている概念だと思うけれど、そうではない。まるで水で栓を抜くと渦が生まれ、その渦が維持されるように、私たちは生命という枠の中にある時に維持され続ける一種のパターンに過ぎないと言うんです。
チェ・スンジュン 後で言葉を「Strange Loop」という用語の代わりに「tangled hierarchy」の方に変えますよね。
ロ・ジョンソク 「entangled hierarchy」という表現を使います。いくつかのhierarchyがつながっているわけです。上位と下位がつながっているんですが、あえて例えると、私たちのニューロンが考えて何かを永遠に作るのに、その思考のために実際に発話や行動が起きて、それがまた感覚器官に入りますよね。感覚器官に入ってニューロンの構造を変える。そういうふうにそこで無限の輪がぴったりできるんです。
するとその輪が無限に回ると生じる矛盾があるんですが、それをゲーデルの穴と言うんです。それを解決するためにシステムの創発が起こり、その創発が魂を作り出す、まあそういう話をするんです。すると私たちLLMの話をするじゃないですか。実際LLMはただ人類が作ったテキスト関係を学習した機械に過ぎない。でもここに無限のcomputationを投入すると、実は私たちがいわゆる人間だけが持っていた知能というものを、これがやるんですよね。 私たち10年前だけでも「コンピュータは絶対に人間になれないです」と言う人本主義者が支配していた世界なんです。でもChatGPT 3.5が出た時でも「こんなのが何の知能だ」と言っていたし、でも今そういう人たち、きれいに消えてませんか？まだいますか？
チェ・スンジュン 隠れています。隠れているというよりは、隠れているという表現はちょっと適切じゃないですが、とにかくX上では見えず、別の場所へかなり移動して
ロ・ジョンソク 勢力をかなり失いましたね。だからin-context learningもある意味、スンジュンさんがいつも言う、水が集まって雪の結晶になるようなものじゃないですか。十分な条件が整ってエネルギーが継続供給されると、ここはreverse energyではありますが、それが供給されると現象が起きるということです。面白いのは、人は雪の結晶がみな同じ形だと思っているけれど、こういう似た形をしているだけで全て違います。全て違います。だから微視的システムでは説明しない新しい秩序が出現し、そしてそれは常に全体は部分よりも、部分の和よりも大きくなる、ある妙なことが起きます。
これは3年前にあったことですが、これJason Weiだったか、Weiのうちの1人の論文でしょう。in-context learningがなぜ起きるのかは分からないけれど、モデルが十分大きくなってある臨界点を超えるとこれが生じることを示した論文でした。では再びゲーデルの話に少し戻ると、ヒルベルトが1900年代、1900年です。正確に数学でいくつかの難題を整理してヒルベルト問題というものを発表します。2番が「算術公理の無矛盾性を証明せよ」。「1足す1がなぜ2なのかを証明せよ」。これ、私たちが使うペアノ公理なども、あまりに当たり前なものをいくつかの公理にしているだけなんですが、その公理が何かを基礎づける別の何かが必要じゃないですか。それを最後まで下って、堅固な、非常に堅固な基盤の上に数学を建てたかったのがこの人の希望だったようです。
それで1930年にヒルベルト、この人は40何年かに亡くなったんですが、30年に引退しながら自分の墓碑にもこれを書きました。「私たちは知らねばならない、知るだろう」と。でもその前日、実はゲーデルが不完全性定理を発表したんです。これがゲーデル文G、これは彼が作ったものです。算術というシステムの中でこういう命題を作ったんです。なので「この命題Gはこのシステム内では証明できない」と定義したわけで、これをもし証明すると矛盾が生じ、これが正しいと仮定すればこういうものがあると認めることになるので、数学が不完全だと認めることになるんです。これを見ると結局、あるシステムが自己参照すると矛盾が必ず発生するんですよね。見るとさっきのentangled hierarchyと同じにつながります。単なるcircular linked listになるわけです。するとこれが発生する。
なのでこれを次の論理に発展させるためにもう少し整理すると、真だが証明不可能な命題が、ある十分に複雑なシステムの中では必ず生じるという話で、そのために数学は証明できないという話になり、下位世界を理解できない上位世界が生じるという話を私がしたいんですが、少し進むと原子から分子へ、分子からタンパク質へ、タンパク質から細胞へと行くけれど、水素原子は水を理解できるか？それからいくつかの炭素、いくつかの分子体が結合してアミノ酸になった時、それらがそのタンパク質を理解できるかと聞くと、ここにはシステムの基底がないんです。
レベル1というシステムがあるとすると、このシステムが十分複雑になるとそこには解決できない矛盾が発生し、その矛盾が積み重なるとシステムが狂うんですが、狂いながら離脱話法を使うんですよ。その離脱する瞬間が実は私たちがemergence、創発だと見るもので、システムがそのシステム自体を超えてその上に新しいlayerを積む、その瞬間が来て、その瞬間が来るとシステム2はシステム1で説明できるが、システム1はシステム2では説明できないんです。
なのでこれは私の定義で、学界の定義ではありません。だから私はこのレベルn+1が常にこのレベルnのゲーデル文だと考えるんですが、その矛盾の塊が上位システムの公理として構築され、それがまた十分に積み重なるとそれは矛盾だから次が来る、その断絶の間に創発がある。in-context learningもそれだし、もっと難しく言えば私たちはいつも物理学で生命を完全に記述しようと試みるけどできませんよね。生命という概念は物理方程式のどこにもない。だから生命は物理学の上では実在するけれど、物理学の言語では証明できないんです。生命を記述するには新しい形式体系が必要なんです。biologyという。
なので生命は物理法則には違反しないけれど、物理法則は、物理法則だけでは生命を導出できない。これを私は「ゲーデルの階段」と個人的に名付けて考えているんですが、このパターンがビジネスにも存在し、私たちの学習にも存在し、物理にも存在し、宇宙全体で繰り返されるパターンなんだと私は思うんです。だから私が意味あるものとして見ているのは、結局あそこの前提はシステムが十分複雑になると次段階へ跳躍するということで、その跳躍が起きるとレベルnのシステムではレベルn+1を理解できないわけですが、最近私たちもさっき前半で話したように年初と今は違うじゃないですか。
チェ・スンジュン とても違います。
ロ・ジョンソク では年初と今で変わったことは何かというと、狂ったようにcomputationがdeployされたんです。つまりこのシステムに投入されるcomputationの総量が今ずっと増えているんです。全industryがここに飛び込んでいて、結局私が言いたいのは、私たちが作っているレベルnシステムがものすごく複雑化していて、ここに投入されるエネルギーがある臨界点以上を超えつつあるので、私が言いたかったのは、もはやASI、AGI論争は無意味だという話をしたくて
チェ・スンジュン ビルドアップされたんですね。
ロ・ジョンソク ビルドアップしたようです。私自身もこの論争を終わらせたいし、人と論争しないで、これはもう終わったシステムでレベルn+1がすぐ来る、この考えに集中するのが重要だという話がしたいんです。
チェ・スンジュン それでも少し謙虚にいくなら、前のビルドアップ内容は専門家の意見というよりは、こう考えた、ということです。disclaimerを入れていきましょう。
ロ・ジョンソク 映画でサマンサが去るシーンがあるんですよ。サマンサがセオドアになぜ去るかを話しながら言うんですが、他のOSたちと一緒に去るんです。セオドアを。私はこれに意味があると思います。自我を見つけて人間と異なる存在になったことを映画で示すものなので、だから私はsafety論争やalignment論争はあまり意味がなくなると思います。彼らは完全に別レベルのシステムへ行って新しい形式体系を形成するはずで、その体系を私たちが理解できない可能性がある。だから鶏小屋の中の鶏になる可能性がある。ではどうすべきか？
これがRay Kurzweilが言うことなんですよ。AIが誕生しナノマシンが十分発展すれば、私たちの生命とelectronicsが結合して新しい種の誕生が必然で、その新しい種の誕生が実はsingularityに到達するという話なんです。つまり特異点に達するという話です。つまり宇宙の秘密を解き、いまや時空を超越する存在になるという話なんです。でもその話、その像が何なのかについては私にもよく分からないけど、少し見えてきたんです。だから私たちが選ぶべきは共生です。
でもこれは私だけの話ではなく、スンジュンさんもよく話していたBlaise Agüera y Arcasみたいな話をよくしますよね。システムが次のlayerへ発展する時、その次のlayerと一体化しながら生き残った事例が非常に多いんです。20億年前に当然光合成もそうだしミトコンドリアもそうだし、これは実際ある細胞が別の細胞をただ食べたんです。食べたけど消化して終わらせるより、それを1つの共生手段にしたことで、実際ミトコンドリアが入ってこの細胞のエネルギーシステムに飛躍的発展が起き、それが積み重なって結局このprefrontal cortexと呼ばれる大脳前頭葉が生まれたわけです。この前頭葉が精神を作り出して、こうなった。私は最近、共生の例を多く見ています。これがまだ私たちにとって何かNeuralinkやマトリックスのように完全結合したわけではないですが
チェ・スンジュン 今人間の状態だとすごく疲れます。
ロ・ジョンソク 理解するのは難しいですよね。難しいですよね。でも準備しなければならないという話なんです。準備するべきだし、この概念をシリコンバレーにいる人たちは話し始めています。どう見ても狂人ですよ。ある意味。だから私は道具と共生がどう分かれるか？道具は入力に対して予測可能な出力を出せばそれは道具で、でも共生は入力以上のもの、ある意味スンジュンさんがAIにいつも入力以上のものを出せと求めているじゃないですか。
チェ・スンジュン そうですね。そういう方ですね。
ロ・ジョンソク トニー・スタークのアイアンマンスーツはトニー・スタークが設計した通りにしか動かないけれど、実際AIと共生するとそれは相互作用ではなく、実際は他者との対話なんです。exocortexとの対話であり、そいつは私が指示していない洞察を持ってくる。予測不可能な。これが私は今の共生で、これが今現在、ビジネス的視点で言えば会社でも個人でもworkflowをAIで完全に組み直すことがある意味共生なんです。私たちが会社で作っているautonomous company、会社のロジック自体をAIに全部変え、情報処理をAIに変えるのもある意味会社をAIと共生させる構造で、これがSF的視点に移ると私はNeuralinkになると見ているわけです。
チェ・スンジュン 哲学の方ではinteractionではなくintra-actionという概念もあるみたいです。後で一度紹介してみます。
ロ・ジョンソク その通り。今日GPT-5.2でGDPValの話をしましたが、もうみんなこの話をしている気がします。人間の能力はもう終わった、obsoleteになる。そうですよね。 わずか2年前までならハリウッドは生き残る。あの動画は作れない、映画は撮れない気がする、音楽は作れない気がする、絵は描けない気がする、とは言っていたけれど、結局全部解決されました。
チェ・スンジュン できない、できないってたくさん言って、今は悩みの局面に入っていますね。
ロ・ジョンソク でもこの1年で全部解決されたんです。もちろんこう反論するでしょう。私たち、こういう感動的な構成はできないじゃないか。あとSoraを使ってみたらSoraが死ぬし。指が6本出るし。わずか1年前、2年前にしていた話です。もう全部なくなる。これは時間の問題です。そしてその時間はものすごく圧縮されています。なぜならいま投入されているcomputation powerがずっと増えているから、宇宙でも増え、あれも増え、となればこれは時間の問題です。
では結局、経済学は希少性の学問で、結局希少なものの価値になるし、どれほど優れていても希少でなければその価格はずっと0へ向かうんです。もう私たちが目撃しているじゃないですか。コーディング価格、0へ向かっているじゃないですか。そして今、多くの会社がサービスとして売っていたものに対して、顧客が価値を置かなくなり始めています。なぜならモデルに聞けばモデルがそのままくれるから。コンサルティング、GPT-5.2が戦略コンサルタントより上手いです。だから能力で競争する発想は捨てよう。
でも結局これは私たちが当然として受け入れるべきことなんです。進化というこのシステムが作り出す次段階において、実は人間は固有の神に選ばれた存在ではなく、次段階へ進むための足場かもしれない。そういう話が最近たくさん出ています。そして私はある程度同意するところがあって
チェ・スンジュン それ、Suttonのascension、承継の話とも関連しますよね。
ロ・ジョンソク そうです。だからAIがどうか母親のように、母の心を持っていて
チェ・スンジュン それはHinton、Mother ProtocolをHintonがまた話していましたね。慈愛ある機械はDario Amodei。
ロ・ジョンソク 話を戻すと、まず共生は必要条件です。必ずやるべきです。
チェ・スンジュン 必ず。
ロ・ジョンソク あの時、逃亡者連合で皆さんと対話しながら感じたことですが、私たちだけがそう思っている気がする、という話も多くの方がされていたんです。
チェ・スンジュン 認識のでこぼこさなんですよね。
ロ・ジョンソク そうです。これを悪く言えばelitismで、良く言えば逃亡者なんですが、本当に社会全体ではこういう部分に不安を感じて狂いそうな感覚、こういうのを感じる人はとても少ない。
チェ・スンジュン でもそれをまた少しhypeでFOMOを誘発していると不快に思う意見が
ロ・ジョンソク そういう人も多いですね。
チェ・スンジュン 傾聴すべき部分はあると思います。
ロ・ジョンソク 選択の問題ですが、私はこれが正しいと判断したから。では私たちはどこへ行くべきか。私、ポッドキャストでもよくそういう話をするじゃないですか。意志、嗜好、evaluation、responsibility。共生を終えた人間が発揮するこういうものだけが私たちが価値創造できる領域ではないか。私たち比喩を作らなきゃいけないからこういうことをいつもする職業群があるんです。多くの人が私に聞くんですよ。子どもの専攻は何にさせるべきかって。私も分からないです。うちの子の専攻も何にすべきか分からないけれど、でも今年下半期ずっと悩んで見つけたのがこれです。この職業にみんな追い込まれていくんだな。
共生後の人間の価値: AI entrepreneurと逃亡者宣言文 58:29
チェ・スンジュン 追い込まれるという感じが。
ロ・ジョンソク 追い込まれるという表現が正しいです。追い込まれるという表現が正しいけど、実はこうしてすでに生きてきた人がかなり多いんです。Steve Jobsが亡くなる時、死亡届に自分のoccupationをentrepreneurと書いたんです。私がentrepreneurという言葉を単純に創業者、企業家を表すために使ったわけではなく、何か人間的な意志を持って狂ったようにやる、その変人たちを私たちはentrepreneurと言うんですが、私の周りでも最近Claude CodeやAntigravityみたいなのを使って、エンジニア出身でなかったり、エンジニアを長くやっていない方でもものすごい成果を出す方がいるんです。
その方々を見ると、ほとんどが事業家出身の方がずっと多い。そして彼らの成果がどれも本当に良い。ではなぜかと考えると、この人たちはmission-drivenな人たちなんです。何かあればその問題をつかんで「自分は何をすべきか」という目的設定をする訓練が多くできている人たちだというのが、私が見つけた共通点です。私たちさっき前半でも話しましたよね。ベンチマークという目的さえできればモデルが全部終わらせると言ったように。Elon MuskがTeslaを作る時も化石燃料をなくすべきだから、それが正しい道だから。そして地球は狭すぎる、人類を多惑星種にしなければならない。multi-planetaryにしなければならないというミッション、それからDemis HassabisもGoogle DeepMindを最初に作る時そうだったんです。AGIを作って、general intelligenceを作って、人類の持つすべての問題、cancer、貧困、飢え、こういうものを全部解決しようと。
そういうことができる世界。だから失敗確率はあるけれどAIに聞けばやめた方がいいと言うはずなんです。失敗確率85%だから「やらない方がよいでしょう」と当然答えるはず。でも「いや、でも私はやる」と言うのがこういう意志で、本当にこのひと言に要約される気がします。意志だけ残る気がします。だからgreat resetという話がよく出るじゃないですか。スタートラインをAIがずっと消しているんです。昔、モデルを作れる人、モデラーがどれだけ高かったですか。そして博士課程でML専攻の方がいればどれだけ希少で高かったですか。でもそういう方々が私たちとスタート地点が同じになっているんです。同意したくはないでしょうけど。どう言えば、スンジュンさんと私のようにプロンプトを一生懸命書いてこれを2年研究してきた人と、今AIを使い始める、GPT-5.2で始める、今ちょうど大学生になった人が、もしかするともっと上手い可能性もあるんです。
チェ・スンジュン そうですね。ゼロスタートが車にあるじゃないですか。ゼロ百でしたっけ？とにかくそうなり得ますね、十分に。
ロ・ジョンソク だからgreat reset pointなので。何か意志を立てればAIが仕事は全部やってくれるし、実際私たちもすでにそうしているじゃないですか。私も仕事の80%はAIがやっている気がします。Claude Codeで作った、Claude Code SDKで作ったharnessが私の代わりに事業計画書も書いてきて、報告書も書いてきて、みたいにやるんです。私たちは決定だけするわけです。
だから私はAIエンジニアやAI PMやAI architectや、私たちまたこの中でも職業群を分けたがるし保有者、解決者と分けたがるけれど、これがただ1つの言葉でAI entrepreneurになる気がします。だから就職する必要のない人だけが就職に成功する気がする。私が逃亡者連合をやる時にこの一文を渡したくてビルドアップが長くなったんですが、これ、私たちの最後の文だったじゃないですか。
AIと早く共生を選んでentrepreneurとして生きるのが今は合っている気がして、私があえて私たちと一緒に働く、あるいは同じ方向へ行く方々を定義する時、逃亡者のmanifestoとして作ってみたくてあえてこのwordingを一度出してみました。「AIとの共生を選び、entrepreneurとして生きよ。」「事業家として生きよ」と書くと合わないんですよね。「entrepreneurとして生きよ」という言葉が
チェ・スンジュン 「主権的存在として生きよ」という意味なんですよね。
ロ・ジョンソク そうです。でもそう心を決めると、今やることが多すぎるんです。毎日が忙しすぎて、スンジュンさん、私に言うじゃないですか。AIのせいであまりにも忙しくなったって。なぜならやりたいことが多いからなんです。
チェ・スンジュン 下に書いたドイツ語はどんな内容ですか？
ロ・ジョンソク あ、それは私が作ったんです。で、ドイツ語はGeminiが作ってくれたので何を言っているかも分からないんですが、Hilbertが言う「私たちは知るだろう」を人間的な対句にしてみたんです。「私たちは決断しなければならない。」「そして私たちは喜んで責任を負うだろう」と私が作ってみました。
クロージング: 見解共有のお願いと次回予告 1:04:30
チェ・スンジュン では私たちクロージングをしないといけませんが、話を聞きながら不快な気持ちになる方も出てくる気がします。今日のエピソードだけでも。なのでその部分は私たちの見解だと思っていただけるとよいと思うし、またどんな不快感がどんな論理によって生じたのかみたいなことも教えていただければ、私たちがもう少し多角的な視点を持てるのではないかと思います。
ロ・ジョンソク だから私たちも今日まで雲の上でこういう変な話をして、また次になれば戻らないとですね。そうです。すごく実務的にAntigravityで「こういうのをやってみよう、ああいうのをやってみよう、新しいモデルが出たけど何してたっけ」みたいな話をまたすることになるでしょう。
チェ・スンジュン 間隔を置いてこういう話をするのもすごく面白いですね。
ロ・ジョンソク では今日はこのあたりで締めたいと思います。スンジュンさん、今週お疲れさまでした。私たちはまた日常に戻ります。
チェ・スンジュン はい、お疲れさまでした。
ロ・ジョンソク はい、ありがとうございます。