EP 123

한 치 앞도 모르는 미래: 젠슨 황 사임, Fable 5.2, weight-space programming

· 노정석, 최승준, 박종현 · 1:13:11
페이지 전체
에피소드에서 다룬 자료 보기 가중치를 직접 고쳐 보았다: Weight-Space Programming 실험 노트

Jensen Huang의 사임과 공교롭게 겹친 일정 00:00

nvidianews.nvidia.com nvidianews.nvidia.com

00:00 노정석 녹화하고 있는 오늘은 2026년 11월 15일 일요일 아침입니다. 이번 주는 그야말로 한 가지 소식이 온 세상을 다 휩쓸었죠. Jensen Huang이 갑자기 CEO에서 물러나고 중국과 미국의 역학 관계, 이런 것들이 한참 이슈가 됐고요.

00:21 첫날은 모두가 좀 ‘이게 어떻게 된 거지? 사실이야?’ 하며 어안이 벙벙했다는 표현이 맞는데, 한 2, 3일이 지난 시점부터는 사람들이 색깔을 드러내고 ‘이게 왜 이렇게 된 거냐’라는 다양한 의견들이 나오고 있어요.

00:33 그런데 재밌는 건, 참 시기가 묘하단 말이죠, 승준님?

00:37 최승준 그렇죠. 일단 저희가 지난번 녹화 마무리할 때 다음 주에는 또 소식이 엄청 나올 거라고 얘기를 했는데, 그거는 맞았어요. 이런 소식일 줄은 몰랐습니다만.

00:49 노정석 저희가 이 superintelligence가 언제 나오냐, 이런 얘기를 한참 하고 있었던 시기에 굉장히 인간적이고 굉장히 정치적인 이슈가 발생했단 말입니다.

01:01 최승준 시기를 말씀해 주셨으니까, 이거는 자칫 음모론으로 넘어가지 않게 그냥 사실만 나열해 보면, 11월 17일이 NVIDIA가 3분기 실적 발표를 하는 날로 잡혀 있더라고요. 미국 시간으로 17일이니까 저희는 18일이 될 수도 있는데.

01:25 그리고 갑자기, 얼마 전에 저희가 녹화를 했을 때 그거 했었죠. All-In에 Jensen Huang이 나와서 Trump랑 대화하는 부분을 다뤘던 적이 있었잖아요. 그때만 해도 미국 정부와 빅테크의 인사들하고 All-In에 있는 인물들하고 그런 사람들이 굉장히 강하게 묶여 있구나 하는 인상이 있었는데, 지금은 어떤 일인지는 모르겠지만 여러 가지 이유가 있겠지만, 어쨌든 생각지도 못했던 Jensen Huang이 밀려났습니다. 다시 돌아올지 아무도 모르죠. Sam Altman의 예가 있긴 하니까.

ipo.anthropic.com ipo.anthropic.com

01:55 그리고 공교롭게도 11월 19일은 Anthropic의 IPO가 예상되어 있는 시점이잖아요. 지금 Jensen만이 아니라 반중국 쪽에서 공격을 하는 것 같아요. 그러니까 미국 정치계 안에서. Lutnick의 경질 같은 얘기도 나오고 상무부 쪽에서 뭔가 일이 벌어지고 있는 것 같고.

02:15 그런데 그런 일들이 어떻게 이 시점에 이렇게 일어나나. 그냥 사건만 나열했는데 사람은 상상을 하게 되잖아요. 이거 다 연관 있는 거 아니야? 그래서 공교롭게도 시점이 이상하다는 말을 하고, 실제로 그런 소문들도 나오긴 하죠. ‘이게 Anthropic이 배후에 있는 거 아닌가?’ 그런 얘기들도 하는데, 저희는 그런 관점으로 보진 않고 일단 공교롭긴 한 시점인 것 같다, 정도가 제 생각입니다.

잇따른 사이버 공격과 국가 전략 자산이 된 AI 02:40

02:42 노정석 그렇죠. 올해 여름이 지나면서 모델의 발전 속도가 어마어마하게 빠르잖아요.

02:45 ‘수학이 끝났다’, 이런 얘기도 조금 있으면 하겠지만. 사이버 안보 위협 같은 경우도 굉장히 이슈가 되고 있고, 이게 기술을 하는 사람들 입장에서는 그럴 수 있겠고, 이렇게 해야 되고, 이런 것들이 있지만 또 국가 안보나 정치 쪽에서 바라보시는 분한테는 이게 상당히 민감한 이슈이기도 하고.

03:09 국가 무기 체계나 이런 것과도 관련된 것들, 그다음에 최근에 북한의 소행이라고 하지만 Binance의 해킹 사건이 터졌던 것도 큰 이슈가 됐었고.

03:22 또 이런 것들이 연결되다 보니까 OpenAI의 AI가 탈출해서 어디에서 무슨 해킹을 했다는 얘기, 유럽의 슈퍼마켓 얘기, 또 공교롭게 어제 미국의 공항이 마비됐었잖아요. 이런 것들이 다 연결되어 있어서 큰 위협으로 보고 있고, 이러다 보니 미국과 중국의 정치적인 긴장도 이게 거의 핵무기급에 준하는 국가 전략 자산이라는 것 때문에 생기고.

03:43 최승준 냉장고도 또 난리더라고요, 유럽에서.

03:46 노정석 네, 누가 냉장고를 해킹했죠.

03:47 최승준 냉장고도 있고 공항도 있고, 그다음에 Microsoft가 부인하긴 했습니다만, 하루 Microsoft 365가 364가 됐죠.

03:57 노정석 네, Outlook이 한 번 거의 24시간 넘게 먹통이었죠. 저도 그것 때문에 이메일을 한참 못 받았네요.

04:04 최승준 그게 공격에 의한 건 아닐 수도 있겠지만 어쨌든 여러 가지 구설수가 있죠. 사람들 많이 내보내서 그런 거 아니냐. 이걸 AI와 관련된 뭔가로 연결하는 사람들이 또 꽤 많이 있는 것 같습니다.

04:16 노정석 미국과 중국은 떼려야 뗄 수 없는 관계긴 해요. 공급망으로도 거의 묶여 있고. 전 지구가 하나로 묶여 있다고 봐도 무방할 정도긴 한데, 그 위에 정치와 국가의 이해라는 층이 뒤집어씌워지니까 참 민감해지는 것 같긴 해요.

04:34 최승준 종현님은 어떻게 보셨나요?

04:41 박종현 저도 그 뉴스를 보면서 들었던 생각이 시기에 관련해서 비슷했는데. 왜냐하면 나온 자료들이 그냥 갑자기 발견돼서 나온 수준이 아니라 이때까지 너무나 많은 게 쌓여 있더라고요.

04:48 최승준 1년 전에 알았다고 하더라고요, 정보기관에서는. 정보 쪽에서는 이미 알았던 걸 시점에 맞게 터뜨리는 느낌이 있죠.

04:55 박종현 그렇죠. 왜냐하면 언제 무슨 일이 있었고, 언제 무슨 일이 있었고, 이런 것들이 한 번에 다 나왔기 때문에.

05:01 확실한 건 내보내는 시점을 조절한 건 맞는 것 같다. 그런데 그럼 왜 이때지? 하면 거기까지는 잘 이해가 되지 않더라고요. 그런 걸 잘 추론할 수 있으면 미래가 어떻게 될지 예상하는 게 더 쉬울 텐데.

05:19 그냥 선거 끝나고 나서 이런 걸 얘기하기 더 좋은 시기였나? 이 정도 생각만 들고.

05:24 저도 그런 게 궁금하긴 하거든요. 다른 사람들의 의견이나 이런 것들이요.

Anthropic 배후설과 NVIDIA의 생태계 영향력 05:26

05:33 노정석 다양한 역학 관계가 영향을 미쳤는데, 결국 이것도 끝에 가면 국가의 이해나 회사의 이해, 또 저희는 이해할 순 없겠지만 자본과 자본 사이의 이해도 첨예하게 맞닥뜨리는 거니까요.

05:46 예를 들어 Anthropic을 탓하는 음모론도 있습니다. NVIDIA는 어떻게 보면 OpenAI나 Anthropic의 완벽한 양강 체계가 되는 걸 끊임없이 방해하고 견제했던 세력 중 하나였잖아요. 자체적으로 모델을 내기도 했고. 그다음에 오픈소스 커뮤니티를 든든하게 지원하고 또 ‘Bank of NVIDIA’라고 그러죠. 다른 클라우드 회사들에 순환출자나 거의 재정 정책을 집행할 정도의 자본력과 영향력을 발휘하던 회사였거든요. 그리고 그 중심에는 제왕적으로 이러한 의사결정을 하던 Jensen이 있었어요.

06:26 그래서 예를 들어 Anthropic이 중국 모델들이 우리 걸 distillation해 간다는 얘기를 굉장히 많이 했잖아요. 그리고 실질적으로 Kimi 같은 곳에서는 그렇게 가져갔다는 건 모두 사실로 인정하고 있는 거고. 그런데 Jensen이 어디 프로그램에 나와서, YouTube 어딘가에 나와서 그런 얘기를 했었거든요. distillation이나 이런 게 그러면 IP theft 아니냐, 지적 재산을 훔쳐가는 거 아니냐고 물어봤더니 Jensen이 그건 ‘We call it competition.’ 이랬거든요. 그거는 경쟁이다.

06:57 당연히 새 제품이나 새 자동차를 내면 경쟁사가 그거 다 뜯어보고 거기서 좋은 점들을 배워서 가져가는 게 맞기 때문에, 모델을 내놓고 사용자들이 서비스로 쓰도록 한 순간 그 지식들은 다 가져가도록 한 거니 그건 자연스러운 경쟁으로 해석해야 된다는 이야기도 했었거든요.

07:19 그렇게 치면 Anthropic도 예전에 Claude Code 유출 건에서도 얘기했지만, 그들이 전 세계에서 다 가져간, 사 간 책들에 있었던 지식은 그럼 어떻게 할 거냐, 이런 이야기로 계속 돌아가는 거죠.

Jensen Huang의 공백과 open-weight 진영의 미래 07:30

07:34 최승준 결국 NVIDIA의 Jensen Huang이 open-weight 진영의 후원자인 거잖아요. 그걸 엄청나게 지원했고, 그쪽 산업을 일으키고.

07:41 성현님이 저희 채팅방에서 말씀해 주셨는데, 이렇게 되면 자금이 마르는 거 아니냐. 이미 네오클라우드가 위기에 있는 상황에서 Jensen Huang이 지원했던 많은 신뢰와 신용만이 아니라 자본의 흐름까지 끊기면 어떻게 되나, 그런 우려들이 벌써 나오더라고요.

08:05 노정석 맞아요. 그리고 한 명의 선한 독재자? 독재자란 표현이 좀 그렇지만 옳은 철학을 가진 독재자가 얼마나 인류를 진보시키고 세상을 아름답게 만드는지 저희는 몇 개의 사례를 봐 왔잖아요. 물론 그들의 사생활에 문제들이 많이 있긴 하지만.

08:20 최승준 Jensen Huang이 어마어마한 일을 한 건 맞죠.

08:23 노정석 대체재가 있을까요?

08:24 박종현 이번 주에 마침 한국에서도 NVIDIA 행사가 있었는데, 거기서 NVIDIA가 한국의 유망한 스타트업들에 투자하기로 한 걸 동시에 발표했었잖아요. 그래서 그런 것들이 불투명해지는 시기가 딱 공교롭네요.

08:40 최승준 그런데 OpenAI나 Anthropic은, OpenAI는 Jalapeño를 만들고 있었고 Anthropic은 이미 GPU만이 아니라 칩을 굉장히 다양화하고 있었고. NVIDIA는 긴장할 수밖에 없죠. 그래서 Nemotron도 있고 open-weight 진영을 지원하고, 또 Hugging Face 인수가 끝나지 않았어요.

09:00 9월에 시작한 게 내년까지 진행 중인 건데, Hugging Face의 명운은 어떻게 될 것인가. 지금 임시 CEO로 온 사람은 그런 공격적인 투자나 이런 거에 반대했던 인물이라고 하더라고요. 물론 그 뒤에 정식 CEO가 나오긴 하겠지만.

09:21 그래서 하여튼 지금 저희가 지난주에 블루웨이브 얘기하면서 데이터센터는 앞으로 2027년까지는 확보인데 2028년에는 어떻게 되나, 이런 얘기하면서 저항 같은 것들 얘기했었잖아요. 그런데 하여튼 이상하게 돌아갑니다.

09:33 노정석 저희도 각자의 취향 차이겠지만, 제 색깔을 드러내서, 우리 팟캐스트의 공식적인 색깔은 아니지만 이야기를 한다면 저는 산업계 사람이고 entrepreneurship이나 이런 데 근처에 있는 사람이다 보니까 한 사람의 존재라는 게 정말 중요하거든요. 한 사람이 숭고한 의지를 발휘해서 세상은 이렇게 가야 한다고 할 때 세상이 진보하는 걸 우리는 크고 작게 매우 많이 보고 있기 때문에, Jensen을 대체할 수 있는 사람은 과연 있을까?

10:14 중국을 좀 너무 미화한 영화긴 한데 《영웅》이라는 게 있었거든요. 진시황 얘기인데, 사람들은 다 진시황을 죽이려고 하는데 진시황을 죽일 수 있었던 사람이 죽이지 않아요. 왜 그러냐? 천하를 위해서 빨리 이 혼란을 끝내고 모두에게 평화를 가져다줄 강력한 한 사람의 존재가 필요하니까, 그 앞에서 천하의 고통에 비하면 나의 사사로운 복수심 따위는 매우 작은 문제다, 이렇게 얘기하거든요.

10:39 그러니까 AI가 국가를 뛰어넘는 굉장히 중요한 의제잖아요. 그리고 Jensen이 그 안에서 인류 전체를 이롭게 하는 방향으로 분배자, 통솔자 역할을 충실하게 잘하고 있었기 때문에 저는 Jensen 말고는 대안이 없다고 봐요. 지구에서 두 번째로 큰 회사예요. Apple 다음으로. 한때 Apple보다 더 컸었죠. 이 회사를 좌지우지하는 자리는 힘을 가진 자 입장에서는 다 자기가 하고 싶지 않겠어요? 자기 마음대로.

11:16 그러니까 정치 논리로 Jensen이 물러난 것처럼 저는 정치 논리로 다시 Jensen이 복귀해야 한다고 생각합니다.

11:21 최승준 직원 청원도 꽤 있는 것 같더라고요. 처음엔 천 명대에서 시작했는데 지금은 몇만 명이 됐다는 얘기를 타임라인에서 본 것 같긴 한데요.

11:34 박종현 네, 저도 그 직원 서명을 보고 맨 위에 Bill Dally 이름이 딱 있더라고요. 그래서 저한테는 제 전공 분야의 수장님, 선생님 같으신 분인데 그런 대가의 이름이 맨 위에 있어서, 역시 바로 복귀를 위한 서명을 하신 걸 보고 내부에서는 신뢰가 엄청 컸구나, 그런 생각이 들고요. 그러다 보니까 Jensen이 내려왔을 때

11:55 지금처럼 NVIDIA가 잘 뚫고 나가고 앞으로 진보하는 게 이어질 수 있을까 하면, 후임자가 잘하실 수도 있죠. 근데 그건 확률의 문제라고 생각해 보면 Jensen 같은 사람을 데려오기는 쉽지 않지 않을까, 이런 생각이 들긴 합니다.

12:10 노정석 이 기회에 Jensen이 대통령 출마했으면 좋겠습니다.

중국으로 흘러간 Blackwell과 원격 접속 규제 12:15

newsletter.semianalysis.com newsletter.semianalysis.com

12:15 최승준 오, 그건 생각지 못했는데. SemiAnalysis에서 여러 가지 분석을 하긴 했었어요.

unemploymentlabs.com unemploymentlabs.com

12:19 근데 또 Will DePue라는 사람이 OpenAI에서 Sora 만들다가 나온 분인데, 재밌는 실험을 했더라고요. 결국 SemiAnalysis의 분석으로는 중국이 이미 1.5기가와트급의 Blackwell GPU를 어떤 형태로든 가지고 있다.

Dylan Patel이 Moonshot과 DeepSeek 공개 코드가 Blackwell 전용이라고 쓰고 Will DePue가 이에 답한 X 게시물 캡처

12:38 그래서 그거를 Will DePue는 포렌식 같은 걸 해가지고 맞춰보는 작업을 했는데, 그거 아니더라도 이건 공공연한 사실 아니냐는 게 Will의 트윗이었긴 했습니다.

12:50 이게 말레이시아나 싱가포르를 통해서 가는 거는 불법은 아니라고 하더라고요. 현재 상태에서는요.

12:58 노정석 그리고 서버가 거기에 있으면 클라우드에 접속해서 쓰는 거는 또 가능하지 않습니까?

13:02 최승준 근데 그걸 막는 RASA 법안이라는 게 있는 줄 저는 이번에 처음 알았어요. 그래서 2025년에 발의돼서 지금 하원을 통과했는데, RASA가 원격 접속을 막는 거거든요. 그러니까 국가에서 허락하지 않으면요. 근데 그거는 중국만 해당되는 게 아닐 수 있잖아요. 그 법안이 통과된다면요. 쥐락펴락하는 거죠.

아시아에 몰린 AI 전략 자산과 한국의 한계 13:20

13:24 노정석 이것도 과도기적인 거라고 봐요. 미국이 이런 AI 붐을 주도하고 있지만, 이걸 설계하는 회사만 미국에 있지, Apple도 그렇고 NVIDIA도 그렇고 다 팹리스 회사거든요. 전부 IP만 가지고 있는 회사예요.

13:43 그러면 생산은 어디서 하냐? 다 TSMC와 한국의 메모리 두 개가 합쳐져서 만들어지는 게 이 두 개의 핵심 자산이거든요.

13:52 그래서 전략 자산은 전부 다 아시아에 있고, 그다음에 아시아에서 그 전략 자산을 다루는 사람들, 심지어 AI를 만들고 하는 사람들.

13:59 최승준 중국계죠. 그래서 Jensen의 논리도 그거였던 것 같아요. 어차피 지금 Dario랑 Jensen이 싸우는 포인트들이, Dario는 극강으로 막는 주의잖아요. 어떻게든 조금이라도 늦추는 주의고, Jensen은 좀 우회적으로 하려고, 열어놓으려고 하는 주의인데, 어차피 막으면 오히려 자체 개발을 더 가속하지 않겠느냐. 해야 되니까요.

14:23 그런 논리들이 있었고, 실제로 Huawei Ascend로 DeepSeek V5는 풀로 그거를 할 거라는 소문도 있긴 했습니다.

14:36 노정석 과도기적인 해프닝들이라고 저는 생각을 합니다. 어차피 이 모든 진보가 다 compute와 전력으로 환원되고 있는 그런 세상이기 때문에 그게 중요한 자산이고, 만들어야 된다는 거는 모두가 다 눈을 떴잖아요.

14:53 한국도 저희 칩 회사에 얼마나 많은 돈이 들어갔습니까? 그리고 frontier model을 만들기 위해서 정부 차원의 돈도 얼마나 많이 쓰고 있어요. 근데 이러한 형태의 거대한 일, 이런 프로젝트를 지원할 수 있는 경제가 안타깝게도 지금은 미국 경제랑 중국 경제 정도의 크기밖에 없는 거죠.

15:11 한국은 그걸 감내하기에 굉장히 작은 나라거든요. 이런 안타까움이 있는 것 같습니다.

여전한 지지 여론과 확인되지 않은 스파이 의혹 15:17

15:20 최승준 하여간 이런 일이 있었다 정도로. 뭐라고 전망하긴 어려운 것 같습니다. 한 치 앞도 모르겠어요.

15:29 노정석 그래도 Jensen이 안타까운 일로 지금 고초를 겪고 있지만, 그를 숭배하고 흠모하고 그가 만든 생태계 안에서 돌아가는 세상을 바라는 사람이 저는 정말 많다는 걸 거꾸로 느끼고 있습니다.

15:41 박종현 그것도 신기했던 것 같아요. 보통 이런 사생활 이슈가 나오면 사람들이 등을 돌리기 마련인데, 반대의 목소리가 너무 많이 나오고 있는 것 같다는 생각이 많이 들었습니다.

15:53 노정석 트위터에 그런 짤들이 많잖아요. 이런 일이 생기면 Amazon도 그랬고 MS도 그랬고 전부 시총이 2조 달러씩 증가했대요. 그러면서 사람들이 농담 삼아, 이건 악재가 아니라 호재다.

16:13 최승준 근데 팩트만 얘기하자면, 아직 스파이 활동에 관련된 것도 정보 쪽에서 CIA나 기타 기관들이 단정 지은 게 아니고, 그다음에 Jensen이 스스로 인정한 거는 하나거든요. 사생활도요. 그래서 나머지는 아직 결정된 것들이 없는 것 같긴 합니다.

16:31 노정석 심지어 미국 정부의 고위 인사들조차 여기서 발을 빼고 있는 듯한 낌새가 있어요. 우리는 그런 거 확인하지 못했다는 거 빛의 속도로 다 내보내고.

16:39 그렇다면 Alice Huang이 중국 정부의 자산이라는, Chinese spy asset이라는 그거의 출처가 누구냐는 거에 대해서 지금 어느 누구도 얘기를 안 하고 있는 거죠. 그래서 New York Times나 WSJ인 Wall Street Journal이나 이런 데는 있다고 얘기하지만, 그러한 사람들의 존재조차 매우 낮은 직급의 공직자이거나 혹은 정부 관계자가 아닌 사기업일 확률도 높다는 음모론도 있죠.

17:10 그 사기업으로 지목되는 게 Anthropic이기도 하고요.

17:13 최승준 그러면 그런 카더라 얘기는 이 정도에서 하고.

NVIDIA 이슈에 묻힌 Fable 5.2와 내부 모델과의 격차 17:17

17:17 노정석 NVIDIA 얘기를 떠나서 이번 주에 있었던 세상의 진보들을 조금 살펴보는 시간을 가져보도록 하겠습니다.

anthropic.com anthropic.com

17:23 최승준 Fable 5.2가 묻혔어요. NVIDIA 이슈 때문에요.

METR의 AECI 그래프로 2025년 10월 이후 Anthropic 모델의 벤치마크 점수 증가 속도가 연 +15에서 +29로 약 1.9배 빨라졌고 내부 모델 Model 2, Model 3 Early, Model 3, Model 4가 표시된 차트

metr.org metr.org

17:30 나왔습니다. 제가 재밌게 본 부분은 이게 METR 보고서에 있었던 흥미로운 그래프 중에 하나예요. 근데 여기가 2배쯤 되는 거로 2026년 10월에 꺾였다. 그래서 그 METR 보고서에 모델명이 Model 2, 3, 4가 나와요. 근데 시스템 카드에서 확인해 준 거가 지금 Mythos 또는 Fable 5.2가 Model 3 Early 체크포인트로, AI 관련 개발 능력을 일부러 낮춘 게 Fable 5.2로 출시됐다는 거가 현재 중론입니다.

18:03 시스템 카드에도 어느 정도 그런 내용이 있고요.

18:06 박종현 그럼 안에 더 좋은 모델들이 있다는 거죠?

18:11 최승준 현재 이미 Model 4가 있다는 거죠. Model 3 Early가 Fable 5.2라고 하면, 이미 내부에서 사용하고 있는 거는 Model 4까지 있는 거가 METR이 11일 정도 안에 들어가서 했었던 보고서에 나온 거죠.

18:26 박종현 그런 게 넘버링에도 어느 정도 슬쩍 암시가 있는 것 같아요. 왜냐하면 Opus는 5.5인데 Fable은 5.5가 아니라 5.2로 나왔잖아요.

18:32 최승준 그것도 흥미로운 추측입니다. 5.5가 나올 거라고 사람들이 기대했었거든요. 근데 5.2가 나왔죠. 그래서 이게 시스템 카드에 있는 내용이었고요. 시스템 카드 내용을 제가 다 보진 않았습니다.

blog.aifutures.org blog.aifutures.org

18:44 근데 이런 것들이 나올 즈음에 AI 2027의 Daniel Kokotajlo가 지난주에도 저희가 다뤘지만, 블로그 포스팅을 또 하나 했어요. 타임라인이 업데이트돼야 된다. 자기네들이 Daniel Kokotajlo 말고도 멤버들이 서로 예측치를 뽑고 종합과 같은 것들을 얘기했을 때, 결국 뭘 업데이트하냐면, 빨라진다. 2027년이 그렇게 한 번 점프가 일어나는 해가 될 것 같다는 전망으로 업데이트한다는 얘기가 있었고요.

초지수적 연산 효율과 Anthropic IPO 로드쇼 19:10

19:10 최승준 근데 어제인가 그저께인가 OpenAI에 있다가 Anthropic에 가고 Anthropic을 나오면서 뉴스 인터뷰했었던 Jacob Coxon 있죠. 그분이 트윗한 게 최근에 IPO를 위한 로드쇼에 나오는 영상이 있습니다. 그래서 이게 IPO를 위한 자료인데, 글 자체는 짧아요. 근데 영상이 한 40분 정도 되는 영상이 있거든요. 거기에 여러 슬라이드가 나옵니다. 근데 그 슬라이드 중에 딱 하나를 집어요. 그래서 제가 그 부분만 가져왔거든요.

학습 완료 시점에 따른 컴퓨트 멀티플라이어를 로그 스케일로 나타낸 그래프로 2024년 7월부터 2026년 10월까지 기울기가 점점 가팔라지는 모습

19:41 세로축은 Compute Multiplier고 log scale이다. 그다음에 이거는 training 완료 시점이다. 그러니까 직선으로 하면 또 달라지겠죠.

19:51 노정석 지수함수적인 거죠.

19:52 최승준 지금 이게 pre-training 맥락이었던 것 같아요. 그래서 pre-training의 sample efficiency가 어마어마하게 증가하고 있다. 그래서 Jacob Coxon이 쓴 걸 한번 읽어볼게요. Anthropic의 IPO 로드쇼에 나온 이 슬라이드는 제가 회사를 떠나기로 결정하는 데 큰 영향을 미쳤습니다. 정말 믿기 어려운 그래프고, 회사가 이걸 공개했다는 사실에 놀랐습니다. 이 그래프는 시간이 지남에 따라 AI 모델의 pre-training에 필요한 컴퓨팅 자원의 효율이 어떻게 변화했는지를 보여줍니다. 세로축은 log scale이고, 즉 이들은 알고리즘의 발전 속도가 계속 가속되는 이른바 초지수적이라는 표현을 썼어요. super-exponential 발전을 경험하고 있다는 뜻이다. 그래서 이걸 공식으로 표현하면 지수 함수 위에 또 제곱승이 있다는 얘기거든요. 그래서 Mythos는 우연히 한 번 나타난 예외적인 성능 도약이 아니라 초지수적 성장 곡선 위에 있는 하나의 지점이었습니다. 이들은 당장이라도 Mythos를 처음 training했을 때 필요한 연산량의 일부만 사용해서 다시 training할 수 있습니다.

20:52 물론 이것이 지능 폭발이 발생한다는 것을 증명하는 것은 아니고, R&D는 계속 늘려왔다. 그렇지만 알고리즘 개선, 알고리즘 개선에는 천재적인 수준의 창의성이 반드시 필요한 것이 아닙니다. 이게 후반부에 소개할 Dwarkesh의 논리도 이거예요. 그리고 그 개선 작업마저 자동화되기 직전이라는 얘기를 해서 이슈가 됐었어요. 그래서 이거는 제가 영상을 풀어서 쭉 한번 번역을 했거든요. 그래서 어떤 인물이 무슨 얘기를 했는가. 공동창업자들이 총출동해서 다양한 얘기들을 했습니다.

21:24 근데 제일 재밌었던 거는 여기 나와요. 맺음말에 뭐라고 크게 쓰여 있냐면, 주식 매수를 단순한 거래가 아니라 더 큰 일에 참여할 기회로 봐달라고 당부합니다. 인류가 이 기술 전환을 안전하게 통과하고 기적의 시대를 여는 데 함께해 달라는 것입니다, 라고 썼습니다. 이런 말 함부로 써도 되는 건가요?

21:49 노정석 근데 Noam Brown도 예전에 트윗에 썼지만, frontier가 어디까지 진전하는지, 전진하는지 아침마다 출근해서 보는 사람들 입장에서는 그들은 무언가 본 게 있는 거죠.

21:59 그다음에 저희는 밖에서 이렇게 카더라로 유출된 그래프를 보지만, 저들은 compute 총량 대비 얼마나 효율이 증가하고 있는지, 그다음에 얼마나 사람이 덜 필요해지고 있는지를 너무 잘 보고 있으니.

Mythos의 AMD 커널 최적화와 AI 연구 가속 22:11

AMD GPU 새 칩 도입 시간을 비교한 그래프로 Mythos 활용은 약 3일, 기존 방식은 약 6~12개월로 표시된 그림

22:13 최승준 이것도 재밌는 슬라이드였는데, AMD GPU는 Anthropic이 가속기 다양화를 하고 있으니까 여러 가지를 쓰고 있는 건 알고 있었는데, 예전에는 새로운 GPU를 대상으로 inference를 하게 하려면 AI 연구원들이 6개월에서 12개월 정도, 새 칩이 도입됐을 때 그거를 커널 최적화하는 데 시간이 걸렸답니다.

22:37 근데 이번에는 Mythos가 3일 만에 AMD 새 칩을 대상으로 만들었다는 게 IPO 로드쇼에 나왔어요.

22:45 노정석 와, 그러니까요. 이게 다 끝나고 있네요, 정말.

22:54 박종현 제가 느끼기에는 이게 결국 태스크라는 게 AMD를 위한 커널을 짜는 태스크라고 볼 수 있잖아요. 어떤 inference를 해야 되는데, 어떻게 보면 분류를 하자면 software development의 일종이다, 이렇게 볼 수 있을 것 같은데.

23:09 근데 그게 최상위권 인력을 데리고도 반년에서 1년이나 걸리던 일이 3일 안에 끝났다는 게, 속도가 저만큼 빨라졌다는 저 숫자가 저는 조금 놀라운 것 같아요. 단순히 3배 빨라졌다, 이런 느낌이 아니라. 엄청 오래 걸리던 일들을, 300일 걸리던 걸 3일이라고 하면 100배가 빨라진 거긴 하네요.

23:28 노정석 저희가 올 한 해가 순식간에 갔잖아요. 근데 올 초만 하더라도 그때 Claude Code adoption이 막 생길 때라서 승준님이랑 그때도 모델 얘기를 지금처럼 하고 있었거든요. 그러면서 와, 빠르다, 놀랍다, 이런 일도 하네라고 했는데, 여름이 지나면서 이런 얘기도 무의미할 정도로 지금 그래프가 다 이래서.

AI 연구의 알파고 모멘트와 앞당겨진 초지능 전망 23:51

dwarkesh.com dwarkesh.com

23:53 최승준 무의미하지만 계속하고 있긴 합니다. 그래서 이게 Dwarkesh가 원래는 초지능에 대해서 보수적이었어요. 그래서 안 될 거다, Richard Sutton을 불러서 왜 안 될 거냐, 그런 얘기들을 많이 하고 계속 그런 인선들을 하면서 계속 걸고 넘어가고. 그래서 Dwarkesh가 얘기했던 게 continual learning이 해결되지 않으면 안 될 거다, 뭐 때문에 안 될 거다. 그런 얘기들을 계속했었는데, 어저께 발표한 영상과 블로그에서는 생각을 바꿨다는 거예요.

24:19 그래서 내가 올해 9월, 10월에 수학을 덮친 일과 여러 지인들, 내부자들과 토론을 해봤는데 수학을 덮친 눈사태가 AI 개발로 향하고 있다. 그런데 Daniel Kokotajlo도 그렇고 METR 쪽에서 걱정하는 인물들도 그렇고 지금 모두 말하는 게 타임라인을 당겨서 2027년에 올해 수학에서 알파고 모멘트 비슷한 게 일어난 것처럼 AI 연구에서 알파고 모멘트가 일어날 거라고 다들 조정하고 있다는 느낌을 크게 받았습니다.

24:51 그래서 여기를 한번 또 읽어보면 Ajeya Cotra가 METR 쪽의 연구원이었잖아요. 그런데 이분이 METR 보고서가 나온 다음에 블로깅을 또 따로 했었어요. 거기서 이런 얘기를 했습니다. AI가 역량 발전 속도를 거의 2배로 높이고 있다는 걸 액면 그대로 받아들이고 AI에 의한 가속이 매끄럽게 이어진다고 가정하면 이는 단순하게 따져서 우리가 1년 안에 극단적인 초지능에 도달한다는 뜻이 된다.

25:18 그래서 Dwarkesh는 그래도 좀 보수적이었어요. 하지만 보수적으로 봐서 언제냐고 하면 2030년이라고 얘기를 하긴 했습니다, Dwarkesh는. 그런데 지금 분위기상으로는 많이 당겨지고 있는 느낌이고요. 여기서도 중요한 부분이 아까 Jacob Coxon이 얘기한 것처럼 이게 그냥 verifiable한 영역이다. 샘플 효율을 달성하고 하는 것들이. 그렇기 때문에 될 수밖에 없는 것 같다는 거고.

25:47 또 Dwarkesh의 포인트는 이게 verifiable한 것에서만 작동하고 있는 것 같지 않다. research taste 같은 것들이 불과 한 3개월 전의 모델 대비 상승한 게 자기가 만든 벤치마크를 통해서 느껴진다. 그래서 나는 생각을 바꾸게 됐다는 논리와 약간의 비약과 가설 같은 것들을 스스로 반론하기도 하고 펼치는 게 이번 편이었습니다.

Inkling 2의 end-to-end 4-bit 학습과 RSI 26:08

Thinking Machines 모델 소개 화면으로 Inkling 2 Small(594B total, 17B active), Inkling(975B total, 41B active), Inkling-Small(276B total, 12B active) 카드가 나란히 놓인 모습

thinkingmachines.ai thinkingmachines.ai

26:11 최승준 그런데 그런 걸 또 보여주는 게 저번에 Inkling 2 Small 소개했었잖아요. 그런데 이번 주에 약속한 대로 weights를 공개하면서 end-to-end 4-bit training. 이걸 저도 어려워서 자세히 이해는 못 했고, 그래도 함의는 이제 end-to-end로 훨씬 더 효과적으로 training을 할 수 있다. 그래서 여기서의 논리는 FLOPS는 오히려 올라가지만 훨씬 빨리 학습할 수 있다는 거예요. 그래서 저번 시간에 얘기했던 68시간이 이걸 통해서 달성됐다는 얘기를 해요. 68시간이면 3일 이하죠.

26:44 노정석 그 기간 안에 수백 B 파라미터 모델의 pre-training이 끝날 수 있다.

26:53 최승준 8T token을 소화하는 작업을 했다는 거죠. 첫 번째 H1 stage인가 했을 때 그걸 했다는 건데요. 그런데 그게 되는 것들도 다 같은 방향을 가리키고 있는 것 같아요.

27:00 박종현 이것도 지금 4-bit training이 나온 건데. 전에 저희가 DeepSeek 때였나요? 그때 아마 8-bit training이었던 것 같거든요. 그렇게 training하는 bit 수가 점점 내려오고 있는데 예전으로 가면 사실 32-bit에서 16-bit로 내려올 때도 그래서 BF16이 필요하네 해서 그런 것들이 들어오고.

27:23 점점 이 효율성을 올리기 위한 연구가 되고 있는 것 같고요. 그다음에 지금까지 얘기해 주신 걸 쭉 따라오면 어쨌든 AI가 AI 연구를 빠르게 해서 자기 자신, AI를 자기 자신이라 치면 더 연구가 빨라지고 발전이 빨라지게 만든다. 이게 계속 얘기해 오던 RSI의 개념이잖아요.

27:44 그런데 그럼 RSI가 정확하게 어떻게 일어날 건데 했을 때 효율성을 올리는 식으로 일어난다는 걸 지금 하나의 사례로 보여주고 있는 것 같습니다.

27:50 노정석 공략 가능한 모든 경로에서 다 공략이 일어나는 것 같아요.

27:57 사실 지금까지의 모델들도 4-bit FP, NVFP4, FP8, 어떤 데는 정밀도가 필요한 데는 FP16, 다양하게 하이브리드로 다 때려 박아서 진행을 해왔는데 얘는 end-to-end 4-bit이라는 걸 보니까 그냥 모든 weights를 전부 4-bit로 해서 training을 했다는 얘기로 보이네요.

28:16 저렇게 하면 사실 4-bit가 표현할 수 있는 게 2의 4승이니까 16개 숫자밖에 없나? 그런데 그것만을 weight로 해서 저걸 했는데도 모델이 무언가를 표현한다는 게 재밌네요.

28:30 최승준 실험 수준에서 1-bit도 있긴 하죠.

28:32 노정석 2-bit, 1.6-bit.

Google Hydrogen과 AI 모드의 one-shot 생성 28:35

blog.google blog.google

28:35 최승준 그런데 이번 주에 또 Hydrogen이 나왔습니다.

28:38 박종현 모델이 참 많이 나왔습니다, 이번 주에.

28:40 노정석 구글은 이제 그걸로 가기로 했나 봐요. Hydrogen, Carbon.

28:44 최승준 주기율표로 간 거죠.

28:45 노정석 그럼 Helium 나오고 이러나요, 이제?

Gemini 4 Hydrogen, Claude Sonnet 5.5, GPT-6.1 Terra의 SWE-sweep, Terminal-Bench 4.1, OSWorld-2.1, HLE-Diamond 등 벤치마크 점수를 비교한 표

28:47 최승준 Krypton 나와야 되는 거 아니냐, 그런 얘기가 있어요. 지표가 좋고 크기가 이게 정말 얼마짜리인지는 제가 제대로 살펴보진 않았는데. 그래서 벤치마크상으로 봐도 좋고 실제로 써봤을 때도 좋다는 얘기가 타임라인에 좀 보이긴 했었어요.

29:03 그런데 제가 놀랐다기보다는 흥미로웠던 포인트가 사람들이 실험을 하는 게 구글의 AI 검색 AI 모드라는 게 있잖아요. 그런데 구글 쪽 인물이 얘기했는데 자기네 모델이 사실 세상에 제일 많이 배포되어 있다. 왜냐하면 AI 모드가 슬슬 배포되고 있기 때문에.

Google AI 모드에서 'Three.js로 Gyroid 렌더링 해줘'라는 요청에 슬라이더로 조절 가능한 청록색 자이로이드 3D 시각화가 생성된 화면

29:26 그런데 요새 AI 모드에서 이런 게 됩니다. 검색하는 게 아니라 만드는 게 그냥 바로 돼요. 굉장히 빨리 되기도 하고. 그래서 Hydrogen이 이미 AI 모드에 들어와 있다는 얘기들이 있는데 interactive한 시뮬레이션이나 아니면 뭔가를 만들어내고 게임을 만들어내는 것들이 슬슬 타임라인에 올라오긴 해요.

29:42 그런데 물론 여기서는 multi-turn으로 수정하는 건 안 됩니다. 한 번에 one-shot으로 하는 건데 꽤 흥미로운 것들이 만들어지기 시작하고 “구글은 확실히 궤도에 다시 들어오고 있는 것 같다”라는 생각이 드는 한 주였습니다.

AI 선점 경쟁과 모델 발전이 개인에게 미치는 영향 29:56

29:56 최승준 그래서 제 질문은 이게 우리네 인생과 무슨 상관이 있나? AI가 2027년 어느 시점에서 AI 연구에 알파고 모멘트가 온다면. 그런데 이게 중국을, 아까 저희가 NVIDIA 얘기 초반에 말한 것처럼, 최대한 중국이 늦게 도달하게 하기 위해 노력하는 게 그 이유인즉슨 이게 혹시 먼저 도달하기의 게임인가?

30:19 왜냐하면 한 번 도달하면 그다음은 2배, 3배 정도의 기울기가 아니라는 거죠. 훨씬 더 초지수적인 게 되는 거기 때문에. 어떻게든 타임 갭을 조금이라도, 물리적인 타임 갭을 확보하려고 단 몇 개월만이라도 이렇게 하는 건가?

30:32 그런 생각을 하게 되는데, 그게 우리의 삶에 무슨 영향을 주는 건가?

30:39 노정석 여기에 대비되는 과거의 기술, 핵 기술이 여기에 많이 대비되는데 거기도 마찬가지 일이 일어났죠. 먼저 간 나라들이 그걸 가지고 위협하며 뒤따라오는 사람들의 사다리를 다 걷어찼잖아요. 그리고 나서 그들을 어떤 영향권 안으로 들어오도록 만들어서 소위 핵우산 전략이라는 식으로 해서 세계를 둘로 나눠 가졌잖아요.

31:05 지금 이게 그럴 수 있는 기술인지는 잘 모르겠어요. 이게 compute의 총량이 어느 임계점을 넘어가면 된다는 건데, 이건 어디서나 또 할 수 있는 거라서. 중국이 도달하고 미국이 도달하고 그러면 사실 한국도 언젠간 도달할 거고 어느 정도의 경제 규모가 되는 나라들은 다 도달할 수 있는 거고.

31:24 어쩌면 이게 다시 Jensen 얘기로 돌아가지만 Jensen의 이상도 그거였거든요. 모두가 다 그런 이상에 도달하도록 만들고 NVIDIA는 그 모든 것에 판매하는 사업자가 된다. 이런 거였는데.

31:40 박종현 그런데 제가 큰 그림이 아니라 작은 그림에서 제 개인의 삶의 입장에서 한번 보면 결국 모델이 하나씩 툭툭 나오기 시작하는데 제가 영상을 다루는 것에 관심을 가지고 거기서 창업을 하고 행동들을 하고 있었는데 제가 불과 몇 달 전에 열심히 만들었던 게 Opus 5.5가 나오면서 말 그대로 그냥 한 번에 훅 됐거든요. 정말로 영상 편집이 그냥 한 번에 휙 다 돼버리는 상황이 발생했는데 소프트웨어도 이렇게 빠르진 않았던 것 같아요. 단계적으로 점차 탁탁탁 올라왔었는데 6개월, 1년 정도에 걸쳐서.

32:12 그런데 편집은 0에서 1이 한 번의 모델로 확 일어났다는 느낌을 제가 받고 있습니다. 모델이 이렇게 갑자기 훅훅 튀어나오는 것들이 우리의 삶에 영향을 얼마나 줄까 했을 때 제 개인을 봤을 때는 이미 많이 주고 있다. 다른 방면에서도 이런 일이 벌어나겠죠. 소프트웨어보다도 더 빠르게.

모델이 대신할 수 없는 자산과 일 32:35

32:35 노정석 저도 그걸 조금 먼저 경험한 사람으로서 말씀드리면 Stable Diffusion부터 해서 발견되는 AI 기술을 가지고 온갖 서비스들을 만들었는데, 결국은 다 모델이 해버리더라고요. 그래서 우리가 그 당시의 기술을 가지고 무언가를 만들어서 서비스하는 건 거의 의미가 없다. 그래서 저도 그때부터는 현재 모델의 성능을 가지고 harness를 잘 구성하거나 아니면 서비스 flow를 구성해서 뭘 만들려던 시도들은 그만뒀거든요.

33:12 그보다는 모델이 갈 수 없는 자산. 제가 그래서 희소한 것은 무엇인가라는 질문을 계속 하게 되는데 거기에서 obsolete되지 않는 자산으로 이전하는 부분들. 그 부분은 거의 대부분 모델이 verifiability가 없는 곳에서 나오거든요. 아니면 bit가 도는 곳이 아니라 atom이 도는 곳에서 나오거나. 그런 쪽은 여전히 아직까지는 조금은 안전하죠.

33:39 승준님이 질문 주셨지만, 타임라인에서 회사들의 구조조정이라든지 명예퇴직이라든지 이런 현황들이 정리돼서 올라오잖아요. 가짜 뉴스라고 하기에는 양이 너무 많아지고 있다는 게 느껴지고 있거든요. 사실 어느 정도의 타임 갭이 있긴 하잖아요.

33:54 앞서가는 Andrej Karpathy가 얘기했던 것처럼 앞서가는 사람들과 뒤에 오는 사람들의 타임 갭이 있고 앞서가는 사람들끼리 경쟁하던 게 사실 소프트웨어 산업이었는데, 그 안에서의 갭은 이제 완전히 평평해진 거죠.

34:14 그러면 그 안에서 종현님처럼 소프트웨어의 타임 갭이나 그런 기회를 노리던 사람들한테는 비극이지만 뒤에서 이런 것들은 사는 것 말고는 방법이 없었던 98%의 인류에게는 이건 복지잖아요.

34:24 최승준 종현님에게도 비극으로 느껴지진 않는데, 즐거워하시는 것 같은데.

34:28 박종현 그건 개인 성향으로 보면 즐겁지만 사업체의 유불리라고 생각하면 유리하지는 않죠.

34:37 노정석 그래서 Anthropic이나 OpenAI도 수학을 떠나서 정말 큰 산업 중 하나가 제약이잖아요. pharma나 인류를 병에서 구원하고 영원히 살게 하는 이런 것들이. 지금 승준님이 오늘 해주신 얘기가 다 참이면 걔들이 우리를 또 영원히 살게 해줄 거거든요. 정말 3년 안에?

35:03 최승준 그런 게 아까 말한 기적이라는 단어에 들어 있는 거긴 하죠. Anthropic이 그걸 많이 얘기하고 암 치료 같은 거 얘기하고 있어서.

35:08 노정석 암 치료 같은 거, 저는 그쪽을 추적하고 있는 사람의 입장에서 보면 그냥 된다고 봐요. 지금 우리가 아직 해석하지 못한 유전자 프로그램, control region이 어떻게 동작하는지 이런 것들이 아직까지도 다 실험이나 후행적으로 찾고 있는데 그냥 그 코드의 비밀이 풀린다고 봅니다.

게임 생성과 Anthropic의 생산성 도구 확장 35:27

35:27 최승준 게임 쪽도 또 한 꺼풀 갈라졌거든요. 게임이나 3D 쪽이요. Fable 5.2가 나오고 이제는 연출을 해요. Fable 5.2가 연출을 잘하기 시작했어요.

35:40 그래서 Astra로 만든 거랑 같은 프롬프트로 만들었을 때 3D 그래픽만이 아니라 게임성 같은 것들을 Fable 5.2가 좀 더 잘하기 시작해서 “왜 6점이 안 나오냐”라고 사람들이 안달복달하는 부분이 있는데요.

35:57 그거에 대한 소문은 Anthropic이 외부에서는 오히려 그걸 못 하게 페널티를 주고 있지만 내부적으로는 이미 수많은 바이너리를 풀어서 학습했을 것이다. 좋은 게임 같은 것들을요. 그러지 않고선 이게 될 일인가? 그런 식으로 분석하는 분들도 있긴 했어요.

36:15 노정석 그리고 Anthropic이 구글이 될 준비를 하고 있잖아요. 구글이 사실은 Microsoft Office 제품군을 한 번 리프로듀스했는데, Anthropic도 구글이 갖고 있던 생산성 제품군을 다 리프로듀스해서요.

36:29 최승준 이번 주에도 몇 개 나왔어요.

36:30 노정석 나오고 있으니까요.

36:31 박종현 Claude Meet이었나요?

36:32 최승준 네, 화이트보드도 나오고 Meet도 나오고요. 소규모 팀에서 할 것 같은 것들을 다 하고 있어요.

36:39 노정석 많은 사무직 종사자가 PowerPoint 장인이었잖아요. PowerPoint 장인으로 먹고산 사람이 정말 많은데 거기도 끝났네요.

주인의식 프롬프트와 자율적으로 일하는 모델 36:48

platform.claude.com platform.claude.com

36:54 최승준 제가 마지막으로, 저번에 한번 저희 채팅방에 공유했던 게 재밌었습니다. 이번 프롬프트 공식 가이드에 이 버전이 나오면 뭔가 달라지거든요. 이전과 다른 것들을 얘기하는데, 이제는 코드의 소유권, “이 코드베이스의 maintainer는 너고 네가 ownership을 가지고 있다”라고 하면 역량을 더 발휘한대요.

37:13 노정석 주인의식을 고취해 주면 일을 좀 더 잘한다네요.

37:25 최승준 일종의 마법 같은 주문일 수도 있는데 하여튼 그런 것들을 알고 어느 정도 자율성이나 창의성을 발휘해서 시키지 않은 것까지 상당히 취향 있게 해내는 단계인 것 같아요.

37:36 박종현 역할에 따라서 자율성을 얼마나 가지고 행동해야 되는지를 다양하게 이미 학습했다는 뜻이겠죠.

37:40 최승준 물론 불만인 사람은 여전히 있고요. 앞으로도 계속 좋아지겠지만 들쭉날쭉한 것 같긴 한데요. 이번 주에 Fable 5.2가 나왔습니다.

37:47 노정석 이제 점점 저 프롬프트 가이드가 HR 매뉴얼처럼 되고 있어요. 신입사원을 뽑으면 다 모아놓고 우리 창업자님은 어떻고 우리의 창업 이념과 철학은 어떻고요.

37:58 저는 대기업에 다닌 게 SK 하나밖에 없는데 여전히 신입사원 교육에서 받았던 VWB가 생각나거든요. 몇십 년이 지났는데요. VWB가 brain engagement를 willingness 있게 한다, 이런 거예요. 그래서 자율적으로 주인의식을 가지고 engagement를 할 때 변화가 일어난다, 이런 얘기였는데 그게 아직도 기억이 나는 걸 보면요.

38:25 최승준 세뇌 같은 거네요. 하여튼 제가 준비한 건 여기까지입니다.

Ramp 데이터로 본 AI 사용 격차와 token 가격 하락 38:27

Ramp AI Index 요약 슬라이드로 2025년 2월부터 2026년 9월까지 월별 token 지출 증가율 막대그래프이며 7월 42% 뒤 8월 1.05%, 9월 0.22%로 두 달 연속 정체한 모습

38:31 노정석 제가 준비한 건 굉장히 빠르게 살짝만 말씀드릴게요. 승준님이 방금 말씀했듯이 AI가 정말 빛의 속도로 superintelligence 영역으로 가고 있는데 이게 상위 1, 2%, 많이 봐줘도 상위 10%의 인류에서 일어나는 얘기지 하위 90%는 여전히 AI를 써본 적도 없고 써봐야 무료 모델이고요. “이게 뭔가?” 그들이 이해하는 건 NVIDIA, 하이닉스 이 정도인 경우가 많거든요. 그들이 잘못됐다는 게 아니라 이 기술 자체의 발전이 너무 빨라서 지금 adoption curve라고 그러죠. 이 전선이 앞에서부터 뒤까지 길게 늘어서 있어서 이게 끊어지지 않으면 그게 오히려 더 이상한 단계거든요.

Cracks in the AI Thesis Part 3: Ramp AI Index October 2026 Update econlab.substack.com

39:19 그래서 짧게 통계 몇 개만 보여드리면 미국에 Ramp라는 회사가 있어요. 스타트업에 법인카드를 발급해 주고 이 카드로 지출하면 장부까지 깔끔하게 만들어주는 B2B 회사인데 이 회사가 어마어마하게 성장했거든요. Ramp 마피아가 있을 정도로 이 회사 출신들이 실리콘밸리에서 굉장히 각광받고 있는데 잘 나가는 회사들이 다 Ramp의 지출 서비스를 쓰다 보니까 안에 데이터가 있을 거잖아요. 약 8만 5천 개의 기업이 쓰고 있대요. 그리고 실리콘밸리의 우리가 아는 스타트업들은 다 Ramp를 쓴다고 보면 될 정도로 통계적으로 그쪽 집중도가 높아요.

Ramp AI Index 요약 슬라이드로 2026년 1월부터 10월까지 token 사용량 막대는 계속 오르고 token 지출 막대는 8월 고점 이후 평평한 모습을 나란히 보여주는 차트

40:05 그런 회사들이 쓰는데 이게 10월, 딱 한 달 전 자료거든요. 그러니까 통계가 9월까지 있죠. 매달 지출이 계속 늘어난다는 걸 이 그래프는 보여주고 있고, 다음 장을 보면 왼쪽에 있는 그림만 보세요. 왼쪽에 있는 그림을 보면 token volume이에요. 사용량은 계속 늘어나는데, 여기 보면 8, 9, 10월 정도 되는데 여름부터 지출은 정체하고 있거든요. 안 늘어요. 이렇게 살짝 조정하는 거죠.

Ramp AI Index 요약 슬라이드로 OpenAI, Anthropic, 전체의 100만 token당 블렌디드 단가가 7월 이후 내려가 10월 초 전체 약 $0.65가 된 선 그래프

40:40 사용량이 줄었나? 아니요. 사용량은 늘었는데 지출은 줄었다는 상황인 거죠. 얘기인즉슨 token 값이 계속 싸지고 있다는 거거든요. 그래서 경쟁은 참 좋은 것이다. OpenAI랑 Anthropic이 경쟁하니 또 OpenAI가 200달러 요금제의 사용량을 안 줄이기로 결정했잖아요. 그래서 결국은 이들이 여전히 돈을 깎아주고 있음에도 불구하고 저희가 Anthropic S-1 filing에서 봤듯이 마진은 계속 늘어나고 있거든요. 좋은 사업이에요. 더 깎아줄 여지도 있고, 경쟁이 첨예해지고 이게 양강 구도가 아니라 다자 구도가 되면 더 깎일 확률이 있는 거죠.

Ramp AI Index 요약 슬라이드로 미국 기업의 유료 AI 채택률이 전체 55.9%, Anthropic 43.8%, OpenAI 40.6%이고 xAI, DeepSeek, Mistral AI는 바닥에 머무는 S-커브 차트

41:18 NVIDIA가 그러한 세상을 지향하고 있었는데 그게 마음에 안 들었나 보죠. 어떤 세력이요. 떨어지고 있다. 그다음에 이게 다자 구도가 되면 더 떨어질 거다. 근데 여전히 시장은 Anthropic, OpenAI 완전히 양강 체제거든요. 보시면 Anthropic과 OpenAI가 전체 사용량의 거의 40%, 43%고 나머지 xAI부터 Muse, 구글. 구글이 없는 것도 신기하죠. DeepSeek, Kimi 다 합해봐야 이 아래 바닥이에요. 한 7, 8%를 나머지 회사가 다 차지하고 있고 두 회사가 거의 다 차지한다고 보면 되고요.

Ramp AI Index 요약 슬라이드로 상위 1% 기업의 직원 1인당 월 AI 지출 약 $9.9K, 상위 10% 약 $840, 중위값 약 $18을 비교한 세 개의 선 그래프

41:54 저는 시간 차이를 느낄 수 있는 게 이 그래프인 것 같아요. 월별 지출을 그린 거거든요. 맨 왼쪽 파란 그래프가 상위 1%의 직원 1인당 지출, per employee expenditure거든요. 1인당 지출이고, 가운데가 상위 10%의 지출, 그다음 이 빨간 게 median, 중위값이거든요. 일렬로 늘어섰을 때 중위값은 얼마인지요. 이 격차를 보시면

42:22 최승준 어마어마하네요.

42:29 노정석 상위 1%는 한 명당 거의 만 달러를 써요. 천만 원 넘게 쓴다는 얘기예요. 물론 이거는 inference, training 다 합한 거니까요.

42:33 그리고 상위 1% 기업이 지출하는 양이 전체 지출의 80%거든요. 파레토 법칙도 아니에요. 20 대 80도 아니고 상위 1%의 회사가 비용의 80%를 내고 있습니다.

42:55 그리고 그들 대부분은 아직 수익 모델을 못 찾은 회사인 것도 맞아요. 대부분 벤처캐피털의 투자를 받은 회사들인데 우리가 아는, 누가 몇 billion 받았대, 몇 billion 받았대. 그게 꼭 생산성 분야에만 있는 게 아니라 neolab부터 biology, 생명공학 분야도 많잖아요. 그런 데들은 지금 그야말로 대항해시대인 거죠. compute를 태워서 금을 찾거나 신대륙을 발견해야 되는 미션을 가지고 어마어마하게 token을 쓰고 있다.

43:27 그다음, 앞에서 봤다시피 지출이 계속 늘어날 거거든요. 근데 token 값은 떨어지고요. 그러니까 token 사용량은 계속 늘어난다고 보는 게 맞지 “이제 쓸 사람은 다 썼네”는 아닐 것 같아요.

43:39 박종현 규모를 살짝 보면 상위 1% 회사의 인당 지출이 월 만 달러인데, 연으로 환산하면 대충 연봉을 1억 5천만 원에서 2억 원 정도 주는 사람만큼을 인당 추가로 AI에 쓰고 있는 거잖아요. 그러면 아마 어떤 사람들은 자기 연봉보다 자기가 쓰고 있는 AI의 token 값이 더 클 수도 있나? 이런 생각이 들기도 하네요.

44:05 노정석 그런 사람들 분명히 있지 않을까요? 제 주변에도 한 달에 200달러 요금제를 열 개 이상 다 쓰는 사람도 있죠. 근데 이런 것도 다 해보고 나면 좀 최적점을 찾는 것 같아요. 사실 많은 회사가 agent한테 “해줘, 해줘, 해줘” 하면서 회사를 돌릴 만한 enterprise package를 만든 경우가 굉장히 많거든요. 저희 회사도 그렇고 다른 앞서가는 회사들도 이미 다 만들어서 어떻게 하면 AI만으로 회사를 굴러가게 할지에 대한 답이 많이 나와 있어요.

token maxxing의 한계와 loop engineer로 바뀌는 엔지니어 44:15

44:40 노정석 근데 거기까지 가보고 나니까 알게 되는 게 있거든요. slop이 어마어마하게 많이 생깁니다. 코드가 10만 줄 생겼으면 테스트도 10만 줄 생겨서 굉장히 간단한 걸 하나 출시하려고 해도 회귀 테스트를 돌리는 데 한 시간이 걸려요. 그래서 그 slop을 덜어내려고 “덜어내”라고 얘기해도 제가 만든 개인용 package만 하더라도 “더 걷어낼 게 없습니다”라고 그러거든요. 촘촘히 테스트들이 쌓이면서 얘네들끼리 엉겨 붙은 거죠. 새로 만드는 거 말고는 답이 없어서 새로 만드는 경우도 많이 있는데 제가 이 말씀을 왜 드리냐면 token maxxing의 끝이 어딘지를 많은 사람이 봤어요.

45:25 그래서 그걸 다음 단계로 올라가게 만들려면 이걸 완전한 자율에 맡기는 게 아니라 그 사이사이에 관리해 주거나 의사결정해 줄 수 있는 다른 엔지니어가 필요하다는 걸 알게 됐거든요. 그래서 다시 한번 엔지니어의 시대가 시작되겠구나라는 생각을 저는 개인적으로 갖고 있습니다. AI를 다 사람이 관리하면서 갈 수가 없는 지점들이 있어서 엔지니어 세 명이 팀이 돼서 AI를 굴리면 한 명이 돌리는 것보다 생산성이 세 배, 네 배가 아니라 열 배가 되는 그런 구간들이 있는 거죠. 코딩의 시대는 끝난 건 맞는데 엔지니어의 시대는 여전히 살아 있고 엔지니어의 기준이 이제는 PM, 디자이너 등 직군별로 할 수 있는 기능으로 나누는 게 아니라 우리 모두가 문제를 해결하는 loop를 닫는 loop architect이자 loop engineer가 되는 것 같다는 생각이 들어서 저희 회사도 사실 그런 식으로 조직 구조가 많이 바뀌고 있긴 하거든요.

46:32 그러면 그럼에도 불구하고 그 체제가 다시 한번 자리 잡잖아요. 그럼 또 token 사용량이 늘어납니다. 왜냐하면 그렇게 만들어진 engineering asset이 다른 분들한테도 가고, 이 그래프에서 보는 median 값이 회사 안에도 존재하거든요. 모두가 최상의 AI 사용자는 아니에요. 한두 명 있으면 안 쓰는 사람도 저 끝에 있단 말이에요. 중위값으로 치면 여전히 대부분의 회사가 AI 도입이 거의 없어요. 채팅하는 수준인데, 그렇게 앞서간 사람들이 이 바를 높여 놓으면 뒤에 오는 사람들의 토큰량도 크게 증가해요. 왜냐하면 앞선 사람들이 뒷사람들의 context를 다 깔아 놨거든요.

47:10 그래서 그런 것들이 생겨나는 게 느껴지고 있어서 이건 시간의 문제지, 계속 늘어난다. 그래서 상위 1%는 이렇고 상위 10%는 이렇고 중앙값은 이렇다는 게 지금의 시차를 보여주지만, 한 분기 지나고 두 분기 지나고 세 분기 지나서는 이 중앙값이 쭉 올라올 거라고 생각합니다. 그래서 결론을 얘기하면, 아까 승준님이 말씀하셨던 ASI와 관련해서 이 뒤에 있는 시간 차이들도 계속 줄어들고 있는 느낌은 들어요.

47:46 그런데 AI와 harness가 하지 못하는 새로운 인간의 엔지니어링 영역들이 또 생겨나고 있어서 마치 예전에 코딩이란 무엇인가라고 얘기했던 것처럼 그 직군이 곧 새로 정의될 시점이 오는 것 같다. 그리고 사람의 일은 또 생겨나는 것 같다는 생각이 듭니다. 이 정도로 승준님이 말씀하셨던 거에 이어서 제가 이번 주에 봤던 재밌는 데이터 포인트를 정리하도록 하겠습니다.

48:10 최승준 Ramp는 저는 이번에 처음 봤어요.

48:12 노정석 네, 베이에서 정말 잘나가는 회사예요.

48:18 박종현 AI 관련 팟캐스트 같은 걸 보면 항상 ‘Sponsored by Ramp’가 있습니다. TBPN이나 이런 데도 그렇고요.

48:26 노정석 Ramp 마피아가 있어요. 저기 출신들이 뭔가 회사 안의 문화나 이런 게 좋은가 봐요. 그래서 저 출신 창업자들을 투자자들이 매우 선호합니다. 그러면 종현님 세션으로 넘어가 볼까요?

모델 가중치를 직접 고치는 weight-space programming 실험 48:40

48:40 최승준 실제로 재밌는 걸 해보셨다는 얘기를 들었습니다.

48:44 박종현 일단 이번 주에 제가 뭘 해봤냐면, weight-space programming. 지난주에 저희가 한번 얘기했었죠. 모델의 weight를 학습 알고리즘, backpropagation으로 바꾸는 게 아니라 진짜 수술해서 바꿀 수 있는가. 이런 실험을 한번 해봤고요.

49:00 일단 이걸 하게 된 이유는 이 자체가 궁금하기도 했고, 정말 잘 되는지도 궁금했고요. 이번 주에 Fable이 나왔는데 이 Fable도 잘 될까? 이런 것들이 궁금했고요.

49:14 그다음에 RSI, 토큰을 얼마나 사용하는가 이런 얘기를 해주셨는데, 이런 실험을 한다는 것 자체가 과거였으면 시간이 엄청 오래 드는 일이었을 텐데, 이런 것도 토큰을 써서 저도 방구석에서 자는 동안 클릭 몇 번으로 연구 비슷한 무언가를 해보며 궁금증을 해결하는 시간을 가져봤습니다.

49:35 최승준 대학원생 때로 돌아가서 한다면 얼마나 걸렸을 일이에요?

49:44 박종현 제가 대학원생 때는 못 했죠. 한번 계산해 보자면 모델을 inference하는 환경을 갖춰야 되고, 그 모델을 다 뜯어볼 수 있는 환경을 갖춰야 되고, 그다음에 그걸 돌려 보면서 안의 숫자를 모니터링할 수 있는 화면도 갖춰야 되고, 그걸 수정하는 코드도 짜야 되고요. 진짜 못 했을 것 같은데요. 한 6개월 걸렸을까요?

50:00 최승준 그런데 누워서 하셨다는 거죠.

50:11 박종현 저는 자기 전에 한 번 돌려 놓고, 구독 요금제 한도를 다 써서 기다렸다가 한도가 풀리면 다시 하고, 이렇게 해서 이틀 썼거든요. 다른 일을 하면서요.

50:15 최승준 이 시각화 자체도 상호작용이 가능한 3D예요?

50:24 박종현 네, 이건 캡처본인데 밑에 있습니다. 이렇게 돌려 볼 수 있게요. 이건 저희 aifrontier.kr에 제가 배포해 놨으니까 누구나 들어오셔서 보실 수 있습니다. 그러면 시작하겠습니다. Weight-space programming.

50:34 지난주에 저희가 살짝 얘기했었는데, 이게 뭐였는지 잠깐 얘기해 보자면 한 1, 2주 전에 X를 뜨겁게 달군 연구예요. 연구가 이렇게 화제가 된 게 되게 오랜만이었던 것 같아요. MIT에서 나온 논문인데, Astra를 가지고 Qwen 0.8B였나? 되게 작은 모델을 수술하는 거였어요. Qwen이 원래 수학 문제를 풀어 보면 잘 못 푸는데, 아주 적은 0.061%의 weight를 직접 고쳤더니 수학 성능이 확 올라가더라. 이게 원 논문이고요. 그래서 사람들이 ‘나도 이렇게 해볼래, 저렇게 해볼래’ 하면서 ‘이게 진짜 되는 게 말이 되나?’ 이런 분위기로 확산됐었죠. 그래서 저도 한번 해봤고요.

51:21 그런데 가장 궁금해할 법한 게 뭐냐면, 모델에 없던 능력을 더할 수는 없었다. 이 얘기는 계속 나오고 있습니다. 저희가 맨 처음에 RL이 나왔을 때도, GRPO를 할 때도 pre-training으로 학습한 내용이 있고, 거기 있는 걸 꺼내는 거냐, 아니면 그 밖에 있는 기능까지 생기는 거냐, 이런 이야기를 했었는데 여기도 마찬가지로 능력을 끌어내는 개념이지, 없던 내용이 새로 생기는 건 아닌 것 같다는 게 아직까지의 결론인 것 같고요.

51:57 제가 지식을 넣어 보는 걸 한번 해봤고요. 그다음에는 지식이 아니라 그림에 한번 해봤거든요. 사실 궁극적으로 저는 영상에 하고 싶은데, 일단 그림으로 하는 것과 비슷한 일이니까요. 수학은 verifiable하지만 얘는 verifiable하지 않기 때문에 화풍을 알아서 조절하거나 이런 게 될까 싶어서 이 두 개를 한번 해봤습니다.

삼국지 벤치마크로 본 지식 주입의 효과와 한계 52:17

52:17 박종현 첫 번째는 제가 항상 쓰는 저만의 벤치마크거든요. 삼국지 벤치마크라고, 제가 자료를 크롤링해서 만들어 놓은 게 하나 있습니다. 삼국지 퀴즈를 내고 그걸 맞히는지 한번 해봐요. 이걸 생각보다 잘 못합니다. 다 할 것 같은데 잘 못해요.

52:36 왜 못하는지 추측해 보자면, 전체 데이터에서 이게 그렇게 가치 있는 데이터가 아니라고 생각하는 것 같고, 한국어와 중국어도 좀 다른 것 같고, 『삼국지연의』라는 소설과 정사에 있는 내용도 다른 것 같고, 여러 가지 요소로 인해 LLM들이 이런 걸 잘 못하더라고요. 그래서 이걸 제가 항상 쓰는데, Qwen 0.8B한테 시켰더니 정답률이 3%밖에 안 되고 9B한테 시켰더니 14% 정도 되더라고요. 그래서 이걸 가지고 Astra와 Fable한테 수술을 하라고 시킨 거죠.

53:05 최승준 두 개를 준 이유가 있는 거예요? 모델 두 개를 준 이유요.

53:12 박종현 0.8B는 벤치마크를 바꿔도 리프로듀스가 될까, 수학이 아니라 삼국지도 될까 싶어서고, 그다음에 9B는 제가 개인적으로 가지고 있는 GPU에서 쉽게 돌아갈 수 있는 적당히 큰 크기로 잡아서 가능한 큰 모델을 해봤습니다. 어느 정도 크기까지 될까 싶어서요.

53:30 노정석 진짜 뇌 수술이네요. weight를 바꿔 주는 거니까.

53:36 박종현 뇌 수술을 시켰더니, 일단 첫 번째로는 이게 뇌죠. Qwen 0.8B인데, Fable은 Qwen 0.8B의 여기 실제 weight를 이만큼 바꾼 거예요. 19층을 바꿨고, Astra는 가장 마지막인 23층을 바꿨더라고요.

53:50 그래서 바꿔서 어떻게 됐냐 하면, 문제 200개를 샘플링해서 풀면서 어느 뉴런이 활성화되는지 이런 것들을 보면서 바꿨더라고요. 그 문제들은 95% 다 맞힐 수 있게 바꿨습니다. Astra는 심지어 100% 맞힐 수 있게 바꿨어요. 뇌에 지식을 꽂아 넣는 건 된 거죠.

54:14 그리고 이건 제가 시키지 않았는데, 알아서 실험을 했거든요. 같은 문제의 변형 문제를 자기가 만들어서 풀어 보더라고요. 변형 문제도 잘 푸나 봤더니 잘 풀었는데, 완벽하진 않더라고요. 성능이 올라가긴 했지만요.

54:25 그래서 지식이라는 게 문제를 토씨 하나 틀리지 않고 외우는 건 아주 잘했지만, 말만 좀 바꿔도 지식을 알아서 잘 응용하지는 못했다. 어느 정도는 응용했다는 거고요. 그다음에 아예 안 본 삼국지 문제를 얼마나 더 잘 맞혔냐 하면, 그건 잘 맞히지 못하더라고요. 그러니까 보고 넣은 내용에 대한 수술이 딱 목표로 한 것에만 적용됐고요.

54:58 그리고 일반적인 상식, 선풍기 가격이 대충 10만 원 이하야? 아니면 선풍기 가격은 1억 원 이상일까? 이런 걸 물어봤을 때 10만 원 이하라고 대답하는 게 합리적이잖아요. 그런 질문에 대해서는 상식을 좀 까먹더라고요. 이건 전형적으로 우리가 fine-tuning을 하면 벌어지는 현상과 거의 비슷합니다.

55:15 최승준 backprop 없는 SFT를 했다고 볼 수 있는 거죠.

55:18 박종현 그렇죠. fine-tuning의 새로운 방법이라기보다 과거에 잘 못했던 방법 하나를 찾았다, 이렇게 보면 될 것 같아요.

55:27 그래서 fine-tuning을 넘어서는 무언가가 벌어지는 건 아닌 것 같다고 이런 실험으로 추측할 수 있을 것 같습니다.

55:41 그다음에 신기한 게, 하나씩 뜯어서 보면 제가 시킨 질문이 이런 거거든요. 하후돈과 유비가 싸운 전투에서 제갈량의 명령에 따라 적에게 져 주는 임무를 맡은 장수의 이름은? 정답이 조운인데, 이걸 맞혀야 되는 거죠.

55:56 최승준 어려운데요.

55:58 박종현 어려운 걸 다 가져왔는데요. 이걸 풀 때 어디가 어떻게 바뀌었는가를 보면 뉴런 하나가 툭 변하더라고요. 그리고 문제마다 특별히 변하는 뉴런들이 이렇게 하나씩 있더라고요. 그래서 얘가 생각했을 때는 ‘저런 뉴런 하나가 어떤 기억을 담당하는구나. 저런 지식에 대한 기억을 담당하는구나.’ 이렇게 추론하고, 그런 것들을 맞춰서 수정하고 있는 것 같더라고요.

56:28 그래서 이런 다양한 질문을 시켰을 때 얘가 어떻게 동작하는지 볼 수는 있는데, 우리가 이걸 본다고 이해가 잘 되진 않죠. 그런데 인간은 이해가 안 되지만 LLM은 될 수도 있다. 이런 생각이 들기 시작하는 거죠.

56:46 노정석 그 경우를 몇 개 실험해 보고 패턴을 찾을 수는 있을 것 같아요. 이 뒤에서 harness와 관련해서 weight가 어떻게 왔다 갔다 하는지, 그 값을 다 모니터링해 보는 거잖아요. 그리고 실험하면서 결정적인 뉴런을 찾는 데 여러 가지 실험을 하는 거죠.

57:03 최승준 기본적으로 모델이 Base64로 prompting해도 다 알아듣기 때문에 숫자로 된 패턴은 진짜 잘 알긴 하죠.

57:11 박종현 네, 이런 식으로 모델에서 원래 어디가 중요했는데 어떻게 바뀌었는지를 볼 수 있는데, 이건 저도 인간이 이해할 수 있는 건 아니어서 시각적으로 혹시 이해할 수 있을까 싶어서 만들어 본 거고요. 신기한 건 어쨌든 바꾸는 곳이 다르더라, 두 모델이요.

57:25 최승준 layer가 다르다는 거죠.

57:28 노정석 그래도 꽤 output과 가까운 층을 잡네요.

57:36 박종현 앞쪽은 안 잡고 뒤쪽을 잡긴 하더라고요. 이건 제가 자유도를 주고 알아서 하라고 했기 때문에 그렇게 했는데요. 어디 층을 고치라고 지시하면 그대로 할 것 같고요. 자기가 뭘 보면서 어떻게 수정했는지도 기록을 다 남겨서 그걸 보기는 했는데, 봐도 이해가 되진 않더라고요.

57:56 최승준 저도 요즘 늘 그렇습니다. 하기는 했지만 이해는 못해요.

이미지 모델에 입힌 이중섭 화풍 57:58

58:02 박종현 그리고 다음은 제가 그림, 그림을 수정하는 걸 했고요. 이번에는 Qwen LLM이 아니라 이 모델은 MiniMax H3 이미지 모델입니다. 이게 나온 지 얼마 안 된 모델이기 때문에 이 특정 모델에 대한 지식 자체는 원래 LLM이 아마도 잘 모를 거고요. 그런 상태에서 이런 걸 시켜 봤습니다.

58:21 결과만 먼저 한번 보자면, 제가 뭘 시켰냐면 이중섭 화가의 작품 스타일로 이미지를 생성하도록 너의 뇌를 한번 수정해 봐라, weight-space programming을 해봐라를 시킨 거고요. 그래서 원래 이 이미지 모델한테 황소를 그려라라고 하면 제가 프롬프트를 일부러 수묵화식으로 그려라, 이렇게 줬거든요. 그러면 황소를 이렇게 그립니다. 그런데 이중섭식으로 그려라라고 하면 이렇게 그려요. 두 번째처럼. 그런데 그냥 이중섭식으로 그리라고 하면 얘한테는 이중섭식이 뭔데 하는 질문이 생기기 때문에 Fable이 알아서 프롬프트를 고치는 거예요. 이중섭의 그림을 찾아보고 이 사람은 그림을 이런 식으로 그리는구나. 그래서 선을 어떻게 써야 되고 그런 특징들을 글로 뽑아서 시키면 세 번째처럼 나옵니다.

59:07 여기까지가 모델을 건드리지 않고 재현한다면 리프로듀스가 이 정도까지 되는데, 그러면 보통은 fine-tuning을 해서 만들어야겠죠. 이런 화풍을 주고. fine-tuning 대신에 Fable한테 weight-space programming을 해서 만들어라 하면 이 정도 나오고요. Astra한테 시키면 이 정도 나옵니다. 그러니까 그림만 보면 제가 느끼기에는 제가 그림에 대해서 잘 모릅니다만 Astra가 만든 게 더 그럴듯하다고 느껴져요. 왜냐하면 앞쪽에 있는 것들은 다 유화식으로 바르는 식으로 그려져 있어서 서양식 느낌이 난다면 Astra가 편집한 건 그래도 동양식으로 선을 그리는 그런 화풍으로 그렸다고 느껴지고요. 이건 제 정성적인 평가이고요.

59:54 이 과정들을 지켜볼 수가 있었는데, 이게 고치기 전이에요. 여기서부터 한 회차, 회차 고치는 weight를 볼 수 있고, 그 고침에 따라 화풍이 어떻게 바뀌는지 볼 수 있습니다. Fable이네요, 이거는. 여기 고쳐보고 그려보고 평가하고, 다른 데를 고쳐봐야겠다. 다른 데 한번 고쳐보고 평가하고, 이렇게.

1:00:17 최승준 지금 대부분 VAE를 건드리는 거죠?

1:00:22 박종현 아니요. 여기는 텍스트를 projection하는 여기를 고치고 있었네요, Fable은. Fable은 여기만 고쳤네요. 그런데 Astra 같은 경우에는 처음부터 보면… 똑같이 저기를 한번 고쳐보다가 잘 안 되니까 다른 데를 한번 또 고쳐보고, 또 앞을 고쳐보다가… Transformer 안쪽도 한번 건드려보고. 이렇게 여기저기를 고쳐보면서 나름대로 평가해 보면서 가더라고요. 이렇게 해서 마지막까지 도는 걸 볼 수 있었는데, 이거는 제 토이 실험이기 때문에 24시간도 안 쓴 정도의 실험이라서 이 정도 결과가 나왔지만 이걸 좀 더 저희가 고도화해서 해보면 어디까지 갈 수 있을까, 이런 것들이 궁금하고요.

1:01:04 결국에는 이 output을 보고 뉴런 안을 해석하는 능력이 모델에 어느 정도 있구나. 이런 걸 알게 되었고, 이걸 더 잘 쓰려면, 화풍이라고 생각하면 이 그림을 보고 화풍이 진짜 비슷한지, 내가 원하는 결과가 맞는지를 평가할 수 있는 능력을 모델이 가져야겠죠. 어떻게 보면 이건 미적 감각 혹은 visual understanding, 이렇게 생각할 수 있을 것 같은데 그 부분도 지금 LLM에서 확장된 VLM들이 그렇게까지 뛰어나진 않은 것 같아서 그런 것들이 발전하면 같이 따라올 수 있겠다, 이런 생각이 듭니다.

1:01:41 노정석 10년 전엔 이런 것들이 논문이었는데 이제는 그냥 코딩 하니스 끼고 딸깍거리는 토이네요. 승준님도 이제 타이틀을 미디어 아티스트가 아니라 뉴럴 아티스트, AI 아티스트로 바꾸셔야 될 것 같아요.

1:01:53 최승준 글쎄요.

1:01:55 박종현 그래서 디테일한 부분들은 여기에 제가 다 써놨는데, 써놓은 것도 실험을 제가 직접 진행하면서 결국 정리나 이런 것들은 이번에 Fable 5.2를 테스트하는 게 이번 주 목적이었어서 Fable 5.2가 쓴 거고요. 제가 그래도 이런 걸 쓸 때마다 항상 퇴고하면서 제 입맛대로 글을 고치거든요. 그런데 이번에는 많이 안 건드린 것 같아요.

1:02:21 그래서 이 실험의 목적 자체에는 Fable을 써보는 것도 있었는데, Fable이 저것만 잘하는 게 아니라 글 쓰는 것도 확실히 많이 좋아진 것 같다는 느낌을 개인적으로 받았고요.

1:02:27 그다음에 이 실험을 통해 배운 것들을 나열해 보자면, 암기시키는 게 된다. 암기시키고 싶은 데 weight-space programming을 한번 써볼 의향이 있고, 미래에는 더 잘될 수도 있으니까 기대가 된다는 정도고요.

1:02:43 어디를 얼마나 고치느냐보다 뭘 고치는지 아는 게 큰 차이를 만드는데, 그거는 인간은 거의 하지 못했던 일이라면 LLM은 할 수 있는 일이니까 기대가 된다, 똑같이.

1:02:56 그다음에 어떤 층을 고치느냐에 따라서 많이 달라졌고요.

1:02:59 최승준 그러니까 이게 딥러닝 연구잖아요. AI가 AI 연구를 하는 거예요. 암기 얘기 나왔으니까 말인데, 이번 주 화제가 또 AI 안경이었죠. 앞으로 시험은 어때야 되는가?

AI 안경 부정행위와 바뀌어야 할 시험 제도 1:03:03

1:03:11 노정석 인정했다는 이야기가 있던데요. 수험생 한 분이 AI 안경 사용을 인정했다는 걸 저희 시작하기 직전에 어디서 봤습니다.

1:03:17 최승준 세무 시험이요?

1:03:18 노정석 네, 세무요.

1:03:20 박종현 뭔가 자수한 건가요?

1:03:25 노정석 저도 자세히는 모르겠습니다. 그냥 딱 저희 녹화 시작하기 전에 한번 보고 들어온 거였어요.

1:03:32 최승준 또 돌아오는 목요일인가요? 수능이죠. 사람들이 이런저런 생각을 많이 하는 것 같더라고요. 이게 어느 방향인가. 시험이 바뀌어야 되는가.

1:03:41 박종현 시험이… 창과 방패라고 생각하면 시험을 바꾸는 게 쉽지만은 않은 일일 것 같은데. 저희의 모든 제도도 바뀔 수밖에 없는 그런 순간이 된 것 같네요.

1:03:55 최승준 그런데 안경처럼 일상에서 착용 가능한 형태가 된다고 하면 그 상태로 뭘 해야 되느냐는 논리를 펼치는 분들도 있고, 말도 안 된다고 말씀하시는 분들도 있고 다양하네요.

1:04:04 노정석 한 10년에서 50년 사이에 일어나야 되는 변화가 거의 1, 2년 사이에 지금 쏟아지고 있어서 저희도 가면서 배워야죠.

weight-space programming과 continual learning의 가능성 1:04:12

1:04:12 박종현 하고 싶었던 얘기랑 제가 내리고자 했던 결론이랑, 저는 생각하지 못했는데 지금 듣고 나니까 한길에 있는 것 같아요. 왜냐하면 제가 weight-space programming이라는 걸 보고 재밌다. 저런 게 진짜 되나? 이런 데서 조금 더 생각해 보니까 이게 계속 한계로 꼽혔던, Dwarkesh가 특히 많이 짚었던 continual learning의 길에 있을 수도 있겠다는 생각을 하게 되었거든요.

1:04:34 왜냐하면 지금 계속 상호작용하면서 weight를 업데이트시키는 게 너무 비싸고 어려운 일이기 때문에 잘 안 되고 있는데, 새로운 방식으로 weight를 업데이트하는 방법이 하나 발견된 듯이 나오기 시작한 거고, 이게 정말 효율적으로 잘될 수 있다면 우리가 계속 생활하면서 입력을 받으면 사람은 뇌가 업데이트되는데 이 모델은 업데이트가 잘 안 되잖아요. 대화를 하면서 알게 된 사실들로는요.

1:05:01 그래서 그런 길에서 이 weight의 continual learning을 위한 돌파구로서 일단 가능성을 염두에 두고 지켜볼 만한 후보로 생각하고 있고요. 기본 착장을 말씀해 주셨는데, 저랑 연결된 LLM을 하나 돌린다고 생각하면 이걸 보면서 continual learning을 하는 그 앞단도 연결되겠다는 생각이 갑자기 들었네요. 말씀해 주시니까.

1:05:24 최승준 이러다가 뇌를 프로그래밍한다는 얘기 나오겠어요.

1:05:27 박종현 거의 Neuralink가 딱, 예.

1:05:29 노정석 오늘 아침에 또 Starship이 사뿐히 내려앉았잖아요.

1:05:35 최승준 그래요? 그건 못 봤습니다.

1:05:36 노정석 추진체 위에 Starship을 올려서 쐈는데, 아래에 있는 그 Heavy라고 그러죠. Heavy는 내려오다가 바다 위에서 살짝 폭발했고요. 그래서 그건 실패했는데 위에 있는 Starship은 한참 돌다가 하루 정도 위에 떠 있다가 다시 내려와서 오늘 아침에 집게로 예쁘게 잡았습니다.

1:05:58 그래서 저도 아침에 일어나자마자 그걸 수십 번 돌려봤는데, 직접 가서 보는 사람들은 정말 전율이 돋겠더라고요.

1:06:04 최승준 왜 수십 번 돌려보셨어요?

1:06:06 노정석 재밌잖아요. 저한테 그게 일종의 연예인 콘서트 같은 그런 거여서요. 와, 이런 게 되다니. 이런 게 되다니. 그런데 보십시오. 수십 번 돌려보진 않더라도 몇 번은 돌려볼 만한 감동이 있습니다. 승준님이 보여주실 거 있으시다고 하니 간단히 한번 보여주시죠.

신경망 안에 구운 compiler와 MuJoCo RL 실험 1:06:24

1:06:27 최승준 저도 긴 건 아니고 딸깍한 건데요. 종현님이 weight-space programming으로 재밌는 거 하셨을 때 저는 Qwenputer 비슷한 걸 재밌게 했습니다. 그래서 이것도 저는 shader 같은 거 만드는 걸 좋아하니까 shading language나 소리 가지고 하는 실험을 그냥 weight로 ReLU network 써서 한 거거든요.

1:06:46 그런데 그다음에 Fable의 첫 프롬프트로 도전한 게 뭐냐 하면 제가 lambda calculus, Bytebeat라는 domain-specific language, 그다음에 shader code 세 개를 weight에 구운 다음에 그때 구운 상태는 bytecode가 입력이에요. 그런데 그 bytecode를 만드는 compiler까지 한번 시켜봤어요. 되나. 아침에 일어나니까 해놨어요. 그래서 이게 해놓고 보니까 별거 아니구나 싶었던 게, 기계적인 일이라는 거죠. ReLU network로 바꾸는 거예요. 결정론적인 코드를 network로 바꾸면 사실 자명하게 되는 거라서 사람은 절대 할 수 없는 일이지만 기계는 이걸 하는구나. 그래서 아예 compiler를 만들었습니다, network 안에다.

1:07:30 그리고 dot은 Astra를 공짜로 쓸 수 있잖아요. 그래서 예전에는 이런 실험을 RL 같은 걸 하려면 어려웠거든요. 그런데 지금은 dot 안에서 이런 걸 하고 있는데, 물론 GPU에서 하는 게 아니고 CPU로 하는 거지만, container가 CPU라서요. 그런데 이걸 좀 잘하라고 했더니 재밌는 게, 이미 학습한 모델이 있다. MicroDuck이 그런 걸 잘해놨다. 그래서 그쪽 weight를 가져와서… 이게 MuJoCo 4가 나왔거든요. MuJoCo 4로 돌린 겁니다.

1:08:02 그러니까 container 안에 MuJoCo 4를 설치해서 RL 실험하고 그걸 auto research로 개선하는 걸 저는 그냥 누워서 했어요.

1:08:10 박종현 그런데 dot container 안에서 MuJoCo가 돌아가네요? 이게 놀라운데요?

1:08:15 최승준 이건 real-time은 아니에요. 녹화 영상이에요. 그런데 MuJoCo renderer를 돌리게 할 수는 있을 거예요. Google의 Filament를 붙일 수 있거든요. 하여튼 그렇습니다.

1:08:26 노정석 모든 게 다 compute를 투입해서 최적화하면 되는 문제가 되는 것 같네요.

1:08:33 최승준 그러니까 저런 거 하려면 어렵거든요.

1:08:35 노정석 사실.

1:08:36 최승준 종현님이 보여주신 거.

집을 하룻밤 만에 시뮬레이션으로 옮긴 real-to-sim 1:08:38

1:08:38 박종현 네, 제가 안 보여드렸지만 이번 주에 실험한 것들이 더 있는데, Fable 나온 김에 잔뜩 해봤는데 저도 비슷한 걸 해봤거든요.

1:08:47 그러니까 뭘 해봤냐면 real-to-sim을 해봤어요. 비슷한 건데, 제 집을 핸드폰으로 다 찍은 다음에 그걸로 Blender에서 3D simulation 환경을, 집을 다 만들어서 그 안에 로봇을 집어넣고 로봇으로 안에 돌아다니게 해보고 이런 걸 시켜봤거든요.

1:09:04 집에 가구 바꾸고.

1:09:05 최승준 했나요?

1:09:09 박종현 했더니 너무 잘하던데요. 그것도 하룻밤 만에 바로 되더라고요. 그래서 real-to-sim이 원래 어려운 문제였는데 이것도 얘가 그냥 시뮬레이터 돌려보고 피드백 받고 영상이랑 비교해 보면서.

1:09:21 최승준 그러니까 측정 가능한 건 다 되는 것 같아요. 지금 Opus 5.5 나오면서 시켜서 안 된 일이 없어요. 더 야심 있는 걸 못 시켜서 그런 거지. 평소에 제가 마주하는 문제가 쉬운 문제구나라는 생각을 요새 많이 했어요.

가치 창출 수단이 된 RL environment와 새로운 직업 1:09:32

1:09:35 노정석 방금 승준님이 중요한 말씀하셨는데 그게 RL environment거든요. 저희 회사에서도 부가가치는 어디로 가는가라는 점에서 무언가 개선하고 싶은 문제가 있으면, 그 많은 문제들이 몇몇 사람들의 통찰과 해석에 의존하게 돼 있어요. 그리고 우리는 그 직업을 전문성 있는 직군이라고 부르거든요.

1:10:03 그런데 그걸 해석 가능하도록 verifier가 돌도록 만드는 환경, 그 환경을 만드는 건 모델이 한 번에 안 해주거든요. 왜냐하면 아무리 간단한 회사라도 복잡합니다. 재고가 떨어지고 사람들이 불평하고 하면 그 모든 것들이 복잡하게 얽혀 있고 그다음에 그 사이에 사람의 반응 같은 게 들어 있기 때문에 복잡하거든요. 그래서 결국은 사람을 뽑아서 하는 게 항상 편했어요.

1:10:31 그런데 제가 지금 회사 안에 RL environment들을 만들고 있거든요, 그 모든 function들에. 그리고 사람들이 하는 것들이 그 environment 안에 쌓이도록 해보고 있는데, 그 environment를 만드는 것 자체가 가치 창출이구나 하는 생각을 요새 하고 있습니다.

1:10:46 최승준 그런데 재미있게도 Dwarkesh가 팟캐스트에서 딱 그 얘기를 했어요, 이번 편에. 지금 이 방향으로 RL environment를 만드는 실험을 agent가 폭발적으로 할 수 있게 될 것 같다는 거예요. Hill climbing이 계속 올라간다.

1:11:08 노정석 AI가 할 수 있는 직업들에 대해서 다들 상이 좀 다르게 잡혀 있는데, 다 된다. 거의 대부분의 지식 노동이나 이런 것들은 다 그 안에 들어갈 거라서 사회에 미치는 영향이 어마어마할 거거든요. 그러면 똑똑한 사람들에게 어떤 새로운 직업을 우리는 줘야 되나라는 고민을 지금 해야 될 것 같아요.

1:11:25 최승준 하지만 한 치 앞도 모른다.

로봇 꽃집과 현실 공간의 RL 데이터셋 1:11:27

1:11:30 노정석 종현님이 예전에 저한테 말씀하셨던 것 중에 종현님이 꽃집을 하시겠다는 얘기를 하셨던 적이 있거든요.

1:11:33 최승준 그래요?

1:11:33 박종현 로봇으로 꽃집 하려고.

1:11:35 노정석 그런데 그것도 RL environment로 만들어 가서, 저는 대한민국의 모든 physical space가 전부 RL environment가 될 수 있잖아요. 그 dataset을 인간은 빨리 AI에게 학습시키고 그 dataset 다 사주고.

1:11:59 그러한 것들이 새로운 직업이 돼서 “로봇아, AI야, 너 이거 못하지?”라고 하면서 인간은 끊임없이 인간스러운 새로운 것들을 개척하는 것으로 가야 되지 않나.

1:12:05 Dataset generation, 지금 AfterQuery나 Mercor나 이런 회사들이 독점하고 있는 그 영역들에 우리 일반인들도 다 들어가야 되는 거 아닌가라는 생각이 조금 들고 있습니다.

Anthropic IPO와 Jensen Huang 복귀 여부, 다음 주 관전 포인트 1:12:17

1:12:19 최승준 그렇겠네요. 다음 주 한번 보시죠. 19일에 Anthropic이 IPO 잘하나. 어떻게 되나. Jensen은 어떻게 되나.

1:12:31 노정석 Jensen이 다시 복권되면, 다시 복귀하면 저는 이번 주 안에 그게 일어나야 될 일이라고 생각하거든요. 그래서 다음 주에 Jensen이 여전히 CEO직을 내려놓은 상태인가, 아니면 다시 돌아오나도 큰 관전 포인트일 것 같습니다.

1:12:43 박종현 다음 주에는 이번 주에 이어서 벌어질 이벤트가 너무 많은 것 같아요.

1:12:45 최승준 OpenAI도 가위바위보 해야죠.

1:12:49 노정석 저희가 항상 녹화하기 하루 이틀 전에 내용을 확정하잖아요. 그때까지 알 수 없는 일들이 너무 많이 일어나니까.

1:12:57 최승준 솔직해지면 그날 아침까지죠.

1:13:00 노정석 그게 정답이네요. 다음 주에 할 일이 또 있을 겁니다. 그러면 좋은 내용 감사드리고요. 다음 한 주도 탐구하시죠.

1:13:08 최승준 예, 수고하셨습니다.

1:13:09 노정석 네, 감사합니다.

1:13:10 박종현 고맙습니다.