EP 120
가치는 어디로 가는가: AI 시장 조정, CoreWeave 위기와 operation loop
반도체 급락과 과도한 비관론 속 AI 시장 조정 00:00
노정석 녹화를 하는 오늘은 2026년 10월 24일 토요일 아침입니다. 지난 2주 동안 시장이 굉장히 출렁거렸죠. 새로운 모델이 적시적소에 나오는 건 너무 당연한 일이 돼버렸고요. 그리고 주식시장이 출렁인 게 아마 사람들한테 제일 충격이었을 것 같아요. 내년, 내후년도 굉장히 큰돈을 벌 거라고 예상되는 주요 반도체 회사들, 그중에서도 특히 한국의 메모리 반도체 회사들 주가가 엄청나게 출렁여서 고점 대비 거의 40% 넘게 빠진 장세가 있어서 그것에 더해 사람들이 이거 거품 아니냐, 그리고 a16z나 이런 데서 각종 통계를 들고나오면서 다양한 신호를 시장에 쏟아내고 있는데 이걸 어떻게 해석할지에 대해서 다들 시각이 분분한 것 같아요. 저의 개인적인 시각으로는 이건 좀 과하다. 아직 build-out 시기가 끝난 건 아닌데 이 build-out이 너무 과투자돼 있고 수요가 부풀려져 있고 중복돼 있고 실수요가 안 따라온다는 느낌 때문에 이거 불안하다는 심리가 지배하는 것 같고요.
노정석 또 한 가지로 금융을 하시는 분들은 그런 숫자들을 다 보고 계실 텐데 저희 주변의 모든 사람을 봐도 전부 주식 창을 보고 있잖아요. 하이닉스, 삼성전자, 미국 주식까지 다 띄워놓기 때문에 들어올 수 있는 자본은 이미 시장에 다 들어온 상태여서 더 이상 뒤에서 받쳐줄 수요가 없는 상태에서 에너지가 살짝 고갈된 상태거든요. 그럼 이런 때에 비관론까지 겹치면 공매도를 하는 세력한테는 너무나도 좋은 시기이기 때문에, 아니나 다를까 가장 중심에 있는 CoreWeave나 Nebius 같은 데를 보면 공매도 잔고가 정말 어마어마하더라고요.
모든 layer가 동시에 바뀌는 AI 대전환 02:00
노정석 지금 모두의 질문이 이런 것 같아요. 저 스스로도 지난번 녹화 때도 그렇고, 세상이 너무 빠른 속도로 바뀌고 있는데 이걸 하루하루 따라가면서 일희일비하는 것도 다들 지치고, 한 발짝 물러서서 세상이 도대체 어디로 가는가, 이런 것들을 탐구해 보는 시기인 것 같아요. 그런데 역사적으로 봐도 지난번에 저희가 철도 붐, 통신 붐, 그다음에 인터넷, 모바일 이런 얘기를 다 했지만 그런 것과는 비교도 안 되게 빠른 속도로 일어나고 있다는 게 하나고, 또 두 번째로는 어느 한 layer만 동작하는 게 아니라 예를 들어 핵심 computing 인프라예요, 핵심 통신 인프라예요라고 하는 하나의 단위 인프라가 아니라 비유가 적절할지는 모르겠는데 assembler부터 Python level까지 아래위를 끊임없이 왔다 갔다 하는 layer 전체가 다 바뀌고 있는 변혁이거든요. 예전 같으면 뭐가 차곡차곡 쌓여서 지금 우리가 익숙한 application 위에 새로운 layer가 쌓인다든지, 이런 거 하나만 와야 되는데 그 사이가 통째로 다 바뀌고 있잖아요.
노정석 그런 것들이 다 쌓이다 보니까 해석들이 정말 제각각이에요. 금융 하시는 분, AI 하시는 분, 여기에 지식이 없으신 분, 모두가 이 장에 참여해서 유튜브가 됐건 트위터가 됐건 의견을 내놓으면서 서로 교환이 일어나고 있는 장세라서 지금은 관점들이 서로 싸우고 있는 시기라서 저도 절대적으로 이게 이거다, 저게 저거다라는 말씀을 드리기는 어려울 것 같아요. 그런데 느낌상 지금은 build-out 국면이 아직 끝난 건 아니고 앞으로 수요가 조금은 더, 어쩌면 한참은 더 지속될 것 같은데 비관론이 너무 빨리 왔다는 생각이 하나 있고, 두 번째로는 이건 금융의 cycle상 더 이상 들어올 사람이 없어서 공매도가 지배하고 한 번은 조금 조정되는 그런 장세인데, 그래도 아직 upside가 많이 남아 있지 않나, 이런 생각을 개인적으로 하고 있습니다.
대항해시대 비유와 video modality 이후의 수요 04:16
박종현 네, 저도 비슷하게 생각합니다. 저는 금융에 대해서는 잘 모르지만 결국 수렴할 곳은 진짜로 수요가 많이 늘어나고 계속 많이 쓰일 것이냐, 앞으로도 사람들이 AI를 계속 더 많이 쓰고 그렇게 될 것이냐, 여기에 수렴하게 될 텐데요. 아무리 흔들리더라도요. 주변에서 보고 있다 보면 GPU 회사들이나 이런 데는 아직도 수요가 너무 많다는 얘기를 많이 듣는 것 같아요.
노정석 네, 맞아요. 그래서 수요가 이제 거의 들어올 사람은 다 들어온 거 아닙니까? 그런데 결론부터 얘기하고 나면 해야 될 게 너무 많아요. 이게 그냥 하나 만들어서 그만큼 매출이 생기는 게 아니라 대항해시대거든요. 배를 타고 위험한 항해를 견디고 그걸 견디면 신대륙을 발견해서 그 신대륙을 통째로 먹을 수도 있는, 예를 들어 신약을 개발해서 특허를 낼 수도 있고 신물질을 개발할 수도 있고, 노화를 해결해 버릴 수도 있고요. 수학이나 이런 문제가 풀리는 걸 보면 지금 사람들이 그 규모에 둔감해져서 그렇지, 말도 안 되는 거거든요. 그야말로 특이점의 관점인데 인류 전체가 모여서 굉장히 긴 시간을 투자해야 되는 그런 것들이 한 번에 일어나고 있잖아요.
노정석 그 exponential한 규모에 아직 저희 눈이 적응을 못 했다는 생각이 들어요. 그래서 신대륙을 하나하나 발견하면 생기는 outcome이 너무 크기 때문에 venture capital 자금을 가지고 돈을 쏟아부을 만한 동기는 아직 한참 더 남아 있는 상황이고요. 물론 전통적인 소프트웨어 관점에서 B2B, B2C 소프트웨어 application 관점에서만 바라보면 이건 수요가 너무 안 따라오고 아직까지는 가치가 검증되지 않았다는 이야기를 충분히 할 수는 있을 것 같아요. 여기에서 조금 더 가서 신정규한테 제가 이런 비관적인 관점을 제시하면서 어떻게 생각하냐고 물어보면, 다른 얘기 다 빼고 아직 video가 오지 않았잖아요라는 얘기로 끝을 내거든요.
노정석 지금은 text가 들어가고 text가 나오고 image modality가 들어가고 PowerPoint 몇 개, 이 정도 이미지가 나오는 세상인데 예를 들어 video modality가 들어가고 video modality가 output으로 나온다면 어마어마해지겠죠. 인터넷 초창기에는 인터넷 bandwidth가 더 필요 없다고 그랬는데 그 남는 bandwidth를 가지고 Netflix가 생기고 YouTube가 생겼고, 지금 전체 YouTube 트래픽의 거의 90% 이상이 video거든요. 얘기인즉슨 모델도 그렇게 될 개연성은 충분히 있는 거죠. 저희의 상상력이 부족한 거지, 일어날 일들은 아직 한참 더 남아 있다는 생각이 듭니다.
노정석 제가 지난번에도 한 번, 2주 전 에피소드가 되겠네요. 도대체 이걸 어떻게 해석해야 되냐고 하면서 한 40~50분 정도 이야기를 했었잖아요. 그래서 domain gap과 time gap으로 나눠서 봐야 된다, 이런 얘기들을 했었는데 오늘은 그 이야기의 심화판이에요. 저 스스로도 도대체 숫자들이 어떻게 돌아가고 있는지, 그다음에 회사들의 구조가 어떻게 돼 있는지, 이런 것들에 대한 조사가 필요해서 Claude와 ChatGPT, 그다음 bot들을 수도 없이 돌려서 이런저런 조사를 하고 필요한 자료만 뽑아서 Fable과 함께 에세이도 써보고 이런 것들을 해봤거든요. 그 이야기를 한번 해보도록 합시다.
Domain gap과 time gap으로 보는 오르지 않는 모델 가격 07:21
노정석 원래 작년 말, 올해 초만 하더라도 모델이 좋아지는 만큼 모델 가격을 굉장히 올릴 거다. 3천 달러 요금제, 만 달러 요금제가 나올 거다. 왜? 만 달러를 써도 그 이상의 가치를 뽑아낼 수 있을 정도로 frontier model의 성능은 어마어마하거든. 이런 thesis가 있었잖아요. 그런데 그러진 않아요. GPU 가격은 계속 오르고 있는데 token당 가격은 계속 떨어지고 있고요. 오늘 아침에 Kimi K3.1이 나왔고 이번 주에 DeepSeek V4.1 Flash가 나왔는데 타임라인에 도는 소문으로는 얘들은 써도 써도 token이 줄지를 않는다는 얘기를 하거든요. 그만큼 효율이 높다는 이야기인데 단위 능력당 token 가격은 계속 떨어지고 있거든요.
Value chain과 희소성으로 보는 margin 구조 08:47
노정석 젠슨의 그림을 보면 맨 아래는 에너지가 있고 그 위에는 compute가 있고 그 위에 AI factory가 있고 그 위에 모델과 application이 있고요. 젠슨도 그림을 그릴 땐 application을 가장 두껍게 그리거든요. 그리고 compute layer는 Nvidia 하나만 그려놔요. 그러면 이게 항상 역사가 가르쳐주는 거지만, 예를 들어 우리가 자동차를 사거나 아니면 화장품을 사거나 어떤 재화를 사면 그 재화가 원료에서부터 소비자 손에 들어오기까지 수많은 supply chain을 하나씩 거쳐 오잖아요.
노정석 그렇죠? 그러면서 개별 사업자가 각각 margin을 떼는데 그 margin율은 그 value chain에서 얼마나 희소하냐에 달린 거죠. 거기에 공급자가 많다면 경쟁이 생겨서 가격은 떨어지고, 경쟁이 많아지면 저희는 그걸 commodity라고 부르고요. 희소한 자원의 특성을 scarcity라고 부르는 거죠. 희소성이라고 부르는 건데, 항상 희소한 자원이 돈을 많이 벌거든요. 예를 들어 제약 사업이라고 하면 앞에 있는 제약 회사가 제일 돈을 많이 벌고 뒤에서 유통하는 사람들은 제약사보다 적게 벌고요.
노정석 그런데 화장품이나 문구류라든지 아니면 우리가 쿠팡에서 사는 멀티탭이라든지 이런 것들은 어마어마하게 많은 사람들이 만드니까 고객 앞에서 물건을 보여주는 사람, 소비자의 시선을 점유한 쿠팡이나 검색 엔진 같은 사업자가 돈을 제일 많이 벌고 인플루언서도 많이 벌고, 이런 식으로 가거든요. 그래서 value chain상에서 가치는 어디로 가는가라고 질문해 보면 답은 언제나 정해져 있어요. 희소한 곳으로 가요. Value capture는 희소한 곳으로 갑니다.
노정석 그런데 그 희소함이 우리 용어로 치면 IP고, moat고, 경쟁력이고, 전략적 우위이고, 여러 가지로 표현할 수 있을 텐데 그건 새지 않아야 되거든요. 그러니까 moat가 있다는 표현하고 똑같은 건데, leak이 없다는 게 moat가 있다는 것과 똑같은 말이겠죠. 그래서 제가 leak하지 않는 scarcity로 간다고 한 거죠. 그러면 우리가 이 산업을 바라보는 렌즈가 하나 생기는 거거든요. 맨 아래 전력부터요. 지금 재밌는 것도 전력과 냉각, 전기와 냉각, 여기서부터 저 위의 application까지 이야기가 정말 모든 layer에서 다 일어나고 있잖아요.
노정석 그래서 그 안에서 이 렌즈를 끼고 보면 어디가 앞으로 어느 기간 동안 계속 돈이 될 거다, 어디는 commodity가 될 거다, 이런 것들을 바라볼 수 있는 거죠. 그 렌즈를 끼고 모델을 바라보면 frontier lab이 가격을 못 올리는 이유는 뭘까요?
Near Frontier Lab의 추격과 가격을 못 올리는 Frontier Lab 11:33
박종현 중국 모델들이 너무 잘 올라왔기 때문에 희소하지 않게 된 것이죠.
노정석 미국 안에서도 Muse 따라오지, Grok 따라오지, Google, 영원한 강자 Google. 그 안에만 해도 벌써 네다섯 개 있죠. Microsoft, Amazon도 언제든 그걸 해야겠다고 할 수 있는 잠재적인 시장 참여자죠. 그 안에도 벌써 대여섯 개 있고요. 중국도 대여섯 개를 넘어선 몇십 개 수준의 frontier lab이 있어요. 오늘 아침에 Kimi K3.1 벤치마크를 보니까 Opus 5.5의 Terminal-Bench 성적에 근접하더라고요. 그래서 저희가 frontier lab을 OpenAI나 Anthropic으로 부르고, 저 뒤에 있는 애들을 준 frontier lab이라고 해서 누구는 Quasi Frontier Lab이라고 부르고 누구는 Near Frontier Lab이라고 부르더라고요. 그런데 Near Frontier Lab과 Frontier Lab의 gap이 확 줄었더라고요.
박종현 심지어 요즘에는 제가 이런 것도 관찰하고 있어요. 저는 비디오 쪽을 많이 보고 있다 보니까 Canva라는 서비스에서도 자체 모델을 내놓기 시작했고요. HeyGen이라는 서비스도 거의 순위권 안에 드는 모델을 내놓기 시작했고요. DeepMind 팀에서도 새로운 엘로리안이라는 비주얼 모델을 잘 만드는 모델들이 나오기 시작했고요. 지금 이미 우리가 알고 있는 사업자들이 잘 따라오는 것뿐만 아니라 새로운 모델 사업자들도 NeoLab이라고 많이 부르더라고요. 그런 친구들도 다 뛰어들어서 모델이 점점 희소해지지 않는 방향으로 가고 있다, 이런 것들이 많이 느껴집니다.
Vertical 도메인 전략과 새지 않는 희소성 13:11
노정석 왜냐하면 그들도 다 본인들의 서비스가 존재의 위협을 느끼고 있는 거거든요. Frontier Lab들이 data를 사들이면서 그 layer, 그 domain이죠. 그 domain을 그냥 exploit해 버리면 자기 사업이 날아가 버리는 거니까. 어떻게든 Frontier Lab으로부터 자신들만의 vertical을 지키려는 노력이라고 봐요. 그걸 작은 규모로 하는 domain 단위가 있고, 전체 단위에서 하는 게 있고, 이런 것 같습니다. 오늘 이 내용들은 제가 공개해 놓을 거니까 가져가셔서 여러분들의 모델 context에 넣고 재료로 활용하시길 바랍니다. 내용이 꽤 많고 숫자들도 많기 때문에 제가 포인트마다 한 장 한 장 다 설명하지는 않고, story line을 유지하면서 제가 말하고 싶은 결론으로 갈 거거든요. 결국 leak하지 않는 scarcity는 어디로 가는가? 새지 않는 희소성은 어디로 가는가? 하나는 크게 보면 Frontier Lab으로 갈 거고요. 두 번째는 Frontier Lab이 못 가져가는 곳이 어디인가라는 질문을 해야 됩니다. Frontier Lab이 못 가져가는 곳은 방금 종현님이 NeoLab들이 하는 몇 개의 vertical domain을 말씀해 주셨지만, operation이 나의 소유권 안에 있는 서비스가 내 안에서 도는 그런 것들, Frontier Lab이 그 서비스에서 나오는 어떠한 signal을 가져가려면 굉장히 큰 희생을 치러야 하는 것들, 이런 것들이 결론이 될 것 같다는 말씀을 먼저 드리고 시작할게요.
인프라 과투자와 조정 이후 열리는 애플리케이션 시대 14:49
노정석 Andreessen Horowitz가 요새 data point를 굉장히 많이 내놔요. a16z 유튜브에 보면 data-heavy한 슬라이드나 대형 게스트들을 불러서 여러 가지 숫자를 넣고 있는데, 요새 밀고 있는 주제는 이거예요. 이렇다 저렇다 결론은 안 내지만, 모든 cycle에는 항상 infrastructure buildout period가 있었고 그 buildout이 어느 정도 끝나고 나면 그 위에 항상 큰 장이 섰다는 얘기를 하고 있는 거거든요. 그래서 저희가 이거는 2010년부터 한 2016년까지를 얘기하는 거니까 모바일과 cloud, 모바일 인터넷을 얘기하는 건데. 그렇죠? 처음에는 Qualcomm이나 Arm이나 혹은 그 뒤에는 device를 만드는 삼성이나 Apple 같은 것들이 왔지만, 그 위에서 수많은 소프트웨어 사업자들이 올라오면서 소위 B2B SaaS와 Airbnb부터 등등 해서 우리 맨날 얘기하는 모바일 인터넷의 승자들 있잖아요. 소프트웨어와 서비스의 세상이 쫙 꽃을 피웠다, 이런 이야기를 하고 있는 거죠.
노정석 AI도 비슷한 일이 일어날 거란 생각을 하고 있는데, 그게 어떤 형태로 일어날지에 대해서는 아직 감이 없어요. 그래서 Muse라든지 Grokbot이라든지 이런 것들로 애플리케이션 쪽을 탐색해 보고 있는 중이잖아요. 그래서 그걸 조금 더 단순화해서 계산해 보면 항상 이렇다. infrastructure buildout 시기에 쭉 올라오고, 미래의 기대를 좀 과장한 상태로 인프라 투자가 일어나기 때문에 지난 에피소드에서 말씀드렸던 것처럼 수요가 과장되긴 하거든요. 예를 들어 뉴욕과 시카고 사이에 철도 노선은 사실 한두 개만 있어도 되는데, 아니다, 여기 공업지대와 뉴욕 사이에 얼마나 많은 게 더 왔다 갔다 하겠냐고 하면서 과투자가 일어나고 노선이 세 개씩 생기고, 그 사이에 경쟁이 생기고 이러는 거거든요.
노정석 그래서 과투자가 일어나고 사람들이 아차 싶으면 조정이 한 번 일어나는데, 그 조정이 그냥 폭망을 의미하지는 않아요. 거기서 구조적으로 과투자된 것들의 주인이 바뀌든지, 투자자들이 한 번 망하고 다음 세대에 손바뀜이 된 투자자가 사면 이 사람은 손익 구조가 다르니까 훨씬 낮은 비용으로 운영할 수 있게 되니까, 그런 식으로 누군가의 시체를 즈려밟고 다음 구조가 생기는 거거든요. 그 위에 인프라 buildout 다음의 애플리케이션과 서비스의 시기가 화려하게 꽃을 피우는 거고, 그게 한참 가고 나면 새로운 패러다임이 오는 거죠.
박종현 그리고 아마 AI 시대에는 지금 저희가 저 인프라 buildout 시기에 있다, 이렇게 보는 견해가 많겠죠.
노정석 지금 여기쯤 있다고 보는 거겠죠. 인프라 buildout의 거의 끄트머리고요. 주가로만 치면 이게 막 떨어지고 있잖아요. 그리고 거기에 투자했던 굉장히 많은 사람들이 지금 손해 보고 있지 않습니까? 이 시기겠죠. 그러면 이게 완전히 다 손해를 볼 건지. 그런데 항상 과투자가 일어나면 투자자가 손해를 보는 건 국룰이에요. 투자자라든지 그 산업에 투자했던 채권자라든지 그 사람들이 손해를 좀 보는 건 국룰이고, 그 위에 애플리케이션을 세운 부가가치 사업자가 더 크게 가져가는 경우가 있고, 혹은 그런 편익이 그냥 다 확산돼서 사회 전체로 퍼져 버려 사회의 편익으로 돌아가는 경우도 있어요.
Anthropic 매출 급증과 지식 노동자 확산의 시차 18:31
노정석 그런데 아마 이것 때문에 시장이 조금 놀란 것 같아요. Anthropic이 2025년 전체 매출보다 2026년 1분기에 더 큰 매출을 냈거든요. 2026년 1분기 매출이 2025년 전체 매출보다 컸어요. 그 중심엔 당연히 Claude Code가 있었던 거고요. 작년 연말부터 올해를 좀 반추해 보면, 전 세계 coder와 유사 coder는 다 들어왔다고 봐도 무방할 정도로 다 들어왔을 거예요. 제 주변에서 코딩하면서 Visual Studio Code 띄우고 있는 사람 없거든요. 그거 띄우고 있으면 지금 바보 취급받죠. 그럼 그 사람들 다 들어왔다.
노정석 그런데 Andreessen Horowitz에서 하는 얘기가, 전 세계의 coder가 약 3천만 명 정도 된대요. 3천만 명이 다 들어왔다. 그다음에 그 3천만 명이 들어와서 만든 숫자가 지금의 Anthropic 매출 숫자다. Anthropic만 성장했나요? OpenAI랑 다른 코딩 시장도 엄청나게 성장했죠. Devin도 엄청나게 성장했고요. 그런데 뒤에 사람들이 잘 안 들어오네.
박종현 그렇죠. 개발자가 아닌 사람들도 똑같이 들어와야 되는데.
노정석 coder가 아닌 지식 노동자들의 숫자가 Andreessen Horowitz에 따르면 1.5B, 15억 명 정도 된다 그래요. 3천만 명과 15억 명, 차이가 크죠. 이제 3천만 명 들어왔는데 이 정도라면 15억 명이 들어오기 시작하면 이 시장의 TAM은 얼마나 커질 것이냐는 게 지금까지의 가정이었는데, 어? 얘들 생각보다 안 들어오네. 시차가 좀 있네라는 게 지금 시장이 색안경을 끼고 바라보고 있는 그런 상황이에요. 그래서 Q3 매출이 걔들이 계속 들어왔으면 Q2보다 더 늘었고, 성장률이 더 유지됐어야 됐는데 성장률이 꺾였단 말이에요. Q4 매출의 성장률이 많은 걸 의미하게 될 거예요, 아마도.
꺾인 성장률과 Anthropic valuation에 걸린 기대 20:10
노정석 그래서 Anthropic이 Q4에 상장을 강행하고 있는지도 모르는데, 우리도 주변의 바로미터가 있잖아요. coder들은 다 들어왔는데 coder가 아닌 기업들은 아직 이걸 어떻게 잘 써야 하는지에 대한 관점조차 형성되지 않은 시기여서, 그들이 진짜 이 투자 cycle에 들어오는 데는 살짝 시차가 있을 수 있겠다는 생각은 하고 있어요. 그래서 한 번은 조금 평지를 지나는 구간이 있지 않을까란 생각이 들어요.
박종현 그런데 저는 이 숫자를 보고, Q2와 Q3 사이가 45% 성장인데 이것도 엄청 큰 거잖아요. 그런데 이걸 보고 기대가 꺾였다는 게 얼마나 기대가 컸었나, 이런 생각이 들기도 합니다.
노정석 네, 그 기대가 그만큼 크니까 Anthropic의 valuation이 2T로 잡히고 이런 거거든요. 이 회사 생긴 지 5년밖에 안 됐거든요. 그런데 Apple과 Google과 시가총액을 비교해 보십시오. 5년밖에 안 된 스타트업이 이 정도 가치를 인정받을 수 있다는 거. 매출 규모로 보면 Meta나 Google 대비 형편없이 작아요, 솔직히. 그런데 그 valuation을 인정받는다는 건 그만큼 시장은 이 부문이 훨씬 더 커질 거라고 예측하고 있는데, 그 예측이 깨지면 그 valuation이 정당화되기 어려운 거죠. 그래서 이건 지켜보면 된다. 여기에서 용기 있는 자, 베팅하는 자와 risk를 관리하는 자 중 누가 이길지는 아무도 모르는 거죠. 각자 입을 닫고 조용히 베팅을 하면 되는 거죠.
CoreWeave의 데이터센터 금융 구조 22:02
노정석 또 그 사이에 있었던 게, CoreWeave가 이 사건의 한 중심인데 회사 구조가 복잡해요. CoreWeave CEO가 어디 나와서 설명하는 걸 한번 들은 적이 있는데, 하나의 박스를 만들고 박스에 데이터센터 15년 계약을 부어 넣고, 그다음에 장비를 사다가 부어 넣고, 고객 contract를 부어 넣어요. Contract는 3년. 그다음에 그걸 뒷받침하기 위해서 부채를 조달해요. 채권을 발행하는데 그 채권은 5년물로 조달해서 그 박스 하나에 가두거든요. 그리고 그 박스는 보통 hyperscaler들이 사 가요. Anthropic이나 OpenAI나, 세 회사가 전체 계약량의 한 70% 가까이 된다고 그랬는데, 걔들이 사 가고, 심지어 어떤 채권은 사 가는 사람이 뒷받침을 해줘요. Anthropic 같은 데는 반드시 산다고 보증하는 거죠. 그런 식으로 그 박스의 위험을 낮춰서 조달 금리를 낮추거든요. 그런데 그렇게 금리를 낮춘 다음에 들어가는 비용과 금융 비용을 상계하고 나면 남는 게 CoreWeave의 이익인 거죠. 그래서 그런 이익과 위험이 상위에 있는 CoreWeave 본체에 쌓이는 구조로 사업이 짜여 있거든요. 그래서 CoreWeave 본체 하나가 IDC 전체를 운영하는 게 아니라, 아래에 별도의 자회사처럼 완전히 분리된 다른 사업들로 그 계약들을 유지하는 구조로 돼 있는데, 지금 보고 있는 이 숫자는 CoreWeave 본체거든요.
노정석 저희가 채권 얘기할 때는 매출로 뒷받침되지 않는 무담보채, 후순위채라고 얘기하는 건데, 이걸 처음에 9.75%로 발행했는데 2031년 만기 5년짜리가 올해 초에 발행한 거겠죠. 그러면 그때 국채 금리가 한 4점 몇 퍼센트 됐었고, spread를, 그러니까 이자를 5% 더 얹어주겠다고 해서 발행한 거예요. 굉장히 높은 이율이긴 하죠. 그런데 지난주, 그다음에 이번 주 거의 15.78%? 이거보다 더 높았던 적도 있고요. 그다음에 CDS라고, credit default swap이라고 저 채권이 부도날 수도 있잖아요. 그래서 저 채권을 산 사람은 부도날 수도 있으니까 CDS라는 걸 더 사요. 일종의 보험이거든요. 보험료를 지불하면 행여 저 채권이 부도나더라도 CDS를 판 사람이 그걸 보증해 주는 구조로 돼 있는데 이 두 숫자가 일단 말이 안 돼요. 15.78%로 만기 수익률이 책정돼 있다는 거는 지금 100원짜리 채권을 약 80원에 살 수 있단 얘기거든요. 그럼 80원에 채권을 사서 걔를 100원이라고 치고 앞으로 9.75% 이자를 받는 거예요. 그러면 내가 이미 20원을 싸게 샀으니까 그 차익도 원금으로 돌려받고 이렇게 해서 수익률이 15.78%로 맞춰진다는 거거든요.
채권 금리와 CDS spread가 말하는 위험 24:01
노정석 근데 그건 오케이인데, 걔의 위험을 상계하기 위해서 CDS를 사려고 하면 저게 1,100bp니까 11%인 거죠. 매년 100원에 11%. 그러니까 11원씩을 보험료로 내야 “너 이거 채권 보증해 줄게”라고 하는 거죠. 그러면 저 CDS랑 저 채권, 두 개를 결합해서 무위험 상품으로 들고 있게 되는 건데 저 CDS 보험료가 엄청 치솟았단 얘기는 이 사업을 어마어마하게 위험하게 보고 있는 거죠.
박종현 가장 간단하게 제가 이해한 대로 설명해 보자면 CoreWeave는 돈을 빌려서 GPU 공장을 짓고 그걸로 돈을 벌어서 사업을 하는데 이 GPU가 안 팔리면 CoreWeave가 망하는 거잖아요. 지금 망할 것 같다고 사람들이 생각하니까 저 이율이 올라가고 보험료가 치솟는다, 이렇게 이해했습니다.
수요가 아니라 금융 환경이 흔드는 인프라 사업 25:52
노정석 네, 맞아요. 근데 중요한 포인트는 demand는 여전히 견실하다고 다 보고 있어요. 근데 그 수요를 맞추기 위한 금융 환경이 지금 금리가, 물론 이번 주는 좀 떨어졌는데 지난주는 5%대까지 갔었거든요. 그래서 이게 왜 그렇게 되는지는 아무도 몰라요. 그냥 그때그때 시장의 sentiment에 따라서 어떤 땐 오르고 어떤 땐 내리는 거니까요. 근데 전반적으로는 금리가 상승하는 국면이어서 많은 인프라 투자기의 사업들도 이런 식으로 arbitrage를 만드는 상품으로 반드시 진행해야 하는 사업에 금융 기법을 도입해서 큰 규모의 인프라 사업에 끼어드는 일이 굉장히 비일비재하거든요. 근데 그 사업을 망치는 거는 수요라기보다는 금융 환경이 가장 커요. 갑자기 금리가 높아진다든지, 금리가 높아져서 마이너스가 나는 거고. 혹은 다음 채권을 발행해서 앞의 걸 메꿔야 되는데 채권 발행이 막히거나 그럴 때 보통 default가 나거든요.
노정석 그럼 default가 나면, 여기서 중요한 포인트인데 예전에 철도 붐 때도 그랬고 산업이 멈추는 건 아니에요. 그냥 그 산업의 주인이 구조조정의 형태로 바뀌는 거죠. 예를 들어 CoreWeave도 많은 사람들이 국채 10년물이 6%가 넘어가면 CoreWeave 사업이 무너진다고 얘기하고 있거든요. 왜냐하면 얘들은 금리가 4%이던 저금리 시기에 이 사업이 설계돼 있기 때문에 그런 얘기들이 있습니다.
노정석 근데 저도 그 숫자를 막 Excel로 계산하면서 명확하게 CoreWeave가 망하냐 안 망하냐를 보고 있진 않아요. 때가 되면 SemiAnalysis나 아니면 다른 분석 기관에서 빛의 속도로 내놓을 겁니다. 이건 이렇다 저렇다. 금융 회사들이 제일 많이 내놓을 거고요. 금융 회사들이 이런 것들을 가져와서 자기네들끼리 돌리면서 시장의 sentiment를 만들어서 꼬리가 몸통을 흔드는 경우도 굉장히 허다하거든요. 저는 이번에도 거품이 터지는 과정이라기보다는 그냥 재채기, hiccup 정도로 보고 있어요. 아마 가격들이 다 회복하지 않을까 생각하고 있습니다.
박종현 틈을 노려서 누가 눈독 들이고 있겠네요. 저걸 사고 싶어서.
노정석 망해야 사죠. 근데 아직은 안 망했죠. 다 망하는 데 시간이 좀 걸릴 거예요. 근데 그거는 아무도 모를 일이고요. 승준님이 얘기하셨지만 Terence Tao 얼굴이 좀 초췌해졌다. DeepSeek, Kimi 같은 Near Frontier Lab, Quasi Frontier Lab들이 막 달려오고 있고요. 그사이에 또 소소한 소식이 있다면 Tesla Roadster는 날았고요. 그래서 demand는 진짜고 이자율은 올랐는데 가장 약한 고리의 CDS spread가 치솟았다. 그래서 왜 이럴까를 생각해 볼 수 있는 거죠. 이건 이번 주 건데, 이번 주는 지난주보다 더 나빠졌거든요. 좋아진 점은 국채 금리가 좀 떨어졌고요. 그다음에 CoreWeave는 1,195bp로 정점을 찍고 여전히 1,115bp니까 굉장히 높아요. 그다음에 주가는 거의 52주 최저가일 거예요. 가장 낮은 수준까지 내려갔죠. 근데 이것도 재밌는 게 공매도 수요가 제일 크더라고요. 그래서 Nebius랑 CoreWeave에 지금 어마어마한 공매도가 걸려 있습니다. 그래서 전체 유통 가능 주식 중에서 23.7% 가까이가, 거의 30%가 공매도 포지션이니까요. 이건 떨어지는 칼이고 받아주는 수요가 없으니까 쭉쭉 떨어졌겠고요.
공매도와 시장 심리가 만든 CoreWeave 하락 28:25
노정석 지금 공매도했던 계좌들의 평가이익이 약 6B달러 정도 된다고 하니까요. 진짜 fundamentals가 나빠져서 그런 건 아닐 가능성이 있는 거죠. 그리고 월가에 있는 사람들도 관점이 다양해요. Citadel의 Ken Griffin은 거품이라고 확실하게 얘기하고 있고, 아니라고 얘기하는 데도 있고, Goldman Sachs 같은 경우에는 굉장히 공격적인 long이다, 이렇게 얘기하고요. 지금 관점이 다 달라요. 누군가는 맞히겠죠. 오른다, 내린다 둘 중 하나니까요. 그래서 이 얘기는 좀 넘어가겠습니다.
노정석 그다음에 Anthropic의 S-1 filing 숫자들도 좀 나왔었고요. Kimi K3.1 숫자가 굉장히 좋다는 얘기가 나왔었고요. 그래서 제가 생각 실험을 하나 돌려봤는데, 아까 얘기했던 결론, operation을 소유하고 operation loop가 있는 곳으로 가는 거, 거기 말곤 답이 없다는 이야기를 조금 해보려고 해요. 그래서 우리는 어디에 투자하고 어떤 사업을 해야 하는가라는 게 항상 제일 중요한 질문이잖아요. 그래서 저도 솔직히 지난 한 달 동안 유럽 출장 다녀와서 한 달 동안은 나무를 패기보다 숲으로 올라가서 도대체 어디로 가야 하는가, 이런 생각들을 하는 데 시간을 써서 선문답쟁이가 돼버렸는데요. 저는 telecom bubble보다는 railroad boom에서 있었던 일의 cycle이 유사하게 반복되고 있는 거 아닌가라는 생각은 조금 하고 있고요.
Operation loop를 소유한 사업과 Lab 간 time gap 30:30
노정석 Time gap과 domain gap이 있고요. Time gap은 계속 줄어들고 있거든요. 뒤에 있는 Frontier Lab과 Near Frontier Lab의 격차가 줄어들고 있는 건 확실하고요. 근데 우리 같은 lab이 아닌 입장에서는 Frontier Lab의 능력을 뒤에 오는 아직 모르는 사람들한테 파는 time gap은 여전히 크게 남아 있다고 생각합니다. Domain gap은 요새 모델이 다 하고 있잖아요. Opus 5.5가 비디오 편집을 잘한다고 하면 Kimi도 비디오 편집을 잘하고 다른 모델도 비디오 편집을 잘하고요. 그건 왜 그렇게 될까 생각해 보면 누군가 그걸 training하는 RL dataset을 Anthropic에 먼저 팔았다가 가져가서 다시 뒤의 사업자에게 팔고요. 새로운 모델이 나올 때 “이번 모델은 이걸 정말 잘해요”라고 하는 게 새 차 발표할 때 그런 거 있잖아요. “이번에는 엉따 기능이 있어요. 이번에는 cruise control이 들어갔어요. 이번 에어컨은 자동 에어컨이에요”라고 하는 feature가 하나하나 추가되고, 그 feature 하나 가지고 막 선전하잖아요. 그런 것처럼 모델 안에 domain이 feature로 박히면서 그게 마케팅 재료가 되고 있는 것 같고요. 그래서 아시다시피 reward signal이 digital에서 강하게 나오는 것들, coding이나 수학 이런 것들부터 뒤에는 reward signal이 digital에서 나오기 어려운 쪽으로 쭉 가는 거죠.
박종현 네, 저도 똑같이 느끼는 게 Frontier Lab들이 어쨌든 domain을 하나씩 하나씩 정복해 나가고 있다고 생각하는데요. 그래서 그걸 미리 알 수 있으면 더 좋잖아요. 뭘 봐야 되냐 하면, 데이터를 판매하는 사업자들이 어떤 데이터를 지금 모아서 어디다 판매하고 있는가, 이런 걸 보면 “다음 domain은 저기겠구나” 이런 것들을 조금 알 수 있었던 것 같아요.
모델이 commodity가 될 때 이동하는 가치 33:12
노정석 네, 맞아요. 그래서 저희가 그런 이야기들을 많이 듣죠. 데이터를 판매하는 사업자들이 어떤 package들을 들고 소위 Near Frontier Lab한테 가져가는지를 대략은 알거든요. 그래서 지금 당장 scarcity가 가는 곳은 딱 두 군데 정도 있는 것 같아요. 하나는 Physical bottleneck. 모델의 값이 commodity가 되면 거기서 capture하던 value는 어디론가 이동한다는 얘기거든요. 아래로 가면 인프라 사업자가 먹는 거고요. 근데 인프라 사업자는 항상 수익을 제일 많이 먹어봐야 10%? 물론 AWS는 35% margin이긴 한데, 낮은 margin을 유지해요. 아니면 위로 가죠. 위로 가서 위에 있는 사업자들이 더 높은 value capture를 하는 경우가 제일 많아요.
노정석 왜냐하면 돈을 내는 사람 가까이 갈수록 value capture가 높아지는 건 주지의 사실이어서요. 근데 그 위에까지 쭉 commodity가 되면 어떻게 되냐? 이거는 어느 누구도 value capture를 못 하고 산업 전체가 commodity가 되면서 그 편익은 그냥 소비자한테 낮은 가격으로 다 가버려요. 그런 식으로 거기서 끝나요.
박종현 전 세계 모든 사람들의 삶이 편해지고요.
노정석 그렇죠, 그렇죠. 근데 그런 산업이 어마어마하게 많죠. 철도도 그랬고 전기도 그렇고 가격이 계속 내려가지 않습니까? 쿠팡과 Amazon 덕분에 저희가 비싸게 사던 것들을 최저가로 사는 경우가 많아지니까요. Frontier Lab 얘기를 제가 짧게는 해야 될 것 같은데요. Frontier Lab인 Anthropic과 OpenAI는 지금 장세에서 이 두 회사가 action을 하면 세상이 reaction하는 장세거든요. 그래서 얘네가 뭘 하냐가 정말 중요해요. 얘네가 하면 그걸 가지고 시장이 형성돼요. 참 재밌는 거죠. 어쨌건 scaling law는 여전히 지배하고 있고 lab들이 얻는 성능 gain을 우리가 지금 보고 “와, singularity야. 수학 끝나는 거 봐. 다른 분야도 끝나는 거 봐”라고 하는 거는 아직은 RSI가 아니라고 보거든요.
Scaling law와 계속되는 compute 경쟁 35:07
노정석 왜냐하면 RSI가 된다고 하면 모델이 스스로 모델 개발을 해서 compute를 더 투입하기 때문에 생기는 gain 이상을 만들어주는 뭔가가 있어야 되거든요. 근데 아직은 그렇진 않은 것 같아요. 그냥 여전히 compute와 그다음에 DeepSeek이나 Kimi가 잘하는 모델의 efficiency, 알고리즘, KV 캐시라든지 이런 것들을 바꾸잖아요. 그런 것들로 얻은 gain의 조합인 것 같고요. 우리가 아는 화려한 성능은 대부분 compute를 더 투입한 거거든요.
노정석 요새 기준으로 1GW급으로 한 분기 pre-training하면 한 세대고요. 그 뒤로 그만큼 post-training을 시켜서 모델이 나오는 건데 post-training이 시간과 정신의 방에서 모든 문제를 다 풀고 나오는 거잖아요. 그렇게 해서 이게 오는 거라는 생각이 들고요. loss가 떨어지는데, compute를 100배 투입하면 줄일 수 있는 loss가 절반 정도예요. 왜냐하면 예전에 Chinchilla paper가 발표됐을 때 loss가 아무리 내려가도 더는 내려갈 수 없는 lower bound가 1.68이라고 얘기했던 게 있거든요. 그리고 지금은 그 위 어딘가에 있을 거예요. compute를 10배 투입할 때마다 줄일 수 있는 부분을 reducible loss라고 하는데 그중 약 30%씩을 줄일 수 있어요, 이론상. 저 loss 숫자는 lab들이 발표하지 않으니까 모르지만, 계속 내려가고 있겠죠. 그리고 내려가는 loss와 성능 gain의 관계는 우리는 모르죠. 근데 지금 체감하는 성능을 더 빠르게 높이려면 투입해야 하는 compute가 상당해요. compute를 두 배 투입하면 성능이 두 배가 간다, 이런 느낌은 아니거든요. compute를 10배 투입하면 성능이 두 배가 간다 이런 느낌인 거죠. 그렇기 때문에 이 경쟁이 지속되고 성능 경쟁이 지속되는 한, 투입돼야 하는 compute는 계속 늘어날 거라서요.
박종현 저도 비슷하게 느끼고 있습니다. 어쨌든 loss가 줄어든다고 일반인 입장에서 내가 푸는 task가 그만큼 갑자기 배로 늘어나고 이런 게 아니다 보니까요. 그리고 모델 출시 주기도 저희가 몇 년째 쭉 따라오다 보면 조금씩 빨라지는 느낌이 있지만, 그렇다고 갑자기 하늘을 뚫고 올라가서 모델이 확확 천지개벽을 하는 느낌은 아니라서 추세 그대로 가고 있다고 느껴지네요.
노정석 그런데 compute가 남아돌 일은 없을 거라는 얘기는 미리 해야 할 것 같아요. 계속 희소한 상태로 갈 겁니다. 왜냐하면 지능이 superintelligence가 돼서 우리를 그냥 강아지로 만들 때까지 이 경쟁은 아마 끝나지 않을 거예요. 과거의 어떤 build-out의 렌즈를 가지고 과거에 있었던 인터넷이나 모바일이나 혹은 철도 같은 렌즈를 가지고 지금 이걸 바라보는 게 기울기가 안 맞을 거예요. timeframe과 기울기가 지금 다 망가져 있기 때문에요. 지금은 새 렌즈를 끼워야 한다는 이야기를 제가 수도 없이 하는데요. 다시 얘기로 돌아와 볼게요. 제가 Frontier Lab을 바라보는 기준은 저 세 개거든요. compute, data, talent. 그런데 data랑 talent는 새는 자원이에요. talent는 이직해서 새고요. 샌프란시스코, 종현님도 갔다 와보셔서 아시겠지만 친구들이랑 밥 먹으면 새요. 다 알려줘요. 명확하게 뭘 알려주진 않지만 대략의 방향성이나 어느 산에 가면 뭐가 된다는 걸 알려줍니다. 그게 talent가 저런 식으로 퍼지는 거고요. data는 data 판매 회사가 이쪽에 판 걸 저쪽에 계속 파는 형태로 다 퍼져요. 저쪽에서 이거 사서 좋아지는 거 보셨죠? 이거 사셔야죠, 하면서 계속 팔아갑니다. 그래서 그 lab들 사이에서도 이런 time gap을 만들 수 있는 건 사실상 연구자를 누가 더 똑똑한 사람을 데리고 있느냐, 천재 한 명이 있느냐가 아니에요. Ilya Sutskever도 잘못 베팅한 거예요, 제가 볼 땐. 그게 이제 talent와 철학이 아니라 완전히 compute 경쟁으로 돌아서 있는 거여서요. 저기서 우위를 유지해야만 지금 쌓고 있는 모든 것들이 말이 되기 때문에 Anthropic과 OpenAI와 이 Frontier Lab들은 저 compute 무한 경쟁을 누군가 하나가 완전히 죽고 끝날 때까지는 멈출 수 없다는 생각을 하고 있고, 계속할 겁니다. 시장이 출렁거릴 뿐이지 저 lab들에 있는 사람들은 데이터센터가 새로 가동될 때마다 다 사러 오거든요. 가격 불문 사러 옵니다.
희소한 compute와 새어나가는 data, talent 38:30
노정석 1GW의 단위는 무엇인가. 요새는 GPU가 몇 개라는 얘기 안 하고 고기를 근으로 나눠서 팔듯이 전력으로 나눠서 팔지 않습니까? 대략 Blackwell GPU 기준으로 한 40만에서 50만 개 정도 수준. 금액으로 치면 500억에서 800억 달러 정도. 이것도 지난 2~3년 전 대비 메모리 값이 10배가 올랐으니까 칩값도 올랐고요. 이 build-out의 경쟁이 심해지다 보니까 지금 청바지와 곡괭이 장사들이 돈을 어마어마하게 많이 벌고 있는 거죠. 그럼 청바지와 곡괭이가 수요가 없으면 다 망해야 하는데 이번에는 수요가 전통적인 시장과 다를 수 있다.
노정석 그래서 수요가 다른 곳에서 끊임없이 생성될 수 있다는 게 저는 예전과 다른 점이라고 봅니다. telecom은 진짜 bandwidth를 누군가 써야 하는데 아까 종현님도 그 얘기 하셨었잖아요. 샌프란시스코에 있는 애들 다 자기 모델 만들고 있다. 그렇죠? 왜냐하면 그렇게 해서 자신들을 보호하고 새 사업을 만들어야 할 인센티브가 있기 때문에 미리 자본을 당겨서라도 compute를 투입해서 그 영역을 발굴하고 방어해야 할 인센티브가 지금 모든 회사에 다 있는 거거든요. 모든 스타트업에도 다 있는 거여서요. 지금 굳이 따지면 우리는 아직 인도와 아메리카를 발견하지 않은 항해술이 막 발견된 유럽이라고 생각해야 해요.
수요를 대체하는 AI에서 창조하는 AI로 41:20
박종현 저도 그 대항해시대 비유가 맞다고 생각하는 게 지금까지 이 회사들이 다 사람들이 어떤 일을 하고 있으면 그 일을 AI를 써서 대체하는 거잖아요. 그런데 사람들이 하고 있는 일을 다 효율화하고 나면 수요가 끝나잖아요. 저희가 그런 수준에 와 있다고 보이는데, coding 같은 경우의 예시를 보면 사람들이 coding을 많이 할 수 있게 되니까 개발자가 AI로 대체되고 끝이 아니고 전체 코드 생산량이 마구 늘어나서 인터넷에는 slop도 넘쳐나고, 모두가 다 그 위를 타깃하고 있는 것 같아요. 그게 신대륙을 발견한 것과 같은 것 같고, 다른 분야에서도 이런 일들이 벌어지게 된다면 있는 걸 대체하는 수준에서 수요가 끝나는 게 아니라 수요가 위로, 상방으로 배로 뚫고 올라가지 않을까 상상이 됩니다.
노정석 다들 배 준비하고 사방으로 가보고 있는 거죠. 누구는 재수 없어서 북극에 도달하는 거고 누구는 황금의 땅에 도달하는 거고, 누구는 중간에 죽고요. 지금 그런 일이 비일비재한데 누군가 하나가 가서 그걸 발견하면 그가 얻는 이익이 막대해지는 거죠. 제가 우습지만 이건 모두가 다 연예기획사가 되는 거라는 얘기를 했었잖아요. 이효리가 되면 얻게 되는 outcome이 워낙 크기 때문에 기댓값의 전부가 한 명의 스타에게 몰려 있지만 그 값이 너무 크기 때문에 그 뒤에 수만 명의 연습생이 있는 것과 마찬가지거든요. 그런데 연습생부터 이효리까지 똑같이 어마어마한 연습량을 투입하고 있는 거고, 그게 지금 compute로 보면 맞죠. 그러니까 이거 수요가 없는 거 아니야? 아니요. 수요는 창조되고 있는 중이라는 게 새로운 관점이죠.
Lab의 attention 순서와 buyable data로 자동화되는 ‘사’ 자 직업 43:16
노정석 data 얘기를 해보면, data는 이 domain이죠. 소위 말해서요. 이 data domain이 활용되는 순서는 정해져 있어요. 당연히 verifiable하고 digital이고 큰 것부터 lab들이 자기 모델의 기능으로 장착해 나가기 시작할 건데요. 이게 저는 lab의 attention이라는 표현을 하나 써봤거든요. 그 관심사가 어디로 가느냐가 저희한테도 중요해요. 왜냐하면 Frontier Lab이 domain을 털러 가면 저희는 그거 하면 안 되거든요. 그러니까 시장 크기 나누기 data를 사는 난이도가 attention의 크기일 거예요. 그러니까 난이도가 낮고 시장 크기가 큰 것부터 그들이 끝장내기 시작하겠죠.
노정석 그런데 그런 것들이 보면 우습지만 기존 인간들의 ‘사’ 자 직업들이 다 모여 있는 곳들이에요. 그리고 조금이라도 ‘사’ 자 붙어 있는 영역들이 이 순서일 겁니다. 저 위로 회계사, 변호사, 의사부터 시작해서 저 아래로 가면 보험설계사까지 있잖아요. 이런 직업들이 있는 영역들은 이제 lab이 data를 사면 그냥 끝난다. 그럼 그 data에 대해서 생각을 많이 해봐야겠죠. Buyable data와 buyable하지 않은 data가 있어요.
노정석 Buyable한 data는 dataset 회사들이 다 만들어서 lab에 팔아줄 거예요. 지금 보면 예를 들어서 회계사라는 직업을 해보죠. 그럼 회계사라는 직업도 굉장히 non-verifiable한 직업이거든요. 어떠한 상황이 됐을 때 그걸 판단하는 경우는 이럴 수도 있고 저럴 수도 있어서 수학이나 coding처럼 테스트 통과하면 오케이, 아니면 노라고 할 수 있는 그런 문제는 아니거든요. 이건 좋은 거야, 나쁜 거야라는 판단의 measurement가 서야 하는 건데 그건 회계사들 불러다 놓고 모든 경우의 연습 문제를 다 풀고 거기에 대한 label을 생산해 버리면 그 문제는 그때부터 verifiable해져요. coverage의 문제인 거죠.
노정석 그런데 지금 dataset 회사들이 하는 게 저 domain에 들어가서 전문가들을 시간당 얼마에 고용해서 그 coverage를 다 dataset으로 생성하는 거죠. 그 생성하는 것도 간단해요. 문제랑 답만 쓰면 되는 거니까요. 중간 과정은 저희 모델이 알아서 하고 틀린 건 버리고, 맞으면 그거에 보상되는 그런 구조로 돼 있죠. 이런 것들이 어마어마한 규모로 일어나면 모든 지식 산업은 끝난다는 가정이 현실이 되는 거죠. unbuyable data.
Unbuyable data와 Frontier Lab의 공격 경로 45:50
박종현 저 signal을 똑같이 많이 봤던 게 data를 판매하는 업체들에서 전문가를 고용하는 채용 공고, 이런 채용 공고가 엄청나게 많이 올라와 있었고 OpenAI 같은 경우에는 직접 고용을 많이 하고 있다고 그런 소문이 많이 돌았었죠.
노정석 lab들이 다 그래요. 여러 domain, 특히 physical AI도 그렇죠. 특정 task가 있으면 사람 머리에 이거 끼고 이거 하는 거 있지 않습니까? 그래서 그 dataset도 비싸게 팔리고 있고요. 그래서 결국 사람이 들어가서 어떤 digital 형태로 dataset을 쭉 생성하는 걸로 그 domain의 coverage를 만들 수 있는 건 Frontier Lab 모델의 어떤 feature로 다 들어가게 될 거다. 시간의 문제죠. 그러면 그게 절대 불가능한 곳이 어디냐. 그냥 다 자잘한 데예요, 자잘한 데. lab의 attention이 닿지 않는 규제가 존재한다든지 아니면 너무 작아서 오기가 힘들다든지 아니면 무언가 특허로 보호받고 있다든지요. 더 어려워진 거죠, 사실. lab의 공격 경로 셋. 데이터를 사 오는 거,
노정석 그다음 데이터를 사 오는 걸로 여의치 않으면 biology나 제약 같은 경우에는 그 기댓값이 너무 크잖아요. lab을 직접 만들어버리는 거죠. reward signal을 얻는 wet lab을 만들어서 샌프란시스코에 우리 신약 개발하는 lab 만들었어요. 그래서 자기네 모델이랑 합하는 거죠. 세 번째는 제 생각에는 좀 타당하지 않은 얘기인데, Midjourney라든지 동영상 생성, 이것도 지금 수많은 회사들이 거기에 가서 자기네 vertical로 만들겠다고 만들고 있잖아요. 아까 종현님이 말씀해 주신 그런 것들. 그런데 여기는 오지 않을까요? 골리앗이 열차를 몰고 오고 있기 때문에 거기도 아마 없어질 겁니다.
노정석 talent 얘기는 아까 앞에서 했으니까요. 맥주 한 잔이면 퍼진다. 그래서 소위 frontier recipe라고 하는 건 더 이상 희소재가 아니다. Noam Brown만 할 수 있는 일이 아니라 그가 하면 다른 데서도 할 수 있는 사람들이 많다. Near Frontier Lab이라고 하는 데는 Kimi나 DeepSeek은 한두 번만 앞구르기를 더 하면 이제 저기랑 같이 불러야 하는 Frontier Lab이 되지 않을까 싶어요. 그래서 중국과 미국의 다른 역학 관계로 이동한다고 치고요.
퍼지는 frontier recipe와 규제형 moat 47:46
노정석 만약에 그렇지 않은 소위 Near Frontier, Quasi Frontier Lab 같은 경우에는 moat가 규제예요. 규제나 어떤 정치적인 이유나, 그래서 sovereign이라는 말이 붙어 있는 건데 ‘Near’ 자를 떼지 않는 한 공공 조달하는 회사들이 있잖아요. 한국에도 대표적으로 티맥스나 한컴 같은 회사가 있는데 저 회사들 수준의 top-line이 될 경우가 꽤 많이 있죠.
노정석 그리고 오픈 모델과 closed 모델이 발전하는 속도는 좀 다른 것 같아요. 왜냐하면 Kimi랑 DeepSeek도 안에서 자기네 서비스를 열심히 키우잖아요. 사실 저 loop가 한 군데서 다 돌아야죠. 고객들이 쓰는 data, 거기서 생기는 새로운 intent라든지. 아니면 domain에 대한 지식이라든지 이런 것들도 다 추출돼서 바로 다음 세대 pre-training이나 post-training의 연습 문제로 돌아가야죠. 이게 오픈웨이트 모델 같은 경우에는 그게 끊겨 있잖아요. 끊겨 있으면 loop가 좀 늦게 도는 것 같다는 생각이 들고요.
폐쇄형 operation loop와 일반 사용자 수요의 gap 48:52
노정석 token 소비는 이것도 a16z가 발표한 건데요. 쓰는 사람들이 너무 많이 쓴다. 그리고 그 compute 양도 전체의 90%를 1%의 회사가 쓰는데, 그것도 벤처캐피털이 댄 돈이거나 정말 큰 회사들의 돈인 경우가 있어서 진짜 수요가 아직 오지 않았다는 얘기를 똑같이 하고 있는데요. 일반적인 소비자의 사용을 봐도 다 coding이나 생산성이나 동영상 생성이지, 우리가 일반적으로 아는 그런 애플리케이션 영역에는 안 쓰더라. 이런 얘기를 하면서 조금 gap이 있는 거 아니냐는 얘기들을 하고 있죠.
노정석 그래서 저도 처음에는 진짜 gap이 있나? 왜냐하면 일반적인 기업이나 일반적인 소비자가 지금 못 따라오고 있는 거는 100% 확실하거든요. 아직 관점도 형성이 안 돼 있어요. 어떻게 써야 하는지. 정말 이걸 따라가기로 한 사람들 안에서만 너무 북적북적거리지, 한 발자국만 뒤로 가도 모르거든요. 승준님이 저한테 예전에 사석에서 그 얘기 하셨어요. 자기가 외롭다고. 왜냐하면 이 바닥을 살짝만 벗어나면 말할 수 있는 사람이 없다는 거예요. 그래서 아직은 그렇다는 얘기죠.
Spot과 contract 가격으로 보는 GPU 수요 50:40
노정석 그리고 이것도 중요한 지표인데, spot과 contract라는 얘기가 CoreWeave를 볼 때 나오는 건데요. 예를 들면 xAI 이번 실적이 좋거든요. SpaceX요. 일론이 데이터센터를 왕창 만들었잖아요. 그래서 한 3GW 정도 만들었다고 하는데, 그거 자기네도 쓰지만 밖에도 다 팔고 있거든요. 그리고 이게 장사가 되니까 지금 우주로 보내는 거, 그다음에 텍사스에 까는 거, 버지니아에 까는 거 막 만들고 있거든요. 그리고 얘들은 만든 compute를 장기 contract로 파는 게 아니라 spot으로 팔아요.
노정석 근데 Nebius라든지 CoreWeave 같은 경우에는 그거를 3년 계약으로 묶거든요. 3년 동안 보장하는 걸로요. 그래서 좀 낮은 가격에 팔아요. 그래서 그걸 contract라고 부르고, 고정가라고 부르고, spot은 그때그때 시장에서 형성되는 그야말로 spot price죠. 장점은 비싸게 팔 수 있다는 거고, 단점은 수요가 없으면 그냥 놀아요. AWS에서 Spot Instance, 요새는 Spot Instance 거의 못 쓰죠. 왜냐하면 다 compute가 모자라니까요. 이런 경우로 생각해 보면 되는데, 지금은 spot이 contract보다 훨씬 비싸거든요.
노정석 네, 저도 빌려보려고 하면 spot이 아예 존재하질 않더라고요. GPU 같은 경우는 빌릴 수가 없더라고요.
노정석 근데 이게 뒤집히는 시점이 오게 될까? 안 올까? 올까 안 올까가 저는 중요한 분기점 중 하나라고 생각합니다. 금융도 살짝 넘어가겠습니다. 이자율이 오르고 있고요. 그다음에 이게 CoreWeave의 구조거든요. 계약별로 SPV라는 게 있는데, Special Purpose Vehicle일 거예요. 특수목적회사로 만들어서 박스별로 조건이 다 다르거든요. 채권으로 조달하는 금액이라든지, 그걸 뒷받침하는 hyperscaler라든지, 이런 것들이 전부 다른데, 그거에 따라서 조건들이 달라지고 거기서 남는 손실이나 이익이 위에 있는 모회사에 올라가서 CoreWeave라는 회사의 가치를 형성하게 되는 그런 구조로 돼 있거든요.
CoreWeave의 금리 민감도와 만기 mismatch 52:07
노정석 매우 정교하다는 표현은 좀 그렇고, 매우 전형적인 구조예요. 근데 이자율이 올라가면, 옛날 철도 붐 때도 그랬고, 이자율이 얼마 정도가 될 거라는 조달 금리 예상치를 두고 이 박스를 짜놨던 사업들이 그때도 다 망했고요. 지금 많은 사람들이 예측할 때는 CoreWeave의 구조는 10년물 국채가 6%가 넘어가면 무너진다는 이야기를 하고 있어요. 그게 지금 CoreWeave 같은 데 주가가 낮고 CDS spread가 엄청 높은 이유겠죠.
노정석 근데 저는 그거에 대해서 재무적으로 판단을 내릴 정도는 안 돼요. 그냥 이런 구조가 있고, 이런 risk exposure가 있고, 어떻게 될지는 좀 더 두고 봐야 한다는 생각을 하고 있습니다. 그래서 이거는 제가 얘기한 게 아니라 Fable이 찾아온 건데, 사람들이 지금 의심하고 있는 거는 돈에 구멍이 날 거라는 게 아니라 타이밍이 안 맞는다는 거예요. 고객과 맺은 계약은 3년이고 데이터센터 lease는 15년이고, 그다음에 debt는 5년인데, 이거 자체에 mismatch가 있다.
노정석 이 mismatch 때문에 다음번 조달에, 그러니까 다음번 채권 조달에 실패할 확률이 높다고 판단하고 있는 것 같아요. 근데 채권 조달에 실패할 확률이 높다는 건 저의 개인적인 판단인데, compute 수요가 수축하기 때문은 아닐 것 같고, 그냥 금융 환경이 변해서 휘청거릴 확률은 있다는 생각이 들어요.
노정석 그럼 이걸 주워 담는 사람이 당연히 생기겠죠. 그래서 이 그림이 다 데이터센터를 짓는 사업자들인데, 맨 왼쪽은 Google이나 Amazon이나 Microsoft가 자체적으로 cloud를 짓잖아요. 근데 걔들은 자신들의 영업이익, 그러니까 벌어들인 돈을 가지고 지었어요. 지난 몇 년간은요. 근데 올해 Google이 처음으로 채권을 발행했다고 해서 화제가 됐죠. 왜냐하면 본인들의 현금흐름으로 감당할 수 있는 범위 이상의 투자를 지금 다 하고 있는 거거든요.
Hyperscaler부터 neocloud까지 데이터센터 위험 지도 54:34
노정석 그래도 얘들은 안전하다. 그다음으로 위험한 곳이 Meta. Meta 같은 경우도 부잣집이긴 한데, Hyperion이라는 데이터센터를 짓는데 돈을 자기네들이 20%만 대고 80%는 Blue Owl인가 하는 인프라에 투자하는 대형 사모펀드가 있는데, 얘네가 대거든요. 얘네가 대고 Meta가 그거를 아까 CoreWeave 구조처럼 자기네가 몇 년 동안 임대한다는 보장을 해요.
노정석 그리고 그게 안 되면 자기네가 보증한다는 계약까지 같이 붙어 있어요. 이런 식으로 Meta가 자기 장부에 적히는 부채의 비율은 확 줄이고요. 근데 잠재적인 지급 의무는 장부에는 남지 않지만 재무제표의 주석에 깨알같이 쓰이는 거죠. 큰 위험 덩어리들이요.
노정석 그다음으로 위험한 데들이 Oracle 같은 곳이에요. 얘들은 아예 은행 빚을 내서 지금 하고 있는데, 이 은행 빚을 내면 보통 굉장히 큰돈, 거의 몇십 조 되는 돈을 조달하니까요. JPMorgan인가 어디서 조달했었는데, 금액이 너무 크니까 그걸 쪼개서 다시 다른 사람들한테 나눠서 팔거든요. 신디케이트 형태로요.
노정석 근데 이게 잘 안 팔리고 있다고 들었어요. 그 채권을 아무도 인수하지 않는다는 거죠. 그래서 은행 장부에 큰 잠재적 손실로 있는 거고요. 제일 위험한 곳이 CoreWeave나 Nebius 같은 회사들. 쟤들은 junk bond예요. junk가 나쁜 채권을 얘기하는 건 아닌데, 그냥 10% 넘어가면 junk라고 부르거든요. 그래서 이런 식으로 risk exposure가 늘어서 있어요, 데이터센터만 놓고 보면.
박종현 xAI도 저쪽에 있네요. 엄청 크게 채권을 조달했나 봅니다.
노정석 맞아요. 걔네들 높은 금리로 돈 많이 빌렸어요. 근데 이건 일론의 마법이 있죠. SpaceX나 이런 것들을 상장하고, Roadster를 하늘에 날리고 우주선도 쏘고, 이런 걸로 생기는 회사 가치의 상승분을 가지고 그게 equity로 다시 전환되거나 이런 식으로 해서 부채가 갑자기 없어지고요.
노정석 배워야 될 것 같아요. 그래서 아까 종현님이 실리콘밸리 얘기하면서 그 얘기 하셨잖아요. 애들 꿈의 크기가 크다. 어설픈 것들을 하는 게 아니라 굉장히 큰 목표를 두고 큰일을 하기 위해서 하는 것 같고, 그것 때문에 더 좋은 인재와 큰돈이 몰리고, 그것 때문에 꿈꾸는 일들이 이루어지고요. 그렇지, 한국에서 작은 도구를 만들고 있는 건 안 되겠다는 얘기를 살짝 하셨던 기억이 나는데, 그거랑 좀 비슷한 것 같아요.
박종현 낙관주의가 지배적인 것 같고요. 될 거다. 이렇게 risk exposure를 하는 것도 다 될 거라고 생각하고 하니까 이런 걸 하는 건데, 실제로 그 대장님이 Elon Musk인 것 같고요. xAI 같은 경우에는 저는 저렇게 자본을 조달했는지 이번에 자료 주셔서 알게 되었는데, 실제로 이미 SpaceX는 우주 산업보다 GPU 임대 산업으로 돈을 많이 벌고 있고, 그게 저렇게 자본을, 위험을 감수하면서 조달하고 빨리 행동했기 때문에 가능한 것 같기도 합니다.
Toyota 아니면 Ferrari로 갈리는 네 가지 시나리오 58:19
노정석 누가 그 얘기 했었는데요. 이제는 현대, Toyota가 되든지 Porsche, Ferrari가 되든지 두 개만 남은 것 같다. 그 중간은 다 죽었다. 이런 얘기를 하거든요. 대중적인 큰 사업과 완전히 특이함이 존재하는 틈새 산업, 이 두 개만 가능한 것 같다는데요. AI로 따지면 이거 앞에 저희가 얘기했던 거랑 똑같거든요. Frontier Lab이 되든지, 아니면 domain specific한 operation loop의 소유자가 되든지. 두 개 말고는 없는 거죠. 그래서 이자율이 높아지면 아까 말씀드린 오른쪽 순서부터 위험해지고, 그래도 왼쪽까지는 전염될 것 같지는 않다는 생각이 들고요. 저도 한 2주 동안 이거 거품이 진짜 터지는 건가라는 질문을 머릿속으로 많이 했는데, 아닌 것 같다는 게 제 결론이에요.
노정석 이게 오늘의 핵심인데요. 그래서 미래에 어떤 일이 일어날 거냐. 어떤 확률에 베팅해야 되냐가 결국 결론이잖아요. 저는 이걸 X축과 Y축으로 나눴어요. 제가 항상 모든 걸 2차원으로 표현하는 걸 즐기는 사람이어서요. frontier gap이 닫히는 거랑 열리는 거. 그러니까 Anthropic 같은 곳이 막 치고 나가는 거. 즉, 모델이 희소재가 될 수 있는 거. 만약에 gap이 좁아지면, Kimi도 하고 DeepSeek도 하고 한국 정부가 만든다는 Frontier Lab도 하고, 이러면 gap이 줄어드는 거죠. 그러면 이게 뭐가 되냐? 답은 그냥 범용재예요. 모델이 아무리 똑똑해도 걔가 가져가는 가치의 몫은 0으로 간다. 그래서 제가 표현한 게 X축이고요. Y축은 아까 처음에 보여드렸던 산업의 전환기, 전환점이 언제 일어나느냐를 보는 저의 측정 기준이거든요. 지금은 확실히 투입비가 훨씬 크기 때문에 아래예요. 감가상각비와 이자가 매출보다 훨씬 커요. 근데 매출이 감가상각비와 이자보다 커지는 시점이 올 거예요. 그렇죠?
박종현 아직 안 왔나요?
박종현 안 왔죠.
박종현 저는 투자만 생각했었는데, 감가상각비로 봤을 때도 그렇군요.
노정석 예를 들어 Anthropic이 inference에 들어가는 투입 비용 대비 margin이 몇 퍼센트라고 하는 것까지는 괜찮은데, 그거 약간 공헌이익 개념이거든요. 그냥 변동비만 가지고 계산한 거죠. pre-training에 들어가야 되는 돈, 다음 세대의 경쟁력을 유지하는 데 들어가는 돈, 인건비, 기타 여러 비용, 데이터센터, 어디에 upfront로 보장하는 비용, 이런 것까지 다 하면 또 한참 적자일 거예요.
박종현 어쨌든 지금 벌어들이는 돈보다 투자하는 게 더 많다, 쉽게 얘기했을 때. 벌어들이는 게 투자하는 것보다 더 많아져야 그 친구들이 다 행복한 시나리오, 망하지 않고 잘 가는 시나리오가 된다는 거죠.
노정석 맞아요. 그래서 저는 이게 어떻게 될까 하면서 확률을 조금씩 계산해 보고 그 확률값을 매일 바꿔 보고 있는 중인데, 지금 OpenAI와 Anthropic이 가장 원하는 사분면은 S3죠. frontier gap은 유지하면서 자기네가 혼자 다 먹고 전부 끝장내면서 독점적인 인프라 사업자가 되고, 지능의 인프라 사업자가 돼서 돈을 엄청나게 버는 거. 그러면 쟤네 둘의 주가가 영원히 날겠죠. 그럴 확률이 있을 거고. 근데 저는 그거보다는 gap이 닫힐 거라고 봐요. frontier lab의 개수가 엄청 많아질 거라고 봅니다. Anthropic과 OpenAI가 지금 유지하고 있는 이 gap이 DeepSeek, Kimi부터 시작해서 우르르 닫히며 frontier lab의 숫자가 꽤 많아진다. 그래서 이렇게 될 확률이, S1 사분면이 될 확률이 지금으로서는 제일 크지 않나? 그러면 소위 best practice에 도달한 몇 개 사업자가 먼저 가거나 투자를 정말 많이 받았거나 혹은 먼저 가서 시장 점유율이라도 확보하고 있는 그런 사업자라서 cash flow가 그나마 돌거나. 그럼 기존에 존재하던 Google, Meta, 여기에 Anthropic이랑 OpenAI까지 끼면 걔들은 살아남고. 그 best practice에 못 간, 즉 매출이 감가상각과 이자보다, 투자보다, 그러니까 투입보다 산출이 적은 그런 lab들은 marginal builder라고 제가 표현을 했는데 걔들은 다 망하겠죠. 망해서 시체가 되어 어딘가로 흡수되겠죠.
모델의 범용화와 operation loop로의 가치 이동 1:02:16
노정석 근데 경쟁은 그 안에서 심화할 거기 때문에 frontier model 자체는 utility가 될 거예요. 그러면 utility가 돼서 commodity가 된다는 얘기는 가치가 lab에 쌓이지 않고, frontier lab에 쌓이지 않고 위아래로 흐른다는 얘기인데. 아래 인프라, Nvidia와 혹은 전력 발전소, 냉각탑이 꽤 많은 margin을 먹겠죠. 여전히 희소한 자원일 테니. 칩은 희소한 자원에서 벗어날 것 같긴 해요. 전 세계의 똑똑한 애들이 전부 inference와 Nvidia 칩을 대체하겠다고 달려들고 있는데, Nvidia의 margin도 이전이 있을 것 같고. 자, 그러면 대부분의 가치는 어디로 가냐? 위로 갈 거예요, 위로. 그러면 위로 가는데 어디로 갈 거냐? operation loop를 가지고 있는 곳으로 갈 거예요. 만약 그 operation loop조차도 frontier lab들이 그냥 다 exploit한다, dataset을 사거나 자체 lab을 만드는 식으로 전부 exploit하고 그 사이에도 경쟁이 된다? 그마저 commodity가 될 테니까 그럼 그 편익은 다 소비자한테 가겠죠.
노정석 superintelligence가 0원이 되는 시대가 열릴 수도 있는 거죠. 근데 금융적으로는 아래 사분면이 재밌는 영역이죠. gap이 열리고 닫히고를 떠나서요. 어? 이거 거품인데? 돈은 못 버는데 투자만 엄청 되는데? S2예요, S2.
박종현 실제로 그렇게 생각하시는 분들이 많죠. 투자를 많이 하고 있다, 이렇게.
노정석 맞죠. 많죠. 그러면 이것저것 좀 망하고 인프라들이 망한 다음에 시체가 돼서 S1 사분면에서 best practice를 이룩한 곳으로 흡수되는 건데. S1과 S2가 동전의 양면 같은 구조인데 아직 시장이 결정은 안 했죠. frontier lab들은 돈을 이렇게 열심히 버는데 이 아래에 있는 작은 사업자들, 아까 종현님이 얘기했었던 수많은 NeoLab들도 여기에서 자리를 잡을 확률도 있죠. 더 빨리 그런 단위별로, 비즈니스 단위별로 enterprise별로 수요가 있는 곳으로 돈 되는 곳들이 생길 겁니다.
노정석 닷컴 버블의 시대가 딱 이 S2라고 보면 될까요?
노정석 그렇죠. S2가 돼 있다가, 더 엄밀하게 아까의 렌즈에 비춰서 보면 산업이 지금은 S2처럼 보이지만 더 정리가 되고 시장의 불확실성들이 제거되면서 항상 S1 사분면으로 올라가거든요. 그래서 지금 S2, S1 두 개를 합하면 제가 본 확률이 거의 80%인 건데. gap은 닫힐 확률이 매우 높다고 봤기 때문에 제가 S1, S2의 확률을 더한 값이 높은 거고. 매출과 감가상각, 이자 사이의 전환점은 즉, 언제 그 변곡점이 오느냐는 timing 이슈거든요. 저게 제일 중요한 변수긴 하죠. S4는 거의 일어날 일이 아니라고 생각합니다. 자, 그렇다면 operation loop를 소유하는 사업자가 반드시 model work를 해야 되는 사업자인가? 아닐 수 있거든요. operation loop가 반드시 나만의 model을 가져야 되는 것과는 아무 상관관계가 없어요. 그건 제가 몇 개의 회사를 통해서 이미 증명하고 있어요.
Weight 소유는 감가, signal 소유는 복리 1:05:48
노정석 그냥 제브가 됐건 뭐가 됐든 소위 near-frontier의 오픈웨이트 model을 가져다가 그냥 꽂으면, compute를 꽂는 것만으로 해결되는 경우가 많거든요. 오히려 내가 소유해 낸 loop는 지능이 아닌 다른 control plane loop에 있는 경우가 훨씬 많기 때문에. 그리고 그 몇 개의 control plane의 데이터로서의 크기가 그렇게 크지도 않아요. 그러니까 그걸 데이터로 모아서 model에 넣어봤자 model이 거기서 무언가를 학습하고 성장할 수 있을 정도의 그런 영역의 domain도 아닌 경우가 허다하거든요. 그래서 경쟁의 방향이 계속 높은 지능의 model을 오픈웨이트로 내놓을 수밖에 없거든요. 그 방향으로 가요.
노정석 frontier lab이 가면 그 뒤에 따라오는 애들은 attention을 얻기 위해서 홍보 목적으로 weight라도 내놔야 사람들이 쳐다보잖아요. 그래서 제가 아래에다 이렇게, 이건 제가 쓴 게 아니라 model이 쓴 건데, weight의 소유는 감가, signal의 소유는 복리. 그래서 model work를 하는 것들의 가치는 계속 낮아질 거다. 왜냐하면 model work의 지금 가치라는 게 데이터와 인재에 있다고 사람들이 많이 보는데 사실 데이터와 인재는 저는 감가되는 자산이라고 보기 때문에 그건 다 compute로 치환해서 풀 수 있다고 생각하면 “model work는 안 해도 된다”라는 결론도 나오거든요. 논리만 놓고 보면. frontier lab과 경쟁하겠다고 생각했을 땐 당연히 model work를 해야죠. 근데 그러지 않고 frontier model이 오지 못하는 operation 영역에 loop를 짓겠다고 하면 model work는 안 해도 된다.
박종현 저기서 말씀하시는 signal이 어떤 걸 말씀하시는 걸까요?
지혜의 압축체로서의 operation signal 1:08:01
노정석 저도 지금 이걸 명확하게 규정하는 과정을 겪고 있어요. 그리고 이 signal이라는 게 우리가 얘기하는 model work를 할 때의 dataset의 크기나 이런 정도의 coverage는 아니에요. 예를 들면 모든 회사에 그런 signal이 있어요. 저희 회사만 하더라도 매출이 이렇게 이렇게 빠지고 이러면 어디가 문제고, 그 문제니까 얘를 수정하고 이런 행동들을 해야 된다고 하는 것들 있잖아요. 근데 얘는 그 자체로도 계속 모이면 dataset이 돼요. 질문과 답, 질문과 답, 질문과 답인데 그 질문과 답이 계속되다 보면 끝에 가서 몇 개의 규칙으로 압축되거든요. 그 규칙이 우리가 어떤 때는 지혜라고 얘기하는 거고 어떤 때는 rule base라고 얘기하는 건데 model에 심어야 될 정도의 크기는 아닌데 지혜의 압축체가 되는 것들이 있어요. 근데 그 지혜의 압축체인 규칙을 꺼내기 위해서 사업에서 signal이 매일 발생하잖아요. 어떤 환경일 땐 뭐가 이렇게 되고, 뭐가 이렇게 되고 이런 걸 하면 고객들은 싫어하고, 이런 것들 있잖아요. 이런 것들, 이게 제가 얘기하는 operation loop예요. 얘기인즉슨 지금 존재하는 모든 사업에 이게 존재하는 거죠. 그러면 얘가 만약 똑같은 업계에 있다고 하면 그 업계에서도 이미 잘 나가는 회사, 시장 점유율이 70%, 20%, 10%인 성숙된 산업이 있을 텐데, 잘 나가는 회사는 그 안에 operation signal이 굉장히 많겠죠. 왜냐하면 이미 안에서 만들어지고 있는 transaction이 많을 테니까. 그럼 그런 회사들이 그 loop를 AI와 잘 결합해서 잘 지으면 frontier lab도 못 건드리고 AI가 만드는 efficiency gain도 얻고 그래서 다음 세대로 진화하는 사업자가 될 거고. 만약 그렇지 않다면 밖에서 이 렌즈에 눈을 뜬 어떤 스타트업이 그걸 공격하러 오겠죠.
노정석 이게 frontier model에서 우리가 지금 익숙한 coding과 model work, 이 경쟁 다음에 일어날 일들이라고 생각해요. 그래서 제가 Out of Model Work의 세 후보 중 1번, B2B, operation 안에 loop를 짓는 쪽이라고 적어놓은 거거든요. 왜냐하면 enterprise AX 얘기를 하면서도 고종옥 전무님이랑 이런 얘기들을 앞으로도 계속 하게 될 건데, 기업들이 아직 몰라요. 뭘 어떻게 만들어야 될지 전혀 몰라요. 지금은 기존에 안에 있던 지식 노동자들이 하는 것들을 AI로 바꿔주는 것들이 거의 대부분이죠. 그것 때문에 빨라져요. 빨라지는데 그 사람들만 편해지지 회사 전체의 생산성 증가는 지금은 없거든요. 그러니까 workflow를 AI에 맞춰서 완전히 새로 찾아야 되는 시기인 거고 그 렌즈가 필요한 거고. 그런 사업자들이 나올 겁니다. 그래서 Palantir라든지 EightyNinety라든지 그다음에 OpenAI나 Anthropic도 자체 B2B FDE 조직을 다 만들어서 갖고 있잖아요.
B2B·B2C workflow 재설계와 AI agent 경쟁 1:10:06
노정석 그런 것들. B2C 영역은 김서준 대표랑도 이 얘기들을 참 많이 하는데 사실 Muse Spark, Gemini Spark, Grokbot 다 이거예요. 카카오, 네이버 할 것 없이 다 만들 겁니다. SK텔레콤도 만들 거고, 어디든 다 만들 거고. 결국 B2C에서는 소비자 눈앞을 누가 잡느냐의 싸움을 하는 거고. 여기서는 또 한 번, 소비자 눈앞을 잡으면 그 매체력을 가지고 먹을 수 있는 사업들이 굉장히 크기 때문에 모든 사업자들이 다 이 방향으로 갈 겁니다. 그러면 거기서 어떤 사업자들이 승리할 거냐? 이거는 제가 예전에 Google에서 product manager를 하던 경험인데 그냥 coverage와 comprehensiveness, 두 개를 X, Y축으로 할 수 있거든요. 검색을 하면 일단 coverage가 넓으냐가 만족도를 나타내는 제일 중요한 거예요. 그러니까 결국 예를 들어 이 agent한테 일을 시키면 레스토랑 예약부터 나랑 놀아주는 자잘한 일부터 혹은 질의응답하는 것까지 다 해야 되는 거죠.
박종현 얼마나 다양한 일을 할 수 있는가. 네.
노정석 어? 얘는 이탈리아 가는 비행기 표는 예약하는데 삼다수를 못 사주네? coverage가 빠지는 거죠. 그래서 coverage가 넓어야 되고, 각 일에서 얼마나 일을 비범하게 할 수 있느냐가 일종의 comprehensiveness인데 그거의 곱으로 나타나겠죠. 그리고 여기에 또 하나 더 봐야 되는 렌즈가 시장 진입 시점인데 그건 워낙 동적으로 왔다 갔다 하니까. 그리고 3번은 1번이랑 비슷한 얘기예요. 제가 팟캐스트 시작할 때부터 저의 이상향으로 잡았던 게 Tesla여서, frontier lab을 안 할 거면 Tesla처럼 하는 거였는데 밖에서 필요한 기술들은 빌려오고 자신 안에서 수직계열화를 밑에서부터 위까지 쭉 해서 그 자체에서 signal loop가 돌도록 만드는 거. 근데 Elon도 중간에 “이거 frontier lab을 하는 게 필요하겠다” 싶어서 xAI 만들고 자기도 그냥 가져버리긴 했죠. 부러운 사람입니다. 그래서 저는 두 개로 봐요. frontier lab 주식은 갖고 있어야 된다. 보험이에요. 이 exposure가, flipping point가 언제가 될지는 모르니까. 그러니까 frontier lab 한두 개의 과점 체제가 생길 확률은 저는 높진 않다고 보거든요. 근데 frontier lab들이 생기면 OpenAI부터 Anthropic, SpaceX, 또 DeepSeek도 상장할지 모르겠는데 상장했으면 좋겠고. 걔네 상장하면 걔들의 주식들은 보험으로 쭉 들고 있어야 된다. 왜냐하면 걔들은 기본적으로 이 모든 intelligence의 인프라가 될 거니 인플레이션과 모든 것들을 다 방어하는 그런 자산이 될 거니 그건 가져야 한다고 생각하고 있고.
수직계열화와 보험으로서의 Frontier Lab 투자 1:13:05
노정석 그리고 사업은 걔들이 안 하는 곳으로 가야 한다. 너무 당연한 얘기인데. 그 안 하는 것 중에서 제일 큰 거. 혹은 operation loop가 이미 존재하는 회사들, 그 회사들한테 빨리 가서 내가 뭘 만들어줘야 한다든지. 저도 그래서 B2B enterprise AI 회사를 하나 차리려고 생각하고 있거든요. 도망자 연합 만들 때부터 생각하던 건데. 머리만 복잡하다가 이제 타이밍이 된 것 같다는 생각이 듭니다. 그래서 제가 지표를, 이게 정량 지표는 아닌데 몇 개의 미디어와 그런 것들을 계속 추적하면서 정리하면 이 지표가 나오거든요. 얘를 한 1, 2주에 한 번 정도씩 돌려보면서 제 나름의 측정 기준을 세우고 있어요. 왜냐하면 시장의 타이밍을 알고 싶어서. 그래서 보고 있는 게 spot과 contract의 spread가 어떻게 만나고 벌어지는지. 그다음에 2번, 이건 빼도 되는데 GPU를 한 번 사면 3년 쓰고 불용 처리하느냐, 혹은 8년 쓰느냐에 따라 완전히 달라지거든요. 그래서 한 번 투입한 하드웨어의 비용이 다 빠지는 데, 그러니까 투입한 비용을 매출로 다 뽑아내는 데 걸리는 payback period가 얼마냐. 왜냐하면 payback period가 짧다면 뒤에 있는 것들은 다 margin이 되니까. CoreWeave나 Nebius 같은 회사도 하드웨어 감가상각이 끝나고 났는데도 여전히 그 자산이 계속 돌면 그때부터 순이익이거든요. 그럼 지금 안 좋은 숫자가 다 좋아질 가능성이 있다, compute 수요가 계속되면. 그래서 이것도 보는 거예요.
AI 시장 타이밍을 읽는 일곱 가지 지표 1:14:24
박종현 실제로 지금 그런 일이 벌어지고 있는 것 같아요. 퇴역했다고 생각했던 GPU들에서 계속 매출이 많이 나오고 있어요. A100 같은 것들이요. compute가 너무 부족하다 보니까. 그런 얘기들이 나오고 있는 것 같습니다.
노정석 그다음에 오픈웨이트와 frontier gap이 사실상 중국의 Near Frontier Lab들과 미국의 Frontier Lab들의 gap을 의미하는 것과 지금은 거의 동치인데. 지금은 4개월이었는데 이거 지금 2개월 안쪽으로 줄어드는 것 같다. 중국의 lab들도 그냥 Frontier Lab이 되고 있는 거네라고 지금 머릿속으로 판단할 수도 있고.
노정석 그다음에 지금 우리가 하는 agent는 대부분 전부 coding이거든요. 그래서 coding 밖에서 뭐가 생기는 domain들이 얼마나 많아지는지. 법무, 재무 이런 쪽에서 보고 있는데. 그건 너무 당연한 거고. 그다음의 대형 domain들이 어디가 들어오는지도 관전하는 포인트.
노정석 그다음에 6번이 생소한 개념일 수도 있는데 제가 이거는 value capture가 어디로 가느냐를 보는 하나의 지표로 보고 있고 이거는 저도 아직 절대적인 지표는 못 얻어요. 그냥 사람들의 감을 가지고 얻고 있는 건데. 어떤 컨설팅 회사가, FDE를 운영하는 회사가 가서 프로젝트를 해요. 그런데 거기서 만약에 token 값이 그 회사가 취한 margin보다 훨씬 큰지 아니면 그 회사의 margin이 token 값보다 큰지 그 두 개의 비율이에요. 그러면 결국 value capture의 비율이 어디로 가는지 대략 알 수 있거든요.
RSI 변수와 Frontier Lab을 지켜보는 관점 1:17:16
노정석 그리고 7번은 RSI가 처음 관측되는 시점. 이게 되기 시작하면 그냥 우린 죽었다고 생각하는 게 맞을 수도 있는데. 모델이 정말 스스로 우리가 지금 알고 있는 scaling law 그래프의 기울기를 바꿔줄 수 있는가? 스스로 발전할 수 있는 게 나오면 좀 무서운 시대가 될 수도 있겠다. 지금 1, 2, 3, 4, 5, 6, 7 얘기했는데 어쩌면 이걸 보는 것의 최대 리스크는 이런 걸 보고 있는 게 무색하게 그냥 superintelligence가 연내에 나와서 끝나는 거예요.
박종현 거의 2시간 가까이 말씀해 주셨는데 이 모든 과정이 현재 흐름에 맞춰서 갈 거라는 가정하에 모든 걸 잘 설명해 주신 것 같거든요. 그런데 RSI를 포함해서 아까 얘기해 주신 것처럼 Ilya Sutskever가 베팅한 거라고 생각하면 새로운 인재를 기반으로 한 새로운 research breakthrough, continuous learning이라든지 이런 것들이 새롭게 나왔을 때 완전히 또 이 흐름이 바뀔 거라서. 어쨌든 그런 건 저희가 계속 모니터링하고 있어야 하지 않나, 그런 생각을 똑같이 하고 있습니다.
노정석 네, 맞습니다. 그래서 지난 2주 동안 워낙 많은 일이 있었기 때문에 그 2주를 해석하고 저희의 관점으로 씹어보고 정리하는 거라서 하나의 큰 맥은 있습니다. Frontier Lab을 잘 살피는 게 제일 중요하다. 걔들이 못하는 곳이 어딘지를 보는 게 중요하다. 그다음에 그 사이에서 타이밍들이 어떻게 바뀌는지를 보는 게 중요하다. 이 정도일 것 같아요.
노정석 그러면 제가 이걸 매일 하는 건 아니니까 저도 이런 결정적인 시기에 1년에 한두 번 해보면서 제 관점을 형성하기 위해서 해본 거니까. 생각이 다르시다면 여러분 의견이 맞습니다. 종현님, 또 미국 갔다 오셨으니까 시차 적응하시고. 다음 주에 더 재미난 얘기들을 가지고 현실적인 얘기로 돌아와서 재미있는 거 해보시죠.
박종현 오늘 너무 잘 들었습니다. 아마 저를 포함해서 이 AI Frontier Korea를 계속 다 듣고 계신 분들은 비슷한 관점을 가지고 계실 것 같아요. AI가 계속 커지고 삶을 많이 바꿀 거라는 데 베팅하신 분들, 승준님이 얘기한 그 주변을 조금만 벗어나면 없는 그런 버블 안에 저희가 갇혀 있다고 많이 표현하게 되는데. 다들 이런 걸 기반으로 다음 행동의 전략을 세우시고 행동하시겠죠.
AI 시대를 위한 교육과 마무리 1:19:48
노정석 맞습니다. 맞아요. 마지막으로 깨알 홍보를 하나 하자면 승준님이 오늘 못 오신 이유는 지금 바쁘셔서예요. 승준님이 일산 지역에서 한미유치원을 운영하고 계신데 대한민국에서 찾기 힘든 AI 유치원 아니겠어요? 그래서 그 지역에 계신 분 중에서 이 AI 시대에 어린 자녀를 어떻게 교육시켜야 할지 궁금하신 분이 있다면 한미유치원에 꼭 지원하시길 바랍니다. 이 정도로 오늘 녹화 마무리하도록 하겠습니다.
박종현 네, 수고하셨습니다.