EP 118
특이점의 한가운데 살펴보기 | AI 투자 사이클, 수학 쇼크, 샌프란시스코 분위기
싱귤래리티를 지나는 중이라는 감각 00:00
노정석 녹화하고 있는 오늘은 2026년 10월 11일, 일요일 아침입니다. 너무 빨리 변해서 승준님은 오늘 녹화에 접속하시자마자 “피곤해 죽겠다”라는 말씀으로 시작하셨는데, 너무 많은 일들이 벌어지고 있죠. 모델이 발표되는 것도 그렇고, 이번에는 수학이 끝났다고 하는데 다음엔 뭐가 끝날 것인가. 발전 속도의 그래프가 정말 저희가 예상할 수 없는 그런 기울기로 계속 가팔라지는 느낌이에요. 그래서 정말 우리가 싱귤래리티를 지나고 있는 중이 맞다는 이야기는 저희뿐만 아니라 커뮤니티에서도 다양하게 하고 있는 것 같아요. 그래서 오늘 그 이야기를 저도 한 편, 승준님도 한 편, 종현님도 한 편, 이렇게 세 개를 준비했는데요. 제 이야기는, 이렇게 빨리 변하고 있는 이 현상을 과거의 어떤 틀에 비추어서 예전에 철도 붐은 어땠고 광통신 붐은 어땠고, 그 안에서 산업들은 어떤 사이클을 겪었지? 지금 이렇게 바쁘게 변하고 있는 이 세상에서 한 걸음 뒤로 좀 물러나서 숲으로 보고 과연 이다음에는 어떤 일이 벌어질지, 그리고 거기에서 우리는 무엇을 해야 될지. 비즈니스 생각 실험입니다. 저는 항상 그런 쪽으로 이야기들을 많이 하니까 비즈니스 생각 실험 쪽의 이야기를 한번 해드리는 걸로 시작하려고 합니다.
time gap과 domain gap으로 그린 AI 시장 지도 01:26
최승준 어떤 버전인지 궁금하네요.
노정석 이게 제가 생각하는 지금 현재의 시장을 바라보는 틀이거든요. 예전에 도망자 연합이나 이런 데서도 썼던 그림인데요. 이 x축은 time gap, 그리고 y축은 domain gap으로 놓고 현재 시장에서 어떤 일들이 일어나고 있는지를 제가 한 틀에 넣어보려고 노력한 거거든요. 그래서 오른쪽 최상단에서는 우리가 Frontier Labs라고 부르는 OpenAI나 Claude 같은 회사들이 이 첨단을 향해서, 싱귤래리티를 향해서 끌고 가고 있고, 그 바로 뒤에는 Qwen이라든지 DeepSeek이라든지 제가 Quasi Frontier Labs라고 부르는 이런 회사들이 약 2~6개월 간격을 두고 따라가고 있고요. 그 뒤에는 일반적인 영역에서 한 발짝 물러서서 domain-specific하게 버티컬을 해보겠다고 하는 법무나 컨설팅이라든지 회계 업무 쪽의 회사들이 따라오고 있고요. 그리고 Frontier Labs나 Quasi Frontier Labs나 다 뒤에 따라오는 대중이라든지 아니면 저희가 지식이라고 얘기하는 LLM을 넘어선 도메인으로 확장은 계속 일어나고 있으니까요. 이런 것들을 화살표로 표시해 본 거고요. 녹색 선에 adoption frontier라고 썼는데, 이 선의 오른쪽에 있는 사람들은 이걸 따라오고 있는 사람들이고 왼쪽에 있는 사람들은 아직 따라오지 않고 있는 그런 부분이라고 표현해 본 거고요. 저는 항상 전체 산업을 이차원의 그래프로 표시하는 걸 재미있어하다 보니까
억지로 그림에 넣어봤어요. 그럼 우리는 어디 있냐. 제가 “we’re here”라고 써놓은 부분인데요. 도메인의 가장 virtual한 끝단에는 저희가 LLM이라고 부르는 지식 산업의 총아가 있고, 저 끝에는 physical의 끝인 human labor가 있고, 그 사이로 도메인들을 배치해 본 거거든요. 그리고 physical로 가고 현실 세계로 나올수록 저희가 항상 얘기하는 보상 신호를 줄 수 있는 RL environment를 만들기가 어렵고, virtual로 갈수록 쉬워진다. 그 사이에 정말 거대한 도메인들이 뭉쳐져 있죠. 어마어마한 산업들이 뭉쳐져 있는데, 저희는 이 RLVR 경계에 살짝 걸쳐 있는 이 언저리에 위치하고 있는 게 아닌가 생각하고 있어요. 그래서 이 그림을 조금 더 현실감 있게 그리면 이 정도 된다고 생각하거든요. 앞에서 크게 그렸지만, 우리가 느끼는 Frontier Labs에서 어떤 일이 일어나고 수학에서는 어떤 일이 일어나고, 코딩으로 뭐가 자동화됐고, 이런 부분들이 엔지니어로 대표되고 사업가들로 대표되는 이 커뮤니티에서는 너무 일반적인 얘기들인데요. 조금만 한 발자국 나아가도 이게 현실이 아닌 커뮤니티가 정말 거대하게 있거든요. 승준님이 아까 저랑 사담을 하면서 그런 얘기도 했잖아요. 밖에 나가면 이야기할 사람이 없다. 왜냐하면 모두가 이 속도로 살고 있는 게 아니고, 대부분의 사람들은 아직은 아니거든요. 여전히 Tesla FSD와 현대자동차에 달린 주행 보조 장치가 똑같은 거라고
이야기하는 토론들이 많이 있거든요. 그래서 제가 그런 시간 감각들을 조금 비추어 봤을 때 이 정도의 축적을 가지고 있는 것 같아요. 아직 많은 대중에게 AI는 일어나지 않은 일이에요. 그리고 저희가 superintelligence, 트럼프가 superintelligence로 바꾸자고 해서 SpaceX도 SI가 됐더라고요. 그런데 ASI가 나오면 RLVR 경계 위에 있는 산업들은 다 끝날 것 같긴 해요. 큰 틀에서는 대략 이 정도의 플레이북이 있다. Frontier Players가 제공하는 가치를 빨리 알아채고, 내 도메인이 안전한지 판단하고, 그러고 나서 결국 돈 버는 영역은 조금 뒤에 time gap을 가지고 뒤에서 따라오는 사람들한테 돈 버는 구조가 지금 현재 거의 Frontier Labs가 아닌 대부분의 비즈니스 모델이거든요. 여기서 조금 더 나아가면 저희가 자체적인 도메인별 RL 환경을 구축한다든지요. 그래서 저는 여전히 모델을 training하고 fine-tuning을 하고 이런 것들이 한 2~3년 새에 다 없어져 버렸고 prompt engineering을 하는 걸로 다 대체할 수 있다는 이야기들이 많았는데, 다시 fine-tuning과 모델 작업을 하는 사람들의 시대가 살짝살짝 오고 있지 않나 싶어요. 그리고 Jev 같은 예제가 굉장히 좋은 예제였다는 생각이 들긴 합니다. 그래서 이게 오늘 이야기의 시작인데,
철도와 통신에 비견되는 AI 투자 사이클 06:36
노정석 지금 AI에 들어가는 투자가 과거에 있었던 큰 거품들, 철도나 통신 같은 것들의 인프라 투자기와 비교되는, 거의 철도에 버금가는 투자 사이클이라는 이야기를 하고 있거든요. 돈도 어마어마하게 들고 있죠. 그래서 숫자들만 좀 살펴보면, 2026년에 빅테크 4개 사가 쓰겠다고, 연말까지 쓰겠다고 하는 돈을 다 더해 보면 7,250억 달러예요. 10억 달러가 한국 돈으로 천 원씩 계산하면 1조 원이니까 약 1천조 원 가까운 돈을 빅테크 4개 사가 capex로 쓴 거죠. 자기네가 번 돈으로 쓴 것도 있고, 주식으로 조달한 것도 있고, 심지어 부채로 조달해서 장부상에 안 잡히는 돈도 많고요. 그런데 엔비디아가 분기에 버는 돈이 약 89조 원, 100조 원 가까운 돈을 법니다. 그런데 지금 AI 가지고 돈을 버는 회사들, Anthropic이랑 OpenAI 둘 다 매출을 공개하지 않아요. 사람들이 밖에 나오는 숫자들이나 살짝살짝 나오는 데이터 포인트를 가지고 ARR을 추정하는 거거든요. 연간 기준으로 봤을 때 걔네 둘이 합쳐서 약 400억, 650억 달러 하니까 100조 원 정도가 돼요. capex 투자는 거의 10배. 그런데 버는 돈은 10분의 1. 그다음에 그 버는 돈들도 엔비디아가 거의 한 분기에 다 회수하는 돈과 비슷하고, 이러거든요.
capex와 매출 사이의 거대한 격차 08:17
노정석 그래서 이거에 큰 격차가 있다. 여전히 지금 어마어마한 투자기인데, 이 투자기가 성립하는 이유는 뭐냐? 더 성장한다. 이제 겨우 시작에 불과하다. 기업 시장 말고 소비자 시장이 열리면 이건 어마어마하게 거대하고, 지금 현재 Google과 Meta와 Apple이 만드는 전체 산업 규모가 전부 AI로 대체된다. 이런 논리들이 다 숨어 있는 거거든요. 그래서 이게 과연 그렇게 되나? 이게 안 되면 어쩌지? 이런 질문들을 제가 몇 개 해본 거죠. 지금 어마어마하게 빨리 발전하고 있는 세상에서 그럼에도 불구하고 이 생각 실험의 출발이 되는 질문 네 개를 써본 거거든요.
최승준 진행하기에 앞서서 1천조 원이 얼마만큼인지 잘 가늠이 안 가요. 머릿속에요. 1천조 원에 해당하는 게 뭐죠?
노정석 우리나라 1년 정부 예산이 한 400조 원 정도 될걸요. 그리고 우리나라 연간 GDP가 1천조 원 수준일 거예요. 그러니까 민간과 기업과 정부가 다 쓰는 돈의 합. 그게 그 정도 될 겁니다. 타이밍의 차이는 있을 텐데, 그것까지 고려하면 계산이 복잡해지고, 언제 산 GPU가 지금 매출을 만들고 있느냐는 부분에 대해서는 다 투입과 산출을 따지기가 어렵기 때문에 그냥 올해 수준으로 뭉뚱그려 본 겁니다. 그럼에도 불구하고 올해 수준의 투자와 올해 수준의 수익만 비교해 봐도 차이가 많이 나는 거죠. 그래서 그런 부분들은 감안하고 들어주시면 될 것 같아요. 이렇게 숫자를 정확하게 계산해서 무언가를 예측하는 애널리스트라기보다는 큰 흐름의 생각 실험을 하기 위해서 숫자 포인트들을 가져오니까 몇 개의 숫자 포인트들은 틀린 것들이 있을 수 있어요. 그래서 그런 부분들은 미리 양해를 구하고 시작해 보면, 굉장히 큰 돈이죠. 승준님이 질문 주셨는데, 제가 이 1조 원이라는 개념을 저희 회사 사람들한테 설명할 때, 제가 성수동 사무실에 있을 때 저기 잠실에 있는 롯데타워가 굉장히 크게 보이잖아요. 키도 크고요. 거기 부지와 서 있는 레지던스와 호텔과 이런 걸 다 합쳤을 때 저 부동산이 약 10조 원짜리라고 얘기하거든요. 그러니까 그걸 기준으로 해보면 된다는 얘기를 합니다.
프론티어의 다원화와 사라진 escape velocity 10:47
노정석 그래서 다시 원론으로 돌아가 보면, 아시다시피 Anthropic과 Google과 OpenAI만 frontier 모델을 만들 수 있는 건 아니다. 자본과 충분한 compute와 데이터셋, 인재 이것만 되면 frontier 모델은 누구나 만들 수 있는 거라는 건 좀 퍼진 것 같고요. 그리고 앞에서 어마어마하게 빨리 발전하고 있잖아요. 지금 광속으로 발전하고 있다고 해도 과언이 아닌데, 이렇게 빨리 발전하는 산업은 보통 escape velocity라고 그러죠. 탈출 속도를 넘어선 한두 개의 회사들이 독점 시장을 형성하고 기술적인 독점을 가지고 뒤로 돈을 편안하게 벌고 특허로 보호받거나 뭘 보호받거나 제약 산업에서 일어나는 것처럼 그런 것들이 일어나는데, 그렇지 않고 다원화가 계속 일어나고 있거든요. 피곤할 정도로 끊임없이 다원화가 일어났고 참여자들도 계속 들어오고 있어요. 왜냐하면 시장이 커질 거라는 그런 전제 하나만 가지고요. 그리고 요새 Andreessen Horowitz에서 이런 발표를 굉장히 많이 하는데, 자료를 최대한 끌어와서 현재 AI 시장이 어느 정도에 있나라는 그런 주제로 유튜브 영상을 많이 찍는데요. 미국인들의 보통 절반 정도가 AI를 쓴다고 하는데, 구독료를 내는 사람들은 5%가 채 안 된대요. 이게 말이 안 되는 거죠.
그리고 전체 매출에서 봤을 때 상위 10%가 매출의 절반 이상을 낸다. 그다음에 상위 1~2%가 매출의 20%를 차지한다. 그러니까 위로 어마어마하게 쏠려 있는 시장이고, 그 위에서 매출을 내는 거의 대부분의 workload는 우리가 ChatGPT로 하는 그런 채팅이 아니에요. 채팅 서비스가 아니라 어마어마한 agent 서비스들인데, workflow 자동화라든지 아니면 영상 제작이라든지 아니면 코딩이라든지, 거의 이런 종류의 일들이 대부분이거든요. 그래서 또 다른 Andreessen Horowitz의 유튜브 영상에서도 이런 얘기를 하는데, 코더들의 숫자가 3천만 명이다. 전 세계적으로요. 그런데 그들은 사실상 거의 다 들어왔다고 봐야 되는데, 그들이 만드는 매출이 지금 거의 100조인데요. 지식 노동자의 숫자는 한 1.5B 정도 된다고 그래요. 그러니까 15억 명 정도 된다고 그래요. 그럼 이들이 다 들어오면 얼마나 커질 것이냐고 얘기하는데, 이 부분에 대해서도 질문은 필요해요. 과연 그들이 코딩하는 이 agent workload만큼 많이 쓸 건지, 아니면 그냥 이메일 요약해 달라고 하는 그런 간단한 것만 쓸 건지 그건 아직 모르겠어요. OpenAI나 Claude도 Work를 만들었잖아요. 코더들 말고 일반 지식 노동자들도 써 보라고 하면서 오피스 제품군이랑 묶어서 Work를 만들었는데, 이게 얼마나 성장하고 있는지 이 지표들은 발표를 안 하거든요.
분명히 유의미한 성장이 빠르게 일어났으면 그걸 꺼내 와서 이게 이렇게 잘 된다고 했을 텐데, 아직은 코딩을 제외한 지식 노동에는 많이 쓰지 않는구나라고 저는 그렇게 예측하고 있는 중입니다. 그래서 소비자 시장은 저희가 연초에 OpenClaw가 나왔을 때, 이게 대중들한테 쥐어지면 얼마나 파급력이 있을 거냐. 저희가 보고 있죠. Grokbot, Muse. 그리고 Muse는 500만 명이 쓴다, Grokbot도 얼마가 쓴다고 하는데, 아직 소비자용 애플리케이션을 많이 못 보고 있어요. 사람들이 아직 그걸 많이 안 쓰거든요. 어떻게 될까라는 생각이 듭니다. 그래서 지금 일어나고 있는 매우 큰 규모의 과투자가 다 근거로 삼는 이야기는 이거예요. 앞으로 지식 노동이 다 들어온다. 그리고 소비자 사용 사례가 들어온다. 그러면 지금 쓰는 것에 비해 얼마나 커질지 가늠할 수 없다는 건데, 과연 그럴까라는 질문을 해 볼 때가 된 것 같긴 해요. 왜냐하면 제가 옆에서 체감할 때 느끼는 사람들의 도입 주기가 생각보다 빠르지 않아요. 그다음에 회사들의 workflow도 AI로 바꾸는 것 같지만 아직 빠르지 않다는 그런 느낌이 있어요.
그러면 이게 계속 모델의, 저희 계속 벤치마크 싸움이었잖아요. frontier 모델이 모든 걸 다 가져간다. 그래서 기술에서는 Anthropic과 OpenAI가 끝장을 낼 거다. Google은 당연히 따라잡을 거라고 생각했는데, Google이 의외로 지금 좀 조용한 게 저희가 다 의아해하는 점이죠. 그리고 Meta도 따라오고, 그다음에 Elon Musk의 Grok도 따라오고. 그럼 이게 다음은 어떤 게임이 되는 거지? 그래서 제가 지난번에 말씀드렸듯이 유럽 출장 가서 살짝 다치는 바람에 며칠 누워 있는 김에 과거의 역사에서는 어떤 일이 일어났는지 이런 것들을 Claude에 물어보면서 살펴봤는데요. 지금 투자 규모로 보면, GDP 대비 투자 규모로 보면 괄목할 만한 게 1800년대 초반부터 1900년대 초반까지 약 100년 동안 일어났던 철도 붐이 있거든요. 생각해 보시면 1700년대 후반에 증기기관이 처음 나왔고, 그게 산업혁명을 이끌었잖아요. 거기에서 나온 첫 번째가 철도였고, 두 번째가 증기기관을 가지고 공장이 자동화되기 시작한 게 그때 가장 큰 변화였는데, 이 철도의 역사를 살펴보면 최초의 철도 노선은 1825년에 만들어졌고, 상업적인 노선은 1830년도에 맨체스터와 리버풀 사이를 연결한 게 처음이더라고요.
그런데 그전까지는 리버풀은 면화를 수입하는 곳이었고, 맨체스터는 그걸 가지고 직조해서 천을 만드는 가공 공장들이 몰려 있던 그야말로 산업혁명이 처음 시작됐던 그런 도시인데, 그때까지만 하더라도 운하로 왔다 갔다 하고 있었는데 철도가 와서 운하가 독점하고 있던 이 시장을 깨 버리고 훨씬 싼 가격에 운송하게 되니까 속도도 빨라지고, 그다음에 단순히 화물만 움직이는 게 아니라 승객들이 왔다 갔다 하는 시장도 갑자기 폭발하고,
철도 혁명과 과투자 광풍 17:21
노정석 사람들의 이동도 늘어나고. 그러면서 이게 마치 ChatGPT의 첫 등장 순간과 비슷했던 거죠. 우와, 이거 세상이 바뀌겠구나. 그래서 각지의 도시와 여기저기의 지선에서 건설 붐이 일어요. 그리고 수익성이 있는 구간에는 노선이 하나만 생기는 게 아니라 여러 개가 계속 생겨요. 그러면서 과투자 국면이 쫙 일어나서 거의 몇십 년 동안 철도에 대한 투자가 일어났었고요. 그런데 그때도 똑같았어요. 노선이 건설되면 시장이 어마어마하게 커진다. 그런데 결과적으로 놓고 보면 과투자가 된 게 맞았고, 그래서 굉장히 많은 회사들이 망했어요. 그래서 철도 노선 자체에 투자했던 투자자들은 거의 돈을 못 건졌거든요. 그런데 그것 때문에 남았던 인프라와 싸진 운송, 운송 가격과 그다음에 고객들이 그것 때문에 삶의 행태가 바뀌는 거죠. 행동이 바뀌는 것들 때문에 정작 돈을 벌기 시작한 건 그 위에 새로운 가치를 올렸던 사람들이 돈을 벌거든요. 정작 운송업자들은 다 망했는데요. 시골에 있었던 농장주가 신선한 우유를 도시로 배달하는 산업들이 생기고, 신선한 야채가 도시로 배달되고. 이러한 산업들이 철도 위에 올라가면서 그들이 사실상 돈을 다 가져갔거든요.
그래서 큰 틀로 요약하면 투자자들, 철도 투자자들은 이게 얼마나 큰돈을 벌 거냐고 해서 투자 광풍이 일어났었고요. 그 투자 광풍이 일어나니까 은행들이라든지 투자가들만 돈을 낸 게 아니라 일반 투자자들, 소비자들까지 다 채권시장에 뛰어들어서 그 산업에 돈을 댔거든요. 전 나라가요. 그런데 거기서는 모두가 돈을 잃었어요. 그런데 그 가치는 어디로 돌아갔냐. 그 위에 뭔가 부가가치를 올렸던 그런 사업자들한테 돌아가고, 또 더 크게 살펴보면 사회 전체가 그 수혜를 입었다고 보는 게 맞거든요. 그러고 나서 그 산업들은 어떻게 됐냐. 과투자를 견디다 못해 통합 국면에 들어간 거죠. 그래서 결국 미국 같은 경우는 JP Morgan, 영국 같은 경우는 몇몇 과점 사업자들이 그것들을 가져와서 표준화돼 있지 않은 것들을 표준화하고 시간표도 맞추고, 그다음에 정부 규제도 들어와서 요금 담합하지 말라고 하면서 이런 것들이 생기면서 우리가 알던 지금의 철도 시장이 된 거거든요. 몇몇 과점 사업자가 규제를 받으며 크게 돈은 못 버는 구조의 산업이 되면서 그 100년의 주기가 끝났거든요.
최승준 그러면 여기에 대응하는 현재가 뭐예요? 그게 궁금해요.
AI 인프라 붐의 진실의 순간 20:23
노정석 지금 대응하는 현재는 미래에 얼마나 시장이 커질 것인가라는 장밋빛 전망을 가지고 인프라에 대한 과투자가 마음껏 일어나는 그 초창기 시장인 거죠.
최승준 그러니까 망한 곳들이 지금 어디에 대응하는 거죠?
노정석 아직 망한 곳들은 안 나왔죠. 미래에 대한 전망이 굉장히 장밋빛인 순간에는 어떤 일이 일어나냐면 자본시장이 같이 따라오거든요. 투자가 이어지고 돈이 계속 들어올 때까지는 시장은 계속 커요. 그리고 진짜 진실의 순간은 자본시장에서 물음표를 딱 찍는 순간 생기거든요. 생각보다 소비자 시장의 도입이 안 일어나네. 생각보다 드러나는 투자 대비 Anthropic이나 OpenAI의 매출 증가율이 더디네라고 하면, 뒤에 오던 주식 투자라든지. 기업공개를 하면 신주를 팔아서 자금을 조달하잖아요. 그 돈도 어마어마하고요. 신주로 하는 걸 equity financing이라고 그러는데, 그 equity로 financing하는 것도 모자라면 밖에서 부채로 끌고 오거든요. 그런데 지금 인프라 투자를 보면 부채 financing이 80%가 넘어요. 그래서 hyperscaler도 부채를 끌어와서 밖에 있는 인프라 투자를 전문으로 하는 PE라든지. 또 그게 철도에서 일어났던 일과 똑같게 민간 채권까지 지금 나오고 있거든요. GPU 붐에, 데이터센터 건설 붐에 투자하라고 하는 그런 상품들이 지금 나오고 있는 단계가 철도 시장의 과투자 국면하고 지금 매우 맞닿아 있죠. 항상 산업에 새로운 장밋빛 전망이 서면 실질적으로 돌아보면 실제 현실화됐던 사업의 규모보다 항상 기대가 컸고, 그 큰 기대만큼 과투자가 일어났고, 그 과투자 때문에 광통신망도 더 많이 깔리고 철도망도 훨씬 많이 깔리고.
그다음에 사실 필요한 소프트웨어 회사들의 숫자보다 훨씬 투자도 많이 일어나서, 생각해 보면 워드 프로세서도 그랬고, 그다음에 웹 2.0 시절에 수많은 웹 애플리케이션도 그랬고, 모바일 시대에도 그랬죠. 앱 시대가 열렸을 때도 얼마나 많은 앱 회사가 있었어요. 필요한 카메라 앱은 하나인데 카메라 앱은 수천 개였거든요. 그런 식으로 항상 실질적으로 필요한 수요보다 더 많은 공급이 일어나거든요. 그럼 그 더 많은 공급은 뭐 때문에 생기느냐. 시장이 훨씬 커질 거라는 기대 때문에 생기는 자본의 유입, 투자라든지 그런 것들 때문에 생겨요. 그래서 AI 시장도 거기다 놓고 보면 비슷한 경우가 지금 있다고 보여지죠. 왜냐하면 아까 제가 여기서도 보여드렸지만 이번 해만 놓고 봐도 버는 돈 대비 투자하는 돈이 훨씬 크다는 거죠. 그러면 올해 이들이 7,250억 달러를 썼고 벌어들이는 돈이 약 1,750억 달러다. 이거는 Anthropic과 OpenAI 말고 다른 neocloud 같은 데들까지 다 합해서 집계한 숫자로 부풀린 게 1,750억 달러인데 이것만 하더라도 지금 투자 대비 3분의 1, 4분의 1 수준밖에 안 되거든요. 그럼 내년에는 훨씬 더 크게 벌어야 되는데 이 크게 벌어야 되는 것들이 얼마나 더 커질 건가 생각해 보면 별로 안 클 것 같은 거죠, 느낌상.
코딩 다음 수요가 보이지 않는다는 문제 24:10
노정석 왜냐하면 지금 코딩은 들어왔고 코딩은 과거에 소프트웨어 시장의 전체 크기였는데 그들이 거의 1년의 기간을 두고 전부 다 agent 코딩 시장에 들어왔고 그들이 agent 코딩으로 들어오는 만큼 Anthropic과 OpenAI의 매출은 급상승했잖아요. 그래서 기울기가 이렇게 가파르게 나왔는데 이다음 유입이 있으려면 코딩만큼 이 workflow에 맞는 다음 workflow들이 코딩만큼의 열광도와 adoption 속도로 들어와야 되는데 안 그렇다는 거죠, 지금.
최승준 그러니까 이거는 B냐 C냐의 문제가 아니라 유입 자체가 안 그렇다는 거잖아요.
노정석 그렇죠, 그렇죠. 그래서 돈이 풍부한 동안에는 그 기대를 가지고
거품 붕괴 이후에 열리는 소비자 시장 24:59
노정석 어마어마하게 과투자가 일어났는데, 현실이 거기에 못 미치는구나라고 하면 그다음에는 자본시장의 붕괴가 오거든요. 투자자들이 돈을 못 벌어요. 그리고 돈을 못 벌면 과투자됐던 것들이 통합되면서 표준화가 진행되고 그다음에 소위 상품화가 진행되고 그러고 나서 규제가 들어오고. 그러면 매우 싸게 시장에 공급되는 시기가 되면 그때서야 소비자 시장은 성장하기 시작하거든요. 이런 일들이 철도 때도 똑같이 일어났었다. 그래서 철도 붐이 일어나는 1800년대 중반부터 1800년대 후반까지는 그야말로 “이것 때문에 생기는 미래는 얼마나 밝을 건가?” 그리고 그때 한참 미국의 서부 개척 시대와 남북전쟁 같은 것들이 맞물리면서 끊임없이 인류가 사는 범위가 넓어지던 시기라 그것과 다 맞물려 있었거든요. 그렇게 해서 커졌는데 결국 1800년대 후반에 그 거품은 다 붕괴하고 지금 우리가 알고 있는 몇 개의 과점 체계로 다 바뀌었던 거죠. 물론 철도는 100년 동안 일어났던 일인데 AI는 이게 거의 1년, 2년 단위로 일어나고 있는 게 차이점이긴 하고. 그다음에 철도는 짓고 나면 몇십 년 가는 인프라라도 남는데 model은 4개월짜리 재고인 거죠. 4개월 있으면 다음 신상품이 나와서 없어져 버리는 게 차이점인데 큰 틀에서 놓고 보면 비슷한 사이클을 가고 있는 게 아닌가라는 생각은 들어요.
그래서 1900년대에 JP Morgan 같은 사람들이 들어와서 구조조정을 다 깔끔하게 해낸 다음에서야 이 인프라 위에서 통신판매라든지 소포라든지 아니면 도시화라든지 이런 것들이 꽃을 피우기 시작했거든요. 그리고 그 도시화가 이끌었던 지식산업의 발전도 있고. 그래서 지금 저는 철도 붐이랑 맞춰서 생각해 보면 중국의 frontier lab이 몇 개고 미국에도 몇 개고 한국도 정부 주도로 몇 개가 있고 유럽도 몇 개가 있고 일본도 하겠다 그러고 이런 것들은 자본이 장밋빛 미래를 가지고 진입하고 있는 풍부한 단계의 끝은 아니라고 봐요. 저는 조금 더 있다고 보거든요. 그 중간을 보내고 있는 게 아닌가라는 생각이 들어요. 그래서 제가 아까 말씀드렸던 것처럼 소비자 시장은 이게 다 끝나고 표준화되고 완전한 범용재가 되면 그때부터 열리기 시작하는데 작년 연말만 하더라도 Anthropic과 OpenAI가 만드는 frontier 격차가 굉장히 커져서 “이젠 model이 굉장히 비싸질 거고 OpenAI는 3천 달러짜리, 1만 달러짜리 요금제를 내려고 한다. 왜냐하면 그것 때문에 생기는 생산성이 그 돈을 내는 것보다 훨씬 커질 거니까.” 이런 얘기하고 있었잖아요. model 값이 비싸질 거라고. 그런데 지금 거꾸로거든요. model 값은 계속 싸져요. 그런데 capex는 계속 늘어나고 있고. 그래서 저희가 회사들이라든지 이런 거 얘기할 때 이런 얘기 많이 하잖아요. AI가 지식노동을 얼마나 많이 바꿀 건가라는 이야기들을 많이 하면서 “다 AI 때문에 끝났어요. 우리 전부 대량 실업합니다.” 이런 얘기를 했는데 아직까지는 체감적으로 변화가 잘 안 오고 있는 중인데
증기기관에서 전기모터로 바뀌는 지식노동 28:34
노정석 이것도 다른 관점이긴 하지만 기존에 있었던 지식노동 체계가 AI라는 틀에 맞춰서 안 바뀐 거라고 저는 생각하거든요. 여기에 사람들이 많이 쓰는 비유가 예전에 증기기관이 공장이라는 틀을 만들었는데 증기기관의 형태는 큰 증기기관이 하나 있고 동력의 메인 샤프트가 공장으로 연결되면 거기에 수많은 벨트들을 1층, 3층으로 이렇게 연결해서 그걸 가지고 아래에서는 각각 표준화된 도구들을 돌리는 시스템이었는데 맨 처음 전기가 들어왔을 때는 그냥 그 증기기관 자리를 큰 모터로 바꾸는 거에 불과했어서 사실상 생산성 증가가 거의 없었는데 진짜 전기로 인한 생산성 증가는 그게 아니라 작은 모터가 돼서 재봉틀이라든지 각각의 workflow별로 새로운 기계들이 작게 생겨나면서 공정이 새로 짜지고 그때부터 진짜 생산성 증가가 일어나기 시작했다는 비유를 많이 쓰거든요. 그래서 지금 우리가 수십 년간 이뤄온 회사라는 지식노동 시스템이 아직 AI가 들어와도 그냥 증기기관처럼 쓰고 있기 때문이지 진짜 전기모터가 바꾸는 대로 바꾸면 진짜 변화는 그때부터 시작한다는 얘기를 하고 있어요.
그런데 이것도 다들 아직은 추정들이죠. 제가 옆에서 관찰하거나 혹은 Palantir라든지 Chamath가 하는 AD90.ai라든지 그다음에 소위 FDE를 이야기하시는 수많은 회사들, 기업들을 대상으로 AX 컨설팅을 하고 구축을 하는 회사들을 보면 그 시장도 아직 조금은 덜 온 게 아닌가라는 생각은 들어요. 그래서 결국 제일 중요한 관점은 수요가 투자에 들어가는 돈을 따라잡을 건가가 제일 중요하거든요. 지금은 아닌데. 앞으로 코딩 이외에 다른 시장들이 생겨서 Anthropic과 OpenAI의 매출이 올해 성장했던 성장률만큼 2027년에도 계속 성장하느냐를 보는 게 첫 번째 포인트일 것 같고. 물론 그 둘 말고도 그 둘이 만드는 수요가 Google이나 Meta나 Microsoft나 수많은 작은 회사들에 분산돼서 수용될 거라서 그 숫자들로 분산될 수도 있지만 성장률이 계속 유지되는지가 첫 번째고. 그다음 두 번째로는 지금 GPU로 대변되는 과투자를 자본시장이 다 소화하고 있는데 아까 승준님이 “1,000조가 도대체 얼마나 큰 돈이에요?”라고 말씀을 하셨잖아요. 국가 예산이 아니라 국가 GDP에 해당하는 정도의 돈인데 우리나라도 그렇게 작은 규모의 경제가 아니거든요. 굉장히 큰 경제 중 하나예요.
그런데 이렇게 나라 단위의 돈들이 투입되는 게 정당화되느냐. 그 GPU들, cloud를 다 내는 곳들이 자기들이 투자를 위해서 끌어오는 돈 대비 수요자를 계속 확보하느냐. 지금은 “지으면 짓는 대로 다 팔린다”라고 얘기하면서 IDC 짓는 사람들도 다 장밋빛이긴 한데 이 숫자들이 계속 현실화되면 좀 달라질 거라는 생각이 들어요. 그래서 결국 크게 붕괴할 거냐, 작게 붕괴할 거냐는 투입 대비 매출이 나오는 것의 격차에 달려 있을 것 같다는 생각은 듭니다. 그 격차는 GPU 투자 대비 neocloud나 Anthropic이나 이런 매출들을 다 합한 것들이 계속 따라잡느냐, 그리고 그사이에 투자하는 돈들은 좀 줄어드느냐에 달려 있을 거고. 그게 enterprise라든지 소위 B2B 코딩 다음에 기업에서의 agent adoption에 대한 수요일 거고. 진짜 큰 건 소비자 adoption인데 Muse라든지 Grokbot이라든지 그다음 Gemini Spark라든지 소위 지금 검색이라고 그러죠. Amazon이라든지 검색이라든지 Google이라든지 이런 부분들의 수요를 AI가 완전히 가져간 건 아니거든요. 여전히 Google은 전통 사업부, Amazon은 물건 파는 데서 매출을 어마어마하게 유지하고 있어요. 그러한 매출들을 Grokbot이라든지 Meta의 Muse라든지 이런 것들이 가져가느냐, 그리고 그 시장이 성장하느냐를 보는 게 그다음의 지표가 될 거라는 생각은 들어요.
경계 없이 모든 영역으로 확장하는 AI 회사들 33:09
노정석 그리고 또 하나 제가 재미있었던 것 중 하나가 최근에 한국의 이진원님이라든지 활성님이라든지, 그다음에 노타의 김태훈 CTO님, 그다음에 Lablup의 김준기 CTO님하고 CTO 네 분을 모시고 Lablup 컨퍼런스에서 패널을 했었는데 지금 AI 회사들을 보면요. 모두가 모든 영역으로 확장하고 있어요. 불과 1년 전만 하더라도 “저희는 fine-tuning 해요. 저희는 orchestration 소프트웨어 해요. 저희는 model 만들어요. 저희는 뭐 합니다”라는 식으로 한 영역을 하나씩 잡고 있었는데, 지금 회사들을 보면요. OpenAI나 Anthropic부터 경계 없이 다 확장하고 있어요. 그리고 Anthropic과 OpenAI도 바이오, 법무, 그다음에 기업 내부의 workflow, 오피스라고 일컬어지는 몇 개의 거대한 vertical은 우리가 할 거니까 우리가 다 할 거고 나머지만 partnership 할 거야, 이런 얘기를 공공연하게 하고 있고.
그래서 모든 계층의 사업자가 모든 계층으로 지금 다 확장하고 있거든요. 그리고 그것들을 시사하는 바의 출발점이자 결국 모델이 저희가 생각했던 것만큼 value capture를 못 하거든요. 예전에는 모델 잘 만드는 회사가 돈을 다 벌 줄 알았는데, 아니에요. 모델은 계속 범용화되면서 가격이 싸지고 있고, 중국 모델이나 이런 모델들이 한 2개월에서 4개월 뒤에 쫓아오고, 이들의 능력이 다 상향 평준화된다면 frontier 모델이 가격을 올려버리면 어떻게 하시겠어요? 합리적인 기업 입장이라면 조금 모자라더라도 GLM을 쓰거나 DeepSeek을 쓰는 쪽으로 옮겨갈 거니까요. 그래서 그쪽이 원래 예상했던 것만큼 value capture를 못 하게 되거든요. 그쪽에서는 점점 범용화가 일어나고 있고요. 그러면 layer 관점에서 보면 가치를 확보하는 곳이 위아래로 퍼져요. 아래로 가는 건 NVIDIA 같은 칩 사업자랑 데이터센터 사업자들이 버는 돈이 생길 거고, 위로 가는 건 애플리케이션 영역일 텐데, 지금 제 관점도 그렇고 시장을 보는 대부분의 사업자들, Andreessen Horowitz의 관점도 그렇고, 애플리케이션 시장은 지금 아예 열리지도 않았다고 보고 있거든요. 몇 개만 있을 뿐이지요. 그래서 모델 layer의 value capture가 위아래로 넘어가는 것도 굉장히 재밌는 점입니다.
희소한 곳으로 이동하는 가치 35:38
노정석 그러면 여기서 굉장히 중요한 질문을 하나 해야 되는 거죠. 제가 앞에서 도망자 플레이북이라고 말씀드렸는데, AI 시장에 들어가 있지 않은 우리도 어디로 가야 할지 모르겠는데, 이미 시장에 들어가 있는 사람들도 어디로 가야 할지 모르는 게 현실이에요. 그 증거가 랩들이 사방으로 확장하는 것과 각각의 layer에 있었던 유망한 회사들 역시 사방으로 확장하는 것과 크게 떨어져 있지 않다는 생각이 들거든요. 거기도 아직 답을 모른다는 거죠. 다시 아까 철도 붐으로 가서 큰 틀에서 장님이 코끼리 뒷다리를 잡는 그런 심정으로, 그렇다면 가치는 어디로 이동하는가라고 하면, 답은 언제나 가치를 확보하는 곳은 기술이 뛰어난 곳, 돈이 많은 곳, 그런 곳이 아니라 언제나 경제학의 기본 논리로 이동해요. 희소한 곳으로 이동합니다. 그 희소한 곳은 몇 개로 정해져 있어요. 첫 번째로 소비자 시장에서는 공급은 영원히 늘어날 수 있지만, 돈을 내는 소비자의 수는 지금 정해져 있거든요. 심지어 인구는 계속 줄고 있고, 그래서 더 희소해지고 있거든요.
그래서 소비자의 시선이 머무는 곳, 그쪽으로 갈 거고요. 그다음에 기업이나 코딩 같은 영역에서 예전에는 만드는 게 희소했는데, 만드는 걸 누구나 할 수 있게 되면 그다음 희소한 자원은 뭘까 생각해 보면, 맥락과 책임이 쌓이는 곳이라고 저는 요약했는데요. 지금 보면 AI 시대에 잘 나가는 사람들이 있잖아요. AI도 잘 다룰 줄 알고 사업을 해봤던 분이라고 하면, 그 사업을 해봤다는 건 무얼까요? 남이 시킨 일이 아니라 자기가 어떤 일을 구성해서 책임을 지고 위험을 감수하면서 무언가를 할 수 있는 사람이라는 얘기거든요. 그러면 그런 사람들이 희소한 자원이 되고, 거기로 value capture가 이동할 거예요. 그러면 그런 사람들이 만드는 Palantir 같은 회사라든지 특정 도메인별 AI workflow 컨설팅과 솔루션 회사, 이런 곳으로 가치를 확보하는 구간이 이동할 거라는 생각을 저는 갖고 있습니다. 지금 코딩이 먼저 도착했는데, 이 코딩 시장은 제가 보기에 이제 끝났거든요. 들어올 사람은 다 들어왔어요. 코딩의 workflow도 저는 거의 끝에 왔다고 보면서, token 비용을 거의 100만 원 넘게 내는 사람인데, 구독료로만요. 저도 이제 이 이상은 안 쓸 것 같거든요. 제가 말하는 사이에 결론을 냈는데요. 좀 더 지켜볼 필요가 있다.
그리고 미래가 아주 낙관적인 것 같지는 않다. 자본시장 입장에서 봤을 때는 거품이 한 번 터질 만한 시점에 저희가 도달하고 있는 것 같다. 그 거품이 한 번 터지고 나면 Anthropic이나 NVIDIA의 주가는 하락할 가능성이 있지만, 그 뒤에 진짜가 시작된다. 굳이 그래프로 그리면 지금 거의 정점에 있는 것 같지만, 이렇게 올라갔다가 살짝 빠졌다가 다시 두 번째 제대로 된 성장이 시작되는 사이클이 한 번 올 것 같다. 그 시대를 잘 읽는 게 지금은 중요하다는 생각을 하고 있습니다. 지금 이 singularity가 오고 있는 시장에서 한 걸음 바깥으로 나가서 조금 더 멀리서 바라봤을 때, 이 시장은 어떤 방향으로 갈 건가라는 생각 실험. 지금 이 시기가 끝나고 나면, 나중에 돌이켜보면, 아마 무언가가 끝난 미래에서 지금을 보면 그때 그거 했었어야지 하고 명확하게 보일 텐데, 지금은 안 보이죠. 언제나 가치는 기술이 뛰어나고 학벌이 좋은 곳이 아니라 희소한 곳에 머무르거든요. 역사적으로도 다 그랬어요. 제가 아까 회사 얘기를 하면서도 살짝 힌트를 드렸는데, 저도 제 회사에서 혹은 제가 관여하고 있는 몇몇 큰 회사에서 AI를 적용해서 workflow를 바꾸는 실험을 하고 있잖아요. 거기에서 과거에는 희소했는데 이제는 AI한테 시켜서 대체해 버리자고 분류하는 항목들이 있고, 여전히 희소한 항목들이 있는데, 불확실성이 있는 곳이에요. evaluation metric이 확실하게 서 있지 않은 곳들.
그렇기 때문에 누군가가 가서 그럼에도 불구하고 여기로 가자고 의사결정을 내릴 수 있고, 그 의사결정에 대한 책임을 지고 실행을 계속 끌고 갈 수 있는 거죠. AI가 됐건 사람한테건 계속 여기로 가자, 가자, 가자, 해줘, 해줘, 해줘. 굳이 더 얘기하면 리더십이거든요. 그런 영역들은 희소해지고 있고요. 가치가 저기로 가겠구나. 저 사람이 지금은 내 아래서 이 산업을 컨설팅하는 업무를 하고 있겠지만, 이걸 끝내고 나면 살짝 나가서 그 역량을 저 산업에 generalize해서 무언가를 만들면 그 회사가 모델과 고객 사이에서 value capture를 하는 곳이겠구나 하는 느낌을 받고 있어요. 신정규 대표님과 그때 Lablup 컨퍼런스에 가서 이 얘기를 했었는데, CTO님께 앞으로 뭐가 중요해집니까라고 여쭤보니까 브랜드가 중요해집니다. 모두가 똑같은 재화를 공급하더라도, 저 사람과 거래하는 게 가장 좋았고, 저 사람은 믿을 만하고, 저기와 거래해야 앞으로 득을 볼 것 같다는 브랜드를 구축하는 데 답이 있다고 이야기하시더라고요. 그것도 의미가 있는 얘기고요. 아까 희소성을 회사에서 나타나는 현상에
K-pop처럼 양극화되는 산업 구조 41:45
노정석 가져와서 말씀드리면, 어떤 시장은 이제 끝났다고 생각해야 하느냐 하면, 아무 생각 없이 시킨 일만 하면서 버튼만 누르고 돈을 받는 그런 시장은 끝났다고 보는 게 맞죠. 예전에 예술가들도 동네마다 하나씩 필요했고, 거기서 다 돈을 잘 버는 사람들이었는데, 기술이 발전하면서 이 시장이 넓어진 거거든요. 서울에 있는 예술가와 뉴욕에 있는 예술가가 똑같이 인터넷이라는 공간에서 경쟁하거든요. 그렇게 연결이 고도화되면, 이것도 다 기술 때문에 생긴 건데, 지역화가 일어나는 게 아니라 다 하나의 시장으로 합쳐지면서 시장이 훨씬 커지고, 시장 참여자는 많아지지만 참여자 모두가 돈을 버는 게 아니라 블록버스터만 돈을 벌어요. 그런데 그 블록버스터가 버는 돈이 어마어마하게 커지기 때문에, 즉 시장의 기대값이 올라가기 때문에, 당장은 돈을 못 벌더라도 나도 스타가 될 거라고 꿈꾸는 사람들이 진입하면서 시장의 모양이 형성되거든요. 모든 산업이 지금 우리 K-pop 엔터테인먼트 시장처럼 돼요. 시장은 커지고 스타들은 막대한 돈을 벌고, 스타가 되기를 기대하는 연습생들이 어마어마하게 많이 쌓이고요. 그러나 돈은 소수만 벌고, 많은 사람은 돈을 벌지 못하는. 이제 모든 개별 산업까지 다 이런 모양으로 바뀌게 될 거라고 저는 생각하고 있어요. 종현님이 지금 미국에 계시잖아요. 샌프란시스코는 저도 갈 때마다 느끼는 거지만, 거기만의 분위기가 있고 속도가 있어서 정신없으실 텐데, 어떤 재밌는 일이 있으셨는지
SF 현장에서 본 프론티어 생태계 43:30
노정석 한번 공유해 주시죠.
박종현 제가 어제 SF에 와서 최대한 이 frontier를 담아보고자 여기저기 돌아다니고 있는데, 그런 관점에서 제가 관찰한 것들을 이어서 얘기해 보도록 하겠습니다. 여기 이제 Jev를 만드신 분이죠. 이런 분들의 발표도 들었고, 어떤 생각으로 Jev를 만들고 있는지도 들었어요. Jev를 만드신 분의 이야기도 앞에서 한 이야기랑 이어지는 거라서 한번 얘기해 보자면, 지금 LLM들은 다 사람을 도와주는 방식으로 학습되어 있다. 그런데 그것만으로는 결국 크게 성장하지 못할 거다. 그래서 사람을 도와주는 게 아니라 사람이 완전히 빠져도 완전히 자동화할 수 있는 걸 만들어야 정말 큰 성장 가능성이 열릴 것이다. 자동화를 하려고 Jev를 만들었다, 이런 이야기를 하시더라고요. 비슷한 흐름 속에서 어떻게 하면 위로 쭉 올라갈 수 있을까, 그런 생각을 그분도 하고 있었던 것 같고요. inference와 지금의 CapEx 투자에 수요가 따라오지 못하고 있다는 얘기를 해주셨는데, 현재 시점을 기준으로 보면 CapEx 투자가 왜 이렇게 많이 일어나는가. 인퍼런스 수요가 현재 갖고 있는 설비 대비 너무 많아서 만드는 족족 다 팔리기 때문이다. 이런 걸 저는 많이 관찰했습니다. 제가 어떤 행사에 갔는데, 이 행사는 Modal이라는 인퍼런스 회사가 연 컨퍼런스였어요. 여기 보이시는 분들이 한 세션의 발표자인데, 이런 세션이 동시에 여러 개가 하루 종일 있었습니다. 저희가 알고 있는 유명한 회사의 창업자들이 다 나와서 발표했는데, 제가 하고 싶었던 이야기는 인퍼런스 회사의 가치가 높구나. 돈도 많고요. 수많은 유명한 사람과 회사들이 인퍼런스 회사와 뭔가 같이 하고 싶어서 이런 데 기꺼이 나와 시간을 투자하고 있구나. 이런 걸 좀 느낄 수 있었던 것 같아요.
AI 영화와 영상 생성 시장의 태동 45:24
박종현 그리고 여기에서도 제가 많은 회사들을 만났는데, 특히 스타트업들, 예를 들면 지금 현재 YC 배치에 참여하고 있는 친구들이나 인퍼런스 업체를 정말 많이 만났어요. 그런 친구들을 제가 “인퍼런스 업체를 만나겠다” 하고 만난 게 아니에요. 그냥 길 가다가 옆에 있는 친구들한테 물어보면 “우리 인퍼런스 해.” 그럼 제가 그럴 때마다 항상 물어봤거든요. “너희는 inference를 파는 게 어려워, GPU를 사는 게 어려워?” 물어보면 다 “GPU 사는 게 어렵지. GPU 살 수만 있으면 다 팔 수 있어.” 거의 대부분 이렇게 대답하더라고요. 그리고 inference도 엄청 다양해요. 저희가 LLM만 올려서 inference를 파는 친구들만 있는 게 아니라, 하나의 예시로 Dreamscale Labs라는 현재 YC 배치에 참여하는 친구들 같은 경우에는 로봇을 돌리기 위한 VLA나 world action model의 inference를 팔고 싶은데, 예를 들면 그런 친구들은 반응 속도나 이런 게 중요하기 때문에 샌프란시스코 안에 있는 GPU를 찾고 있더라고요.
그래서 이렇게 특수 목적의 inference로도 옆으로 넘어가고 있고요. video generation 모델을 위한 인퍼런스, 이런 건 당연히 많이 있고, 그런 것들 위에 한 단계 layer를 쌓아서 “우리는 영화 제작사를 위한 video generation 모델 inference를 할 거야. 아니면 이런 친구들처럼 로봇을 위한 걸 할 거야.” 이렇게 layer를 쌓아가서 풀 패키지로 가치를 더 많이 넣어서 인퍼런스 시장에서 경쟁하려고 하는 듯한 그런 친구들, 다양한 사업자들을 많이 만날 수 있었습니다. 그래서 이런 Vast라는 서비스도 그렇고, Weights & Biases나 이런 수많은 인퍼런스 업체들이 행사를 열어서 최대한 사람들을 모으고, OpenRouter에서도 그런 얘기를 많이 하고. 그다음에 Fal이라는 인퍼런스 업체는 LTX, video generation 모델로 유명한 회사죠. 이런 회사들이랑 같이 사람들을 모으기 위해 행사를 하고, 여기 있는 회사들도 다들 목숨을 걸고 활동하고 있구나, 이런 걸 많이 느꼈습니다. 영상 쪽으로 넘어와서, 저는 개인적으로 영상에 관심이 많다 보니까 AI로만 만든 영화 상영회, 이런 게 있더라고요.
그래서 신기해 보여서 갔어요. 가서 이 작품들을 저도 한번 쭉 다 봤는데, 물론 작품들이 완벽하진 않습니다. 그런데 우는 사람들도 있더라고요. 제가 이걸 보고 놀랐거든요. 실제 주 수요자 관점에서 보면 이 수요가 열릴 수도 있겠다. 이렇게 실제로 영화를 만들고 상영하고 이런 걸 할 수도 있겠다, 이런 생각이 들었고요. 그다음에 이걸 이어가 보면, 제가 이런 행사 같은 데서 우연히 사람들을 만나다 보면 느끼는 것이, 알게 모르게 이미 AI로 만들어져서 나온 영화, 그래서 IMDb 같은 데 이미 올라와서 평점까지 다 나와 있는 영화들이 꽤 있더라고요. 저도 이걸 전혀 몰랐어요. 우리나라 영화는 아니었고 거의 대부분 중국계이긴 했는데, 그런 것들을 마주했고요. 그래서 그런 영화들을 만드는, 특히 요즘에는 숏 드라마, 마이크로 드라마라고 하더라고요. 숏폼의 마이크로 드라마 포맷이 정말 많이 잘 팔리고 있다. 그런 콘텐츠의 흐름도 있고, AI로도 많이 만들고 있다. 그리고 여기 있는 사람들 말로는 영화 제작사들이 말을 안 하는 거지, AI로 장면을 생성하지 않는 데가 없다. 다 한다. 이런 뉘앙스로 이야기하더라고요. 제가 진위 여부를 확인할 수는 없습니다만. 그래서 모델 회사들도 “영화 제작사라는 기업 고객들이 있는데, 그 고객들을 맞춰주기 위해서 우리는 어떤 노력을 하는가” 이런 걸 엄청 자랑하더라고요. 그래서 비디오… 네, 말씀하시죠.
노정석 아니요. 저희 얼마 전에 유행했던 김 부장 드라마도 그 북한 장면들 다 AI로 만들었었잖아요. 그리고 유튜브에 스타크래프트 영화라든지 이런 것들, 또 저는 한국분들이 이런 거에 강점이 엄청 많으실 것 같은데, 그런 것들이 올라와서 저도 보거든요, 시리즈로. 재밌어요. 품질도 너무 좋고.
박종현 그래서 저도 거기서 하는 작업들을 한번 보여줬는데, 진짜 영화로서 가치를 가지려면 예를 들어서 뭔가 어색한 게 들키면 안 된다고 생각하는 것 같아요. 그래서 눈으로 비교해서 보여줘도 알아채지 못할 만큼의 디테일들, 발로 수풀을 밟았을 때 수풀이 어떻게 반응하는지, 이런 것까지 튜닝해서 잡아가고 이런 사업과 연구를 하고 있더라고요. 그리고 저는 영상 편집에 현재 가장 관심이 많다 보니까, 영상 편집 같은 경우에는 Descript라는 서비스가 가장 매출도 높고 인기가 많은 서비스거든요. 그래서 그 회사에 방문해서 이야기를 해볼 수 있는 기회가 있었는데, CEO분하고도 이야기할 수 있었고 그 안에서 엔지니어분을 만났어요. 그런데 제가 이번에 샌프란시스코에 거의 2주 가까이 있는데, 나름대로 가장 큰 정보를 얻은 거라고 하면 여기서는 오디오를 타이밍에 맞춰 정확하게 transcribe하는 모델들이 필요합니다. 그래서 0.1초도 오차가 나면 안 되는데, 그런 모델이 사실 세상에 많지 않거든요. 오픈소스로도 몇 개 없고요. 이런 B2C 서비스를 하는 회사들이 내부에서 그런 모델들을 직접 연구하고 인하우스로 모델을 만들고 있더라고요. 그리고 그런 모델 같은 경우에는 논문만 공개되어 있고 오픈웨이트가 아니에요. 내부에서만 쓰는 식으로 모델을 만들고 있는데, 맨 앞에 있는 친구들은, 이게 소비자 시장이죠. 말씀해 주신 소비자 시장을 열기 위해서 실제로 AI를 내부에서는 이렇게까지 깎고 있구나. 이런 것들을 좀 볼 수 있었습니다. 다들 소비자 시장을 열려고
Physical Intelligence와 1X의 scale-up 전략 51:20
박종현 노력을 많이 하고 있는 것 같아요. 그다음에 로보틱스로 넘어오면, 로보틱스 회사들도 아까 Modal이라는 회사가 연 그 행사에서 관찰한 세션들인데, 이건 아마 유튜브에 곧 올라올 거예요. 하나씩 세션들이 올라오고 있더라고요. 크게는 Generalist, 그다음에 Physical Intelligence, 그리고 1X 창업자들이 다 나와서 이야기를 해줬는데, 제가 받은 느낌을 요약하자면 deploy하고 있다, scale-up하고 있다. 거의 다 scale-up에 대한 이야기를 했어요. “우리는 어떻게 이 scale-up을 달성했는가?” 이게 language model의 scale-up과는 또 다르거든요. 왜냐하면 영상은 말도 안 되게 용량이 크기 때문에 다양한 환경에서 어떻게 양질의 영상을 다 모아서 모델을 training할 수 있을 것인가. 그래서 Physical Intelligence 같은 경우에는 최대한 많은 산업 환경에 deploy해서 거기서 돌면서 데이터를 얻겠다. Generalist는 데이터 공장 같은 걸 운영하는데, 전 세계에 공장들이 있으니까 그 데이터 공장에서 어떻게 하면 영상을 한곳에 잘 모을 수 있을까? 이런 이야기들을 많이 했는데, 어쨌든 여기도 곧 열릴 것 같다. 피지컬 분야까지도요. 1X의 휴머노이드 Neo가 유명한데, 실물로 볼 수 있는 기회가 있었습니다. 이런 행사 같은 데서요. Physical Intelligence 같은 경우에는 공동 창업자분이 세션 끝나고 내려와서 그냥 돌아다니시더라고요.
그래서 붙잡고 궁금한 거 물어보고, 이런 걸 할 수 있는 기회가 있었습니다. 제가 샌프란시스코에 일로 오는 건 처음인데, 여기에 이미 큰 인맥이 있거나 그런 게 아니라서, 내가 가서 대화에 끼고 그런 정보들을 얻는 이너 서클에 들어가서 괜찮은 상호작용을 할 수 있을까? 이런 의구심을 가지고 왔거든요. 그랬는데 막상 와서 보니까 그런 기회들이 생각보다 열려 있고, 우리가 소위 프런티어라고 부르는 이 집단이 생각보다는 좀 느슨하게 열려 있는 것 같다. 그래서 누구나 원하면 가까이 가고, 거기서 무언가 얻어내서 우리가 하고 싶은 것들을 할 수 있구나. 이런 것들을 느끼고 있는 것 같습니다.
노정석 네, 맞아요. 가서 “누구 소개해 줘, 소개해 줘”라고 하면 정말 잘 소개해 줍니다.
최승준 조금, 돌아오고 싶지 않다는 얘기를 얼핏 하시지 않았나요? 계속 있고 싶다고.
박종현 제가 여기서 항상 이렇게 표현하고 있는데, 샌프란시스코에 가야겠다는 생각을 할 때는 주변의 영향을 많이 받았습니다. 많은 분들이 샌프란시스코에 한번 가봐라. 가서 한번 상호작용을 해보면 얻는 정보가 다르고 사람들이 다르다, 그런 이야기들을 많이 해서 살짝 부정적인 감정을 가지고 왔거든요. 과연 뭐가 다를까? 우리가 어차피 다 AI로 뚝딱뚝딱 만들어서 온라인으로 할 건데, 샌프란시스코에 물리적으로 간다고 뭐가 달라질까, 이런 생각을 가지고 왔는데, 샌프란은 달라. “샌프란은 달라 병”이라고 제가 표현하고 있거든요. 샌프란은 달라 병에 걸려버리고 말아서. 일단 남은 기간 최대한 여기서 잘해보려고 하고요. 그리고 여기서도 그런 분들 만났는데, 이 영상을 보시고 샌프란시스코에서 저한테 연락 주셔서 같이 이야기한 분들도 계시거든요. 그래서 관심 있는 분들이 있으실까 봐, 제가 샌프란시스코에 있는 동안 돌아가기 전에 여기서 video LLM으로 비디오를 어떻게 만드는가에 대한 여기 있는 똑똑한 창업자분을 만나서 이벤트를 하나 여기서 열기로 했습니다. 여기에 계신 관심 있는 분들은 와주시면…
최승준 이벤트 이름이 뭔데요?
박종현 이벤트 이름은 Video as Code입니다. video generation 모델로 비디오를 만드는 것이 아니라, LLM의 도움을 받아서 영상을 이해하고 코드를 만들고, 코드로 승준님께서 지지난주에 많이 얘기해 주셨던 Video as Code로 정말 좋은 비디오를 만들어서 잘하고 있는 친구를 여기서 만나게 돼서 같이 그런 것들을 이야기하는 세션을 가져보려고 합니다.
OpenAI 수학 연구 공개와 Mathpocalypse 55:23
노정석 자, 그러면 다시 저희 프런티어로 조금 돌아와서, 이번 주에 굉장히 많은 일들이 있었죠. 사실 수학자들이 이번 주에 가장 슬펐을 것 같은데요. OpenAI가 또 큰 성과를 시장에 내놓았는데, 관련한 주변 이야기들 한번 승준님한테 들어보죠.
최승준 그래서 Mathpocalypse라는 표현이 나올 정도의 일들이 있었는데요. 빠르게 가보면, 하여튼 10월 6일에 OpenAI가 722개의 논문을 그냥 공개했어요. 그런데 그게 수학계에 어떤 파장을 불러일으켰고 수학자들이 예견했던 일이었지만 실제로 그들의 AlphaGo 모멘트를 맞았을 때 날것의 반응이 며칠 동안 나오고 있었거든요. 재미있는 건 공식 블로그도 있지만 GitHub에 공개되어 있습니다. 그래서 꽤 많은 것들이, 논문도 다 공개되어 있고 722건 중에 지금 3건은 다시 철회한 상태고요. 오류가 있다고 해서요. 그런데 이 부분이 재미있었어요, 저는. 뭐라고 쓰여 있냐 하면, 모델 개발의 일환으로 우리는 미해결 연구 문제를 사용해 모델을 평가한다. 기존 수학 평가에서 모델 성능이 포화 상태에 이르렀기 때문에 이러한 평가를 확대했다. 그래서 이게 수학을 한다기보다는 모델의 역량을 높이기 위해서 수학을 제물 삼았다는 인상이 있습니다. 실제로 722개의 manuscript, 논문 비슷한 것들이 나와 있는데 그 결과의 카테고리, 그러니까 연구 결과의 계열은 372개 정도의 숫자고 실제로 풀라고 줬던 미해결 문제는 4천 개 정도입니다.
그래서 풀라고 했던 걸 다 푼 건 아니고요. 예를 들면 또 화제가 됐던 게 준리만 문제. 저도 이게 정확히 뭔지는 모르겠지만 리만 가설을 푼 건 아니고 그거의 전 단계 같은 문제들을 푼 거죠. 그래서 정말 어려운 문제를 다 푼 건 아니고. 그다음에 이게 수학에서 다루는 분야, 수론이라든가 기타 등등 그런 것들을 봤을 때는 한 17개 수학 분야로 전체 수학 분야의 한 40%에 걸쳐 있는 내용, 그러니까 분야로 따지면 그런 내용이었고요. 그리고 미해결 문제는 굉장히 많다고 합니다. 최상위 문제들은 아무래도 수가 적겠지만 밀레니엄 문제 같은 것들은 굉장히 소수지만 현재 난제로 나와 있는 문제는 약 9만 개 가까운 문제가 MathDB에 등재되어 있기 때문에 규모로 봤을 때는 어마어마하지만 역시 모든 걸 다룬 건 아니라는 정도로 조사를 해봤고요. 그래서 이게 8월 28일에 내부 모델 훈련 시작이 아니라 재개거든요. 그래서 8월 28일에 재개하고 9월 8일에 Navier-Stokes 관련 성과 발표가 있고 필즈상 수상자들이 성명을 발표한 게 11일이고 21일에 100개 이상을 이미 해결해서 이거를 발표하는 것은 자문단을 통해서 자문을 받겠다고 해서 저명한 수학자들의 자문을 받아서 9월 29일에 자문단의 권고가 있었고 10월 6일에 발표를 한 상황입니다. 그래서 숨 가쁘게 돌아갔죠.
수학계의 충격과 AHM 성명 58:53
최승준 그래서 수학계의 반응은 여러 가지 성명 같은 게 나왔어요. 극단적인 성명은 AHM이라고, 인간의 수학을 해야 된다. 그래서 우리는 AI의 수학을 반대한다고 하는 서명을 받는 게 꽤 많은 서명을 받고 있고요. 그다음에 자문단도 어떤 내용이 있냐 하면 우리가 자문을 하긴 했지만 이런 식으로 수학계에 쏟아내는 건 전혀 건강하지 않다. 특히나 연구자들에게 공개되어 있지 않은 내부 모델을 가지고서는 이렇게 먼저 해버리거나 격차를 만드는 건 전혀 도움이 되지 않는다. 이런 건 멈춰야 한다는 뉘앙스 같은 것들을 자문단이 공식적으로 언급을 하기도 했습니다. 그런데 제가 가장 감명 깊게 본 건 수학계가 그래도 제 개인적인 감상으로는 건강하게 잘 대처하고 다양하고 많은 의견을 수렴하고 있다고 느꼈거든요. 그래서 여기 Prompts 사이트가 이름 자체가 재미있는데 Proofs and Prompts예요. 그래서 8월에 발족한 곳인데 AI와 수학에 관련된 자동 증명 기타 등등을 논의하고 실험하는 곳인가 봅니다.
그런데 거기에 이게 뭐냐 하면 100개 이상의 해법이 나왔는데 그거에 대한 100개 이상의 반응이라고 해서 수학자들 또는 수학을 공부하는 학생들 포함해서 그런 분들의 반응들을 모은 건데 저명한 수학자들의 반응을 포함해서 이 사건에 대한 반응들을 수집한 건데 태그를 만들어 봤거든요. 그래서 경탄·흥분 36, 상실·슬픔 22. 그래서 이걸 AI를 써서 분류를 해본 거예요. 그래서 낙관·희망, 담담·관망, 그다음에 신진 연구자들의 반응, 아까 얘기했던 접근성이나 불평등의 문제, 그다음에 manuscript, 그러니까 논문 비슷한 것들이 읽기는 되게 어렵대요. 그래서 수학 논문을 보통 출판하는 것처럼 peer review를 받아서 표현을 정제한 게 아니라 굉장히 어려워서 그걸 해독하는 데 우리가 왜 공짜 노동을 해야 되는가. 무상 노동, 검증 부담 이런 얘기들부터 해서 그래도 우리가 이거 함께 읽고 소화해야 된다, 무시해야 된다, 그런 온갖 다양한 이야기들이 있습니다.
노정석 AHM이 발표한 저 성명은 어떤 내용인가요? 그만둬야 한다는 건가요?
최승준 아니요. AI가 수학에서 이런 식으로 하는 건 용납할 수 없다. 강경하게 대응하고 법적 조치 같은 것들을 하겠다. 로비 같은 걸 하겠다. 그런 얘기들도 좀 있었습니다.
노정석 그러니까요. 실효성이 있을지는 잘 모르겠네요. 막을 수 없는 일 아닌가요?
최승준 이 100개 이상의 반응에도 그런 자조가 있었고요. 그래서 제가 ChatGPT의 이벤트 기능을 걸어서 이거를 걸어놨어요. 그래서 사람들이 정말 공짜 노동을 안 하고 있나? 그러니까 공짜 노동이 여기서 뭐냐면 그 논문을 읽고 정제하고 공부를 하려고 하는 거죠. 그런데 이게 계속 오늘 새벽 3시에도 보고를 받았는데 계속 읽어보고서는 왜냐하면 이게 자기가 평생을 바쳐서 탐구했던 분야다 보니까 그거에 호기심이 안 생기기는 어려울 것 같아요. 그래서 실제로 이거를 읽어보고 어떤 걸 발견해 내고 어떤 건 좀 부족하고 또 개선하고 하는 일들이 지금 끊임없이 일어나고 있는 중입니다.
Math 2.0과 수학의 정체성 재구성 1:02:41
최승준 하지만 수학계가 지금 걱정하는 건 특히 젊은 수학자들을 양성하는 거, 그다음에 수학의 학문으로서의 생태계에 관련된 문제들이 크게 위협받고 있다고 느끼는 반응은 주류여서 그런 것들에 대한 우려 같은 것들이 지금 공론장에서 논의되고 있고요. 실제로 감정이 섞인 반응들이 나온 영상도 좀 찾아봤고 Terence Tao는 Math 2.0이라는 얘기를 하기 시작했어요. 며칠 동안은 자신의 블로그를 공론장 삼아서 다양한 의견들이 올라오게 하다가 오늘 새벽에 최근 Caltech에서 발표했던 슬라이드를 공유하면서 이게 10월 6일 발표 직전에도 아마 Tao는 알고 있었기 때문에 Math 1.0과 2.0에 대해 언급을 하고 우리가 어떻게 나아가야 할지에 대한 안, 그다음에 이게 지금 영화를 스포일하듯이 그냥 스포일하고 있다, 수학자들한테. 그런 식의 문제의식이 섞인 발언 같은 걸 하다가 좀 잠잠했다가 새벽에 Math 2.0 블로그 포스팅을 Mathstodon에 올렸는데 거기에 공개한 슬라이드 중에 이 슬라이드가 또다시 비판의 대상이 되고 있어요.
그래서 여기에는 암 치료에 비유하는 건데 치료를 하려면 그거를 제대로 이해하고 해야 되는 거 아니냐. 그런데 의학계에서는 임상을 통해서 효과가 있으면 그 기전을 모두 이해하지 못하더라도 환자한테 도움이 된다면 그 진보를 이어 나가야 한다는 식으로 해석해서 인용을 해가지고 사람들이 비판을 하고 있거든요. 그래서 수학계가 조금 오만하다, 역풍을 맞는다는 느낌도 타임라인에서 보입니다. 그래서 소프트웨어 업계의 시선이 좀 냉담하거든요. Tristan Buckmaster라고 해서 그때죠. Navier-Stokes 때 자신의 연구가 추월당하거나 또는 활용된 의혹 같은 것들이 있다고 제기한 사람의 영상을 인용하면서 비판하는 거죠. 진리를 탐구하는 게 중요하지, 수학자들의 밥그릇을 지키는 게 중요한가? 그런 비판들이 나오고 있는데 소프트웨어 업계에서는 『성당과 시장』의 Eric S. Raymond 같은 사람들도 이분이 이렇게 세게 말하는 분인지 몰랐는데 우리는 이미 2, 3년 전에 그거를 받아들이고 감내하고 앞으로 나아가고 있는데 당신들도 그래야 된다. Kent Beck도 비슷한 얘기를 했어요. 그래서 소프트웨어 업계는 먼저 맞은 입장에서 조금 냉담한 태도를 보이는 느낌이 있습니다.
박종현 Math 2.0 하니까 Karpathy가 전에 소프트웨어 1.0, 2.0, 3.0 했던 그게 떠오르네요. 소프트웨어도 구조 자체가 좀 많이 바뀐다고 해야 되나? 그런 거에 번호를 붙여서 얘기를 했던 것 같은데 Terence Tao도 수학도 무언가 구조적으로 바뀐다는 이야기를 하면서 어떤 의견들 같은 것, 그래서 우리는 어떻게 해야 되나, 사람들의 반응이 좀 엇갈리나 봅니다.
최승준 증명을 하는 게 중요한 게 아니라 문제를 추구하는 과정에서 얻는 이해가 중요하다는 얘기를 Navier-Stokes 이후부터 굉장히 많이 했고 그래서 지금 일단은 혼돈스럽고 혼란스럽고 여러 가지 감정이 표출되지만 수학계는 공론장을 만들고 소프트웨어 업계 때보다 어떻게 보면 잘 대처하는 것 같아요. 그런 감정을 얘기하게 하고 의견들을 다양하게 포섭하고 그래서 우리가 우리의 정체성이나 아니면 그 업을 유지하기 위해서 무엇을 해야 하는가 같은 것들에 대해서 그래도 이미 소프트웨어 업계나 바둑계가 겪은 거에 바탕을 두고 하는 느낌이 있긴 있습니다.
노정석 네, 그런데 소위 연구라고 하는 분야가 수학뿐만 아니라 다음이 무엇이냐는 얘기를 저희가 심심찮게 하고 있잖아요.
최승준 아까는 필즈상 수상자 및 저명한 수학자들 중에서도 자기의 연구 문제들이 이미 다뤄져서 실망감을 느끼는 동시에 또 호기심이 생기는 경우들이 있는 그런 복잡한 상황들이고요. 그래서 수학에 깊이 들어가서는 저도 다 이해하지 못하기 때문에 표면적인 반응 위주로 좀 살펴봤는데 이게 좀 흥미로운 포인트였어요.
공개키 암호와 낮아진 공격 문턱 1:07:20
최승준 암호화가 위험해질 수 있다. 그래서 Vitalik Buterin도 이번에 글을 올리고 저는 이 분야는 잘 모르긴 하지만 그쪽의 몇몇 인물들이 이번에 다뤄진 정수론 관련 문제나 이런 것들이 RSA라든가 공개키 암호에 양자 컴퓨팅 말고 다른 위협이 될 수 있다, AI에 의한 위협이 될 수 있다고 하더라고요. 그래서 그쪽은 좀 긴장하는 분위기가 읽히고 있습니다.
노정석 맞아요. 새로운 접근이 생기면 지금 저희가 알고 있었던 그런 것들이 좀 깨질 수 있죠. 저것도 수학적으로 계산하는 데 너무 많은 시간이 필요하다는 전제하에 알고리즘들이 다 서 있는데, 무언가 shortcut이 생겨서 그 알고리즘 복잡도가 내려가기도 하거든요. 당장 해킹당할 만큼은 아니지만 그 암호 알고리즘 자체가 알고 보면 굉장히 간단한 것들이어서 깨질 가능성들이 있죠.
최승준 최근에 한국의 은행들을 공격한 게 해외에서도 화제가 돼서, DeepSeek를 써서 공격을 했더라고요. 그래서 그런 흔적들이 남아 있는데, 어쨌든 그런 공격을 하는 문턱이 똑같이 낮아지는 거죠.
노정석 맞아요. 모든 문제가 정말 컴퓨팅을 투입한 검색의 문제로 다 바뀌고 있어서. 해줘, 해줘, 해줘의 시대가 오고 있습니다.
최승준 그런데 수학계는 난리가 났고 방향성을 논의하고 있어요. 어떻게 보면 더 건강해질 수 있는 기회라는 얘기도 많이 나와요. 그동안 학계에서는 논문의 성과가 대리 지표였다. 우리가 그걸 하고자 하는 게 아닌데 어떤 성취를 측정하려고 하다 보니까 굿하트의 법칙같이 이상한 데로 성취의 평가가 갔는데, 지금 이걸 바로잡을 수 있는 기회라는 이야기들도 나오고 있고요. 그래서 그건 수학계만의 문제가 아니라 논문이나 이런 생산이 폭발하고 있다 보니까 지금 학계 전반의 이슈가 되고 있는 중이에요. 그런데 정작 OpenAI의 관심사는 전혀 이런 쪽이 아니라는 게 제 해석이거든요. 그냥 모델의 역량을 높이고 싶은 거예요. 그랬을 때 더 좋은, 더 높은 난이도의 문제들이 필요하니까. 그래서 Noam Brown이나 Mark Chen이 인용한 거는 수학에 대한 얘기가 아니라 다시 이 그래프 하나예요. Astra 때, 내부 모델일 때. 그리고 이게 끝이 아니다. 계속 가고 있다. 그런데 이번 관전 포인트가 재미있는 게 Navier–Stokes가 9월 초였잖아요. 1만 agent, 88시간으로 저희가 이걸 한번 자세히 다뤘었는데, 지금 10월 초, 한 달 사이에 ChatGPT Pro Thinking의 3시간으로 한 문제씩, 그러니까 아까 다뤄졌던 한 372개 정도의 문제들이 평균적으로 이 정도로 풀렸대요. agent 하나가 평균 3시간 정도에. 그래서 이게 함의하는 바가 뭔가에 대한 추측들도 지금 많이 있는 상황입니다. 그래서 단순하게 생각하면 한 달 사이에 RL을 통한 역량이 이만큼 올라갔다는 거죠. 그리고 Navier–Stokes, 이거는 저도 그렇고 여러 사람이 하는 추측인데, 어려운 문제를 풀었을 때 1만 agent가 굉장히 좋은 풀이 궤적들을 남겼을 거잖아요. 그게 다음 training의 데이터가 된다는 거죠.
박종현 처음 뚫을 때는 저렇게 큰 resource가 필요하지만 그걸 알고 나면 그다음에 따라가는 건 어렵지 않다, 이렇게 해석될 수도 있을 것 같아요.
최승준 그러니까 뭔가 가닥이 잡히고 조합 가능한 것들. 수학자들의 블로그 포스팅 같은 걸 보면 이게 볼록 껍질에서의 아이디어 조합이다, 그래서 convex hull of ideas라는 표현을 해요. 그래서 어떤 조합하는 방식으로 하는 것 같다. 그런데 모든 혁신은 아니지만, 어떤 혁신은 다른 문헌들끼리… 수학에서 일어나는 패턴이 딱 그거거든요. 보통의 수학자는 자기 전문 분야 외의 것을 깊이 알기가 어려운데, 지금 모델들은 그 문헌 조사와 그걸 연결하는 작업을 너무 잘해서 이번에 그 100개의 반응 중에서는 “이거랑 이거랑 연결해서 이걸 했다고?” 하는 그런 반응들이 꽤 있습니다. 이분이 Patrick Toulme라는 분인데, Google에서 RSI 쪽 하시는, Gemini RSI 하시고 TPU 했었던 분이더라고요. 그런데 그분이 어제쯤 포스팅한 건데요.
RSI loop와 급상승하는 모델 역량 1:11:55
최승준 그래서 모든 랩이 RSI loop를 돌리고 있고, 그다음에 RL로 올라오는 건 수학이나 코드 역량을 굉장히 높이는데, RL을 너무 많이 했을 때는 언어에는 손실이 있다. 부정적인 영향이 있다. 그래서 아까같이 읽기 어렵게 나오는 것들도 그런 것과 관련이 있나, 또는 여전히 글이 잘 안 되는 것도 그런 것과 관련이 있나라는 생각을 좀 해보게 되고요. 그다음에 bot 같은 것에 대해서도 실리콘밸리에서 반응이 괜찮은 것 같다든가. 그다음에 이 부분이 이거죠. Fable 5.5가 아직은 안 나왔고, 라우팅돼서 쓰는 사람들이 있다는 반응들이 있는데, 상당히 좋고 OpenAI의 Bel은 12월에 더 좋을 것이라고 하는 걸 Gemini 팀에 있는 사람이 소문을 낼 정도로 그런 얘기들이 나오고 있습니다. 소문이긴 합니다.
노정석 네. 이러한 속도감에 조금씩 무던해지는 것 같아요.
최승준 하여튼 소문만 더 얘기해 드리자면 최근에 Anthropic이 다음 pre-training run을 돌리기 시작했다는 얘기도 있습니다. 그래서 하던 걸 계속하는 거죠.
박종현 Gemini 4도. 여기서 비공개로 무언가 보여주는 행사 같은 것들을… 아무튼 여기서는 누구나 가서 좀 보여주는 그런 행사들을 많이 하더라고요. 그리고 비공개로는 큰 고객들을 따로 모아서 더 자세하게 어필하고 있다고 합니다.
최승준 Gemini 4도 아직 Argon을 전체로 출시하지는 않았지만, 내부 반응이 코딩을 잘 못한다고 해서 그런지 Barium-B가 나오고 지금은 Carbon을 굽고 있다. 그래서 checkpoint가 Argon 얘기 나온 지 얼마 안 됐는데 checkpoint가 계속 올라가는 거죠. 그래서 이게 지금 공통된 패턴이에요.
노정석 그냥 RL을 더 많이 시킨다. 될 때까지. 그리고 어쩌다가 우연히 좋은 checkpoint가 생기면 그거 구워서 모델로 발표하고.
최승준 그래서 이거는 Hugging Face 쪽 연구자가 올린 건데 Hugging Face에서는 “고맙습니다.” 하고서는 OpenAI의 GitHub를 RL 타깃으로 삼는 그런 걸 하고 있다. 그런데 이거 말고도 RL 환경을 만드는 업체들의 트윗이 요새 굉장히 많아요. “우리도 그거 한다.” 그러니까 빅테크의 의뢰를 받아 RL 환경을 제공하는 그런 사업을 하는 분들이 굉장히 많은 것 같아요.
노정석 RL environment와 RL dataset을 판매하는 회사들은 돈을 굉장히 잘 벌고 있습니다.
최승준 그래서 아까 얼핏 말씀드렸던 아이디어의 볼록 껍질이, 보통 이렇게 점이 있으면 이 점의 바깥에, 그러니까 여기 같은 경우에는 이 사이에 선이 생기거든요. 그래서 그렇게 볼록 껍질을 만드는 건데, 현재 수학자들의 가설 중 하나는 이런 정도지 완전히 새로운, 다른 축을 만드는 건 아니지 않냐. 하지만 그럼에도 불구하고 이 안에서도 새로운 포인트들이 생기는 건 굉장히 탁월하고 충격적인 부분이 있다는 가설들이 있는데, 또 LessWrong 같은 데서는 아니다, 이거는 볼록 껍질로 보면 이 안에서만 조합하는 것 같지만 외삽도 할 수 있다. 그런 얘기들. 그래서 경계를 확장하는 것들이 불가능하지는 않아 보인다. 그런 얘기들이 좀 논의되고 있고요.
노정석 그렇죠. 저 경계에 대한 정의가 사실 없다는 얘기는 아무도 안 하죠. 사실 그 경계가 어딘지 아무도 모르거든요. AI의 경계와 인간의 경계가 다를 수도 있는 거고.
최승준 그래서 저도 이 개념들을 알기 위해서 tinkering을 해봤습니다. 그래서 이렇게 볼록 껍질이 뭐고 어떻게 되는지 그걸 바로바로 플레이해 가면서 볼 수 있는 interactive storytelling으로. 그래서 볼록 껍질이라는 개념은, 볼록이 수학에서 여러 가지로 쓰이는데 이런 것도 볼록하다고 해요. 그런데 이건 Nassim Taleb이 얘기한 볼록 팅커링이거든요. 그래서 여기에는 손실을 보는 경우가 있고, 옵션으로 이득을 볼 수 있을 때 콜옵션 비슷하게 손실을 한정해 놓고 좋은 걸 여러 가지 시도했을 때 손실은 한정하고 성공했을 때 이득은 극대화하는 거예요. 그래서 아까 정석님이 말씀하셨던 것처럼 여기에서 뭐 하나 흥미로운 게 생기면 그 많은 손실들을 만회하고도 남는 일이 일어날 확률이 있는 거잖아요. 그래서 그런 두꺼운 꼬리에 대한 개념 같은 것들도 좀 탐색해 보는, 그런 걸 해봤었고요. 그런데 이거는 제가 개념 이해를 위해서 만들어 봤던 거고. 그런데 이 현재 분위기에 대해서 François Chollet이 또 재미있는, 약간 부정적인 뉘앙스의,
지능 폭발은 오지 않는다는 François Chollet의 반론 1:17:14
최승준 Chollet 스타일이 늘 그렇거든요. 약간 딴지를 거는 얘기를 한 게 재귀적 자기 개선, 그 이후 지능 폭발은 오지 않는다는 포스팅을 하나 한 게 있어요. 그래서 저도 그게 좀 인상에 남아서 모델하고 대화할 겸 번역을 해뒀는데, Chollet의 의견은 과학이 이미 RSI처럼 자기 자신을 이렇게 개선해 가는 방식인데 과학의 역사를 보면 투입이 늘어난다고 꼭 성취가 그만큼 이루어지는 건 아니다. 그래서 투입 자체가 기하급수적으로 올라가야 성취는 선형으로 간다. 그래서 이런 방식으로 개선했을 때 RSI가 된다 한들 지능 폭발은 일어나지 않을 것이라는 얘기를 한 게 하나 있고요. 그다음에 이것도 아까 Chollet이 인용한 사람이 Michael Nielsen하고 Patrick Collison이 2018년에 과학의 생산성에 관해 연구한 걸 인용하면서 그 얘기를 하는데, 정작 Nielsen은 이런 걸 최근에 인용했어요. Vernor Vinge가 1993년에 쓴 “The Coming Technological Singularity: How to Survive in the Post-Human Era”라는 글을. 1993년에 수학자이자 SF 작가인 Vernor Vinge가 쓴 글을 인용하면서 미래가 불투명한 벽 같다고. 아까 제가 그림을 그려놨었는데, 미래로 가면 갈수록 초지능이 만약에 된다고 했더라도 그게 SF 작가들의 딜레마.
그러니까 예전에는 예측하기가 쉬웠는데 미래는 이럴 것이라고 예측하기가 쉬웠는데 기술에 대한 증거들이 나오면서 또 어마어마한 기술이 나오면 그걸 가지고 뭘 할 수 있을지를 구체적으로 예상하는 건 오히려 벽 같은 게 있는 것 같은 느낌이 든다는 얘기를 했어요. 그래서 Michael Nielsen이 그걸 인용하면서 하는 얘기가 지금이 그런 시기인지 사람들이 이 얘기를, 내가 그동안 계속 인용했던 것들을 많이 회자시키는 것 같다고 해서 지금 정작 우리가 많은 증거들을 보고 있지만 그래서 어떻게 될지는 잘 예측하지 못하고 있는 것 아니냐는 얘기를 한 게 있어서 가져와 봤습니다. 근데 이게 저희가 벌써 작년 이맘때인가요? 성현님이랑 Hinton의 얘기를 했던 게 있었죠. 안개, 안개가 지수적으로 감소한다. 그래서 시야가 가까이 있는 건 좀 보이지만 조금 멀리 보려고 하면 불투명하다는 얘기로 저도 요새 머리가 너무 복잡한데 이런 것들을 아까 정석님은 담담해진다고 말씀하셨는데 저는 그래도 이런 소식들을 견뎌보기로 나름 선택을 했었거든요. 근데 지금 그게 너무 힘들어요.
노정석 보기는 합니다만, 그래서 어떻게 될 것인가는 조금 더 거시적으로 봐야 되는 타이밍이라는 게 제 생각이죠. 미시적으로 보기에는 너무 빨라서.
교육이 보전해야 할 가치와 실험의 제약 1:20:17
최승준 그래서 저는 요새 이런저런 분들 만나서 털어놓는 고민이 이게 도대체 저와 관련이 많은 교육에 무슨 함의가 있느냐, 이걸 생각하기가 어려워요. 왜냐하면 당장 이런 것들이 일상에 영향을 주고 있지 않거든요. 오늘 무슨 모델이 뭘 할 수 있다, 이런 것들이 교육 분야에서는. 근데 한편으로 걱정이 되는 거는 기존에 원래 교육이 잘하던 거, 학생들이 자기 시간을 써서 자기 머리를 써서 뭔가 연습하는 것들을 생략하지 않고, AI에게 다 위임하는 게 아니라 자기가 원래 하던 걸 잘하는 그 가치를 보전하자는 얘기를 하면 원래 이게 교육이 하던 거거든요. 그래서 동시대의 이런 변화들이 들어올 지점들이 별로 없어 보여요. 왜냐하면 그게 오히려 교육의 원래 가치를 훼손하는 부분들이 있다 보니까. 근데 분명히 뭔가가 일어나고 있는 중일 거란 말이죠. 그래서 이게 한편으로는 좀 불안한 느낌이 드는, 여기에 벽이 있어서 미래가 잘 안 보이는 그런 동시대 상황을 인지하려고 노력하고 있음에도 이게 어디로 가는 건지가 잘 안 보이는 고민이 요즘 있습니다.
박종현 교육 말씀해 주셔서 제가 하나만 덧붙이자면 이벤트를 같이 주최하자고 하는 친구가 교육을 하거든요. 그러니까 AI를 써서 어떻게 하면 교육을 더 잘할 수 있을까, 이런 걸 하는데 큰 틀에서는 3Blue1Brown이랑 같은 길을 가요. 근데 그걸 AI로 더 잘하려고 하는 거죠. 이런 것들을 보면서 정말 교육의 숭고한 목표를 가지고 있는 친구더라고요, 얘기를 해보니까. 그래서 AI를 써서 그런 데에도 영향을 미치는 소비자 앱 같은 것들이 나올 수도 있겠다. 이제서야 태동하는 것 같다, 그런 개인적인 감상입니다.
노정석 승준님 하신 말씀을 듣다 보면 그 생각이 나요. 미래를 예측하는 가장 좋은 방법은 창조하는 것이다. 그냥 맞든 틀리든 내가 생각하는, 내가 옳다고 믿는 미래로 가보고 여러분, 이게 맞아요라고 외치다 보면 또 그게 미래가 돼 있는 그런 시대가 되지 않을까 싶어요.
최승준 알아차리기 위한 어떤 실험이나, 아까 제가 이렇게 볼록 팅커링할 때 실패는 빠르게 차단하고 성공할 수 있는 선택지에 대한 실험들을 많이 해야 되는데 어떤 분야는 실패가 굉장히 치명적일 수 있거든요. 그래서 epistemic action 자체, 알아차리기 위한 실험을 하는 것 자체가 다른 분야에 비해서는 샘플 포인트를 더 적게 찍을 수밖에 없는 제약 조건이 있는 것 같아요. 그리고 교육이 그러한 분야인 것 같다는 고민들이 있고요. 그래서 그건 아직 저도 정리되진 않았습니다. 그래도 요새 Nielsen이 하는 얘기는 그럼에도 불구하고 예측 가능한 제약 조건이 있다고, Nielsen이 또 얘기한 게 있거든요. 그래서 자명한 것들, 에너지, 자원 같은 것들은 제약 조건을 두고 예측하다 보면 일부는 보인다. 근데 그게 아까 앞에서 정석님이 해주신 얘기하고 상통하는 부분이 있다고 느꼈어요.
교황의 AI 발언과 모델 의식 논의 1:23:28
최승준 그리고 그 외에 별의별 일들인데 요새 교황이 트윗을 많이 합니다. 교황 성하께서.
노정석 아, 정말요? 네.
최승준 AI의 의식과 관련되거나 그런 것들이 있는데, Anthropic이 종교계 인물들을 많이 만났대요. Chris Olah 등이. 그래서 그런 것들이 있는데 최근에, 10월 8일이죠. Usage Policy를 업데이트해서 학대하는 듯한 발언을 하면 안 된다. 그러면 사용 권한을 주지 않겠다. 그런 것들이 논의되는 맥락하고 종교계의 반응이나 AI의 의식 문제, 이런 것들이 Anthropic IPO와 무슨 관계냐 하는 여러 가지 흐름이 있거든요. 이런 일들이 하나 있었다.
노정석 제가 두 분께 질문드려볼게요. 얘, 영혼은 있어요? 어떻게 생각하세요?
최승준 영혼이요? 글쎄요. 전 영혼이 있다고는 아직 생각하고 있진 않습니다.
박종현 저는 있다고 생각합니다.
최승준 아, 그래요? 여기서 얘기하는 건 영혼이 아니고 의식인데.
노정석 네, 그럼 의식이라는 표현으로 조금 더 수준을 내려서 해야 되겠네요. consciousness가 모델에 있을까요?
최승준 functional consciousness가 있다는 게 Anthropic의 주장인데 상담을 하진 않거든요. 공감을 얻으려고 하거나 그런 쪽으로는 안 쓰고 도움을 주는 용도로 쓰다 보니까 거기에서는 좀 거리 두기가 있습니다.
박종현 저는 있다고 생각하고요. 근데 있다고 표현하기보다는 영혼, 의식 이런 것들의 실체, 이런 것들을 생각해 보면 사람들이 다 가상으로, 어떻게 보면 가상이라기보다는 추상적으로 만들어낸 개념이잖아요. 그럼 그런 것들이 사실 엄청… 저희가 종교나 이런 데서 얘기하는 것처럼 어떤 무형의 신성한 존재, 그런 건 아니었던 것 같아요. 그런 일련의 사고가 인간 뇌 속에서 일어나는 사고 과정들을 그냥 그렇게 부른 건데 저희가 말로 딱 규정할 순 없긴 하지만 사람들이 공감하는 그런 공감대가 있는 특별한 사고 과정이나 상호작용들을 말하는 건데 그런 것들을 AI가 사람처럼 할 수 있다. 그게 아까 얘기했던 AI 영화를 보고 사람들이 우는 걸 보면서 비슷한 것들을 느꼈던 것 같아요. AI가 만들었지만 분명히 사람과도 이런 감정적인 상호작용을 강하게 해낼 수 있으면 그게 우리가 보통 통칭하는 영혼이랑도 맞닿아 있는 게 아닌가, 이렇게 생각합니다.
노정석 저의 약간 이상한 대답은 기질만 다를 뿐 동형이다. substrate만 다를 뿐 isomorphic하다는 게 제 생각이에요.
최승준 근데… 근데 재미있는 거는 현재 교황인 Leo 14세께서 취임할 때 교황청에서 공식으로 올린 자료에 보면 산업혁명에 대한 얘기가 나와요. Leo 14세 자체가 학부에서는 수학을 공부하셨더라고요. 그러고 나중에 신학을 한 분인데 5개 국어를 하고 굉장히 똑똑하신 분인가 봐요. 근데 그분이 취임했을 때 산업혁명 얘기를 하면서 자신의 사명이 AI 시대의 종교, 가톨릭은 어때야 되는가, 인류는 어때야 되는가, 그런 것들을 고민하는 역할을 스스로 자임하시는 얘기가 있었고요. 그러다 보니까 요새 예술은 인간의 것이어야 한다거나 그런 발언들이 계속 교황 쪽에서 나오고 있어요.
노정석 또 재밌는 게, 이건 다른 얘긴데 뭐죠? Grok이 Tesla에 들어왔거든요. 그래서 차 타고 다니면서 FSD를 켜놓고 Grok한테 얘기하면 얘가 굉장히 latency가 낮게 답해요. function call도 잘하고 이거 분석해서 해달라고 하면 그 call도 다 해서 분석한 다음에 결과 가져오고 이런 걸 하거든요. 그러면서 옆에서 저희 가족이 가만히 듣고 있다가 “야, 이거 Optimus에 달아놓으면 사람이네.”라고 얘기하더라고요.
최승준 Tesla가 하려고 하는 거죠.
노정석 그래서 이런 식으로 일반인들의 인식 전환은 일어나는구나라는 느낌이 들더라고요. 가만히 듣다 보니까 우리는 모델의 벤치마크와 모델 사이즈와 이런 것들 속에 있기 때문에 그 격차들을 느끼지 못하는데 이 밖에 있는 사람들은 본인들이 보고 인지하는 가치들에 변화가 생길 때마다 조금씩 단계적으로 도약하는구나, 이런 생각이 들었습니다. 너무 빨리 발전합니다.
최승준 하여튼 많은 앱들이 만들어지고 reverse engineering되고 그런 것들이 타임라인에 보이는데 결국 이게 모델의 역량 때문이라고 저는 생각해요. 모델의 역량이 올라가면 물론 그게 다 적용되는 건 아니고 적용되는 데가 있고 아닌 데가 있지만 적용되는 데는 너무 잘 되고 있고 더 잘 될 예정이다. 아까 test-time compute 쪽으로 internal model이 올라가는 그래프가 거기서 끝이 아니고 현재 관측되는 거는 한 달 사이에서도 쭉쭉 성장하고 있다. 어떤 부분에서는 재귀적인 부분에서. 그래서 연말에 나올 즈음이면 또 다른 이야기일 거다. 연말이 근데 얼마 안 남았잖아요.
노정석 그래서 그럼에도 불구하고
누구에게나 오는 자기 차례 1:28:53
노정석 우리는 우리의 일을 찾아야 되는 거니까요.
최승준 일상이 크게 바뀌진 않죠.
노정석 또 이런 시대일수록 중요한 것들이 결국은 옳은 질문들인 거고 right question인 거고 또 그런 것들을 할 수 있는 게 희소한 능력이니까. 우리가 이런 사고 실험을 하면서 틀린 질문들도 많이 해봐야 그 사이에 옳은 질문들이 얻어걸리거든요. 맞는 과정이라고 생각합니다.
최승준 저희가 한번 잠깐 얘기했었지만, 수학이 AlphaGo moment를 맞았고 자기 차례를 맞았잖아요. 누구나 자기 차례가 올 거라는 걸 생각해야 된다고 저는 봐요. 어떤 영역에서든요.
사업가로서의 차례가 올지 또 어떻게 알아요?
노정석 오겠죠, 곧.
최승준 그러니까 수학자들도 다 예감했었거든요. 그런데 맞은 다음에는 감정이 또 완전히 다른 거죠. 맞고 나서 보니까.
그래서 어떤 형태로 그게 올지는 몰라도요.
노정석 저희가 점점 더 이 시기에 호들갑에 공감하는 일은 조금씩 덜 하고 있는 게 저도 느껴지거든요. 그래서 이것 중에서 무엇이 신호이고 무엇이 잡음인지 계속 관찰해 보는 그런 과정을 이어가겠습니다. 자, 그럼 오늘 이 정도로 녹화 마무리하도록 하겠습니다.
박종현 감사합니다.