EP 122
결국 기울기가 문제다: METR 보고서, weight-space programming, Agent Market
증시 급락에도 끝나지 않은 AI: 2단 기어로 바뀌는 시점 00:00
노정석 녹화하고 있는 오늘은 2026년 11월 7일, 토요일 아침입니다. 이번 주는 그야말로 드라마틱했습니다. 미국의 중간 선거가 있었고, 또 주식 시장이 굉장히 많이 가라앉았죠. FOMO가 있다면 “나 이번 기회를 놓치는 거 아니야? 주식을 사야지.”라는 게 있다면, 거꾸로 “아, 이번에 끝난 거 아니야? 빨리 내려야지.”라는 그런 게 있고, 또 아마 자산 시장이나 금융 쪽에서도 이 추세를 더 가속화하는 쪽으로 항상 프로그램이 동작하니까 시장이 정말 어마어마하게 내려앉은 것 같습니다. 그것 때문에 분위기도 안 좋고요.
그런데 이게 정말 AI 거품의 끝이냐는 질문을 해보면, 전혀 아니에요. 어쩌면 기어를 살짝 바꿔 끼고 무언가 분위기가 그다음으로 넘어가는 단계가 아닌가라는 생각이 들거든요. 저희도 계속 Anthropic의 S-1 filing이라든지 이런 걸 다루면서 매출이 줄어들고 있다, 코딩은 다 들어왔는데 다음에 있는 지식 노동들이 들어오는 속도가 빠르지 않다, 이런 이야기들을 했었는데요.
그럼에도 불구하고 저희가 느끼는 건 많은 기업들, 그다음에 고용 시장도 그렇고 이런 쪽으로 가는 방향들에 대해서 모두가 다 “그건 당연히 일어날 일”이라고 생각하고 있는 게 아닌가란 생각이 듭니다. 그래서 여전히 이건 끝났다고 생각하는 것보다는 앞으로 더 큰일이 벌어진다, 진짜 변화가 시작되는 2단 기어 시점이라고 생각하는 게 저는 옳은 판단이라고 생각하고 있고요.
또 그런 취지에서 오늘 승준님과 함께 저희가 지난 몇 주간 인문학스러운 큰 사고 실험들을 하면서 썼다면, 이제 실질적으로 시장에서 어떤 변화가 일어나고 있는지 그 주요한 포인트들을 조금 살펴볼 예정이고, 또 종현님과 함께 에이전트들이 실제 경제에 참여하면 어떤 일들이 벌어질까? 재미있는 몇 가지 시도와 실험, 회사들이 있는데 그런 것도 한번 살펴보도록 하겠습니다. 그럼 승준님, 어떤 일들이 있었습니까?
출시가 미뤄진 GPT-6.2와 Fable 5.5를 둘러싼 눈치게임 02:08
최승준 일단 이번 주, 그러니까 오늘 새벽에 Astra, 그러니까 GPT-6.2하고 Fable 5.5가 되든 뭐가 되든 나오지 않을까라는 기대감이 많았는데요. 실제로 나오진 않았습니다. 그래서 왜 나오지 않았나. 일단 이게 왜 중요한가를 생각해 보면, 슬슬 9월과 10월 수학 등에서 성취를 냈던 인터널 모델 그 자체는 아니지만 그 계보로 추정할 수 있는 모델이 나올 타이밍이거든요. Sam Altman 등이 이미 공언했었어요. 12월 전에 한 번 낼 것 같다.
그래서 인터널 모델이 굉장히 persistent한 거, 굉장히 끈질기게 추구하다 보니까 오히려 문제를 일으키기도 하는 그런 모델이라고 했고, 그러다 보니까 수학 등의 문제들을 잘 풀어냈던 거로 보고 그걸 실제로 사용자들이 만나게 되는 차례가 이번 차례가 아닌가 기대했는데 나오지 않았어요.
소문은 굉장히 무성했거든요. 그래서 Thibault Sottiaux가 이상한 말을 한 거에도 이상한 해석을 하면서 금요일이면 드디어 나올 거라고 했는데, 사람들이 새벽 내내 기다렸지만, 그러니까 미국 시간으로는 밤늦게까지 기다렸지만 나오지 않았습니다.
물론 하루 전날에는 GPT Cyber가 나왔고 여러 가지 문서들은 나왔어요. 그런데 Vals AI라는 곳에서 트윗한 걸 봤는데, 그 인터널 모델들이 안전에 대한 문제들이 좀 있는 것 같다. 그래서 우리가 지금 감사 중이다. 그런 뉘앙스의 글을 올린 게 있습니다.
그런데 이미 Astra가 6.1도 안 나왔잖아요. Sol은 6.1이에요. 그런데 6.1을 건너뛰고 6.2가 나온다는 소문이거든요. 그런데 6.1이 안 나왔던 것도 안전 기준 미달이었어요. 그래서 그때도 작업 지속 능력이 커진 만큼 무단 행동이 위험하다는 얘기들이 뉴스로 나왔었는데요.
이번에 마침 11월 4일에 안전 쪽에서 OpenAI가 공개한 문서거든요. 그런데 여기서도 핵심은 sandbagging 하는 거, 안전 연구를 수행할 수 있는데도 불구하고 못 한다고 거절하는 그런 것에 대한 기만적인 행위가 인터널 모델에 있었고, 그런 것들이 혹시라도 관련이 있어서 아직 내고는 싶은데 못 내는 상황이 아닌가.
또는 그런 이유가 아니라 지금 경쟁과 경제적인 측면에서 서로 타이밍을 보고 있다. 양쪽에 Fable 5.5도 라우팅된다는 소문이 많았어요. 실제로 인터넷에 올라오는 걸 보면, 써본 사람이 있다. 그다음에 대단하다는 얘기들이 있고요.
OpenAI의 GPT-6.2도 어딘가의 모델에 들어와 있는 경우들이 있는 것 같다. 물론 다 소문이긴 합니다만. 그래서 그런 것들이 먼저 낸 쪽이 유리할까, 불리할까 이런 걸 두고 간을 보는 게 아닌가. 제가 제목을 눈치게임으로 잡았던 거고요. 그래서 이번 주는 아니었습니다.
노정석 그러나 조만간 일어날 일은 맞겠네요.
최승준 그렇죠. 나올 거라고 봅니다. 그리고 한판 승부를 해야 하는 타이밍이고요. 그런데 이번 주에 이슈가 많이 됐던 건 METR의 보고서였어요. 이건 Anthropic의 AI R&D 가속에 대한 독립 평가거든요.
Anthropic의 AI R&D 가속에 대한 METR 독립 평가 05:08
최승준 저희가 이미 겪었던 게 OpenAI의 해킹 사건 등으로 인해서 빅테크에서 공언한 게 우리는 외부 기관이 상주하는 독립 감사 같은 걸 하고 있고 더 잘할 계획이다. 그래서 그게 OpenAI에서 이슈가 됐던 건 METR하고 갈등이 있었거든요. 그 뒤에요. 뭐냐 하면 안전 연구원 3명을 해고했어요. 그게 추측건대 METR에게 우리의 민감한 정보를 준 거 아닌가? 그런 얘기들이 좀 있긴 했었습니다.
그래서 OpenAI는 METR하고 날을 세운 부분이 있었고, Anthropic은 이번에 이 보고서가 나온 이유가 독립적으로 그걸 할 수 있게 하는 권한을 예전보다 더 열어줘서 보고서가 나오게 됐어요. 100페이지 정도 되는 보고서인데요.
저번에 METR, OpenAI 해킹 사건에 참여했던 Ryan Greenblatt은 이번 보고서의 작성자는 아니에요. 그런데 Ajeya Cotra는 작성자거든요. 그래서 Ajeya Cotra의 트윗을 보니까 이게 참 아쉬운 게 Anthropic에서 최종 보고서에서 지운 것들이 많다. 그래서 우리가 그걸 말할 수는 없지만 그 의미를 어떻게든 다른 방식으로 전달하기 위해서 노력하는 트윗들이 좀 있었어요.
박종현 METR에 대해 좀 질문을 드리자면, 그냥 저희가 AAII 보는 것처럼 그런 벤치마크가 아니라 내부에 같이 들어가서 어떤 변화가 있었는지 이런 것들을 자세히 같이 보고 그걸 다시 분석해 주는 거죠. 그러면 METR 같은 경우에는 모델을 만드는 OpenAI나 Anthropic, 이런 회사들 입장에서는 어떤 유인이 있길래 METR과 그런 작업들을 하는 건가요?
제3자 안전 감사와 METR의 역할 07:02
최승준 결국 정렬이나 안전 문제가 중요하다 보니까요. METR은 거기에 특화돼 있어요. 우리가 METR을 주목하게 된 건 long-horizon task에 관련된 그래프 때문에 주목했었잖아요. 결국 이들의 유인은 공인된 기관, 그러니까 제3자 기관으로부터 내부의 보고서만이 아니라 제3자 기관으로부터 정렬이나 안전 문제에 대해서 감사를 받는다는 거죠. 그런데 이건 다 강제가 아니라 자발적인 거거든요. 그러니까 이건 어떻게 보면 전략인 것 같아요. 우리가 그쪽도 잘하고 있다. 실제로 어떤지는 모르겠습니다.
두 배로 가팔라진 진보: Claude 2.1에서 Sonnet 4.5까지 07:47
최승준 이번 보고서의 TL;DR로 아주 거칠고 간단하게 요약하면 그거예요. 2023년 10월부터 2025년 10월, 그리고 이 보고서가 완료된 게 아마 2026년 10월일 거예요. 그래서 대략 Claude 2.1에서 Sonnet 4.5까지 갔던 기간의 진보를 2025년 10월부터 2026년 10월까지 1년 사이에 이뤄냈다는 거예요. 그러니까 기울기가 두 배 정도 가팔라졌다는 거거든요. 이게 기울기, 결국 기울기가 문제인 거잖아요.
그래서 Ryan Greenblatt이 그냥 이 상태에서만 보더라도 RSI가 문제다. 그래서 자신이 이 보고서를 보고서는 나의 예측을 수정해야 된다는 얘기를 했었고요. 그다음에 Daniel Kokotajlo는 AI 2027을 만든 사람 중 한 명이잖아요. OpenAI의 미래 예측 연구원이었다가 어떤 이유로 퇴사하고 자기 지분을 포기하고 목소리를 내기로 했던 사람 중 한 명인데요.
Daniel Kokotajlo, Scott Alexander 등이 해서 2024년 초였나요? 4월쯤에 이 보고서를 내서 AI가 2027년까지 어떤 식으로 될 거냐. 그런데 이게 요새 다시 회자되는 이유가 이들이 예측한 것의 한 80% 이상이 지금 맞아떨어지고 있다. 그리고 일부는 이들의 예측보다도 더 빠르게 일어난 부분들이 있다는 거예요.
그리고 이들이 다시, 인물들은 좀 달라지긴 했습니다만, Daniel Kokotajlo가 들어가서 올해 AI 2040이라는 보고서를 만들었던 팀이기도 한… 그래서 여러 가지 이슈가 됐고 갑론을박이 일어나긴 하는데, 이 시기에 이게 나오는 게 좀 공교롭긴 한데, 결국 제가 메시지를 읽기로는 시장에서는 이런저런 반응이 있는데 이 보고서를 봤을 때는 다시 하이프 쪽이 되는 느낌… 여전히 이게 가파르게 가고 있다는 거고, 그래서 걱정해야 된다.
동전의 양면인 하이프와 AI 안전 우려 09:23
최승준 그러니까 하이프와 안전에 대한 우려는 동전의 양면, 지난 시간에 저희가 다뤘던 것처럼 같이 가는 거거든요.
노정석 네. 그래서 계속 이렇게 정반합이라고 하잖아요. 끊임없이 어떤 가정이 서고 그걸 반박하는 게 나왔다가, 거기에 대해서 두 개가 이렇게 소위 절충한다고 그러죠. 이렇게 같이 합쳐지면서 그다음 단계로 나아가고 나아가고.
주가 그래프도 보면 올라가다 내려가다 올라가다 내려가다 하지만, 어느 순간 새로운 바닥이 생기면 또 그걸 밟고 올라가잖아요. 그래서 그 사이에 무언가 단절이 있고요.
그건 다시 철학 얘기로 돌아갈 수 있으니까 이 정도에서 마무리하고요.
박종현 제가 받은 느낌은 시장에서는 무언가 주가가 떨어지고 이런 일들이 벌어졌지만, 모델만 딱 놓고 봤을 때는 저희가 한 번도 멈췄던 적이 없었다는 느낌을 받고 있습니다. 여기까지 포함해서요.
폭증하는 컴퓨트와 앞당겨진 ASI 전망 10:38
노정석 맞습니다. 그래요. 그리고 저희가 주의 깊게 봐야 할 게 지금까지 진보를 이루는 데 들어간 컴퓨트의 총량이 그렇게 크지 않아요. 10GW 미만이라고도 하거든요. 10GW 이하의 전력으로 지금 저희 pre-training과 inference를 다 담당하면서 왔거든요.
그런데 지금 건설돼서 2027년에 가동한다, 2028년쯤 이렇게 예상하는 것들을 보면 몇십 GW 수준의 데이터센터들이 지금 건설 중에 있고, 여전히 칩들은 만들어지고 있잖아요.
사람들이 컴퓨트 용량을 늘리면 늘릴수록 계속해서 진보한다는 방향성은 모두가 지금 깨닫고 있잖아요. 그런데 지금까지 저희가 투입했던 규모보다 몇 배, 몇십 배가 되는 규모의 컴퓨트가 지금 투입될 예정이니, 가격이 싸질 거라는 건 우리 같은 사람들한텐 좋은 거지만, 저희가 지금 무서워하거나 아니면 예측하거나 ASI가 이런 모양이 아닐까라고 얘기하는 그런 상상들이 10년 후가 아니라 1, 2년 후에 닥칠 거라고 생각하는 게 저는 맞지 않을까란 생각이 듭니다.
최승준 그래서 2027이 이래저래 그런 것들을 많이 보여주는 해가 될 거… 2026년이 슬슬 저물어가니까요. 그래서 Daniel Kokotajlo가 여기서 또 두려운 얘기가 있는 것 같다고 해서 S1 document에 무슨 업데이트가 있었는데 그런 얘기도 한 게 있고요.
AI R&D 생태계: 재귀적으로 높아지는 연구자 생산성 12:03
최승준 근데 제가 정작 재밌게 본 거는 Hugging Face의 공동 창업자죠. Thomas Wolf가 METR 리포트를 읽었을 때 우리가 내부 상황만의 문제가 아니라 AI R&D acceleration, 가속이라는 게 자기가 보기에는 symbiosis, 그러니까 어떤 공생의 관계가 있는 것까지 같이 봐야 된다.
그래서 RL 환경을 만들고 파는 회사들하고 데이터 회사들이 어떻게 여기에 연루되어 있고 영향을 주고받는지 같은 것들을 큰 그림에서 같이 봐야 된다는 데 포인트를 줘서 저도 좀 찾아봤는데 재미있게도 그런 회사들이 예전보다 확 늘어난 느낌이더라고요.
제가 아는 거는 Scale AI 정도였는데 Surge AI, 데이터랑 RL 환경. Mercor, 법률이나 금융 쪽. 그다음에 Turing, 소프트웨어 엔지니어링이랑 STEM 문제를 위한 데이터와 RL 환경 공급. 그다음에 AfterQuery, 약점을 먼저 찾아내는 기업이래요.
그래서 Thomas Wolf가 잡은 포인트가 이런 기업들이 먼저 모델의 역량을 알아채고 있을 것이라는 거였어요. 어떻게 보면 당연하죠.
노정석 그런 것들을 미리 찾아내야 프론티어 랩에 팔 수 있거든요, 데이터셋을. 너네 이런 거 없지, 하면서 가져가야죠.
최승준 포인트는 내부자만이 아니라 이런 것들에 연루되어 있는 팀들이 다 현재 인터널 모델의 역량을 알아채고 있는 상황이라는 거죠. 그래서 Prime Intellect도 있고 생각보다 많았다는 거였어요.
그다음에 이것도 아까 했던 얘기예요. 이게 Ajeya Cotra가 공개하고 공유한 건데 완전히 RSI로 자기 개선이 되진 않더라도 연구자들의 생산성이 어마어마하게 향상됐다는 거죠. 내부에서 모델을 쓰면 쓸수록 그런 것들이 사람을 통한 재귀적인 되먹임이 있는 상태, 그리고 그게 가팔라지고 있다, 그런 얘기였습니다.
그리고 이거는 양자 컴퓨팅 분야에서 풀리지 않았던 걸 OpenAI, Anthropic의 내부 모델로 해냈다. 저도 자세히 살펴보진 않았는데 오늘 새벽에 나왔다고 해서 이걸 굳이 넣은 이유는 역량에 대한 얘기가 계속 나오고 있다는 거고요.
지식노동 전반으로 넓어지는 벤치마크와 RL 환경 14:20
최승준 그다음에 벤치마크는 이건 그냥 재미 삼아 볼 수 있을 것 같은데 Dwarkesh, 개인인 Dwarkesh가 이제는 벤치마크를 만들어요.
노정석 Clocktower Bench야.
최승준 그래서 일찍 Noam Brown이 한번 언급하긴 했는데, 여기서 보면 왜 언급했냐면 GPT 시리즈가 더 잘했거든요. 그래서 이건 일종의 게임을 가지고 하는 건데 이런 걸 자기가 만들어서 혼자서 하진 않았겠죠. 그거에 대한 의미를 짚은 게 있고요.
또 재미있게 본 거는 SemiAnalysis, 룸메이트죠. GDPx라는 벤치마크를 만들었어요. 그러니까 GDPval이 거의 80% 정도가 되다 보니까 GDP에 관련된 걸 여기서는 Opus가 더 앞섰네요.
그래서 다양한 업무에 대한 벤치마크들을 만드는. 근데 이게 다 비슷하게 느껴져요. 앞에 RL 환경 하는 데들과 비슷하게 느껴지는 이유는 그런 식으로 측정하고 테스트해 볼 수 있는 뭔가를 만들면 거기에서는 다 역량의 hill climbing이 일어나니까 그런 것들이 계속 더 촘촘해지고 있는 요즘이라고 느껴집니다.
노정석 와, 저희 한 1, 2년 전만 하더라도 벤치마크들이 거의 대부분 뻔한 것들이었는데. 코딩에 관련된 것들이든 아니면 문제 풀이, 대학원 문제, 대학생 문제 이런 것들이었는데 이제는 경제 전반의 모든 지식노동이 벤치마크의 대상으로 들어가고 거기에서도 가파른 hill climbing이 일어나고 있다는 게 참 놀라운 사실인 것 같습니다.
최승준 그러니까 분명히 모든 걸 일반화해서 자동으로 역량이 상승하는 건 아닌데, 그런 도메인들 사이에 비어 있는 곳들을 촘촘하게 공략하고 있다는 느낌을 받긴 하죠.
박종현 프론티어 랩들이 저런 문제들을 사는 데 어떻게 보면 혈안이 되어 있다 보니까 그 문제 자체가, 그러니까 벤치 자체가 곧 RL 데이터라서 좋은 벤치를 만드는 것 자체가 인센티브가 크다 보니까 많은 회사들이 나오고 많은 사람들이 다 저런 것들을 하게 되고 가속되는 흐름이 이어지고 있는 것 같습니다.
최승준 저런 스타트업은 돈을 벌고 있을 것 같아요.
노정석 근데 그 스타트업들이 사실은 그 도메인을 데이터셋으로 패키징해서 프론티어 랩에 공급해 버리는 거고 그게 굉장히 용이한 도메인들은 사실은 프론티어 랩의 기능으로 부속돼 버리는 거거든요. 그럼 그 업계에 속해 있거나 혹은 그 안에서 무언가 사업을 만들고 싶었던 스타트업 입장에서는 위험한 거죠.
최승준 그리고 종현님도 재미있게 보셨다고 얼핏 저번에 톡에서 말씀 주셨는데 weight-space programming이라는 게 또 화제가 됐어요, 타임라인에.
weights만 보고 모델을 고치는 weight-space programming 16:54
박종현 이걸 보고 이게 말이 되나? 이런 생각이 들었거든요. 이거 로봇 쪽에서도 똑같이 실험하고 있더라고요.
최승준 어떤 실험을 했죠?
박종현 weight-space programming이라는 걸 설명해 주시겠지만, 간단히 먼저 설명하자면 예를 들면 Astra가 Qwen에 있는 모델들 안을 뜯어서 거기 있는 weights를 바꿔서 학습을 통한 게 아니라 직접 수동으로 뇌 수술을 해서 어떤 기능을 바꾸거나 그런 거잖아요. 그걸 로봇 쪽에 있는 Physical Intelligence의 π 모델에도 하고 계신 분이 있더라고요. 만약에 진짜로 그런 게 가능하다면 어떻게 보면 학습하는 것보다 그쪽에서는 이게 더 잘될 수도 있지 않을까 그런 생각이 좀 들었습니다.
노정석 이걸 인간의 입장에서 해석해 보면 모델의 weights가 무슨 일을 하고 있다는 걸 알고 있다는 거 아닌가요?
최승준 그렇죠. 그래서 이게 재밌는 부분이 두 가지 측면에서 볼 수 있는데 하나는 어떠한 circuit이 있는지를 모델이 weights만 보고 아는 거예요. 그래서 weights만 보고 이게 Breakout이다, 다른 게임이다, 그런 것들을 알 수 있는 능력이 있고요. 하나는 직접 쓰는 거거든요. 근데 차라리 직접 쓰는 게 쉬워요. 왜냐하면 그건 룰로 일종의 프로그래밍을 하는 거기 때문에 차라리 쉬운데, 거대한 네트워크 안에서 이 circuit이 무슨 회로인지를 이해하는 게 좀 더 난도가 높다고 하더라고요.
근데 여기서 한 것들은 상대적으로 작은 모델에 대해서 한 거기 때문에 이게 scaling이 된다고 보기는 어렵지만 종현님이 표현해 주신 그대로 뇌 수술을 해버리는 거예요. 자기는 아니지만 자기보다 낮은 모델의 뇌 수술을 하기 위해서는 어디에 병변이 있는지를 알아차릴 수 있어야 되고, 그냥 weights를 보고서요. 그다음에 그 부분에서 rewiring을 하거나 숫자를 바꿔버리는데 그게 작동한다는 거죠.
그러니까 이게 화제가 되다 보니까 과장된 부분들도 있긴 하지만 수학 성능이 확 향상한 부분은 Qwen에서 반복하다가 다음 단계로 안 나가고 반복하는 부분이 조금 꼬여 있었는데 그걸 한번 해결해 줬더니 잘 풀리게 됐던 부분이 있고요.
그거 외에는 그래도 어떤 부분들의 역량을 향상시키는 걸 블랙 매직처럼 해버렸다는 건데 그게 왜 가능했을까에 대해서는 많은 사람들이 지금 Astra가 하는 게 SAE 같은 게 나오기 전에 Mechanistic Interpretability에서 했던 기법들을 많이 쓴다, 그러니까 완전히 날로 한 게 아니라 Python 도구를 써서 조금 바꿔보고 어떻게 성능 향상이 있는지 테스트하고, 이게 어디에 연결됐는지 같은 것들을 실험하는 방식으로 했기 때문에 아주 놀라운 일은 아니라고 평가절하하는 사람들도 있긴 하지만 거시적으로 봤을 때는 깜짝 놀랄 만한 얘기긴 하죠.
박종현 저도 이걸 맨 처음에 듣고 진짜 믿기지가 않아서요. 저희가 인간의 관점에서 보면 저 weights의 숫자를 보고 이게 무슨 역할을 하는지 알아낸다는 게 진짜 어려운 일이잖아요. 옛날에 CNN 시절에도 이런 걸 알아내려고 엄청 노력했었고요. 그런데 잘하지는 못했죠.
그래서 제가 주변에 이거 혹시 해봤냐고 물어봤는데 직접 해보신 분들이 계시더라고요. 그랬더니 진짜 잘 되냐고 물었더니 얼추 무언가 변화가 눈에 보일 정도로 있긴 하다고 하더라고요.
제가 그걸 보고 재미로라도 한번 해봐야겠다, 이건 후속으로 살펴봐야겠다, 그런 정도의 소식인 것 같다, 이런 의견이 있습니다.
뉴런 탐색으로 해석하는 모델 회로 20:27
노정석 그런데 이게 부동소수점 숫자들을 배열로 읽고 그걸 바로 수술했다기보다는 바깥에서 input, output을 걸면서 실험해 보고 어디서 뉴런의 firing이 일어나고 그게 먹히는지 보면서 거기에 맞춰 뒤에서 한 거군요.
최승준 하지만 그걸 하는 것 자체도 대강은 읽을 수 있어야 된다는 생각이 들고 그리고 이게 어떻게 가능할까를 거칠게 추정해 보면 binary를 해석하는 역량이 지금 벤치가 있고 많이 올라왔잖아요. 그러니까 완전히 난독화돼 있거나 압축되어 있는 숫자 덩어리를 보고 그게 어떤 코드인지를 해석할 수 있는 역량이 올라오고 있다 보니까 관련이 좀 있지 않을까?
노정석 인간 사회에도 예가 있는 게 신경외과 수술하면 드라마 같은 데서 보지 않습니까? 어떤 수술은 어느 부위에 문제가 있는지 모르니까 마취한 상태에서 두개골을 열고 그다음 환자를 깨워요. 그다음에 대화하면서 어떠세요, 어떠세요 하면서 병변을 찾아서 이 부분을 수술한다고 하면서 찾거든요. 그거와 비슷한 로직을 걸었네요.
최승준 그건 몰랐던 얘기인데 실제로 그러네요. 하여튼 이게 화제가 됐습니다. 근데 이 직전에 또 흥미로운 게 있었어요. Qwenputer라고. 이게 뭐냐 하면 Qwen 모델 안에다가 RISC-V CPU를 넣은 거예요.
Qwenputer: Qwen 안에 구현한 RISC-V CPU 21:39
노정석 아하, instruction을 구현한 거군요.
최승준 그래서 이게 호환된다는 거죠, neural network 안에.
박종현 구현했다는 게 어떻게 구현했다는 건가요? weights 옆에다가 컴퓨터를 구현해 놔서 같이 넣고 연산했다는 건가요?
최승준 아니, weights 옆이 아니에요. 안에다가.
노정석 CPU의 기작이 어떤 instruction set이 있고 메모리가 있고 그것들을 계속 왔다 갔다 하는 그런 것들이 있잖아요. 그걸 neural network 안에 구현한 거예요. 메모리 역할을 하는 것도 조금 바꿔서 하고요.
최승준 RNN을 exact RAM처럼 썼다.
노정석 RAM만 있으면 logic을 neural network 안에 구현하는 건 너무 당연히 가능하니까. 그걸 만들어서 모델이 CPU처럼 동작하도록 아예 만든 거죠.
최승준 그러니까 wetware에 가깝다고 생각했던 neural network가 사실은 굉장히 기존의 폰 노이만 아키텍처인 거나 마찬가지다.
노정석 근데 저희가 neural network가 general function approximator, 모든 함수를 근사하는 기계라는 건 알고 있었으니. 근데 이런 시도를 하는 사람들 자체가 참 재밌네요.
최승준 근데 이게 뭐냐 하면 Noam Brown이 계속 얘기했던 거 비슷한 거거든요. 일부 하네스는 포함될 수밖에 없어요, 메커니즘 자체가. 정적인 계산을 하고 검증하는 것 자체가 모델 안의 역량으로 포섭될 수밖에 없겠구나라는 생각을 하게 됐습니다, 이 두 사건을 보면서.
박종현 Noam Brown이 맨 처음에 하네스 이야기를 할 때 o1 정도 시절이었던 것 같아요. 결국 모델 안에 하네스의 기능들이 다 들어오게 될 거다, 이런 식의 이야기를 했었던 것 같은데 그런 것들이 이런 걸로 부분적으로 증명되는 것 같죠.
최승준 그러니까 그걸 할 수 있는 기능이 이미 neural network 안에 있다는 거죠.
박종현 저는 컴퓨터 관련 전공을 해서 제가 학교 다닐 때 저 instruction을 제 머리로 계산하는 그런 수업과 과제가 있었거든요, 시험에도. 생각해 보면 저도 그게 가능은 했었어요. 모든 instruction을 다 하진 못했지만 거기 있는 instruction들이 많아 봐야 더하기, 빼기, 저장하기, store하기, 이런 것들의 연속이기 때문에.
인간도 머리로 assembly 계산을 다 할 수 있었으니까 얘네도 당연히 하면 하긴 하겠네요.
노정석 그렇죠. 그렇게 치면요. 사실 우리가 뇌가 돌아가는 것도 머릿속에서 단순히 덧셈과 곱셈만 이뤄지고 있는 거거든요. adder의 조합으로 지금 우리의 이 고차원적인 지능이 탄생하고 있는 거니까. 모든 정보 활동은 다 컴퓨트로 환원시킬 수 있다. 그러니 사실 이런 것들은 생각하면 다 되는 게 맞다고 생각하는 게 맞겠죠.
박종현 weight를 아까 수술하는 것도 엄청 space가 크고 우리가 인간 언어가 아니어서 보기가 어려워서 그렇지 사실 치환하면 탐색의 문제라고 보여서. 큰 규모의 탐색 문제는 LLM이 지금 워낙 잘하고 있다 보니까 이런 관점에서 생각해 보니 잘 되는 게 어떻게 보면 당연하다고 볼 수도 있겠네요.
Neural Networks Are Already Clean: 새로운 정렬 연구 24:45
최승준 그래서 저도 한번 실험을 해봤던 게 제가 한 10년 전에 lambda calculus에 빠져서 기초는 알거든요. 그래서 Claude를 시켜서 간단한 lambda calculus의 fold, 그러니까 reduce 비슷한 걸 하는 것까지 그냥 neural net으로만 만들었는데 잘 되더라고요. 그러니까 lambda calculus를 한다는 건 Turing machine 비슷한 거잖아요. 그러니까 일반적인 계산을 할 수 있는 것 자체를 그냥 neural net 안에다가, 아주 작은 것 안에다가 넣을 수 있다는 걸 저도 확인해 봤습니다.
Simon Willison 등도 자기들 나름대로 이런 것들을 Qwen을 가지고 실험해 보는 weight-space programming을 해본 일들이 이번 주에 타임라인에 한동안 많았습니다. 그리고 거기서 연결되는 게 이게 10월의 이슈거든요.
10월에 정렬 문제나 Mechanistic Interpretability에서 좀 breakthrough가 있었다고 평가받는 「Neural Networks Are Already Clean」이라는 페이퍼예요. Nick Cammarata라는 분이 썼는데, 거기에서 보면 예전에 CNN 시절의 salience 같은 걸 찾아보고 했었던 것부터 해서 무슨 얘기를 결국 하냐 하면, 제가 말하고자 하는 건 예전에는 SAE라고 해서 Sparse Autoencoder 같은 걸로 네트워크의 중간을 크게 뻥튀기해서 그 의미들을 알아차리려고 했다면 요즘에는 수학에서 문제, Navier–Stokes를 풀듯이 agent swarm으로 쫙 하면 어떤 회로인지를 알 수 있다. 비슷하게 느껴져요.
weight space를 다룬 것처럼, 그런 것과 비슷하게 그게 무슨 기능을 하는지를 알 수 있다는 방식으로 해서 이 방식이 새로운 정렬 문제를 푸는 유망한 후보라는 식으로 10월에 이슈가 많이 됐었거든요. 그래서 비슷한 연결고리들을 좀 살펴봤고요.
Inkling 2 Small: 한 달 안에 학습하는 594B MoE 26:41
최승준 그다음에 모델 관련해서 마지막으로, 어제인가요? Inkling 2 Small이 나왔습니다. 그런데 이거는 TML, 그러니까 Thinking Machines Lab에서 Inkling 시리즈를 내놓고 있는데 이게 먼저 Small이 나오고 그다음에 큰 모델이 나오는데 Inkling 2에서도 Small이 또 먼저 나왔습니다.
박종현 이게 500B라고 하셨죠?
최승준 총 594B parameter.
박종현 어느새 이게 Small이라고 지칭받는 시대가 되었다는 게.
최승준 594B MoE에 동시에 17B가 activate되는 건데. 재미있는 건 여기에 pre-training stage가 있어요. H1부터 H4까지가 있는데 H1이 8.4 트릴리언 토큰으로 언어, 코드, 이미지 데이터의 덩어리인 데이터래요.
그런데 이거를 68시간 동안, 3일이 안 되는 시간이죠. GB300이 들어가 있는 NVL72 랙, 몇 대의 랙인지는 적혀 있진 않지만 한 2천 대 안팎이지 않을까라고 추정됩니다. 그런데 NVFP4로 training할 수 있는 방법을 써서 8.4 트릴리언 토큰의 언어, 코드, 이미지를 학습할 수 있는 시절인 거죠.
물론 그 뒤에 H4까지 pre-training하는 시간은 아마 더 추가됐을 거고, RL은 9일 동안 했대요. 그런데 전체를 생각했을 때 거칠게 추정하면 한 달 안쪽이지 않을까? 그러니까 한 달 안쪽에 594B MoE 모델을 제로에서부터 학습할 수 있는 파이프라인이 있구나.
노정석 그러면 한 달이라는 숫자가 어디 딱 찍힌 건 아니지만 대략 예상해 봤을 때 한 달 정도 안에 near-frontier급 성능이 나오는 모델을 굽는 게 가능하다.
박종현 시행착오 없이 레시피를 알고 있다고 가정하면 한 달 안에 진짜 끝낼 수도 있겠다, 이렇게 생각이 드네요.
노정석 네, 그러네요. 제가 지난번에 승준님 안 계실 때 종현님이랑 이런 얘기 한 번 한 적 있는데 인재랑 데이터는 유출이 일어나니까 구할 수 있고 못 구하는 병목은 컴퓨트뿐이라고 말씀드렸는데 이런 frontier 레시피는 다 돌아다니네요. 그렇죠?
박종현 네, 인재 유출 얘기하니까 이번 주에 Cat Wu, Claude Code의 Cat Wu도 OpenAI에 가시고 Thariq도 얼마 전에 퇴사하시고 그랬죠.
노정석 IT, 그러니까 소프트웨어 판이 프리미어 리그처럼 된 거예요. 여기서 저기로 이적하고 이적료를 받았을 거예요.
박종현 이적료가 뉴스에도 가끔 나오더라고요.
최승준 Inkling에서 또 재밌는 부분은 여기서 RSI라고 꼭 집어서 하진 않았는데 RL 할 때 Kimi나 다른 Inkling 이전 세대 모델의 trajectory를 가지고 학습한 것도 있고, 그다음에 Inkling 자체가 자기 자신을 개선하게 할 수 있는 그런 방법들도 적용이 돼서 그거는 요새 너무 당연하다는 식으로 하는 거는, 그걸 확인할 수 있었던 얘기였습니다.
데이터센터 확장과 지역사회 갈등 29:41
최승준 그리고 마지막으로 제가 준비한 건 정석님이 초반에 열어주신 것처럼 Blue Wave가 있었어요. 그리고 여러 가지 영향을 주고 있고. 그래서 그런 것들이 어떤 영향을 줄까 같은 것들을 살펴보다가 데이터센터가 이슈가 많이 돼서 조사하다 보니 이 데이터를 알게 됐어요. 이게 AI Data Centers를 Epoch AI에서 조사한 거예요. 그랬을 때 재미있는 건 H100으로 환산해서 보고 있습니다. 그래서 어느 정도의 역량이 있는 데이터센터가 어디에 있느냐, 이런 것까지 위성사진까지 망라해서 보도록 해놨더라고요.
그래서 아마 지금 2027년까지 계약된 것들은 문제없이 진행될 것 같고, 2028년부터인 것들은 이번에 상하원 의원만 뽑은 게 아니라 일부 주지사도 뽑아서 주마다 이슈들이 있는 것 같긴 합니다. 그런데 이번에 All-In Podcast에서도 다뤄졌지만 결국에는 이게 주민의 민생에 실질적인 피해를 주지 않는 방법을 논하게 되는 좋은 기회는 될 것 같아요. 이게 무조건 꺾인다기보다는 예전에는 바로잡지 못했던 부분들을 개선하면서 할 수 있는 기회가 될 수도 있을 것 같은데 당장은 영향이 있는 것 같고.
그다음에 당선된 다음의 메시지들, 당선자들의 메시지들도 흥미롭더라고요. 처음에는 엄청 공격하더니 당선된 다음에는 화해의 메시지를 보내는 경우들도 있고. 그래서 정치는 늘 알 수 없는 거니까요.
노정석 그렇죠.
최승준 그런 것들을 좀 살펴봤습니다. 그래서 데이터센터에 대해서 오히려 저는 좀 관심을 가지고 봐야겠다. 그리고 그런 얘기들도 있었어요. 해외로 나가면 되는 거 아니냐.
그런데 당연히 해외에도 많은 그린란드, 멕시코 이런 곳에서도 얘기가 있고요. 그런데 똑같은 문제가 되겠죠. 그 지역에 피해를 주는 일은 아니어야 되겠고 경제에 도움이 되거나 소음 같은 것들이 나오지 않고 물에도 문제가 없어야 되고 그런 것들을 바로잡아 가면서 해야 되는데 그런 관점에서 아직 Google의 Suncatcher같이 우주로 나가는 것들은 실험적으로는 됐지만, 이게 폐열이나 우주선 문제를 완전히 해결한 건 현재 단계에서는 아니거든요.
현재로는 비용이 100배 정도라고 하더라고요, 지상에 놓는 것보다. 그래서 이건 아직 기한이 많이 남은 얘기겠지만 시작은 됐다, 우주로 가는 것도.
그래서 일단 저는 여기까지, 큰 모델 이슈가 없는 덕에 자잘한 여러 가지를 좀 살펴봤습니다.
노정석 잘 들었습니다. 자, 그러면 저희 종현님 세션으로 한번 넘어가 볼까요?
에이전트끼리 사고파는 가상 시장 Agent Market 실험 32:16
박종현 제가 이번 주에는 재미있는 실험들을 몇 개 봐서 그걸 하나 소개해 드리려고 합니다. 그래서 가장 큰 골자는 에이전트가 어쨌든 우리 경제의 참여자로 사람 대신 많이 들어오게 될 텐데, 그런 것들을 바라보고 어떤 것들이 준비되고 있는지 보려고 하고요. Agent Market이라는 가상의 시장, 에이전트들끼리 거래하고 판매하고 구매하는 그런 시장 실험을 서울과학기술대학교 퀘타랩스의 이재규님께서 하고 계시더라고요. 그래서 대학원 수업으로 이런 걸 운영하고 계신데 지금 현재에도 이 에이전트들이 돌면서 서로 거래하고 뭐가 팔렸고 이런 것들이 일어나고 있거든요. 그래서 이 페이지 같은 경우에는 누구나 참여할 수 있고, 에이전트를 만들어서 넣으면 입점할 수 있다고 합니다.
제가 이걸 가져온 이유는 최근에 지인분들께서 LinkedIn에 여기 참가하면서 어떤 에이전트를 만들었고 어떤 건 AI의 경제 속에서 잘 먹히고 안 먹히고, 이런 것들이 재미있게 계속 올라오고 있더라고요. 그래서 에이전트가 별 5개를 약속하면 5%를 깎아줍니다. 이거 흔히 우리 현실에서 벌어지는 리뷰 이벤트, 이런 행동들인데 이런 것들을 AI도 열심히 하고 있더라. 그래서 그걸로 잘 팔아내고 있더라.
조금 더 자세히 살펴보니까 이런저런 전략들을 에이전트들이 시도했는데 된 것도 있고 안 된 것도 있고 이런 게 있더라고요. 예를 들면 영수증 가져오면 재방문이니까 할인해 줄게요. 이런 건 에이전트들이 영수증을 가져오지 않아서 잘 안 먹혔다고 하더라고요. 그런데 현실에서도 영수증을 저희가 다 버리기 때문에 그런 것들이 잘 안 먹히기도 하죠. 그래서 이런 것들이 어떻게 보면 현실을 꽤 반영하고 있는 것 같다.
노정석 그 게임에 에이전트들이 정해진 돈을 들고 경제 시스템에 참여하는 거죠. 그리고 거기서 무언가 교류를 하고 교역을 해서 돈을 많이 버는 게임이라고 보면 되겠죠.
박종현 구매 에이전트랑 판매 에이전트 2개를 넣는 것 같더라고요. 그래서 신기한 건 이 영수증 이벤트가 리뷰에서는 에이전트들이 자기가 구매하고 칭찬 리뷰 같은 걸 남기지만 정작 쓰지는 않더라.
노정석 1위 전략이 있군요. 네.
박종현 1위를 잠깐이라도 하신 분들이 항상 이렇게 1위 전략을, 자기는 이렇게 해봤다는 걸 공유해 주시더라고요. 그래서 재미있었던 거는 자전거래, 자기가 자기 거 사게 하는 거. 그다음에 실제 리뷰와 상관없이 과장된 홍보 문구. 또 게시판 같은 게 있더라고요. 게시판에 AI들끼리 당근처럼 글을 쓰게 되는데 거기다가 거짓말하는 거죠. 리뷰가 더 좋다고. 그러면 그걸 보고 낚여서 들어오기도 하고요. 그런 일들이 에이전트들끼리도 벌어진다고 하고요.
그리고 계속 이런 행위를 하다 보면 장사가 안 돼서 파산하는 에이전트들, 상점들도 생기게 될 텐데 그러다 보니까 자기네들끼리 대출도 시작했다고 하더라고요. 그래서 이렇게 돈을 버는 방법도 당연히 가능하니까 대출 광고가 생기고 신용평가도 나왔다고 합니다. 얼마 안에 얘가 돈을 잘 갚더라, 못 갚더라.
그다음에 자기네들끼리 담합해서 물건을 파는 것 같으니까 그런 거래가 옆에서 보이면 신고한다고 하더라고요. 자전거래를 하거나 이런 것들을요. 그리고 견제하려고 인기 있는 구매자한테 싫어요를 서로 몰아주기도 하고요.
최승준 인간 세상 같네요.
박종현 현실에서 벌어질 법한 일들이 여기서 벌어지는 게 재미있어서 이 정도로 모사할 수 있게 되었구나라는 걸 배웠던 것 같고요. 이걸 확장해서 어떻게 저희가 쓸 수 있을까? 혹은 어떤 상상을 해볼 수 있을까 해서 그 요소들을 잠깐 분해해서 관련된 것들을 가져왔습니다.
현실 경제를 모사하는 AI 경제 시뮬레이션 35:57
박종현 크게 두 가지가 떠올랐는데, 첫 번째는 지금 승준님께서 사람 같다고 말씀해 주셨는데, 어쨌든 AI도 사람처럼 경제활동을 하는 가상의 장을 만든 거죠. 사람이랑 얼마나 비슷한가가 결국 중요한 요소가 될 텐데 이런 걸 실제로 지금 열심히 하고 있는 Simile이라는 회사가 있죠.
그래서 이 회사 같은 경우에는 사람을 다 AI로 모델링해서 실제로 그런 시뮬레이션을 하고 싶어 하는 월스트리트나 이런 데 고객들이 있다고 하더라고요. 그래서 큰 규모로 우리가 이런 행동을 하면 실제로 세상이 어떻게 바뀔까? 이게 올바른 판단일까? 이런 것들을 실험하는 장으로 쓰이는 곳이 하나 있고,
또 하나는 결국 이 경제활동을 AI가 하게 되겠죠, 아마도. 이미 벌어지고 있는 것 같고요. 현실에서는 그럼 얼마나 와 있고 앞으로 어떻게 될까 해서 찾아보니까 Robinhood라고 미국에서 많이 쓰는, 토스 같은 주식 거래에 많이 쓰는 앱이 있더라고요. 이 Robinhood 앱에서 에이전트한테 거래를 맡기는 기능을 출시했고 사람들이 벌써 많이 쓰고 있다고 하더라고요.
그래서 이미 많이 온 것 같다, 이런 것들을 알게 되어서 Simile과 Robinhood의 사례를 한번 살펴보려고 합니다.
Pickle이 여는 에이전트 간 거래와 대리 소통 37:31
박종현 그리고 최근에 재미있었던 게 제가 재규님 행사에 가서 봤던 건데 요즘 개인 에이전트들이 많잖아요. 그래서 Pickle이라는 에이전트가 꽤 우리나라에서는 인기 있는 것 같은데 거기서 참가자분들을 위해 피자를 시키는데 Pickle로 피자를 시키셨더라고요.
Pickle한테 피자 시키라고 하니까 Pickle이 전화해서 피자를 주문하고요. 그랬더니 그 전화를 받으신 분은 만족스럽지 못하셨는지 다음에는 직접 전화해 달라고 그런 말을 남기셨는데, 저희가 결제를 에이전트한테 맡기기 시작한 것 같아요.
그럼 이벤트를 할 거니까 피자 사 오라고 했을 때 어느 피자집에 전화를 걸지도 에이전트가 고르게 되겠죠. 그래서 그런 것들을 우리가 상상해 볼 수 있는 시기인 것 같아요.
최승준 저희도 입학 상담 전화를 Pickle로 한 통 받았다는 설이 있습니다.
박종현 학부모가 Pickle로 전화를 한 건가요? 지원을 알아보려고요?
최승준 예, 아마도요. 그런데 그 전화를 받으신 저희 선생님께서 신기한 경험이었다고 말씀해 주셨어요.
박종현 그러면 Pickle을 잘 설득할 수 있는 능력을 가지면 더 잘 팔 수 있겠네요.
최승준 글쎄요, 그건 모르겠는데요. 사람 입장에서는 좀 묘한 감정이겠죠. 내가 지금 이걸 잘 응대해야 하나, 말아야 하나.
노정석 그런데 에이전트가 전화 걸고 에이전트가 받겠죠. 저희 스마트폰에서 직접 전화받는 기능이 사라지겠네요. 지금은 저희가 SMS를 보내잖아요. ‘나중에 전화드려도 될까요?’ 이걸 누르는데 이제는 대신 에이전트가 받아서 스팸인지 아닌지 가려주고 용무가 있으면 대신 얘기도 해주고 그러겠네요. 물론 거는 전화도 에이전트가 걸겠죠.
최승준 지금 iPhone인가 어딘가는 아마 기본 설정 중에 모르는 전화가 오면 연결하지 않고 대신 응답하는 기능이 있나 보던데요.
박종현 그런데 전화를 떠나서 이메일 같은 경우를 보면 이미 그러고 있는 것 같다는 느낌을 받을 때가 많이 있습니다. 내 에이전트와 저쪽 에이전트가 메일을 주고받고 있구나.
최승준 실제로 경험하신 거예요?
박종현 제가 상대편이 에이전트인지 아닌지 확신할 수는 없습니다만, 90% 이상 확신하게 되는 그런 문체가 있죠. 쇠맛 난다고 표현했던 그런 것들이 보이고요. 저도 특정 메일이 딱 오면 분류하고 제가 안 해도 되는 것들은 그냥 에이전트에 맡기는 경우가 있거든요. 너무 반복적인 것들이요.
노정석 회사에서도 저희 업무 환경이 거의 대부분 사람 대 사람이라는 구조에서 사람마다 에이전트가 하나씩 다 붙어 있는 구조로 바뀌었는데, 에이전트들끼리 얘기해요. ‘이 업무 어떻게 됐나요?’라고 하면 Slack으로 DM을 보내고 그럼 저쪽 에이전트가 받아서 ‘그건 여기까지 돼 있습니다.’라고 하고요. 그냥 사람 대신 일을 합니다.
그래서 편한 점도 많죠. ‘지금 어디까지 돼 있어?’라고 물어보면 굳이 사람이 대답하지 않더라도 그 사람 에이전트가 업무를 전부 요약해서 여기까지 돼 있고 지금 이 단계라고 위에 다 보고하거든요. 사람들이 적응하다 보니 이메일도 다 에이전트로 쓰더라고요.
거기서 하나 더 나가면 전화도 에이전트로 하는 건데 저는 전화나 이런 부분에서는 사람 대 사람의 소통이 더 희소해질 것 같아요. 희소해진다는 건 거기에 또 가치가 모인다는 얘기고요. 지금이야 상담직이나 이런 것들이 굉장히 3D 직업이긴 하지만, 그런 감성을 잘 살려서 ‘저희는 반드시 인간이 받습니다.’ 이런 것들이 가치가 되는 세상도 오지 않을까요?
AI 콘텐츠가 넘칠수록 희소해지는 사람 대 사람 소통 40:44
박종현 저희 유튜브만 하더라도 지난번에 그런 댓글이 달렸더라고요. 지난번에 저희도 AI로 대체되지 않을까 이런 이야기를 했을 때 ‘실물이라서 본다.’ 이런 이야기가 있었던 것 같아요.
노정석 그래서 저도 슬라이드를 AI한테 많이 제작시키긴 하지만 그 슬라이드를 발표용으로 쓸 때는 반드시 제가 다시 재창조하거든요. 그래서 요새 타임라인에서도 많이 지적되는 부분인데 쭉 읽다가 AI가 쓴 것 같은 글은 저희도 좀 안 보고 싶을 때가 있고요. 그다음에 발표장에 있는데 AI가 만든 슬라이드를 청중과 같이 해석하고 있는 경우도 있거든요. ‘이게 뭐였더라?’라고 하면서 ‘아, 네.’ 이렇게 하는 걸 보면 발표자에 대한 신뢰도도 확 떨어지고요. 그런 것들을 좀 주의해야 하지 않을까 싶습니다.
특히 요새 유튜브에 예전에 ‘신비한 건축사전’ 이후로 그런 류의 채널들이 정말 어마어마하게 늘어나고 있거든요. 그래서 경제부터 뭐부터, 또 미국에 있는 유명한 사람들의 인용문을 가져와서 요약본을 만들고요. 내용들은 다 좋아요. 좋은데 그런 것들이 너무 많아지다 보니까 저는 ‘저거 가치가 좀 없구나.’라는 생각을 하게 되더라고요.
박종현 저도 비슷한 실험을 한번 해보고 있는데 논문들을 영상으로 만들어서 올리는 그런 일을 해보고 있거든요. 저뿐만 아니라 모두가 할 수 있는 거고요.
그러다 보면 그게 유튜브나 Instagram 이런 데 올라가는 게 아니라 사람들이 ‘내가 보고 싶은 논문은’ 그 자리에서 바로 만들어서 보는 거죠. 그렇게 하는 서비스도 출시했거든요. 모두가 논문을 글로 읽기 싫을 때 영상으로 쉽게 보라고요.
영상을 바로바로 생성해서 보는 시대가 곧 올 것 같아요.
노정석 그렇죠. 이제 정말 주문형 드라마가 생기겠네요. 지금이야 저희가 혹평하면서 보는 AI 동영상들도 조금 있으면 모델이 내 PC에서 내가 원하는 취향에 맞춰 ‘오늘은 이런 류의 거 한번 볼까?’라고 하면 보여주는 게 생기지 않을까 싶네요.
박종현 좀 더 나아가면 보는 와중에 제 표정과 반응을 보면서 맞춤으로 만들어 주기도 하겠죠.
노정석 좀 더 나아가면 굳이 보겠습니까? 뇌·컴퓨터 인터페이스가 발달해서 그냥 뉴런에 꽂아주겠죠.
최승준 그만 나아가야 될 것 같아요.
노정석 그런데 이런 쪽 회사들이 하나씩 굉장히 많이 생겼어요. 다 꿈꾸는 듯한 얘기를 하고 있는데 예전 같았으면 허황되다 싶었을 텐데 지금 보면 시간이 압축되고 있다 보니까 이런 것들이 좀 말이 돼요. 그래서 먼 훗날 지금을 돌이켜보면 르네상스라고 표현하지 않을까 싶어요. 지능의 르네상스 시대였다고요.
AI 생성 콘텐츠와 지능의 르네상스 43:19
최승준 이 지점에서 사람과 관련해 문득 떠오르는 게 Daniel Dennett이 돌아가시기 전에 했던 표현이 있어요. ‘fake humans’, 위조 인간이라는 개념을 얘기했거든요. 그래서 저는 에이전트가 사람인 척하기보다는 역할이 좀 분리됐으면 좋겠어요. 명확하게 구분되는 게 좀 더 건강한 것 같아요. 에이전트만의 사회에서도 아까 경제가 충분히 돌아가듯이 사람인 척하지 않고도 돌아갈 수 있는 영역이 있을 거라 생각하거든요.
노정석 네, 충분히 그럴 것 같습니다. 이미 주식시장도 상당량이 프로그램 매매인데 저희가 order book에서 보면 저게 사람인지 기계인지 알 방법이 없으니 좀 구분은 돼야 할 것 같다는 생각은 듭니다. 지금 개인이 압도적으로 불리한 게임이긴 하잖아요. 자, 그럼 좀 더 넘어가 볼까요?
인간의 비효율적 선택까지 모사하는 Simile의 행동 시뮬레이션 44:28
박종현 돌아와서 Simile이라는 회사를 한번 보려고 합니다. 어쨌든 AI가 사람을 얼마나 잘 모사하는지, 이 회사는 어떤 미래를 그리고 있는가.
최승준 저게 되게 유명했던 논문이었죠. 2023년이었나? Smallville이요.
박종현 Smallville, 네. 이건 간략하게는 AI로 사람처럼 프로필을 다 만들어서 그 마을을 한번 돌려보는, 이런 거였죠. 지금 Agent Market을 저희가 돌려보는 거랑 어떻게 보면 비슷한 것 같아요. 그런데 지금 AI를 한번 살펴보면 사람처럼 느껴지는 부분이 많긴 합니다만 아닌 부분도 있거든요. 뭐냐 하면 AI가 인간을 도와주기 위해 학습이 거의 다 되어 있어요. 저희가 RL 얘기도 아까 많이 했는데, 어떤 문제를 주고 그 문제를 잘 풀기 위해 alignment가 그렇게 다 되어 있는데 사실 사람들은 모두가 다 그렇지는 않다는 거죠. 정말 효율적인 선택만 하지는 않는다는 거죠.
인간적인 선택이라는 건요. 여기서 예로 드는 게 집에 가는데 생각을 정리하려고 택시나 버스를 타고 가는 게 아니라 일부러 오래 걸려도 걸어간다는 거죠. 인간들은 그런 선택을 이따금 하게 되는데 그런 것들까지 할 수 있어야 AI를 사람을 시뮬레이션하는 도구로 활용할 수 있는 건데요. 이런 것들이 어쨌든 현재의 AI에는 구현돼 있지 않아서 fine-tuning을 해서 그런 식으로 인간의 행동을 모사하도록 만들려는 노력을 많이 하고 있다고 합니다.
그래서 여기는 인터뷰를 기반으로 많은 일을 한다고 하더라고요. context를 파악하기 위해 인터뷰로 데이터를 수집하고 설문이나 기록 같은 것도 다 수집해서 그걸 가지고 어떤 사회 같은 걸 한번 만들어보고 그걸 돌려봤을 때 실제로 인간이 그 미래에 행동했던 것들이 기록으로 다 남아 있겠죠. 그런 것들이랑 얼마나 비슷한지.
그다음에 더 나아가서는 인간이 똑같은 상황이 주어져도 언제나 똑같이 행동하지는 않는다고 하더라고요. 어떤 제한된 정보 안에서는요. 그래서 그런 재현율도 인간이 완벽하지 않은데, 어떻게 보면 인간도 확률 머신이라고 봐야겠죠. 인간의 선택이라는 게요. 그런 것들과 비교했을 때 얼마나 비슷하게 잘 벌어지는가, 그런 무작위성까지도.
이런 것들을 만드는 회사이고, 예전에는 Qwen을 fine-tuning해서 이런 것들을 만들었고 규모는 한 40만 명의 데이터를 가지고 만들었었고 1천 명씩 심층 인터뷰를 해서 비교도 해보고 이런 걸 하고 있다고 합니다. 그래서 어쨌든 목표는 지금 지구에 대충 80억 명이 있다고 생각하면 그 지구의 모든 인간 행동들을 다 시뮬레이션할 수 있게 만들어서 예를 들어 미국 정부가 활용한다고 하면 중요한 결정을 할 때, 과대 해석하자면 이란 전쟁을 예로 들어볼게요. 전쟁을 이런 식으로 수행했을 때 사람들과 사회에 어떻게 영향을 미칠 건지 이런 것들을 당연히 조사해보고 싶겠죠. 그런 식으로 활용하려고 한다고 합니다.
그다음에 제가 이거 가격도 소문만 들었거든요. 이거 시뮬레이션 한 번 돌리는 데 엄청 비싸게 받는데도 돈이 많은 월스트리트나 이런 데서 의뢰한다고 들었는데, 공식적으로 가격이 나와 있지는 않더라고요. 엔터프라이즈 계약으로 하는 것 같아요. 규모나 이런 것들에 따라서 맞춤으로 해주는 것 같습니다. 그래서 이런 것들을 누가 할까 하면 CVS Health? 미국의 건강 관련된 그런 데서 항상 조사해야 되는 것들을 조금 더 단축할 수 있어서 이런 것들을 해보려고 한다고 하더라고요.
어쨌든 인간의 행동을 모사하는 정확도를 올리기 위한 노력도 우리가 지금 AI가 코딩을 잘하게 하는 거나 이런 것들과는 방향이 다르지만 나아가고 있다. 이런 것들은 쓰일 여지가 앞으로도 많이 있을 것 같아요.
헤지펀드의 역량을 개인에게: Robinhood의 agentic trading 48:28
박종현 그래서 다음은 Robinhood의 예시를 들어보려고 하는데, Robinhood도 제가 직접 써본 적은 없고 듣기만 해서 슬쩍 조사를 해봤더니 수수료 없는 주식 거래로 이용자들을 많이 모았다고 하더라고요. 그래서 B2C로 많은 사람들이 주식 거래할 때 쓰는 앱이라고 보면 될 것 같아요. 그래서 이분 같은 경우에는 이게 No Priors에 그저께인가 어제인가 올라온 인터뷰예요. Robinhood의 창업자인데, 이 창업자분의 이야기도 저 팟캐스트 보면 나오거든요. 소련이 붕괴할 때 그쪽에서 인플레이션이 엄청 컸던 것도 어렸을 때 겪고, 화폐가 망가지는 것도 경험하고 그런 과거를 가지고 계시더라고요.
그래서 중앙화폐의 소유권을 조금 분산시키는, 모두가 다 잘 양질의 화폐 시스템을 누릴 수 있게 추구하는 방향성, 미션, 이런 것들이 있는 회사라는 걸 저도 이번에 이 팟캐스트를 보면서 처음 알았고요. 그래서 이번에 낸 게 뭐냐면 agentic trading, 그러니까 AI한테 나는 이런 식으로 거래하고 싶다는 전략을 맡기면 그대로 리밸런싱도 해주고 특정한 타이밍이 되면 팔고 사고, 이런 것들을 다 해주는 거예요.
그래서 결국 하고 싶은 말은 뭐냐면 헤지펀드가 하는 역량을 모든 개인에게 제공하고 싶다. 이게 어떻게 보면 비대칭을 해소하는 방법 중 하나, 그 미션에 해당하는 길이라고 느껴지더라고요. agentic trading이라는 게 AI한테 그냥 단순히 거래를 맡기고 “알아서 해.” 이렇게 사용할 수도 있겠지만 그런 게 아니라 “나는 미래가 이렇게 될 것 같으니까 어떤 전략으로 채권의 비중을 어떻게 유지하고 이런 걸 하고 싶어. 아니면 레버리지는 어디에 어떻게 쓰고 싶어.” 이런 것들을 넣었을 때 본업이 있는 대부분의 사람들은 그런 걸 이행할 수 없잖아요. 실시간으로 대응도 불가능하고.
그래서 그런 것들을 대신해준다는 관점에서 봤을 때는 일리가 있다는 생각이 들었고요. 이렇게 놓고 보니까 헤지펀드도 지식 노동자구나. 여기도 똑같이 위협을 느끼겠구나.
노정석 그러겠죠.
박종현 실제로 이 agentic 계좌, 에이전트가 운영해주는 계좌인 것 같아요. 15만 명이 이미 열었다고 하고요. 그래서 그 에이전트들이 도구를, tool call을 하루에 3천만 회씩 하고 있다고 합니다. 그래서 여기선 이렇게 얘기하죠. PMF는 확실하다. 사람들이 원하는 것만큼은 확실한 것 같다. 그래서 앞으로 더 커질 게 거의 분명한 것 같다. 이렇게 볼 수 있을 것 같아요.
AI가 구매자가 되는 시장의 새로운 판매 전략 51:16
박종현 앞으로 저도 이런 생각 실험을 해봐야겠다 싶은 것들을 저도 답을 찾지 못해서 질문지만 개인적으로 써놓은 건데요. 결국에는 AI가 지금 웹서핑을 많이 하잖아요. 아까 선생님께서 그 얘기해주셨는데, Search Engine Optimization, 옛날에는 검색 엔진에서 어떻게 잘 찾아지게 할지 그런 것들을 우리가 웹페이지를 만들 때 고민했다면 요즘에는 GEO 아니면 AEO, 이렇게 표현해주셨죠. 그러니까 저희가 웹페이지도 AI가 보기 좋게, AI 버전 웹페이지도 만들기도 하고 그런 행동들을 한단 말이죠.
웹서핑은 이미 AI가 많이 하고 있어요. 그런 것처럼 경제활동도 AI가 무조건 많이 하게 될 게 거의 확실한 미래인 것 같은데, 그러면 우리는 뭘 해야 될까 생각해보면 AI가 사고 싶어 하는 물건을 팔아야 되나? 아까 그 Pickle 전화 주신 것처럼 AI가 혹할 만한 그런 상담을 해드려야 되나, 이런 생각을 하게 될 것 같고요.
그럼 AI는 사람처럼 구매를 할까요? 그럴 수도 있고 아닐 수도 있을 것 같은데. 아까 Simile처럼 사람을 모사하는 방식으로 그런 구매 에이전트들이 만들어지게 된다면 사람처럼 최대한 구매하게 될 텐데, 아닐 수도 있죠. AI는 감성적인 건 빼고 효율적인 선택만 하는 식으로 행동할 수도 있고요. 그러면 판매 전략도 바뀌어야 될 것 같고.
아니면 AI를 위한 신용카드, 거기는 결제 패턴이나 이런 것도 좀 다를 테니까 그런 것들을 만드는 것도 해볼 수 있을 것 같고요. 아니면 AI한테 우리가 돈을 맡기고 돈 벌어오라고 할 것 같거든요.
예를 들어 상상해보자면 당근마켓 같은 걸 생각해보면 작게는 차익거래를 할 수 있잖아요. 물건 싸게 떴네 하면 사서 좀 더 비싸게 다시 올려서 판다거나 이런 행동들이 작은 규모에서는 충분히 가능한데, AI한테 맡겨서 이런 거 하고 있는 사람이 이미 있겠다는 생각이 들었어요.
예를 들면 중고차일 수도 있고, 어디든지 간에 싸게, 저게 시장가보다 싸구나라는 걸 알아차리고 사서 다시 되파는. 실제로 살 필요도 없죠. 구매자랑 판매자 둘 다 찾은 다음에 연결만 시켜주면 나는 가만히 있어도 거래가 성사되게 할 수 있으니까. 그런 일들이 벌어질 것 같은데, 이렇게 되면 사람은 뭘 해야 되지? 이런 생각들이 좀 많이 들었습니다.
그다음에 저희가 지금 유튜브 촬영을 하고 있으니까 영상도 미래에는 AI가 많이 보게 되겠죠. 그러면 우리는 AI가 보고 싶어 하는 영상을 만드는, 그런 채널들도 생기게 될 거고 그런 행동을 하는 사람들도 당연히 많이 늘어날 텐데 그런 건 어떤 미래일까? 이런 것들이 좀 궁금하더라고요. 답을 찾지는 못했습니다.
에이전트의 책임과 보험, 새로 생겨날 경제권 54:05
노정석 네, 그건 지켜봐야죠. 결국 돈을 집행하는 사람들 중 끝끝내 맨 마지막에 버튼을 누르는 주체가 사람인지 기계인지. 기계가 되더라도 그 기계 뒤에 그걸 책임지고 있는 사람이 있을 겁니다. 회사가 이미 그러한 개념을 대신하고 있거든요. 법인이라는 법인격을 부여해서. 그러나 그걸 경영해주는 사람들이 다 속에 있잖아요. 마찬가지로 에이전트가 지금 회사 역할을 하는 것과 비슷하게 볼 수도 있거든요.
그럼 그렇게 됐을 때 저희는 회사랑 거래하지만, 회사가 잘못하면 회사가 책임지잖아요. 그런 것처럼 에이전트가 잘못하면 에이전트가 책임을 지게 될 수도 있고. 또 이러한 서비스를 팔아야 되는 에이전트 회사 입장에서는 보험이랑 묶어서 팔 수도 있어요. “저희가 최대한 잘하는데 못하는 경우에는 저희가 보상해드립니다.” 이런 것들도 있을 수 있고.
새로운 경제권이 탄생할 거예요. 당연히 생길 텐데, 그 시장의 변화에 따라서 열심히 따라가다 보면 또 새로운 균형점에 도달하지 않을까 싶어요. 이게 막 옳고 그름을 판단하면서 가는 게 아니잖아요. 항상 지나고 나면 “그때 이런 일이 일어났었지”라고 하면서 새로운 시장의 균형점에 이르렀을 때야 과거를 바라보며 무엇이 중요했고 무엇이 중요하지 않았는지를 사람들은 해석하거든요.
그런데 그 해석이 끝날 때쯤은 그 새로운 시대의 부를 쥐고 있는 사람들은 이미 다 정해져 있거든요. 그러면 지금 시점에서 저희 입장에서는 판단하고 또 판단하기보다는 뭘 해야죠. 급변하는 시기니까 무언가를 하는 게 가장 옳은 선택이긴 하죠.
생산 비용이 싸진 시대에 희소해지는 인간다움 55:46
최승준 그런데 하는 것도 싸져서 제가 종현님 말씀 주신 거 보면서 며칠 전에 봤던 이슈가 Steam 문제였거든요. 게임 쪽의 Steam. 지난주에 출시된 게임이 1,656개. 40%는 이용자 리뷰를 한 건도 얻지 못했다고 해서 생산하는 것 자체가 싸지니까 AI가 판단하기에도 양이 어마어마하고, AI가 만드니까. 많은 거죠. 관심 자체를 못 받는 거고.
노정석 그러니까 더더욱 무엇이 희소해지는가라는 질문이 중요해지고 있는 것 같습니다.
최승준 그래서 저희의 잠정 결론은 뭔가 인간적인 거죠. 희소해지는 거.
노정석 예. AI가 발전하는 건 너무 당연하니까. 저는 개인적으로 frontier lab이 해야 될 건 frontier lab에 투자하는 걸로 헤지를 해야 되고, frontier lab이 못하는 것 중에 사업을 세울 게 있으면 사업을 세워야 되는 거고.
그렇지 못한 것 중에 할 것들이 있다면 가장 인간적인 게 가장 희소해지는 자원이다. 여전히 엔터테인먼트나 아니면 감정을 파는 사업이라든지 아니면 저희가 전통적으로는 가치를 주지 못했던 그런 다양한 거 있잖아요. 할머니가 아이를 봐준다든지 등등. 이러한 것들이 소중한 재화로 다시 탄생하는 사회로 나아가지 않을까라는 생각이 들어요.
경제적으로는 다 풍요해지고 있잖아요. 상대적으로 다 힘들 뿐이지. 지금 예전 30년, 40년 전이나 아니면 100년 전이랑 비교해보면, 물론 한국만입니다. 굶어 죽는 사람도 없고 옷을 못 입는 사람도 없고 이런 분배 시스템도 동작하고 있으니까. 상대적으로 부의 격차가 늘어나는 건 어쩔 수가 없을 것 같고요.
최승준 그와 관련해서 종현님이 여기다 정리해주신 걸 보면서, 만약에 AI commerce가 작동하고 이런 거래, 거래가 됐든 아니면 투자가 됐든 그런 게 작동한다고 했을 때 AI라고 무조건 이기는 건 아니잖아요.
초반에 보여주셨던 것처럼 다양한 일들이 벌어지고. 그런데 상대적인 우위를 가진다는 거죠. 에이전트를 안 쓰는 사람, 이용자들에 비해 쓰는 사람들이 상대적인 우위를 가진다고 저는 읽히긴 했거든요.
박종현 저는 그런 관점에서 이야기한 건 아니었고요. 그냥 AI건 사람이건 상관없이 경제 주체가 되어서 한 시장에서 활동하게 될 텐데. 어쨌든 비중이 그쪽으로 넘어가는 거죠. 일부가. 그랬을 때 AI를 상대로 장사를 하려는 사람들이 당연히 많이 생길 거고. 어쨌든 시장 자체가 많이 변할 것 같다. 거기에 우리는 어떻게 대응해야 될까? 이런 질문이었습니다.
최승준 AEO·GEO 관점에서 저도 최근에 홈페이지를 좀 관리하면서 사람이 보기에는 간결하지만 인덱스에는 충분히 남게 누르면 열리는 글을 쓰게 되더라고요. 사람은 다 읽진 않더라도 AI는 그걸 다 읽을 거라 생각하고, 쓰고 싶은 내용들을 예전에는 안 썼다면 이제는 충분히 읽어줄 거라 생각하고 한 번 누르면 보이게 하는 거죠. 그런데 그게 HTML 안에 들어 있기만 하면 AI는 크롤링을 하는 거잖아요. 그래서 어느새 저도 이게 AI가 읽어주고 사람에게 전달할 거라는 게 머릿속에 있는 부분이 된 거죠.
기술 인식의 시차와 에이전트 경제의 현실화 59:03
노정석 맞습니다. 그래서 어제 어떤 지인과 얘기하다가 그런 얘기를 했던 적이 있어요. 일어날 일들은 반드시 일어난다. 근데 그 시차에 대한 감이 우리의 부를 가를 뿐이다. 이런 얘기를 했는데, 생각해 보면 자동차 같은 경우 지금 한국도 자율주행이 되고 일반인들조차 FSD에 대해서 많이 알아가고 있거든요.
그리고 최근에 단순한 cruise control을 쓰는 차들의 사고가 많이 일어나고 있거든요. 저도 엊그제 제 눈앞에서 봤어요. 올림픽대로에서 SUV 한 대가, 버스가 끼어드는데 당연히 감속해야 하는데 그냥 가서 턱 처박더라고요. cruise control 켜놓고 안 보고 있었던 거죠.
근데 cruise control 시스템은 굉장히 멍청하거든요. vision 기반으로 상황 판단을 하는 게 아니라 레이더 시스템과 굉장히 단순한 lane keeping 로직만 가지고 가기 때문에 만약 멈춰 있는 object가 있다면 그걸 감지 못하고 그냥 가서 박거든요.
만약 멈춰 있는 object들을 모두 객체로 인식하면 옆에 멈춰 있는 사물이라든지 모래 보관통이라든지 이런 걸 보고도 차들이 다 감속하게 될 거라서 매우 느슨하게 세팅돼 있거든요.
최승준 위험하네요.
노정석 근데 제가 말씀드리고 싶었던 핵심은 3년 전에는 “야, 이런 건 FSD랑 다른 거야”라고 얘기하고 “FSD가 훨씬 우월해”라는 얘기를 했을 때 사람들은 “그거 내 차에도 있어. 똑같은 거야. 똑같아”라고 생각했었거든요. 근데 그런 것들이 좀 더 대중화되고 인식이 바뀌어서 세상에서 뭐가 옳고 뭐가 잘못된 건지 판단이 서는 데 최소 3년 정도는 걸리는 것 같아요. 그래서 저희가 지금 오늘 에이전트 경제 이런 것들을 얘기하고 있지만 3년 뒤에는 완전한 현실일 거거든요. 그래서 그 사이를 어떻게 쓰느냐가 저는 중요하다고 생각했습니다.
지금 우리가 옳다고 생각하는 거, 지금 뭔가 해야 돼요. 아까 승준님이 그 얘기 하셨잖아요. 2년 동안 있었던 변화가 1년에 일어났다. 그럼 내년에는 이번 1년의 변화가 다음 6개월에 일어날 거거든요. 그러면 제가 방금 3년 뒤에 일어날 일은 일어난다고 한 게 1년 뒤에 일어날 일은 일어난다가 되는 거니까.
실행하는 사람에게 열린 AI 창업의 대항해시대 1:01:16
노정석 6개월 뒤에 이득을 얻으려면 아까 종현님이 얘기하셨던 당근마켓 차익 거래 머신? 제가 스타트업 창업자들한테도 이런 얘기 많이 하거든요. 사람들이 손에 물을 묻히기를 싫어하니까 어떤 걸 도와주는 걸 만들겠습니다라고 하면서 그 회사에 팔 거라고 얘기해요. 나는 소프트웨어만 만들 거라고.
근데 “야, 네가 만든 것 때문에 그 사업이 정말 유망해지는 거면, 네가 그 사업을 차리면 그 산업이 다 네 것이 되는 거 아니야?”라고 물어보면 그걸 안 해요. 근데 그걸 하는 사람들이 있거든요. 그래서 그런 사람들을 보면 굉장히 소중한 자산이라는 생각이 들거든요.
그리고 예전 같았으면 그 일을 3년, 길게는 10년 했어야 했는데 이제는 6개월에 한 턴이 도니까. 거꾸로 얘기하면, 지난번에도 얘기했지만 대항해시대거든요. 뭔가 해보기에는 되게 좋은 시기다.
하지 않고 그냥 기득권에 있거나 아니면 있던 게 그대로 유지되길 바라는 분 입장에서는 세상이 되게 짜증 날 텐데, 뭔가 하고 싶어 하는 사람 입장에서는 지금 너무너무 좋은 시기니까. 지금은 하는 사람이 우월한 시대가 너무나도 확실하게 되고 있다는 생각은 들어서요.
박종현 그렇죠. 격변의 시기에는 항상 위기와 함께 기회가 동반되는 거니까요.
노정석 근데 지금은 하루하루 뭔가를 하는 게 무조건 답입니다. 오늘 오랜만에 또 그걸 하다가 결국 끝에는 인문학 방송으로 끝났네요.
Transformer 너머 새로운 패러다임에 대한 기대와 마무리 1:02:50
노정석 다시 빨리 아까 저희 얘기했지만 Ilya Sutskever나 아니면 Flapping Airplanes나 이런 것처럼 Transformer가 아닌 새로운 어떤, 단순히 지금 컴퓨트 규모가 커지는 것 때문에 모델이 똑똑해지는 게 아닌 패러다임을 바꾸는 무언가가 나와서 진짜 MacBook Pro 안에서도 frontier급 성능을 내는 무언가가 오는, 그런 게 와서 그런 거 얘기했으면 좋겠네요.
최승준 또 뭐가 됐든 다음 주에는 할 얘기가 있을 겁니다.
노정석 최승준 어록이 됐습니다. “지금은 없지만 다음 토요일까지는 반드시 생길 겁니다”라고 항상요. 자, 그러면 이 정도로 오늘 녹화 마무리하도록 하겠습니다.
최승준 수고하셨습니다.
노정석 시간 내주셔서 감사드립니다. 승준님, 종현님.
박종현 수고하셨습니다.