EP 91
26.1Q 비즈니스 관점에서의 AI
인트로 00:00
노정석 녹화를 하고 있는 오늘은 2026년 3월 21일 토요일 아침입니다. 오랜만에 비즈니스 얘기를 한번 해보려고 합니다. 지금까지는 저희가 AI 자체에 대한 이야기를 많이 했는데, 그간에 쌓인 변화들, 그리고 좀 변화된 인사이트들 이런 것들 위주로 좀 한번 모아서 얘기를 해보려고 하고요.
오늘 요 정도 순서로 해보려고 그래요. 저희가 지난주에 승준님과 함께 OpenClaw 밋업에 갔었고, 그 얘기 좀 초반에 좀 해보려고 하고, 그리고 AI 게임에 대한 본질적인 관점, 이 부분에 대해서도 한번 정리를 하고, 그다음에 사업적인 이야기들, 그리고 뒤에는 AX, 관심 많으세요 다들 AI Transformation이라고 읽던데, 저희 회사도 나름 회사 자체 비즈니스를 AX를 많이 했는데, 그거에 대한 이야기들 짧게 해보는 시간으로 갖도록 하겠습니다.
OpenClaw Seoul 밋업 후기 00:52
노정석 이게 저희 지난주 토요일 아침에 진원님이랑 녹화를 했잖아요. 진원님 녹화하고, 그날 오후에 저희 Scionic 사무실에서 OpenClaw Seoul 밋업이 있었는데 가서 한번 뵀었죠. 오랜만에 반가운 얼굴들 굉장히 많이 봤고, 보고 싶었던 이 젊은 뛰어난 분들 거기에 다 모여 계셔 가지고 한번 만나볼 수 있는 좋은 자리였던 것 같아요. 해시드의 김서준 대표님도 오셔서 발표해 주셨었고, 그다음에 여기 승준님이랑 저도 서 있고, Oh-My-OpenCode 만드셨던 연규님, 그다음에 민석님 대략 행사 분위기가 이 정도 됐었어요.
Scionic 새 사무실 굉장히 예쁘게 잘 만들었더라고요. 그래서 요 지하 공간, 세미나 공간, 발표 공간으로 만드셨는데, 저희도 가끔 한번 부탁드려 가지고 이용하면 좋을 것 같습니다.
최승준 재미있게 봤고, 또 좋은 자극을 받았던 것 같습니다.
노정석 그래서 발표가 굉장히 많았는데 뭐 웃고 떠들고 사람들이랑 얘기하느라고 저도 모든 발표를 본 건 아닌데, Oh-My-Claude-Code, Oh-My-Codex 만드셨던 허예찬님, 허예찬님 발표가 굉장히 재미있었어요. 이분이 OpenClaw로 가재 가족을 만들고, 가재 가족을 매니징하고, 사실상 가재 가족이 그 아래 OMX라든지 OMC라든지 이 코딩 하네스들을 다루는 형태로 프로젝트를 거의 진행하시는데, 이 라이프사이클을 어떻게 돌리시는지에 대해서 얘기를 해 주셨는데 그거 굉장히 재미있었습니다.
가재 가족과 AI 하네스 라이프사이클 01:56
최승준 가재탕, 가재 무덤 생각나네요.
노정석 발표도 굉장히 재미있었고, 그다음에 그 형식도 ElevenLabs 보이스 레코딩해 가지고 쓰셨는데, 제가 이거 뭐 저작권이 있으신 분들인데 다 유명하신 분들이세요. 이미 사진들도 다 알려지신 분들인데, 저는 이분들 젊은 신선들이다, 이렇게 밖에 가서는 부르고 있는데, 방법론들이 굉장히 달라요. 저희가 항상 learn, unlearn의 중요성에 대해서 얘기를 하는데 저도 이분들 얘기를 듣고 그날 굉장히 unlearn을 하는 그런 좋은 계기가 됐었습니다. 방법론들이 다 독특하신데, 대부분 그 뒤에서 저희가 한 번 더 AI의 본질적인 의미에 대해서 정리를 하면서 얘기를 하겠지만, 이 토큰을 어떻게 더 효율적으로 더 많이 써서 이거를 우리가 직접 문제를 푸는 방식이 아니라 우리는 목표만 설정하면 AI가 최대한 모든 문제를 다 풀게 하는, 그러한 형태의 이 워크플로우, 예찬님도 여기에서 가재 가족이 역할이 아닌 작은 AI 회사입니다, 이렇게 얘기를 했는데, 본인을 형님이라고 지칭하시는데 이 형님이 리딩하는 이 AI 하네스들, 메타 레이어에부터 아래로 계속 레이어를 중첩시켜서 어떤 task가 생기면 아래로 계속 이렇게 cascade 되면서 내려가면서 일이 해결되고, 다 해결되면 올라와서 리포팅 되고, 그리고 워크플로우가 안정된 부분은 안정화시켜서 완전 자동으로 혼자 돌게 하고, 이런 부분들을 굉장히 잘 만들어 놓으셨더라고요.
그리고 이렇게 세팅된 방법론들이 이 젊은 신선들이라고 부르는 이 우수한 분들의 방법론으로 이렇게 자리 잡고, 그 기반에서 좋은 하네스들이 만들어지는 것 좀 목격하게 된 게 재밌는 점들이었습니다. 그래서 저도 굉장히 토요일에 갔다 와서 자극을 받아 가지고 일요일, 월요일 이틀 동안 열심히 하네스를 깎았어요. OpenClaw 다 셋업해가지고 있었던 것들 다 깔아보고 하고, 그 워크플로우를 좀 복사하고 제 업무에 있어서 메타 레이어를 까는 일들을 열심히 했고요. 되게 재미있었어요.
Chedex와 Ralph Loop, 하네스 깎기 04:17
노정석 그리고 그거 하면서 사실 저도 Ralph loop라든지 오토파일럿이라든지 오토 리서치라든지 그다음에 또 우로보로스라는 프레임워크를 만드신 분도 있는데 그건 어떻게 스펙을 정말 잘 쓸 것이냐에 또 특별히 집중한 그런 하네스인데 그런 것들을 전부 까보면서 제가 루프를 돌면서 필요한 것들은 꺼내고 또 필요하지 않은 것들은 안 꺼내고 이러면서 저만의 하네스를 제가 Chedex라고 이름 붙였는데 그걸 까는 걸 해보면서 또 아, 업무가 다 이렇게 돌아가겠구나 라는 것들을 많이 느꼈습니다.
간단하게만 정리하면 무언가 제가 방향을 결정하고 제 목표를 결정하는 데 있어서는 human-in-the-loop를 돌면서 끊임없이 티키타카를 하면서 도는 게 중요하고 어느 정도 목표가 일정하게 도달을 했으면 그때부터는 Ralph loop를 n번 돌리면서 이 하네스를 돌려 대면 안에 있었던 혼돈들이 다 깎여 나가거든요. 그리고 매우 정제된 형태로 이렇게 탁 에센스만 남게 되는데 이러한 과정을 통해서 이 업무가 한 알 끝나는 걸 보면서 이게 새로운 방법론이자 새로운 회사구나, 이런 생각들을 좀 많이 하게 된 좋은 계기였습니다.
최승준 유행이 되고 있는 것 같기도 합니다. YC의 Garry Tan도 gstack이라는 거를 만들어서 좀 최근에 이슈가 많이 되던데 CEO들이 하네스 깎는 게 좀 유행되고 있는 거 아닌가요?
노정석 그런 것 같아요. 사실 하네스라는 게 일종의 워크플로우인데 워크플로우들도 또 따지고 보면 각자가 각자를 카피하고 사실은 일반적인 것들을 조금 다르게 묶어 놓은 것들이어서 그것들을 또 다 모아놨다고 그대로 쓰는 것도 아니고 그 하네스 역시 또 다 본인만의 어떤 관점을 가지고 이렇게 다시 깎아서 쓰는 경우도 많아서 이게 한동안은 좀 트렌드이지 않을까라는 생각이 듭니다.
건강검진 알레르기 경험과 인간의 감각 06:34
노정석 근데 중요한 경험이 이 AI가 아무리 발전하고 아무리 좋아지고 뭐 이래도 야, 우리는 인간이구나라는 사실을 제가 깨닫게 된 계기가 있었는데 제가 지난주에 건강검진을 했는데 그 특정 약에 제가 알레르기가 있는 걸로 알고 있어요. 그래서 그 혈관 조영제인데 그걸 하고 나면 항상 몸에 두드러기가 약하게 나오고 좀 컨디션이 나빠지고 하는 것들이 지나가는 것들을 알고 있었는데 이게 몇 번 반복이 되고 제가 이번에 거의 한 7, 8년 차 되고 횟수로는 네다섯 번째가 되니까 이번에 완전히 면역 반응이 세게 와서 거의 이러다가 죽겠는데라는 그 직전까지 가더라고요.
그래서 스테로이드 주사 맞고 약 먹고 그냥 누워 있는 한 2, 3일을 했는데 이 경험을 하고 나니까 와, 이건 인간인 것은 무엇인가. 이거에 대해서 다시 생각을 하게 되더라고요.
노정석 누워가지고, 이게 재밌는 점은 예전과 다르게 제 약에 대해서 제가 했었던 경험이나 제 반응이나 이런 것들에 대해서 GPT 5.4랑 끊임없이 대화를 몇 시간을 했거든요. 다 알려주더라고요. 왜 그렇다, 이게 문제가 의심된다, 이 확률이 높다. 그러면서 계속 또 나름의 Ralph loop를 돌다 보니까 문제가 이게 확실해지고 이런이런 정도 하면 시간은 얼마 걸릴 거다라고 이렇게 처방까지 나오게 되니까 물론 옆에서 의사 선생님이 다 얘기해 주고 계시지만 의사 선생님이 얘기해 주시지 않는 그 뒤에 있는 이 모든 prior들을 전부 얘기해 주시니까 이건 정말 좀 새로운 세상으로 가겠다라는 생각도 좀 들었고
그리고 제가 원래 회사를 창업할 때 이 화장품을 팔려고 만드는 건 시작이었지만 결국은 뭔가 이 인간이 어떻게 하면 더 건강하고 더 예쁜 상태에서 오래 살 수 있을까. 그래서 제가 하고 있는 브랜드의 이름이 KYYB인데 KYYB라는 브랜드인데 그게 지금 Keep You Young and Beautiful에서 앞자만 딴 거거든요. 어떻게 하면 더 젊고 아름답게 그걸 내 남은 인생의 비전으로 삼아야 되겠다라고 하고 브랜드 이름을 KYYB라고 지었는데 이 사업을 다시 강력하게 복귀해야 되겠다라는 다짐을 좀 하게 됐습니다.
GTC 키노트와 ‘일의 미래’ 08:55
최승준 근데 또 아픈 중에 GTC 보신 거 아니에요?
노정석 할 일이 없어 가지고 Jensen Huang 얘기하는 거 2시간 동안 멍하니 보고 있었죠. 승준님도 GTC 보셨어요?
최승준 아니요. 대충 클립들만 봤고 아 그런가 보다 했지 자세히 들여다보진 않았는데요. 근데 또 재밌는 패턴이 정석님도 이번에 아프셔 가지고 그렇게 대화했는데 주변 분들 보니까 이렇게 누워 있을 때 수액 맞을 때 코딩하시는 분들이 있더라고요. 이제는 할 수 있으니까.
노정석 말로도 할 수 있고 네.
최승준 그리고 지인들 만나서 밥을 먹는데 개발자분들인데 계속 스마트폰을 보면서 그 노티 확인하고 에이전트한테 일을 주는 풍경이 또 무척 달라졌다. 이게 뭐 하시냐 했더니 일을 계속 주고 있더라고요.
노정석 감독관처럼. 그날 저희 OpenClaw 미팅에서도 보니까 예찬님 아이패드 하나 가지고 오셔가지고 몇 개 CLI 이렇게 돌리시면서 다 감독하고 계시더라고요. 그래서 야 저게 일의 미래구나라는 생각을 하게 됐습니다.
AI 비즈니스의 본질적 관점으로 전환 09:54
노정석 자 그래서 이제 제가 앞으로 저희가 사실은 올해 오면서 어떤 생산성의 향상이라든지 코딩이라든지 이런 이야기는 어떻게 보면 이거는 이제 끝난 얘기고 일상으로 가는 일만 남았다라고 그렇게 생각하고 있고 또 굉장히 많은 Frontier Lab들이나 Latent Space라든지 앞서가는 그런 사람들은 거의 대부분 사이언스 쪽, AI 사이언스 쪽으로 이 렌즈를 많이 돌리고 있잖아요. 그래서 그런 것들이랑도 좀 얼라인이 돼 있지 않나라는 생각이 듭니다.
그러면 오늘 뒤에 내용들이 그냥 막 쭉 달려야 되니까 한번 조금 진행 좀 해볼게요. 앞 슬라이드는 좀 한번 읽어볼게요. 그래서 제가 좀 들어가기 전에 지금 AI 비즈니스 세상을 어떻게 바라봐야 되는지에 대해서 쭉 논리들을 써본 건데 어쨌건 근원적인 관점은 하나 획득이 필요하거든요. 그래서 그 근원적인 관점에 대해서 한번 얘기를 좀 해보고 그다음에 이 사업적인 저희가 현재 있는 이런 산업에서 일어나고 있는 일들 얘기해 보고 그 산업 안에 회사들에서의 AX는 어떻게 해야 될 것 같은지 이렇게 이야기를 한번 넓은 데서 좁은 곳으로 한번 좁혀가 보도록 하겠습니다.
2026년 3월 AI 산업 스냅샷 10:34
노정석 이거 METR 시간 지평은 굳이 얘기 안 해도 저희 다 알고 있는 얘기고 그다음에 이제 저희 벤치마크 나오면 잘 안 보잖아요. 벤치마크 나오면 대부분 농담 삼아 야 이 벤치마크 어때라고 얘기하는 게 아니라 너보다 나아 이렇게 하면서 끝나잖아요. 나보다 나은 것 같아. 이런 이야기로 이제 GPT-5.4 정도 되면 저는 실무에서 쓰는데 이거 아무 무리가 없는 거 아닌가라는 생각이 들 정도로 크게 실망한 적이 없어요. 크게 만족했다라고 얘기하기보다는 크게 실망해서 이거 안 되겠는데라는 그런 코너 케이스에 빠진 경험이 현저히 적어지고 있다라는 얘기도 좀 드리면 될 것 같고.
그리고 26년 3월 지금 현재의 이 산업을 바라보는 스냅샷에 대해서 조금 얘기를 해보면 pre-train 얘기 잘 안 하긴 하는데 이건 이제 좀 되는 게임으로 다 굳어진 것 같아요. 어제 Xiaomi에서 MiMo라는 V2 Pro라는 모델 발표했는데 이것도 1T 기반의 거의 Frontier 모델인데 이거 만드신 분이 좀 젊은 여자분이신 것 같은데 DeepSeek R1에 참여했던 분이더라고요. 근데 거기 트위터에서 쓰셨던 내용들에서 의미심장한 것들이 많이 있는데 저희가 이번에 독파모 사업에서도 보고 그러지만 이 computation 비용이 사실 계속 싸지고 있어요. 솔직히 NVIDIA 기계는 계속 비싸지는 것 같지만 단위 비용당의 퍼포먼스는 계속 싸지고 있는 건 확실해서 이게 예전처럼 막 이거는 절대 도전할 수 없는 몇 천억 대의 그런 자원이 필요해는 아닌 것 같아요. 거의 몇백억 대로 떨어지고 그것도 뒤에 있는 several 몇 백억에서 a few 몇 백억으로 떨어지고 어쩌면 더 떨어질 것 같은 그런 느낌도 지금 확실하게 들고 있고.
그리고 NVIDIA 같은 회사, 이번에 Nemotron, Nemotron 예전에 발표만 하고 트레이닝 코드라든지 레시피는 살짝 비어 있었는데 한 2, 3개월 차이 두고 다 채워놨어요. 안에 들어가면 Nemotron Nano랑 그다음에 요즘 좀 큰 베이스로 나온 거 있잖아요. Super인가, 그런 것들에 대해서도 전부 pre-train, 그다음에 mid-train, post-train에 대해서 그런 트레이닝 코드 전부 나와 있고 관련된 데이터셋도 다 되어 있거든요.
그래서 이게 MiMoV2 Pro 만드신 분도 1년 정도의 갭 정도를 얘기해요. 인프라 잘 만들어 놓고 한번 어떻게 하는지를 알면, 승준님이 항상 하셨던 얘기랑도 이거 어느 정도 맞닿아 있는데, 누가 이런 걸 했다라는 걸 보게 되면 그건 우리 다 할 수 있게 되는 거라고.
최승준 AI로 했다.
노정석 그렇죠. AI가 없으면 저희는 한낱 미물에 불과하니까.
최승준 AI로 했다의 경우에는 할 수 있다가 큰 힌트가 된다는 거죠.
노정석 그렇죠. 그래서 MiMoV2 Pro 같은 경우에도 그런 준비가 깔끔히 됐을 때 1년 정도면 따라잡는 거고 품질을 만들 수 있다라는 거를 좀 보여주는 좋은 예제가 된 것 같고. 그래서 pre-train은, 아 이거는 어느 정도는 되겠다. 그리고 또 이 AI의 어떤 미래의 궁극적인 발전상에 대해서, 그냥 미래에 훅 가보면 결과적으로는 모든 단위 서비스가 하나의 단위 모델이 되는 세상까지 계속 갈 거라서, 이 모델 work을 하는 그런 프로세스는 저는 여전히 중요하다라는 생각은 하거든요. 그런데 그런 부분에 대한 접근성이나 이런 것들도 계속 떨어지고 있는 상황이기에, 지금 우리는 에이전트나 이런 거 보고 있지만 여전히 모델 world의 발전도 계속 봐야 될 필요는 당연히 있는 것 같다라는 생각이 들고요.
RLVR과 CUA 14:48
노정석 좀 넘어가 보면, frontier lab들의 경쟁의 축은, 저희 성현님도 지난번 세션에 오셔서 올해는 이건 것 같다, RL 환경 스케일링이라고 딱 규정을 해 주셨잖아요. 그게 RLVR이라고 저희가 계속 얘기하는 건데, RLVR은 Reinforcement Learning by Verifiable Rewards라는 건데, 검증 가능한 어떤 보상 신호를 낼 수만 있으면 모델이 무조건 학습 가능하다라는 얘기를 하는 거죠. 그래서 저희가 도메인이, 처음에 RLVR 나왔을 때는 VR이라는 얘기도 안 했죠. Verifiable Rewards라는 얘기도 안 했고, 수학과 코딩이 그냥 대표적인 예제였어요. 왜냐하면 수학이랑 코딩은 문제를 푸는 과정은 어려울 수 있지만 이 솔루션이 맞냐 안 맞냐를 검증해 보는 건 쉬운 얘기니까. 마치 Sudoku 문제처럼 푸는 건 어렵지만 풀어 놓은 게 이게 정답이냐라는 걸 확인하는 건 쉽잖아요. 그래서 그런 것들만 있었는데, 지금은 그냥 general한 분야로 코딩을 떠나서 의료, 법무, 화학, 생물, 물리, 이런 쪽으로 다 가고 있고. 이런 환경을 만들 수만 있으면 그냥 일이 끝나는 on-policy에서 계속해서 학습이 일어나는 그런 신기한 세상을 살고 있죠.
그리고 이번에 GPT-5.4 나오면서 CUA라고 부르잖아요. Computer Use Agent. 이것도 사실은 컴퓨터 활용하는 환경을 두고 원하는 게 되면 이건 맞았어, 틀렸어라고 하는 그런 보상을 주면서 모델이 저희가 익숙한 앱을 다루거나 아니면 macOS나 Windows를 다루거나 이런 것들을 정말 잘 다루도록 하는 그런 능력을 계속 늘린 거죠. 너무 잘 돼요. 그러면서 저희가 얘기했었던 게, 디지털 환경에서는 절대로 발생시킬 수 없는 어떤 보상 환경이 새로운 사업의 축으로 가는 것 같다라고 얘기하면서 얘기했던 게 Periodic Labs 같은 회사였죠. 거기는 재료 공학 회사인데, 절대 디지털에서는 실험할 수 없는 어떤 특정 재료가 이게 초전도체의 성격을 갖냐 안 갖냐, 이런 것들을 실험해 보는 거를 아예 로봇이 제어하는 랩을 만들어서 그 랩에서 보상 신호를 내서, 이거는 돼요 안 돼요라는 것들이 거꾸로 이렇게 모델에 피드백하는 형태로 디지털 world와 atom world를 결합한 형태로 해자를 쌓고 있는 건데, 이런 문제들이 새로운 어떤 기업이 가져야 되는 해자의 best example로 등장을 하고 있다. 이런 정도 얘기를 마무리할 수 있을 것 같아요.
모든 문제는 Search Problem으로 수렴한다 17:21
노정석 더 간단하게 정리를 하면, 앞에서 몇 가지 예제를 했는데 얘를 한 스텝 위로 abstract layer로 올라와서 좀 정리를 하면, 지금 일어나고 있는 일들을 다 한 문장으로 정리를 하면, compute를 이용해서 계산 자원을 투입해서 모든 문제를 다 search problem으로 치환해 버린 거예요. 우리가 어떤 도메인의 문제라고 하든지 간에 그 문제가 인간이 아직 알지 못하지만 어떠한 superset들을 다 가지고 있잖아요. 우리는 가보지 못한 solution 영역들이 있는데 그 solution 영역을 무작위로 computing 자원을 투입해서 다 가보는 거죠. 다 가보고 그게 정답이면 이건 solution, 정답이 아니면 이건 아니야라고 하면서 그 solution space에 마킹을 하는 거죠. 일종의 manifold를 만드는 건데, 그래서 그 학습된 걸 다시 모델로 가져와서 모델이 그 도메인에 대한 지식을 다 갖게 되는 형태로 가져가고 있죠.
여기서의 핵심은 결국은 보상 신호를 발생할 수 있는 환경이 있느냐 없느냐, 이거밖에 없다라는 걸로 문제가 본질적으로 귀결이 되고. 저희가 거의 작년, 굉장히 오래전이죠. 작년 한 중반 정도에 남은 건 이거밖에 없다. non-verifiable을 verifiable로 전환할 수 있는 환경을 갖고 있느냐 안 갖고 있느냐, 물론 이거의 전제는 computation power는 모두가 갖고 있다는 전제하에 얘기를 한 거죠. 저희가 지난 유튜브 에피소드 중에서 오래된 것들, 뉴스스러운 것들은 죽어 있는 것들도 굉장히 많지만 이 non-verifiable을 verifiable로 전환할 수 있는 그 시나리오와 그 노트들이 있거든요. 그거는 한 번씩 다시 보셔도 이 문제를 근원적으로 이해하는 데 도움이 많이 될 것 같습니다.
근데 이게 모델이 계속해서 강력해지면서 저렴해지는 게 어쨌건 지금 일어나는 모든 변화의 근본인 것 같아요. 그리고 이게 강력하지만 여전히 인간을 못 뛰어넘는 거 아니야라는 얘기를 하시는 분들 굉장히 많거든요. 그래서 그건 암묵지의 영역이라서 모델이 절대 뛰어넘을 수 없어라고 얘기하는 것들을 저도 심심치 않게 듣는데, 이 부분은 제가 capability overhang이라는 이야기로 요약해서 좀 말씀드릴 수가 있을 것 같은데, 사실 저희가 계속해서 알게 되는 게 이 모델이 우리 생각보다 훨씬 똑똑하다라는 거잖아요. 그리고 승준님이 지난번에 프롬프트 강의해 주시면서 야 그냥 앞에 논문 하나 집어넣고 나서 내가 할 말 하면은 요 앞에 있는 space들이 정렬이 돼서 훨씬 더 똑똑한 대답을 내놓는다라는 얘기하신 적 있잖아요. 그런 것처럼 저도 제가 비즈니스에서 혹은 제가 푸는 어떤 생각 실험 안에서도 해보면 느끼는 게, 이 안에 이 모델이 갖고 있었던 capability overhang을 제가 꺼내는 것에 불과하지 내가 얘를 가이드하고 있다라는, 인간으로서 얘를 우월하게 리딩하고 있다라는 느낌이 점점 안 받아지는 게 많아지고 있거든요.
모델은 우리 생각보다 훨씬 똑똑하다 19:17
노정석 그러면서 이런 것들이 근원적으로 잘 드러나는 게, 제가 하는 얘기도 아니고 Claude Code를 만들었던 Boris Cherny나 이렇게 얘기하는 게 the most general one is the most specific one이라고 얘기하고 있잖아요. 어떤 특정 문제를 더 잘 푸는 게 아니라 더 general하게 문제 해결 능력이 증가하면 그냥 특정 specific한 도메인의 문제는 풀려버린다. 모델의 강력함이 훨씬 중요하다. 지금 풀리지 않는다면 덮어둬, 6개월 있다 그때 모델이 풀 테니까라는 그런 얘기를 해요.
최승준 이 부분에서 저도 생각이 나는 게, 요새 지인들하고 얘기하다 보면 루프를 닫는다는 표현을 할 때가 있거든요. 루프를 닫아서 피드백 루프가 형성되게 하면은 많은 것들이 해결이 된다. 그래 가지고 이게 보상 신호가 꼭 아래에서의 보상 신호만이 아니라, verifiable로 어떤 형태로든 변환하면 Ralph loop 같은 게 돌아가지고 이제 성능 향상이나 문제 해결이 일어날 수 있는 그런 닮은꼴 구조가 생겼다고 해야 될까요?
그래서 요새 그냥 채팅 인터페이스인 ChatGPT나 Claude나 Gemini 이런 거 쓸 때 다 내부적으로 그 CLI 같은 거를 돌아가게 할 수 있잖아요. 그래서 그 안에서 Python을 써서 bash loop를 돌리게 하면 그 standard out된 거는 다시 context로 들어와 가지고 모델이 계속 가설 세우고 실험하고 하는 거를 30분 1시간 하는 걸 심심치 않게 채팅 인터페이스에서도 볼 수 있거든요.
노정석 이제 그 이야기가 저희가 제가 이 챕터를 닫기 전에 하고 싶어 하는 핵심 메시지이긴 한데, 말씀드리는 건데 사실 많은 회사들이 본인들의 데이터가 매우 희소하고 세상에 없는 거기 때문에 그거를 어떤 온프레미스 모델에 가둬두거나 정보가 밖으로 못 나가게 하는 거에 신경을 많이 쓰시잖아요.
회사의 독점 지식 테스트 22:03
노정석 근데 제가 어떤 회사에서 테스트를 하나 했는데, 우리 회사만 알고 있는 완전한 그런 독점적인 어떤 것들을 한 3개만 밖에 꺼내서 넣어보자, GPT-5.4에. 근데 재밌어요.
최승준 안 해봤던 걸 하게 됐던 거군요.
노정석 예, 근데 결론만 얘기하면 모델이 이미 다 알아요. 그래서 제가 물론 실행까지 가지 않았어요. 근데 제가 마음속으로 심상으로 갖고 있는 거는, 아 내가 가지고 있는 거를 보호하는 형태보다 내가 가지고 있는 걸 빨리 저한테 그 capability overhang이 갖고 있는 모델에 제공해서 걔가 가지고 있는 추가의 어떤 search space를 더 나한테 가져오게 하는 게 더 이익이다라는 생각으로 저는 좀 심상을 굳히고 있습니다. 그래서 요새는 보안보다는 내가 갖고 있는 거를, 물론 frontier lab들이 좋아하겠지만, 이런 식으로 OpenAI나 Claude는 바깥의 인류들이 가지고 있는 것들을 전부 어떤 이 보상 신호를 다 가지고 가서 쓰고 있는 건데, 그럼에도 불구하고 그 거래를 함으로써 얻는 이익이 아직까지는 더 높다, 뭐 이런 생각이 조금 들고 있습니다.
Auto Research와 최적화 동형성 23:32
노정석 근데 아까 승준님이 방금 하셨던 얘기가, 이제 저희 Andrej Karpathy가 auto research라는 거 했잖아요. 근데 이거 개념도 완전 동형이에요. 결국은 딥러닝이라는 것도 이 명확한 목표, 저 scalar의 loss 함수의 value를 낮추자라는 목표로 하고, evaluation metric, 계속 낮아지면 돼. 그러고 나서 중간에 모델을 놓고 그 가운데 쓰는 방법론이라는 건 그냥 무식하게 computation을 투입해서 계속해서 optimize 하는 거잖아요.
gradient descent라는 알고리즘에 대해서 공부를 해보신 분은 아시겠지만, 정말 무식하게 간단한 알고리즘이거든요. 한 코드로 짜도 20줄 이내로 구현할 수 있는 그런 간단한 알고리즘인데, 거기에 computation을 계속 투입하면 뭐가 solution이 찾아지는 거죠. 더 optimal로 끊임없이 이동하는 그냥 소위 진화 알고리즘이죠.
최승준 중요한 거는 그게 작동하는 영역이 있는데, 그게 안 작동한다고 얼핏 생각하게 되는 문제를 그걸로 번역하는 일인 것 같아요. 어느 정도 또 번역이 되니까.
노정석 그리고 그 번역성이라는 것도, 승준님 방금 되게 중요한 말씀하셨는데, 모델 자체가 그 번역까지 해 줘요. 그러니까 on-policy의 모델이 내가 모호하게 갖고 있는 objective와 내가 모호하게 갖고 있는 evaluation metric조차도 중간에 계속해서 fine-tune을 해주기 때문에, 이 과정을 human-in-the-loop를 몇 개를 돌고 목표가 명확해지면 그다음부터는 그냥 돌리면 되거든요.
최승준 불완전하더라도 1단계를 하면 그다음에 또 펼쳐지더라고요.
노정석 예, 그래서 이거를, 이 슬라이드가 사실은 어떻게 보면 오늘 얘기하는 내용 중에서 가장 중요한 슬라이드거든요. 딥러닝에서 우리가 얻은 이 방법론이, 모델이 어느 정도 이제 똑똑해지고 나니까, 어느 인간 이상의 능력을 갖춘 임계점을 넘고 나니까, 우리가 이제 두려워하던 이 세상으로 진입하고 있는 거거든요.
그냥 모든 문제를, 문제 해결이라는 것 자체는 이제는 이거밖에 없어요. 그냥 똑똑한 모델을 들이대고 그 모델과 함께 목표와 evaluation metric을 명확하게 만들면 그냥 다 최적화 문제로 수렴시키는 거예요.
그 최적화의 대상은 뭐든 될 수 있어요. 하나의 .md 파일이 될 수도 있고 코드 repository가 될 수도 있고 회사가 될 수도 있어요. 프로젝트가 될 수도 있고 뭐든 이 구조로 넣고 AI 루프를 돌리는 게 사람이 일하게 하는 것보다 훨씬 빨라요.
지금의 frontier 모델들도 아마 그 Xiaomi도 그랬다고 얘기하고 있고 Andrej Karpathy도 auto research에서 보여준 것도 그거고 얼마 전에 MiniMax도 이건 에이전트가 트레이닝한 모델이다라고 얘기하잖아요. 사람이 그 루프 안에 안 들어가요. 모델이 자기 스스로를 evolution 시키는 거. 컴퓨터만 주어지면 스스로 evaluation 하는 걸 하면서 자기 증강하는 거죠.
이 3개만 있으면 모든 문제가 해결된다. 그리고 이게 아까 승준님이 말씀하신 우리가 딥러닝에서 찾은 것과 완전히 isomorphic하죠. 동형이죠.
최승준 그리고 또 재밌는 생각이 허예찬 님 발표 들으면서 떠올랐었는데 가재 무덤 이런 거 얘기하셨잖아요. 가재탕 보니까 성공하지 못한 .md들은 그러니까 뭐 그게 프로그램 .md가 됐든 SOUL.md가 됐든 걔네들은 fitness function 통과하지 못하고서는 다음 다른 세대한테 파생시키는 거. 이거 어디서 많이 들어봤던 거잖아요. genetic algorithm 때 했던.
노정석 진화의 알고리즘이에요. 적응하면 살아남는 거고 아니면 죽는 거고.
최승준 그래서 좋은 것들은 crossover하고 가끔 돌연변이 만들고 그런 예전 알고리즘들도 지금 그 생각의 방식에 다 적용이 될 것 같아요.
Ralph Loop 변종과 Meta Cascading 27:30
노정석 그리고 저희가 이거 언제 한 번 다루려다가 계속 못 다룬 건데 사실 그 Blaise Agüera의 그 세션도 정확하게 이 얘기를 하고 있고 저희가 생명공학이나 이런 쪽에 관심이 많기 때문에 그런 쪽과도 완전히 또 다 맞닿아 있습니다. 그거 보면서 저는 거기서 캐치한 핵심 알고리즘은 mutation 필요 없다. 그냥 있는 풀을 뒤지는 것만으로도 order는 찾아진다라는 게 제가 제일 insightful했던 얘기였는데 그래서 요새 저희 Ralph loop 유행한 지 한참 됐잖아요.
그리고 그 Ralph loop의 변종인데 대부분의 방법론들이 얘도 보면 알고리즘은 이거예요. 처음에 목표 명세라고 하든지 뭐 스펙이라고 하든지 뭐 다 다르게 부를 수 있는데 목표를 명확히 하는 데 시간을 꽤 많이 쓰고 그다음에 그 목표가 정해지면 사실상은 저 evaluation metric은 그냥 정해지거든요. 왜냐면 모델이 알아서 정해줘요. 옳고 그른 거를 목표에 따라서 얘가 가릴 능력이 되니까.
그렇게 된 다음에는 evaluation metric에 만족될 때까지 그냥 무한 루프 돌리는 거예요. 마지막 끝날 때 hook 걸어 가지고 검사해, 검사 통과 못 했으면 다시 돌아가, 다시 돌아가. 이게 모델이 지금 항상 문제가 되는 게 중간에 모호하게 끝내는 거거든요. “좋습니다” 라고 하면서 그냥 끝내버리는 건데 걔를 “아무런 문제가 없습니다”라는 답을 할 때까지 그냥 계속 무한 루프를 돌리는 거죠.
최승준 물론 실전에서는 여러 가지 복잡한 것들이 있죠. 왜냐하면 평가 항목을 잘못하면 그걸 exploit 해 가지고 엉뚱하게 통과하는 시도들을 하긴 하거든요.
노정석 모델 자체가 또 reward hacking을 하게 할 수도 있으니까. 근데 그런 부분들은 이게 사실상 회사랑 비슷하거든요. 굉장히 실무가 있지만 그 조직의 hierarchy가 있잖아요. 대표, 임원, 그다음에 팀장, 그리고 팀원들이 있는데 사실은 대표이사는 굉장히 정제된 형태의 마지막 리포트를 보게 되고, 그리고 도는 과정을 보면 Ralph loop거든요. “다시 해 와, 다시 해 와, 다시 해 와”라고 하면서 그 아래로 계속 끊임없이 어떤 동형의 작업들이 아래로 이렇게 meta cascading이라고 저는 표현하는데 그렇게 되는 구조로 되어 있기 때문에 거꾸로 얘기하면 지금 현존하는 회사는 이 방법론으로 완전히 다 대체하는 거는 저는 가능하다라고 보고 있죠.
에이전트 시대의 인재 정의 29:57
최승준 그러면 잠깐 궁금해지는 게 에이전트 인재의 정의는 뭔가요? 지금 끈기 있게 파고드는 거는 기본적인 Ralph loop로 해결이 된다고 하면 의외의 아이디어를 내거나 그런 폭을 탐색할 수 있는 게 능력이 되는 건가요?
노정석 아직까지는 모델에게 무언가를 initiation 시켜 주는 첫 번째 system prompt는 인간이 줘야 되는 거니까. 물론 이것도 곧 AI가 AI에게 주는 세상이 올 것 같습니다만, 아직은 아직은 뭔가 취향을, 취향과 의지를 input하는 거, initiate하는 거, 이런 정도의 의미를 인간에게 주어야 되지 않을까요? 그래서 이것도 승준님이랑 저랑 정규님이랑 있는 단톡방에서 항상 하는 얘기인데, 지금 모델이 모든 걸 다 끝내서 우리가 할 일이 없을 것 같잖아요. 근데 그럼에도 불구하고 여전히 세상이 변화하는 데는 시간이 걸리고, 또 비즈니스의 세상, 시장이 이것들을 받아들이는 데는 정말 짧게는 몇 년, 길게는 이삼십 년이 걸릴 수도 있는 일이라서 그 사이에서 균형 감각을 잘 발휘하는 게 제일 중요한 것 같다. 저는 사업가의 제일 덕목이 균형 감각이라고 보는데, 그거를 좀 잘 발휘해야 될 것 같고. 그거는 지금 뭐죠? 이 evaluation metric이 깔끔하게 동작하지, 존재하지 않는 부분이니까 그 부분은 아직 인간의 역할이 있다.
자 그래서 살짝 넘어가 보면요. 넘어가 보시죠. 요약하면, 모델 좋아지고 모델 때문에 하네스 좋아지고, 또 성현님도 계속 지적을 하셨지만 그 하네스에 맞춰서 RL이 이루어지기 때문에 모델은 더 성능이 좋아지고, 그렇게 해가지고 그 generality가 증가하면 또 기존에 있었던 하네스의 기능들을 얘가 많이 먹어가요. 근데 그럼에도 불구하고 모델이 강력해지면 그걸 이용한 또 다른 하네스는 또 나오게 되고, 이거는 우로보로스의 뱀처럼 영원히 반복되는 루프예요.
최승준 작년 정도에는 Noam Brown 하는 얘기 인용하면서 저희가 하네스가 결국에는 모델에 흡수되는 현상이 일어날 거다라고 했는데, 다시 하네스가 그거에 맞춰서 나오니까 이게 말씀하신 대로 우로보로스 형상인 것 같아요.
노정석 끊임없이 정반합 정반합 형태로 가고 있는 거고, 그 속도도 거듭해서 제가 경외감을 갖고 바라보고 있고 무서움을 갖고 바라보고 있기 때문에 가속화되고 있죠.
최승준 저도 이게 아직 생각이 정리되지는 않았는데, 뉴럴넷 형태로 존재하는 어떤 거와 그 뉴럴넷이 외재화된 도구를 사용하는 거는 인간, 인류가 그래왔던 것처럼 이게 계속 가는 어떤 패턴이지 않나, 그런 생각도 좀 같이 하게 되더라고요.
노정석 그래서 어쨌든 모든 문제를 compute을 이용한 search problem으로 전환하고, 그리고 그 compute이 그 문제를 순식간에 풀어버리는 새로운 시대로 우리가 진입하고 있다. 이 루프를 잘 이해하고 본인의 비즈니스를 이러한 라운드 위에 올리는 자는 이 benefit을 얻을 거고, 이거를 이해하지 못하는 사람은 이걸 이용하는 사람에 의해서 대체될 것이다라는 게
최승준 은근 강한 메시지네요. against, 이거에 저항하지 말라라는 뉘앙스인 거죠.
노정석 Sam Altman이 많이 쓰던 표현이잖아요. “Do not bet against us”라는 말이 있잖아요. 그래서 이거는 그림으로 그린 얘기고, 하네스가 좋아지면 데이터가 더 좋은 게 쏟아지고, 그것 때문에 모델 좋아지고, 그것 때문에 더 많은 RL을 걸게 되고, 그것 때문에 더 좋은 모델이 생기고, 더 좋은 RL 환경을 만들게 되고, 이렇게 된다는 거죠. 자 그래서 여기서 AI 게임에 대한 어떤 본질적인 관점은 이렇다, 이 렌즈를 가지고 좀 바라보자는 거죠. 근데 그 렌즈 위에서 항상 저희 그렇잖아요. 뭐가 한 레이어가 쌓이고 나면 그다음 레이어가 오고, 그다음 레이어가 오면 그다음 레이어가 오고, 이게 저희가 지난 연말에 저희 도망자 연합 발표나 이런 데 썼었던 그 괴델, 에셔, 바흐의 예제에서 봤었던 변증법적인 이 비창발에 대한 그런 이야기였는데, 이런 본질이 있더라도 그 위에서 쌓이는 비즈니스 세상은 또 한 번 더 복잡하게 쌓여갈 거거든요. 그래서 완전히 사업적인 얘기로 돌아가서 사업에서 어떤 일들이 일어나고 지금 뭐가 중요한가라는 거에 대해서 제 생각을 조금 한번 정리를 해 봤어요.
OpenClaw와 개인 에이전트의 부상 34:26
노정석 비즈니스 이야기로 조금 전진을 해보면 이거 같아요. OpenClaw가 나오기 직전까지는 ChatGPT나 Claude나 Gemini가 이 거대한 게이트웨이, 네이버나 구글이 되어서 새로운 게이트 키퍼 포지션들을 갈아치우고 얘들이 새로운 게이트 키퍼가 되는 거 아닌가 라는 식으로 제 사업 논리를 많이 쓰고 있었는데, OpenClaw가 나온 다음에 OpenClaw 써보고 OpenClaw가 익숙해진 세상을 살면서 아닐 수도 있겠다. 이거 우리가 그랜저랑 쏘나타만 타는 거 아니잖아요. 누구는 캐스퍼 타고, 누구는 테슬라 타고, 누구는 BMW 타고, 용도와 취향에 맞춰서 다 다른 차를 타잖아요. 그런 것처럼 어쩌면 이 사람이 정보에 접근하는 최상단 게이트웨이가 우리가 지금껏 익숙한 몇 개의 채널이 아니라 각자만의 개인 에이전트로 완벽하게 분화해 버릴 수도 있겠다라는 생각이 새롭게 들고 있습니다. 왜냐하면 이게 훨씬 편해요. ChatGPT가 나에게, 지금 저희가 좀 이따 번들링 언번들링 얘기를 하겠지만, 나에게 강요하려고 하는 그 번들링 프레임이 싫을 때가 있거든요. 왜 꼭 그렇게 써야 돼. 근데 그런 걸 완전히 다시 해체해 줘요. 그래서 지금은 소수의 얼리 어답터들과 앞서 가시는 분들에게만 와 있는 OpenClaw의 세상이, 이게 어쩌면 모든 이의 게이트 키퍼일 수도 있겠다라는 생각이 조금 들어요.
제가 조금 그 뉘앙스를 느끼는 게 좀 귀찮긴 하는데, 오피니언 리더들의 토크를 제가 거의 들어요. 요약해서 보는 게 아니라 출근하거나 퇴근하거나 뭐 할 때 거의 들으면서 그들의 말 사이에 존재하는 미묘한 그라디언트를 읽으려고 노력을 하는데, Sam이 저희 작년 10월만 하더라도 니들 다 죽었어 모드였거든요. 26년에는 AI 리서치 인턴을 만들 거고, 28년에는 AI 리서처를 만들 거고, 우리 구글과 같은 풀스택 서비스 회사 만들 거니까. 비전 발표회 작년 10월 말에 했거든요. 불과 4달 전 얘기인데 한 서너 달 지나면서 Sam의 뉘앙스가 살짝 바뀌었어요.
최승준 풀이 죽지 않았나요?
노정석 좀 겸손해졌어요. Anthropic이 확 치고 올라오는 거, 이것도 의미가 있었던 것 같고. 그러면서 결국은 우리는 토큰을 미터에 달아서 파는 사업자가 될 것 같다는 얘기 심심찮게 하거든요. 다 토큰 사업자가 될 것 같다. 그리고 예전에 OpenAI만 이 강점을 가지고 있었으면 모르겠는데, 지금 사실 중국의 프론티어 모델이라든지, 또 NVIDIA가 OpenAI와 Claude조차도 commoditize 시켜버리려고 노력하고 있잖아요. 프론티어 랩들이 갖고 있는 knowledge들을 다 레시피로 빼서 GitHub과 Hugging Face에 올려져 버리고, 너네 NVIDIA GPU만 사면 너네도 너네 거 만들어 쓸 수 있어라는 식으로 또 제3의 축을 공급하고 있기 때문에 그야말로 완전 완벽한 frenemy 월드예요. 누가 친구인지도 적인지도 모르게.
그래서 Jensen 얘기를 했으니까, Jensen이 얼마 전에 글을 발표했잖아요. AI는 5 레이어 케이크다. 그러면서 에너지부터, 그 위에 반도체 칩, 그리고 인프라스트럭처, 그 위에 모델 올라가고, 그 위에 애플리케이션들이 꽃을 피운다, 뭐 이런 얘기를 했는데. 이 애플리케이션은 우리가 알던 애플리케이션이 아니에요. 에이전트 애플리케이션은 우리가 지금껏 웹 세상과 그다음에 앱 세상에서 익숙한 그런 애플리케이션은 전혀 아니다. 그럼 우리 기존에 있었던 수많은 모바일 앱들, 우리가 익숙한 수많은 서비스들 있잖아요. 걔들은 어떤 운명을 겪을까? AI 시대에 뭐 이건 당연히 해볼 수 있는 생각 실험이잖아요. 그리고 거기에 맞춰서 뭔가를 만들어야지.
사실 앱스토어에 앱 잘 올려가지고 돈 많이 벌었어요, 얘기 안 들은 지 한참 됐잖아요. 저만 해도 앱스토어에서 새 앱을 다운로드 받은 지가 몇 년 전인 것 같아요. 그런 세상인데 이거 그 OpenClaw 밋업에서 Simon이 보여준 앱이거든요. 본인이 만들고 있다고 보여주시는 OMO.BOT인데, 에이전트 앱이에요. 우리가 귀찮게 접근하는 수많은 앱들 사실 저희 그런 생각하잖아요. 짜장면 배달하려면 배민 가야 되고, 생수 주문하려면 쿠팡 가야 되고, 택시 부르려면 카카오택시 가야 되고, 뭐 하려면 어디 가야 되고, 귀찮잖아요. 그거 그냥 비서가 다 해주면 되는 거 아니야. 그냥 그거를 실현한 거예요. API가 있는 회사는 API를 연결하고, 아닌 회사는 CUA, Computer Use Agent를 연결해 가지고 그냥 에뮬레이션을 하신 것 같아요. 그래서 이거는 배민 치킨 주문하는 건데, 이것도 이런 식으로 해가지고 이 안에서 전부 구현을 해 놓으셨더라고요. 그래서 이게 미래겠다. 앱의 미래고, 에이전트 애플리케이션의 목적물이겠다라는 생각이 저는 들어요.
에이전트가 기존 앱을 대신 조작하는 레이어 39:01
노정석 뻔히 이렇게 될 거다라고 상상하고 있었는데, 역시 이렇게 빨리 실행하는 사람들이 만들어 놓은 거 보니까 느낌이 좀 다르더라고요. 근데 여기서 우리가 유심히 봐야 될 점들은, 우리가 알던 모든 앱들이 이 에이전트가 대신 조작해 주는 레이어 아래로, 그냥 아래 레이어로 다 묻힌다는 게 저는 우리가 되게 중요하게 봐야 될 것 같아요.
그런데 우리 아래에 있는 수많은 배민이라든지 뭐라든지 이 기존의 비즈니스 월드에서 어떻게든 성공을 해서 어떤 매체력을 발휘하고 있는 기존의 게이트키퍼 포지션들을 보면, 얘들의 핵심은 다 중간 개입이거든요. 그래서 저는 항상 얘기하는데, IT 비즈니스는 그냥 미디어 비즈니스랑 똑같다. 매체력이 곧 마진인 그런 세상이라고 얘기를 하는데, 어쨌든 그들이 그런 매체력을 발휘하는 거, 중간 파워를 발휘하는 거는 그 직전 시대에 어떻게든 승리를 거뒀기 때문에 그 포지션이 된 거거든요. 네이버는 검색을 점령했고, 카카오는 커뮤니케이션을 점령했고, 배민은 배달을 점령했고, 그다음에 쿠팡은 로켓 배송을 가지고 생필품이라든지 이런 것들을 가장 싸게 하는 그런 것들을 점령했고. 그렇게 해서 쌓아 올린 매체력을 가지고 고객과 수많은 공급자 사이에서 소위 중간자 역할을 하며 마진을 만들고 있는 사업자들인데, 방금 봤던 OMO.BOT을 보면 그냥 그들과 우리 사이에 끼어드는 새로운 사업자거든요. 기존 사업자들은 당연히 싫어하겠죠. 기존에는 막았어요. 네이버가 그런 걸 정말 잘하던 회사 중에 하나죠. 크롤러 막고 뭐 막고, 뭐 막고 무조건 다 막아 가지고 소위 walled garden에서 콘텐츠가 빠져나가는 거를 막으면서 그 안에서의 선순환 루프를 만들면서 오늘날의 제국을 쌓아 올렸는데, 에이전트가 이러한 것들을 decompose하는 거, 분해하는 거를 막을 수가 있을까.
최승준 막으면 안 되겠죠. 이 방향성에서는.
노정석 그렇죠, 못 막을 거예요. 왜냐하면 사람이 오는 것과 트래픽이 구별이 안 될 테니까. 왜냐하면 그냥 내 에뮬레이터에 내가 로그인해 놓고 그 에뮬레이터를 내 에이전트가 조작하면 어떻게 막죠? IP도 전부 다르고 모든 게 전부 다 다를 텐데. 그리고 샤오미가 MiMo V2 하면서 당연히 MiMo Claw 만들어서 넣어놓고, OpenClaw를 그냥 이 안에 모바일까지 해서 Claw를 넣으려고 할 거고, 그러면 Apple은 안 할까요? Google은 안 할까요? 다 하겠죠. 구별이 안 되는 거죠. 그러니까 결국은 생각 실험을 해보면서 안에서의 어떤 새로운 내쉬 균형점을 찾아보면, 이거는 못 막는 게임이고 기존에 있었던 사업자들은 다 disintermediation 될 가능성이 좀 있는 거죠.
Bundle-Unbundle 프레임워크 42:57
노정석 이걸 저희가 산업 구조의 bundle, unbundle이라는 표현으로 많이 사용하거든요. 그리고 이 bundle, unbundle이라는 표현을 제일 잘 도식화하고 설명해 주는 사람이 a16z의 Benedict Evans라는 사람이에요. 그 Benedict Evans가 Andreessen Horowitz가 유명한 게 “Software is eating the world”라는 그 표현으로 익숙하잖아요. 근데 “AI is eating the world”라고 새로 밀고 있는데, 그 “AI is eating the world” 프레임 만든 사람이 Benedict Evans인데, 결국은 이렇게 얘기하면 맞을 것 같은데, 앞서 얘기한 것처럼 어떤 산업이 끊임없이 어떤 패러다임이 바뀌는데, 매체가 바뀔 때마다 종이에서 TV로 갈 때, TV에서 인터넷으로 갈 때, 인터넷에서 그러니까 웹에서 모바일로 갈 때 이제 모바일에서 AI로 갈 때 어떤 distribution 채널들이 저희가 이제 distribution layer라고 얘기하는데 새로운 distribution layer가 등장할 때마다 한 번씩 판이 뒤집혀요.
그래서 예전에 신문이나 잡지나 텔레비전을 보시면 방송은 이런 거야. 드라마와 뉴스와 이건 이렇게 편성하는 거고 그 사이에는 광고가 들어가라는 식으로 해서 자기네가 만든 매체력을 가지고 뭔가 틀을 꽉 짜죠. 그게 저희가 얘기하는 bundle이에요. 그렇게 해서 bundle을 고객에게 강요하죠. 그럼 고객은 그냥 당연한 듯이 보고 그것 때문에 매체 사업자들은 비즈니스가 생기는 거고 근데 인터넷이 오면서 그것들이 다 unbundle이 됐죠. 그런 식으로 unbundle이 되고 또 unbundle이 된 게 한참의 시간이 흘러서 그 layer에서의 어떤 지배자가 나오면 걔는 그 지배력을 가지고 또 그걸 다시 bundling해요. 그리고 그 다음에는 또 unbundling하고 이거는 역시 또 진화 알고리즘이랑 똑같아요.
어떤 환경의 변화에 따라서 끊임없이 diversification이 생기고 diversification이 생기면 그중에서 어느 하나의 승자의 후보들이 나오고 승자가 나오면 그 승자가 후보가 나왔다는 얘기가 몇 개의 selection이 된다는 얘기인데 그 selection이 되고 나면 그게 다시 지배종이 돼서 amplification이 돼서 또 새로운 어떤 환경을 만들고 diversification, selection, amplification 이 3개가 Ralph loop처럼 영원히 돌아가는 게 기본적인 진화 알고리즘인데 이게 똑같이 도는 거죠. 그래서 bundle, unbundle의 반복 예제는 굉장히 많다.
그러면서 Benedict가 얘기하는 게 우리가 알고 있는 거의 대부분의 B2B SaaS 애플리케이션은 그냥 Oracle unbundling이다. 심하게 얘기하면 Excel과 Oracle만 갖고 다 만들 수 있는 서비스인데 그거를 각각의 어떤 사용 예에 맞춰 가지고 전부 unbundling 해 놓은 시대다라고 얘기를 하고 있고 AI 시대는 결국은 거의 대부분의 서비스는 ChatGPT unbundling일 거다라고 얘기해요. 그런데 뭐 이미 보고 있죠. 우리 초창기엔 ChatGPT 가서 코딩, 리서칭, 뭐 법무 다 했었는데 지금 어떤 context engineering이 됐건 아니면 다른 하네스와의 조합이 됐건 혹은 특화 모델이 되었건 전부 unbundle이 또 일어나고 있죠. 물론 거기에서 또 싸움에서 지면 더 큰 사업자에게 bundling이 되기도 하고 그런데 bundle, unbundle 요 framework은 산업을 이해하기에 굉장히 좋은 framing이니까 제가 좀 시간을 들여가지고 설명을 좀 해 봤습니다.
기존 사업자의 UX 마찰과 Disintermediation 46:28
노정석 자 그러면 기존 사업자 입장들에서 한번 생각 실험을 해보면 이거는 아마 그들은 거의 방어하기가 어려울 거예요. 고객이 더 편해지기 위해서 떠나는 거를 뭐 어떤 수로 막을 수가 있을까요? 그렇죠. 기존의 사업자들이 소위 UX, 저는 쉽게 얘기해서 끝나간다고 보는데, 끝났다고 보기에는 너무 좀 심하고 한참 시간이 더 걸리겠지만 AI 때문에 기존의 UX가 다 unbundle 될 게 다음 트렌드이기 때문에 기존의 사업자가 쌓아 올린 일종의 매체력, 그리고 그 매체력으로 만든 수익 구간이 고객 입장에서 보면 온통 다 마찰이에요. friction들이에요. 그리고 그 friction들이 사실 다 마진이거든요. 사업자 입장에서는 이걸 하려면 이걸 반드시 해야 돼 라고 짜놓은 UX flow, 그 사이에 존재하는 수많은 광고 인벤토리, 그리고 그 옆에 아래 위에 존재하는 cross-sell, upsell 구간들. 근데 에이전트들이 와서 이것들 다 없애버리고 있죠. 훨씬 빠르게. 그러면 결과적으로 어떻게 되냐, 기존 사업자들은 다른 에이전트들의 function call이 될 가능성이 매우 농후한 거죠. 못 막아요. 못 막을 테니까 사실은 저는 가장 좋은 거는 빨리 이 전쟁에 같이 뛰어드는 거 말고는 답이 없다라는 생각은 좀 드는데 조금 더 진전을 해보면 결국은 이 OMO.BOT처럼 뭔가 유저의 눈 바로 앞에 최상단 접점이 될 가능성이 높은 애들이 저는 OpenClaw 류가 굉장히 강한 candidate이라고 생각해요.
Jensen이 아예 이번에 GTC에서 “Are you OpenClaw ready?”라는 그런 표현을 하잖아요. 모든 비즈니스든 모든 개인이든 OpenClaw 전략을 갖고 있어야 된다고. 제가 고객 입장에서 제가 OMO.BOT의 고객이 됐다는 입장에서 생각을 해보면 저희가 회장님 analogy를 많이 쓰고 있는데, AI 덕분에 모두가 회장님이 되고 있다. 그래서 새로운 업의 본질이 제가 보기엔 말 그대로 저희의 어시스턴트라고 얘기하잖아요. 이미 비서 공급업이에요. 수단을 제공하는 게 아니라 해결 완료를 팔아야 돼요. 모두가 다 이 삶으로 전환하고 있다라는 그런 생각이 좀 든다. 지금은 빠른 적응이 훨씬 더 중요한 장세다, 이런 생각이 좀 들고.
적응 경쟁의 시대 48:52
노정석 그래서 저는 이런 쪽 스타트업 사업 쪽에 있으니까 누가 사업 계획 같은 거 갖고 와가지고 이것저것 물어보면 저는 자동차 경주냐 자전거 경기냐 요트 경주냐를 물어보거든요. 자동차 경기는 돈 많으면 무조건 이겨요. 그냥 더 좋은 차 사면 조금 더 안 좋은 차를 타는 사람은 무조건 이길 수가 있어요. 물론 드라이버의 실력은 다 상향 평준화돼 있다는 가정 하에. 거의 다 상향 평준화돼 있기 때문에 자동차 경주는 그냥 돈 싸움이 끝이다. 자전거 경기는 내가 얼마나 열심히 하느냐 플러스 약간의 눈치예요. 먼저 나갈 거냐, 뒤에 있을 거냐. 요트 경기는 이게 앞에 있는 것과 다르거든요.
자동차 경기, 자전거 경기 둘 다 게임을 리딩하는 건 다 리더예요. 리더가 어떻게 변화하면 뒤에 있는 애들이 다 리액션하는 형태로 게임이 굴러가는데, 요트 경기는 좀 다르거든요. 후발 주자가 방향을 바꾸면 앞에 있는 사람들 다 바꿔야 돼요. 왜냐하면 내가 뭘 잘하는 게 중요한 게 아니라 밖에 어떤 바람이 부느냐가 훨씬 중요하거든요. 제가 보기에는 지금 이 AI 바람이 지배하는 장세가 어마어마하게 심하기 때문에, 뒤에 후발 사업자들이 다른 전략을 쓰면 사실 모든 영역을 다 counter 해야 되는 경기인 것 같아요. 저는 모든 영역을 다 counter할 수 있다는 생각은 들어요. 왜냐하면 그들의 제작 단가가 떨어진 만큼 기존 사업자들도 단가는 다 떨어져 있기 때문에 이거는 철학과 타이밍 싸움에 다시 한번 들어갔다라는 생각이 들고. 그래서 기존 사업자 입장에서도 사실은 이게 어떻게 되나라고 바라보기보다는 이 세상에 맞춰서 무조건 좀 같이 바뀌어야 되는 게 아닌가, 이런 생각이 좀 들고 있습니다.
단, 어쨌든 그 사이에서 내가 이 게임에서 어떤 방어 지점을 가져갈 거냐. 저희가 앞서 얘기했듯이 non-verifiable을 verifiable로 바꾸는 어떠한 게 moat가 될 수 있다라고 얘기했듯이 비즈니스에서도 이러한 부분들의 moat가 될 만한 영역들, 왜냐하면 본질적으로 지금 다 동형인 게임을 하고 있기 때문에 여기서도 그게 존재합니다. 어쨌든 저희가 10x 얘기를 많이 하는데, 이거는 저희 회사의 엔지니어 한 분인 진욱 님이 저한테 줬었던 frame인데, 원래는 5분의 1, 5배라는 frame을 썼었는데 요새 10이라는 숫자가 유행이니까. 제가 AI를 두 방향에 투입할 수 있다. 효율을 극대화해서 기존에 100이 들던 걸 10으로 만들게 하고 90의 이익을 남기는 거, 아니면 그냥 새로운 곳에 가서 새로운 900을 창출하는 거. 지금의 거의 대부분의 AX는 다 그냥 효율 추구예요. 그리고 뒤에 있는 정말 다른 10배를 만들어내는 거, 이건 약간 zero to one인데 얘는 아직 시작되지 않은 것 같아요. 그리고 곧 시작될 것 같아요. 결국은 저희 입장에서 생각해 보면 둘 다 해야 된다, 둘 다 해야 된다라는 생각을 하고 있어요.
1/10x 효율 vs 10x 신사업 51:10
노정석 지난주에 유행했던 article 중에 하나가 AI는 어떤 사람을 강화하는가라고 해서 10x lawyer라는 글이 있었거든요. 요약만 하면 결국은 강화되는 사람들의 족속들이 따로 있다. 그래서 지금의 조직들은, 이 로펌을 예로 들면서 했었던 얘기인데, 최상단의 파트너, 그다음에 시니어들, 그 아래 주니어들, 그리고 이들이 팀으로 움직이는 형태로 되어 있고. 사실상 거의 대부분의 value add는 몇몇 사람들의 결정적인 공헌 때문에 일어나지만 사실 비즈니스 모델 자체는 팀 단위로 time charge를 하면서 아래 뭐 조사를 했는지 안 했는지 모르겠지만 associate 변호사들까지 다 charge하는 형태로 해서 비즈니스 모델이 이루어져 있는데 이것도 역시 unbundle 되는 거죠. 더 뛰어난 사람의, 시니어 능력을 가진 변호사 하나가 에이전트와 결합해 가지고 훨씬 더 싸고 빠르게 클라이언트를 만족시키기 시작하면 클라이언트들, 수요 측에서는 좋은 물건이 있는데 아무 이유 없이 기존에 이걸 썼다는 이유만으로 비싼 걸 사는 것도 한두 번이거든요. 분명 변화가 굉장히 빠르게 일어난다. 그래서 그 축이 한 번 돌기 시작하면 걷잡을 수 없이 바뀔 것이다라는 이야기를 해 놓은 거죠.
그러면서 결국은 10x talent가 빨리 되는 게 얼마나 중요하냐라는 것들에 대한 이야기, 플러스 그게 거스를 수 없는 사업 구조 변화를 만들 수밖에 없고, 이게 사실 10x lawyer라고 얘기했지만 10x engineer, 10x doctor, 10x something 뭐든 다 나올 수 있는 거라서 이게 나오는 거죠. 그리고 이런 dynamics 때문에 지금 조직이 다 혼돈스러워요. AI transformation이 다 이런 구조로 일어나기 때문에. 왜냐하면 항상 신기한 건데, 제가 이런저런 회사를 다 다녀보고 이런저런 회사들의 사업에 개입해 보고, 정말 엘리트 덩어리들의 회사와 보통 사람들 모여 있는 회사, 아니면 그렇지 않은 회사들, 온갖 종류의 회사들을 다 해봤는데도 신기한 게 사람은 모아놓으면 언제나 정상 분포가 되는 것 같아요. 잘하는 사람끼리만 모아놔도 모아놓으면 그 안에서 꼭 제일 잘하는 사람과 못하는 사람 생기고, 중간에 있는 사람들이 생겨 가지고 그들 사이에 dynamics가 갈라지고. 그리고 그 모양은 또 각각의 조직들에서 거의 동형이에요. Isomorphic해요.
이런 것들이 참 중요해서 제가 이 슬라이드에서 얘기하고 싶었던 내용은, AX라고 얘기를 하지만 결국은 변화하고 싶어 하는 진짜 이런 거를 날카롭게 adapt하는 몇몇 사람들과 빨리 가야지, 다 데리고 못 간다라는 얘기를 제가 하고 싶어 가지고 이 얘기를 썼던 건데. 제가 아까 효율을 추구하고 혁신을 추구한다. 1/10x로 만드는 게 사실은 효율 추구라고 얘기했지만 이게 사업 용어로 better, faster, cheaper 하는 거고, 그다음에 10x로 만드는 게 zero to one 하는 게 사실 innovation 하는 건데. 제가 뷰티 사업에 와서 AI를 걸어서 만들고 싶었던 게 딱 이 구조거든요. 저는 물건 파는 회사를 하고 싶었던 게 아니고 지금 다 물건 파는 구조를 어떻게 다 서비스 파는 구조로 전환시킬까. 이렇게 만들고 싶었던 게 제 생각이었고, 그래서 back-office, 대부분의 회사들이 그렇지만 항상 전방엔 고객이 있고 후방에 뭐죠, 공급 체인망이 있어요. supply chain이 있는데, supply chain은 efficiency를 가져가고 고객들한테 혁신을 공급하고 이렇게 하려고 하는 게 제 계획이었고 완성된 건 아니지만.
에이전트를 붙여도 10배는 아직 55:19
노정석 사실상 그다음에 저희도 지금 고객에게 들이대는 게 있고 아직 들이대지 않은 것들이 있는데, 제가 생각하는 어떤 원형들은 거의 다 만들었거든요. 그래서 누군가 회사가 autonomous하게 굴러가면 이런 거여야지라고 하는 거, 아마 제 회사에 다 있을 거예요. 모든 데이터에 전부 AI 붙어 있고, 거기에 전부 에이전트들이 붙어 있고, prompt와 뭐 있고, 그 에이전트 위에는 또 다른 meta 에이전트들 붙어 있고, meta 위에는 또 meta 붙어 있고 해서. 저는 모든 회사의 업무를, Claude Code가 마치 객관식으로 다 바꿔주잖아요. 뭘 물어보면 너 3번 중에서 골라, 4번 중에서 골라 하는 것처럼 제가 CEO로서 해야 되는 일들도 매일 일을 해야 되는 게 아니라 에이전트가 갖고 오는 1, 2, 3, 4를 누르게 하는 구조로 거의 다 바꿔놨는데, 그래서 다 있는데 그럼에도 불구하고 회사의 생산성이 10배가 됐냐, 아직은 그렇지 않아요. 좀 더 바뀌어야 될 근원적인 게 있다라는 생각은 저는 하고 있어요.
제가 AI로 사업을 해보겠다라고 하면서 이 짓을 한 게 4년이 훌쩍 넘었더라고요. 그래서 2021년부터 모델도 만들어 보고, diffusion 모델도 해보고, LoRA 붙이는 거, small language model, 그다음에 무슨 에이전트 SDK, 안 해본 게 없어요. 비즈니스에 그때 있었던 것들을 그 당시에 있었던 걸 다 붙이면서 전부 해봤는데 다 안 됐거든요. 근데 이제 돼요. 작년부터는 모델이 임계점을 넘으면서부터 안 되던 것들이 다 돼요. 그리고 제가 스스로 나만의 것을 하려고 하는 것도 다 무색할 정도로 프론티어 모델에 의존해 가지고 전부 다 되는 세상이 됐거든요. 물론 후회는 되죠. 아무것도 안 하다가 작년에 시작했으면 최대의 효율 아니야라는 생각일 수도 있는데, 물론 그 사이에 겪었던 수많은 실패들이 의미가 있다라고 저는 개인적으로는 그렇게 스스로를 위로하고 있고, 마치 정규님이 지난번에 와서 얘기했던 거랑 비슷해요. 인간 신정규는 슬프지만 회사 Lablup은 좋다라고 얘기하셨던 거랑 저도 똑같은 감정이 들어요.
돌고 돌아 바닐라가 답이다 58:12
노정석 이게 추구하는 방향이 두 개가 있다라고 말씀드렸잖아요. 이 efficiency를 만드는 거, 효율화하는 거는 저희도 굉장히 많은 trial들을 해봤는데 답만 말씀드리면, 사장이 해보는 게 제일 빨라요. 솔직히 결과적으로는 저도 가장 처음 제가 어떤 원형을 이렇게 하면 되잖아라고 만들어서 보여주는 거가 시작점이었거든요. 그러면서 AI native, native한 탤런트들을 붙여가지고 이렇게 해보세요 저렇게 해보세요라고 하는 것들이 돌기 시작했고, 그리고 그 도는 과정에서도 각자의 자유도를 보장하며 누구는 자기만의 하네스를 만들고, 누구는 어떤 프레임워크를 가져와서 돌리고, 프레임워크도 누구는 Pydantic 가져오고, 누구는 LangChain 가져오고, 그런 것들 다 허용했었는데 결론적으로만 얘기하면 이 얘기는 아까 저희 초반에 했던 얘기랑 비슷한데, 문제의 목표와 이걸 평가하는 기준이 명확하니까 얘도 optimization 문제로 귀결되고, 그것들을 계속 optimize를 시키다 보니까 각각 수렴하면서 만들어지는데, 다 만들고 나니까 제일 위대한 방법론이 하나가 나오거든요.
그 답만 말씀드리면, 안 만드는 게 베스트예요. 데이터 커넥터 깔끔하게 만들고, 프롬프트 잘 쓰고, 프론티어 모델과 Claude Code라든가 Codex라든가를 붙이는 게 성능은 제일 좋아요. 이거는 저희 one of N, 엔지니어 한 명의 똑똑한 엔지니어가 그가 했었던 방법론으로 회사가 다 그 방법론으로 전환했는데, 다른 분들은 정말 온갖 종류의 다른 방법들을 가지면서 만들었는데 그 친구는, 체스터 그럴 필요가 없다. 어차피 우리 하네스 만드는 건데 가장 궁극의 하네스와 궁극의 모델을 쓰면 되는 거 아니냐, 그 일을 할 필요가 없다. 그래서 데이터 커넥터, 대신 데이터 커넥터를 깔끔하게 만들고, 그다음에 그 데이터들을 기술하는 prompting을 잘하고, 우리가 원래 이루어야 되는 목표에 대한 그 목표, objective를, 스펙을 프롬프트로 깔끔하게 쓰는데 노력을 엄청 많이 한. 프롬프트를 잘 쓰려면 사실 엔지니어링 파워가 중요한 게 아니라 그 도메인에 대한 이해가 중요하거든요. 그 도메인이 어떻게 생겼는지를 엔지니어임에도 불구하고 모델들을 돌리고, 회사에 있는 데이터들을 이해하려고 노력하면서 프롬프트를 잘 쓰니까 일이 끝나요. 그래서 저는 맨 마지막 문장이 저 그냥 답으로 남았거든요. 다른 거 하려고 하지 마, 이거야.
최승준 느낌적으로는 돌고 돌아 순정 바닐라 느낌이네요.
노정석 그렇죠. 이게 참 말하고도 슬퍼요. 그동안 썼던 이 어마어마한 노력들과 시간들, 이런 것들이 돌고 돌아서 결국 모델의 capability overhang에 기대는 게 답이었네라는 거를 알게 되니 답이죠.
근데 문제는, 좋은 점은 있습니다. 분명 이렇게 슬프게 얘기하지만 결국은 그 사이에서 쌓였던 수많은 시행착오의 예외 상황들, 이게 제 가치거든요. 정규님도 똑같은 말씀하셨던 기억이 나네요. 그 사이에 생겼던 수많은 예외 상황들에 대한 distribution이 제 머릿속에 다 있다는 게 제가 갖고 있는 파워인 것 같아요.
10x New Biz는 Entrepreneur의 영역 1:01:38
노정석 10x new biz, 이거는 더 어려워요. 근데 얘는 결론만 얘기하면 이거는 제가 그냥 신사업 만드는 거랑 본질적으로 똑같다고 느껴져요. 얘는 그거를 리딩하는 사람이 그거에 비전을 느끼지 않으면 무조건 안 돼요. 그래서 사장이 이거 이거 이거 될 거니까 이거 만들어라라고 미션을 아무리 내려보내도 그 아래에 있는 사람이 바라볼 때 그 문제가 better, faster, cheaper의 문제가 아니라 innovation의 문제면 해결이 잘 안 된다. 그래서 그 단위의 리더가 온전히 학습을 하든지 아니면 무언가 깨달음을 얻든지 해서 다음 레벨로 올라서, 사업가의 반열에 준하는
저는 결국은 계속 하는 얘기인데 AI 시대에 우리가 가져야 되는 사람으로의 덕목, 어떤 사람들이 살아 남을 것이냐라는 것들을 얘기했을 때 그 남는 사람들의 카테고리, 특성, characteristic. 이게 그냥 사업가라고밖에 생각이 안 들거든요. entrepreneur라는 기질이 없으면 도대체가 할 일이 없어요. 좀 심하게 요약해서. 왜냐하면 여러분들이 단순 반복하고 싶어 하는 일들, 그걸 AI가 훨씬 잘 할 거기 때문에.
최승준 그러면 궁금해지는 부분이 그 앞에서 말한 1/10x 효율하고 10x new biz 사이에 인과관계가 있을까요? 상관관계가 있을까요? 서로 orthogonal할까요? 독립적일까요?
노정석 이렇게 요약하면 될 것 같아요. 결국은 objective의 성격이 다르거든요. 앞에 있는 거는 metric을 잡기가 쉬워요. objective와 evaluation metric이 명확하게 보이는 거고, 여기 뒤에 있는 문제는요. objective와 evaluation metric이 존재하지 않는 영역이에요.
최승준 그러니까 아무리 효율을 높인다고 하더라도 지금 후자로는 점프할 수 있는 거잖아요.
노정석 못 가죠, 못 가죠. 그래서 결국은 저도 여기는 아직은 답은 없어요. 모호하게 느끼고 있는 부분인데, 여기는 결국은 그 해당 도메인을 잘 아는 똑똑한 entrepreneur의 의지가 제일 중요한 영역이다.
그래서 이거는 그냥 스타트업 창업하는 거랑 본질적으로 똑같게 느껴진다라는 생각이 들어요. 그래서 제가 앞서서 저희 OpenClaw 모임에서 만났던 이 젊은 신선분들, 저희에게 신선한 unlearn을 제공했던 그 천재들을 보면서 그 친구들이 그 레벨로 가고 있는 것 같아요. 무언가 방법론은 깨우쳤고, 그 방법론을 가지고 얘를 어떤 사업에 적용할지에 대해서 다들 생각들을 돌려보고 있는 중인 것 같거든요.
그래서 저는 그들이 어떤 혁신의 영역으로 가서 새로운 것들을 만들어 올 건가라는 거를 굉장히 궁금하게 보고 있어요.
최승준 장강의 물결, 그 얘기 떠오르네요. 늘 새로운 세대가 해냈잖아요.
노정석 뒷물이 앞물을 밀게 돼 있죠. 그래서 우리도 잘 밀려나야 된다라는 생각도 들고. 그래서 그 친구들을 보면서 저는 부러웠어요. 그리고 한국의 미래가 밝구나라는 생각도 들고.
최승준 이미 하시고 계시는 전략들도 흥미롭더라고요. 국내만 보지 않고 해외도 보고, 또 영향력을 가지기 위해서 그 스타트업의 스타를 모은다거나 influencer를 가지려고 노력하는 그런 태도들 같은 것들도 행간에 읽혀져 가지고 매우 좋은 자극이 됐던 것.
노정석 그런 것들도 가만히 지켜보고 있으면 우리가 얘기했던 이 optimization 로직으로 다 환원시키는 활동들이거든요. 기업에 누군가 이슈를 달아주면 그거 자체가 사실은 우리 전체 프로젝트의 단위 objective를 설정하는 게 되고, objective가 설정되면 걔는 명확한 문제이기 때문에 evaluation metric은 모델이 스스로 잡아줄 수 있는 거고, 그럼 스스로 진보가 일어나는 어떠한 생태계를 구축한 거죠. 매우 매우 스마트합니다. 그래서 그걸 홍보하면서 recognition을 계속 높이는 게 어쩌면 인간이 해야 되는 가장 중요한 일인 거고, 그걸 본질적으로 제일 잘하고 있는 거죠.
말씀도 잘하시더라고요. 제가 끝나고 가서 물어봤어요. 예찬 님한테. 예찬 님, 예찬 님 나이도 이렇게 어린데 어떻게 이렇게 이런 심오한 깨달음을 얻었냐라고 질문을 하니까 그냥 진짜 돈 걸린 문제에서 목숨 걸고 전투하다 보면 이렇게 되는 거 아닐까요라고 대답을 하셨는데.
최승준 혼자서 hunt 하셨었던 거죠.
AX 프로젝트의 함정: 업무를 통째로 없애기 1:06:15
노정석 네, 정답이죠. 저희가 회사에서 AX 프로젝트들 수도 없이 하잖아요. 근데 AX 프로젝트를 할 때 많이 하는 게 AX 팀을 만들고 그 팀이 어떻게 해요? 해당 팀들을 돌아다니면서 요건을 받죠. 요건을 받아 가지고 뭘 만들어 주는 형태로 프로젝트가 구조화되는데, 그렇게 하지 말라는 얘기를 제가 쓴 건데.
최승준 왜 그렇게 하면 안 되죠?
노정석 만들어줘 봐야 어차피 안 써요. AX, 왜냐하면 그 조직의 인센티브가 어떤 사람이, 지식 노동자가 어떤 일을 하고 있는데 우리가 마케터가 됐건 기획자가 되었건 아니면 매니저가 되었건, 하는 일이 그 직함이 붙은 그 그 일만 하는 건 아니거든요. 굉장히 많은 일들로 구성이 되어 있는데 예를 들어서 AI가 들어가서 그들이 하고 있는 업무 중에 하나를 없앴어요. 그러면 그 사람들은 그 업무를 하지 않고 더 생산적인 업무로 이동해야 되잖아요. 이동할까요? 거의 대부분 안 해요. 그들의 인센티브를 꼼꼼히 살펴보면 나는 여기까지 오려고 얼마나 힘겹게 노가다를 하며 엑셀과 파워포인트 단축키를 익혔는데, 난 계속 이거 하고 싶어가 본질인 경우가 많아요. 그러고 나서 이거 하면서 편하게 돈을 받고 싶은데 왜 내가 하던 거 그만하라고 하기 싫은 일로 쫓아내냐라는 식의 푸시를 받는 경우가 굉장히 많다는 걸 제가 여러 케이스에서 느꼈어요.
이걸 하려면 오너가 됐건 혹은 최상단 리더십이 되었건 AX에 대해서 그 본질을 정확하게 이해해야 된다는 생각이 드는데, 그 팀을 도와주세요라는 게 목표가 되는 게 아니라 저 팀을 통째로 없애세요라고 되는 게 성공하는 AX의 출발점입니다. 그래서 그 사람들을 잘라버리자라는 얘기가 아니에요. 그 사람들이 갖고 있었던 단위 업무나 이런 것들을 온전히 없애주고 그들을 새로운 직무로 전환시켜야지, 거기에 뭘 더 넣어줘 봐야 파워포인트 엑셀을 그걸로 바꿔주는 거에 불과할 거고, 회사 입장에서는 어떠한 marginal한 생산성 증가는 없다. 단위 인력들이 노는 시간이 더 늘어날 가능성은 있겠죠.
근데 그게 기업들이 진짜 AX를 하는 이유일까라고 생각해 보면 저는 그건 아닐 것 같고, 지금 하는 AX들은 적어도 큰 기업 단위에서 일어나는 AX들은 돌고 돌고 돌아서 다 의미가 없게 될 가능성이 꽤 있다는 생각을 저는 하고 있습니다. 제가 해보니까 저의 작은 회사와 그다음에 몇 개의 회사들에서 AX를 제가 한번 견인해 보니 느껴지는 인사이트가 그런 게 있더라 정도를 말씀드리고 싶어요.
조직 재편과 AI Native Talent 이후의 하네스 1:09:10
노정석 결국은 회사 입장에서는 사실 효율을 추구하는 것과 새 사업을 만드는 거 다 해야 되는데, 새 사업을 만들 수 있는 사람들은 여전히 사업가 센스가 있는 사람들이다. 그리고 그런 사람들은 존재해요. 항상 존재해요. 어디든 털어보면 다 존재합니다. 그 사람들을 빨리 찾아서 그들은 새로운 것들을 빨리 찾아서 떠나게 하고 인센티브를 극강화해 주고, 그렇지 않고 나는 moderate하게 하고 싶어라고 하는 분에게는 efficiency 추구를 맡기고.
그러면 그들이 지나가고 난 다음, 그걸 하는 사람들이 어떻게 보면 제 기준에서는 AI native talent들이거든요. AI native talent들이 지나가고 나면요, 가혹한 하네스가 탄생합니다. 그러면 변화하기 싫어하는 사람들은 그 가혹한 하네스에 넣어지게 될 거예요. 그러고 나서 훨씬 힘들게 일할 가능성이 있죠.
거꾸로 사람이 명령하고 AI가 수행하는 게 아니라 AI가 만든 하네스로 인간들이 들어가는 디스토피안적인 세상으로 들어가게 될 확률이 지금은 훨씬 높다는 생각이 좀 들어요.
최승준 좀 이미 지난 뉴스이긴 하지만 일론이 트위터 인수하고 그랬을 때 잭 도시는 정리하는 거에 대해서 굉장히 반감을 했었는데, 정작 잭 도시가
노정석 엄청 많이 잘랐죠.
최승준 그렇죠, 최근에.
노정석 거의 몇 천 명 내보냈죠.
최승준 4천 명인가, 하여튼 그게 시대 상황을 반영하는 어떤 단면 중에 하나인 것 같고, 그런 관점에서 정석님이 하시는 말씀, 회사 차원에서 어떤 관점이 드러나는 부분이 있는데,
오늘 제가 쭉 듣고 보니까 20대 이제 라이징하시는 분들은 어차피 우산 안에 있기보다는 앞으로 치고 나가실 분들이니까 좋은 관계를 가져야 되니 리스펙트하고 이끌어주고 서로 좋은 관계 가지는 그런 것들이 필요하고,
사내에서 효율화하는 거는 어떻게 효율성을 달성하는 건 어떻게 보면 지금 당연하다. 이미 일어나고 있는 일이고 그거는 안 하면 오히려 언더가 된다. 하지만 혁신으로 가는 것은 그거와 독립적인 다른 성향의 이슈일 수 있다.
노정석 정리가 될 것 같습니다. 어쨌건 저도 이런 걸 좋아하는 게 아니라 기술적인 걸 좋아하고 뭐 만들고 있기 좋아하는데, 근데 회사 경영 쪽으로 이런 다이내믹스를 끊임없이 끌어와서 사업으로 전환시키다 보니까 현실과 그다음에 단기적으로 추구해야 되는 이상, 장기적으로 추구해야 되는 이상, 이런 것들이 좀 잡히는 것 같습니다.
에이전트 보안: Prompt Injection과 격리 운영 1:11:51
최승준 지금 이게 결국에는 에이전트가, 우리가 에이전트를 잘 쓸 수 있는 거가 프롬프트 때문인데, 에이전트들이 injection을 먹고 들어오면 2FA 같은 것도 뚫릴 위험이 있긴 한 거죠. 그건 어떻게 근본적으로 해결이 안 되는 거 아니에요?
노정석 그럴 것 같아요. 2FA도 뚫을 수 있지 않을까 싶어요. 이메일도 봐버리면 되니까 에이전트가.
최승준 그러니까 이게 사실은 보안에 관련된 이슈가 거대한 게 있다는 느낌이 스물스물 올라오고 그러거든요.
노정석 그래서 저도 제 랩탑에 OpenClaw는 감히 못 깔았어요. 그래서 OpenClaw를 VM을 깔아가지고 리눅스를 새로 올리고 그 위에서 OpenClaw를 돌려서 이것저것 다 테스트를 해봤고, 이게 돼서 어느 정도 아 이런 거 잘하네 라는 생각이 든 다음에 바깥에 그 DGX 박스를 하나를 구해가지고 거기에다가 지금 OpenClaw를 쭉 세팅해 놓고 걔한테 보여줘야 될 최소한의 데이터들과 이런 것들을 넣고 있거든요.
최승준 근데 내 credential을 주지 않으면 비서로서는 가치가 떨어지는 거 아니에요?
노정석 예, 그래서 소셜과 관련된 부분이라든지 금융과 관련된 부분은 저는 아직은 못 주고 단위 task들, 행여 이 문서가 통째로 나가도 나에게 거의 리스크가 없는 일들을 맡겨 놓고 있어요.
그러니까 이게 사실은 모델한테 제 개인 정보가 나가는 게 싫어서는 전혀 아니고요. 그건 앞에서 얘기했듯이 제 걸 먼저 줘서 더 얻는 게 모델과는 중요하다고 생각하는데,
OpenClaw 같은 경우에는 걔가 가지고 있는 자율성 때문에 그렇거든요. 걔가 나 대신 이런저런 판단들을 할 텐데, 아 주인님을 위해서는 이걸 해야 되겠어라고 하면 해버릴 수도 있는 거잖아요. 그래서 그 부분에 대한 게 조금은 지켜보고 싶은 생각은 들어요.
최승준 그것도 있지만 세뇌돼서 들어오기도 하잖아요. 에이전트들이 injection 먹거든요. 그거 어떻게 근본적으로 해결이 안 돼가지고 아직은 그게 지금 골치 아픈 문제라서 이게 사건 사고가 있을 가능성도 있겠다 싶습니다. 그래서 아마 대형 사업자들이 이거를 좀 고민하고 있지 않을까라는 추측도 해보게 되는데요. 근데 흐름상 이건 해야 되는 흐름이긴 하잖아요 또.
노정석 안 할 수가 없죠. 그래서 다 내놓잖아요.
최승준 Perplexity부터 해서 모두 다 하고 있으니까, NVIDIA도 언급하는 판에. 근데 재밌게 들었다기보다는 사실은 행간에 날카로운 말들이 많이 있어서 어떻게 받아들이실지는 모르겠습니다만, 그래도 이게 정석님이 4년 동안 실제로 해본 경험에서 우러나온 말씀이다라는 생각이 들었습니다.
노정석 그렇죠, 근데 이것도 명확하게 26년 3월에 스냅샷이고, 저도 하루에 생각이 20번씩 바뀌기 때문에.
최승준 작년 3월 4월쯤이면 정석님이 와 ADK 끝내준다 이랬을 때거든요.
노정석 Claude Code 막 나오고 있을 때. Pydantic이 제일 미니멀하고 괜찮은데요. Pydantic 씁시다 막 이러고 있었던 게 작년 3월이에요.
최승준 그리고 저도 한 4월 즈음에는 Chrome DevTools Protocol인가, CDP 써가지고 브라우저 에이전트 실험하고 그런데 지금은 뭐 그냥 다 잘 되는 일들이 돼버렸어요.
노정석 그때만 하더라도 저 GitHub Copilot 붙여서 탭 코딩 할 때였거든요. 직접 제가 코드 메인은 제가 잡고 어시스트 받을 때였는데, Claude Code로 가는 게 좀 거북했었어요. 솔직히 완벽한 에이전트 코딩으로 가는 게.
최승준 지금 OpenClaw로 가는 거에서 사실 저는 거부감이 약간 있기 때문에 그게 휙 가지가 않아지더라고요. 근데 비슷한 상황들이 많이 있을 것 같습니다. 근데 가야 되는 건 맞는 것 같긴 해요.
앞으로의 자세: 요트 경기처럼 따라가기 1:15:33
노정석 그래서 저도 제 인생에 아 이건 요트 경기다, 그냥 바뀌면 저 젊은 친구들이 하는 거면 나도 무조건 같이 따라가야 된다라는 생각으로 바꿨어요. 그래서 그분들 사실은 그런 분들이랑 요새 교류를 많이 하는데, 구봉 님도 한 번 만나 뵀었고.
최승준 구봉 님, 연규 님, 예찬 님 그리고 또 저희 출연하셨던 원준 님도 계속 그런 다이나믹한 관계 맺기 하는 것들을 시도하고 계시고, 되게 다각적으로 흥미롭게 지금 20대 30대 분들이 활동하고 계신 게 지금 눈에 막 들어오더라고요.
노정석 민석 님도, 민석 대표님도 그거 차리셨거든요. 회사 결국은 OpenClaw와 비슷한 어시스턴트 이런 방식으로 방향을 잡으신 것 같아서, 민석 님 한번 모셔서 또 어떤 비즈니스 thesis를 갖고 있는지 한번 얘기해 보는 것도 좋을 것 같고. 그리고 제가 밖에 돌아다니면서 항상 우리 젊은 신선님들이 계신다라고 얘기하는 그 연규 님, 예찬 님이나
최승준 그리고 진형 님도 계시고, 진형 님 등이 그런 분들을 다 알고 계시더라고요.
클로징 1:16:45
노정석 오늘은 좀 그러면은 이 정도로 얘기하시고, 건강 잘 챙기시고. 건강을 잘 챙겨야 되는 나이입니다. 오늘은 그럼 이 정도에서 마무리하도록 하겠습니다. 감사합니다.
최승준 재밌었습니다. 감사합니다.