인터뷰 1
[인터뷰] 실리콘밸리 20대 VC Nikhil Suresh
오프닝과 게스트 Nikhil Suresh 소개 00:00
노정석 좋습니다, 시작하겠습니다. 녹화를 하고 있는 오늘은 2026년 7월 8일입니다. 바로 전 에피소드에서는 제가 실리콘밸리에 가서 듣고 온 이야기들을 정리해 전해드렸는데요. 그 이야기의 주요 소스 중 한 분인 Nikhil을 직접 모시고 더욱 생생한 이야기를 나눠보려고 합니다. 굉장히 재미있는 분인데요. 오늘 김민석 대표님과 제가 이런저런 질문을 드려보겠습니다. Nikhil, 환영합니다.
Nikhil Suresh 감사합니다. 함께하게 되어 기쁩니다.
노정석 사실 저희가 San Francisco에 머무는 동안 많은 이야기를 나눴는데요. 함께 시간 내주셔서 정말 감사합니다.
Nikhil Suresh 정말 즐거웠습니다.
노정석 커리어가 굉장히 특별하고 아직 아주 젊으시잖아요. 그래서 오늘 질문을 많이 드리려고 합니다. 먼저 어떻게 그렇게 젊은 나이에 투자자가 되셨는지부터 시작해보겠습니다. Stanford를 졸업하셨고, Mercor의 첫 엔지니어였으며, Stanford 교수님과 함께 연구도 하셨죠. 어떻게 지금 이 자리에 오게 되셨는지부터 이야기해주시면 좋겠습니다.
엔지니어 가정에서 Stanford까지의 성장 배경 01:09
Nikhil Suresh 네, 제 어린 시절로 거슬러 올라가야 할 것 같습니다. 부모님이 두 분 다 엔지니어셨거든요. 아버지는 Early Warning Services라는 회사에서 일하셨는데, 그 회사가 나중에 Zelle이라는 제품을 만들었습니다. Zelle은 Venmo와 비슷한 금융·은행 송금 수단으로, 은행들이 서로 다른 회사 간에 자금을 이체할 때 사용하는 서비스입니다. 아버지는 그 제품을 만드는 핵심 엔지니어링 작업을 이끌며 제품 개발에 참여하셨습니다. 그래서 저는 아버지에게 엔지니어링에 관해 많이 배웠고, 아버지는 늘 저를 그쪽 방향으로 이끌어주셨습니다. 저는 Arizona에서 자라 그곳에서 고등학교를 다녔고, 졸업한 뒤 California에 있는 Stanford로 진학했습니다. Stanford에서 수학 학사와 컴퓨터공학 석사 학위를 받았습니다. Stanford 1학년 때는 사실 수학 교수가 되고 싶었습니다. 늘 사람들을 가르치고, 배우고, 순수 연구를 하고 싶다는 꿈이 있었거든요. 그런데 수학 연구를 시작한 지 1년도 되지 않아 평생 화이트보드만 바라보며 살고 싶지는 않다는 걸 금세 깨달았습니다.
ChatGPT 충격과 수학에서 AI로의 전환 02:20
그리고 대학 신입생이던 첫해가 마침 ChatGPT가 처음 출시된 시기였습니다. 저는 고등학교 4년 동안 반도체, 즉 하드웨어 분야를 공부했습니다. 그래서 대학에 와서는 소프트웨어 분야도 더 탐구하며 소프트웨어와 하드웨어를 함께 다뤄보고 싶었습니다. 특히 ChatGPT가 출시되었을 때는 정말 크게 놀랐습니다. 새롭게 열린 역량이 너무나 많았고, 세상의 여러 가지 일을 자동화하거나 다양한 측면을 탐구할 방법도 아주 많아졌습니다. 앞으로 20년, 30년 동안 순수 수학 연구자로 사는 것은 이것이 잠재적으로 이룰 수 있는 일만큼 중요하게 느껴지지 않았습니다. 그래서 제가 집중하고 싶은 분야가 바로 이것이라는 걸 깨달았습니다.
첫해 여름에는 몇몇 스타트업에서 일하기 시작했고, 동시에 하드웨어 칩 설계, 즉 VLSI 회로에 관한 연구도 했습니다. VLSI요. 네. 몇몇 딥러닝 응용을 위한 것으로, 염두에 둔 응용에 아주 특화되도록 만드는 작업이었습니다. AI와 정식 AI 연구를 처음 접한 경험이었고, 그 가능성에 무척 설렜습니다. 이후 Stanford에서 지내는 동안 훨씬 더 많은 스타트업에서 일하게 되었습니다. 아마 일곱 곳이나 여덟 곳 정도였던 것 같습니다.
Stanford 시절 스타트업 경험과 비디오 아바타 창업, Mercor 합류 03:28
노정석 스타트업을 일곱, 여덟 곳이나요? 그건 몰랐네요.
Nikhil Suresh 네, 정말 많은 스타트업에서 일했죠.
노정석 인턴으로요?
Nikhil Suresh 대부분은 인턴으로, 몇 곳에서는 파트타임으로 일했습니다. 저는 일하는 것도, 다른 사람들과 함께 일하는 것도 좋아해서 스타트업에서 주당 20~30시간씩 일하곤 했습니다. 그러다 3학년 때 친구들과 함께 제 스타트업을 시작해 HeyGen이나 Tavus 같은 비디오 아바타를 만들었습니다. 초창기에 가장 먼저 연락한 곳 중 하나가 Mercor였습니다. 2023년, Mercor가 시드 라운드를 유치하기도 전이었죠. LinkedIn 댓글에서 그들을 보고 “우리 제품을 테스트하기에 이 사람들이 딱이겠다”고 생각했습니다. 저희는 부트스트랩만으로도 회사를 잘 키울 수 있다고 생각해 투자를 유치하지 않았습니다. 하지만 결국 정말 중요한 것은 비디오 모델을 얼마나 저렴하고 안정적으로 서비스할 수 있느냐였고, 대규모로 서비스하려면 실제로 많은 자금을 조달해야 했습니다. 그래서 회사를 접었지만 몇 달 뒤 제가 Mercor에 합류하게 됐습니다. Mercor는 여러 리서치 엔지니어링 업무를 이끌도록 저를 채용했습니다. 당시에는 전체 데이터 물결, 특히 휴먼 데이터가 부상하던 아주 초기 단계였다고 생각합니다. 처음에 저희가 하던 일의 상당 부분은 노동 시장과 관련돼 있었지만, 제가 합류한 지 몇 달 만에 초점을 휴먼 데이터로 크게 전환했습니다. 모델의 성능을 높이는 데 어떤 데이터가 가장 중요한가? 검증 방식이 어떤 모습인지 실제로 평가할 수 있는 eval과 벤치마크를 어떻게 만들 것인가?
휴먼 데이터 사업의 확장과 투자자 전환 05:13
회사가 15명에서 현재 500명 이상으로 성장했을 뿐 아니라, 저는 OpenAI, Anthropic, DeepMind, Meta를 비롯한 모든 주요 랩의 최고 AI 팀들과 일할 수 있었습니다. 뛰어난 인재들과 함께 일하면서 모든 랩의 프론티어가 어떤 모습인지 볼 수 있었던 정말 놀라운 경험이었습니다. Mercor에서 특히 매력적으로 느낀 점은 그런 폭넓은 시야, 즉 분야 전체를 볼 수 있다는 점이었고, 그것이 저를 투자로 이끌었습니다.
제 파트너 Max는 Striker Venture Partners라는 새로운 투자사를 시작했습니다. 회사를 시작하기 얼마 전 제게 연락해 “새 투자사를 시작하려고 하는데, 함께할 생각이 있나요?”라고 물었죠. 당시 저는 벤처 투자사에 합류하는 데 그다지 관심이 없었습니다. 오히려 랩 중 한 곳에서 연구자가 되어야겠다고 생각했습니다. 최고의 사람들과 일할 수 있고, 가장 똑똑한 제 친구들도 많이 일하고 있어 배울 것이 많다고 생각했거든요. 또 회사 안에서 실제 프론티어에 서서 리서치를 하고 모델을 만들면 장기적으로 얻을 수 있는 지식과 경험이 정말 많다고 생각했습니다. 그래서 한동안은 그것이 제 인생 계획이었습니다.
하지만 시간이 지나면서 Max는 Striker에서 투자자로 일하는 것도 그만큼, 어쩌면 그보다 더 보람 있을 수 있다고 결국 저를 설득했습니다. 프론티어를 폭넓게 보고 여러 분야의 최고 팀들과 일하면서 얼마나 깊고 넓게 들어갈지를 스스로 조절할 수 있기 때문이었습니다. 제게는 아무것도 없는 상태에서 시작한다는 점이 스타트업과 아주 비슷해서 무척 흥미로웠습니다. 저희에게는 투자 실적도, 트랙 레코드도, 알려진 이름도 없었습니다. 그래서 고민은 이런 것이었습니다. 어떻게 우리 브랜드를 만들고, 투자 포트폴리오를 쌓고, 최고의 사람들을 찾아 확실히 파트너가 될 수 있을까?
노정석 Striker에 관해서도 질문이 많지만, 그전에 Stanford와 Mercor에서 걸어오신 궤적에 관해 조금 더 여쭤보겠습니다. 이야기를 듣고 나니 정말 부러운 위치에 계셨다는 생각이 듭니다. ChatGPT가 등장하던 시기에 Stanford라는 적절한 시간과 장소에 계셨고, 적절한 교과 과정과 좋은 인적 네트워크, 훌륭한 친구들을 접하셨으니까요. 아주 젊은 나이에 정말 유명한 회사들에서 핵심적인 역할을 맡고 계시기도 하고요.
AI 시대에 다시 묻는 대학 교육의 가치 07:48
제 질문은 Stanford에 관한 것입니다. Stanford는 워낙 명문이지만, 어떤 사람들은 학부 과정이 더 이상 젊은 세대의 삶에서 중요한 단계가 아니라고도 말합니다. Stanford 졸업생으로서 Stanford에서의 경험은 본인에게 어떤 영향을 주었나요?
Nikhil Suresh 특히 최고의 AI 인재와 뛰어난 젊은 사람들 사이에서는 이런 생각이 점점 더 널리 퍼지는 공통된 의견인 것 같습니다. 세상이 너무 빠르게 변하는데 앞으로 4년 동안 학교에만 있으면 많은 경험을 놓치지 않을까? 뒤처지지는 않을까? 아주 타당한 지적이라고 생각합니다. 제가 여러 인턴십을 했던 이유 중 하나도 그런 경험을 쌓고 대학에서 배우는 것 너머의 세계를 보기 위해서였습니다. 다만 솔직히 대학은 매우 가치 있는 경험이라고 생각합니다. 아주 인기 있는 의견은 아닐 수 있지만요. 말씀하신 것처럼 그곳에서 만나는 사람들과 함께 만들어가는 커뮤니티에서 많은 인연이 생깁니다. 성장하는 과정에서 그 사람들에게 정말 많은 것을 배우고, 그들이 5년이나 10년 뒤를 내다보며 무엇을 연구하는지도 볼 수 있습니다. 그런 경험은 결국 세상을 바라보는 방식과 어떤 문제가 가장 흥미로운지를 판단하는 방식에 영향을 준다고 생각합니다.
또 하나는 특히 Stanford의 많은 수업이 프론티어 리서치를 다뤘다는 점입니다. 교수님들은 디퓨전, 인텔리전스, 뉴럴 네트워크 분야의 최고 전문가들이었습니다. 매 분기 프론티어 지식을 반영해 적극적으로 업데이트되는 수업에서 그분들에게 직접 배울 수 있었다는 것은 엄청난 경험이었습니다.
저는 지금 Inception의 CEO이기도 한 Stefano Ermon의 디퓨전 수업을 들었는데, 솔직히 정말 어려운 수업이었습니다. 중간고사는 노트와 인터넷, ChatGPT까지 모두 사용할 수 있었지만, 당시 진행되던 프론티어 수준의 디퓨전 리서치를 접했습니다. 다른 많은 대학에서는 이런 내용을 제대로 다루지 않았던 것 같은데, 그 교수님은 관련 자료를 많이 갖고 있었습니다. DeepMind와 OpenAI를 비롯한 여러 랩에서 일하던 많은 프론티어 연구자가 수업에 와서 실제 프론티어가 어떤 모습인지 이야기해 주기도 했습니다. 특히 네트워크를 만들고 다른 사람들과 신뢰를 쌓기 시작하는 시기에 이런 경험을 한 것은 개인적인 관계와 신뢰도 양쪽 측면에서 큰 도움이 됐습니다. 솔직히 그것이 대학의 가치라고 생각합니다. 신뢰도를 쌓고, 네트워크와 인맥을 만들고, 한 가지 특정 분야에만 갇히지 않은 채 상당히 폭넓은 지식을 배울 수 있다는 점은 정말 강력합니다. 자신이 어떤 분야에서 최고가 되고 싶은지를 아는 것도 무척 중요합니다.
고등학생 시절의 반도체와 실험물리 연구 10:38
김민석 고등학교 때부터 아주 흥미로운 분야에 관심을 두셨던 것 같습니다. 고등학생이 하드웨어와 반도체에 관심을 갖는 경우는 드무니까요. 무엇을 계기로 반도체를 그렇게 깊이 파고들게 되었나요?
Nikhil Suresh 저는 아주 이른 시기인 대학 때부터, 아니 고등학교 때부터 늘 수학에 관심이 많았습니다. 수학에 대한 관심이 자연스럽게 물리학에 대한 큰 관심으로 이어졌던 것 같습니다. 그래서 실험물리학과 관련된 연구를 하는 랩에서 일하고 싶었습니다. 교수님 200~300명 정도에게 무작정 이메일을 보내 “고등학생인 제가 교수님 랩에서 일할 수 있을까요?”라고 물었죠. 예상하시겠지만 대부분 거절했습니다. 정확히는 한 분을 제외한 모두가 거절했고, 결국 기회를 주신 그 한 분과 일하게 됐습니다. 멋진 프로젝트를 많이 할 수 있었고, 그중 가장 큰 것은 아마 반도체 연구였을 겁니다. 서로 다른 두 반도체 소재 사이의 나노본딩을 연구하면서 서피스 에너지 같은 것을 살펴봤습니다. 바이오와 관련된 재료과학 연구도 많이 했는데, 당시에는 그것도 무척 흥미로웠습니다.
혹시 Theranos에 대해 들어보셨나요? 그 사건이 알려진 것은 제가 고등학교 1학년이던 때였습니다. 시청자분들을 위해 Theranos를 간단히 설명하면, 기존과 같은 종류의 혈액 검사 기술을 사용하면서도 현재 혈액 검사에 필요한 양의 1,000분의 1만으로 검사할 수 있다고 주장한 회사입니다. 이후 투명성과 실제 기술의 작동 방식을 둘러싸고 큰 스캔들이 벌어졌죠. 당시 저희 랩에서는 반도체를 대상으로 많은 원소 분석을 하면서 본딩 프로세스가 실제로 어떻게 작동하는지, 서피스 에너지가 어떻게 결합하는지 등을 살펴보고 있었습니다. 그러다 이 기술을 혈액 분석에도 적용할 수 있지 않을까 생각했고, 가능하다고 판단했습니다. 그래서 랩에서 보내는 시간의 상당 부분을 그런 기술을 연구하는 데 썼습니다. 저희는 혈액을 고체화해 엑스선 광전자 분광법이나 이온 빔 분석 같은 분광 기법으로 분석할 수 있게 해주는 폴리머 코팅을 개발했습니다.
돌이켜보면 저는 늘 실제로 만질 수 있는 현실의 대상, 즉 피지컬 월드의 것들, 그중에서도 특히 물리적인 분야에 관심이 많았던 것 같습니다. 그래서 그런 연구에 무척 흥미를 느꼈습니다.
김민석 실용적인 물리학자 같으시네요.
노정석 적어도 중급(200-level) 강의는 들을 수 있어야 하죠. 그럼 Striker 이야기로 넘어가기 전에 Mercor에 관해 조금 더 여쭤보겠습니다. 그곳에서도 분명 적절한 시기와 장소, 적절한 위치에서 적절한 사람들과 함께 계셨던 것 같습니다. 당시에는 프론티어 모델이 빠르게 발전하던 시기였는데요. 프론티어 랩에서 일하면서 무엇을 배우고 경험하셨나요?
Mercor에서 본 프론티어 랩의 휴먼 데이터 수요 13:15
Nikhil Suresh 제가 일을 시작했을 때 저희는 아마 GPT-4와 초기 xAI 모델, 일부 DeepMind 모델 등을 트레이닝하고 있었습니다. 아직 상당히 초기였고 reasoning이나 chain of thought도 그다지 두드러지지 않던 시기였습니다. 당시 모델의 역량은 여전히 매우 기초적인 수준이어서 아주 기본적인 수학이나 물리 문제도 풀지 못했습니다. 초기 태스크 중에는 “중학교 수준의 수학 문제를 어떻게 풀게 할 것인가?” 같은 것도 많았습니다. 그것조차 어려웠던 거죠.
그래서 특히 Mercor의 관점에서 초기 과제의 상당 부분은 당장 진행 중인 프로젝트에 투입할 사람을 어떻게 찾을 것인가였습니다. 데이터베이스와 전문가 네트워크를 구축하고 그런 역량을 키워 나가는 일이었죠. 저는 그 과정에서 많은 것을 배웠습니다. 특정 태스크에 적합한 사람의 프로필은 어떤 모습이어야 하는가? 태스크는 어떻게 구성해야 하는가? 데이터가 매우 신뢰할 수 있는 방식으로 전달되고, 고객인 대형 AI 랩들이 보기에 타당하며 실제로 가치 있는 형태로 패키징되도록 오퍼레이션을 어떻게 관리할 것인가?
또 하나는 AI 랩에 실제로 가치 있는 새로운 프로젝트를 저희가 어떻게 제안할지를 알아내는 일이었습니다. 많은 가치는 “당신들의 모델은 이 부분을 잘하지 못하는 것 같습니다.
노정석 그러니까 프리트레이닝 데이터나 RLHF 데이터를 준비한다는 말씀이신가요?
Nikhil Suresh 네, 그런 일이 많았습니다.
노정석 그리고 2024년은 OpenAI reasoning 모델이 출시된 해였죠. 2024년 9월이었고요. 그렇죠? 네. 그렇다면 그 이후에는 reasoning에 관한 데이터를 많이 만들어 달라는 요청을 받으셨겠네요.
Nikhil Suresh 저희의 경우 전체 지출 가운데 코딩 데이터가 가장 큰 비중을 차지했습니다. 랩들은 코딩 성능을 최고 수준으로 끌어올리는 데 늘 큰 관심을 기울였습니다. 경제적 생산성 측면에서 코딩은 아마 가장 큰 지출 분야 중 하나일 겁니다. 하지만 그 이후에는 수학, 물리학, 법률, 바이오, 헬스 같은 버티컬 태스크와 더 틈새인 태스크로 옮겨갔다고 생각합니다.
노정석 사실 저희도 Anthropic, DeepSeek, Gemini 같은 프론티어 랩의 기술적 발전을 많이 소개하지만, 주로 알고리즘에 초점을 맞춥니다. 하지만 진짜 핵심은 데이터죠.
김민석 빠르게 성장하는 스타트업에서 일한다는 것은 전쟁처럼 매일 수많은 문제에 대응해야 한다는 뜻이죠. 돌이켜보면 경험하신 가장 어려운 문제는 무엇이었나요?
모델 발전 예측의 난제와 Mercor의 전략 전환 16:27
Nikhil Suresh 하나는 말씀하셨듯 모델 역량이 매우 빠르게 발전하고 있었다는 점입니다. 데이터 공급업체인 저희는 모델 역량이 도달한 지점보다 앞서가면서 현재뿐 아니라 3개월 뒤 어디까지 발전할지도 예측해야 했습니다. 특히 데이터 사업에서는 운영을 최대한 잘하고 계약을 최대한 원활하게 이행하는 동시에, 앞으로의 방향을 이해하고 예측하는 것이 중요합니다. 그것이 저희가 겪었던 문제라기보다는 과제 중 하나였습니다. 여기에 어떻게 대응할 것인가 하는 문제였죠. 또 하나는 특히 초기에 회사의 정체성을 찾는 일이었습니다. 저희는 전일제 인력을 공급하는 노동 시장 회사로 시작했지만, 인간 데이터 사업은 엄청난 매출과 회사를 매우 빠르게 성장시키고 확장할 잠재력을 제공했습니다. 그래서 전략적 관점에서 당시에는 단기적으로 보였던 인간 데이터 사업에 엔지니어링과 운영 역량을 더 집중할지, 아니면 장기적인 노동 시장에 집중할지를 조율해야 했습니다. 당시 저희는 장기적인 포스트 AGI 세계를 내다보면 이 모델들이 매우 뛰어나져서 많은 지식 노동을 처리할 수 있게 될 것이라고 가정했습니다. 그런 세상에서는 몇 가지 가정을 세우거나 결과를 예상할 수 있습니다. 하나는 인간이 모델과 상호작용하는 방식이 크게 달라지지만 일자리 수는 비교적 그대로 유지되는 경우이고, 다른 하나는 이 모델들이 경제적으로 매우 높은 생산성을 갖게 되면서 특정 분야의 일자리 수가 감소하기 시작하는 경우입니다. 그런데 그런 분야들은 대개 저희가 채용을 지원하던 분야였을 겁니다. 그렇다면 엔지니어링 역량의 우선순위를 어떻게 정하고, 어떤 도구를 만들며, 각각의 사업을 위해 어떤 eval을 만들어야 할까요? 이것이 한동안 내부에서 크게 논의했던 주제 중 하나였습니다.
당시에는 데이터 지출이 지금과 같은 규모로 계속 증가할 것이라는 점도 그다지 분명하지 않았습니다. 이 모델들은 이제 1T 파라미터, 10T 파라미터 규모에 이르렀습니다. 당시에는 대략 10B, 많아야 100B 정도였습니다. 훨씬, 훨씬 작았기 때문에 데이터 지출도 기하급수적으로 적었습니다. 그래서 당시에는 많은 사람에게 이것이 올바른 판단이라는 점이 그다지 분명하지 않았습니다. 많은 사람이 “아니다, 이 시장은 아마 1~2년 정도 지속되다가 충분한 전문가들이 모든 물리학 데이터와 수학 데이터를 트레이닝하고 나면 포화될 것이다”라고 생각했습니다. 하지만 실제로는 그렇지 않다는 것을 확인하고 있으며, 데이터 지출은 적어도 앞으로 몇 년간 계속 증가할 것입니다.
데이터 라벨링 내재화 논쟁과 시장 전망 19:16
김민석 데이터 라벨링 회사들을 둘러싼 Twitter 논쟁을 봤습니다. 어떤 사람들은 OpenAI나 Anthropic 같은 프론티어 랩이 상장하려면 비용을 최소화하려 할 것이고, 그러면 데이터 라벨링을 위한 내부 팀을 만들 것이라고 합니다. 그렇게 되면 데이터 라벨링 회사들의 매출이 압박받을 것이라는 게 한 가지 관점입니다.
또 다른 관점은 우리가 아직 에이전트 시대에 살고 있지 않으며 이제 막 시작됐다는 것입니다. 대규모 에이전트에 대한 수요를 생각하면 데이터는 분명 핵심 요소입니다. 이 논쟁을 어떻게 보시나요?
Nikhil Suresh xAI는 한동안 전문가 수준의 라벨링을 내부에서 해온 것 같고, OpenAI 같은 다른 랩도 이제 이 방향으로 전환하기 시작하는 모습입니다. 현재 데이터 지출이 발생하는 방식은 크게 두 가지라고 생각합니다. 하나는 모델 쪽으로, 실제 AI 모델을 위한 eval과 벤치마크, 인간 데이터에 지출하는 것입니다. 다른 하나는 기업 쪽으로, verifier와 오픈소스 모델용 RL 환경을 구축해 기업이 토큰 비용을 줄이고 특정 태스크의 성능을 높이도록 돕는 것입니다. 이것이 목표입니다. 그래서 저는 두 번째 영역이 실제로 거대한 시장이라고 생각합니다. 지식 노동 시장은 엄청나며 수조 달러 규모입니다. 따라서 데이터 지출도 그에 비례할 것입니다. 이 영역만으로도 수십억 달러, 어쩌면 수백억 또는 수천억 달러에 이를 수 있습니다.
랩들이 자체 운영 체계를 구축하기 시작할 수는 있겠지만, 지금까지 Mercor가 매끄러운 체계로 운영해 온 규모만큼 이를 구축할 자원이 있을까요? OpenAI는 어디에 우선순위를 둘까요? 모델 트레이닝 쪽일까요, 데이터 생성 쪽일까요? 특히 데이터 라벨링의 좋은 점은 이미 상당히 경쟁적인 시장이 형성돼 있다는 것입니다. Snorkel, Mercor, Surge, AfterQuery 같은 회사들이 이미 있습니다.
그래서 결국 상당 부분은 실행의 문제라고 생각합니다. 고품질 데이터를 제공하면서 고객 납품이 제때 이루어지도록 하는 것이죠. Mercor는 역사적으로 그 부분을 매우 잘해 왔다고 생각합니다. 이 점도 염두에 둬야 합니다. 고객은 서로 다른 태스크 세트 전반에 걸쳐 수많은 벤치마크를 만드는 전문성에 비용을 지불합니다. 이것이 Mercor 같은 회사들이 강력한 입지를 가진 이유라고 생각합니다.
노정석 사실 이 사람들은 스스로 수요를 만들어 내고 있는 거죠. 저희가 AfterQuery 사람들을 만났는데, 그들은 고도로 전문화된 틈새 영역의 무언가를 만든 다음 프론티어 랩에 찾아가 “당신들 모델은 이걸 잘 못합니다. 그러니 이걸 사야 합니다”라고 합니다. 맞습니다. 그런 다음 다른 랩에 가서 “좋습니다. 이건 당신들 모델의 성능을 높여줄 테니 이것도 사야 합니다”라고 하는 거죠.
김민석 네, 정확합니다. 말씀하신 것처럼 기업들은 아직 디지털 노동자를 고용하지 않았습니다. 기업들이 자체 활동 기록과 데이터를 활용한다면 어떨까요? 분명 프론티어 랩 바깥에도 거대한 시장이 형성될 것입니다.
Nikhil Suresh 좋은 지적입니다. 맞아요. 콘텍스트와 기업 데이터를 활용하는 것이 올해의 큰 주제라고 생각합니다.
노정석 모델은 점점 더 커지고 있고, 데이터의 규모도 계속 커지고 있습니다. 그래서 시장 전망은 상당히 좋다고 생각합니다. 이제 다음 주제로 넘어가 보겠습니다.
소수 집중 투자로 승부하는 Striker 설립 22:45
최근 VC 투자사 Striker를 설립하셨는데요. 제가 한국 VC 업계에서 마음에 들어 하지 않는 방식이 있습니다. 예를 들어 1,000만 달러 규모의 딜이 하나 있으면 VC 투자사 10곳이 각각 100만 달러씩만 투자합니다. 위험 노출을 줄이려는 spray and pray 방식인데, 저는 다소 어리석은 접근이라고 생각합니다. 정말, 정말 좋은 회사를 발견했다면 그 기회를 독점해야 합니다. 여러분이 바로 그렇게 하고 계시죠. 투자 thesis와 포트폴리오 회사들을 소개해 주시겠습니까?
Nikhil Suresh 저희 투자 thesis는 사실 아주 단순합니다. 펀드 전체를 통틀어 약 10건의 투자를 목표로 합니다. 말씀하신 spray and pray 전략도 훌륭한 경제적 수익을 낼 수 있다고 생각합니다. 하지만 가능한 한 가장 높은 상승 여력을 얻고, 회사의 성패를 바꿀 수 있는 역량을 활용해 투자한 회사와 진정으로 함께 일하고 싶다면 확신이 매우 높은 전략이 필요합니다. 이는 비교적 적은 수의 회사에 투자하고 이사회 자리를 맡아 채용, 전략, 운영을 비롯해 회사에 필요한 모든 것을 실질적으로 돕는다는 뜻입니다. 자금 조달이나 컴퓨트와 관련된 어떤 문제든 마찬가지입니다. 저희 모델은 바로 그런 목적에 맞춰져 있습니다. 저희가 1,000억 달러 또는 1조 달러 규모로 성장하리라 강하게 믿는 영역에서 최고의 회사 10곳과 최고의 팀을 찾으려 합니다.
물론 저희 모델은 위험이 매우 큽니다. 베팅이 10건뿐이어서 그중 하나라도 잘못되면 펀드 가치가 아주 빠르게 0에 가까워질 수 있습니다. 하지만 여기에는 다른 측면도 있습니다. 저희가 강하게 믿는 영역에서 기준을 매우 높게 유지하도록 강제한다는 점입니다. 또한 창업자들과 저희 사이에 매우 강한 이해관계의 일치를 만들어 냅니다. 저희는 그들에게 올인하고, 그들도 저희에게 올인합니다. 따라서 어떤 비용을 치르더라도 회사가 성공하도록 만드는 것이 양쪽 모두에게 최선입니다.
펀드 규모와 포트폴리오 운영 원칙 24:47
노정석 지금 첫 번째 펀드를 운용하고 계시죠? 네. 펀드 규모는 얼마이며, 지금까지 몇 개 회사에 얼마나 투자하셨습니까?
Nikhil Suresh 저희 첫 번째 펀드의 규모는 1,700만 달러입니다. 지금까지 약 7개 회사에 투자했으며, 칩 설계와 인퍼런스를 위한 AI부터 로보틱스용 월드 모델, 비디오 비주얼 reasoning 모델, 그리고 몇몇 사이버보안 회사까지 다양합니다. 현재 공개할 수 있는 주요 투자 영역은 이 정도입니다. 앞으로 아마 5~6건 정도 더 투자할 예정이며, 현재 펀드 상황은 그렇습니다.
최고 수준의 자본만 받고 최고 수준의 투자만 합니다. 질 낮은 관계자도 없고 허튼 일도 없습니다. 관련된 모든 것을 매우 깔끔하고 우량하게 유지하고 싶습니다. 저희가 중요하게 여기는 투자 thesis 중 하나는 회사에서 가장 먼저 확인해야 할 것, 꼭 첫 번째는 아니더라도 반드시 보장해야 할 주요한 것 중 하나가 회사의 존속이라는 점입니다.
어느 시점에서든 회사가 계속 살아남도록 돕고 존폐 위험을 줄일 수 있다면, 훌륭한 팀과 최고의 인재를 갖춘 회사는 결국 길을 찾을 수 있습니다. 구체적으로는 제품을 만들거나 새로운 시장 진출 전략을 찾는 등 회사가 계속 자금을 조달하고 스스로를 입증하도록 돕는 것입니다. 또 하나는 계속 최고의 인재를 채용하고 훌륭한 팀을 만들 수 있느냐는 것입니다. 무제한의 자금과 훌륭한 팀이 있고 방향상 올바른 영역에 있다면 아주, 아주 훌륭한 제품을 만들 수 있습니다. 아주, 아주 훌륭한 제품을요.
그렇다면 문제는 어떻게 그 지점에 도달하느냐입니다. 저희는 상당 부분 그런 관점에 초점을 맞추고 있습니다. 포트폴리오 회사들의 자금 조달을 어떻게 도울 것인가? 그 회사들이 최고의 인재를 채용하도록 어떻게 도울 것인가?
딜 소싱 방식과 Ricursive 투자 사례 26:44
노정석 기회를 어떻게 발굴하십니까? P-1, Eve, Ricursive, Elorian처럼 명망 있는 회사들을 어떻게 발굴하셨나요? 모든 창업자의 배경이 정말 뛰어나고 누구에게도 뒤지지 않습니다. 그런 딜들을 어떻게 발굴하셨습니까?
Nikhil Suresh 우선 해당 영역을 이해하는 것에서 시작한다고 생각합니다. 가장 큰 시장이 어디에서 형성될지 파악하려 합니다. 하드웨어는 분명 올해 매우 중요한 주제이며, 지난 여러 해 동안 주기적으로 중요성이 부각되어 온 분야라고 생각합니다. 특히 올해는 칩 부족 때문에 매우 두드러진 주제가 됐습니다. 또한 이제 모델의 성능이 충분히 좋아져 AI를 활용한 칩 설계를 높은 정확도로, 매우 높은 수준에서 수행할 수 있다고 생각합니다. 칩을 개선하는 데 걸리는 시간을 1년 반에서 단 몇 주로 줄일 수 있다면 엄청난 돌파구입니다. 그래서 이를 깊이 검토하고 연구자들과 대화하며 주요 영역이 무엇인지 파악합니다. 영역을 파악하는 것이 Striker에서 가장 먼저 하는 일입니다.
두 번째는 창업자입니다. 창업자는 누구이고 창업 팀은 누구인가? 그들의 배경은 당면한 문제와 어떤 관련이 있는가? 왜 그들이 이 문제에 가장 적합한가? 얼마나 오랫동안 이 문제를 고민해 왔는가? 그들의 관점은 무엇이고 강점은 무엇인가? 이런 질문들에 답할 수 있다면 왜 여러분이 저희가 투자해야 할 팀인지, 왜 그 영역에서 승리할 팀인지에 대해 훨씬 더 강한 확신을 가질 수 있습니다. 예를 들어 Ricursive는 Anna와 Azalia가 설립했습니다. Azalia는 사실 대학 시절 제 연구 지도교수였습니다. 저는 Stanford에서 그분의 지도를 받아 인퍼런스 프로젝트를 진행했습니다.
김민석 세상 참 좁네요.
Nikhil Suresh 정말 세상 참 좁네요. 그분은 훌륭한 교수이자 더욱 훌륭한 연구자입니다. 오늘날 많은 AI 모델에 널리 쓰이는 Mixture of Experts의 공동 개발자 중 한 명이기도 합니다. 또 다른 Ricursive 창업자인 Anna Goldie와 함께 Circuit Training과 AlphaChip을 공동 개발했습니다. AlphaChip은 DeepMind에서 Google의 TPU 4개 세대를 설계하는 데 사용된 최초의 주요 AI 칩 설계 방식이었습니다. 그 논문은 처음에 Google 내부에서 “이게 실제로 얼마나 유용하고 정확한가?”라는 상당한 반발을 샀습니다. 하지만 두 사람은 그런 주장이 모두 틀렸음을 입증하고 반발에 맞서 자신들이 옳다는 것을 증명했습니다. 이 팀은 칩 설계 분야에서 최고 수준의 경험을 갖춘, 명백히 독보적인 그 분야의 리더입니다. 그래서 그들을 만나 투자할 기회가 생겼을 때는 고민할 필요도 없었습니다. 첫 미팅을 마치자마자 “우리는 여러분에게 투자하고 싶습니다. 어떻게 해야 저희 돈을 받아주시겠습니까?”라고 했죠.
최고 창업자를 잡는 Striker의 경쟁력 29:41
노정석 질문을 조금 바꿔보겠습니다. 방금은 회사의 관점에서 답해주셨는데요. 교수님께는 정말 다양한 기회가 있었을 것 같습니다. 다른 유수의 펀드들도 찾아와 “우리 돈을 받으세요”라고 했을 테니까요. 그렇다면 어떻게 그 경쟁에서 이길 수 있었나요?
Nikhil Suresh 실제로 그분에게는 기회가 많았습니다. 배경을 조금 말씀드리면, DeepMind에서 AlphaChip을 연구한 뒤 그분과 Anna는 Anthropic의 25번째와 26번째 직원이 되었습니다. 그곳에서 1년간 일하며 인프라와 포스트 트레이닝 스택의 상당 부분을 구축한 뒤 다시 DeepMind와 Stanford로 돌아갔습니다. 여러 요소가 복합적으로 작용했다고 생각합니다.
당연히 저희는 그들과 개인적인 관계가 있었습니다. 제 파트너들은 Reflection의 이사회에도 참여하고 있어서 컴퓨트와 채용 판도에 관한 프론티어 수준의 지식을 갖추고 있습니다. 많은 VC가 실제로는 이런 정보에 접근하지 못한다고 생각합니다.
Reflection은 미국의 오픈소스 랩인데, Anthropic과 OpenAI를 제외하면 사실 이와 비슷한 곳이 많지 않습니다. 그리고 대부분의 VC는 이런 회사의 이사회에 참여하지 않죠. 솔직히 두 분을 제 파트너로 둔 것만으로도 정말 큰 행운인데, 두 분 모두 Reflection의 이사회에 참여하고 있습니다.
Reflection은 AlphaGo 팀 출신들이 설립했고 PyTorch 팀 출신 Joe Spisak과 DeepMind 프리트레이닝 팀 출신 A.C.도 있습니다. 이런 접근성 덕분에 훌륭한 AI 연구자들의 네트워크를 확보했을 뿐만 아니라 “스태프 및 시니어 스태프급 연구자 채용을 도와드릴 수 있습니다”라고 말할 수도 있었습니다. 그분은 그 창업자들과 많이 일해왔고, 제 파트너들도 그 창업자들과 함께 좋은 성과를 낸 실적이 있었습니다. 결국 개인적인 관계와 매우 훌륭한 창업자 평판, 그리고 컴퓨트와 모델의 현황 및 세상이 향하는 방향에 관한 프론티어 수준의 관점이 복합적으로 작용했다고 생각합니다.
AI 가치 사슬과 인프라 병목 진단 31:39
노정석 시장 구조와 시장 타이밍을 이해하는 것이 정말 중요하다고 말씀하셨습니다. 제 다음 질문은 앞부분에서 이어집니다. 현재 AI 시장 판도를 어떻게 보고 계신지 여쭙고 싶습니다. 데이터센터 부지를 확보하고 데이터센터를 건설하는 단계부터 칩, NVIDIA와 수많은 스타트업, 소프트웨어 오케스트레이션, 마지막으로 모델과 서비스까지 이어지는 분명한 AI 가치 사슬이 있습니다. 각 단계의 타이밍도 모두 다르고요. 스택의 각 레이어별 시장 판도와 타이밍을 어떻게 보고 계신지 말씀해주실 수 있을까요?
Nikhil Suresh 네, 물론입니다. 아주 근본적인 레벨부터 시작할 수 있을 것 같습니다. 미국에서는 전력부터 살펴봐야 합니다. 전력이 가장 제약이 큰 자원이기 때문입니다. 미국의 상황은 정반대여서 전력의 제약이 매우 클 뿐만 아니라 지방정부의 반발도 상당합니다. 그래서 새로운 데이터센터를 가동하는 데 시간이 오래 걸립니다. 여기에 칩 부족과 포토닉스, 리소그래피를 비롯한 여러 요인이 모두 맞물리면서 데이터센터 구축이 지연됩니다. 그 결과 기업들은 2~3년 뒤에 사용할 칩의 임차권을 미리 확보해야 하는 상황입니다. 정확히 1년 전만 해도 칩을 구할 수 있었고 프론티어 칩 가격도 1배 수준으로 상당히 합리적이었습니다. 하지만 지금 대규모 클러스터를 구축하려면 이런 칩에 2배나 3배의 가격을 내야 합니다. 따라서 컴퓨트 집약적인 회사를 만들고 있다면 회사를 실제로 구축하는 데 어떤 자원과 투입 요소가 필요한지 일상적으로 고민해야 합니다. 그런 필요를 신중하게 따지고 6개월 전보다 훨씬 면밀하게 모니터링해야 하죠.
모델 측면을 보면 지금은 네오클라우드가 굉장히 많습니다. 화려하게 대규모 투자를 유치하는 네오클라우드도 많이 보입니다. 하지만 모델과 컴퓨트의 희소성은 과소평가되고 있습니다. 6개월 전만 해도 네오클라우드 10곳을 찾으면 모두 컴퓨트를 확보하고 있었겠지만, 지금은 매우 어렵습니다. 또 하나의 질문은 실제로 가치가 어디에 축적되느냐입니다. 경제적인 관점에서 가치가 칩 쪽에 많이 축적될까요? 부지와 전력 쪽일까요? 애플리케이션 쪽일까요? 아니면 인프라 레이어 쪽일까요? 이 역시 중요하게 평가해야 할 질문입니다. 요즘은 쉽게 포스트 트레이닝할 수 있는 더 나은 오픈소스 모델이 나오고 포스트 트레이닝 인프라도 확충되면서, 특히 Uber와 Coinbase 같은 대기업들이 토큰 이코노믹스를 더 현명하게 관리하기 시작했습니다. 모든 문제에 Fable Max를 무작정 쏟아붓고 잘되기를 바랄 수만은 없다는 사실을 이해하기 시작한 것이죠. 토큰 비용이 어디에 어떻게 쓰이는지 세심하게 살펴야 합니다.
마진도 중요한 문제로 떠오르기 시작했다고 생각합니다. 작년이나 재작년만 해도 상당한 네거티브 마진으로 운영되는 애플리케이션 레이어 회사가 많았습니다. “매출은 아주 좋지만 네거티브 마진도 매우 큰 사업”이었고, 모델은 소유하지 않은 채 래퍼만 보유한 애플리케이션 레이어 회사였습니다. 이제는 많은 사람이 그런 방식에서 벗어나고 있습니다. “이 모델은 생각만큼 타당하지 않구나”라고 깨닫고 있기 때문입니다. 모델이나 칩, 그 아래의 핵심 인프라를 소유하지 않는다면 어떤 방식으로든 오픈소스 모델과 매우 저렴한 클로즈드 소스 모델을 제대로 활용하지 않는 한 경제적으로 실현 가능한 구조를 만들기가 대단히 어렵습니다.
오픈소스 포스트 트레이닝과 eval 경제성 35:23
그래서 내년의 주요 주제 중 하나는 오픈소스 모델을 자신의 특정 태스크에 맞게 어떻게 포스트 트레이닝할 것인가라고 생각합니다. Mercor 같은 회사는 매우 유리한 위치에 있습니다. 이런 verifier는 자율적으로 생성할 수 없기 때문입니다. 특정 태스크에 맞는 verifier는 사람이 만들어야 합니다. 결국 상당한 가치가 eval과 verifier에 축적될 것이라고 생각합니다. 예를 들어 회계법인이라는 버티컬을 선택해 여러 회사의 모든 태스크에 대한 eval을 만들고 이를 모델에 학습시킨 뒤 그 모델을 다시 활용한다면 많은 가치를 창출할 수 있습니다.
김민석 그러니까 아마 2년 전쯤 “모든 기업이 자체 eval 시스템과 환경을 갖춰야 한다”고 말했다면 연구자와 엔지니어들은 “그건 불가능하고 너무 비싸다”고 했을 겁니다. 하지만 시대가 바뀌었습니다. 그렇다면 올해나 가까운 미래에는 기업들이 자체 eval 환경을 구축하고 오픈소스를 활용해 여러 에이전트를 만들면서 토큰 비용을 최소화하고 토큰 효율을 극대화하게 될 것으로 보시나요?
Nikhil Suresh 네, 확실히 그렇습니다. 제가 정말 좋아하는 단위가 있는데, Stanford의 Hazy Research와 Scaling Intelligence 그룹에서 제시한 와트당 지능입니다. 특정 태스크가 있을 때 그 태스크를 완료하는 데 드는 비용을 Wh로 측정하는 것입니다. 이것은 정말 중요한 지표라고 생각합니다. 토큰 수뿐만 아니라 와트당 비용과 토큰당 비용까지 모두 포괄하기 때문입니다. 이 수치가 6개월 단위로 점차 낮아지고 있고, 상당히 빠르게 내려가고 있습니다. 이는 꽤 놀라운 지표입니다. 기업의 대규모 멀티 에이전트 프레임워크가 이제 상업성을 확보하는 방향으로 나아가기 시작했다는 것을 보여주기 때문입니다.
노정석 시장 타이밍을 어떻게 보고 계신지 듣고 싶습니다. 100점을 드린다면 AI 스택의 각 레이어에 그 점수를 어떻게 배분하시겠습니까?
GPT 모먼트를 맞은 피지컬 AI와 로보틱스 37:40
Nikhil Suresh 개인적으로 지금 당장을 기준으로 말씀드리면, 로보틱스와 피지컬 AI 파운데이션 모델이 매우 중요한 분야라고 생각합니다. 솔직히 그보다 더 큰 분야라고 생각하지만, 지금은 피지컬 AI의 GPT 모먼트와 비슷합니다. Skild, Physical Intelligence, Generalist 같은 회사들이 로보틱스용 파운데이션 모델을 만들고 있고, 이 모델들은 결국 버티컬 SaaS 회사와 유사한 형태로 로보틱스에 활용될 것입니다. 이미 건설 회사들이 파인튜닝된 π 모델을 사용하고 굴착기와 드릴에도 파인튜닝된 π 모델을 사용하는 사례가 나타나기 시작했습니다. 그래서 지금은 피지컬 AI에 40점이나 50점 정도를 배분할 것 같습니다. 피지컬 AI 안에서도 아직 다소 이르고 발전에 시간이 더 필요한 분야가 있습니다.
로보틱스 스케일링 법칙과 데이터 병목 38:32
김민석 LLM의 발전 과정과 비교하면 지금 우리는 어느 단계에 와 있다고 보시나요? AI의 역사를 보면 GPT-1의 프리트레이닝 스케일링 법칙을 알아낸 사람은 극소수였고, GPT-3 이후에는 몇몇 사람이 RL과 테스트 타임 컴퓨트를 알아냈습니다. 그렇다면 피지컬 AI는 지금 어디쯤 와 있을까요? 프리트레이닝의 스케일링 법칙을 알고 있나요?
Nikhil Suresh 네, 아키텍처가 상당히 극적으로 진화해 왔다고 생각합니다. VLA와 VLM에서 시작해 이제 서서히 월드 액션 모델로 이동하고 있습니다. LLM에서 그랬던 것처럼 로보틱스에서도 스케일링 법칙이 나타나기 시작했다고 봅니다. 다만 LLM과 로보틱스의 큰 차이 중 하나는 LLM에는 학습에 활용할 인터넷 전체가 있었다는 점입니다. 아주 쉽게 접근할 수 있는 데이터 소스가 있어서 그냥 가져다가 “이걸 모델에 넣어보자”라고 할 수 있었죠. 로보틱스에서는 훨씬 어렵습니다. 많은 부분을 직접 제작하고 구성해야 하고, 특정 응용 분야에 맞는 센서를 장착한 뒤 모델에 입력해야 합니다. 그래서 실제 세계에서든 시뮬레이션에서든 데이터를 어떻게 늘려 스케일업할 것인가가 지금 진행되고 있는 일이라고 생각합니다.
새로운 월드 모델 회사들이 많이 등장하고 있고, 대기업에서도 Genie와 Dreamer, GR00T, NVIDIA의 Cosmos 등을 중심으로 많은 개발이 이루어지고 있습니다. 아직 해야 할 일이 훨씬 더 많지만, 큰 돌파구가 나올 시점에 가까워지고 있다고 봅니다. 아마 GPT-2 시점에 더 가깝다고 할 수 있을 것 같습니다.
특히 많은 범용 파운데이션 모델이 제조와 조립 라인 태스크에 더 큰 규모로 배포되면서 확실한 매출을 내기 시작하고 있습니다. 다만 이것이 얼마나 다양한 영역으로 확장될 수 있느냐가 문제입니다.
노정석 방금 피지컬 계층에 큰 관심이 있다고 말씀하셨는데, 그 이유 중 하나는 말씀하신 것처럼 데이터에 어느 정도 독점성이 있고 테스트를 실행하려면 어떤 형태로든 물리적 환경이 필요하기 때문일 수 있습니다. 그래서 프론티어 랩들이 그 시장에 쉽게 진입하지 못하는 것 같습니다. 그런 관점에서 보면 다른 영역도 있을 수 있다고 생각합니다. 예를 들면 과학을 위한 AI 같은 영역이요. 바이오테크 분야의 많은 분을 저희에게 소개해 주시기도 했는데, 그렇다면 다음으로 관심을 가질 만한 영역은 어디일까요?
다음 프론티어인 바이오와 과학을 위한 AI 41:00
Nikhil Suresh 프론티어 랩들도 이제 로보틱스로 움직이기 시작했습니다. OpenAI는 Sora 팀의 많은 인력을 현재 로보틱스 쪽으로 옮겼죠. 하지만 말씀에 동의합니다. 나머지 60점을 어디에 배분하겠느냐고 묻는다면 그중 30~40점 정도는 바이오에 줄 것 같습니다. 바이오는 다음의 큰 프론티어 중 하나라고 생각합니다. 그리고 랩들이 어디에 초점을 두는지를 보면 많은 것을 알 수 있습니다. Anthropic이나 OpenAI를 보면 생명과학 팀을 구축하고 신약 개발 정책을 마련하고 있습니다. 그들 역시 생물학이 인류 문명의 가장 큰 프론티어 중 하나라고 믿기 때문입니다. 생물학은 가장 큰 문제 중 하나이며, 경제적으로도 해결해야 할 가장 중요한 문제 중 하나입니다. 특히 장수가 그런 문제 중 하나라고 생각합니다. 그래서 Isomorphic, Chai Discovery, Lila Sciences, Edison Scientific 같은 회사들이 등장해 충분한 자본을 확보하고 이러한 문제들을 해결하려는 모습을 볼 수 있습니다.
이는 wet lab의 관점, 즉 Codex와 에이전트를 wet lab에 연결해 신약을 개발하고 바이오를 위한 실제 파운데이션 모델을 만드는 것뿐만 아니라, Google, Anthropic, Edison Scientific에서 볼 수 있는 과학을 위한 AI 플랫폼의 관점에서도 마찬가지입니다. 온라인의 다양한 연구 논문에 담긴 모든 정보를 어떻게 가져와 일종의 자동화된 연구로 구성하고 새로운 발견을 이끌어낼 것인가가 중요합니다. 실제 랩과 함께하든 여러 에이전트만 활용하든, 저는 이 영역이 무척 흥미롭습니다.
노정석 그러면 바이오 다음에는 무엇일까요? 하나만 꼽는다면요.
Nikhil Suresh 바이오가 매우 중요한 이유는 삶과 관련된 많은 핵심 문제를 해결할 수 있기 때문입니다. 예를 들어 암이나 정신건강처럼 고통과 관련된 문제들이죠. 생물학과 신약 개발 등을 위한 파운데이션 모델을 통해 그런 문제를 해결할 수 있다고 생각합니다. 장기적으로 그런 문제들이 많이 해결되고 우리가 더 오래, 더 충실한 삶을 살 수 있게 되면, 포스트 AGI의 아주 장기적인 상황에서 정말 중요해지는 것은 사람들의 커뮤니티를 어떻게 만들 것인가입니다. 사람들이 더 오래 살면서 더 많은 일을 하고 더 많은 것을 탐험하게 된 상황에서도 서로 의미 있게 교류할 수 있는 수단과 제3의 공간을 계속 누리게 하려면 어떻게 해야 할까요? 그때는 이미 AGI가 있어서 우리의 핵심 문제들을 해결하고 소프트웨어와 인프라, 하드웨어를 비롯해 필요한 모든 것을 구축할 수 있다고 전제할 수 있습니다. 그러면 초점은 인간과 인간 사이의 연결을 어떻게 키우고 삶을 정말 살 만한 것으로 만들 것인가에 맞춰집니다. 그것이 제가 그리는 아주 장기적인 미래입니다.
포스트 AGI 시대의 인간 연결과 커뮤니티 43:13
하드웨어 강국 한국의 소버린 AI 가능성 44:09
노정석 한국의 관점에 대해 조금 여쭤보겠습니다. 방금 AI 판도에 관해 말씀하셨는데, 한국이라는 나라 자체에는 구체적으로 무엇을 기대하고 계신가요?
Nikhil Suresh 한국은 뛰어난 AI 인재와 제조 역량, 하드웨어를 모두 갖춘 몇 안 되는 나라 중 하나이기 때문에 정말 흥미롭다고 생각합니다. 많은 나라를 보면 대부분 그런 역량이 없습니다. 실제로 소버린 랩을 구축할 가능성이 있는 나라도 세계에 몇 곳뿐입니다. 한국은 소프트웨어와 하드웨어 양쪽의 인재 밀도가 높기 때문에 그다음 국가가 될 수 있다고 생각합니다. 그런 역량을 개발해 AI 전선의 차세대 강국 중 하나가 될 가능성이 충분합니다. Samsung 같은 훌륭한 회사와 그 회사의 파운드리도 있습니다. TSMC의 훌륭한 경쟁사죠. SK hynix도 있고, 정말 훌륭한 회사들이 아주 많습니다. 그래서 솔직히 할 수 있는 일이 많다고 생각합니다.
한국 스타트업 투자 분야로 꼽는 칩과 하드웨어 45:15
노정석 니킬, 지금 한국의 유망한 스타트업 한 곳에 투자한다면 어느 분야를 선택하시겠어요?
Nikhil Suresh 제가 지금 한국 스타트업에 투자한다면 아마 가장 먼저 하드웨어 분야를 볼 것 같습니다. 한국은 역사적으로 하드웨어에 매우 강했습니다. 전자공학과 하드웨어는 한국의 역사에서 중요한 위치를 차지해 왔고, 한국이 세계 최고 수준에 속하는 분야라고 생각합니다. 세계 거의 누구보다 뛰어난 지식과 전문성을 갖추고 있으니 고민할 필요가 없는 선택이죠.
노정석 방금 말씀하신 하드웨어는 주로 로보틱스와 피지컬 AI를 뜻하나요?
Nikhil Suresh 피지컬 AI도 있지만, 사실 저는 칩 분야를 더 생각하고 있었습니다. 반도체와 메모리, 그리고 특정 아키텍처에 특화된 인퍼런스 칩을 만드는 분야 같은 것이죠.
김민석 데이터센터를 구축하려면 많은 부품이 필요하죠.
노정석 맞습니다. 사실 오늘 저녁에는 SemiAnalysis와 함께하는 파티가 있는데, 그곳에서 한국의 뛰어난 칩 스타트업들을 많이 만나실 겁니다.
에이전트 창업 경험과 투자 전환의 이유 46:30
김민석 당시 에이전트를 만들게 된 계기는 무엇이었나요? 구체적으로 무엇을 했고, 그 경험에서 무엇을 배웠나요? 왜 그만두고 투자에 뛰어들기로 결정하셨나요?
Nikhil Suresh 네, 물론입니다. 2025년은 흥미로운 시기였습니다. 당시만 해도 기업들은 AI를 사용하는 데 그다지 적극적이지 않았고, 특히 오래된 기존 기업들은 더욱 그랬습니다. AI를 별로 사용하고 싶어 하지 않았고 경제적 가치도 찾지 못했죠. 그래서 AI가 자동화와 관련된 여러 문제의 해답이라고 설득하기가 정말 어려웠습니다. 그것이 첫 번째 문제였습니다.
두 번째는 당시 저희가 고객별로 고도로 맞춤화된 배포를 하고 있었다는 점입니다. 그런 방식은 확장성이 좋지 않습니다.
정말 의미 있고 지속 가능하며 앞으로 10년이나 15년을 바칠 수 있는 사업을 만들고 싶었는데, 제게는 그것이 계속하고 싶은 사업이 아니었습니다. 더 흥미롭고 더 많은 사람에게 도움이 될 수 있는 문제들이 있다고 생각했죠. 그래서 결국 투자에 뛰어들게 되었습니다. 많은 사람에게 매우 긍정적인 영향을 미칠 수 있는 아이디어에 투자함으로써 그런 변화를 만들어 낼 수 있다고 생각했습니다.
포화되는 에이전트 시장의 승부처 47:44
노정석 아직 수많은 에이전트에 대해서는 이야기하지 않았네요. 그런데 San Francisco와 Seoul에서 수많은 스타트업을 보고 있는데, 모두 에이전트 스타트업입니다. 이런 스타트업들을 어떻게 보시나요? 시장 진입 시기는 어떻다고 생각하십니까?
Nikhil Suresh 시장 진입 시기요? 아주 좋다고 생각합니다. 올해는 말하자면 에이전트의 해입니다. 모델들이 충분한 역량을 갖추기 시작했고, 기업들도 마침내 AI를 조금 더 사용하려 하기 때문이죠. 그러니 지금 모두가 이 기회를 잡으려는 것은 당연합니다. 발전이 필요한 거대한 디지털 노동 시장이 있고, 에이전트를 통해 그 시장을 고도화할 수 있습니다. 따라서 실제 프로덕션 시스템에서 에이전트를 어떻게 구축하는지에 대한 통찰이 중요합니다. 지난해인 2024년에 아주 일찍 시작했거나 올해 초에 시작한 사람들은 이제 배포에 활용할 수 있는 지식과 전문성을 갖추고 있습니다. 다만 염두에 둬야 할 점은 에이전트 구축 역량을 매우 빠르게 끌어올릴 수 있다는 것입니다. 누구나 쉽고 빠르게 익힐 수 있죠. 그래서 많은 사람이 이런 회사를 창업하는 것 같습니다. 시장이 크고 아직 개척되지 않은 영역이 많으며, 다양한 기업 태스크를 위한 에이전트를 만들어 벌 수 있는 돈도 많다는 사실을 깨달았기 때문이죠. 그렇기 때문에 이 시장은 경쟁이 매우 치열하고 이미 상당히 포화되어 있다고 생각합니다.
그렇다면 중요한 것은 시장에서 어떻게 자리를 잡을지, 어디에 포지셔닝해야 제대로 경쟁할 수 있을지를 파악하는 것입니다. 누군가 찾아와서 또 하나의 에이전트 회사를 만들고 싶다고 했다고 해보죠. 저희가 “무엇을 위한 제품을 만들 건가요?”라고 물었을 때 “기업용으로 만들겠습니다”라고 답하고, 다시 “왜 이길 수 있다고 생각하나요?”라고 물었을 때 “빠르게 움직일 수 있기 때문입니다”라고 답한다면, 그것은 아무 의미가 없습니다. 모두가 자신은 빠르게 움직일 것이라고 생각하니까요. 중요한 것은 왜 당신이 이 분야에 적합한 사람인지, 왜 이 일을 해야 할 사람이 바로 당신인지입니다. 모든 창업자가 스스로에게 던져야 할 질문이 바로 그것이라고 생각합니다.
ICML의 벤치마크 중심 연구와 모델 해석 가능성 49:35
노정석 네, 맞습니다. 마지막 질문입니다. 3~4일 전에 한국에 오셔서 ICML에서 많은 분을 만나셨죠. 한국에 오기 전부터 나름의 철학이 있으셨을 텐데, 한국에서 많은 분과 프론티어 랩 출신의 인재들을 만나셨습니다. 누군가와 나눈 대화로 관점이 바뀐 부분이 있다면 무엇인가요?
Nikhil Suresh 분명 몇 가지에 대해서는 관점이 바뀌었습니다. 솔직히 ICML에서 정말 흥미로운 연구가 많이 진행되고 있다고 생각합니다. 요즘 나오는 논문을 보면 벤치마크와 매우 구체적인 주제를 다룬 것이 많습니다. 흥미로운 점은 몇 년 전만 해도 “어떤 멋진 새 모델 아키텍처가 있을까? 어떤 새로운 실험을 해볼 수 있을까?”라는 분위기였다면, 지금은 “왜 모델이 이 벤치마크와 이 특정 태스크에서 실패하는가?”를 묻는다는 것입니다. 큰 변화는 아니지만, 현재 모델이 잘하지 못하는 구체적인 영역에서 어떻게 더 나은 성능을 내게 할지, 이런 벤치마크를 어떻게 설계할지를 고민하게 됐다는 점에서 제 관점이 조금 달라졌습니다. 지금 많은 연구자가 가장 중요하게 생각하는 주제이기도 합니다.
또 하나는, 제가 보기에는 많은 연구자가 모든 것을 할 수 있는 하나의 초강력 모델이 등장한다는 싱귤래리티 개념에 상당히 몰두해 있다는 점입니다. Anthropic은 최근 모델이 어떻게 생각하는지와 기계론적 해석 가능성에 관한 매우 흥미로운 논문들을 발표했는데, 이것이 점점 하나의 큰 분야로 자리 잡는 것 같습니다. 처음에는 서서히 성장했지만 갈수록 속도가 붙으면서, 프론티어 랩에서 일하는 많은 연구자가 모델 내부에서 실제로 무슨 일이 일어나는지, 모델의 생각과 기억이 실제로 어떻게 인식되는지를 고민하기 시작했습니다. Anthropic은 어제 ‘The J-Space’라는 논문을 발표해 이 모델들의 내부 프레이밍이 실제로 어떤 모습인지에 관한 연구 결과를 공개했습니다.
어제 만난 한 창업자는 흥미로운 연구가 너무나 많다는 사실을 깨닫고 자신이 창업한 회사의 CTO 자리에서 물러나 Anthropic에서 일하기로 했습니다. 그는 원래 블랙박스 옵저버빌리티와 블랙박스 모델을 연구하고 있었지만, 모델의 해석 가능성과 투명성에 관한 Anthropic의 연구 결과를 보고 자신의 전제가 사실일 수 없다는 생각이 들었고, 그 접근법이 실현 가능하다는 확신도 잃었습니다. 이처럼 많은 창업자와 연구자가 인재 중심지와 인재 거점으로 모여들기 시작했습니다. 그렇다면 칩 설계나 바이오처럼 랩 밖에 있으면서 똑같이 중요하고, 랩에서 하는 일보다 더 다양한 관점을 담은 프로젝트로 어떻게 그 인재들을 끌어낼 것인가가 중요한 질문이 됩니다.
5년 뒤 신약 개발 가속과 자율 기업 전망 52:34
김민석 마지막 질문입니다. 저희 셋 다 AI에 푹 빠져 있잖아요. 5년 뒤 AI에서 가장 큰 변화는 무엇일까요?
Nikhil Suresh 글쎄요. 솔직히 모르겠습니다. 무언가 답할 수는 있겠지만, 그게 맞을지도 모르겠어요. 세상이 훨씬 더 빠르게 변하고 있는 것 같습니다.
김민석 1년 뒤조차 예측하기 어렵죠.
Nikhil Suresh 예측할 수 없습니다. 솔직히 이제는 아예 예측하지 못하겠다는 생각이 듭니다. 정말 많은 훌륭한 사람이 수많은 훌륭한 프로젝트를 진행하고 있으니까요. 지금 제가 바라는 것은 5년 뒤에는 신약 개발에서 후보 물질을 발굴하는 데 걸리는 시간이 매우 짧아지는 것입니다. 신약 발굴 기간뿐만 아니라 임상 단계의 실험도 더 빨라졌으면 합니다. 규제가 매우 중요한 분야이기 때문에 이 부분이 정말 중요합니다. 실제로 사람을 대상으로 테스트해 부작용 없이 효과가 있는지 확인할 수 있어야 하죠. 앞으로 5년 안에 임상 분야와 임상시험에서도 진전이 있기를 바랍니다. 이것은 바이오 분야의 이야기입니다.
한편 에이전트 인프라 분야에서는 많은 사람이 자율 기업 개발, 멀티에이전트 프레임워크, 오토 리서치로 진출하기 시작했습니다. 이는 랩뿐만 아니라 많은 인프라 회사와 애플리케이션 레이어 회사도 매우 중요하게 여기는 분야입니다. 또한 많은 신생 스타트업이 자율 기업 구축에 뛰어들고 있습니다. 그래서 5년 뒤에는 이런 회사가 훨씬 많아질 것 같습니다. 일종의 지주회사 모델이 될 수도 있습니다. 한 사람이 최상위 회사를 운영하고, 그 회사의 에이전트들이 여러 회사를 만들며, 그 회사들은 모두 완전히 자율적으로 운영되고 오직 에이전트를 통해 서로 연결되는 구조입니다. 그때 세상이 얼마나 긴밀하게 연결될지 지켜보는 것도 흥미로울 것입니다.
산업혁명 당시 증기기관과 전 세계를 오갈 수 있는 선박으로 세상이 엄청나게 연결됐던 것처럼, 이것은 그 현상의 디지털 버전과 같습니다. 이제는 자율적으로 이동하고 소통하며 서로 trust graph와 관계를 구축할 수 있는 디지털 노동자가 생기는 것입니다. 여기서 관계라는 말은 다소 느슨한 의미지만, 어쨌든 관계는 관계입니다. 이들은 서로 콘텍스트를 공유하고 그 콘텍스트에 따라 행동할 수 있습니다. 이것이 어떻게 전개될지 지켜보는 일은 매우 흥미로울 것 같습니다.
한국 창업가와 AI 인재를 향한 마지막 조언 54:58
노정석 한국의 창업가와 AI 엔지니어를 비롯해 AI 분야에서 일하는 분들께 마지막으로 한 말씀 부탁드립니다.
Nikhil Suresh 한 가지만 말씀드린다면, 세상에는 정말 흥미로운 문제가 많다는 것입니다. 한국에는 하드웨어와 소프트웨어 양쪽 모두에 훌륭한 인재 네트워크가 있으며, 지금이야말로 이를 제대로 활용할 때라고 생각합니다. 해결해야 할 가장 크고 어려운 문제가 무엇인지 찾아내고, 가능한 한 가장 똑똑한 사람들을 모아 사람들의 삶을 실질적으로 바꿀 수 있다고 생각하는 문제에 진지하게 도전해야 합니다. 감사합니다. 네, 여러분 감사합니다.
노정석 초대해 주셔서 감사합니다. 네, 시간 내주셔서 정말 감사합니다. 감사합니다.