진행자: 지난 1년 동안 일어난 흥미로운 기술적 돌파구와 AI 발전, 그리고 다가오는 1년 동안 일어날 수 있다고 생각하는 흥미로운 일들까지, 최첨단 인공지능 전반을 다루는 대화입니다. 가끔은 정말 기술적으로 깊게 들어가지만, 절대 ‘쉽게 보이려고’ 수준을 떨어뜨리진 않으면서도, 이 분야 밖의 분들도 따라올 수 있게 하려고 노력했습니다. AI 커뮤니티에서 제가 특히 좋아하는 두 사람, Sebastian Raschka와 Nathan Lambert와 이런 에피소드를 할 수 있다는 건 저에게 큰 영광이자 기쁨입니다. 두 분 모두 널리 존경받는 머신러닝 연구자이자 엔지니어이면서, 훌륭한 커뮤니케이터·교육자·작가이고, X에도 활발히 글을 올립니다. Sebastian은 초보자부터 전문가까지 모두에게 추천하고 싶은 책 두 권의 저자입니다. 첫째는 Build a Large Language Model from Scratch, 둘째는 Build a Reasoning Model from Scratch입니다. 저는 머신러닝 세계에서 무언가를 배우고 이해하는 가장 좋은 방법은 직접 ‘처음부터’ 만들어보는 것이라고 진심으로 믿습니다. Nathan은 Allen Institute for AI(Ai2)에서 포스트 트레이닝(post-training)을 이끌고 있고, Reinforcement Learning from Human Feedback에 관한 결정판 책의 저자이기도 합니다. 두 분 다 X 계정도 좋고 Substack도 훌륭합니다. Sebastian은 YouTube 강의가 있고, Nathan은 팟캐스트도 합니다. 모두 꼭 팔로우하셔야 합니다. 꼭요. Lex Fridman 팟캐스트입니다. 응원해 주시려면 설명란의 스폰서도 확인해 주시고, 저에게 연락하거나 질문을 보내거나 피드백을 줄 수 있는 링크도 거기에서 찾을 수 있습니다. 자, 이제—Sebastian Raschka와 Nathan Lambert입니다. 오늘 이야기를 바라보는 데 유용한 렌즈 중 하나는 이른바 DeepSeek moment입니다. 이건 약 1년 전인 2025년 1월에, 중국의 오픈 웨이트(open-weight) 회사 DeepSeek가 DeepSeek R1을 공개하면서 생겼습니다. 당시엔 ‘거의 최첨단’ 성능을, (주장에 따르면) 훨씬 적은 컴퓨트로 훨씬 싸게 냈다고 해서 모두를 놀라게 했죠. 그때부터 지금까지 AI 경쟁은 연구 측면에서도 제품 측면에서도 정말 미친 듯이 격화됐고, 가속만 하고 있습니다. 오늘은 이 모든 걸 얘기해 보겠습니다. 가능하다면 시작부터 조금 자극적인 질문으로 가볼까요. 국제 경쟁에서 누가 이기고 있나요? 중국 기업들인가요, 미국 기업들인가요? Sebastian, Nathan, 반갑습니다. 진행자: Sebastian, 누가 이기고 있다고 보세요? Sebastian Raschka: ‘이긴다’는 말은 범위가 아주 넓습니다. 당신이 말한 DeepSeek moment를 보면, DeepSeek는 오픈 웨이트 모델을 하는 사람들의 마음을 얻는다는 의미에서는 이기고 있다고 할 수 있어요. 왜냐하면 그들은 이런 모델을 ‘오픈 모델’로 공유하니까요. 그리고 ‘승리’는 여러 시간축을 가집니다. 오늘, 내년, 10년 뒤 같은 여러 스케일이 있죠. Sebastian Raschka: 제가 확실히 아는 한 가지는, 2026년 지금에는 ‘다른 회사는 절대 접근할 수 없는 기술’을 가진 회사가 존재하긴 어렵다는 겁니다. 연구자들이 직장과 연구소를 자주 옮기고, 계속 순환하기 때문이죠. 그래서 ‘기술 접근’ 측면에서의 명확한 승자는 없을 거라고 봅니다. 다만 차별화 요인은 예산과 하드웨어 제약이 될 거라고 생각합니다. 아이디어가 독점되는 게 아니라, 그 아이디어를 구현하는 데 필요한 자원이 차이를 만들 겁니다. 지금으로서는 ‘승자독식’ 시나리오가 보이지 않습니다. 저는 그런 그림이 잘 안 떠올라요. 진행자: Nathan은 어떻게 보세요? Nathan Lambert: 각 연구소가 어디에 에너지를 쏟는지가 다릅니다. 그리고 지금 우리가 녹음하는 이 시점을 기준으로 말하자면, Anthropic의 Claude Opus 4.5에 대한 과열(하이프)이 정말 ‘미쳤다’고 할 정도예요. 저도 지난 몇 주 동안 그걸 써서 뭔가를 만들어 봤는데, 과열이 거의 밈(meme)처럼 느껴질 정도까지 왔습니다. Nathan Lambert: 재미있는 건 이게 꽤 ‘자연발생적’이라는 점이에요. 몇 달 전으로 돌아가 보면, Google의 Gemini 3가 공개됐을 때가 있었고, 그때는 마케팅이나 ‘와우’ 포인트가 엄청 컸죠. 그런데 11월 말에 Claude Opus 4.5가 공개되면서 하이프가 커졌고, Gemini 3는 그보다 먼저 나왔음에도 사람들이 그만큼 얘기하진 않는 느낌이에요. 출시 당시에는 다들 ‘이건 Gemini가 AI에서 갖고 있던 구조적 우위를 되찾는 순간’이라고 말했는데도요. Nathan Lambert: Gemini 3는 훌륭한 모델이고 저도 여전히 씁니다. 다만 ‘차별화’가 더 낮게 느껴지는 것 같아요. Sebastian 말처럼 아이디어 공간(idea space)은 굉장히 유동적이지만, 문화적으로 Anthropic은 코드에 아주 강하게 베팅하는 곳으로 알려져 있고, 그게 지금은 Claude Code로 이어지면서 잘 먹히고 있습니다. 아이디어가 꽤 자유롭게 흐른다 하더라도, 결국 많은 것이 ‘사람의 노력’과 ‘조직 문화’에서 병목이 생깁니다. 그 점에서 Anthropic은 적어도 ‘가장 덜 혼란스러운’ 조직처럼 보이려 하고, 한동안 그걸 유지할 수 있다면 그 자체가 약간의 이점입니다. Nathan Lambert: 하지만 반대편에는, DeepSeek 하나만 있는 게 아니라 훨씬 더 많은 연구소가 있는 중국발 ‘꽤 위협적인’ 기술 흐름이 있습니다. DeepSeek가 중국 안에서 하나의 움직임을 촉발했는데, 저는 이게 미국에서 ChatGPT가 촉발했던 ‘어디든 챗봇이 붙는’ 흐름과 좀 비슷하다고 봅니다. 이제 중국에는 강력한 프런티어(frontier) 오픈 웨이트 모델을 내놓는 테크 회사들이 정말 많아졌습니다. Nathan Lambert: 그 정도로, 저는 DeepSeek가 중국에서 ‘최고의 오픈 모델 제작사’라는 왕관을 조금씩 잃어가고 있다고 말할 수도 있을 것 같아요. 최근 몇 달을 보면 Z.ai의 GLM, MiniMax의 모델, Kimi(Moonshot) 같은 곳들이 더 두드러져 보였거든요. 새로운 DeepSeek 모델도 여전히 매우 강합니다. 다만 2025년에 DeepSeek가 등장해 ‘플랫폼’을 열어주면서, 그 이후 훨씬 더 많은 중국 회사가 훌륭한 모델을 내놓는 ‘새로운 운영 방식’을 갖게 됐다고, 나중에 돌아보면 큰 서사 포인트로 보일 수도 있다는 거죠. Nathan Lambert: 이 중국 회사들의 모델들은 오픈 웨이트입니다. 그리고 미국 기업들이 선택하는 비즈니스 모델 궤적에 따라, 이 미국 기업들은 리스크에 노출될 수도 있습니다. 다만 현재 미국에서는 많은 사람들이 AI 소프트웨어에 돈을 내고 있고, 역사적으로 중국이나 다른 지역에서는 소프트웨어에 돈을 많이 내지 않는 경향이 있었습니다. 진행자: DeepSeek 같은 모델이 오픈 웨이트라서 사람들의 사랑을 받는 면이 있죠. 중국 회사들은 오픈 웨이트 모델 공개를 얼마나 오래 계속할까요? Nathan Lambert: 몇 년은 계속할 거라고 봅니다. 미국과 마찬가지로, 거기에 대한 ‘명확한 비즈니스 모델’이 아직 없거든요. 저는 오픈 모델에 대해 한동안 글을 써왔고, 중국 회사들도 그걸 깨닫고 있습니다. 그래서 그쪽에서 연락이 오기도 해요. Nathan Lambert: 그들은 똑똑하고, 같은 제약도 이해하고 있습니다. 미국의 주요 테크 기업이나 IT 기업들 중 상당수는 보안 우려 때문에 중국 회사의 API 구독에 돈을 내지 않으려 하거든요. 이건 오래된 습관입니다. 그래서 이런 기업들의 사람들은 오픈 웨이트 모델을 ‘영향력을 행사하고’, 미국에서 급증하는 AI 지출 시장의 일부를 차지할 수 있는 방법으로 봅니다. 그들은 매우 현실적이고, 지금 그 전략이 실제로 효과를 내고 있습니다. Nathan Lambert: 정부도 ‘기술 채택’이라는 측면에서 국제적 영향력이 쌓이는 걸 보게 될 테니, 그 흐름을 유지할 유인이 많을 겁니다. 다만 모델을 만들고 연구를 하는 건 매우 비싸기 때문에, 언젠가는 통합(콘솔리데이션)이 일어날 거라고 봅니다. 하지만 그게 2026년의 이야기가 될 거라고는 생각하지 않아요. 2026년에는 2025년보다 더 많은 오픈 모델 제작사가 있을 것이고, 그중 눈에 띄는 곳 상당수가 중국에 있을 겁니다. 진행자: (Sebastian) 뭐 더 하실 말씀이 있었죠? Sebastian Raschka: 네. DeepSeek가 왕관을 잃어간다는 말은 어느 정도 맞다고 봅니다. 다만 동시에, DeepSeek가 여전히 약간은 앞서 있다고도 생각해요. 다른 회사들이 좋아진 건 DeepSeek가 나빠져서가 아니라, DeepSeek의 아이디어를 활용하고 있기 때문이죠. 예컨대 당신이 언급한 Kimi도 같은 아키텍처로 학습하고 있습니다. Sebastian Raschka: 그래서 ‘앞서거니 뒤서거니’하는 점프-프로깅(leapfrogging)이 계속 일어납니다. 어떤 시점에는 더 최신 모델을 낸 쪽이 조금 더 나아 보일 수도 있어요. 이건 결국 ‘명확한 최종 승자’가 없을 거라는 사실로 다시 돌아갑니다. 한쪽이 뭔가를 내놓으면, 다른 쪽이 따라 들어오고, 결국 가장 최신 모델이 대체로 가장 좋은 모델이 되는 식이죠. 진행자: 중국 회사들은 인센티브도 다를 겁니다. DeepSeek는 매우 비밀주의적인 반면, MiniMax나 Z.ai 같은 스타트업은 서구에서의 인지도(mindshare)를 얻으려고 적극적으로 움직이죠. 그 둘은 실제로 IPO 서류도 제출했고, 서구권에서 홍보도 많이 하고 있습니다. 이런 인센티브 차이가 모델 개발을 바꿀지 저는 잘 모르겠습니다. DeepSeek는 유명하게도 헤지펀드 Highflyer Capital이 만들었다고 알려져 있고, 그 모델을 정확히 무엇에 쓰는지, 혹은 그들이 이런 일에 얼마나 신경 쓰는지 우리는 모릅니다. Sebastian Raschka: 그들은 ‘소통’은 비밀스럽지만, 모델이 어떻게 동작하는지 설명하는 기술 보고서(technical reports) 측면에서는 비밀스럽지 않습니다. 그 점에서는 여전히 열려 있어요. 그리고 Claude Opus 4.5 하이프에 대해서도, X(트위터) 에코 챔버에서의 ‘총애받는 존재’라는 층위가 있고, 실제로 그 모델을 쓰는 사람 수는 또 다를 수 있다는 점을 말해야 합니다. ChatGPT와 Gemini는 일상의 문제를 해결하려는 ‘매우 넓은 사용자층’을 타깃으로 하고 있고, 그 사용자층은 거대합니다. 그래서 ‘코딩 하이프’가 실제 사용을 대표하지 않을 수도 있어요. Sebastian Raschka: 또 사용 패턴은 이름 인지도, 브랜드 같은 요소도 있지만, 거의 근육 기억(muscle memory) 같은 습관도 큽니다. ChatGPT는 오래전부터 있었고, 사람들은 그냥 익숙해졌죠. 그게 플라이휠처럼 돌아가서, 사용자들이 또 다른 사용자에게 추천하는 식으로 굴러갑니다. Sebastian Raschka: 또 하나 흥미로운 포인트는 LLM의 커스터마이징입니다. 예를 들어 ChatGPT에는 ‘메모리(memory)’ 기능이 있잖아요. 그래서 개인 용도로는 구독해 쓰더라도, 같은 걸 업무에서 쓰고 싶을지는 모르겠어요. 개인과 업무 사이의 경계가 있으니까요. 회사에서 허용하지 않을 수도 있고, 본인이 원치 않을 수도 있습니다. Sebastian Raschka: 그래서 ‘복수 구독’이 생길 수도 있습니다. 하나는 깨끗한 코드(업무용)만—개인 이미지나 취미 프로젝트 같은 게 전혀 없는, 말 그대로 ‘업무용’ 구독. 다른 하나는 개인용 구독. 이런 식으로 ‘두 가지 사용처’가 공존할 수 있고, 반드시 하나만 써야 하는 건 아닙니다. 저는 미래가 이렇게 ‘여러 개를 함께 쓰는’ 방향일 수도 있다고 봅니다. [계속]