Hassabis on an AI Shift Bigger Than Industrial Age

진행자: 정말 반갑습니다. Demis Hassabis: 저도 반갑습니다. 진행자: 샌프란시스코에서였죠. Demis Hassabis: 네, 알고 있습니다. 진행자: 정말 여기저기 다니시네요. 진행자: 이번 다보스(Davos)가 지난번에 오셨을 때와는 좀 다르게 느껴지시는지 궁금합니다. Gemini 3가 나왔고, 오프닝에서도 그 이야기가 나왔죠. 저는 내부적으로 code red라고 불렀는데요. Google이 다시 추진력(mojo)을 되찾았다고 느끼시나요? Demis Hassabis: 제가 그걸 말할 입장인지는 모르겠지만, 아주 좋은 한 해였다고 느낍니다. 우리 기술과 모델을 다시 최첨단(state of the art) 수준으로 끌어올리기까지 정말 힘든 작업이었고, 말 그대로 엄청난 노력이 들어갔습니다. 특히 Gemini 3와, 우리 이미징 소프트웨어에 적용한 nanobots 덕분에 그걸 해냈다고 봅니다. Demis Hassabis: 그리고 제품을 아주 빠르게 출시(shipping)해야 하는 이 새로운 환경에도 정말 잘 적응했다고 생각합니다. 우리가 하는 일에 일종의 스타트업 에너지(startup energy)를 불어넣은 셈이죠. 진행자: 사람들이 Google을 과소평가했거나, 뭔가를 잘못 보고 있었다고 생각하시나요? Demis Hassabis: 네, 어쩌면요. 확신은 없습니다. 다만, 우리는 원래부터 이 분야 최전선에 설 수 있는 ‘재료(ingredients)’는 늘 갖고 있었다고 생각합니다. Demis Hassabis: 당연히 긴 역사도 있고요. 지난 10년 동안 Google과 DeepMind가 함께 현대 AI 산업이 의존하는 대부분의 돌파구(breakthrough)를 만들어 냈다고 봅니다. 트랜스포머(Transformers), 가장 유명한 사례로는 AlphaGo, 그리고 딥 강화학습(Deep reinforcement learning) 같은 것들이요. Demis Hassabis: 또 우리는 수십억 사용자가 쓰는 서비스라는 엄청난 제품 접점(product surfaces)을 갖고 있습니다. 검색(search)부터 이메일(email), 그리고 Chrome까지, AI는 원래부터 자연스럽게 결합될 수 있는 영역이었는데, 결국 그 모든 것을 한데 모아 올바른 방식으로 정리·조직하는 게 관건이었습니다. Demis Hassabis: 지난 2년 정도 동안 그걸 해냈다고 생각하고, 아직 할 일이 많지만, 그 성과의 열매를 보기 시작했다고 봅니다. 진행자: 만약 우리가 우위(advantage)를 갖고 있다고 보신다면, 그 우위가 얼마나 크다고 생각하시나요? 그리고 그 우위는 얼마나 오래 지속될까요? Demis Hassabis: 제 생각에 모든 것은 연구(research)에서 시작합니다. 특히 다양한 벤치마크에서 모델이 **최첨단(state of the art)**에 있어야 하죠. Google과 DeepMind를 합쳤을 때 가장 먼저 거기에 집중했습니다. Demis Hassabis: Gemini 시리즈와 관련해선, 진행 상황에 매우 만족하고 있습니다. 물론 아직 더 많은 일이 남아 있습니다. 하지만 우리가 유일하게 TTPs부터 하드웨어, 데이터센터, 클라우드 비즈니스, Frontier lab, 그리고 AI와 자연스럽게 맞물리는 놀라운 제품들까지 ‘풀스택(full stack)’을 모두 갖춘 조직이라고 생각합니다. Demis Hassabis: 그래서 구조적으로, ‘첫 원리(first principles)’ 관점에서 우리는 매우 잘할 수밖에 없는 위치에 있습니다. 그리고 앞으로 더 성장할 여지(headroom)도 훨씬 많이 남아 있다고 봅니다. 진행자: 프런티어 모델을 이끄는 ACO의 하루는 어떤 모습인지 궁금합니다. 새벽 1시에서 4시 사이에 가장 많은 생각을 하신다는 얘기를 읽은 적이 있는데요. Demis Hassabis: 네, 맞습니다. 진행자: 내부가 code red가 아닌 때가 있긴 한가요? 편안하다고 느끼는 순간이 있나요? Demis Hassabis: 아니요. 절대 편안할 수가 없습니다. 물론 ‘code red’는 아주 특별한 상황에만 쓰려고 노력하긴 합니다. 하지만 지난 3~4년은 정말 믿기 힘들 정도로 강도가 높았습니다. Demis Hassabis: 주당 100시간씩, 1년에 50주를 그렇게 일하는 식이었죠. 그게 정상(norm)이었습니다. 이렇게 믿기 어려울 만큼 빠르게 움직이는 기술의 최전선에 서려면, 그 정도는 해야 한다고 생각합니다. Demis Hassabis: 밖은 정말 잔혹할 정도로 경쟁이 치열합니다. 기술 분야 역사상 가장 치열한 경쟁일지도 모릅니다. 판돈(stakes)도 엄청나게 큽니다. Demis Hassabis: AGI와, 그것이 상업적으로·과학적으로 의미할 수 있는 모든 것이 걸려 있으니까요. 게다가 우리가 하는 일 자체가 주는 흥분, 그리고 제 열정이기도 한 ‘AI로 과학 문제를 탐구하고 과학적 발견 자체를 가속하는 일’까지 더해지면요. Demis Hassabis: 이건 제가 늘 꿈꿔왔던 것이고, 이 순간을 위해 평생 AI를 해왔다고 해도 과언이 아닙니다. 그래서 해야 할 일이 너무 많아서 잠을 자기 어려울 정도입니다. 동시에, 들여다보고 밀어붙일 흥미로운 것들이 너무 많기도 하고요. 진행자: 과학 발전을 끌어내고, 새로운 소재(new materials)를 발견하는 데 특히 집중하고 계시다는 건 저도 알고 있습니다. 최근에는 Gemini가 휴머노이드 로봇(humanoid robots)에 통합되는 것도 봤고요. 물리 세계에서의 ‘AlphaFold 모먼트’가 지금 오고 있는 건가요? 그게 무엇이고, 어떤 모습일까요? Demis Hassabis: 네, 저는 지난 1년의 많은 시간을 로보틱스(robotics)를 아주 면밀히 들여다보는 데 썼습니다. 물리 지능(physical intelligence)에서 일종의 돌파구 모먼트(breakthrough moment) 직전이라고 생각합니다. 다만 아직은 18개월에서 2년 정도는 남아 있다고 봅니다. Demis Hassabis: 더 많은 연구가 필요합니다. 그렇지만 Gemini 같은 파운데이션 모델(foundation models)이 앞으로의 길을 보여준다고 생각합니다. 처음부터 Gemini를 멀티모달(multimodal)로 만든 이유가 여러 가지였는데, 물리 세계를 이해할 수 있게 하려는 목적이었습니다. Demis Hassabis: 그중 하나는 범용 어시스턴트(universal assistant)를 만들기 위해서였죠. 안경이나 휴대폰 같은 데 탑재되어, 주변 세계를 이해하는 형태일 수도 있고요. 물론 두 번째 용도는 로보틱스였습니다. Demis Hassabis: 그렇다면 물리 세계에서의 그 모먼트는 어떤 모습일까요? 저는 로봇이 현실 세계에서 유용한 일을 ‘신뢰할 수 있게(reliably)’ 수행하는 것이 그 모습이라고 봅니다. 그리고 그걸 가로막는 요소가 몇 가지 있습니다. 아직은요. Demis Hassabis: 우선 알고리즘이 아직 충분히 성숙하지 않았습니다. 좀 더 견고함(robustness)이 필요합니다. 실험실(labs)이나 디지털 환경에서만 작동하는 모델이 쓰는 데이터보다 훨씬 적은 데이터로도 작동해야 하거든요. Demis Hassabis: 물론 합성 데이터(synthetic data)를 만들 수도 있지만, 그런 종류의 데이터를 만드는 건 훨씬 어렵습니다. 그리고 하드웨어 쪽에서도 아직 풀리지 않은 문제가 있는데, 특히 팔(arm)과 손(hand) 같은 부분입니다. Demis Hassabis: 실제로 로보틱스를 자세히 들여다보면(저도 그랬는데), 인간의 손에 대한 새로운 경외감이 생깁니다. 진화(evolution)의 설계가 얼마나 정교한지 놀라울 정도이고, 인간 손이 가진 신뢰성(reliability), 힘(strength), 그리고 기민함·정교함(dexterity)을 동일하게 구현하기가 정말 어렵습니다. Demis Hassabis: 그래서 아직은 여러 조각을 더 맞춰야 한다고, 제 생각에는, 봅니다. 그럼에도 매우 흥미로운 일들이 있습니다. 예를 들어, 우리는 Boston Dynamics와의 새로운 심층 협업(deep collaboration)을 막 발표했습니다. Demis Hassabis: 그들은 아주 흥미로운 로봇을 갖고 있고, end die, 그리고 실제로 자동차 제조(automotive manufacturing)에 적용하는 작업을 하고 있습니다. 앞으로 1년 동안 프로토타입(prototype) 형태로 그게 어떻게 진행되는지 보게 될 겁니다. Demis Hassabis: 그리고 1~2년 뒤에는 스케일업(scale up) 가능한, 정말 인상적인 데모(demonstrations)를 보여줄 수 있을지도 모릅니다. 진행자: 1년 전에는 deep sea가 서구(West)에 재앙적(cataclysmic)인 사건처럼 보였습니다. 하지만 1년이 지난 지금은 조용합니다. 중국(China)도 더 조용해 보이고요. 네. 중국발 경쟁에 대한 생각이 달라지셨나요? Demis Hassabis: 크게는 아닙니다. 사실 처음부터 그걸 재앙적이라고 보지 않았습니다. 서구에서의 반응은 과도한(overreaction) 측면이 컸다고 봅니다. 그럼에도 인상적이긴 했습니다. Demis Hassabis: 그리고 그건 중국 기업들이 매우 유능하다는 걸 보여줬습니다. 특히 선도 기업들, 예컨대 Bytedance 같은 회사들이 가장 역량이 크다고 생각하고, 그들은 프런티어(frontier) 대비 1~2년이 아니라 아마도 6개월 정도만 뒤처져 있을 뿐이라고 봅니다. Demis Hassabis: 제가 보기엔 그게 그들이 보여준 점입니다. 다만 사용한 컴퓨트(compute) 양이 매우 적었다는 식의 일부 주장은 과장(overexaggerated)된 면이 있었습니다. 일부 서구(Western) 모델에 의존했고, 또 서구 선도 모델들의 출력(outputs)을 활용해 파인튜닝(fine tuning)했기 때문입니다. Demis Hassabis: 그래서 완전히 독립적으로 된 건 아니었다고도 할 수 있습니다. MALVEAUX 그리고 또 하나, 지금까지는 아직 확인되지 않은 부분이 있는데, 중국(China), 즉 중국 기업들이 프런티어 자체를 ‘넘어서는’ 혁신(innovate beyond the frontier)을 할 수 있느냐는 겁니다. Demis Hassabis: 그들은 프런티어가 있는 곳까지 따라잡는 데는 매우 뛰어나고, 그 역량도 점점 커지고 있죠. 하지만 프런티어를 넘어서는 혁신을 보여줬다고 보긴 아직 이릅니다. 진행자: AGI의 정의를 만드는 데도 관여하셨죠. 2030년까지 도달할 확률이 **50%**라고 말씀하신 적도 있습니다. 그 타임라인은 여전히 유효한가요? Demis Hassabis: 네, 그렇습니다. 진행자: 그리고 AGI는 여전히 유용한 목표(target)인가요? Demis Hassabis: 그렇다고 생각합니다. 제 타임라인에서 꽤 좋은 기준이라고 생각하고, 여기 계신 다른 분들의 관점보다 약간 더 긴 편일 수는 있겠죠. 하지만 제 기준(bar)은 꽤 높습니다. Demis Hassabis: 즉 인간이 가진 모든 인지 능력(cognitive capabilities)을 보여주는 시스템이어야 합니다. 그리고 우리는 아직 그 단계에서 분명히 꽤 멀리 떨어져 있다고 봅니다. Demis Hassabis: 여기에는 과학적 창의성(scientific creativity) 같은 것들이 포함됩니다. 단지 추측(conjecture)을 풀거나 과학 문제를 푸는 게 아니라, 애초에 가설(hypothesis)이나 ‘문제 자체’를 떠올리는 능력이죠. Demis Hassabis: 어떤 과학자든 알겠지만, 올바른 질문을 찾는 게 답을 찾는 것보다 훨씬 더 어려운 경우가 많습니다. 그래서 이런 시스템이 그런 능력을 갖고 있는지 아직 확실치 않고, 적어도 지금은 분명히 갖고 있지 않습니다. Demis Hassabis: 언젠가는 갖게 될 거라고 보지만, 무엇이 더 필요한지는 아직 명확하지 않습니다. 또 지속 학습(continue learning), 온라인 학습(online learning)처럼, 학습된 범위를 넘어 실제 세계에서 정지된(static) 상태로 있는 게 아니라 그때그때 즉석에서(on the fly) 학습할 수 있어야 합니다. Demis Hassabis: 제 관점에서, 제가 AGI 시스템이라고 부를 만한 것에 필수적인 ‘빠진 능력’이 꽤 많이 있습니다. 진행자: Google은 주요 투자자이고, Anthropic의 Del Rio도 오늘 앞서 이 자리에 있었습니다. 그가 ‘5년 안에 엔트리 레벨(entry level) 화이트칼라(white collar) 일자리의 **50%**가 사라질 것’이라고 예측했는데, 동의하십니까, 아니면 반대하십니까? Demis Hassabis: 제 타임라인도 그와 비슷하긴 하지만, 그 부분에 대한 제 생각은 훨씬 더 긴 시간축입니다. 다만 올해 들어 엔트리 레벨 직무나 인턴십(internships) 같은 영역에서 그 조짐(beginnings)이 보이기 시작했다고는 생각합니다. Demis Hassabis: 하지만 지금 시스템에 부족한 일관성(consistency)을 훨씬 더 많이 해결해야 합니다. 저는 이걸 재킷 인텔리전스(jacket intelligence)라고 부르는데, 어떤 것에는 매우 뛰어나지만 다른 것에는 현재 시스템이 매우 취약하기 때문입니다. Demis Hassabis: 그리고 지금처럼 ‘보조 도구(assistive programs)’에 가까운 형태가 아니라, 에이전트(agent)에게 전체 작업을 통째로 맡기거나 위임(offload/delegate)하려면, 전반적으로 훨씬 더 높은 일관성이 필요합니다. 그 작업의 **95%**를 잘한다고 해서 소용이 없습니다. Demis Hassabis: 실제로 ‘한 번 던져두고 잊어도(fire and forget)’ 되려면, 작업 전체를 잘해야 합니다. 그래서 그런 수준의 충격(disruption)이 나타나기까지는 아직 해야 할 일이 꽤 많다고 봅니다. Demis Hassabis: 다만 그런 충격은 결국 일어날 겁니다. 언젠가는요, 네. AGI가 극한(limit)까지 간다고 생각해 보면, 그런 시스템이 있다면 경제 전체가 바뀔 거라고 봅니다. Demis Hassabis: 하지만 일자리 문제를 훨씬 넘어, 우리가 제대로 만든다면(postively) 에너지 원천 같은 세계의 근본적 ‘매듭(nodes)’을 풀어내면서, 깨끗하고 재생 가능한(clean, renewable), 사실상 무료에 가까운 에너지원을 갖는 ‘포스트 스캐시티(post scarcity) 세계’로 갈 가능성이 있다고 생각합니다. Demis Hassabis: 예를 들어 AI의 도움으로 핵융합(fusion) 같은 걸 풀거나, 새로운 소재(new materials)를 찾는 데 성공한다면, AGI 이후 5~10년만 지나도 우리는 급진적으로(radical) 완전히 달라진 세계에 있을 수 있다고 봅니다. 진행자: 그렇다면 경제와 사회가 작동하는 방식은 어떻게 바뀌게 될까요? 사실 포스트 스캐시티 세계에 도달하기 전, 설령 거기에 도달한다 해도, 그 사이 과정에서 무슨 일이 벌어질지에 대한 불안(anxiety)이 엄청나게 큽니다. 진행자: 저는 엄마이기도 하고요. 당신도 아이가 있는 걸로 압니다. 아이들에 대해 가장 두려운 게 뭔가요? 아이들과는 어떤 이야기를 나누시나요? 앞으로 무엇이 올지, 어떤 말을 해주시나요? 진행자: 저는 정말 많은 이야기를 들었습니다. 세상에. 대학 졸업생들이 정말 힘들어질 거라는 얘기요. Demis Hassabis: 글쎄요, 그건 잘 모르겠습니다. 제가 보기엔, 산업혁명(Industrial revolution) 같은 충격의 시대가 올 텐데, 그게 어쩌면 산업혁명의 ‘10배’ 규모일 수도 있습니다. 제가 보통 설명하는 것보다 10배 더 빠르다고 생각하면, 믿기 어려울 정도죠. Demis Hassabis: 규모도 10배 더 크고, 속도도 10배 더 빠를 겁니다. 산업혁명은 2년, 100 now get. (원문 그대로) 그래서 그게 **100배(100 X)**라는 말입니다. Demis Hassabis: 아니, 저는 이걸 모두에게 말하는데, 그만큼 거대한 기회(huge opportunities)도 함께 온다고 생각합니다. 저는 인간의 창의력·기지(human ingenuity)를 크게 믿습니다. Demis Hassabis: 우리의 마음은 매우 범용적(general)이기 때문에, 우리는 극도로 적응력이 큽니다. 인간의 마음은 정말 범용적입니다. 우리는 주변의 현대 세계에 맞춰 적응해 왔습니다. Demis Hassabis: 사냥·채집(hunter gatherer) 시대의 마음으로도 현대 문명을 만들어냈잖아요. 그러니 이번에도 다시 적응할 거라고 봅니다. 다만 속도 때문에 다소 전례가 없긴 합니다. Demis Hassabis: 보통 이런 변혁은 1세대나 2세대에 걸쳐 진행되는데, 이번 기술의 변혁적 힘(transformative power)은 그 규모가 워낙 크고요. 하지만 지금의 아이들은 이런 새 도구들에 엄청나게 능숙해지고, ‘네이티브(native)’처럼 다룰 수 있게 되도록 저는 격려하겠습니다. Demis Hassabis: 창작 예술(creative arts) 분야에서는, 예전엔 10명이 하던 일을 1명이 할 수 있는 ‘슈퍼파워(superpowers)’를 주는 것과 거의 비슷하니까요. 그리고 그건, 예를 들어 당신이 기업가적(entrepreneurial)이고, 게임 디자인(game design), 영화(films), 프로젝트(projects) 같은 것에서 창의적이라면, 훨씬 더 많은 일을 해낼 수 있고, 과거보다 그 산업에 훨씬 더 쉽게 진입(break into)할 수 있다는 뜻이라고 봅니다. Demis Hassabis: 신진 인재(a new upcoming talent)에게 특히요. 진행자: 규제가 따라잡을 시간을 주고, 사회가 이런 변화에 적응할 시간을 주기 위해 ‘일시정지(pause)’를 주장하는 사람들도 있었습니다. 완벽한 세상이라면, 다른 모든 회사가 멈출 거라는 걸 확신할 수 있다면요. 모든 나라가 멈춘다면요. 그런 일시정지를 지지하시겠습니까? Demis Hassabis: 그렇다고 생각합니다. 저는 제가 바라는 바를 공개적으로(on record) 말해온 적도 있습니다. 제가 15년 전에 DeepMind를 시작했고, 더 거슬러 올라가면 25년 전부터 이 일을 해오면서, 마음속에 그려왔던 로드맵(road map)이 하나 있었는데요. Demis Hassabis: AGI가 도착하는 이 임계점(threshold moment)에 가까워질수록, 우리는 과학적 방식(scientific way)으로 협력(collaborate)할 수 있기를 바랐습니다. 저는 때때로 ‘AI를 위한 국제적 CERN에 해당하는 조직’을 만들자는 얘기를 합니다. Demis Hassabis: 전 세계 최고의 인재들이 함께 협력해서, 사회 전체—기술자(technologists)뿐 아니라 철학자(philosophers), 사회과학자(social scientists), 경제학자(economists)까지—를 참여시켜, 이 기술에서 무엇을 원하고, 어떻게 하면 인류 전체에 이롭게(benefits all of humanity) 활용할 수 있을지, 마지막 단계(final steps)를 아주 엄밀한 과학적 방식으로 진행하자는 겁니다. Demis Hassabis: 저는 그게 바로 지금 걸려 있는 것(at stake)이라고 생각합니다. 하지만 불행히도, 이런 건 국제 협력(international collaboration)이 필요합니다. Demis Hassabis: 한 회사, 한 국가, 심지어 서구(West)만 그렇게 하기로 결정해도, 전 세계가 최소한의 기준(minimum standards)에는 동의하지 않으면 소용이 없기 때문입니다. 그리고 지금은 국제 공조(international cooperation)가 다소 까다로운 시기이기도 하죠. Demis Hassabis: 그래서 AGI로 가는 마지막 단계에서 그런 엄밀한 과학적 접근(rigorous scientific approach)을 하려면, 그 상황이 바뀌어야 합니다. 진행자: 그렇다면 예를 들어 2030년에 AGI가 오는데 아직 규제(regulations)가 준비되어 있지 않다면, 우리는 어려운 상황을 피할 수 없는(destined) 걸까요? Demis Hassabis: 그 경우에도 저는 여전히 낙관적(optimistic)입니다. 주요 플레이어들이 충분히 서로 소통(communicate)하고, 최소한 안전(safety)과 보안(security) 프로토콜 같은 것에서는 협력(collaborate)할 수 있기를 기대합니다. 이미 그런 움직임이 꽤 있습니다. Demis Hassabis: 예컨대 우리는 Anthropic과 그런 부분에서 꽤 긴밀히 협력하고 있고, 국제적 틀이 작동하지 못한다면, 동료 기반(peer based)의 협력이 더 필요할 겁니다. 그리고 그건, 예컨대 Sam 같은 사람과도 더 협력하는 형태가 될 수 있겠죠. Demis Hassabis: 저는 주요 연구소(leading labs)의 다른 리더들과도 대체로 좋은 관계(pretty good terms)에 있다고 생각합니다. 판돈이 충분히 크고, 무엇이 걸려 있으며 어떤 위험(risks)이 있는지를 모두가 제대로 이해한다면, 많은 부분이 움직일 거라고 봅니다. Demis Hassabis: 그건 앞으로 2~3년 안에 모두에게 더 분명해질 거라고 생각합니다. 진행자: 이제 기술과 다음 곡선(next curve)에 대해 이야기해보죠. Yang Coombs는 트랜스포머(Transformers)와 lamps만으로는 AGI에 도달할 수 없다고 말했습니다. 동의하십니까, 반대하십니까? 그리고 만약 그게 막다른 길(dead ends)이라면, 우리는 지금 뭘 하고 있는 걸까요? Demis Hassabis: 네. 아니요, 그것들이 막다른 길이라는 주장에는 동의하지 않습니다. 그건 분명히 틀렸다고 생각합니다. 이미 엄청나게 유용하니까요. Demis Hassabis: 다만 저는 이걸 경험적 질문(empirical question)이라고 봅니다. 그것만으로 충분한지 여부는 과학적 질문(scientific question)입니다. 기존 방법을 약간 손보면서 스케일업(scaling up)하는 것만으로 충분할지에 대해선 **50:50(5050)**이라고 봅니다. Demis Hassabis: 그럴 수도 있습니다. 그리고 그건 해봐야 합니다. 그 작업은 유용합니다. 최소한 제 관점에서 보면, 이런 lambs는 최종 시스템(final system)의 구성요소(component), 그것도 대단히 중요한 구성요소가 될 것이기 때문입니다. Demis Hassabis: 제가 궁금한 건 ‘그게 유일한 구성요소인가’라는 점뿐입니다. 그렇죠. 그리고 앞으로 여기서부터는 1~2개의 돌파구(breakthrough), 많아야 몇 개—5개 미만—정도가 더 필요할 수도 있다고 상상할 수 있습니다, 그렇죠? Demis Hassabis: 네. 그런 것들 중 하나가 월드 모델(world models)일 수 있습니다. 저는 그걸 이미 여러 번 말해왔고, 우리는 그걸 연구하고 있습니다. 사실 현재로선 우리가 최고의 월드 모델을 갖고 있다고 생각하는데, 그것이 GENI, 우리 GENI 시스템입니다. Demis Hassabis: 저는 거기에 직접 참여하고 있고, 그게 매우 중요하다고 봅니다. 그리고 지속 학습(continue learning) 같은 것, 그리고 어떤 건 잘하고 어떤 건 못하는 ‘들쭉날쭉한 가장자리(jagged edges)’가 없는 일관된(consistency) 시스템을 만드는 것도 중요합니다. Demis Hassabis: 그게 범용(general) 시스템이죠. 범용 시스템은 그런 들쭉날쭉함이 없어야 합니다. 그래서 더 나은 추론(reasoning), 더 긴 호흡의 장기 계획(long term planning) 등 아직 부족한 능력이 꽤 많다고 봅니다. Demis Hassabis: 새 아키텍처(architecture)나 새로운 돌파구가 필요한지, 아니면 같은 방식의 연장선(more of the same)으로 갈 수 있는지는 열린 질문(open question)입니다. 우리, 즉 Google·DeepMind 관점에서, 우리는 가능한 한 가장 세게 밀어붙이고 있습니다. Demis Hassabis: 새로운 것을 발명(inventing)하는 것과 기존 것을 스케일업하는 것, 둘 다요. 약간 다르지만 서로 관련된 일이죠. 진행자: Elias Escovedo는 ‘스케일링하고 더 큰 모델을 만드는 것만으로 개선이 나오는 시대는 거의 끝났다’고 말했습니다. 동의하시나요? Demis Hassabis: 동의하지 않습니다. 그의 정확한 표현은 ‘우리는 연구의 시대로 돌아왔다’였던 것 같습니다. 하지만 저는 Ellie를 정말 좋아하고, 우리는 아주 친한 친구이며, 많은 부분에서 의견이 같습니다. Demis Hassabis: 다만 제 견해로는, 적어도 우리 입장에서는 연구의 시대를 떠난 적이 없습니다. 우리는 항상 투자해 왔습니다. 제 생각에 Google과 DeepMind는 함께 가장 깊고 폭넓은 인재 풀(bench)을 늘 가지고 있었습니다. Demis Hassabis: 지난 10년 동안 현대 산업이 의존하는 돌파구의 약 **90%**를 우리가 만들어냈다고 봅니다. 당연히 트랜스포머(Transformers)가 가장 유명하지만, 딥 강화학습(Deep reinforcement learning)도 그렇고요. Demis Hassabis: AlphaGo, 이런 종류의 강화학습(reinforcement learning) 기법들이요. 그런 것들을 우리가 선도(pioneered)했습니다. 그래서 앞으로 새로운 돌파구가 필요해진다면, 과거처럼 미래에도 그 돌파구를 만들어낼 주체는 우리일 거라고 저는 베팅하겠습니다(back us). 진행자: 마지막으로, 동의/반대 질문입니다. Elon은 ‘우리는 특이점(singularity)에 들어섰다’고 말했습니다. Demis Hassabis: 아니요, 그건 너무 성급합니다(very premature). 제게 특이점(singularity)은 ‘완전한 AGI(full AGI)가 도착하는 것’을 다른 말로 부르는 표현입니다. Demis Hassabis: 그리고 아까 왜 우리가 아직 그 근처에도 못 갔다(nowhere near)고 보는지 설명드렸죠. 저는 언젠가 거기에 도달할 거라고 생각합니다. 그리고 5년, 심지어 5년도 그게 무엇인지 생각해보면 길지 않은 시간입니다. Demis Hassabis: 그렇지만 특이점처럼 보일 만한 무언가를 갖기 전까지는 아직 해야 할 일이 많습니다. 진행자: 지금 Google 내부 문화(culture)에 대해 조금 이야기해 주세요. 이 경쟁(race)에서 이기되, 올바르게(do it right) 하기 위해서요. 리더십도 잘 아시잖아요. 진행자: Larry와 Sergey는 지금 얼마나 깊게 관여하고 있나요? 얼마나 자주 대화하시고, 그들의 우선순위(priorities)는 무엇인가요? Demis Hassabis: 네, 두 사람 모두 매우 깊게 관여하고 있습니다. Larry는 더 전략(strategic) 쪽에 가깝고요. 제가 밸리(valley)를 방문할 때나 이사회(board meetings)에서 그를 봅니다. Demis Hassabis: 그리고 그는 다시 말해 더 ‘핸즈온(hands on)’하게, 특히 Gemini 팀의 코딩(coding)과 알고리즘 디테일(algorithmic details)에 관여하고 있습니다. 두 사람이 모두 지금 우리가 있는 지점에 에너지를 쏟고 있다는 건 훌륭한 일입니다. Demis Hassabis: 누가 이 순간에 흥분하지 않겠습니까? 컴퓨터과학(computer science)에서 정말 믿기 힘들 만큼(incredible)한 순간입니다. 그 둘 모두 과학적 관점(scientific point of view)을 가진 사람들이고, 인류 역사(human history) 전체로 봐도 대단히 흥분되는 순간입니다. Demis Hassabis: 그래서 당연히 모두가 직접(hands on) 깊게 관여하고 싶어 하죠. 그건 정말 좋습니다. 그리고 우리 조직(entity) 차원에서는, 저는 여러 세계의 장점을 결합하려고 합니다. Demis Hassabis: 즉, 빠르게 출시하고(shipping things fast) 위험을 감수(taking risks)하는 스타트업 에너지—그 효과는 이미 보이고 있다고 생각합니다—와, 대기업이 가진 막대한 자원(big company resources)의 유용함을 함께 가져가되, 동시에 장기 연구(long term research)와 탐색적 연구(exploratory research)를 위한 공간을 보호하려는 겁니다. Demis Hassabis: ‘3개월 뒤 제품에 들어갈 것’만 연구하는 건 실수라고 봅니다. 그건 실수일 겁니다. 그래서 그런 서로 다른 요소들을 균형(balance) 있게 맞추려 하고 있습니다. Demis Hassabis: 지난 1년은 잘 흘러갔다고 생각하고, 우리는 더 잘할 수 있고, 올해도 더 잘할 거라고 봅니다. 하지만 현재의 궤적(trajectory)에는 매우 만족합니다. 업계 누구보다 개선(improvement)과 진전(progress)의 기울기(steepest)가 가장 가파르다고 생각합니다. 진행자: 당신은 노벨상 수상자(Nobel laureate)이고, AI가 과학 연구를 구동하는 것에 얼마나 집착하시는지도 알고 있습니다. 만약 AI 자체가, 예를 들어, 노벨상급 발견(Nobel worthy discovery)을 한다면, 당신이 상을 받아야 하지 않나요? Demis Hassabis: 음, 저는 아직은 인간이라고 말하겠습니다. ‘완전히 스스로(on its own)’ 했다는 게 무엇을 의미하는지에 따라 달라지긴 하지만요. 지금으로서는 이것들은 여전히 도구(tools)입니다. Demis Hassabis: 저는 이를 아마도 궁극의 과학 도구(ultimate scientific tool)로 보지만, 망원경(telescopes)과 현미경(microscopes)의 더 나은 버전 같은 것으로 봅니다. 우리는 자연 세계(natural world)를 더 잘 탐구하기 위해 항상 도구를 만들어 왔습니다. Demis Hassabis: 인간은 본질적으로 도구를 만드는 동물(toolmaking animals)입니다. 그게 다른 동물과 인간을 구분하는 점이고요. 그게 우리의 슈퍼파워(superpower)이며, 물론 그 안에 컴퓨터(computers)도 포함됩니다. Demis Hassabis: 그리고 AI는 그 궁극적 표현(ultimate expression)이라고 할 수 있습니다. 그래서 어떤 면에서는, 저는 AI를 과학을 하는 궁극의 도구(ultimate tool to do science)라고 늘 생각해 왔습니다. Demis Hassabis: 그리고 가까운 미래(foreseeable future)에는, 최고 과학자들이 창의적 아이디어와 가설(hypotheses)을 내고, AI 같은 놀라운 도구들이 데이터 처리(data processing), 패턴 매칭(pattern matching), 그리고 과학 탐색(exploration of science)을 강화하는 ‘협업(collaboration)’ 형태가 될 거라고 봅니다. 진행자: 당신은 DeepMind를 누구에게든 팔 수도 있었을 겁니다. 그리고 지금은 이런 회사들이 우리에게 큰 신뢰(trust)를 요구하고 있다고 생각합니다. 네. 진행자: 특히 역사가 보여주듯, 규제(regulation)가 기술을 따라잡지 못할 가능성이 큰 상황에서요. 왜죠? 왜 우리가 당신을 믿어야 합니까? 진행자: 그리고 당신이 가장 믿을 만한 곳이라고 생각하는 Google을, 왜 우리가 가장 믿어야 한다고 보시나요? 이건 너무 위험해(risky) 보이는데요. 네. Demis Hassabis: 저는 이런 회사들은 ‘행동(actions)’으로 판단해야 하고, 그 일을 이끄는 리더들의 동기(motivations)도 들여다봐야 한다고 생각합니다. 저와 우리에게는, DeepMind의 ‘집(home)’으로 Google이 적절하다고 선택한 이유가 몇 가지 있는데, 가장 큰 이유는 Google의 창업자(founders)들이 Google을 과학 기업(scientific company)으로 세웠고, 그렇게 설계했기 때문입니다. Demis Hassabis: 많은 사람들이 잊지만, Google 자체가 박사(Ph.D.) 프로젝트였잖아요. Larry와 Sergey의 프로젝트였습니다. 그래서 저는 그들과 즉각적인 친밀감(affinity)을 느꼈습니다. Demis Hassabis: Larry가 인수를 주도했고, 또 그들이 구성한 이사회(board)도 중요했습니다. 의장(chair)인 John Hennessy는 본인도 튜링상(Turing Award) 수상자이고, Francis Arnold도 또 다른 노벨상 수상자(Nobel Prize winner)입니다. Demis Hassabis: 기업 이사회에 이런 인물들이 있는 건 흔치 않습니다. 그래서 전체 환경 자체가 매우 과학적(scientific)입니다. 과학·연구(science and research) 주도, 엔지니어링(engineering) 주도의 문화가 깊이 박혀 있습니다. Demis Hassabis: 최고 수준에서 과학을 한다는 건 매우 엄밀(rigorous)하고, 신중(thoughtful)하며, 가능한 곳엔 어디든 과학적 방법(scientific method)을 적용한다는 뜻입니다. 그건 기술뿐 아니라 조직을 운영하는 방식에도 해당된다고 생각합니다. Demis Hassabis: 그래서 우리는 우리가 세상에 내놓는 기술에 대해 가능한 한 많은 통제력(force)을 가지면서, 신중하고 책임감 있게(thoughtful and responsible) 하려고 노력해 왔다고 느낍니다. 물론 이 기술은 너무 복잡하고, 너무 새롭고(nascent), 너무 변혁적(transformative)이어서, 모든 걸 다 맞출 수 있다는 뜻은 아닙니다. Demis Hassabis: 하지만 무언가 잘못되면 최대한 빠르게 코스 코렉트(coast correct)하길 바랍니다. 그리고 마지막으로, 저는 Google이 세상에서 하려는 일의 성격 자체에 끌렸습니다. Demis Hassabis: ‘세상의 정보를 정리한다(organizing the world's information)’는 건 매우 고귀한(noble) 목표라고 생각하고, 그건 명백히 Google의 미션(mission statement)입니다. 그리고 그건 DeepMind의 미션—지능(intelligence)을 풀고, 그것으로 다른 모든 것을 푼다—와도 매우 잘 맞았습니다. Demis Hassabis: 저는 이 두 미션이 자연스럽게 맞물린다고 생각합니다. AI와 ‘세상의 정보 정리’는 자연스럽게 함께 가는 일이니까요. 그리고 그건 Google이 잘 알려진 제품들—Maps부터 2 to 2, Gmail, 그리고 당연히 Search—과도 맞닿아 있습니다. Demis Hassabis: 저는 그런 제품들이 세상에서 진정으로 유용(genuinely useful)하다고 생각하고, AI는 거기에 쉽게 결합(easy fit)될 수 있다고 봅니다. 그런 제품들과 결합해 어떻게 기능을 강화(enhance)해서, 누구나 일상(everyday lives)에서 더 잘 쓰게 할지가 관건이죠. Demis Hassabis: 저는 그게 세상에 좋은 일(great thing)이라고 생각합니다. 그래서 그 일에 기여(contributing)할 수 있어 기쁩니다. 진행자: 좋습니다. 일자리가 더 이상 필요 없는 포스트 스캐시티(post scarcity) 세계가 온다면, 당신이 기술적 목표를 모두 달성한 뒤에 개인적으로 시간을 무엇에 쓰실 건가요? 네. 연구가 그냥 스스로 자동화되는 거겠죠? Demis Hassabis: 저는 특이점(singularity) 이후에는 그걸 물리학(physics)의 한계(limits)를 탐구하는 데 쓰고 싶습니다. 학교에서 제가 가장 좋아했던 과목도 큰 질문(big questions)들이었습니다. Demis Hassabis: 현실의 직물(fabric of reality)이란 무엇인가? 현실의 본질(nature of reality)은 무엇인가? 의식(consciousness)의 본질은 무엇인가? 페르미 역설(Fermi paradox)의 답, 이런 것들 전부요. Demis Hassabis: 시간(time)이란 무엇인가? 중력(gravity)이란 무엇인가? 저는 더 많은 사람들이 이런 거대한 질문들을 생각하지 않고 일상을 살아간다는 게 놀랍습니다. Demis Hassabis: 제게는 이런 깊은 미스터리(deep mysteries)의 답이 무엇인지가 늘 거의 ‘소리치듯(screaming)’ 다가오거든요. 저는 AI를 써서 그 모든 것들을 탐구(explore)하고 싶고, 아마도 별들로의 여행(traveling to the stars)도 해보고 싶습니다. Demis Hassabis: AI가 열어줄 새로운 에너지원(new energy sources), 소재(materials), 그리고 다른 것들의 도움을 받아서요. 진행자: 일(work)이 없다면, 우리 모두가 의미(meaning)와 목적(purpose)을 가질 수 있을까요? Demis Hassabis: 솔직히 말하면, 저는 그게 경제(economics)보다 더 걱정되는 부분입니다. 경제 문제는, 이런 추가적 혜택(extra benefits)과 생산성(productivity)을 얻게 됐을 때 그게 모두에게 이익이 되도록(shared for the benefit of everyone) 나눌 수 있느냐는 거의 정치적 질문(political question)이라고 생각합니다. Demis Hassabis: 그리고 그게 제가 믿는 방향입니다. 하지만 더 큰 질문은, 많은 사람들이 과학적 노력(scientific endeavors)을 포함해 일(job)에서 얻는 목적과 의미(purpose and meaning)를 어떻게 할 것이냐는 겁니다. Demis Hassabis: 새로운 세계에서 우리는 그걸 어떻게 찾을까요? 제 생각에, 그 문제를 돕기 위해 새로운 위대한 철학자(new great philosophers)들이 필요할 겁니다. Demis Hassabis: 그걸 충분히 숙고(thinking that through)하면, 우리는 예술(art)과 탐구(exploration), 그리고 익스트림 스포츠(extreme sports)처럼 ‘경제적 이득만을 위한 게 아닌’ 오늘날의 활동들을 훨씬 더 정교하게(sophisticated) 발전시킬지도 모릅니다. Demis Hassabis: 그리고 미래에는 그런 것들의 매우 난해하고 특이한(esoteric) 버전이 생길지도 모르죠. 진행자: 좋습니다. 이 방에 있는 모두가 ‘나는 뭘 해야 하나’를 궁금해하고 있습니다. 예를 들어 ‘10년 뒤 다보스(Davos)에서 이렇게 앉아 있을 때 나는 뭘 하고 있어야 하나’ 같은 질문이요. 진행자: 이 방의 사람들이 AI에 대해 범하게 될 가장 큰 실수는 무엇이라고 보시나요? Demis Hassabis: 제가 말씀드릴 건 두 가지가 있습니다. 첫째는 젊은 세대, 그리고 우리 아이들 같은 사람들에게 해당하는데, 우리가 확실히 아는 유일한 것은 ‘엄청난 변화(huge amount of change)’가 올 거라는 사실입니다. Demis Hassabis: 그래서 스킬을 배우는 관점에서는, 준비해야 합니다. ‘배우는 법을 배우는 것(learning to learn)’이 가장 중요하니까요. 새 상황에 얼마나 빨리 적응(adapt)하고, 우리가 가진 도구(tools)를 활용해 새로운 정보를 얼마나 빨리 흡수(absorb)할 수 있느냐가 핵심입니다. Demis Hassabis: 그리고 이 자리에 있는 CEO들과 비즈니스 리더들에게는요? 지금 가장 중요한 일은, 선도 모델(leading models)과 선도 서비스 제공자(leading service providers)가 이미 여러 곳이고 앞으로 더 늘어날 텐데, 그중에서 이 기술을 올바른 방식으로 접근(approaching it in the right way)한다고 느끼는 파트너(partners)를 고르는 것입니다. Demis Hassabis: 즉 변화를 만들어가고, 당신이 세상에서 보길 원하는 방식으로 이 기술에 접근하는 곳과 파트너십(partner)하라는 뜻입니다. 그러면 앞으로 다가올 AI(A.I. coming down the line)와 함께, 우리가 바라는 미래를 함께 만들어갈 수 있다고 생각합니다.