🎧 Hassabis on an AI Shift Bigger Than Industrial Age

👤 Demis Hassabis · EN 5,077w · KR 3,680w

사용법 (30초)
1️⃣ 영문 or 한국어 복사 버튼 터치
2️⃣ 🔗 링크 복사 → Chrome에 붙여넣기 → 열기
3️⃣ + 새 노트북 → 소스 추가 → 붙여넣기
4️⃣ 🎧 Audio Overview → Generate
5️⃣ 차에서 재생 🚗

원문 미리보기 5,077w

So good to see you. Good to see you, too. It was in San Francisco. Yes, I know. You are all over the place. I'm curious if this year feels different than the last time you were in Davos. Gemini three is out. We've heard that opening. I called it a code red internally. Do you feel like Google got its mojo back? Well, I'm not sure if that's for me to say, but I feel like we had a very good year. So it's been hard work, really hard work getting our technology and the models sort of to back to state of the art. I think we did that with Gemini three especially and nanobots on our imaging software. And then I think we've also sort of adapted really to this new world of shipping very fast. Kind of bringing a kind of startup energy to what we do. Do you think people underestimated Google or got something wrong? Yes, maybe. I'm not sure. I mean, I think we always had the ingredients, you know, to to to be at the forefront of this. Obviously, we've got the long history in it. I think, you know, over the last decade, Google and DeepMind, between us, we've invented most of the breakthroughs that the modern A.I. industry relies on. Now see Transformers, most famously by AlphaGo Deep reinforcement learning these things. And we have these incredible product surfaces billions user services. The natural fit for A.I. actually from search to email to to to chrome and but it's just getting all of that together and organized in the right way. And I think we've done that in the last couple of years, and there's still a lot more work to do, but I think we're starting to see the fruits of that. If you think you have an advantage, how big do you think your advantage is? How long does it last? Well, I think everything starts with research, in my opinion. And, you know, the models, especially being at the state of the art on all the different benchmarks. And that's what we focused on first when we put Google and DeepMind together. And I think with the Gemini series, you're very happy with how that's going. There's a lot more work to do there. But I think we're the only organization that has the full stack from the TTPs and the and the hardware, the data centers, the cloud business, the Frontier lab, and all of these amazing products that can, you know, kind of natural fits for A.I.. So really, structurally from first principles, we should be doing very well. And I think there's actually a lot more headroom to come from here. I wonder what a day in the life of a frontier model leading ACO is like. Like I've read that you do most of your thinking between one and four. AM Yes, that's right. Is it ever not a code red inside? Like, do you ever feel comfortable? No. You never feel comfortable. I mean, we try, you know, code red zone for very special circumstances. But it's always I mean, for the last I would say three, four years, it's been unbelievably intense. And, you know, 100 hour weeks, 50, you know, 50 weeks a year. And that's the norm. And I think that's what you have to do at the forefront of this unbelievably fast moving technology. It's ferociously competitive out there. Maybe the most intense competition has ever been in technology. And the stakes are incredibly high. AGI and, you know, all of that, that that can mean so commercially, scientifically. And then if you add all the excitement of what we're doing and, you know, using it as my passion, as you know, is exploring scientific, you know, problems with AI, accelerating scientific discovery itself. This is what I've always dreamed about and I've worked my whole life on A.I. towards this moment. So it's sort of hard to sleep because there's so much work to do. But also, it's it's it's there's so much exciting things to to look into and to to push forward. I mean, I know you're very focused on driving scientific progress, just discovering new materials. Even we've seen now Gemini being integrated into humanoid robots. Is the alpha fold moment for the physical world and I here. What is that and what does that look like? Yeah, I spent a lot of the last year actually looking very carefully into robotics. I do think we're on the cusp of a kind of breakthrough moment in physical intelligence. I still think we're about 18 months, two years away from doing. We need to do more research. But I think the foundation models like Gemini show the way forward. I mean, from the beginning we made Gemini multimodal so you could understand the physical world for multiple reasons. One was so we could build a universal assistant. Maybe that exists on your glasses or your phone that understands the world around you. But of course, a second use of that would be for robotics. So what is this, that moment for the physical world look like? I think it's it's having robots, you know, reliably do useful tasks out in the world. And I think there's a few things holding that back. Still. Part of it is the algorithms are still not quite there. They need a little bit more robustness. They have to work with less data than you get for the labs or the models that work on just digital. Well, you can sort of create synthetic data a lot harder to make that kind of data. And there's still sort of some problems in the hardware that are not solved specifically things like the arm and the hand. Actually, when you look into robotics very carefully, you get a newfound appreciation, at least I did, for the human hand, and how exquisite evolution is design that it's incredible and it's very hard to match the reliability, the strength and the dexterity that the human hand has. So there's still quite a lot, I, in my opinion, pieces that put together. But there's very exciting things. I mean, we just announced a new deep collaboration with the Boston Dynamics. They've got some very exciting robots and end die and actually applying it to automotive manufacturing. And we'll see over the next year how that goes in sort of prototype form. And then maybe in a year or two we'll have some really impressive demonstrations that we can scale up. A year ago, deep sea seemed cataclysmic for the West. Now, a year later, it's it's quiet. China seems to have been quieter. Yes. Has your opinion on competition from China changed? Not really. I mean, I didn't think it was cataclysmic in the first place. I think it was a massive overreaction in the West. It was impressive. And I think it shows that the Chinese are very capable that the leading companies I think companies like Bytedance actually, I would say are the most capable and they're maybe only six months behind, not one or two years behind the frontier. So I think that's what they showed. Some of the claims were overexaggerated about, you know, the amount of compute they used and being so minimal and so on, because they relied on some Western models and also fine tuning on the outputs of some of the leading Western models. So it wasn't sort of denied. MALVEAUX And the other thing I think so far is not yet to be seen is can China actually the Chinese companies innovate beyond the frontier themselves so that that, you know, they're gaining, that they're very good at kind of catching up to where the frontier is and increasingly capable of that. But I think they've yet to show they can innovate beyond the frontier. You helped define AGI. You have said we have a 50% chance of getting there by 2030. Is that still your timeline? It is. And is AGI still a useful target for you? I think so. I think it's a very good list in my timeline, and it's a little bit longer than some others that your observation is that you're here. But my bar is quite high. It's it's the it's the ability to, you know, a system that exhibits all the cognitive capabilities humans have. And I think we're still clearly quite far from that. That means, you know, things in like scientific creativity, not just solving a conjecture or solving a problem in science, but actually coming up with the hypothesis or the problem in the first place. And as any scientist knows, finding the right question is actually often way harder than finding the answer. So I don't you know, it's not clear that that these systems have that capability that they definitely don't right now. I think they will eventually, but it's not clear what's needed still. And as things like continue learning, you know, online learning, going beyond what they've been sort of trained for, and then they're static out in the world, they need to learn on the fly. So there's quite a few, in my view, missing capabilities that are quite critical to what I would regard as an AGI system. Google's a major investor, and Anthropic Del Rio was here earlier today. Do you agree or disagree with his prediction that I will wipe away 50% of entry level white collar jobs in five years? I think it's that's also my time and my view on that would be a lot longer. I mean, I think we're starting to see maybe the beginnings of that this year in terms of maybe entry level jobs or internships, those types of things. But I think there's we would have to solve a lot more of this consistency that doesn't have Right. And I call it jacket intelligence, as we're very good at certain things and it's very poor. The current systems are other things. And if you want to offload or delegate an entire task to say an agent, rather than having what we have today, which are more like assistive programs, you're going to need a lot more consistency across the board. It's no good for it to be good at 95% of that task. You need it to be good at the whole task for you to be able to actually just sort of fire and forget on it. So I think this there's there's still quite a lot more to be done before we'll see that kind of disruption. But that kind of disruption will happen. I think eventually, sure. I mean, in the limit with AGI, you know, if you have systems like that, I think that changes the whole economy. But way beyond the question of jobs, I think potentially if we build it right, we we're in a post scarcity world where we solve some of the kind of fundamental nodes of the world like energy sources, new clean, renewable, basically free energy sources. If we solve fusion, something like that, with the help of A.I. new materials, I think we'll be, you know, five, ten years past. AGI will be in a in a radical abandoned world. And so what does that mean with, you know, to the economy and and how how society works? Actually, before we get to a post scarcity world, though, if we get there, there is so much anxiety about what happens in between. You know, I'm a mom. I know you have kids. Like what scares you most for them? What do you talk to them about? What do you tell them that's coming? I mean, I've just heard so many. Oh, my gosh. For college graduates are going to have such a hard time. Well, I don't know about that. Look, I think it's it's it's going to be an age of disruption, just like the Industrial revolution was maybe ten acts of that, which is kind of unbelievable to think about ten times faster than I usually describe it. It's going to be ten times bigger and ten times faster. The Industrial Revolution, two years, 100 now get. So 100 X of it. No, I say this to everyone, but I think that comes with it. Huge opportunities. And I also am just a big believer in human ingenuity. We're extremely adaptable because our minds are so general. You know, the human mind is very general. We've adapt to look at the modern world around us. We, you know, our hunter gatherer minds have managed to build modern civilization. So I think we'll adapt again. I think it's a little bit unprecedented because of the speed of it. Usually it takes one generation or two generations for a transformation like this to happen and the magnitude of the transformative power of this technology. But I think the kids today, you know, I'd be encouraging them to get incredibly proficient with these new tools and native with them, and they're almost equivalent of giving them superpowers, you know, in the creative arts that you could probably do the job of, you know, what would have taken ten people in one. And I think that means, you know, if you entrepreneurial, if you're creative with game design films, projects, you can probably get a lot more done and break into. Those industries a lot more easily than you could in the past, as you know. A new upcoming talent. Some folks have advocated for a pause to give regulation time to catch up, to give society time to sort of adjust to some of these changes. In a perfect world, you knew that every other company would pause. If every country would pause. Would you advocate for that? I think so. I mean, I've been on record saying what I'd like to see happen. It was always my dream of the kind of the road map at least I had when I started out the mind 15 years ago and start working in, you know, 25 years ago now, was that as we got close to this moment, this threshold moment of AGI arriving, we would maybe collaborate, you know, in a scientific way. I sometimes talk about setting up an international CERN equivalent for AI where all the best minds in the world would collaborate together and do the final steps in a very rigorous scientific way involving all of society, maybe philosophers and social scientists and economists, as well as technologists to kind of figure out what we want from this technology and how to utilize it in a in a in a way that benefits all of humanity. And I think that's what's at stake. Unfortunately, it kind of needs international collaboration, though, because even if one company or even one nation or even the West decided to do that, it's the has no use unless the whole world agrees, at least on some kind of minimum standards. And, you know, international cooperation is a little bit tricky at the moment. So that's going to have to change if we want to, to to have that kind of rigorous scientific approach to the final steps to AGI. So if AGI comes in, let's say 2030, we don't have the regulations set up yet. Are we destined for something difficult? Well, then where you know, I doesn't I think I'm still optimistic that enough of the leading players will kind of communicate together and hopefully collaborate at least on things like safety and security protocols. There's a lot of that already. We work quite closely with Anthropic, for example, on those things, and that would be needed then, you know, maybe kind of more peer based cooperation if we can't get that international thing to work. But I would, you know, that would be a lot more like Sam to cooperate with you. I potentially I'm you know, I think I'm on pretty good terms with pretty much all the other leaders of all the leading labs. I mean, I think if the stakes are high enough and I think a lot of it is understanding what's at stake and what the risks are. And I think that will become clearer to everyone in the next two or three years. So let's talk about the technology and the next curve. Yang Coombs has said he doesn't think Transformers and lamps alone will get us to AGI. Do you agree or disagree? And and, you know, if they're dead ends and what are we doing? Yes. No, I disagree that they're dead ends. But obviously, I think that's clearly wrong. I mean, they're so amazingly useful already. But I think the way I say is an empirical question. I think it's a scientific question whether they're going to be enough on their own. I think it's a 5050 that, you know, just scaling up existing methods with some tweaks will be enough. It might be. And you have to do that. And I think that's useful work because at a minimum, the way I look at it is these lambs will be a component, a massively important component of the final system. The only question in my mind is, is it is it the only component? Right. And I could imagine there are one or two breakthroughs, maybe a small handful, you know, less than five that still need it from here, right? Yes. And so, you know, and those might be things like world models. That's something I've talked about we're working on. In fact, we have the best world model currently, which is GENI, our GENI system. And I work on that directly and I think it's very important. But also things like continue learning and having consistent systems that are, you know, don't have these jagged edges that they're good at and not good at. That's a general system. Shouldn't have that. So I think, you know, better reasoning, more long term planning, there's quite a few capabilities that are still missing. And it's an open question whether a new architecture or new breakthrough is needed or more of the same. And we're just, from my point of view, from Google, Deepmind's point of view, we're pushing as hard as possible. And both those things, both inventing new things and scaling up existing things, so slightly different but related. Elias Escovedo said the era of scaling and making bigger models make improvements is is nearly over. Is that something you agree? I don't agree. I think that his exact quote was this We're back to the age of research. But but and you know, I love Ellie and we're very good friends and we agree on a lot of things. But my view is we never left the age of research, at least from the point of view of the point. We've always invested. We've in my view, we've always had the the deepest and broadest bench, actually Google and DeepMind together we have. The last decade, we've invented about 90% of the breakthroughs that, you know, the modern industry relies on. Of course, Transformers, most famously, but also, you know, deep reinforcement learning. AlphaGo these kinds of reinforcement learning techniques. We pioneered all of that. So if some new breakthroughs are required in the future, I would back us to be the ones just like in the past, to be the ones to make those breakthroughs, you know, in the future. Last, agree or disagree, Elon says we have entered the singularity. No, I think that's very premature. You know, I think the singularity is another word for, you know, a full AGI arriving. And I think I explained earlier why I think that we're still, you know, nowhere near that. I think we will get there. And, you know, five years, even five years is not a long amount of time if you think about what that is. But I think there's still a lot of work to be done before we have anything that looks like the singularity. So talk to us a little bit about the culture inside Google right now to, you know, win this race, but do it right. You know the leadership. How involved are Larry and Sergey right now? How often do you talk to them and what are their priorities? Yeah, they're very involved in. And, you know, Larry, more on the strategic side. You know, I see him at board meetings and other times when I visit the valley. So, again, it's more hands on on the you know, he's involved in the coding of, you know, on the Gemini team specifically more in the in the in the algorithmic details. And it's great having them both energized around where we are and who wouldn't be, you know, this moment Absolutely incredible moment for computer science. So just from a scientific point of view, which both of them are, it's an incredibly exciting moment in history, human history, really. And so, of course, everyone wants to be hands on and heavily involved in that. So that's great. And and for us, just as as a as an entity, you know, I'm trying to combine the best of many worlds. So, you know, startup energy of shipping things fast and taking risks and doing things like that, which I think you're seeing the benefits of, you know, the big company resources is amazing, useful, but also protecting the space for long term research still, and exploratory research, not just researching what will deliver in, you know, three months in a product. I think that would be a mistake, too. So I'm trying to balance all of those different factors together. And, you know, I think in the last year things have been going well and I think we can still do better and I think we still will do better this year. But I'm very happy with our trajectory. I think it's the steepest of actually of improvement and progress of anyone in the industry. You are a Nobel laureate and I know how obsessed you are with AI powering scientific research. If I itself, let's say, makes a Nobel worthy discovery, you should get the prize. Yeah, I are the human, I think still human, I would say, because I feel like I mean, it depends what you mean by completely on its own right. So for now, these are still tools. And I view them as, you know, like very maybe the ultimate scientific tool, but sort of better versions of telescopes and microscopes. We've always built tools so that we can investigate the natural world better. We're toolmaking animals, basically. That's what distinguishes humans from from the other animals. And that's how superpower and I include computers in that, of course. And A.I. being the ultimate expression of that. So in some ways, I think of A.I., and I've always thought of it as the ultimate tool to do science. And and I think for the foreseeable future, that's going to be a collaboration with top scientists, putting in the creative ideas and maybe the hypotheses with these amazing tools that enhance, you know, data processing and pattern matching and the exploration of science. You you obviously could have sold DeepMind to anyone. And I think all of these companies are asking a lot of us to trust. Yes. Especially if regulation doesn't keep up with technology, which history shows it probably won't. Why? Why should we trust you? And why do you think Google, which I would implicitly think you believe is is the the place that we should believe in the most? Well, comes to something that feels so risky. Yes. I think you need to judge these companies by their actions and also look into, you know, the motivations, I would say, of the leaders involved in those you know, those endeavors. And for me and for us. And that's one reason I picked Google as the right home for DeepMind is several reasons, the main one being that the founders of Google and the way Google was set up by them was as a scientific company. You know, many people forget Google itself was a Ph.D. project, right? It was Larry and Sergey project. So I felt an immediate affinity with with them. And Larry led the acquisition, but also the board who they collected in the board. You know, you have John Hennessy's, the chair, who's a Turing Award winner himself, and Francis Arnold, another Nobel Prize winner. You know, these are unusual people to have on a corporate board. So the whole environment is very scientific and science. Science and research led and engineering led as a culture and is deeply ingrained in the culture. And that means doing science at the highest level means being really rigorous, being thoughtful, and applying the scientific method everywhere you can. I think that's not just to the technology, but it's also to the way you operate as an organization. So I feel like, you know, we we're very we tried to be very thoughtful and responsible and have as much force as possible over the technologies we put out in the world. Doesn't mean we'll get everything right because it's so complex and so new and nascent and so transformative, this technology. But we hope to coast correct as quickly as possible if there, you know, something does go wrong. And then the final thing I would say is just the I was just attracted by the the types of things Google tries to do in the world. You know, organizing the world's information, I think is a very noble goal, which is obviously Google's mission statement. And I think it fitted very well with that, with Deepmind's mission statement of solving intelligence and using it to to solve everything else. And and that was our and I think those two mission statements are natural fit AI and organizing the world's information naturally go together. And I think those are the types of products, the types of products that Google is well known for, for maps to 2 to 2 Gmail to obviously search. I think they're genuinely useful products in the world, and I think AI is an easy fit. How that would work with those products to enhance them for everybody to use in their everyday lives. And I think that's a great thing for the world. So, you know, I'm happy to be contributing to that. Okay, so post scarcity world where there people no longer have jobs, what do you personally plan to do with your time once you've achieved all your technical goals? Yes. Research is just automating itself, right? Well, I would love to use it for what I will do. Post the Singularity is to use it for exploring the limits of physics. I think that was my my favorite subject at school was the big questions. You know, what is the fabric of reality? What's the nature of reality? What about the nature of consciousness? The answer to the Fermi paradox, all of these things. What is time? What is gravity? I'm amazed more people, you know, we just go around our daily lives, not really thinking about these massive questions that for me are always kind of almost screaming at me for like, what is the answer to these things, these deep mysteries? And I would like to use AI and to explore all of those things, maybe traveling to the stars as well, with the help of, you know, and new energy sources and materials and other things that's unlocked by will we all have meaning and purpose if we don't have work? Well, I think that's the to be honest with you, that's the thing I worry more about than the economics. I think the economics is almost a political question of like when we get all of these extra benefits and productivity, can we make sure that it's shared for the benefit of everyone? And I think obviously that's what I believe in. But then the bigger question, and that is what about purpose and meaning that a lot of us get from our jobs in scientific endeavors? How will we find that in the new world? And I think, you know, we will need some new great philosophers, in my opinion, to to help with that and thinking that through maybe will, you know, be get much more sophisticated with our art and and exploration that we do and things like, you know, extreme sports as many things we do today that aren't just for economic gain. And perhaps we'll have very esoteric versions of those things in the future. All right. So everyone in the room is wondering what they should be doing. Like, what should I do about what do I do sitting here in Davos in ten years? What is the biggest mistake, do you think people in this room will have made about AI? Well, look, I think there's two things I would say. One is for the younger generation and our kids and so on is the only thing we're certain of is there's going to be a huge amount of change. So I think in terms of learning skills, get ready to because kind of learning to learn is the most important thing. How can quickly can you adapt to new situations, absorb new information using the tools that we have for the CEOs and and business folks in the room? I think the most important thing to do now is there are many providers of leading models and leading service providers, and they'll be more for these A.I. models, you know, pick the partners that you feel are approaching it in the right way. And so, you know, kind of partner with those that are making the changes and approaching this technology in the way that you would like to see in the world. And I think together we can kind of build that future with, you know, A.I. coming down the line that we will want.

진행자: 정말 반갑습니다.
Demis Hassabis: 저도 반갑습니다.
진행자: 샌프란시스코에서였죠.
Demis Hassabis: 네, 알고 있습니다.
진행자: 정말 여기저기 다니시네요.

진행자: 이번 다보스(Davos)가 지난번에 오셨을 때와는 좀 다르게 느껴지시는지 궁금합니다. Gemini 3가 나왔고, 오프닝에서도 그 이야기가 나왔죠. 저는 내부적으로 code red라고 불렀는데요. Google이 다시 추진력(mojo)을 되찾았다고 느끼시나요?

Demis Hassabis: 제가 그걸 말할 입장인지는 모르겠지만, 아주 좋은 한 해였다고 느낍니다. 우리 기술과 모델을 다시 최첨단(state of the art) 수준으로 끌어올리기까지 정말 힘든 작업이었고, 말 그대로 엄청난 노력이 들어갔습니다. 특히 Gemini 3와, 우리 이미징 소프트웨어에 적용한 nanobots 덕분에 그걸 해냈다고 봅니다.

Demis Hassabis: 그리고 제품을 아주 빠르게 출시(shipping)해야 하는 이 새로운 환경에도 정말 잘 적응했다고 생각합니다. 우리가 하는 일에 일종의 스타트업 에너지(startup energy)를 불어넣은 셈이죠.

진행자: 사람들이 Google을 과소평가했거나, 뭔가를 잘못 보고 있었다고 생각하시나요?

Demis Hassabis: 네, 어쩌면요. 확신은 없습니다. 다만, 우리는 원래부터 이 분야 최전선에 설 수 있는 ‘재료(ingredients)’는 늘 갖고 있었다고 생각합니다.

Demis Hassabis: 당연히 긴 역사도 있고요. 지난 10년 동안 Google과 DeepMind가 함께 현대 AI 산업이 의존하는 대부분의 돌파구(breakthrough)를 만들어 냈다고 봅니다. 트랜스포머(Transformers), 가장 유명한 사례로는 AlphaGo, 그리고 딥 강화학습(Deep reinforcement learning) 같은 것들이요.

Demis Hassabis: 또 우리는 수십억 사용자가 쓰는 서비스라는 엄청난 제품 접점(product surfaces)을 갖고 있습니다. 검색(search)부터 이메일(email), 그리고 Chrome까지, AI는 원래부터 자연스럽게 결합될 수 있는 영역이었는데, 결국 그 모든 것을 한데 모아 올바른 방식으로 정리·조직하는 게 관건이었습니다.

Demis Hassabis: 지난 2년 정도 동안 그걸 해냈다고 생각하고, 아직 할 일이 많지만, 그 성과의 열매를 보기 시작했다고 봅니다.

진행자: 만약 우리가 우위(advantage)를 갖고 있다고 보신다면, 그 우위가 얼마나 크다고 생각하시나요? 그리고 그 우위는 얼마나 오래 지속될까요?

Demis Hassabis: 제 생각에 모든 것은 연구(research)에서 시작합니다. 특히 다양한 벤치마크에서 모델이 **최첨단(state of the art)**에 있어야 하죠. Google과 DeepMind를 합쳤을 때 가장 먼저 거기에 집중했습니다.

Demis Hassabis: Gemini 시리즈와 관련해선, 진행 상황에 매우 만족하고 있습니다. 물론 아직 더 많은 일이 남아 있습니다. 하지만 우리가 유일하게 TTPs부터 하드웨어, 데이터센터, 클라우드 비즈니스, Frontier lab, 그리고 AI와 자연스럽게 맞물리는 놀라운 제품들까지 ‘풀스택(full stack)’을 모두 갖춘 조직이라고 생각합니다.

Demis Hassabis: 그래서 구조적으로, ‘첫 원리(first principles)’ 관점에서 우리는 매우 잘할 수밖에 없는 위치에 있습니다. 그리고 앞으로 더 성장할 여지(headroom)도 훨씬 많이 남아 있다고 봅니다.

진행자: 프런티어 모델을 이끄는 ACO의 하루는 어떤 모습인지 궁금합니다. 새벽 1시에서 4시 사이에 가장 많은 생각을 하신다는 얘기를 읽은 적이 있는데요.

Demis Hassabis: 네, 맞습니다.

진행자: 내부가 code red가 아닌 때가 있긴 한가요? 편안하다고 느끼는 순간이 있나요?

Demis Hassabis: 아니요. 절대 편안할 수가 없습니다. 물론 ‘code red’는 아주 특별한 상황에만 쓰려고 노력하긴 합니다. 하지만 지난 3~4년은 정말 믿기 힘들 정도로 강도가 높았습니다.

Demis Hassabis: 주당 100시간씩, 1년에 50주를 그렇게 일하는 식이었죠. 그게 정상(norm)이었습니다. 이렇게 믿기 어려울 만큼 빠르게 움직이는 기술의 최전선에 서려면, 그 정도는 해야 한다고 생각합니다.

Demis Hassabis: 밖은 정말 잔혹할 정도로 경쟁이 치열합니다. 기술 분야 역사상 가장 치열한 경쟁일지도 모릅니다. 판돈(stakes)도 엄청나게 큽니다.

Demis Hassabis: AGI와, 그것이 상업적으로·과학적으로 의미할 수 있는 모든 것이 걸려 있으니까요. 게다가 우리가 하는 일 자체가 주는 흥분, 그리고 제 열정이기도 한 ‘AI로 과학 문제를 탐구하고 과학적 발견 자체를 가속하는 일’까지 더해지면요.

Demis Hassabis: 이건 제가 늘 꿈꿔왔던 것이고, 이 순간을 위해 평생 AI를 해왔다고 해도 과언이 아닙니다. 그래서 해야 할 일이 너무 많아서 잠을 자기 어려울 정도입니다. 동시에, 들여다보고 밀어붙일 흥미로운 것들이 너무 많기도 하고요.

진행자: 과학 발전을 끌어내고, 새로운 소재(new materials)를 발견하는 데 특히 집중하고 계시다는 건 저도 알고 있습니다. 최근에는 Gemini가 휴머노이드 로봇(humanoid robots)에 통합되는 것도 봤고요. 물리 세계에서의 ‘AlphaFold 모먼트’가 지금 오고 있는 건가요? 그게 무엇이고, 어떤 모습일까요?

Demis Hassabis: 네, 저는 지난 1년의 많은 시간을 로보틱스(robotics)를 아주 면밀히 들여다보는 데 썼습니다. 물리 지능(physical intelligence)에서 일종의 돌파구 모먼트(breakthrough moment) 직전이라고 생각합니다. 다만 아직은 18개월에서 2년 정도는 남아 있다고 봅니다.

Demis Hassabis: 더 많은 연구가 필요합니다. 그렇지만 Gemini 같은 파운데이션 모델(foundation models)이 앞으로의 길을 보여준다고 생각합니다. 처음부터 Gemini를 멀티모달(multimodal)로 만든 이유가 여러 가지였는데, 물리 세계를 이해할 수 있게 하려는 목적이었습니다.

Demis Hassabis: 그중 하나는 범용 어시스턴트(universal assistant)를 만들기 위해서였죠. 안경이나 휴대폰 같은 데 탑재되어, 주변 세계를 이해하는 형태일 수도 있고요. 물론 두 번째 용도는 로보틱스였습니다.

Demis Hassabis: 그렇다면 물리 세계에서의 그 모먼트는 어떤 모습일까요? 저는 로봇이 현실 세계에서 유용한 일을 ‘신뢰할 수 있게(reliably)’ 수행하는 것이 그 모습이라고 봅니다. 그리고 그걸 가로막는 요소가 몇 가지 있습니다. 아직은요.

Demis Hassabis: 우선 알고리즘이 아직 충분히 성숙하지 않았습니다. 좀 더 견고함(robustness)이 필요합니다. 실험실(labs)이나 디지털 환경에서만 작동하는 모델이 쓰는 데이터보다 훨씬 적은 데이터로도 작동해야 하거든요.

Demis Hassabis: 물론 합성 데이터(synthetic data)를 만들 수도 있지만, 그런 종류의 데이터를 만드는 건 훨씬 어렵습니다. 그리고 하드웨어 쪽에서도 아직 풀리지 않은 문제가 있는데, 특히 팔(arm)과 손(hand) 같은 부분입니다.

Demis Hassabis: 실제로 로보틱스를 자세히 들여다보면(저도 그랬는데), 인간의 손에 대한 새로운 경외감이 생깁니다. 진화(evolution)의 설계가 얼마나 정교한지 놀라울 정도이고, 인간 손이 가진 신뢰성(reliability), 힘(strength), 그리고 기민함·정교함(dexterity)을 동일하게 구현하기가 정말 어렵습니다.

Demis Hassabis: 그래서 아직은 여러 조각을 더 맞춰야 한다고, 제 생각에는, 봅니다. 그럼에도 매우 흥미로운 일들이 있습니다. 예를 들어, 우리는 Boston Dynamics와의 새로운 심층 협업(deep collaboration)을 막 발표했습니다.

Demis Hassabis: 그들은 아주 흥미로운 로봇을 갖고 있고, end die, 그리고 실제로 자동차 제조(automotive manufacturing)에 적용하는 작업을 하고 있습니다. 앞으로 1년 동안 프로토타입(prototype) 형태로 그게 어떻게 진행되는지 보게 될 겁니다.

Demis Hassabis: 그리고 1~2년 뒤에는 스케일업(scale up) 가능한, 정말 인상적인 데모(demonstrations)를 보여줄 수 있을지도 모릅니다.

진행자: 1년 전에는 deep sea가 서구(West)에 재앙적(cataclysmic)인 사건처럼 보였습니다. 하지만 1년이 지난 지금은 조용합니다. 중국(China)도 더 조용해 보이고요. 네. 중국발 경쟁에 대한 생각이 달라지셨나요?

Demis Hassabis: 크게는 아닙니다. 사실 처음부터 그걸 재앙적이라고 보지 않았습니다. 서구에서의 반응은 과도한(overreaction) 측면이 컸다고 봅니다. 그럼에도 인상적이긴 했습니다.

Demis Hassabis: 그리고 그건 중국 기업들이 매우 유능하다는 걸 보여줬습니다. 특히 선도 기업들, 예컨대 Bytedance 같은 회사들이 가장 역량이 크다고 생각하고, 그들은 프런티어(frontier) 대비 1~2년이 아니라 아마도 6개월 정도만 뒤처져 있을 뿐이라고 봅니다.

Demis Hassabis: 제가 보기엔 그게 그들이 보여준 점입니다. 다만 사용한 컴퓨트(compute) 양이 매우 적었다는 식의 일부 주장은 과장(overexaggerated)된 면이 있었습니다. 일부 서구(Western) 모델에 의존했고, 또 서구 선도 모델들의 출력(outputs)을 활용해 파인튜닝(fine tuning)했기 때문입니다.

Demis Hassabis: 그래서 완전히 독립적으로 된 건 아니었다고도 할 수 있습니다. MALVEAUX 그리고 또 하나, 지금까지는 아직 확인되지 않은 부분이 있는데, 중국(China), 즉 중국 기업들이 프런티어 자체를 ‘넘어서는’ 혁신(innovate beyond the frontier)을 할 수 있느냐는 겁니다.

Demis Hassabis: 그들은 프런티어가 있는 곳까지 따라잡는 데는 매우 뛰어나고, 그 역량도 점점 커지고 있죠. 하지만 프런티어를 넘어서는 혁신을 보여줬다고 보긴 아직 이릅니다.

진행자: AGI의 정의를 만드는 데도 관여하셨죠. 2030년까지 도달할 확률이 **50%**라고 말씀하신 적도 있습니다. 그 타임라인은 여전히 유효한가요?

Demis Hassabis: 네, 그렇습니다.

진행자: 그리고 AGI는 여전히 유용한 목표(target)인가요?

Demis Hassabis: 그렇다고 생각합니다. 제 타임라인에서 꽤 좋은 기준이라고 생각하고, 여기 계신 다른 분들의 관점보다 약간 더 긴 편일 수는 있겠죠. 하지만 제 기준(bar)은 꽤 높습니다.

Demis Hassabis: 즉 인간이 가진 모든 인지 능력(cognitive capabilities)을 보여주는 시스템이어야 합니다. 그리고 우리는 아직 그 단계에서 분명히 꽤 멀리 떨어져 있다고 봅니다.

Demis Hassabis: 여기에는 과학적 창의성(scientific creativity) 같은 것들이 포함됩니다. 단지 추측(conjecture)을 풀거나 과학 문제를 푸는 게 아니라, 애초에 가설(hypothesis)이나 ‘문제 자체’를 떠올리는 능력이죠.

Demis Hassabis: 어떤 과학자든 알겠지만, 올바른 질문을 찾는 게 답을 찾는 것보다 훨씬 더 어려운 경우가 많습니다. 그래서 이런 시스템이 그런 능력을 갖고 있는지 아직 확실치 않고, 적어도 지금은 분명히 갖고 있지 않습니다.

Demis Hassabis: 언젠가는 갖게 될 거라고 보지만, 무엇이 더 필요한지는 아직 명확하지 않습니다. 또 지속 학습(continue learning), 온라인 학습(online learning)처럼, 학습된 범위를 넘어 실제 세계에서 정지된(static) 상태로 있는 게 아니라 그때그때 즉석에서(on the fly) 학습할 수 있어야 합니다.

Demis Hassabis: 제 관점에서, 제가 AGI 시스템이라고 부를 만한 것에 필수적인 ‘빠진 능력’이 꽤 많이 있습니다.

진행자: Google은 주요 투자자이고, Anthropic의 Del Rio도 오늘 앞서 이 자리에 있었습니다. 그가 ‘5년 안에 엔트리 레벨(entry level) 화이트칼라(white collar) 일자리의 **50%**가 사라질 것’이라고 예측했는데, 동의하십니까, 아니면 반대하십니까?

Demis Hassabis: 제 타임라인도 그와 비슷하긴 하지만, 그 부분에 대한 제 생각은 훨씬 더 긴 시간축입니다. 다만 올해 들어 엔트리 레벨 직무나 인턴십(internships) 같은 영역에서 그 조짐(beginnings)이 보이기 시작했다고는 생각합니다.

Demis Hassabis: 하지만 지금 시스템에 부족한 일관성(consistency)을 훨씬 더 많이 해결해야 합니다. 저는 이걸 재킷 인텔리전스(jacket intelligence)라고 부르는데, 어떤 것에는 매우 뛰어나지만 다른 것에는 현재 시스템이 매우 취약하기 때문입니다.

Demis Hassabis: 그리고 지금처럼 ‘보조 도구(assistive programs)’에 가까운 형태가 아니라, 에이전트(agent)에게 전체 작업을 통째로 맡기거나 위임(offload/delegate)하려면, 전반적으로 훨씬 더 높은 일관성이 필요합니다. 그 작업의 **95%**를 잘한다고 해서 소용이 없습니다.

Demis Hassabis: 실제로 ‘한 번 던져두고 잊어도(fire and forget)’ 되려면, 작업 전체를 잘해야 합니다. 그래서 그런 수준의 충격(disruption)이 나타나기까지는 아직 해야 할 일이 꽤 많다고 봅니다.

Demis Hassabis: 다만 그런 충격은 결국 일어날 겁니다. 언젠가는요, 네. AGI가 극한(limit)까지 간다고 생각해 보면, 그런 시스템이 있다면 경제 전체가 바뀔 거라고 봅니다.

Demis Hassabis: 하지만 일자리 문제를 훨씬 넘어, 우리가 제대로 만든다면(postively) 에너지 원천 같은 세계의 근본적 ‘매듭(nodes)’을 풀어내면서, 깨끗하고 재생 가능한(clean, renewable), 사실상 무료에 가까운 에너지원을 갖는 ‘포스트 스캐시티(post scarcity) 세계’로 갈 가능성이 있다고 생각합니다.

Demis Hassabis: 예를 들어 AI의 도움으로 핵융합(fusion) 같은 걸 풀거나, 새로운 소재(new materials)를 찾는 데 성공한다면, AGI 이후 5~10년만 지나도 우리는 급진적으로(radical) 완전히 달라진 세계에 있을 수 있다고 봅니다.

진행자: 그렇다면 경제와 사회가 작동하는 방식은 어떻게 바뀌게 될까요? 사실 포스트 스캐시티 세계에 도달하기 전, 설령 거기에 도달한다 해도, 그 사이 과정에서 무슨 일이 벌어질지에 대한 불안(anxiety)이 엄청나게 큽니다.

진행자: 저는 엄마이기도 하고요. 당신도 아이가 있는 걸로 압니다. 아이들에 대해 가장 두려운 게 뭔가요? 아이들과는 어떤 이야기를 나누시나요? 앞으로 무엇이 올지, 어떤 말을 해주시나요?

진행자: 저는 정말 많은 이야기를 들었습니다. 세상에. 대학 졸업생들이 정말 힘들어질 거라는 얘기요.

Demis Hassabis: 글쎄요, 그건 잘 모르겠습니다. 제가 보기엔, 산업혁명(Industrial revolution) 같은 충격의 시대가 올 텐데, 그게 어쩌면 산업혁명의 ‘10배’ 규모일 수도 있습니다. 제가 보통 설명하는 것보다 10배 더 빠르다고 생각하면, 믿기 어려울 정도죠.

Demis Hassabis: 규모도 10배 더 크고, 속도도 10배 더 빠를 겁니다. 산업혁명은 2년, 100 now get. (원문 그대로) 그래서 그게 **100배(100 X)**라는 말입니다.

Demis Hassabis: 아니, 저는 이걸 모두에게 말하는데, 그만큼 거대한 기회(huge opportunities)도 함께 온다고 생각합니다. 저는 인간의 창의력·기지(human ingenuity)를 크게 믿습니다.

Demis Hassabis: 우리의 마음은 매우 범용적(general)이기 때문에, 우리는 극도로 적응력이 큽니다. 인간의 마음은 정말 범용적입니다. 우리는 주변의 현대 세계에 맞춰 적응해 왔습니다.

Demis Hassabis: 사냥·채집(hunter gatherer) 시대의 마음으로도 현대 문명을 만들어냈잖아요. 그러니 이번에도 다시 적응할 거라고 봅니다. 다만 속도 때문에 다소 전례가 없긴 합니다.

Demis Hassabis: 보통 이런 변혁은 1세대나 2세대에 걸쳐 진행되는데, 이번 기술의 변혁적 힘(transformative power)은 그 규모가 워낙 크고요. 하지만 지금의 아이들은 이런 새 도구들에 엄청나게 능숙해지고, ‘네이티브(native)’처럼 다룰 수 있게 되도록 저는 격려하겠습니다.

Demis Hassabis: 창작 예술(creative arts) 분야에서는, 예전엔 10명이 하던 일을 1명이 할 수 있는 ‘슈퍼파워(superpowers)’를 주는 것과 거의 비슷하니까요. 그리고 그건, 예를 들어 당신이 기업가적(entrepreneurial)이고, 게임 디자인(game design), 영화(films), 프로젝트(projects) 같은 것에서 창의적이라면, 훨씬 더 많은 일을 해낼 수 있고, 과거보다 그 산업에 훨씬 더 쉽게 진입(break into)할 수 있다는 뜻이라고 봅니다.

Demis Hassabis: 신진 인재(a new upcoming talent)에게 특히요.

진행자: 규제가 따라잡을 시간을 주고, 사회가 이런 변화에 적응할 시간을 주기 위해 ‘일시정지(pause)’를 주장하는 사람들도 있었습니다. 완벽한 세상이라면, 다른 모든 회사가 멈출 거라는 걸 확신할 수 있다면요. 모든 나라가 멈춘다면요. 그런 일시정지를 지지하시겠습니까?

Demis Hassabis: 그렇다고 생각합니다. 저는 제가 바라는 바를 공개적으로(on record) 말해온 적도 있습니다. 제가 15년 전에 DeepMind를 시작했고, 더 거슬러 올라가면 25년 전부터 이 일을 해오면서, 마음속에 그려왔던 로드맵(road map)이 하나 있었는데요.

Demis Hassabis: AGI가 도착하는 이 임계점(threshold moment)에 가까워질수록, 우리는 과학적 방식(scientific way)으로 협력(collaborate)할 수 있기를 바랐습니다. 저는 때때로 ‘AI를 위한 국제적 CERN에 해당하는 조직’을 만들자는 얘기를 합니다.

Demis Hassabis: 전 세계 최고의 인재들이 함께 협력해서, 사회 전체—기술자(technologists)뿐 아니라 철학자(philosophers), 사회과학자(social scientists), 경제학자(economists)까지—를 참여시켜, 이 기술에서 무엇을 원하고, 어떻게 하면 인류 전체에 이롭게(benefits all of humanity) 활용할 수 있을지, 마지막 단계(final steps)를 아주 엄밀한 과학적 방식으로 진행하자는 겁니다.

Demis Hassabis: 저는 그게 바로 지금 걸려 있는 것(at stake)이라고 생각합니다. 하지만 불행히도, 이런 건 국제 협력(international collaboration)이 필요합니다.

Demis Hassabis: 한 회사, 한 국가, 심지어 서구(West)만 그렇게 하기로 결정해도, 전 세계가 최소한의 기준(minimum standards)에는 동의하지 않으면 소용이 없기 때문입니다. 그리고 지금은 국제 공조(international cooperation)가 다소 까다로운 시기이기도 하죠.

Demis Hassabis: 그래서 AGI로 가는 마지막 단계에서 그런 엄밀한 과학적 접근(rigorous scientific approach)을 하려면, 그 상황이 바뀌어야 합니다.

진행자: 그렇다면 예를 들어 2030년에 AGI가 오는데 아직 규제(regulations)가 준비되어 있지 않다면, 우리는 어려운 상황을 피할 수 없는(destined) 걸까요?

Demis Hassabis: 그 경우에도 저는 여전히 낙관적(optimistic)입니다. 주요 플레이어들이 충분히 서로 소통(communicate)하고, 최소한 안전(safety)과 보안(security) 프로토콜 같은 것에서는 협력(collaborate)할 수 있기를 기대합니다. 이미 그런 움직임이 꽤 있습니다.

Demis Hassabis: 예컨대 우리는 Anthropic과 그런 부분에서 꽤 긴밀히 협력하고 있고, 국제적 틀이 작동하지 못한다면, 동료 기반(peer based)의 협력이 더 필요할 겁니다. 그리고 그건, 예컨대 Sam 같은 사람과도 더 협력하는 형태가 될 수 있겠죠.

Demis Hassabis: 저는 주요 연구소(leading labs)의 다른 리더들과도 대체로 좋은 관계(pretty good terms)에 있다고 생각합니다. 판돈이 충분히 크고, 무엇이 걸려 있으며 어떤 위험(risks)이 있는지를 모두가 제대로 이해한다면, 많은 부분이 움직일 거라고 봅니다.

Demis Hassabis: 그건 앞으로 2~3년 안에 모두에게 더 분명해질 거라고 생각합니다.

진행자: 이제 기술과 다음 곡선(next curve)에 대해 이야기해보죠. Yang Coombs는 트랜스포머(Transformers)와 lamps만으로는 AGI에 도달할 수 없다고 말했습니다. 동의하십니까, 반대하십니까? 그리고 만약 그게 막다른 길(dead ends)이라면, 우리는 지금 뭘 하고 있는 걸까요?

Demis Hassabis: 네. 아니요, 그것들이 막다른 길이라는 주장에는 동의하지 않습니다. 그건 분명히 틀렸다고 생각합니다. 이미 엄청나게 유용하니까요.

Demis Hassabis: 다만 저는 이걸 경험적 질문(empirical question)이라고 봅니다. 그것만으로 충분한지 여부는 과학적 질문(scientific question)입니다. 기존 방법을 약간 손보면서 스케일업(scaling up)하는 것만으로 충분할지에 대해선 **50:50(5050)**이라고 봅니다.

Demis Hassabis: 그럴 수도 있습니다. 그리고 그건 해봐야 합니다. 그 작업은 유용합니다. 최소한 제 관점에서 보면, 이런 lambs는 최종 시스템(final system)의 구성요소(component), 그것도 대단히 중요한 구성요소가 될 것이기 때문입니다.

Demis Hassabis: 제가 궁금한 건 ‘그게 유일한 구성요소인가’라는 점뿐입니다. 그렇죠. 그리고 앞으로 여기서부터는 1~2개의 돌파구(breakthrough), 많아야 몇 개—5개 미만—정도가 더 필요할 수도 있다고 상상할 수 있습니다, 그렇죠?

Demis Hassabis: 네. 그런 것들 중 하나가 월드 모델(world models)일 수 있습니다. 저는 그걸 이미 여러 번 말해왔고, 우리는 그걸 연구하고 있습니다. 사실 현재로선 우리가 최고의 월드 모델을 갖고 있다고 생각하는데, 그것이 GENI, 우리 GENI 시스템입니다.

Demis Hassabis: 저는 거기에 직접 참여하고 있고, 그게 매우 중요하다고 봅니다. 그리고 지속 학습(continue learning) 같은 것, 그리고 어떤 건 잘하고 어떤 건 못하는 ‘들쭉날쭉한 가장자리(jagged edges)’가 없는 일관된(consistency) 시스템을 만드는 것도 중요합니다.

Demis Hassabis: 그게 범용(general) 시스템이죠. 범용 시스템은 그런 들쭉날쭉함이 없어야 합니다. 그래서 더 나은 추론(reasoning), 더 긴 호흡의 장기 계획(long term planning) 등 아직 부족한 능력이 꽤 많다고 봅니다.

Demis Hassabis: 새 아키텍처(architecture)나 새로운 돌파구가 필요한지, 아니면 같은 방식의 연장선(more of the same)으로 갈 수 있는지는 열린 질문(open question)입니다. 우리, 즉 Google·DeepMind 관점에서, 우리는 가능한 한 가장 세게 밀어붙이고 있습니다.

Demis Hassabis: 새로운 것을 발명(inventing)하는 것과 기존 것을 스케일업하는 것, 둘 다요. 약간 다르지만 서로 관련된 일이죠.

진행자: Elias Escovedo는 ‘스케일링하고 더 큰 모델을 만드는 것만으로 개선이 나오는 시대는 거의 끝났다’고 말했습니다. 동의하시나요?

Demis Hassabis: 동의하지 않습니다. 그의 정확한 표현은 ‘우리는 연구의 시대로 돌아왔다’였던 것 같습니다. 하지만 저는 Ellie를 정말 좋아하고, 우리는 아주 친한 친구이며, 많은 부분에서 의견이 같습니다.

Demis Hassabis: 다만 제 견해로는, 적어도 우리 입장에서는 연구의 시대를 떠난 적이 없습니다. 우리는 항상 투자해 왔습니다. 제 생각에 Google과 DeepMind는 함께 가장 깊고 폭넓은 인재 풀(bench)을 늘 가지고 있었습니다.

Demis Hassabis: 지난 10년 동안 현대 산업이 의존하는 돌파구의 약 **90%**를 우리가 만들어냈다고 봅니다. 당연히 트랜스포머(Transformers)가 가장 유명하지만, 딥 강화학습(Deep reinforcement learning)도 그렇고요.

Demis Hassabis: AlphaGo, 이런 종류의 강화학습(reinforcement learning) 기법들이요. 그런 것들을 우리가 선도(pioneered)했습니다. 그래서 앞으로 새로운 돌파구가 필요해진다면, 과거처럼 미래에도 그 돌파구를 만들어낼 주체는 우리일 거라고 저는 베팅하겠습니다(back us).

진행자: 마지막으로, 동의/반대 질문입니다. Elon은 ‘우리는 특이점(singularity)에 들어섰다’고 말했습니다.

Demis Hassabis: 아니요, 그건 너무 성급합니다(very premature). 제게 특이점(singularity)은 ‘완전한 AGI(full AGI)가 도착하는 것’을 다른 말로 부르는 표현입니다.

Demis Hassabis: 그리고 아까 왜 우리가 아직 그 근처에도 못 갔다(nowhere near)고 보는지 설명드렸죠. 저는 언젠가 거기에 도달할 거라고 생각합니다. 그리고 5년, 심지어 5년도 그게 무엇인지 생각해보면 길지 않은 시간입니다.

Demis Hassabis: 그렇지만 특이점처럼 보일 만한 무언가를 갖기 전까지는 아직 해야 할 일이 많습니다.

진행자: 지금 Google 내부 문화(culture)에 대해 조금 이야기해 주세요. 이 경쟁(race)에서 이기되, 올바르게(do it right) 하기 위해서요. 리더십도 잘 아시잖아요.

진행자: Larry와 Sergey는 지금 얼마나 깊게 관여하고 있나요? 얼마나 자주 대화하시고, 그들의 우선순위(priorities)는 무엇인가요?

Demis Hassabis: 네, 두 사람 모두 매우 깊게 관여하고 있습니다. Larry는 더 전략(strategic) 쪽에 가깝고요. 제가 밸리(valley)를 방문할 때나 이사회(board meetings)에서 그를 봅니다.

Demis Hassabis: 그리고 그는 다시 말해 더 ‘핸즈온(hands on)’하게, 특히 Gemini 팀의 코딩(coding)과 알고리즘 디테일(algorithmic details)에 관여하고 있습니다. 두 사람이 모두 지금 우리가 있는 지점에 에너지를 쏟고 있다는 건 훌륭한 일입니다.

Demis Hassabis: 누가 이 순간에 흥분하지 않겠습니까? 컴퓨터과학(computer science)에서 정말 믿기 힘들 만큼(incredible)한 순간입니다. 그 둘 모두 과학적 관점(scientific point of view)을 가진 사람들이고, 인류 역사(human history) 전체로 봐도 대단히 흥분되는 순간입니다.

Demis Hassabis: 그래서 당연히 모두가 직접(hands on) 깊게 관여하고 싶어 하죠. 그건 정말 좋습니다. 그리고 우리 조직(entity) 차원에서는, 저는 여러 세계의 장점을 결합하려고 합니다.

Demis Hassabis: 즉, 빠르게 출시하고(shipping things fast) 위험을 감수(taking risks)하는 스타트업 에너지—그 효과는 이미 보이고 있다고 생각합니다—와, 대기업이 가진 막대한 자원(big company resources)의 유용함을 함께 가져가되, 동시에 장기 연구(long term research)와 탐색적 연구(exploratory research)를 위한 공간을 보호하려는 겁니다.

Demis Hassabis: ‘3개월 뒤 제품에 들어갈 것’만 연구하는 건 실수라고 봅니다. 그건 실수일 겁니다. 그래서 그런 서로 다른 요소들을 균형(balance) 있게 맞추려 하고 있습니다.

Demis Hassabis: 지난 1년은 잘 흘러갔다고 생각하고, 우리는 더 잘할 수 있고, 올해도 더 잘할 거라고 봅니다. 하지만 현재의 궤적(trajectory)에는 매우 만족합니다. 업계 누구보다 개선(improvement)과 진전(progress)의 기울기(steepest)가 가장 가파르다고 생각합니다.

진행자: 당신은 노벨상 수상자(Nobel laureate)이고, AI가 과학 연구를 구동하는 것에 얼마나 집착하시는지도 알고 있습니다. 만약 AI 자체가, 예를 들어, 노벨상급 발견(Nobel worthy discovery)을 한다면, 당신이 상을 받아야 하지 않나요?

Demis Hassabis: 음, 저는 아직은 인간이라고 말하겠습니다. ‘완전히 스스로(on its own)’ 했다는 게 무엇을 의미하는지에 따라 달라지긴 하지만요. 지금으로서는 이것들은 여전히 도구(tools)입니다.

Demis Hassabis: 저는 이를 아마도 궁극의 과학 도구(ultimate scientific tool)로 보지만, 망원경(telescopes)과 현미경(microscopes)의 더 나은 버전 같은 것으로 봅니다. 우리는 자연 세계(natural world)를 더 잘 탐구하기 위해 항상 도구를 만들어 왔습니다.

Demis Hassabis: 인간은 본질적으로 도구를 만드는 동물(toolmaking animals)입니다. 그게 다른 동물과 인간을 구분하는 점이고요. 그게 우리의 슈퍼파워(superpower)이며, 물론 그 안에 컴퓨터(computers)도 포함됩니다.

Demis Hassabis: 그리고 AI는 그 궁극적 표현(ultimate expression)이라고 할 수 있습니다. 그래서 어떤 면에서는, 저는 AI를 과학을 하는 궁극의 도구(ultimate tool to do science)라고 늘 생각해 왔습니다.

Demis Hassabis: 그리고 가까운 미래(foreseeable future)에는, 최고 과학자들이 창의적 아이디어와 가설(hypotheses)을 내고, AI 같은 놀라운 도구들이 데이터 처리(data processing), 패턴 매칭(pattern matching), 그리고 과학 탐색(exploration of science)을 강화하는 ‘협업(collaboration)’ 형태가 될 거라고 봅니다.

진행자: 당신은 DeepMind를 누구에게든 팔 수도 있었을 겁니다. 그리고 지금은 이런 회사들이 우리에게 큰 신뢰(trust)를 요구하고 있다고 생각합니다. 네.

진행자: 특히 역사가 보여주듯, 규제(regulation)가 기술을 따라잡지 못할 가능성이 큰 상황에서요. 왜죠? 왜 우리가 당신을 믿어야 합니까?

진행자: 그리고 당신이 가장 믿을 만한 곳이라고 생각하는 Google을, 왜 우리가 가장 믿어야 한다고 보시나요? 이건 너무 위험해(risky) 보이는데요. 네.

Demis Hassabis: 저는 이런 회사들은 ‘행동(actions)’으로 판단해야 하고, 그 일을 이끄는 리더들의 동기(motivations)도 들여다봐야 한다고 생각합니다. 저와 우리에게는, DeepMind의 ‘집(home)’으로 Google이 적절하다고 선택한 이유가 몇 가지 있는데, 가장 큰 이유는 Google의 창업자(founders)들이 Google을 과학 기업(scientific company)으로 세웠고, 그렇게 설계했기 때문입니다.

Demis Hassabis: 많은 사람들이 잊지만, Google 자체가 박사(Ph.D.) 프로젝트였잖아요. Larry와 Sergey의 프로젝트였습니다. 그래서 저는 그들과 즉각적인 친밀감(affinity)을 느꼈습니다.

Demis Hassabis: Larry가 인수를 주도했고, 또 그들이 구성한 이사회(board)도 중요했습니다. 의장(chair)인 John Hennessy는 본인도 튜링상(Turing Award) 수상자이고, Francis Arnold도 또 다른 노벨상 수상자(Nobel Prize winner)입니다.

Demis Hassabis: 기업 이사회에 이런 인물들이 있는 건 흔치 않습니다. 그래서 전체 환경 자체가 매우 과학적(scientific)입니다. 과학·연구(science and research) 주도, 엔지니어링(engineering) 주도의 문화가 깊이 박혀 있습니다.

Demis Hassabis: 최고 수준에서 과학을 한다는 건 매우 엄밀(rigorous)하고, 신중(thoughtful)하며, 가능한 곳엔 어디든 과학적 방법(scientific method)을 적용한다는 뜻입니다. 그건 기술뿐 아니라 조직을 운영하는 방식에도 해당된다고 생각합니다.

Demis Hassabis: 그래서 우리는 우리가 세상에 내놓는 기술에 대해 가능한 한 많은 통제력(force)을 가지면서, 신중하고 책임감 있게(thoughtful and responsible) 하려고 노력해 왔다고 느낍니다. 물론 이 기술은 너무 복잡하고, 너무 새롭고(nascent), 너무 변혁적(transformative)이어서, 모든 걸 다 맞출 수 있다는 뜻은 아닙니다.

Demis Hassabis: 하지만 무언가 잘못되면 최대한 빠르게 코스 코렉트(coast correct)하길 바랍니다. 그리고 마지막으로, 저는 Google이 세상에서 하려는 일의 성격 자체에 끌렸습니다.

Demis Hassabis: ‘세상의 정보를 정리한다(organizing the world's information)’는 건 매우 고귀한(noble) 목표라고 생각하고, 그건 명백히 Google의 미션(mission statement)입니다. 그리고 그건 DeepMind의 미션—지능(intelligence)을 풀고, 그것으로 다른 모든 것을 푼다—와도 매우 잘 맞았습니다.

Demis Hassabis: 저는 이 두 미션이 자연스럽게 맞물린다고 생각합니다. AI와 ‘세상의 정보 정리’는 자연스럽게 함께 가는 일이니까요. 그리고 그건 Google이 잘 알려진 제품들—Maps부터 2 to 2, Gmail, 그리고 당연히 Search—과도 맞닿아 있습니다.

Demis Hassabis: 저는 그런 제품들이 세상에서 진정으로 유용(genuinely useful)하다고 생각하고, AI는 거기에 쉽게 결합(easy fit)될 수 있다고 봅니다. 그런 제품들과 결합해 어떻게 기능을 강화(enhance)해서, 누구나 일상(everyday lives)에서 더 잘 쓰게 할지가 관건이죠.

Demis Hassabis: 저는 그게 세상에 좋은 일(great thing)이라고 생각합니다. 그래서 그 일에 기여(contributing)할 수 있어 기쁩니다.

진행자: 좋습니다. 일자리가 더 이상 필요 없는 포스트 스캐시티(post scarcity) 세계가 온다면, 당신이 기술적 목표를 모두 달성한 뒤에 개인적으로 시간을 무엇에 쓰실 건가요? 네. 연구가 그냥 스스로 자동화되는 거겠죠?

Demis Hassabis: 저는 특이점(singularity) 이후에는 그걸 물리학(physics)의 한계(limits)를 탐구하는 데 쓰고 싶습니다. 학교에서 제가 가장 좋아했던 과목도 큰 질문(big questions)들이었습니다.

Demis Hassabis: 현실의 직물(fabric of reality)이란 무엇인가? 현실의 본질(nature of reality)은 무엇인가? 의식(consciousness)의 본질은 무엇인가? 페르미 역설(Fermi paradox)의 답, 이런 것들 전부요.

Demis Hassabis: 시간(time)이란 무엇인가? 중력(gravity)이란 무엇인가? 저는 더 많은 사람들이 이런 거대한 질문들을 생각하지 않고 일상을 살아간다는 게 놀랍습니다.

Demis Hassabis: 제게는 이런 깊은 미스터리(deep mysteries)의 답이 무엇인지가 늘 거의 ‘소리치듯(screaming)’ 다가오거든요. 저는 AI를 써서 그 모든 것들을 탐구(explore)하고 싶고, 아마도 별들로의 여행(traveling to the stars)도 해보고 싶습니다.

Demis Hassabis: AI가 열어줄 새로운 에너지원(new energy sources), 소재(materials), 그리고 다른 것들의 도움을 받아서요.

진행자: 일(work)이 없다면, 우리 모두가 의미(meaning)와 목적(purpose)을 가질 수 있을까요?

Demis Hassabis: 솔직히 말하면, 저는 그게 경제(economics)보다 더 걱정되는 부분입니다. 경제 문제는, 이런 추가적 혜택(extra benefits)과 생산성(productivity)을 얻게 됐을 때 그게 모두에게 이익이 되도록(shared for the benefit of everyone) 나눌 수 있느냐는 거의 정치적 질문(political question)이라고 생각합니다.

Demis Hassabis: 그리고 그게 제가 믿는 방향입니다. 하지만 더 큰 질문은, 많은 사람들이 과학적 노력(scientific endeavors)을 포함해 일(job)에서 얻는 목적과 의미(purpose and meaning)를 어떻게 할 것이냐는 겁니다.

Demis Hassabis: 새로운 세계에서 우리는 그걸 어떻게 찾을까요? 제 생각에, 그 문제를 돕기 위해 새로운 위대한 철학자(new great philosophers)들이 필요할 겁니다.

Demis Hassabis: 그걸 충분히 숙고(thinking that through)하면, 우리는 예술(art)과 탐구(exploration), 그리고 익스트림 스포츠(extreme sports)처럼 ‘경제적 이득만을 위한 게 아닌’ 오늘날의 활동들을 훨씬 더 정교하게(sophisticated) 발전시킬지도 모릅니다.

Demis Hassabis: 그리고 미래에는 그런 것들의 매우 난해하고 특이한(esoteric) 버전이 생길지도 모르죠.

진행자: 좋습니다. 이 방에 있는 모두가 ‘나는 뭘 해야 하나’를 궁금해하고 있습니다. 예를 들어 ‘10년 뒤 다보스(Davos)에서 이렇게 앉아 있을 때 나는 뭘 하고 있어야 하나’ 같은 질문이요.

진행자: 이 방의 사람들이 AI에 대해 범하게 될 가장 큰 실수는 무엇이라고 보시나요?

Demis Hassabis: 제가 말씀드릴 건 두 가지가 있습니다. 첫째는 젊은 세대, 그리고 우리 아이들 같은 사람들에게 해당하는데, 우리가 확실히 아는 유일한 것은 ‘엄청난 변화(huge amount of change)’가 올 거라는 사실입니다.

Demis Hassabis: 그래서 스킬을 배우는 관점에서는, 준비해야 합니다. ‘배우는 법을 배우는 것(learning to learn)’이 가장 중요하니까요. 새 상황에 얼마나 빨리 적응(adapt)하고, 우리가 가진 도구(tools)를 활용해 새로운 정보를 얼마나 빨리 흡수(absorb)할 수 있느냐가 핵심입니다.

Demis Hassabis: 그리고 이 자리에 있는 CEO들과 비즈니스 리더들에게는요? 지금 가장 중요한 일은, 선도 모델(leading models)과 선도 서비스 제공자(leading service providers)가 이미 여러 곳이고 앞으로 더 늘어날 텐데, 그중에서 이 기술을 올바른 방식으로 접근(approaching it in the right way)한다고 느끼는 파트너(partners)를 고르는 것입니다.

Demis Hassabis: 즉 변화를 만들어가고, 당신이 세상에서 보길 원하는 방식으로 이 기술에 접근하는 곳과 파트너십(partner)하라는 뜻입니다. 그러면 앞으로 다가올 AI(A.I. coming down the line)와 함께, 우리가 바라는 미래를 함께 만들어갈 수 있다고 생각합니다.