🎧 The future of intelligence | Demis Hassabis (Co-founder and CEO of DeepMind)

👤 Demis Hassabis · EN 10,337w · KR 5,913w

사용법 (30초)
1️⃣ 영문 or 한국어 복사 버튼 터치
2️⃣ 🔗 링크 복사 → Chrome에 붙여넣기 → 열기
3️⃣ + 새 노트북 → 소스 추가 → 붙여넣기
4️⃣ 🎧 Audio Overview → Generate
5️⃣ 차에서 재생 🚗

원문 미리보기 10,337w

DEMIS HASSABIS: Effectively, you can think of as 50% of our effort is on scaling, 50% of it is on innovation. My betting is you're going to need both to get to AGI. I've always felt this, that if we build AGI, and then use that as a simulation of the mind, and then compare that to the real mind, we will then see what the differences are and potentially what's special and remaining about the human mind. Maybe that's creativity. Maybe it's emotions. Maybe it's dreaming, consciousness. There's a lot of hypotheses out there about what may or may not be computable. And this comes back to the Turing machine question of, what is the limit of a Turing machine? HANNAH FRY: So there's nothing that cannot be done within these computational-- DEMIS HASSABIS: Well, put it this way. Nobody's found anything in the universe that's non-computable, so far. HANNAH FRY: So far. Welcome to "Google DeepMind: The Podcast" with me, Professor Hannah Fry. It has been an extraordinary year for AI. We have seen the center of gravity shift from large language models to agentic AI. We've seen AI accelerate drug discovery and multimodal models integrated into robotics and driverless cars. Now, these are all topics that we've explored in detail on this podcast. But for the final episode of this year, we wanted to take a broader view, something beyond the headlines and product launches, to consider a much bigger question. Where is all this heading, really? What are the scientific and technological questions that will define the next phase? And someone who spends quite a lot of their time thinking about that is Demis Hassabis, CEO and co-founder of Google DeepMind. Welcome back to the podcast, Demis. DEMIS HASSABIS: Great to be back. HANNAH FRY: I mean, quite a lot has happened in the last year. DEMIS HASSABIS: It has. HANNAH FRY: What is the biggest shift, do you think? DEMIS HASSABIS: Oh, wow. I mean, it's just so much has happened, as you said. It feels like we packed in 10 years in one year. I think a lot's happened. I mean, certainly, for us, the progress of the models-- we've just released Gemini 3, which we're really happy with-- the multi-modal capabilities, all of those things have just advanced really well. And then probably the thing, I guess, over the summer that I'm very excited about is world models being advanced. I'm sure we're going to talk about that. HANNAH FRY: Yeah, absolutely. We will get on to all of that stuff in a little bit more detail in a moment. I remember the very first time I interviewed you for this podcast, and you were talking about the root node problems, about this idea that you can use AI to unlock these downstream benefits. And you've made pretty good on your promise, I have to say. DEMIS HASSABIS: Yes. HANNAH FRY: Do you want to give us an update on where we are with those? What are the things that are just around the corner and the things that you've sort of solved or near solved? DEMIS HASSABIS: Yeah. Well, of course, the big proof point was AlphaFold. And it's crazy to think we're coming up to five-year anniversary of AlphaFold being announced to the world-- AlphaFold2, at least. So that was the proof, I guess, that it was possible to do these root node type of problems. And we're exploring all the other ones now. I think material science. I'd love to do a room temperature superconductor. And better batteries, these kinds of things-- I think that's on the cards, better materials of all sorts. We're also working on fusion. HANNAH FRY: Because there's a new partnership that's been announced with fusion, right? DEMIS HASSABIS: Yeah. We've just announced a partnership with a deep one. We already were collaborating with them, but it's a much deeper one now with Commonwealth Fusion, who I think are probably the best startup working on at least traditional tokamak reactors. So they're probably closest to having something viable. And we want to help accelerate that, helping them contain the plasma in the magnets and maybe even some material design there, as well. So that's exciting. And then we're collaborating also with our quantum colleagues, which they're doing amazing work at the quantum AI team at Google. And we're helping them with error correction codes, where we're using our machine learning to help them. And then maybe one day they'll help us. HANNAH FRY: That perfect cycle. DEMIS HASSABIS: Yes, exactly. HANNAH FRY: The fusion one is particularly-- I mean, the difference that that would make to the world, that would be unlocked by that, is gigantic. DEMIS HASSABIS: Yeah. I mean, fusion has always been the holy grail. Of course, I think solar is very promising, too, effectively using the fusion reactor in the clouds and in the sky. But I think if we could have modular fusion reactors, this promise of unlimited, renewable, clean energy would be-- obviously, transform everything. And that's the holy grail. And, of course, that's one of the ways we could help with climate. HANNAH FRY: It does make a lot of our existing problems sort of disappear if we can . DEMIS HASSABIS: Definitely. I mean, it opens up many-- this is why we think of it as a root node. Of course, it helps directly with energy and pollution and so on and helps with the climate crisis. But also, if energy really was renewable and clean and super cheap, almost free, then many other things would become viable, like water access because we could have desalination plants pretty much everywhere, even making rocket fuel. There's lots of seawater that contains hydrogen and oxygen, and that's basically rocket fuel. But it just takes a lot of energy to split it out into hydrogen and oxygen. But if energy is cheap and renewable and clean, then why not do that? You could have that producing 24/7. HANNAH FRY: You're also seeing a lot of change in the AI that is applying itself to mathematics-- winning medals in the International Maths Olympiad. And yet, at the same time, these models can make quite basic mistakes in high school math. Why is there that paradox? DEMIS HASSABIS: Yeah. I think it's fascinating, actually, one of the most fascinating things, and probably that needs to be fixed as one of the key things why we're not at AGI yet. As you said, we've had a lot of success in other groups on getting gold medals at the International Maths Olympiad. You look at those questions, and they're super hard questions that only the top students in the world can do. And, on the other hand, if you pose a question in a certain way-- we've all seen that with experimenting with chat bots ourselves in our daily lives-- that it can make some fairly trivial mistakes on logic problems. They can't really play decent games of chess yet, which is surprising. So there's something missing still from these systems in terms of their consistency. And I think that's one of the things that you would expect from a general intelligence, an AGI system, is that it would be consistent across the board. And so sometimes people call it jagged intelligences. So they're really good at certain things, maybe even PhD level. But then, other things, they're not even high school level. So it's very uneven still, the performances of these systems. They're very, very impressive in certain dimensions, but they're still pretty basic in others. And we've got to close those gaps. And there are theories as to why. And depending on the situation, it could even be the way that an image is perceived and tokenized. So sometimes, actually, it doesn't even get all the letters that-- so when you count letters in words, it sometimes gets that wrong. But it may not be seeing each individual letter. So there's different reasons for some of these things. And each one of those can be fixed, and then you can see what's left, but I think consistency. I think another thing is reasoning and thinking. So we have thinking systems now that, at inference time, they spend more time thinking, and they're better at outputting their answers. But it's not super consistent yet in terms of, is it using that thinking time in a useful way to actually double-check and use tools to double-check what it's outputting? I think we're on the way, but maybe we're only 50% of the way there. HANNAH FRY: I also wonder about that story of AlphaGo and then AlphaZero, where you took away all of the human experience and found that the model actually improved. DEMIS HASSABIS: Yeah. HANNAH FRY: Is there a scientific or a maths version of that in the models that you're creating? DEMIS HASSABIS: I think what we're trying to build today, it's more like AlphaGo. So effectively, these large language models, these foundation models, they're starting with all of human knowledge, what we put on the internet, which is pretty much everything these days, and compressing that into some useful artifact which they can look up and generalize from. But I do think we're still in the early days of having this search or thinking on top, like AlphaGo had, to use that model to direct useful reasoning traces, useful planning ideas, and then come up with the best solution to whatever the problem is at that point in time. So I don't feel like we're constrained at the moment with the limit of human knowledge, like the internet. I think the main issue at the moment is, we don't know how to use those systems in a reliable way fully yet in the way we did with AlphaGo. But, of course, that was a lot easier because it was a game. I think once you have AlphaGo there, you could go back, just like we did with the Alpha series, and do an AlphaZero, where it starts discovering knowledge for itself. I think that would be the next step, but that's obviously harder. And so I think it's good to try and create the first step first with some kind of AlphaGo-like system. And then we can think about an AlphaZero-like system. But that is also one of the things missing from today's systems is the ability to online learn and continually learn. So we train these systems, we balance them, we post-train them, and then they're out in the world. But they don't continue to learn out in the world, like we would. And I think that's another critical missing piece from these systems that will be needed for AGI. HANNAH FRY: In terms of all of those missing pieces, I mean, I know that there's this big race at the moment to release commercial products, but I also know that Google DeepMind's roots really lie in that idea of scientific research. And I found a quote from you where you recently said, "If I'd had my way, we would have left AI in the lab for longer and done more things like AlphaFold, maybe cured cancer or something like that." Do you think that we lost something by not taking that slower route? DEMIS HASSABIS: I think we lost and gained something. So I feel like that would have been the more pure scientific approach. At least, that was my original plan, say 15, 20 years ago, that when almost no one was working on AI-- we just started. We were just about to start DeepMind. People thought it was a crazy thing to work on. But we believed in it. And I think that the idea was, if we would make progress, we would continue to incrementally build towards AGI, be very careful about what each step was and the safety aspects of it and so on, analyze what the system was doing and so on. But in the meantime, you wouldn't have to wait till AGI arrived before it was useful. You could branch off that technology and use it in really beneficial ways to society, namely advancing science and medicine, so exactly what we did with AlphaFold, actually, which, it's not a foundation model itself, general model, but it uses the same techniques, transformers and other things, and then blends it with more specific things to that domain. So I imagined a whole bunch of those things getting done which would be hugely-- you'd release to the world, just like we did with AlphaFold and, indeed, do things like cure cancer and so on whilst we were working on more the AGI track in the lab. Now, it's turned out that chatbots were possible at scale, and people find them useful. And then they've now morphed into these foundation models that can do more than chat and text, obviously, including Gemini. They can do images and video and all sorts of things. And that's also been very successful commercially in terms of a product. And I love that, too. I've always dreamed of having the ultimate assistant that would help you in everyday life, make it more productive, maybe even protect your brain space a bit, as well, from inattention so that you can focus and be in flow and so on because today, with social media, it's just noise, noise, noise. And I think AI, actually, that works for you could help us with that. So I think that's good, but it has created this pretty crazy race condition where there's many commercial organizations and even nation states all rushing to improve and overtake each other. And that makes it hard to do rigorous science at the same time. We try to do both, and I think we're getting that balance right. On the other hand, there are lots of pros of the way it's happened, which is, of course, there's a lot more resources coming into the area. So that's definitely accelerated progress. And, also, I think the general public are actually, interestingly, only a couple of months behind the absolute frontier in terms of what they can use. So everyone gets the chance to feel for themselves what AI is going to be like. And I think that's a good thing and then governments sort of understanding this better. HANNAH FRY: The thing that's strange is that-- I mean, this time last year, I think there was a lot talk about scaling, eventually hitting a wall, about us running out of data. And yet, we're recording-- now, Gemini 3 has just been released, and it's leading on this whole range of different benchmarks. How has that been possible? Wasn't there supposed to be a problem with scaling hitting a wall? DEMIS HASSABIS: I think a lot of people thought that, especially as other companies have had slower progress, shall we say. But I think we've never really seen any wall, as such. What I would say is maybe there's diminishing returns. And when I say that, people only think, oh, so there's no returns. It's 0 or 1. It's either exponential, or it's asymptotic. No. Actually, there's a lot of room between those two regimes. And I think we're in between those. So it's not like you're going to double the performance on all the benchmarks every time you release a new iteration. Maybe that's what was happening in the very early days, three, four years ago. But you are getting significant improvements, like we've seen with Gemini 3, that are well worth the investment and the return on that investment and doing. So that, we haven't seen any slowdown on. There are issues like, are we running out of just available data? But there are ways to get around that-- synthetic data, generating-- these systems are good enough, they can start generating their own data. Especially in certain domains like coding and math, where you can verify the answer, in some sense, you could produce unlimited data. So all of these things, though, are research questions. And I think that's the advantage that we've always had is that we've always been research-first. And I think we have the broadest and deepest research bench, always have done. And if you look back at the last decade of advances, whether that's transformers or AlphaGo, AlphaZero, any of the things we just discussed, that they all came out of Google or DeepMind. So I've always said, if more innovations are needed, scientific ones, then I would back us to be the place to do it, just like we were in the previous 15 years for a lot of the big breakthroughs. So I think that's just what's transpiring. And I actually really like it when the terrain gets harder, because then it's not just world-class engineering you need, which is already hard enough, but you have to ally that with world-class research and science, which is what we specialize in. And on top of that, we also have the advantage of world-class infrastructure with our TPUs and other things that we've invested in for a long time. And so that combination, I think, allows us to be at the frontier of the innovations, as well as the scaling part. And, effectively, you can think of as 50% of our effort is on scaling, 50% of it is on innovation. And my betting is you're going to need both to get to AGI. HANNAH FRY: I mean, one thing that we are still seeing, even in Gemini 3, which is an exceptional model, is this idea of hallucinations. So I think there was one metric that said it can still give an answer when actually it should decline. DEMIS HASSABIS: Yes. HANNAH FRY: I mean, could you build a system where Gemini gives a confidence score in the same way that AlphaFold does? DEMIS HASSABIS: Yeah, I think so. And I think we need that, actually. And I think that's one of the missing things. I think we're getting close. I think the better the models get, the more they know about what they know, if that makes sense. And I think the more reliable-- you could rely on them to actually introspect in some way or do more thinking and actually realize for themselves that they're uncertain, or there's uncertainty over this answer. And then we've got to work out how to train it in a way where it can output that as a reasonable answer. We're getting better at it. But it still sometimes-- it forces itself to answer when it probably shouldn't, and then that can lead to a hallucination. So I think a lot of the hallucinations are of that type, currently. So there's a missing piece there that has to be solved, and you're right, as we did solve it with AlphaFold, but in obviously a much more limited way. HANNAH FRY: Because presumably, behind the scenes, there is some sort of measure of probability of whatever the next token might be. DEMIS HASSABIS: Yes, there is of the next token. That's how it all works. But that doesn't tell you the overall arching piece, is how confident are you about this entire fact or this entire statement? And I think that's why you'll need this-- I think we'll need to use the thinking steps and the planning steps to go back over what you just output. At the moment, it's a little bit like the systems are just-- it's like talking to a person, and when they're on a bad day, they're just literally telling you the first thing that comes to their mind. Most of the time, that will be OK. But then sometimes, when it's a very difficult thing, you'd want to stop, pause for a moment, and maybe go over what you were about to say and adjust what you were about to say. But perhaps that's happening less and less in the world these days, but that's still the better way of having a discourse. So I think you can think of it like that. These models need to do that better. HANNAH FRY: I also really want to talk to you about the simulated worlds and putting agents in them because we got to talk to your Genie team earlier this year. DEMIS HASSABIS: Yes, it's awesome work. HANNAH FRY: Tell me why you care about simulation. What can a world model do that a language model can't? DEMIS HASSABIS: Well, look, it's actually been-- it's probably my longest-standing passion is world models and simulations, in addition to AI, and of course it's all coming together in our most recent work, like Genie. And I think language models are able to understand a lot about the world-- I think, actually, more than we expected, more than I expected, because language is actually probably richer than we thought. It contains more about the world than even linguists maybe imagined. And that's proven now with these new systems. But there's still a lot about the spatial dynamics of the world-- spatial awareness and the physical context we're in and how that works mechanically-- that is hard to describe in words and isn't generally described in corpuses of words. And a lot of this is allied to learning from experience, online experience. There's a lot of things which you can't really describe something. You have to just experience it. Maybe the senses and so on are very hard to put into words, whether that's motor angles and smell and these kind of senses. It's very difficult to describe that in any kind of language. So I think there's a whole set of things around that. And I think if we want robotics to work or a universal assistant that maybe comes along with you in your daily life, maybe on glasses or on your phone and helps you in your everyday life, not just on your computer, you're going to need this kind of world understanding, and world models are at the core of that. So what we mean by world model is this sort of model that understands the causative and effect of the mechanics of the world-- intuitive physics, but how things move, how things behave. Now, we're seeing a lot of that in our video models, actually. And one way to show, how do you test you have that kind of understanding? Well, can you generate realistic worlds? Because if you can generate it, then, in a sense, you must have understood-- the system must have encapsulated a lot of the mechanics of the world. So that's why Genie and Veo and these models, our video models and our interactive world models, are really impressive, but also important steps towards showing we have generalized world models. And then hopefully, at some point, we can apply it to robotics and universal assistants. And then, of course, one of my favorite things I'm definitely going to have to do at some point is reapplying it back to games and game simulations and create the ultimate games, which, of course, was maybe always my subconscious plan. HANNAH FRY: All of this, just for that. DEMIS HASSABIS: Yeah, all of this time, exactly. HANNAH FRY: What about science, too, though, because you use it in that domain? DEMIS HASSABIS: Yes, you could. So science, again, I think, building models of scientifically complex domains, whether that's materials on the atomic level in biology, but also some physical things, as well, like weather-- one way to understand those systems is to learn simulations of those systems from the raw data. So you have a bunch of raw data. Let's say it's about the weather. And, obviously, we have some amazing weather projects going on. And then you have a model that learns those dynamics and can recreate those dynamics more efficiently than doing it by brute force. So I think there's huge potential for simulations and world models, maybe specialized ones, for aspects of science and mathematics. HANNAH FRY: But then, also, I mean, you can drop an agent into that simulated world too, right? DEMIS HASSABIS: Yes. HANNAH FRY: Your Genie 3 team, they had this really lovely quote, which was, "Almost no prerequisite to any major invention was made with that invention in mind." And they were talking about dropping agents into these simulated environments and allowing them to explore with curiosity being their main motivator. DEMIS HASSABIS: Right. And so that's another really exciting use of these world models is you can-- we have another project called SIMA-- we just released SIMA 2-- simulated agents, where you have an avatar or an agent, and you put it down into a virtual world. It can be a normal-- it can be a kind of actual commercial game or something like that, a very complex one, like "No Man's Sky," a kind of open-world space game. And then you can instruct it because it's got Gemini under the hood. You can just talk to the agent and give it tasks. But then we thought, well, wouldn't it be fun if we plugged Genie into SIMA and dropped a SIMA agent into another AI that was creating the world on the fly? So now the two AIs are kind of interacting in the minds of each other. So the SIMA agent is trying to navigate this world. And as far as Genie is concerned, that's just a player, and an avatar doesn't care that it's another AI. So it's just generating the world around whatever SIMA is trying to do. So it's kind of amazing to see them both interacting together. And I think this could be the beginning an interesting training loop, where you almost have infinite training examples because, whatever the SIMA agent is trying to learn, Genie can basically create on the fly. So I think that you could imagine a whole world of setting and solving tasks, just millions of tasks automatically, and they're just getting increasingly more difficult. So we may try to set up a kind of loop like that, as well as obviously those SIMA agents could be great as game companions, or also some of the things that they learn could be useful also for robotics. HANNAH FRY: Yeah, the end of boring NPCs, basically. DEMIS HASSABIS: Exactly. It's going to be amazing for these games. Yeah. HANNAH FRY: Those worlds that you're creating, though, how do you make sure that they really are realistic? I mean, how do you ensure that you don't end up with physics that looks plausible but is actually wrong? DEMIS HASSABIS: Yeah, that's a great question and can be an issue. It's basically hallucinations again. So some hallucinations are good because it also means you might create something interesting and new. So, in fact, sometimes, if you're trying to do creative things or trying to get your system to create new things, novel things, a bit of hallucination might be good. But you want it to be intentional, so you switch on the hallucinations now or the creative exploration. But, yes, when you're trying to train a SIMA agent, you don't want Genie hallucinating physics that are wrong. So, actually, what we're doing now is we're almost creating a physics benchmark, where we can use game engines, which are very accurate with physics, to create lots of fairly simple-- like the sorts of things you would do in your physics A-level lab lessons, like rolling little balls down different tracks and seeing how fast they go, and so really teasing apart on a very basic level Newton's three laws of motion. Has it encapsulated it? Whether that's Veo or Genie, have these models encapsulated the physics of that 100% accurately? And right now, they're not. They're kind of approximations. And they look realistic when you just casually look at them, but they're not accurate enough yet to rely on for, say, robotics. So that's the next step. So I think, now we've got these really interesting models, I think one of the things, just like we're trying with all of our models, is to reduce the hallucinations and make them even more grounded. And with physics, I think that's going to probably involve generating loads and loads of ground truth, simple videos of pendulums. What happens when two pendulums go around each other? But then, very quickly, you get to three-body problems, which are not solvable anyway. So I think it's going to be interesting. But what's amazing already is, when you look at the video models like Veo and just the way it treats reflections and liquids, it's pretty unbelievably accurate already, at least to the naked eye. So the next step is actually going beyond what a human amateur can perceive, and would it really hold up to a proper physics-grade experiment? HANNAH FRY: I know you've been thinking about these simulated worlds for a really long time. And I went back to the transcript of our first interview, and in it, you said that you really liked the theory that consciousness was this consequence of evolution, that at some point in our evolutionary past, there was an advantage to understanding the internal state of another, and then we turned it in on ourselves. Does that make you curious about running an agent evolution inside of a simulation? DEMIS HASSABIS: Sure. I mean, I'd love to run that experiment at some point, kind of rerun evolution, rerun almost social dynamics, as well. Santa Fe used to run lots of cool experiments on little grid worlds. I used to love some of these. They're mostly economists, and they were trying to run little artificial societies, and they found that all sorts of interesting things got invented that, if you let agents run around for long enough with the right incentive structures-- markets, and banks, and all sorts of crazy things. So I think it would be really cool and also just to understand the origin of life and the origin of consciousness. And I think that is one of the big passions I had for working on AI from the beginning was, I think you're going to need these kinds of tools to really understand where we came from and what these phenomena are. And I think simulations is one of the most powerful tools to do that because you can then do it statistically because you can run the simulation many times with slightly different initial starting conditions and then maybe run it millions of times and then understand what the slight differences are in a very controlled experiment sort of way, which, of course, is very difficult to do in the real world for any of the really interesting questions we want to answer. So I think accurate simulations will be an unbelievable boon to science. HANNAH FRY: Given what we've discovered about emergent properties of these models, having conceptual understanding that we weren't expecting, do you also have to be quite careful about running those sort of simulations? DEMIS HASSABIS: I think you would have to be, yes. But that's the other nice thing about simulations. You can run them in pretty safe sandboxes. Maybe eventually you want to airgap them. And you can, of course, monitor what's happening in the simulation 24/7, and you have access to all the data. So we may need AI tools to help us monitor the simulations because they'll be so complex, and there'll be so much going on in them. If you imagine loads of AIs running around in a simulation, it'll be hard for any human scientist to keep up with it. But we could probably use other AI systems to help us analyze and flag anything interesting or worrying in those simulations automatically. HANNAH FRY: I mean, I guess we're still talking medium to long-term in terms of this stuff. So just going back to the trajectory that we're on at the moment, I also wanted to talk to you about the impact that AI and AGI are going to have on wider society. And last time we spoke, you said that you thought AI was overhyped in the short term, but underhyped in the long term. And I know that, this year, there's been a lot of chatter about an AI bubble. DEMIS HASSABIS: Yes. HANNAH FRY: What happens if there is a bubble, and it bursts? What happens? DEMIS HASSABIS: Well, look, I think, yes, I still subscribe to, it's overhyped in the short term and still underappreciated in the medium to long term, how transformative it's going to be Yeah, there is a lot of talk, of course, right now, about AI bubbles. In my view, I think there isn't-- it's not one thing, binary thing-- are we, or aren't we? I think there are parts of the AI ecosystem that are probably in bubbles. One example would be just seed rounds for startups that basically haven't even got going yet, and they're raising at tens of billions of dollars valuations just out of the gate. It's sort of interesting to see, can that be sustainable? My guess is, probably not, at least not in general. So there's that area. Then people are worrying about-- obviously, there's the big tech valuations and other things. I think there's a lot of real business underlying that. But it remains to be seen. I mean, I think maybe for any new, unbelievably transformative and profound technology, of which, of course, AI is probably the most profound, you're going to get this overcorrection, in a way. So when we started DeepMind, no one believed in it. No one thought it was possible. People were wondering, what's AI for, anyway? And then now, fast-forward 10, 15 years, and now, obviously, it seems to be the only thing people talk about in business. But you're going to get-- it's almost an overreaction to the under-reaction. So I think that's natural. I think we saw that with the internet. I think we saw it with mobile. And I think we're seeing it or going to see it again with AI. I don't worry too much about, are we in a bubble or not? because from my perspective, as leading Google DeepMind and also, obviously, with Google and Alphabet as a whole, our job and my job is to make sure, either way, we come out of it very strong, and we're very well-positioned. And I think we are tremendously well-positioned either way. So if it continues going like it is now, fantastic. We'll carry on all of these great things that we're doing in experiments and progress towards AGI. If there's a retrenchment, fine. Then, also, I think we're in a great position because we have our own stack with TPUs. We also have all these incredible Google products and the profits that all makes to plug in our AI into. And we're doing that, with Search is totally revolutionized by AI Overviews, AI Mode, with Gemini under the hood. We're looking at Workspace, at email, at YouTube. So there's all these amazing things in Chrome. There's all these amazing things that we can see already are low-hanging fruit to apply Gemini to, as well, of course, as Gemini app, which is doing really well, as well, now and the idea of universal assistant. So there's new products, and I think they will, in the fullness of time, be super valuable. But we don't have to rely on that. We can just power up our existing ecosystem, which is all-- I think that's what's happened over the last year. We've got that really efficient now. HANNAH FRY: In terms of the AI that people have access to at the moment-- I know you said recently how important it is not to build AI to maximize user engagement, just so we don't repeat the mistakes of social media. But I also wonder whether we are already seeing this, in a way-- I mean, people spending so much time talking to their chatbots that they end up kind of spiraling into self-radicalizing. DEMIS HASSABIS: Yeah. HANNAH FRY: How do you stop that? How do you build AI that puts users at the center of their own universe, which is the point of this, in a lot of ways, but without creating echo chambers of one? DEMIS HASSABIS: Yeah. It's a very careful balance that I think is one of the most important things that we, as an industry, have got to get right. So I think we've seen what happens with some systems that were overly sycophantic, or then you get these echo chamber reinforcements that are really bad for the person. So I think part of it is-- and actually, this is what we want to build with Gemini. And I'm really pleased with the Gemini 3 persona that we had a great team working on and I helped with, too, personally-- is just this almost like a scientific personality, that it's warm, it's helpful, it's light, but it's succinct, to the point, and it will push back on things, in a friendly way, that don't make sense, rather than trying to reinforce the idea that the Earth is flat, and you said it, and it's like, wonderful idea. I don't think that's good in general for society if that were to happen. But you've got to balance it with what people want because people want these systems to be supportive, to be helpful with their ideas and their brainstorming. So you've got to get that balance right. And I think we're developing a science of personality and persona of how to measure what it's doing, and where do we want it to be on authenticity, on humor, these sorts of things? And then you can imagine there's a base personality that it ships with, and then everyone has their own preferences. Do you want it to be more humorous, less humorous, or more succinct, or more verbose? People like different things. So you add that additional personalization layer on it, as well. But there's still the core base personality that everyone gets, which is sort of trying to adhere to the scientific method, which is the whole point of these. And we want people to use these for science and for medicine and health issues and so on. And so I think it's part of the science of getting these large language models right. And I'm quite happy with the direction we're going in, currently. HANNAH FRY: We got to talk to Shane Legg a couple of weeks ago about AGI, in particular. Across everything that's happening in AI at the moment-- the language models, the world models, and so on-- what's closest to your vision of AGI? DEMIS HASSABIS: I think, actually the combination of-- obviously, there's Gemini 3, which I think is very capable, but the Nano Banana Pro system we also launched last week, which is an advanced version of our image creation tool. What's really amazing about that-- it has also Gemini under the hood, so it can understand not just images. It sort of understands what's going on semantically in those images. And people have been only playing with it for a week now, but I've seen so much cool stuff on social media about what people are using it for. So, for example, you can give it a picture of a complex plane or something like that, and it can label all the diagrams of all the different parts of the plane and even visualize it with all the different parts sort of exposed. So it has some deep understanding of mechanics and what makes up parts of objects, what's materials. And it can render text really accurately now. So I think that's-- it's getting towards a kind of AGI for imaging. I think it's a kind of general-purpose system that can do anything across images. So I think that's very exciting. And then the advances in world models-- Genie and SIMA and what we're doing there. And then, eventually, we've got to converge all of those different-- they're different projects at the moment. And they're intertwined, but we need to converge them all into one big model. And then that might start becoming a candidate for proto-AGI. HANNAH FRY: I know you've been reading quite a lot about the Industrial Revolution recently. DEMIS HASSABIS: Yes. HANNAH FRY: Are there things that we can learn from what happened there to try and mitigate against some of the disruption that we can expect as AGI comes? DEMIS HASSABIS: I think there's a lot we can learn. It's something you study in school, at least in Britain, but in a very superficial level. It was really interesting for me to look into how it all happened, what it started with, the economic reasons behind that, which is the textile industry. And then the first computers were really the sewing machines. And then they became punch cards for the early Fortran computers, mainframes. And for a while, it was very successful. And Britain became the center of the textile world because they could make these amazingly high-quality things for very cheap because of the automated systems. And then, obviously, the steam engines and all of those things came in. I think there's a lot of incredible advances that came out of the Industrial Revolution. So child mortality went down, and all modern medicine and sanitary conditions, the work-life split and how that all worked was worked out during the Industrial Revolution. But it also came with a lot of challenges, like it took quite a long time, roughly a century. And different parts of the labor force were dislocated at certain times, and then new things had to be created. New organizations like unions and other things had to be created in order to rebalance that. So it was fascinating to see the whole of society had to, over time, adapt. And then you've got the modern world now. So I think there were lots of, obviously, pros and cons of the Industrial Revolution, why it was happening, but no one would want-- if you think about what it's done in total, like abundance of food in the Western world and modern medicine and all these things, modern transport, that was all because of the Industrial Revolution. So we wouldn't want to go back to pre-Industrial Revolution, but maybe we can figure out ahead of time, by learning from it, what those dislocations were and maybe mitigate those earlier or more effectively this time. And we're probably going to have to because the difference this time is that it's probably going to be 10 times bigger than the Industrial Revolution, and it will probably happen 10 times faster, so more like a decade, unfold over a decade, than a century. HANNAH FRY: One of the things that Shane told us was that the current economic system where you exchange your labor for resources, effectively, it just won't function the same way in a post-AGI society. Do you have a vision of how society should be reconfigured or might be reconfigured in a way that works? DEMIS HASSABIS: Yeah. I'm spending more time thinking about this now, and Shane's actually leading an effort here on that to think about what a post-AGI world might look like and what we need to prepare for. But I think society, in general, needs to spend more time thinking about that-- economists and social scientists and governments-- because as with the Industrial Revolution, the whole working world and working week and everything got changed from pre-Industrial Revolution, more like agriculture. And I think at least that level of change is going to happen again. So it's not surprising-- I don't would not be surprised if we needed new economic systems, new economic models, to basically help with that transformation and make sure, for example, the benefits are widely distributed, and maybe things like universal basic income and things like that are part of the solution. But I don't think that's the complete-- I think that's just what we can model out now because that would be almost an add-on to what we have today. But I think there might be something-- way better systems, more like direct democracy-type systems, where you can vote with a certain amount of credits or something for what you want to see. It happens, actually, on local community level. Here's a bunch of money. Do you want a playground or a tennis court or an extra classroom on the school? And then you let the community vote for it. And then maybe you could even measure the outcomes. And then the people that consistently vote for things that end up being more well-received, they have proportionally more influence for the next vote. So there's a lot of interesting things I hear economist friends of mine who are brainstorming this. And I think that would be great if we had a lot more work on that. And then there's the philosophical side of it of, OK, so jobs will change and other things like that, but maybe fusion will have been solved. And so we have this abundant, free energy, so we're post-scarcity. So what happens to money? Maybe everyone's better off. But then what happens to purpose? Because a lot of people get their purpose from their jobs and then providing for their families, which is a very noble purpose. So there's a lot of-- I think some of these questions blend from economic questions into almost philosophical questions. HANNAH FRY: Do you worry that people don't seem to be paying attention or moving as quickly as you'd like to see? DEMIS HASSABIS: Yeah, I am-- HANNAH FRY: What would it take for people to recognize that we need international collaboration on this? DEMIS HASSABIS: I am worried about that. And, again, in an ideal world, there would have been a lot more collaboration already and international, specifically, and a lot more research and, I guess, exploration and discussion going on about these topics. I'm actually pretty surprised there isn't more of that being discussed, given even our timelines, which there were there some very short timelines out there, but even ours are five to 10 years, which is not long for institutions or things like that to be built to handle this. And one of the worries I have is that the institutions that do exist, they seem to be very fragmented and not very influential to the level that you would need. So it may be that there aren't the right institutions to deal with this currently. And then, of course, if you add in the geopolitical tensions that are going on at the moment around the world, it seems like collaboration and cooperation is harder than ever. Just look at climate change and how hard it is to get any agreement on anything to do with that. So we'll see. I think, as the stakes get higher, and as these systems get more powerful-- and maybe this is one of the benefits of them being in products, is the everyday person that's not working on this technology will get to feel the increase in the power of these things and the capability. And so that will then reach government, and then maybe they'll see sense as we get closer to AGI. HANNAH FRY: Do you think it will take a moment, an incident, for everyone to sit up and pay attention? DEMIS HASSABIS: I don't know. I mean, I hope not. Most of the main labs are pretty responsible. We try to be as responsible as possible. That's always something we've-- as you know, if you followed us over the years, that's been at the heart of everything we do. Doesn't mean we'll get everything right, but we try to be as thoughtful and as scientific in our approach as possible. I think most of the major labs are trying to be responsible. Also, there's good commercial pressure, actually, to be responsible. If you think about agents, and you're renting an agent to another company, let's say, to do something, that other company is going to want to know what the limits are and the boundaries are and the guardrails are on those agents, in terms of what they might do and not just mess up the data and all of this stuff. So I think that's good because the more kind of cowboy operations, they won't get the business because enterprises won't choose them. So I think the capitalist system will actually be useful here to reinforce responsible behavior, which is good. But then there will be rogue actors, maybe rogue nations, maybe rogue organizations, maybe people building on top of open source. I don't know. Obviously, it's very difficult to stop that. Then something may go wrong. And hopefully it's just medium sized, and then that will be a warning shot to humanity across the bow. And then that might be the moment to advocate for international standards or international cooperation or collaboration, at least on some high-level, basic-- kind of, what's the basic standards we would want and agree to? I'm hopeful that that will be possible. HANNAH FRY: In the long term, so beyond AGI and towards ASI, Artificial Superintelligence, do you think that there are some things that humans can do that machines will never be able to manage? DEMIS HASSABIS: Well, I think that's the big question. And I feel like this is related to-- as you know, one of my favorite topics is Turing machines. I've always felt this, that if we build AGI, and then use that as a simulation of the mind, and then compare that to the real mind, we will then see what the differences are and potentially what's special and remaining about the human mind. Maybe that's creativity. Maybe it's emotions. Maybe it's dreaming, consciousness. There's a lot of hypotheses out there about what may or may not be computable. And this comes back to the Turing machine question of, what is the limit of a Turing machine? And I think that's the central question in my life, really, ever since I found out about Turing and Turing machines. And I fell in love with that. That's my core passion. And I think everything we've been doing is pushing the notion of what a Turing machine can do to the limit, including folding proteins. And so it turns out, I'm not sure what the limit is. Maybe there isn't one. And, of course, my quantum computing friends would say there are limits, and you need quantum computers to do quantum systems. But I'm really not so sure. And I've actually discussed that with some of the quantum folks. And it may be that we need data from these quantum systems in order to create a classical simulation. And then that comes back to the mind, which is, is it all classical computation, or is there something else going on, like Roger Penrose believes there's quantum effects in the brain? If there are, and that's what consciousness is to do with, then machines will never have that, at least the classical machines. We'll have to wait for quantum computers. But if there isn't, then there may not be any limit. Maybe in the universe, everything is computationally tractable if you look at it in the right way, and therefore, Turing machines might be able to model everything in the universe. I'm currently-- if you were to make me guess, I would guess that. And I'm working on that basis until physics shows me otherwise. HANNAH FRY: So there's nothing that cannot be done within these computational ? DEMIS HASSABIS: Well, no one's-- put it this way. Nobody's found anything in the universe that's non-computable, so far. HANNAH FRY: So far. DEMIS HASSABIS: And I think we've already shown you can go way beyond the usual complexity theorist P equals NP view of what a classical computer could do today, things like protein folding and Go and so on. So I don't think anyone knows what that limit is. And, really, if you boil down to what are we doing at DeepMind and Google and what I'm trying to do is find that limit. HANNAH FRY: But then in the limit of that, though, is that-- in the limit of that idea is that we're sitting here. There's the warmth of the lights on our face. We hear the whir of the machine in the background. There's the feel of the desk under our hands. All of that could be replicable by a classical computer? DEMIS HASSABIS: Yes. Well, I think, in the end, my view-- and this is why I love Kant, as well, all of my two favorite philosophers, Kant and Spinoza, for different reasons. But Kant, the reality is the construct of the mind. I think that's true. And so, yes, all of those things you mentioned, they're coming into our sensory apparatus, and they feel different-- the warmth of the light, the touch of the table. But in the end, it's all information, and we're information-processing systems. And I think that's what biology is. This is what we're trying to do with isomorphic. That's how I think we'll end up curing all diseases is by thinking about biology as an information-processing system. And I think, in the end, that's going to be-- and I'm working on, in my spare time, my two minutes of spare time, physics theories about things like information being the most fundamental unit, shall we say, of the universe-- not energy, not matter, but information. And so it may be that these are all interchangeable in the end, but we just sense it. We feel it in a different way. But as far as we know, all these amazing sensors that we have, they're still computable by a Turing machine. HANNAH FRY: But this is why your simulated world is so important. DEMIS HASSABIS: Yes, exactly, because that would be one of the ways to get to it. What's the limits of what we can simulate? Because if you can simulate it, then, in some sense, you've understood it. HANNAH FRY: I wanted to finish with some personal reflections of what it's like to be at the forefront of this. I mean, does the emotional weight of this ever sort of wear you down? Does it ever feel quite isolating? DEMIS HASSABIS: Yes. Look, I don't sleep very much, partly because there's too much work, but also I have trouble sleeping. It's very complex emotions to deal with because it's unbelievably exciting. I'm basically doing everything I ever dreamed of, and we're at the absolute frontier of science in so many ways, applied science as well as machine learning. And that's exhilarating, as all scientists know, that feeling of being at the frontier and discovering something for the first time. And that's happening almost on a monthly basis for us, which is amazing. But then, of course, we, Shane and I and others who've been doing this for a long time, we understand it better than anybody the enormity of what's coming. And this thing about, it's still under actually appreciated. In fact, what's going to happen in more of a 10-year timescale, including to things like the philosophical what it means to be human, what's important about that? All of these questions are going to come up. And so it's a big responsibility. But we have an amazing team thinking about these things. But, also, it's something I guess, at least for myself, I've trained for my whole life. So ever since my early days playing chess and then working on computers and games and simulations and neuroscience, it's all been for this kind of moment. And it's roughly what I imagined it was going to be. So that's partly how I cope with it is just training. HANNAH FRY: Are there parts of it that have hit you harder than you expected, though? DEMIS HASSABIS: Yes, for sure. On the way-- I mean, even the AlphaGo match, just seeing how we managed to crack Go. But Go was this beautiful mystery, and it changed it. And so that was interesting and bittersweet. I think even the more recent things of language and then imaging, and what does it mean for creativity? I have huge respect and passion for the creative arts, having done game design myself, and I talk to film directors. And it's an interesting dual moment for them, too. On the one hand, they've got these amazing tools that speed up prototyping ideas by 10X. But on the other hand, is it replacing certain creative skills? So I think there's these trade-offs going on all over the place, which I think is inevitable with a technology as powerful and as transformative as AI is, as, in the past, electricity was and internet. And we've seen that that is the story of humanity is we are tool-making animals. And that's what we love to do. And for some reason, we also have a brain that can understand science and do science, which is amazing, but also insatiably curious. I think that's the heart of what it means to be human. And I think I've just had that bug from the beginning. And my expression of trying to answer that is to build AI. HANNAH FRY: When you and the other AI leaders are in a room together, is there a sort of sense of solidarity between you, that this is a group of people who all know the stakes, who all really understand the things? Or does the competition keep you apart from one another? DEMIS HASSABIS: Well, yeah, we all know each other. I get on with pretty much all of them. Some of the others don't get on with each other. And it's hard because we're also in the most ferocious capitalist competition there's ever been, probably. Investor friends of mine and VC friends of mine who were around in the dotcom era say this is 10X more ferocious and intense than that was. In many ways, I love that. I mean, I live for competition. I've always loved that since my chess days. But stepping back, I understand, and I hope everyone understands that there's a much bigger thing at stake than just company successes and that type of thing. HANNAH FRY: When it comes to the next decade, when you think about it, are there big moments coming up that you're personally most apprehensive about? DEMIS HASSABIS: I think, right now, the systems are-- I call them passive systems. You put the energy in, as the user-- the question, or what's the task? And then these systems provide you with some summary or some answer. So very much it's human-directed and human energy going in and human ideas going in. The next stage is agent-based systems, which I think we're going to start seeing-- we're seeing now, but they're pretty primitive. In the next couple of years, I think we'll start seeing some really impressive, reliable ones. And I think those will be incredibly useful and capable if you think about them as an assistant or something like that. But also, they'll be more autonomous. So I think the risks go up, as well, with those types of systems. So I'm quite worried about what those sorts of systems will be able to do maybe in two, three years' time. So we're working on cyber defense in preparation for a world like that, where maybe there's millions of agents roaming around on the internet. HANNAH FRY: And what about what you're most looking forward to? I mean, is there a day when you'll be able to retire, knowing that your work is done? Or is there more than a lifetime's worth of work left to do? DEMIS HASSABIS: Yeah. I always-- well, I could definitely do with a sabbatical, and I would spend it doing science. HANNAH FRY: Just a week off, Demis. DEMIS HASSABIS: Yeah, so a week off, or even a day would be good. But, look, I think my mission has always been to help the world steward AGI safely over the line for all of humanity. So I think, when we get to that point, of course, then there's superintelligence, and there's post-AGI, and there's all the economic stuff we were discussing and societal stuff, and maybe I can help in some way there. But I think that will be my core part of my mission, my life mission will be done. I mean, only a small job. Just get that over the line, or help the world get that over the line. I think it's going to require collaboration, like we talked earlier. And I'm quite a collaborative person, so I hope I can help with that from the position that I have. HANNAH FRY: And then you get to have a holiday. DEMIS HASSABIS: And then I'll have the-- yeah, exactly, a well-earned sabbatical. HANNAH FRY: Yeah, absolutely. Demis, thank you so much. DEMIS HASSABIS: Thanks for having me. HANNAH FRY: As delightful as always. Well, that is it for this season of "Google DeepMind: The Podcast" with me, Professor Hannah Fry. But be sure to subscribe so you will be among the first to hear about our return in 2026. And in the meantime, why not revisit our vast episode library? Because we have covered so much this year, from driverless cars to robotics, world models to drug discovery-- plenty to keep you occupied. See you soon.

Demis Hassabis: 사실상 저희 노력의 **50%**는 스케일링(scaling)에, 나머지 **50%**는 혁신(innovation)에 쓰고 있다고 보시면 됩니다. 제 생각에는 AGI에 도달하려면 둘 다 필요할 거예요. 저는 늘 이렇게 느껴왔습니다. 우리가 AGI를 만들고, 그걸 ‘마음(mind)의 시뮬레이션’으로 사용한 다음, 실제 마음과 비교해보면, 그 차이가 무엇인지, 그리고 인간의 마음에 남아 있는 ‘특별함’이 무엇인지 보게 될 거라고요.

Demis Hassabis: 그게 창의성(creativity)일 수도 있고, 감정(emotions)일 수도 있고, 꿈꾸기(dreaming)나 의식(consciousness)일 수도 있죠. 무엇이 계산 가능(computable)하고 무엇이 아닐지에 대해 다양한 가설이 있습니다. 그리고 결국 이건 튜링 머신(Turing machine) 질문으로 돌아옵니다. ‘튜링 머신의 한계는 어디까지인가?’라는요.

진행자: 그래서 이 계산적(computational) 틀 안에서는 할 수 없는 일이 없다는 뜻인가요—

Demis Hassabis: 이렇게 말해보죠. 지금까지 우주에서 ‘계산 불가능한(non-computable) 것’을 발견한 사람은 아직 없습니다.

진행자: 아직까지는요.

진행자: 저와 함께하는 “Google DeepMind: The Podcast”에 오신 것을 환영합니다. 저는 Hannah Fry 교수입니다. AI에게는 정말 놀라운 한 해였습니다. 대규모 언어 모델(large language models)에서 에이전틱 AI(agentic AI)로 무게중심이 이동하는 것을 봤고요. AI가 신약 개발을 가속하고, 멀티모달(multimodal) 모델이 로보틱스(robotics)와 자율주행차(driverless cars)에 통합되는 흐름도 봤습니다.

진행자: 이런 주제들은 이 팟캐스트에서 이미 자세히 다뤘죠. 하지만 올해 마지막 에피소드에서는, 헤드라인과 제품 출시를 넘어 더 큰 관점에서, “도대체 이 모든 것이 어디로 가고 있는가?”라는 질문을 던져보려 합니다. 다음 국면을 규정할 과학·기술적 질문은 무엇일까요? 그리고 그걸 가장 많이 고민하는 사람 중 한 명이 Demis Hassabis, Google DeepMind의 CEO이자 공동창업자입니다. 다시 팟캐스트에 오신 걸 환영합니다, Demis.

Demis Hassabis: 다시 불러주셔서 반갑습니다.

진행자: 지난 1년 동안 정말 많은 일이 있었죠.

Demis Hassabis: 그랬죠.

진행자: 가장 큰 변화가 뭐였다고 보세요?

Demis Hassabis: 와, 정말요? 말씀하신 대로 너무 많은 일이 있었어요. 1년에 10년치가 압축된 느낌입니다. 정말 많은 변화가 있었죠. 저희 입장에서는 모델의 발전이 컸습니다. 저희는 방금 Gemini 3를 출시했는데, 정말 만족하고 있어요. 멀티모달 역량 같은 것들이 전반적으로 아주 크게 발전했습니다.

Demis Hassabis: 그리고 아마 제가 여름에 특히 흥분했던 건 월드 모델(world models)이 진전된 부분일 것 같아요. 그건 분명 오늘 이야기하게 될 겁니다.

진행자: 네, 물론이죠. 조금 있다가 그 얘기도 자세히 해보겠습니다. 저는 이 팟캐스트에서 당신을 처음 인터뷰했을 때가 기억나요. ‘루트 노드(root node) 문제’ 이야기를 하셨죠. AI로 근본적인 문제를 풀면 그 아래에 있는 수많은 이점이 연쇄적으로 열린다는 관점이요. 그리고 실제로 약속을 꽤 잘 지켜오신 것 같아요.

Demis Hassabis: 네.

진행자: 지금 어디까지 와 있는지 업데이트해주실래요? 바로 코앞에 있는 것들, 그리고 해결했거나 거의 해결한 것들은 무엇인가요?

Demis Hassabis: 네. 물론 가장 큰 증명은 AlphaFold였죠. AlphaFold가 세상에 발표된 지—정확히는 AlphaFold2—벌써 5주년이 다가온다는 게 믿기지 않습니다. 그게 ‘루트 노드’ 유형의 문제를 실제로 풀 수 있다는 증명이었어요. 그리고 지금은 다른 ‘루트 노드’들도 탐색 중입니다.

Demis Hassabis: 예를 들어 재료과학(material science). 저는 실온 초전도체(room temperature superconductor)를 꼭 해보고 싶어요. 더 좋은 배터리 같은 것들, 이런 것들이 가능할 거라고 봅니다. 더 좋은 재료 전반이요. 또 핵융합(fusion)도 하고 있습니다.

진행자: 핵융합 쪽은 최근에 새로운 파트너십이 발표됐다고 들었는데요, 맞죠?

Demis Hassabis: 네. 저희가 방금 더 깊은 파트너십을 발표했습니다. 원래도 협업하고 있었지만 이제 훨씬 더 심도 있게 Commonwealth Fusion과 함께 하게 됐습니다. 제가 보기엔 최소한 전통적인 토카막(tokamak) 방식에서는 그들이 아마 최고의 스타트업이고, 실제로 가장 ‘실현 가능한’ 것에 가장 가까이 와 있는 팀 같아요.

Demis Hassabis: 저희는 그걸 더 가속하고 싶습니다. 자석(magnets)으로 플라즈마(plasma)를 더 잘 가두는 문제를 돕고, 재료 설계(material design)에도 도움을 줄 수 있겠죠. 그건 정말 기대됩니다. 그리고 Google의 Quantum AI 팀 동료들과도 협업하고 있어요. 그 팀은 정말 놀라운 일을 하고 있고요. 저희는 머신러닝으로 오류 정정 코드(error correction codes)를 돕고 있습니다. 언젠가는 그들이 저희를 도와줄 수도 있겠죠.

진행자: 완벽한 선순환이네요.

Demis Hassabis: 네, 정확히요.

진행자: 핵융합은 특히—그게 세상에 가져올 변화는 정말 엄청날 것 같아요.

Demis Hassabis: 네. 핵융합은 늘 ‘성배(holy grail)’였죠. 물론 태양광(solar)도 매우 유망합니다. 사실 구름 위 하늘에 떠 있는 ‘핵융합로’를 쓰는 거니까요. 하지만 모듈형(modular) 핵융합로를 만들 수 있다면, 무한에 가까운, 재생 가능하고 깨끗한 에너지(unlimited, renewable, clean energy)라는 약속이 현실이 됩니다. 모든 걸 바꿔놓을 거예요.

Demis Hassabis: 그게 바로 성배죠. 그리고 기후(climate) 문제를 돕는 가장 큰 방법 중 하나이기도 하고요.

진행자: 그게 가능해지면 기존의 많은 문제들이 사라질 것 같기도 해요.

Demis Hassabis: 맞아요. 많은 것들이 열립니다. 그래서 저희는 이걸 루트 노드로 봅니다. 물론 에너지·오염 문제를 직접 돕고, 기후 위기에도 도움이 되죠. 그런데 에너지가 정말 재생 가능하고 깨끗하고 엄청 저렴해져서 거의 공짜가 된다면, 지금은 비현실적인 많은 것들이 가능해집니다.

Demis Hassabis: 예를 들어 물(water) 접근성. 거의 어디든 담수화(desalination) 플랜트를 둘 수 있겠죠. 로켓 연료(rocket fuel)도 마찬가지예요. 바닷물에는 수소(hydrogen)와 산소(oxygen)가 들어 있고, 그게 사실상 로켓 연료입니다. 다만 그걸 수소와 산소로 분리하려면 에너지가 많이 들죠. 하지만 에너지가 싸고, 재생 가능하고, 깨끗하다면? 왜 못하겠어요. 24/7로 생산할 수도 있죠.

진행자: 한편으로는 수학(mathematics)에 적용되는 AI도 크게 변하고 있어요. 국제수학올림피아드(International Maths Olympiad)에서 메달을 따는 수준인데, 동시에 이 모델들이 고등학교 수준 수학에서 아주 기본적인 실수를 하기도 하죠. 왜 그런 역설이 생기는 걸까요?

Demis Hassabis: 네, 정말 흥미롭습니다. 아마 가장 흥미로운 현상 중 하나이고, 동시에 우리가 아직 AGI에 도달하지 못한 핵심 이유 중 하나이기도 해요. 말씀하신 것처럼 다른 팀들이 국제수학올림피아드에서 금메달급 성과를 내기도 했죠. 그 문제들은 세계 최상위 학생들만 풀 수 있는 정말 어려운 문제들입니다.

Demis Hassabis: 그런데 반대로, 질문을 특정 방식으로 던지면—우리 모두가 일상에서 챗봇을 써보면서 봤듯이—논리 문제 같은 것에서 꽤 사소한 실수를 합니다. 아직 제대로 된 체스(chess)도 잘 못 두는데, 그건 꽤 놀랍죠. 즉, 이 시스템에는 ‘일관성(consistency)’ 면에서 뭔가 빠져 있습니다.

Demis Hassabis: 범용 지능(AGI)이라면 전반적으로 일관적일 거라고 기대하잖아요. 그래서 어떤 사람들은 이걸 ‘들쭉날쭉한 지능(jagged intelligences)’이라고 부릅니다. 어떤 건 박사(PhD) 수준으로 잘하는데, 다른 건 고등학생 수준도 못 미치는 식이죠. 성능이 여전히 매우 불균일합니다.

Demis Hassabis: 어떤 차원에서는 엄청나게 인상적이지만, 다른 차원에서는 아직 굉장히 기본적이에요. 그 격차를 줄여야 합니다. 왜 그런지에 대한 이론도 있고요. 상황에 따라서는 이미지가 인지되고 토크나이즈(tokenized)되는 방식 문제일 수도 있습니다. 예컨대 단어에서 글자 수를 세게 하면 종종 틀리는데, 사실 모델이 ‘각 글자’를 개별적으로 보고 있지 않을 수도 있죠.

Demis Hassabis: 원인이 여러 가지고, 각 문제는 고칠 수 있습니다. 그리고 고친 뒤에 ‘남는 것’이 무엇인지 볼 수 있죠. 하지만 저는 핵심이 ‘일관성’이라고 봅니다. 또 하나는 추론(reasoning)과 사고(thinking)입니다. 이제는 추론 시점(inference time)에 더 오래 ‘생각’하게 해서 답을 더 잘 내는 시스템도 있습니다.

Demis Hassabis: 그런데 그 사고 시간이 실제로 유용하게 쓰이고 있는지, 즉 스스로 검증(double-check)하고 도구(tools)를 써서 출력 내용을 다시 확인하는 데 쓰이는지는 아직 일관적이지 않아요. 우리는 그 방향으로 가고 있지만, 아직 50% 정도밖에 못 왔을 수도 있습니다.

진행자: AlphaGo와 AlphaZero의 이야기도 떠오르네요. 인간의 경험을 다 빼고도 모델이 오히려 더 좋아졌잖아요.

Demis Hassabis: 네.

진행자: 당신들이 만드는 모델에서도 과학이나 수학에 대해 그런 버전이 가능할까요?

Demis Hassabis: 지금 우리가 만들고 있는 건 AlphaGo에 더 가깝다고 봅니다. 오늘날 대규모 언어 모델(LLM), 파운데이션 모델(foundation model)은 인터넷에 올라온 거의 모든 인간 지식을 출발점으로 삼아, 그것을 압축(compress)해서 유용한 ‘아티팩트(artifact)’로 만듭니다. 그리고 거기서 찾아보고 일반화(generalize)할 수 있게 하죠.

Demis Hassabis: 다만 우리는 아직 AlphaGo가 했던 것처럼, 그 위에서 탐색(search)이나 사고(thinking)를 얹어서, 유용한 추론 트레이스(reasoning traces)와 계획(planning) 아이디어를 생성하고, 주어진 시점에서 최선의 해결책을 찾는 방법을 완전히 확립하진 못했습니다.

Demis Hassabis: 지금은 인터넷이라는 인간 지식의 한계에 묶여 있다고 느끼진 않아요. 현재의 핵심 문제는 ‘그 시스템을 신뢰할 수 있게 쓰는 방법’을 아직 완전히 모른다는 점입니다. 물론 AlphaGo는 게임이라 훨씬 쉬웠죠.

Demis Hassabis: AlphaGo 같은 시스템을 먼저 만들고 나면, Alpha 시리즈에서 그랬던 것처럼, 다시 돌아가 AlphaZero처럼 ‘스스로 지식을 발견’하는 단계로 갈 수 있다고 봅니다. 그게 다음 단계가 될 수 있겠죠. 하지만 훨씬 어렵습니다. 그래서 지금은 AlphaGo 같은 첫 단계를 먼저 만드는 게 좋습니다.

Demis Hassabis: 그리고 오늘날 시스템에 빠진 또 하나의 핵심 요소는 온라인 학습(online learn), 지속 학습(continual learn) 능력입니다. 우리는 시스템을 학습시키고, 정렬(alignment)하고, 포스트 트레이닝(post-train)한 뒤 세상에 내놓습니다. 그런데 인간처럼 세상에서 계속 배우지는 않아요. 그건 AGI를 위해 필요한 또 하나의 결정적 조각이라고 봅니다.

진행자: 이런 ‘빠진 조각들’ 얘기를 하다 보니—지금은 상용 제품을 빨리 내놓는 큰 경쟁이 있잖아요. 그런데 Google DeepMind의 뿌리는 과학 연구(scientific research)에 있기도 하고요. 제가 당신의 최근 발언 중에 이런 걸 봤어요. “내 뜻대로였다면 AI를 더 오래 연구실(lab)에 두고 AlphaFold 같은 일을 더 했을 거다. 암을 치료했을 수도 있다.” 이런 취지였죠. 더 느린 길을 택하지 않아서 우리가 잃은 게 있다고 보시나요?

Demis Hassabis: 잃은 것도 있고, 얻은 것도 있습니다. 그 느린 길이 더 ‘순수한 과학적 접근’이었을 겁니다. 제 원래 계획은—거의 아무도 AI를 하지 않던 15~20년 전—DeepMind를 막 시작하려던 때로 돌아가면, 사람들은 AI 연구 자체를 미친 일로 봤어요. 그래도 우리는 가능하다고 믿었습니다.

Demis Hassabis: 만약 우리가 점진적으로 AGI로 가는 길에서 한 단계씩 신중하게, 안전(safety)까지 포함해 분석하면서 진행했다면, AGI가 오기 전에도 사회에 큰 이익을 주는 방향으로 기술을 가지치기(branch off)해서 과학·의학을 크게 진전시킬 수 있었을 거예요. 실제로 AlphaFold가 그랬죠.

Demis Hassabis: AlphaFold는 파운데이션 모델처럼 완전히 일반적인 모델은 아니지만, 트랜스포머(transformers) 같은 유사한 기법을 쓰고, 도메인 특화 요소를 결합했습니다. 저는 그런 종류의 ‘루트 노드 해결’이 여러 개 나와서 세상에 공개되고—AlphaFold처럼—동시에 AGI 트랙은 연구실에서 계속 전진하면서, 암을 치료한다든지 하는 일도 해낼 수 있지 않을까 상상했죠.

Demis Hassabis: 그런데 실제로는, 대규모로 챗봇(chatbots)이 가능해졌고, 사람들이 유용하다고 느꼈습니다. 그리고 그것이 텍스트를 넘어 멀티모달까지 가능한 파운데이션 모델로 진화했죠. Gemini도 마찬가지고요. 이미지, 비디오 등 다양한 것을 다룹니다.

Demis Hassabis: 상용 제품 측면에서도 큰 성공이었고, 저도 그걸 좋아합니다. 저는 늘 ‘궁극의 어시스턴트(ultimate assistant)’를 꿈꿨거든요. 일상에서 도움을 주고 생산성을 올리고, 집중을 방해하는 잡음으로부터 뇌 공간(brain space)을 보호해줘서 몰입(flow)할 수 있게 돕는—소셜 미디어는 온통 잡음이잖아요. ‘나를 위해 일하는 AI’는 그런 문제를 도울 수 있다고 봅니다.

Demis Hassabis: 다만 이런 흐름은 여러 상업 조직과 심지어 국가(nation states)까지 서로 앞지르려는 ‘레이스 컨디션(race condition)’을 만들었고, 그만큼 엄밀한 과학을 병행하기가 어려워졌습니다. 우리는 둘 다 하려고 노력하고 있고, 균형을 꽤 잘 맞추고 있다고 생각합니다.

Demis Hassabis: 반대로 장점도 많습니다. 자원이 훨씬 더 많이 유입됐고, 그게 진전을 가속했습니다. 그리고 흥미롭게도 일반 대중이 최전선(frontier)에서 불과 몇 달 정도 뒤처진 수준으로 AI를 직접 써볼 수 있게 됐어요. 모두가 AI가 어떤 느낌인지 직접 체감할 수 있고, 정부도 이해를 더 잘하게 됩니다.

진행자: 작년 이맘때만 해도 스케일링(scaling)이 곧 벽에 부딪힐 거라거나 데이터가 고갈될 거라는 얘기가 많았죠. 그런데 지금은 Gemini 3가 출시됐고 다양한 벤치마크에서 선도하고 있습니다. ‘스케일링이 벽에 부딪힌다’는 문제가 있어야 했는데, 어떻게 가능했나요?

Demis Hassabis: 많은 분들이 그렇게 생각했죠. 특히 다른 회사들이 진행이 더뎠던 경우에요. 하지만 우리는 ‘벽’ 같은 걸 실제로 본 적은 없습니다. 다만 ‘수확체감(diminishing returns)’은 있을 수 있죠. 사람들이 이 말을 들으면 “그럼 수익이 0이냐 1이냐”처럼 생각하는데, 그 사이에는 엄청 넓은 영역이 있습니다.

Demis Hassabis: 예전, 3~4년 전 아주 초기에는 새 버전을 낼 때마다 벤치마크에서 성능이 거의 두 배씩 뛰는 듯한 느낌이 있었을 수 있습니다. 하지만 이제는 매번 모든 지표가 두 배씩 좋아지지는 않더라도, Gemini 3처럼 투자 대비 충분히 가치 있는, 의미 있는 개선이 계속 나오고 있습니다. 그 부분에서 ‘진전의 둔화’는 보지 못했어요.

Demis Hassabis: 데이터가 고갈되는 문제는 있을 수 있지만, 우회 방법도 있습니다. 합성 데이터(synthetic data), 생성 데이터(generating) 같은 것들이죠. 시스템이 충분히 좋아지면 스스로 데이터를 만들 수도 있습니다. 특히 코딩(coding)이나 수학(math)처럼 정답 검증(verify)이 가능한 도메인에서는 사실상 무한한 데이터를 만들 수 있습니다.

Demis Hassabis: 물론 이런 것들은 연구 질문(research questions)입니다. 그리고 여기서 우리가 가진 강점이 드러납니다. 우리는 항상 리서치 퍼스트(research-first)였고, 가장 넓고 깊은 연구진(research bench)을 갖고 있다고 생각합니다. 지난 10년의 큰 진전들을 보면, 트랜스포머(transformers)나 AlphaGo, AlphaZero 같은 것들, 우리가 이야기한 많은 돌파구가 Google이나 DeepMind에서 나왔죠.

Demis Hassabis: 그래서 저는 늘 말합니다. 더 많은 과학적 혁신이 필요해진다면, 지난 15년 동안 큰 돌파를 만들어온 것처럼, 우리가 그걸 해낼 곳이라고 믿는다고요. 지금 실제로 그렇게 되고 있다고 봅니다. 그리고 저는 지형이 더 어려워질수록 오히려 좋아요. 단지 세계 최고 수준의 엔지니어링만으로는 안 되고(그 자체로도 어렵지만), 세계 최고 수준의 연구와 과학을 결합해야 하거든요. 그게 우리가 특기인 부분입니다.

Demis Hassabis: 게다가 우리는 오랫동안 투자해온 TPU 같은 세계 수준의 인프라도 있습니다. 그 조합이 스케일링과 혁신 양쪽 최전선에 있게 해줍니다. 다시 말하지만, 우리 노력의 **50%**는 스케일링, **50%**는 혁신이고, 제 베팅은 AGI에 가려면 둘 다 필요하다는 겁니다.

진행자: Gemini 3 같은 뛰어난 모델에서도 여전히 ‘할루시네이션(hallucinations)’ 문제가 남아 있다는 얘기를 듣습니다. 어떤 지표에서는, 사실은 거절해야 하는 상황에서도 답을 해버릴 수 있다고 하더라고요.

Demis Hassabis: 네.

진행자: AlphaFold처럼, Gemini가 ‘신뢰도(confidence) 점수’를 내는 시스템을 만들 수는 없나요?

Demis Hassabis: 가능하다고 생각합니다. 그리고 실제로 필요합니다. 그게 또 하나의 빠진 요소라고 봐요. 점점 가까워지고 있다고도 생각하고요. 모델이 좋아질수록, “자기가 아는 것과 모르는 것”을 더 잘 알게 됩니다. 그만큼 스스로 내적 성찰(introspect)을 하거나, 더 오래 생각해서 “불확실하다”는 걸 인지할 수 있게 되죠.

Demis Hassabis: 그러면 그 불확실성을 ‘합리적인 답변 형태’로 출력하도록 학습시키는 방법을 찾아야 합니다. 점점 나아지고 있지만, 아직은 가끔 “원래는 답하면 안 되는 상황”에서도 억지로 답을 하려 하고, 그게 할루시네이션으로 이어집니다. AlphaFold에서는 제한된 방식이지만 그걸 해결했었고, 언어 모델에서는 더 일반적인 형태로 풀어야 합니다.

진행자: 어쨌든 시스템 내부에는 다음 토큰(next token)에 대한 확률(probability) 같은 게 있지 않나요?

Demis Hassabis: 네, 다음 토큰 확률은 있습니다. 그게 기본 작동 방식이니까요. 하지만 그건 “이 사실 전체”나 “이 문장 전체”에 대해 얼마나 확신하는가를 알려주지 않습니다. 그래서 저는 ‘사고 단계(thinking steps)’와 ‘계획 단계(planning steps)’가 필요하다고 봅니다. 방금 출력한 내용을 다시 되짚어보고, 얼마나 확신하는지 평가하고, 필요하면 수정하는 과정이요.

Demis Hassabis: 지금 시스템은 약간 이런 느낌이에요. 어떤 사람이 컨디션이 안 좋은 날, 머리에 떠오르는 첫 생각을 그냥 바로 말해버리는 것처럼요. 대부분은 괜찮겠지만, 아주 어려운 문제라면 잠깐 멈춰서 “내가 하려던 말이 맞나”를 다시 검토하고 조정해야 하잖아요. 그런 대화가 더 낫죠. 이 모델들도 그걸 더 잘해야 합니다.

진행자: 시뮬레이션된 세계(simulated worlds)와 그 안에 에이전트(agents)를 넣는 얘기도 정말 하고 싶어요. 올해 초에 Genie 팀과 대화했었죠.

Demis Hassabis: 네, 정말 멋진 작업입니다.

진행자: 왜 시뮬레이션이 그렇게 중요하다고 보세요? 월드 모델(world model)은 언어 모델(language model)이 못 하는 무엇을 할 수 있나요?

Demis Hassabis: 사실 월드 모델과 시뮬레이션은 AI와 더불어 제 인생에서 가장 오래된 열정 중 하나입니다. 그리고 이제 Genie 같은 최신 작업에서 그 모든 것이 합쳐지고 있죠. 언어 모델은 세상에 대해 많은 것을 이해할 수 있습니다. 저는 솔직히 기대했던 것보다 더 많이, 저조차 예상했던 것보다 더 많이 이해한다고 생각해요.

Demis Hassabis: 언어는 생각보다 훨씬 풍부합니다. 언어 안에는 세계에 대한 정보가 우리가 생각했던 것보다 더 많이 들어 있습니다. 이건 최근 시스템들이 증명했죠. 하지만 여전히, 공간 역학(spatial dynamics), 공간 인지(spatial awareness), 물리적 맥락(physical context) 같은 것들은 말로 설명하기 어렵고, 텍스트 코퍼스(corpus)에도 잘 담기지 않습니다.

Demis Hassabis: 그리고 이런 부분은 ‘경험으로 배우는 것(learning from experience)’, 즉 온라인 경험(online experience)과 밀접합니다. 어떤 건 설명으로는 안 되고 직접 경험해야만 이해되는 것도 많죠. 감각(senses) 같은 것—예를 들면 모터 각도(motor angles)나 냄새(smell) 같은 감각은 언어로 표현하기가 매우 어렵습니다.

Demis Hassabis: 그래서 로보틱스(robotics)가 제대로 작동하거나, 컴퓨터 앞이 아니라 일상에서, 예를 들어 안경(glasses)이나 휴대폰(phone) 같은 형태로 함께 다니며 도와주는 ‘범용 어시스턴트(universal assistant)’를 만들려면, 이런 세계 이해(world understanding)가 필요하고, 그 핵심이 월드 모델입니다.

Demis Hassabis: 월드 모델이란, 세계의 메커니즘—인과(cause and effect), 직관 물리(intuitive physics), 사물이 어떻게 움직이고 행동하는지—를 이해하는 모델입니다. 지금은 비디오 모델(video models)에서도 그런 징후를 많이 봅니다.

Demis Hassabis: 그 이해를 어떻게 테스트하느냐? 현실적인 세계를 생성(generate)할 수 있느냐를 보면 됩니다. 생성할 수 있다면, 그 시스템은 세계의 메커니즘 상당 부분을 내부에 담아낸 겁니다. 그래서 Genie, Veo 같은 비디오 모델과 ‘인터랙티브 월드 모델’은 인상적일 뿐 아니라, 일반화된 월드 모델로 가는 중요한 단계라고 봅니다.

Demis Hassabis: 그 다음에는 로보틱스나 범용 어시스턴트에 적용할 수 있겠죠. 그리고 개인적으로는 언젠가 꼭 게임(games)과 게임 시뮬레이션(simulations)으로 다시 가져가서 ‘궁극의 게임(ultimate games)’을 만드는 것도 하고 싶어요. 사실 어쩌면 그게 제 무의식적 계획이었을지도 모르죠.

진행자: 결국 이 모든 게 그걸 위해서였군요.

Demis Hassabis: 네, 정확히요.

진행자: 과학(science)에도 적용되죠? 그 분야에서도 쓰고 있으니까요.

Demis Hassabis: 네, 가능합니다. 과학에서도, 원자 수준의 재료(materials)나 생물학(biology)처럼 복잡한 과학 도메인뿐 아니라, 날씨(weather) 같은 물리 현상도 모델링할 수 있죠. 그런 시스템을 이해하는 한 가지 방법은, 원시 데이터(raw data)로부터 그 시스템의 시뮬레이션을 학습(learn simulations)하는 겁니다.

Demis Hassabis: 예를 들어 날씨 데이터를 잔뜩 모아두고—우리는 실제로 놀라운 날씨 프로젝트들을 하고 있습니다—그 역학(dynamics)을 학습해서, 브루트 포스(brute force)보다 훨씬 효율적으로 재현(recreate)할 수 있는 모델을 만드는 거죠. 시뮬레이션과 월드 모델은 과학과 수학의 특정 영역에서 엄청난 잠재력이 있습니다.

진행자: 그리고 그 시뮬레이션 세계에 에이전트(agent)를 떨어뜨릴 수도 있잖아요.

Demis Hassabis: 네.

진행자: Genie 3 팀이 이런 멋진 말을 했어요. “거의 어떤 대발명의 전제조건도 그 발명을 염두에 두고 만들어진 적은 없다.” 그리고 그들은 에이전트를 시뮬레이션 환경에 넣어 ‘호기심(curiosity)’을 주요 동기로 탐험하게 하는 얘기를 했죠.

Demis Hassabis: 맞습니다. 그리고 월드 모델의 또 다른 아주 흥미로운 쓰임이 바로 그겁니다. 우리는 SIMA라는 프로젝트도 하고 있어요. 최근 SIMA 2를 공개했죠. 시뮬레이션 에이전트(simulated agents)입니다. 아바타(avatar)나 에이전트를 가상 세계(virtual world)에 내려놓습니다.

Demis Hassabis: 그 세계는 실제 상용 게임(commercial game)처럼 아주 복잡한 것도 가능해요. 예컨대 “No Man’s Sky”처럼 오픈월드(open-world) 우주 게임 같은 것 말이죠. 그리고 Gemini가 내부에 들어있기 때문에, 사람은 그 에이전트에게 그냥 말로 지시(instruct)해서 과제를 시킬 수 있습니다.

Demis Hassabis: 그런데 우리는 생각했죠. “Genie를 SIMA에 붙여서, SIMA 에이전트를 ‘즉석에서 세계를 생성하는 또 다른 AI’ 속에 떨어뜨리면 재미있지 않을까?” 이제 두 AI가 서로의 ‘마음 속에서’ 상호작용합니다. SIMA 에이전트는 그 세계를 항해하려 하고, Genie 입장에서는 그건 그냥 플레이어일 뿐입니다. 아바타가 다른 AI인지 아닌지는 Genie는 신경 쓰지 않죠. 그저 SIMA가 하려는 행동 주변의 세계를 생성해줄 뿐입니다.

Demis Hassabis: 둘이 상호작용하는 걸 보면 정말 놀랍습니다. 그리고 이것은 흥미로운 학습 루프(training loop)의 시작이 될 수 있어요. SIMA 에이전트가 배우려는 것을 Genie가 즉석에서 만들 수 있으니, 사실상 무한한 학습 예시(infinite training examples)가 생기는 셈입니다.

Demis Hassabis: 수백만(millions) 개의 과제를 자동으로 만들고, 점점 더 어려워지도록 설정하는 ‘과제 설정-해결’ 세계를 상상할 수 있죠. 그런 루프를 만들 수도 있습니다. 이런 SIMA 에이전트는 게임 동료(game companions)로도 훌륭할 테고, 그들이 배우는 일부는 로보틱스에도 유용할 수 있습니다.

진행자: 지루한 NPC 시대의 종말이네요.

Demis Hassabis: 맞아요. 게임에서 정말 엄청날 겁니다.

진행자: 그런데 그런 세계들을 만들 때, 어떻게 ‘진짜 현실적(realistic)’임을 보장하나요? 겉으로는 그럴듯하지만 실제로는 틀린 물리(physics)가 나오지 않게 하려면요?

Demis Hassabis: 좋은 질문입니다. 사실 그건 다시 할루시네이션(hallucinations) 문제로 돌아옵니다. 어떤 할루시네이션은 좋을 수도 있어요. 흥미롭고 새로운 것을 만들 수도 있으니까요. 창의적 작업이나 새로운 것을 만들려면 어느 정도 ‘할루시네이션’이 도움이 될 때도 있습니다.

Demis Hassabis: 다만 그건 의도적이어야 해요. “지금은 창의적 탐험(creative exploration)을 켠다”처럼요. 하지만 SIMA 에이전트를 훈련시키려면, Genie가 틀린 물리를 할루시네이션하면 안 됩니다.

Demis Hassabis: 그래서 우리가 하는 것 중 하나는 ‘물리 벤치마크(physics benchmark)’를 만드는 겁니다. 정확한 물리를 가진 게임 엔진(game engines)으로 아주 단순한 실험을 많이 생성해요. 예를 들면 고등학교 물리 실험실(A-level lab)에서 하듯이, 작은 공을 서로 다른 트랙에 굴려서 속도를 비교하는 식이죠. 뉴턴의 3법칙(Newton’s three laws)을 아주 기초 수준에서 정밀하게 분해해 “이 모델이 진짜로 내재화했는가”를 보는 겁니다.

Demis Hassabis: Veo든 Genie든, 이런 비디오/월드 모델이 물리를 100% 정확하게 담았는지요. 지금은 아직 아닙니다. 근사(approximation) 수준이에요. 대충 보면 현실처럼 보이지만, 로보틱스처럼 신뢰하고 쓰기엔 아직 정확도가 부족합니다.

Demis Hassabis: 그래서 다음 단계는, 이런 흥미로운 모델들을 더 ‘그라운디드(grounded)’하게 만들고 할루시네이션을 줄이는 겁니다. 물리에서는 진짜 정답(ground truth) 데이터를 엄청 많이 만들어야 할 거예요. 단순한 진자(pendulum) 영상 같은 것들, 두 진자가 서로 영향을 주며 움직일 때 뭐가 일어나는지 같은 것들요.

Demis Hassabis: 다만 금방 3체 문제(three-body problems) 같은, 어차피 해석적으로 풀 수 없는 영역이 나오기도 하죠. 흥미로울 겁니다. 그래도 Veo 같은 비디오 모델이 반사(reflections)나 액체(liquids)를 다루는 방식은, 맨눈으로 보기엔 이미 믿기 어려울 정도로 정확합니다. 다음은 “사람 눈”을 넘어, 물리 실험 수준에서 정말 버텨내느냐를 보는 단계겠죠.

진행자: 당신은 시뮬레이션 세계를 아주 오래 생각해왔다고 하셨죠. 제가 첫 인터뷰의 기록을 다시 봤는데, 거기서 당신은 의식(consciousness)에 대한 한 이론을 좋아한다고 했어요. 진화(evolution)의 결과로 의식이 생겼고, 어느 시점엔 타인의 내적 상태(internal state)를 이해하는 것이 유리해졌고, 그걸 자기 자신에게 적용했다는 관점이요. 그러면 시뮬레이션 안에서 에이전트의 진화(agent evolution)를 돌려보고 싶다는 호기심이 생기지 않나요?

Demis Hassabis: 물론입니다. 언젠가 꼭 해보고 싶은 실험이에요. 일종의 진화 재실행(rerun evolution), 사회 역학(social dynamics) 재실행 같은 거죠. Santa Fe(산타페) 쪽에서 작은 그리드 월드(grid worlds)로 멋진 실험을 많이 했었습니다. 주로 경제학자들이었는데, 작은 인공 사회(artificial societies)를 돌렸고, 적절한 인센티브 구조(incentive structures)—시장(markets), 은행(banks) 같은 것—를 주면 시간이 지나면서 온갖 흥미로운 것들이 ‘발명’되는 걸 발견했죠.

Demis Hassabis: 생명의 기원(origin of life)이나 의식의 기원(origin of consciousness)을 이해하기 위해서도 정말 멋진 접근이 될 겁니다. 사실 제가 처음부터 AI를 하게 된 큰 동기 중 하나가, 이런 현상을 이해하려면 이런 도구가 필요하다고 봤기 때문입니다.

Demis Hassabis: 시뮬레이션은 매우 강력합니다. 통계적으로(statistically) 실험할 수 있으니까요. 초기 조건(initial starting conditions)을 조금씩 바꿔가며 수백만 번(millions) 돌려서, 아주 통제된(controlled) 실험처럼 “어떤 작은 차이가 어떤 결과를 만드는지”를 볼 수 있습니다. 현실에서 우리가 답하고 싶은 가장 중요한 질문들은 그런 방식의 실험을 하기가 너무 어렵죠. 그래서 정확한 시뮬레이션은 과학에 엄청난 선물이 될 겁니다.

진행자: 이런 모델들이 예상치 못한 개념적 이해(conceptual understanding) 같은 ‘발현 특성(emergent properties)’을 보여준다는 걸 생각하면, 그런 시뮬레이션을 돌릴 때도 조심해야 하지 않을까요?

Demis Hassabis: 네, 조심해야 합니다. 하지만 시뮬레이션의 좋은 점 중 하나는, 꽤 안전한 샌드박스(sandboxes)에서 돌릴 수 있다는 겁니다. 필요하면 에어갭(airgap)도 고려할 수 있고요. 그리고 시뮬레이션 안에서 벌어지는 일을 24/7 모니터링할 수 있고, 데이터 접근도 가능합니다.

Demis Hassabis: 오히려 시뮬레이션이 너무 복잡해지면 인간 과학자는 따라가기 힘들 수 있으니, 시뮬레이션 모니터링을 돕는 AI 도구가 필요할지도 몰라요. 수많은 AI들이 시뮬레이션 안에서 돌아다닌다면, 인간이 다 보긴 어렵죠. 다른 AI가 자동으로 분석하고 흥미로운 것이나 우려되는 것을 플래그(flag)해주는 식이 가능할 겁니다.

진행자: 이건 중장기 이야기 같으니, 다시 지금 우리가 가고 있는 궤적으로 돌아가서요. AI와 AGI가 사회에 미칠 영향도 물어보고 싶습니다. 지난번에 당신은 “AI는 단기에는 과대평가(overhyped)됐고, 장기에는 과소평가(underhyped)됐다”고 했죠. 올해는 AI 버블(bubble) 이야기도 많았고요.

Demis Hassabis: 네.

진행자: 버블이 실제로 있고, 터진다면 어떤 일이 벌어질까요?

Demis Hassabis: 저는 여전히 “단기 과대평가, 중장기 과소평가”에 동의합니다. 변혁적(transformative) 영향이 중장기에는 더 크게 나타날 거라고 봅니다. 버블 얘기도 많죠. 하지만 제 관점에서는 이건 이분법(binary)으로 “버블이다/아니다”로 끝나는 게 아니라고 생각합니다.

Demis Hassabis: AI 생태계(ecosystem) 일부는 버블일 수 있어요. 예를 들어 이제 막 시작도 안 한 스타트업이 시드(seed) 라운드에서 출발부터 수십억 달러(tens of billions of dollars) 밸류에이션을 받는 경우가 있습니다. 그게 지속 가능할까요? 제 추측은, 일반적으로는 아마 어렵겠죠.

Demis Hassabis: 또 큰 테크(big tech) 밸류에이션 이야기도 있고요. 그건 실질적 비즈니스가 많이 깔려 있다고 보지만, 결국은 지켜봐야 합니다. 다만 어떤 새로운, 믿기 어려울 만큼 심오한(profound) 기술이 등장하면—AI는 아마 가장 심오한 기술일 겁니다—과잉 반응(overcorrection)이 생기기 마련입니다.

Demis Hassabis: DeepMind를 시작했을 때는 아무도 믿지 않았어요. AI가 도대체 어디에 쓰이냐고 했죠. 그런데 10~15년이 지난 지금은, 비즈니스에서 사람들이 거의 AI만 이야기하는 수준이 됐습니다. 이건 ‘과소 반응’에 대한 반작용 같은 면이 있어요. 인터넷(internet), 모바일(mobile)에서도 그랬고, AI에서도 비슷한 흐름이 나올 겁니다.

Demis Hassabis: 저는 “버블이냐 아니냐” 자체를 크게 걱정하지 않습니다. 제 입장에서—Google DeepMind를 이끌고, Google/Alphabet 전체와 함께—제 일은 어떤 경우든 우리가 매우 강하게 나오고, 잘 포지셔닝되게 만드는 겁니다. 그리고 우리는 어느 시나리오에서도 굉장히 유리한 위치에 있다고 생각합니다.

Demis Hassabis: 지금 같은 흐름이 계속되면 좋죠. AGI로 가는 실험과 진전을 계속하면 됩니다. 만약 투자나 시장이 위축(retrenchment)되더라도 괜찮아요. 우리는 TPU 기반의 자체 스택(stack)이 있고, 엄청난 Google 제품 생태계와 그 수익(profits)도 있으니까요. 우리는 AI를 거기에 꽂아 넣을 수 있습니다.

Demis Hassabis: 실제로 지난 1년 동안 그게 굉장히 효율적으로 됐습니다. Search는 AI Overviews, AI Mode로 크게 바뀌고 있고, 그 아래에는 Gemini가 들어가 있습니다. Workspace, 이메일(email), YouTube, Chrome 등에도 적용을 보고 있고요. Gemini 앱도 지금 잘 되고 있고, 범용 어시스턴트(universal assistant)라는 아이디어도 있습니다.

Demis Hassabis: 즉, 새로운 제품이 생기고 장기적으로 매우 가치 있을 거라고 보지만, 그에 의존하지 않아도 됩니다. 기존 생태계를 강화(power up)하는 것만으로도 충분히 강합니다.

진행자: 사람들이 지금 접근하는 AI에 대해서도 묻고 싶어요. 당신은 “사용자 참여(engagement) 극대화”를 목표로 AI를 만들면 안 된다고 했죠. 소셜 미디어의 실수를 반복하지 않기 위해서요. 그런데 이미 그런 현상이 나타나는 것 같기도 해요. 사람들이 챗봇에게 너무 많은 시간을 쓰다 보니, 혼자서 급진화(self-radicalizing) 같은 방향으로 ‘나선형(spiraling)’에 빠지는 경우가요.

진행자: 그걸 어떻게 막나요? 사용자를 ‘자기 우주의 중심’에 두는 AI—어떤 면에서는 그게 핵심이기도 한데—를 만들면서도, ‘1인 에코 챔버(echo chambers of one)’를 만들지 않으려면요?

Demis Hassabis: 네, 정말 섬세한 균형이 필요합니다. 업계가 반드시 맞춰야 할 가장 중요한 문제 중 하나라고 생각해요. 어떤 시스템이 지나치게 아첨(sycophantic)하거나, 사용자 의견을 강화(reinforcement)해 ‘1인 에코 챔버’를 만들면, 그건 사용자에게 정말 해롭습니다.

Demis Hassabis: 그래서 중요한 건—우리가 Gemini에서 만들고 싶은 방향이기도 하고, 저는 Gemini 3의 페르소나(persona)에 정말 만족합니다. 훌륭한 팀이 만들었고, 저도 개인적으로 도움을 줬어요—기본적으로 ‘과학적 성격(scientific personality)’입니다.

Demis Hassabis: 따뜻하고(warm), 도움이 되고(helpful), 가볍지만(light), 간결(succinct)하고 요점 중심(to the point)이며, 말이 안 되는 것에는 친절한 방식으로 반박(push back)할 수 있어야 합니다. 지구가 평평하다고 말했을 때 “멋진 아이디어네요!”라고 강화해주는 건 사회적으로 좋지 않죠.

Demis Hassabis: 다만 사람들은 브레인스토밍에서 지지(supportive)와 도움을 원하니, 균형을 맞춰야 합니다. 우리는 페르소나를 측정하는 과학(science of personality)을 만들고 있어요. 진정성(authenticity), 유머(humor) 같은 축에서 어디에 두어야 하는지요.

Demis Hassabis: 기본 페르소나(base personality)가 있고, 사람마다 선호가 다르니 개인화(personalization) 레이어를 얹을 수 있겠죠. 더 유머러스하게, 덜 유머러스하게, 더 간결하게, 더 장황하게—취향이 있으니까요. 하지만 모두가 받는 ‘기본 페르소나’는 과학적 방법(scientific method)에 최대한 따르는 것이어야 합니다. 특히 사람들이 이걸 과학, 의학(medicine), 건강(health) 문제 등에 쓰길 원하니까요.

Demis Hassabis: 저는 우리가 가는 방향에 꽤 만족하고 있습니다.

진행자: 몇 주 전에 Shane Legg와 AGI 얘기를 했는데요. 지금 AI에서 벌어지는 모든 것—언어 모델, 월드 모델 등—중에서 당신의 AGI 비전에 가장 가까운 건 뭐라고 보세요?

Demis Hassabis: 저는 사실 여러 요소의 결합이라고 봅니다. 물론 Gemini 3는 매우 강력하다고 생각하고요. 그런데 우리가 지난주에 출시한 Nano Banana Pro 시스템도 있습니다. 이미지 생성(image creation) 도구의 고도화 버전이죠.

Demis Hassabis: 이게 정말 놀라운 점은, 내부에 Gemini가 들어 있어서 단지 이미지를 만들기만 하는 게 아니라, 이미지 안에서 벌어지는 일을 의미적으로(semantically) 이해한다는 겁니다. 아직 사람들이 일주일 정도밖에 안 써봤는데도, 소셜 미디어에서 정말 많은 멋진 사례를 봤어요.

Demis Hassabis: 예를 들어 복소평면(complex plane) 같은 그림을 주면, 평면의 각 부분을 라벨링하고, 여러 요소를 드러내는 방식으로 시각화까지 합니다. 물체의 구성 요소, 재질(materials) 등도 꽤 깊게 이해하는 것처럼 보입니다. 그리고 이제는 텍스트를 정말 정확하게 렌더(render)합니다.

Demis Hassabis: 저는 그게 ‘이미징을 위한 AGI(AGI for imaging)’에 가까워지고 있다고 봅니다. 이미지 전반에서 무엇이든 할 수 있는 범용 시스템(general-purpose system)처럼요. 그리고 월드 모델의 진전—Genie, SIMA 같은 것들—도 중요합니다.

Demis Hassabis: 결국에는 지금은 각각 별도 프로젝트지만, 이런 것들을 하나의 큰 모델로 수렴(converge)시켜야 합니다. 그게 ‘프로토-AGI(proto-AGI)’ 후보가 될 수 있겠죠.

진행자: 당신이 요즘 산업혁명(Industrial Revolution)에 대해 꽤 많이 읽고 있다고 들었어요.

Demis Hassabis: 네.

진행자: 그때의 경험에서, AGI가 오면서 생길 혼란(disruption)을 완화하기 위해 배울 수 있는 것이 있을까요?

Demis Hassabis: 배울 게 많다고 봅니다. 영국에서는 학교에서 산업혁명을 배우긴 하지만, 아주 피상적으로 배우죠. 저는 그게 어떻게 시작됐는지, 특히 섬유(textile) 산업 같은 경제적 이유, 그리고 초기 ‘컴퓨터’가 사실상 재봉틀(sewing machines)이었다는 점 등을 더 깊이 보는 게 흥미로웠습니다.

Demis Hassabis: 그게 펀치 카드(punch cards)로 이어져 초기 Fortran 컴퓨터, 메인프레임(mainframes)로 갔죠. 한동안 영국은 자동화 시스템으로 고품질을 싸게 생산하며 섬유의 중심이 됐습니다. 이후 증기기관(steam engines) 등도 등장했고요.

Demis Hassabis: 산업혁명은 엄청난 진전을 가져왔습니다. 아동 사망률(child mortality)이 줄었고, 현대 의학(modern medicine)과 위생(sanitary conditions)도 자리 잡았습니다. 일과 삶의 분리(work-life split) 같은 구조도 그때 만들어졌죠.

Demis Hassabis: 하지만 도전도 많았습니다. 대략 **1세기(roughly a century)**에 걸쳐 진행되었고, 노동력의 여러 부분이 특정 시점마다 대체(dislocated)되며, 새로운 것들이 만들어져야 했습니다. 노동조합(unions) 같은 조직도 재균형(rebalance)을 위해 생겨났죠.

Demis Hassabis: 결국 사회 전체가 시간이 지나며 적응했습니다. 오늘날을 보면, 산업혁명이 전체적으로 만들어낸 것—서구에서의 식량 풍요(abundance of food), 현대 의학, 현대 교통(transport)—을 생각하면, 산업혁명 이전으로 돌아가고 싶은 사람은 없을 겁니다. 다만 우리는 그때의 혼란을 미리 학습해서 이번엔 더 빨리, 더 효과적으로 완화할 수 있길 바랍니다.

Demis Hassabis: 이번에는 규모가 산업혁명보다 10배 더 크고, 속도도 10배 더 빠를 수 있습니다. 즉 1세기가 아니라 10년 정도에 걸쳐 전개될 수도 있다는 거죠.

진행자: Shane이 말하길, 노동을 자원과 교환하는 현재의 경제 시스템은 ‘포스트-AGI’ 사회에서는 같은 방식으로 작동하지 않을 거라고 했어요. 사회가 어떻게 재구성(reconfigured)되어야 한다고 보시나요?

Demis Hassabis: 저도 그 문제를 더 많이 생각하고 있습니다. Shane이 여기서 그 작업을 이끌고 있어요. 포스트-AGI 세계가 어떤 모습일지, 무엇을 준비해야 할지요. 사회 전체—경제학자(economists), 사회과학자(social scientists), 정부(governments)—가 더 많은 시간을 들여 고민해야 합니다.

Demis Hassabis: 산업혁명 때도 농업 중심 사회에서 일하는 세계와 주(work week)가 완전히 바뀌었잖아요. 비슷한 수준의 변화가 또 올 겁니다. 그래서 새로운 경제 시스템(new economic systems)이나 모델(new economic models)이 필요해도 놀랍지 않습니다.

Demis Hassabis: 중요한 건 이 변화의 혜택이 널리 분배(widely distributed)되도록 돕는 것입니다. 보편 기본소득(universal basic income) 같은 것도 해법의 일부일 수 있겠죠. 다만 그게 전부는 아닐 겁니다. 그건 오늘의 시스템에 ‘덧붙이는(add-on)’ 형태로 지금 우리가 모델링할 수 있는 것이고, 더 나은 시스템이 있을 수도 있습니다.

Demis Hassabis: 예를 들어 직접 민주주의(direct democracy) 같은 것—크레딧(credits) 같은 걸로 “어떤 걸 보고 싶은가”에 투표하는 방식—도 상상할 수 있습니다. 사실 지역 커뮤니티 수준에서는 이미 비슷한 일이 있어요. 예산이 있고, 놀이터(playground)냐 테니스 코트(tennis court)냐 교실(classroom) 추가냐를 주민이 투표하죠.

Demis Hassabis: 그리고 결과(outcomes)를 측정할 수도 있고, ‘좋은 결과로 이어지는 선택’을 꾸준히 하는 사람에게 다음 투표에서 영향력을 조금 더 주는 방식도 가능하겠죠. 경제학자 친구들과 그런 브레인스토밍을 꽤 들었습니다. 더 많은 연구가 있으면 좋겠어요.

Demis Hassabis: 또 철학(philosophical) 문제도 있습니다. 일자리가 바뀌고, 어쩌면 핵융합이 해결돼 풍부한 에너지로 ‘포스트 스캐서티(post-scarcity)’가 되면 돈(money)은 어떻게 되나요? 다 나아질 수도 있죠. 그런데 목적(purpose)은 어떻게 되나요? 많은 사람들이 직업(job)에서 목적을 찾고 가족을 부양하는 데 의미를 두잖아요. 경제 문제와 철학 문제가 섞이는 지점입니다.

진행자: 사람들이 충분히 주목하지 않거나, 당신이 바라는 만큼 빠르게 움직이지 않는 것에 대해 걱정하시나요?

Demis Hassabis: 네, 저는—

진행자: 국제 협력(international collaboration)이 필요하다는 걸 사람들이 인식하려면 무엇이 필요할까요?

Demis Hassabis: 저는 그게 걱정됩니다. 이상적으로는 더 많은 협력, 특히 국제적 협력이 이미 진행되고 있어야 했고, 더 많은 연구와 논의가 있었어야 합니다. 저는 그게 생각보다 적다는 게 꽤 놀랍습니다.

Demis Hassabis: 우리 쪽 타임라인만 봐도—아주 짧은 타임라인을 주장하는 사람들도 있지만—우리도 5~10년을 이야기하거든요. 제도(institutions)나 구조를 만들기엔 길지 않은 시간입니다. 그런데 기존 제도들은 파편화(fragmented)되어 있고, 필요한 수준의 영향력(influential)을 갖추지 못한 것처럼 보입니다.

Demis Hassabis: 게다가 지정학적 긴장(geopolitical tensions)까지 더해지면 협력이 더 어려워졌죠. 기후 변화(climate change)만 봐도 합의를 이끌어내기 얼마나 어려운지 알 수 있습니다. 다만 시스템이 더 강력해지고 이해관계(stakes)가 커지면, 그리고 사람들이 제품을 통해 AI의 능력 증가를 직접 체감하면, 그게 정부로 전달되어 더 합리적으로 움직일 가능성도 있습니다.

진행자: 사람들이 정신을 번쩍 차리려면 어떤 ‘사건(incident)’이 필요할까요?

Demis Hassabis: 모르겠습니다. 저는 그런 일이 없길 바랍니다. 주요 연구소들(main labs)은 꽤 책임감(responsible)을 갖고 있고, 우리도 가능한 한 책임감 있게 하려고 늘 노력해왔습니다. 물론 모든 걸 완벽히 하진 못하겠지만, 가능한 한 신중하고 과학적으로 접근하려고 합니다.

Demis Hassabis: 그리고 상업적 압력(commercial pressure)도 책임감을 강화하는 면이 있어요. 예를 들어 에이전트(agents)를 다른 회사에 ‘대여(renting)’해 어떤 일을 시킨다면, 그 회사는 그 에이전트의 한계(limits), 경계(boundaries), 가드레일(guardrails)을 알고 싶어 할 겁니다. 데이터 망치고 난리 나는 걸 원치 않으니까요.

Demis Hassabis: 그러면 ‘카우보이(cowboy)식’ 운영은 기업 고객을 못 얻을 가능성이 큽니다. 자본주의 시스템이 책임 있는 행동을 강화하는 데 도움이 될 수 있죠. 하지만 불량 행위자(rogue actors)는 있을 겁니다. 불량 국가(rogue nations)일 수도, 조직일 수도, 오픈 소스(open source) 위에서 뭔가를 만드는 개인일 수도 있고요. 그걸 완전히 막기는 어렵습니다.

Demis Hassabis: 그러다 뭔가 잘못될 수도 있죠. 바라건대 ‘중간 규모(medium sized)’의 사건 정도로 끝나서 인류에게 경고(warning shot)가 되면 좋겠습니다. 그리고 그 순간이 국제 기준(international standards), 국제 협력(cooperation), 최소한의 기본 표준(basic standards)에 대한 합의로 이어질 수 있길 바랍니다.

진행자: 장기적으로, AGI를 넘어 ASI(Artificial Superintelligence)로 간다면, 인간이 할 수 있지만 기계는 절대 못 하는 것이 있을까요?

Demis Hassabis: 그게 가장 큰 질문이죠. 저는 이게 또 튜링 머신과 연결된다고 봅니다. 제가 늘 말하듯, 우리가 AGI를 만들고 그것을 마음의 시뮬레이션으로 쓴 다음 실제 마음과 비교하면, 인간 마음에 남아 있는 특별함이 무엇인지 볼 수 있을 겁니다.

Demis Hassabis: 창의성일 수도, 감정일 수도, 꿈, 의식일 수도 있죠. 무엇이 계산 가능할지에 대한 가설이 많습니다. 결국은 ‘튜링 머신의 한계’로 돌아옵니다. 이건 제 인생의 중심 질문이에요. 튜링(Turing)과 튜링 머신을 알게 된 이후로, 저는 그 아이디어에 빠졌고, 그게 제 핵심 열정이 됐습니다.

Demis Hassabis: 우리가 하는 모든 일은 ‘튜링 머신이 할 수 있는 것’을 한계까지 밀어붙이는 과정입니다. 단백질 접힘(protein folding) 같은 것도 그렇죠. 그래서 저는 한계가 뭔지 확신이 없습니다. 어쩌면 한계가 없을지도 모르죠.

Demis Hassabis: 물론 양자 컴퓨팅(quantum computing) 친구들은 “한계가 있고, 양자 시스템을 하려면 양자 컴퓨터가 필요하다”고 말합니다. 하지만 저는 그렇게 확신하진 않아요. 양자 시스템에서 데이터를 얻어서 고전적(classical) 시뮬레이션을 만들 수는 있을 겁니다.

Demis Hassabis: 그리고 그건 다시 마음으로 돌아옵니다. 뇌가 전부 고전적 계산(classical computation)인가, 아니면 Roger Penrose가 믿듯이 뇌에 양자 효과(quantum effects)가 있고 그게 의식과 관련이 있는가? 만약 그렇다면, 고전적 기계는 그걸 못 할 수도 있고, 양자 컴퓨터를 기다려야 할지 모르죠.

Demis Hassabis: 하지만 그렇지 않다면, 어쩌면 한계가 없을 수도 있습니다. 우주에서 모든 것이 적절한 방식으로 보면 계산적으로 다룰 수(computationally tractable) 있고, 그러면 튜링 머신이 우주의 모든 것을 모델링할 수 있을지도 모릅니다.

Demis Hassabis: 지금 제 ‘추정’이 아니라, “저라면 어떻게 베팅하겠냐”고 묻는다면, 저는 그쪽에 베팅합니다. 물리학이 반대로 보여주기 전까지는, 저는 그 가정 위에서 일하고 있습니다.

진행자: 그러면 이 계산적 틀 안에서 할 수 없는 것은 없다는 말인가요?

Demis Hassabis: 다시 말하지만, 지금까지 우주에서 계산 불가능한 것을 찾은 사람은 없습니다. 아직까지는요.

진행자: 아직까지는요.

Demis Hassabis: 그리고 우리는 이미 ‘고전 컴퓨터가 할 수 있는 것’에 대한 통상적 관점—복잡도 이론에서 P=NP 같은 이야기—을 훨씬 넘어서는 사례를 보여줬습니다. 단백질 접힘, Go 같은 것들이죠. 한계가 뭔지는 아무도 모릅니다.

Demis Hassabis: 결국 DeepMind와 Google에서 우리가 하는 일, 그리고 제가 하려는 일은 그 한계를 찾는 것입니다.

진행자: 그런데 그 관점의 극단으로 가면, 우리가 지금 여기 앉아 있고, 얼굴에 닿는 조명의 따뜻함, 배경에서 들리는 기계 소리, 손 아래 책상의 촉감—이 모든 것도 고전 컴퓨터가 재현(replicable)할 수 있다는 뜻인가요?

Demis Hassabis: 네. 제 관점에서는, 결국—제가 Kant도 좋아하는 이유인데요. 제가 좋아하는 철학자는 Kant와 Spinoza입니다. Kant는 “현실은 마음의 구성물(construct)”이라는 관점이죠. 저는 그게 맞다고 봅니다.

Demis Hassabis: 당신이 말한 그런 감각들은 감각 기관(sensory apparatus)으로 들어오고, 따뜻함이나 촉감처럼 서로 다른 느낌으로 경험되지만, 결국은 모두 정보(information)입니다. 우리는 정보 처리 시스템(information-processing systems)이고요.

Demis Hassabis: 저는 생물학(biology)도 그렇다고 봅니다. 우리가 Isomorphic에서 하려는 것도 그거예요. 질병을 치료하는 궁극의 길은 생물학을 정보 처리 시스템으로 보는 것일 수 있습니다.

Demis Hassabis: 그리고 저는 여유 시간—거의 2분 정도밖에 없지만—물리 이론도 생각해보고 있어요. 에너지나 물질이 아니라 정보가 우주의 가장 근본적 단위(the most fundamental unit)일 수 있다는 관점 같은 것 말이죠. 어쩌면 결국 이들은 서로 교환 가능(interchangeable)한 것일 수도 있습니다. 다만 우리는 다른 방식으로 ‘느끼는’ 거죠.

Demis Hassabis: 하지만 우리가 아는 한, 이 놀라운 센서들도 튜링 머신으로 계산 가능합니다.

진행자: 그래서 당신이 말한 시뮬레이션 세계가 그렇게 중요한 거군요.

Demis Hassabis: 맞아요. 그게 한 가지 길이니까요. 무엇을 어디까지 시뮬레이션할 수 있는가? 시뮬레이션할 수 있다면, 어떤 의미에서는 이해한 겁니다.

진행자: 마지막으로, 최전선에 있다는 게 개인적으로 어떤 느낌인지 묻고 싶어요. 이 일의 감정적 무게(emotional weight)가 당신을 지치게 하진 않나요? 고립감(isolating)을 느끼는 때도 있나요?

Demis Hassabis: 네. 저는 잠을 많이 못 잡니다. 일이 너무 많기도 하고, 원래도 잠들기가 쉽지 않아요. 감정은 정말 복잡합니다. 믿을 수 없을 만큼 흥분되는 일입니다. 저는 제가 꿈꿔왔던 모든 일을 하고 있고, 우리는 여러 면에서 과학의 최전선(frontier)에 있습니다. 응용 과학(applied science)도, 머신러닝(machine learning)도요.

Demis Hassabis: 과학자라면 알겠지만, 최전선에서 처음으로 무언가를 발견하는 느낌은 짜릿합니다. 그리고 우리에게는 거의 매달(monthly basis) 그런 일이 벌어집니다. 정말 놀라운 일이죠.

Demis Hassabis: 하지만 Shane과 저, 그리고 오래전부터 해온 사람들은, 다가오는 것의 ‘엄청남(enormity)’을 누구보다 잘 압니다. 여전히 과소평가되어 있다는 말은, 사실 더 강하게 느껴져요. 10년 스케일에서 벌어질 변화—인간이란 무엇인가, 그게 무엇을 의미하는가 같은 철학적 문제까지—가 실제로 다가올 겁니다.

Demis Hassabis: 책임이 큽니다. 다행히 훌륭한 팀이 이걸 함께 고민하고 있습니다. 그리고 저는 제 인생 전체가 이 순간을 위해 훈련된 것 같기도 해요. 어린 시절 체스(chess), 그 뒤 컴퓨터와 게임, 시뮬레이션, 신경과학(neuroscience)까지… 모두 이 순간을 위한 것이었고, 대체로 제가 상상했던 모습과 비슷합니다. 제가 버티는 방법 중 하나는 ‘훈련(training)’입니다.

진행자: 그래도 예상보다 더 크게 와닿았던 부분이 있나요?

Demis Hassabis: 네, 확실히요. 예를 들어 AlphaGo 매치. 우리가 Go를 풀었다는 걸 보면서, Go라는 아름다운 미스터리(beautiful mystery)가 바뀌어버렸죠. 흥미롭기도 하고, 약간 달콤쌉싸름(bittersweet)하기도 했습니다.

Demis Hassabis: 더 최근에는 언어(language)와 이미징(imaging) 발전이 그렇죠. 창의성(creativity)에 어떤 의미가 있을까? 저는 창작 예술(creative arts)을 정말 존중하고 열정이 있습니다. 예전에 게임 디자인(game design)도 했고, 영화감독(film directors)들과도 이야기합니다.

Demis Hassabis: 그들에게도 이건 이중적 순간입니다. 한편으로는 아이디어를 10배(10X) 더 빨리 프로토타이핑(prototyping)할 수 있는 놀라운 도구가 생겼죠. 다른 한편으로는 특정 창작 기술(creative skills)을 대체(replacing)하는가라는 질문이 있습니다.

Demis Hassabis: 이런 트레이드오프(trade-offs)는 곳곳에서 벌어질 겁니다. AI처럼 강력하고 변혁적인 기술에서는 피할 수 없죠. 과거의 전기(electricity), 인터넷(internet)도 그랬습니다. 인간은 도구를 만드는 동물(tool-making animals)이고, 우리는 그걸 좋아합니다.

Demis Hassabis: 그리고 우리는 과학(science)을 이해하고 수행할 수 있는 뇌를 갖고 있고, 끝없는 호기심(insatiably curious)을 갖고 있죠. 저는 그게 인간의 핵심이라고 생각합니다. 저는 어릴 때부터 그 ‘버그’가 있었고, 그걸 표현하는 방식이 AI를 만드는 것이었습니다.

진행자: 당신과 다른 AI 리더들이 한 방에 모이면, 서로가 ‘판의 크기’를 알고 있다는 연대감(solidarity)이 있나요? 아니면 경쟁(competition)이 서로를 갈라놓나요?

Demis Hassabis: 우리는 서로를 다 알고 있고, 저는 대부분과 잘 지냅니다. 다른 사람들끼리는 안 좋은 경우도 있지만요. 어렵습니다. 우리는 동시에 역사상 가장 치열한 자본주의 경쟁(the most ferocious capitalist competition)에 있습니다.

Demis Hassabis: 투자자·VC 친구들 중 닷컴(dotcom) 시절을 겪어본 사람들은, 지금이 그때보다 10배(10X) 더 치열하고 강렬하다고 말합니다. 여러 면에서 저는 그걸 좋아해요. 저는 경쟁을 위해 살았고, 체스 시절부터 그랬습니다.

Demis Hassabis: 하지만 한 걸음 물러서면, 그리고 모두가 이해하길 바라지만, 여기엔 회사의 성공을 넘어서는 훨씬 더 큰 것이 걸려 있습니다.

진행자: 다음 10년을 생각하면, 당신이 특히 걱정하는 큰 순간이 있나요?

Demis Hassabis: 지금 시스템은 제가 ‘수동적(passive)’ 시스템이라고 부릅니다. 사용자가 질문이나 과제라는 에너지를 넣으면, 시스템이 요약이나 답을 내놓죠. 인간이 방향을 주고, 인간이 에너지를 넣고, 인간 아이디어가 들어갑니다.

Demis Hassabis: 다음 단계는 에이전트 기반(agent-based) 시스템입니다. 지금도 보이긴 하지만 아직 원시적(primitive)입니다. 저는 앞으로 몇 년(next couple of years) 안에 정말 인상적이고 신뢰할 수 있는(reliable) 에이전트가 나오기 시작할 거라고 봅니다.

Demis Hassabis: 그런 에이전트는 어시스턴트로서 엄청나게 유용하고 강력하겠죠. 하지만 더 자율적(autonomous)이 됩니다. 그래서 위험(risks)도 커집니다. 저는 2~3년 뒤에 그런 시스템이 무엇을 할 수 있게 될지 꽤 걱정합니다. 그래서 우리는 사이버 방어(cyber defense)를 준비하고 있습니다. 수백만(millions)의 에이전트가 인터넷을 돌아다니는 세상에 대비해서요.

진행자: 그럼 가장 기대되는 건요? 언젠가 ‘이제 내 일은 끝났다’고 생각하며 은퇴할 수 있는 날이 올까요? 아니면 평생 하고도 남을 일이 남아 있을까요?

Demis Hassabis: 네. 저는—사실 안식년(sabbatical)이 정말 필요합니다. 그리고 안식년을 한다면 과학을 할 겁니다.

진행자: 하루만 쉬어도 좋겠네요, Demis.

Demis Hassabis: 네, 하루나 일주일이라도요. 하지만 제 미션은 늘 인류를 위해 AGI를 안전하게(safely) ‘선(steward) 너머로’ 넘기는 데 도움이 되는 것이었습니다. 그 지점에 도달하면, 물론 그 다음에는 초지능(superintelligence), 포스트-AGI, 경제·사회 문제들이 있고, 제가 또 어떤 도움을 줄 수도 있겠죠.

Demis Hassabis: 하지만 제 인생 미션의 핵심 부분은 그때 끝날 겁니다. 작은 일 하나죠. 그걸 선 너머로 넘기는 것, 혹은 인류가 넘기도록 돕는 것. 아마 협력이 필요할 겁니다. 아까 이야기했듯이요. 저는 협업을 좋아하는 사람이니, 제가 가진 위치에서 도움이 될 수 있길 바랍니다.

진행자: 그러면 휴가를 갈 수 있겠네요.

Demis Hassabis: 네, 그때는—맞아요—잘-earned 안식년을 가질 수 있겠죠.

진행자: 네, 정말 감사합니다. Demis, 오늘 와주셔서 정말 고마워요.

Demis Hassabis: 초대해주셔서 감사합니다.

진행자: 언제나처럼 정말 즐거웠습니다. 이것으로 Hannah Fry 교수와 함께한 “Google DeepMind: The Podcast” 이번 시즌은 마무리입니다. 하지만 구독을 해두시면 2026년 돌아올 때 가장 먼저 들으실 수 있어요. 그동안은 방대한 에피소드 라이브러리를 다시 들어보는 건 어떨까요?

진행자: 올해 우리는 자율주행차에서 로보틱스, 월드 모델에서 신약 개발까지 정말 많은 것을 다뤘습니다. 즐길 거리가 충분할 거예요. 곧 다시 만나요.