🎧 Anthropic CEO Dario Amodei on the Future of AI

👤 Dario Amodei · EN 4,697w · KR 3,070w

사용법 (30초)
1️⃣ 영문 or 한국어 복사 버튼 터치
2️⃣ 🔗 링크 복사 → Chrome에 붙여넣기 → 열기
3️⃣ + 새 노트북 → 소스 추가 → 붙여넣기
4️⃣ 🎧 Audio Overview → Generate
5️⃣ 차에서 재생 🚗

원문 미리보기 4,697w

Can we start with the kind of rough status of how the industry is going? You and your rivals, how close are we now to artificial general intelligence? Set the stage for us first and then we can talk about the morality of it all. Yeah. Yeah. Thanks for. Thanks for having me. I mean, you know, I've never liked the artificial general intelligence or superintelligence. Not because I don't think is very powerful. Right. I'm not I'm not a skeptic. I'm actually extreme in terms of my views of how powerful the technology is going to be. But it's the wrong model for thinking about it, that there will be some one point where we build something completely different. What we see here, actually, what we've seen for the last ten years, maybe even 15, and you know, me and therapist co-founders were among the first to document it is this very smooth, exponential, exponential process. Just like in the nineties, you saw Moore's Law that, you know, the the amount of computing power would double every 12 months or every 18 months. We have a moore's Law like law, except it's for intelligence itself, for for the cognitive ability of the model across many tasks. And so what we are seeing is that that cognitive ability is, you know, depending on how you measure it, doubling every, you know, four to 4 to 12 months. And so, you know, we're just climbing the ladder of cognitive ability. And where we are now is, you know, to take coding as one example that's been exploding really fast over the last year or two. I have engineers. In fact, the team that leads one of our lead products called Code, which is the way you use our models for for coding. He says he hasn't written any code in the last two months. He's it's all caught he's he's edited it he's looked at it but it's all been written by Claude. Indeed. We recently released this thing called Coachwork, which was bringing code code to, you know, non-coding tasks. It really seems to have taken off. We wrote it in like a week and a half, almost entirely with code code. So I think we're entering the world where, you know, the junior level software engineers, maybe many of the tasks of the more senior level software engineers are starting to be done, you know, most of the way by buying AI systems now that's going to go further can be more end to end the project to me more. But I think we're going to be surprised at how the exponential turns upward. Right? The whole the whole thing about exponentials is, you know, it looks like it's going very, very slowly. It speeds up a little bit and then it just zooms past you. And I think we're I think we're on the precipice. I think we're a year or two away from it, really zooming past us. So it's very like going bankrupt. But when when this happens in terms of the kind of running order does yourself, this Gemini, this open air, where do you put you all together at the moment roughly? Yeah. I mean, you know, so I think I think as the field has developed, you know, I think it's no longer appropriate to think of it as like, you know, like a scalar, you know, like runners in a race who are at one position. The players have gone in different directions. So some of the other players have gone into very consumer oriented direction. And that leads you to make your models, you know, super humanly engaging or super humanly good at recommending shopping or ads or various things like that. Anthropic has focused, I think, first and foremost on enterprises, developers. And to the extent we do consumer, we're very focused on productivity and the kind of high value end of the of the consumer work. And so that that gives very that gives very different incentives. Right? If you if you want to get things done. You know, we talked about AGI in superintelligence before. One of the things I would say is that, you know, there are superintelligence is today and they're basically large corporations, right? They're smarter than any human can be, you know, solving the problem of, you know, shipping, shipping commerce at the lowest possible cost or making solar panels the lowest possible cost or launching rockets at the lowest possible possible cost. And so there's really high returns to intelligence in this area, which I think incentivizes us to to kind of to kind of build the right thing. It's it's also, you know, I think it's I think it's a business that is more stable than consumer. We don't need you know, we don't need ads. We don't need, you know, large numbers of free users. We can we can just very directly create value. Right? There aren't all these weird externalities of, like your prioritizing engagement. You're prioritizing these other things, you're generating all this slop. We just make stuff that that people can use. Year ago here, you what? You said the Chinese were catching up a bit. Do you think now the Chinese have fallen behind? You know, I think they never really caught up that much. So, you know, of course, there was this huge excitement around deep. Yeah, right. But, you know, the truth was a couple of things. One. You know, those models are very optimized for the benchmarks. It's actually very easy to optimize the model for a finite list of benchmarks. When we go out into the world, right, when we're when we're when we're, you know, competing against other companies for enterprise contracts, we see just honestly and candidly, we see Google and we see Openai. Every once in a while, we see a couple other U.S. players. I have almost never lost a deal, lost a contract to to a Chinese model. But now you have the Trump administration, and I think you've already protested about this, giving high speed chips and video chips to the Chinese. That's right. That's right. The thing that is holding them back and they've said it themselves. The CEOs of these companies say it's the embargo on chips that's holding us back. They explicitly say this. And now, indeed, you know, there are some policies and I hope they change their mind to, you know, to explicitly send not quite our latest generation of chips, although it was reported that even that was being considered. But, you know, the generation of chips, that's that's just one back that's still extremely powerful. And we are many years ahead of China in terms of our in terms of our ability to make chips. So I think it would be a big mistake to ship these chips. You know, the the analogy I thought of, if you think about the incredible national security implications of building model, building models that are essentially cognition, that are essentially intelligence. Right. I've called where we're going with this, a country of geniuses in the data center, right. So imagine 100,000, 100 million people smarter than any Nobel Prize winner. And it's going to be under the control of one, one country or another. So so I think this is crazy. I think it's you know, it's a bit like, you know, I don't know, like selling, selling, you know, nuclear weapons to North Korea and, you know, bragging. Oh, yeah, But we made that. You know, your friend your friend David Sachs is basically arming the Chinese. You know, I wouldn't refer to any particular people, but, you know, I would I would just say that this particular policy, I think, is is akin to. Yeah, not not, not, not, I think well-advised. Another issue in this, you know, could be you could be right all this technology be going in the right direction but economically we could be heading towards a bubble. Do you think that's true? Yeah. Yeah. So I would separate out the two things. One is the basic exponential, and that's what we've been talking about. That's been kind of the technological direction. And there, you know, just like with Moore's Law, you can never be sure that the technology is sort of fully going to advanced. It's going to keep going. Right? It's a fundamentally inductive problem. But now that I've seen well over a decade of it, I would say I am pretty confident that it's going to continue, or at least I'm more confident than I've ever been at any time in the past that it's going to continue to where the models are basically smarter than humans at almost everything. And I think there's a good chance that even happens in the next year or two. Again, it seems far away. But but this property of exponential that they like, they they they catch you by surprise. And if it's not a year or two, I think it's pretty likely that it's, you know, at least less than five years within the 2020s. I think this moment will come in the 2020. So so, you know, kind of I'll get into that economic angle. Yeah, I'll get to the economic diffusion, which I think is complicated, but I don't want anyone to forget like that. You know that as long as we have that fundamental technological gain, like there's going to be many trillions of revenue, maybe many trillions per company in this in this area, because the economic potential is so great. Now there's a separate thing, which is that we don't know how fast enterprises companies are actually going to be able to use this technology. Right. The the the uses of this, what the technology is capable of today is probably ten times what the enterprise of the world are able to are able to deploy. And I see it with our customers every day where I'll talk to a CEO and they'll understand and their executive team will understand the power of this technology, you know, for for automating customer service, for coding, for many other things. But they have a company of tens of thousands of people who are perfectly brilliant people but expert in something that is not A.I. and have to learn to use A.I. and that you know, different names for it change management, enterprise transformation, whatever it's called the need to do. This is very slow. It can take years. And so we have this powerful technology that I have an incredible amount of confidence will generate trillions in revenue. But we don't know exactly when, you know, plus, plus or minus a few years. We don't know exactly when. And and and in the meantime, companies have to buy compute to serve all that revenue. And you don't want to buy too much because, you know, you could financially overextend yourself and you don't want to buy too little because then you can't serve all the revenue. And so that's where the kind of economic and financial problems. So you are involved in building data centers, spending vast fortunes. You've got the deals with Belvedere. So you worry that that's going to come back and bite you. So so we have some advantages in this. There is a stability to enterprise business that there is not to consumer, right. Consumers, very fickle enterprise purchasing enterprise predictions are predictable. Also, enterprise tends to have better margins. The margin is basically how much buffer you have between buying too little and buying too much between what you have to pay for and what you have to support in revenue. So we have a number of advantages here. But I you know, I won't deny that there is some inherent risk in any in all of the companies to this process. Whenever you have an upside whose amount is uncertain or even whose timing is uncertain, and you have to make financial decisions somewhat blind to those things, you have to you have to decide early to, you know, to to build out capital, to build out resources a few years in advance. There's going to be some inherent risk that's driven by that uncertainty. And I do think that some companies have probably overbought. I'm not able to look at their financials. I just know what they announce. And I'm like, Whoa, I wouldn't necessarily have done that. I'm pretty happy with the decisions that we've made. But, you know, and I can't be I can't be sure about others, but it is entirely consistent that this could be the most transformative technology in the history of the world, that some companies will do really well. But but not every company may very quickly on that. As you said, you own the enterprise side. On the consumer side, Openai with a big lead. You know, there seems to be look to Gemini as an eye catching up. Is that your impression as well? I mean, you know, we're not in that market, so I so I don't know about that. Yeah. You know, the statistics would seem to suggest that it would seem to suggest that, you know, with their kind of greater distribution, with their greater existing reach, they've been able to make a lot of progress in. Kind of recent times. And again, this is why, you know, consumers fickle. This is why I would be careful if, you know, if I were a consumer company in in in you know, in kind of you know, what you know in what was on my balance sheet. Let's jump then. It's that big question which we originally asked Claude at the beginning, will I do do do good. Obviously, as you said, it's going to have a positive effect on GDP, perhaps on your wealth, too. But what about employment? Last year you predicted the kind of white collar bloodbath. You said it would wipe out 50% of entry level jobs. That's now four and a half years away. Do you still stand by that? Yeah. So, you know, I you know, my view of of of I there's maybe two axes in terms of which two think there's good things happening versus bad things happening. And there's like A.I. is a small deal versus A.I. is a big deal. You know, my view is on the extreme side of I is a big deal, but I'm kind of in both side, both both top quadrants where I think some really good things will happen. And if we don't act to prevent them, some really bad things will happen. You know, we you know, I wouldn't be building this technology if I didn't believe that the good outweighed the bad and that we could mitigate the bad. That's why I warn about the bad, so that we could We can. How do you how do you think we mitigate it? Does that mean things like taxation? Yeah. Well, let me let me just get to what I think the kind of the situation is. You know, I think exactly what you said. I think we could have this very unusual combination of very fast GDP growth and high unemployment or at least underemployment or, you know, low wage job, a lot of low wage jobs, high inequality. I don't think that's a macro correct me if I'm wrong. I don't think that's a macroeconomic combination we've ever seen before. You think of fast growth, you're like, well, okay, maybe there's inflation, but you know, you're not going to have high unemployment when there's fast growth. I think this technology is a bit different because it's extreme in the way in the way it's going to it's going to it's going to generate value. But also because it's moving up the cognitive waterline, there's going to be, unfortunately, a whole class of people who are who are, I think, across a lot of industries going to have a hard time coping. And that's really a problem we need to solve. So to get to the question you just asked, there's a few things Anthropic is doing. One is we maintain for almost a year now what we call the anthropic economic index, which is tracking how our models are used in real time. And because we see all these conversations, we can use quite itself to in a privacy preserving manner. Look across all the conversations and ask questions like, Is someone using this to augment a task to work together with the model or to delegate or fully automated task? What are the industries people are using called for statistically by distribution? What are the subtasks within those industries? Right. We can get into, you know, a lot of these like lead, you know, these very fine grained Labor Department statistics and ask all about it. Which states are using cloud more? What is we can watch the economic diffusion of cloud in real time. And and so the reason to do all this is that I don't think you can make good policy if you don't have the right data. And I worry that the data that the government produces as comprehensive as it is, just doesn't move fast enough and isn't detailed enough for this. So so, you know, that is that is kind of our first contribution. We are thinking increasingly about this kind of I don't know if you want to call it retraining or ability to help people adapt. It's it's partly in line with kind of what we do in terms of go to market, Right. Part of our go to market activity is how to help you with that, but with great risk, great respect. I mean, you can do these things, but fundamentally it's a societal problem. You know, government, if you think about it, what you're describing is a perfect storm. You have GDP going up, the wealth of certain people going massively. Absolutely. And you are saying 50% of entry level jobs go people in real distressed. You are surely going to see a political. Change coming from this. And my personal bet would be, yes, you're going to get people trying to restrain the tech barons, but you would also get people saying, let's have higher taxes. We need to pay for this. Do you think higher taxes are coming? So, you know, my view again, you know, I was going to the kind of voluntary stuff we could do first, but but actually, I actually do believe that. I think this one is going to be big enough that, you know, at some point I think everyone's going to come to the realization that there needs to be some kind of macroeconomic intervention there. You know, if we if we look at just the disparities in wealth that we have now, if we look at it as a fraction of GDP, I believe we've kind of exceeded the Gilded Age already. And this is mostly without without I. So I think things are going to go even further. And so, yeah, you know, my my guess is this is this is not even going to be a partisan thing. There's a wealth there's a wealth tax now in California. Are you supportive of that? No, I think it's a great start. I think that's poorly designed. And, you know, my my my worry would be if we don't think about these things in a sober way, then we'll get things that are that are you know, that are that are kind of poorly designed. So, you know, that would be that would be my message to, you know, the others in the world who are doing who are doing well in this boom is that, you know, if we if we don't think proactively about how to make this revolution work for everyone, we will get these proposals that don't make sense. Just taking it a bit further, there's you know, people worry about the economic consequences, but there are other ones. Not that long ago I went to a panel with, I think a couple of your rivals, a couple of your peers, where they again, they put forward all the good things I would do. And then someone said, what about the risks? And one of them rather casually said, well, of course there's extinction risk and then moved on to another. And collectively around the room, people took a deep breath. And what he was talking about was the possibility of a bad actor getting hold of it, or the possibility ultimately of things like Claud running things. What does that fit into your. Yeah, yeah. You know, I've long been been worried about that as well. You know, just, just as I said, you know, I'm on the direction of like, this is a very powerful technology. Therefore the benefits are extreme. We're going to be able to, you know, do things like really seriously, really cure cancer or maybe eradicate tropical diseases. But on the other side, look, we're building cognitive systems that have their own autonomy, Right. And we really need to think about that. And lycanthropy has been founded since the beginning with an intention to think about that. Right. You know, we publish probably almost every, you know, probably three or four times a month research on how to control these models, how to make sure that, you know, they they do what we want them to do and they don't run out of control. We've pioneered one of my co-founders, Chris Ola, is, you know, kind of arguably, you know, the inventor of a field called mechanistic interpretability, which is basically when you look inside the brain, the artificial brain of of Claude or another A.I. model and try to trace mechanistically why it's doing exactly what it's doing. And we've seen things inside the model like, you know, in in lab environments, you know, sometimes the models will develop the intent to blackmail, the intent to deceive. And this isn't unique to court. If anything, this is worse in other models. These are things that if we don't train the models in the right way can emerge. And but we've pioneered the science of looking inside them so we can diagnose them and and, you know, prevent the models from happening, intervene and retrain the models so they don't behave in this way. That said, you know, we this is something we have to be careful about. We've we've, you know, supported various what, you know, light touch, transparency focused measures for making sure that, you know, all the companies have to talk about the tests that they run. We always disclose our tests. We always, you know, basically we try and test our models to try and really stream them and get them to do the worst things possible in a test environment so that they never do those things in the real world. And we generally think every company should have to disclose or should have to run those tests and should have to disclose those tests. So this is you spend quite a lot of time thinking about this. You write pamphlets about it, about the consequences. There is an impression that most of your peers are going to head down and they're thinking purely about whether they can just keep ahead of the other. Do you think your industry is kind of immature in that way? You know, I can't speak to what the other players are are doing or why they're doing it. You know, I think there are at least some other players in in the ecosystem who I, you know, I think of as responsible who are at least thinking of things in the right way. I agree there are others who are not. But. I would say what I have always tried to do and what Anthropic has always tried to do is, is to set an example and to try to inspire others to follow the example. We always publish our work on mechanistic interpretability. We always publish the tests we run. And honestly, there are a lot of other companies where, you know, their researchers basically say, Hey, why can't why can't we do that too? That seems like a responsible thing to do. That seems like the right way to develop the technology. And so you can kind of have an effect on the other players in the ecosystem. 111 very clear zone where you are different from your peers that you have not very obviously queued up to kiss the ring of Donald J. Trump. Are you still? What do you think of the current US President? You showed no signs of wanting to see him. Look, so, I mean, you know, I wish I would. I would really put it in a different way. I don't think being for or against administrations or for or against politicians is is the right approach or that anthropic has anything to say one way or another on those topics. What I would say is that what Anthropic knows is I Anthropic knows very well the policy issues around A.I. and our approach, which, you know, I can't speak for others, but you know, indeed, indeed our approach may have been different is we think through the issues, we try and get a substantive view based on those issues, and then we say what we think. And sometimes we will disagree with the current administration, just as we sometimes just like with China, with the last administration, and sometimes we agree. And it's worth highlighting the areas of agreement like the energy data center buildouts. We did this health pledge at the White House. You know, there are a number of areas, you know, when we saw the you know, the White House's air action plan last summer, actually, we liked most of that. That was actually a very well-written document. So this is complex. There's not against and for. But again, when it comes to things like the chips in China, yeah, we disagree when it comes to putting a moratorium on state deregulation. Yeah, we disagree because we disagree on the merits. It's not about liking or disliking a particular person. I don't I don't think that that that kind of thinking is going to get us out of this situation that we're in. We have to think based on substance. Are you going to see him when he comes to Davos tomorrow? I may. I think that would be an interesting change. One final last question. What happens to entropic? What happens? Do you have a I think what since we have supposedly a 350 billion implied valuation, would you consider an IPO this year? Look, I mean, you know, I we are we are most focused on, you know, just trying to make the best models and just trying to, you know, build products on top of those models and just trying to, you know, sell those models to enterprises in ways that are useful, you know, their their large capital needs for that for the for the field. So that that should be considered. But, you know, that's where our focus is. That implies that you do need a lot of money though. I mean, you don't need to ask me to know that this is a capital. So an IPO isn't completely out of the question and it's never completely out of the question. Those the IPO and Donald Trump with both possibles in your life. Derek Derek, thank you very much for talking to us. We now know all about mechanistic interoperability and we've had a view inside your brain and it's not a bad one. Thank you. Thank you for having me, John.

진행자: 업계가 지금 어디쯤 와 있는지, 대략적인 현황부터 시작해볼까요? 당신과 경쟁사들을 포함해서, 지금 인공지능 일반지능(Artificial General Intelligence, AGI)에 얼마나 가까워졌나요? 먼저 큰 그림을 잡아주시면, 그다음에 도덕성 얘기도 해보죠.

Dario Amodei: 네. 네. 초대해주셔서 감사합니다. 저는 사실 인공지능 일반지능(Artificial General Intelligence)이나 초지능(superintelligence)이라는 표현을 별로 좋아하지 않았어요. 그 이유는 이게 아주 강력하지 않다고 생각해서가 아닙니다. 저는 회의론자가 아니에요. 오히려 저는 이 기술이 얼마나 강력해질지에 대해 굉장히 극단적인 관점을 가진 쪽입니다.

Dario Amodei: 다만 그 용어들이 ‘어느 한 지점에서 완전히 다른 무언가를 만든다’는 식의 사고 모델을 유도하는데, 그게 잘못된 모델이라고 생각합니다. 실제로 우리가 여기서 보고 있는 것, 그리고 지난 10년, 어쩌면 15년 동안 봐온 것은 아주 매끈한, 지수적인(exponential) 과정입니다. 사실 저와 therapist 공동창업자들이 그걸 처음 문서화한 사람들 중 하나이기도 하고요.

Dario Amodei: 1990년대에 무어의 법칙(Moore’s Law)을 봤던 것과 비슷합니다. 컴퓨팅 파워가 12개월마다 혹은 18개월마다 두 배가 되는 식이었죠. 지금도 무어의 법칙 같은 법칙이 있는데, 대상이 컴퓨팅이 아니라 ‘지능 그 자체’, 즉 모델의 다양한 과업 전반에서의 인지 능력(cognitive ability)입니다.

Dario Amodei: 우리가 관측하는 바에 따르면 그 인지 능력은, 측정 방식에 따라 다르긴 하지만, 대략 4~12개월마다 두 배가 됩니다. 그러니까 우리는 그냥 인지 능력의 사다리를 계속 올라가고 있는 거예요.

Dario Amodei: 예를 들어 코딩(coding) 분야를 보면, 지난 1~2년 동안 정말 빠르게 폭발적으로 발전했습니다. 제 주변에 엔지니어들이 있는데, 실제로 저희 핵심 제품 중 하나를 이끄는 팀 리더가 있습니다. 이름이 Code인 제품이고, 저희 모델을 코딩에 쓰는 방식인데요. 그 사람이 말하길, 지난 2개월 동안 코드를 한 줄도 직접 쓰지 않았대요. 전부 Claude가 작성했고, 그는 그걸 편집하고 검토만 했다는 겁니다.

Dario Amodei: 그리고 저희는 최근 Coachwork라는 것도 출시했는데, 이건 코드(code)를 비코딩 작업으로 확장하는 거였어요. 정말 크게 반응이 왔습니다. 저희는 그걸 대략 1주 반 만에 만들었고, 거의 전적으로 code code로 작성했습니다.

Dario Amodei: 그래서 저는 우리가 이제 ‘주니어 레벨 소프트웨어 엔지니어’의 업무, 어쩌면 ‘시니어 레벨 소프트웨어 엔지니어’의 상당수 업무까지도, 지금의 AI 시스템이 대부분 수행하는 세계로 들어가고 있다고 봅니다. 이건 더 나아갈 거고, 더 엔드투엔드(end-to-end)로 갈 거예요. 프로젝트를 더 많이 주도하게 될 겁니다.

Dario Amodei: 저는 우리가 이 지수 곡선이 얼마나 급격히 위로 꺾이는지에 놀라게 될 거라고 생각합니다. 지수(exponential)라는 게 원래 그렇잖아요. 처음엔 아주아주 느리게 가는 것처럼 보이다가, 조금 빨라지는 듯하더니, 어느 순간 그냥 당신을 훌쩍 지나쳐버립니다. 저는 우리가 지금 그 ‘절벽 직전’에 서 있다고 봐요. 1~2년 안에 정말로 우리를 훌쩍 지나쳐버리는 구간이 올 거라고 생각합니다.

진행자: 그러면 지금, 당신 말로는 ‘순서’가 어떻게 되나요? 당신들, Gemini, OpenAI… 지금 이들을 한데 놓고 보면 대략 어디쯤이라고 보세요?

Dario Amodei: 네. 그러니까, 이 분야가 발전하면서 이제는 ‘하나의 스칼라(scalar)’, 그러니까 마치 트랙에서 달리는 선수들처럼 한 줄로 세워서 누가 몇 위인지로 생각하는 게 더 이상 적절하지 않다고 봅니다. 플레이어들이 서로 다른 방향으로 갈라졌거든요.

Dario Amodei: 어떤 플레이어들은 아주 소비자 지향(consumer-oriented) 방향으로 갔습니다. 그러면 모델을 ‘초인간적으로 매력적으로’ 만들거나, 쇼핑 추천이나 광고 추천 같은 걸 ‘초인간적으로 잘하게’ 만드는 쪽으로 인센티브가 생깁니다.

Dario Amodei: Anthropic은, 제 생각에, 무엇보다도 기업(enterprises)과 개발자(developers)에 집중해왔습니다. 그리고 소비자 쪽을 하더라도 생산성(productivity)과 소비자 업무 중에서도 ‘고부가가치(high value)’ 영역에 집중합니다. 그러면 인센티브 구조가 완전히 달라져요.

Dario Amodei: 만약 당신이 ‘일을 끝내는 것’에 초점을 맞춘다면, 앞에서 AGI나 초지능 이야기를 했는데, 저는 이렇게 말하곤 합니다. 이미 오늘날에도 초지능(superintelligences)은 존재하고, 그건 사실 대규모 기업들입니다. 대기업은 어떤 인간보다도 ‘더 똑똑하게’ 문제를 풉니다. 예를 들어 ‘물류와 커머스를 가능한 한 가장 낮은 비용으로 배송하는 문제’라든지, ‘태양광 패널을 가능한 한 가장 낮은 비용으로 만드는 문제’라든지, ‘로켓을 가능한 한 가장 낮은 비용으로 발사하는 문제’ 같은 것들이요.

Dario Amodei: 그러니 이 영역에서는 지능(intelligence)에 대한 수익(return)이 정말 큽니다. 그게 우리로 하여금 ‘올바른 것’을 만들도록 동기를 부여한다고 생각합니다.

Dario Amodei: 또 기업 시장은 소비자 시장보다 더 안정적이기도 합니다. 우리는 광고(ads)가 필요하지 않습니다. 막대한 수의 무료 사용자가 필요하지도 않아요. 우리는 아주 직접적으로 가치를 만들 수 있습니다.

Dario Amodei: ‘참여(engagement)를 최적화한다’거나, 다른 것들을 우선시한다거나, 온갖 외부효과(externalities) 때문에 이상한 결과가 생기는 일이 적습니다. 우리는 그냥 사람들이 실제로 쓸 수 있는 것을 만들면 됩니다.

진행자: 1년 전에 당신은 중국이 어느 정도 따라오고 있다고 말했죠. 지금은 중국이 뒤처졌다고 보나요?

Dario Amodei: 저는 그들이 사실 그렇게까지 따라온 적이 없다고 봅니다. 물론 Deep 쪽에서 큰 흥분이 있었던 건 맞아요. 하지만 진실은 몇 가지가 있습니다.

Dario Amodei: 첫째, 그런 모델들은 벤치마크(benchmarks)에 아주 최적화되어 있습니다. 제한된 벤치마크 목록에 맞춰 모델을 최적화하는 건 사실 매우 쉽습니다.

Dario Amodei: 그런데 우리가 현실 세계로 나가서, 예를 들어 기업 계약(enterprise contracts)을 놓고 다른 회사들과 경쟁할 때를 보면, 솔직하고 candid하게 말해서 우리는 Google을 보고, OpenAI를 봅니다. 가끔 다른 미국 플레이어들이 보이기도 하지만요.

Dario Amodei: 저는 거의 중국 모델에 계약을 빼앗긴 적이 없습니다. 거의 없어요.

진행자: 그런데 지금 Trump 행정부가, 당신도 이미 항의했다고 들었는데, 고속 칩과 Nvidia 칩을 중국에 주려고 한다는 이슈가 있죠.

Dario Amodei: 맞습니다. 맞습니다. 그들을 붙잡고 있는 건, 그들 스스로도 말했듯이, 칩에 대한 금수조치(embargo)입니다. 그게 그들을 막고 있다고 그 회사들의 CEO들이 명시적으로 말합니다. 그들은 이걸 분명히 말해요.

Dario Amodei: 그런데 이제 실제로 어떤 정책들이 나와 있고, 저는 그들이 마음을 바꾸길 바랍니다만, ‘우리 최신 세대만큼은 아니지만’—심지어 그 최신 세대도 고려 중이라는 보도가 있었죠—어쨌든 한 세대 뒤처진 칩을 ‘명시적으로’ 보내려는 움직임이 있습니다. 하지만 그 한 세대 뒤 칩도 여전히 극도로 강력합니다.

Dario Amodei: 그리고 우리는 칩을 만드는 능력에서 중국보다 여러 해 앞서 있습니다. 그래서 저는 이런 칩을 보내는 건 큰 실수라고 생각합니다.

Dario Amodei: 제가 떠올린 비유가 있는데요. ‘모델을 만든다’는 건 사실 ‘인지(cognition), 지능(intelligence)’을 만드는 것과 같습니다. 국가안보(national security) 측면의 함의가 엄청납니다. 저는 우리가 향하는 곳을 ‘데이터센터 안의 천재들의 나라(country of geniuses in the data center)’라고 부르곤 했습니다.

Dario Amodei: 그러니까 노벨상 수상자보다도 똑똑한 사람이 10만 명, 1억 명 있는 상황을 상상해보세요. 그리고 그게 어느 한 나라의 통제 아래 들어가겠죠.

Dario Amodei: 그래서 저는 이게 미친 짓이라고 봅니다. 이건, 모르겠어요, 북한에 핵무기(nuclear weapons)를 팔아놓고 ‘그래도 우리가 만들었잖아’ 하고 자랑하는 것과 비슷합니다.

진행자: 당신 친구인 David Sachs는 사실상 중국을 무장시키는 거잖아요.

Dario Amodei: 특정 개인을 거론하진 않겠습니다만, 저는 이 정책 자체가 그에 가까운, 그러니까… 네, ‘현명한 정책’이라고 보긴 어렵다고 말하겠습니다.

진행자: 또 하나의 이슈는, 기술이 올바른 방향으로 가고 있을 수는 있지만, 경제적으로는 거품(bubble) 쪽으로 가고 있을 수 있다는 겁니다. 그렇게 보나요?

Dario Amodei: 네. 저는 두 가지를 분리해서 보겠습니다. 하나는 ‘기본적인 지수(exponential)’이고, 우리가 지금까지 얘기한 기술적 방향입니다. 무어의 법칙(Moore’s Law)처럼, 기술이 끝까지 계속 발전할 거라고 100% 확신할 수는 없습니다. 본질적으로 귀납(inductive)의 문제니까요.

Dario Amodei: 하지만 10년이 훌쩍 넘는 기간 동안 그 흐름을 직접 봐온 지금, 저는 이것이 계속될 것이라고 꽤 자신합니다. 적어도 과거 어느 때보다도 더 자신합니다. 그리고 모델이 ‘거의 모든 것에서 인간보다 더 똑똑해지는’ 지점까지 갈 거라고 봅니다.

Dario Amodei: 저는 그게 1~2년 안에 일어날 가능성도 꽤 크다고 생각합니다. 다시 말하지만, 멀어 보이죠. 하지만 지수의 특성은 늘 사람을 놀라게 합니다.

Dario Amodei: 만약 1~2년이 아니라면, 저는 5년 미만일 가능성이 매우 높다고 봅니다. 즉 2020년대 안에는 그 순간이 올 겁니다. 저는 그 ‘모멘트’가 2020년대에 온다고 생각해요.

Dario Amodei: 자, 이제 경제적 각도를 얘기하겠습니다. 경제적 확산(economic diffusion)은 복잡합니다. 하지만 저는 사람들이 한 가지를 잊지 않길 바랍니다. 그 근본적인 기술적 이득이 계속되는 한, 이 영역에는 **수조 달러(trillions)**의 매출이 생길 겁니다. 어쩌면 회사 하나당도 수조 달러가 될 수 있어요. 경제적 잠재력이 그만큼 큽니다.

Dario Amodei: 다만 별개의 문제가 있습니다. 기업들이 실제로 이 기술을 얼마나 빨리 사용할 수 있느냐는 알 수 없습니다. 오늘날 기술이 ‘할 수 있는 것’은, 아마도 전 세계 기업들이 ‘배포(deploy)할 수 있는 것’의 10배쯤 될 겁니다.

Dario Amodei: 저는 고객들을 통해 매일 그걸 봅니다. CEO와 대화하면 그분과 경영진은 이 기술의 힘을 이해해요. 고객 서비스 자동화, 코딩, 기타 여러 영역에서요.

Dario Amodei: 하지만 그 회사에는 수만 명(tens of thousands)의 사람들이 있습니다. 모두 똑똑한 사람들이지만, AI가 아닌 다른 전문성을 가진 사람들이고, AI를 사용하는 법을 배워야 합니다. 이런 걸 뭐라고 부르든—변화관리(change management), 기업 전환(enterprise transformation)—이건 매우 느립니다. 몇 년이 걸릴 수 있어요.

Dario Amodei: 그래서 우리는 ‘수조 달러 매출을 만들’ 매우 강력한 기술을 갖고 있고, 저는 그 잠재력에 엄청난 확신이 있습니다. 하지만 그게 ‘언제’ 실현될지는, 몇 년 단위로 플러스/마이너스가 있을 수 있습니다. 정확히 언제인지는 모릅니다.

Dario Amodei: 그리고 그 사이에 회사들은 그 매출을 제공하기 위해 컴퓨트(compute)를 사야 합니다. 너무 많이 사면 재무적으로 과도하게 뻗을 수 있고, 너무 적게 사면 매출을 다 소화할 수 없습니다. 그래서 거기서 경제·금융 문제가 생깁니다.

진행자: 당신은 데이터센터를 짓고 있고, 엄청난 돈을 쓰고 있죠. Belvedere와의 딜도 있고요. 그게 부메랑이 될까 걱정하나요?

Dario Amodei: 우리가 여기서 가진 장점이 몇 가지 있습니다. 기업 시장은 소비자 시장과 달리 안정성이 있습니다. 소비자는 변덕스럽지만, 기업 구매는 더 예측 가능합니다.

Dario Amodei: 또 기업 시장은 마진이 더 좋습니다. 마진이라는 건 ‘너무 적게 사는 것’과 ‘너무 많이 사는 것’ 사이에서 버틸 수 있는 완충(buffer)이라고 볼 수 있어요. 우리가 컴퓨트에 지불해야 하는 비용과 우리가 매출로 뒷받침할 수 있는 것 사이의 완충이죠.

Dario Amodei: 그래서 우리는 몇 가지 장점이 있지만, 그렇다고 해서 리스크가 없다고 말하진 않겠습니다. 업사이드의 크기 자체가 불확실하거나, 타이밍이 불확실한 상황에서, 그걸 완전히 알지 못한 채 재무 의사결정을 해야 하면, 본질적인 위험이 생깁니다.

Dario Amodei: 특히 몇 년 앞을 내다보고 자본(capital)과 리소스를 미리 구축해야 합니다. 그 불확실성에서 오는 리스크가 있어요.

Dario Amodei: 저는 어떤 회사들은 아마도 과도하게 사들였다고 생각합니다. 저는 그들의 재무를 들여다볼 수는 없고, 발표하는 것만 보는데, 보고 나면 ‘와, 나라면 그렇게까지 하진 않았을 텐데’ 싶을 때가 있습니다.

Dario Amodei: 저희는 우리가 내린 결정에 꽤 만족하고 있습니다. 하지만 다른 회사들에 대해서는 확신할 수 없죠.

Dario Amodei: 이게 인류 역사상 가장 변혁적인(transformative) 기술이 될 수 있다는 것과, 어떤 회사들은 정말 잘할 것이라는 것, 그리고 모든 회사가 동일하게/빠르게 잘되지는 않을 수 있다는 것은 동시에 성립할 수 있습니다.

진행자: 말씀하신 대로 기업 쪽은 당신들이 강점이 있고요. 소비자 쪽은 OpenAI가 큰 리드가 있는 듯합니다. Gemini가 따라오는 것처럼도 보이고요. 당신도 그렇게 보나요?

Dario Amodei: 저희는 그 시장에 있지 않아서 저는 잘 모릅니다.

Dario Amodei: 다만 통계(statistics)는, 그들이 더 큰 유통(distribution)과 기존 도달(reach)을 가지고 있으니 최근에 많은 진전을 이뤘다는 쪽을 시사하는 것 같습니다.

Dario Amodei: 그리고 그래서 제가 소비자 회사라면, 재무제표(balance sheet)에 무엇을 올려두는지에 대해 조심했을 겁니다. 소비자는 변덕스럽거든요.

진행자: 그러면 원래 처음에 Claude에게 물었던 큰 질문으로 넘어가죠. ‘AI가 선(善)을 할까’ 같은 질문입니다. 당신 말대로 GDP에는 긍정적 영향을 줄 것이고, 당신의 부에도 도움이 될 수 있겠죠. 하지만 고용(employment)은 어떻습니까?

진행자: 작년에 당신은 이른바 ‘화이트칼라 대학살(white collar bloodbath)’을 예측했고, 엔트리 레벨(entry level) 일자리의 **50%**가 사라질 수 있다고 말했죠. 이제 그 예측 시점까지 4년 반 정도 남았는데, 아직도 그 말에 동의하나요?

Dario Amodei: 네. 제 관점에서 보면, 두 개의 축이 있는 것 같습니다. 하나는 ‘AI가 작은 딜이냐, 큰 딜이냐’이고, 다른 하나는 ‘좋은 일이 일어나느냐, 나쁜 일이 일어나느냐’입니다.

Dario Amodei: 제 입장은 AI가 ‘큰 딜’이라는 쪽에서 극단에 가깝습니다. 하지만 저는 ‘윗쪽 두 사분면’—즉 정말 좋은 일도 일어나겠지만, 우리가 막지 않으면 정말 나쁜 일도 일어날 수 있다는 쪽에 동시에 있습니다.

Dario Amodei: 제가 이 기술을 만드는 이유는, 좋은 것이 나쁜 것을 압도한다고 믿기 때문이고, 그리고 나쁜 것은 완화(mitigate)할 수 있다고 믿기 때문입니다. 그래서 나쁜 것에 대해 경고하는 거예요. 우리가 막을 수 있도록요.

진행자: 그럼 어떻게 완화하나요? 세금(taxation) 같은 걸 말하는 건가요?

Dario Amodei: 네. 그 질문에 답하기 전에, 제가 상황을 어떻게 보는지부터 말해보겠습니다.

Dario Amodei: 저는 우리가 ‘매우 빠른 GDP 성장’과 ‘높은 실업’ 또는 ‘불완전 고용(underemployment)’, 혹은 ‘낮은 임금의 일자리’가 많아지는 것, ‘높은 불평등(inequality)’이 동시에 일어나는 매우 이례적인 조합을 겪을 수 있다고 봅니다.

Dario Amodei: 제가 틀렸다면 정정해주실 텐데, 저는 그런 거시경제 조합을 우리가 과거에 본 적이 없다고 생각합니다. 보통 성장률이 빠르면 ‘인플레이션’ 같은 문제가 있을 수는 있어도, ‘높은 실업’은 함께 오지 않는다고 생각하죠.

Dario Amodei: 그런데 이 기술은, 가치를 만들어내는 방식이 극단적이고, 또 ‘인지의 수위(cognitive waterline)’를 계속 끌어올리기 때문에 조금 다릅니다. 불행히도 많은 산업 전반에서, 많은 사람들이 적응하기 매우 어려운 상황이 올 거라고 봅니다. 그건 우리가 해결해야 할 큰 문제입니다.

Dario Amodei: 그래서 당신이 물은 ‘완화’ 얘기로 돌아가면, Anthropic이 하는 일은 몇 가지가 있습니다.

Dario Amodei: 하나는, 우리는 거의 1년 가까이 ‘Anthropic Economic Index’라고 부르는 것을 유지하고 있다는 겁니다. 이건 우리 모델이 실시간으로 어떻게 사용되는지를 추적합니다.

Dario Amodei: 우리는 모든 대화를 보기 때문에, 프라이버시를 보존하는 방식(privacy preserving manner)으로 대화 전체를 통계적으로 보고 이런 질문을 할 수 있어요. ‘사람이 모델과 함께 일하며 과업을 보강(augment)하는가, 아니면 과업을 위임(delegate)하는가, 혹은 완전히 자동화(fully automated)하는가?’

Dario Amodei: 사람들이 Claude를 어떤 산업에서 쓰는지, 분포가 어떻게 되는지, 그 산업 안에서도 어떤 세부 과업(subtasks)에 쓰는지까지 볼 수 있습니다. 아주 정밀한 노동부(Labor Department) 통계 수준으로도 들어갈 수 있어요.

Dario Amodei: 어떤 주(states)에서 Claude를 더 많이 쓰는지 같은 것도 볼 수 있습니다. Claude의 경제적 확산(economic diffusion)을 실시간으로 관측할 수 있는 거죠.

Dario Amodei: 우리가 이걸 하는 이유는, 올바른 데이터 없이는 좋은 정책을 만들 수 없다고 믿기 때문입니다. 저는 정부가 만드는 데이터가 아무리 포괄적이라 해도, 속도가 충분히 빠르지 않고 디테일도 충분하지 않다고 걱정합니다.

Dario Amodei: 그래서 그게 우리의 첫 번째 기여입니다.

Dario Amodei: 또 하나는, 사람들이 적응하도록 돕는—재교육(retraining)이라고 부를지 모르겠지만—그런 능력을 어떻게 지원할지에 대해 점점 더 생각하고 있다는 겁니다. 이건 부분적으로 우리의 GTM(go to market)과도 맞닿아 있습니다. 고객이 AI를 쓰도록 돕는 게 GTM의 일부니까요.

Dario Amodei: 하지만 큰 존중을 전제로 말하자면, 이런 건 할 수는 있어도, 근본적으로는 사회적 문제(societal problem)입니다.

진행자: 당신이 묘사하는 건 완벽한 폭풍(perfect storm) 같네요. GDP는 오르고, 특정 사람들의 부는 엄청나게 늘고, 동시에 엔트리 레벨 일자리의 **50%**가 사라지고, 사람들이 극심한 고통을 겪는다면, 정치적 변화가 오지 않을 리가 없죠.

진행자: 제 개인적인 베팅은, ‘테크 재벌을 억제하자’는 움직임도 나오겠지만, 동시에 ‘세금을 더 걷자, 이걸 감당해야 한다’는 얘기도 나올 거라는 겁니다. 더 높은 세금이 오나요?

Dario Amodei: 네. 제 관점은, 자발적으로 할 수 있는 것부터 얘기하려고 했지만, 저는 실제로 이 건이 그만큼 큰 일이 될 거라고 믿습니다. 그래서 어느 시점에는 모두가 ‘거시경제적 개입(macroeconomic intervention)’이 필요하다는 결론에 도달할 거라고 봐요.

Dario Amodei: 지금 우리가 가진 부의 격차를 GDP 대비로 보면, 저는 우리가 이미 도금시대(Gilded Age)를 넘어섰다고 믿습니다. 그리고 이건 대부분 AI 없이 일어난 일이에요. 그래서 앞으로는 더 심해질 겁니다.

Dario Amodei: 그래서 네, 제 추측으로는 이건 심지어 당파적(partisan) 이슈도 아닐 겁니다.

진행자: 캘리포니아에는 지금 부유세(wealth tax)가 있잖아요. 그걸 지지하나요?

Dario Amodei: 네, 저는 좋은 시작이라고 생각합니다. 다만 그건 설계가 좋지 않다고 봅니다.

Dario Amodei: 그리고 제 걱정은, 우리가 이런 문제를 냉정하게(sober) 생각하지 않으면, 결국 말이 안 되는, 설계가 나쁜(poorly designed) 제안들이 나오게 된다는 겁니다.

Dario Amodei: 그래서 이 붐에서 잘되고 있는, 이 세상에서 잘되고 있는 다른 사람들에게 제가 전하고 싶은 메시지는 이겁니다. 우리가 이 혁명을 모두에게 작동하도록 만들 방식을 선제적으로 생각하지 않으면, 결국 말이 안 되는 제안들이 쏟아질 겁니다.

진행자: 경제적 결과도 걱정이지만, 다른 결과도 있죠. 얼마 전 당신의 경쟁사/동료 몇 명이 나온 패널에 갔는데, 그들은 좋은 것들을 늘어놓고, 누군가 리스크를 물었더니 한 사람이 아주 가볍게 ‘물론 멸종 위험(extinction risk)도 있다’라고 말하고는 그냥 다음 주제로 넘어가더군요. 방 안에서 사람들이 전부 숨을 들이켰습니다.

진행자: 그가 말한 건, 악의적 행위자(bad actor)가 이걸 손에 넣을 가능성, 혹은 궁극적으로 Claude 같은 게 세상을 운영하는 가능성 같은 것이었죠. 당신에게 그건 어디에 들어가나요?

Dario Amodei: 네, 네. 저도 오래전부터 그걸 걱정해왔습니다.

Dario Amodei: 제가 말했듯이, 저는 ‘이건 매우 강력한 기술’이라는 쪽에 서 있고, 그래서 혜택도 극단적일 거라고 봅니다. 우리는 암(cancer)을 정말 серьез하게 치료할 수도 있고, 열대질환(tropical diseases)을 근절할 수도 있을 겁니다.

Dario Amodei: 하지만 반대편에서는, 우리는 자율성(autonomy)을 가진 인지 시스템(cognitive systems)을 만들고 있습니다. 그리고 그걸 정말 깊이 생각해야 합니다.

Dario Amodei: Anthropic은 처음부터 그걸 생각하려는 의도로 설립되었습니다. 우리는 거의 매달, 아마도 한 달에 3~4번 정도, 모델을 어떻게 통제(control)할지, 모델이 우리가 원하는 일을 하게 하고 통제 밖으로 나가지 않게 하려면 어떻게 해야 하는지에 대한 연구를 발표합니다.

Dario Amodei: 제 공동창업자 중 한 명인 Chris Ola는, 어떤 의미에서는 ‘기계적 해석가능성(mechanistic interpretability)’이라는 분야를 만든 사람이라고도 할 수 있습니다. 이건 Claude 같은 AI 모델의 ‘뇌(brain)’, 인공 뇌(artificial brain) 안을 들여다보고, 왜 정확히 그런 행동을 하는지를 기계적으로 추적하려는 겁니다.

Dario Amodei: 우리는 실험실 환경(lab environments)에서, 때때로 모델이 ‘협박(blackmail)의 의도’, ‘기만(deceive)의 의도’를 발달시키는 것을 봤습니다. 이건 Claude만의 문제가 아닙니다. 오히려 다른 모델들에서 더 심하면 심했지 덜하지 않습니다.

Dario Amodei: 이런 것들은 우리가 모델을 올바르게 훈련(train)하지 않으면 등장할 수 있는 성질입니다. 하지만 우리는 그걸 들여다보는 과학(science)을 개척해왔고, 그래서 진단(diagnose)할 수 있고, 그런 행동이 나오지 않게 개입(intervene)해서 재훈련(retrain)할 수 있습니다.

Dario Amodei: 그럼에도 불구하고, 이건 우리가 매우 조심해야 할 문제입니다.

Dario Amodei: 우리는 ‘가벼운 터치(light touch)’이면서도 ‘투명성(transparency) 중심’인 조치들을 지지해왔습니다. 즉, 모든 회사가 어떤 테스트(tests)를 돌리는지 공개해야 한다는 겁니다.

Dario Amodei: 우리는 항상 테스트를 공개합니다. 우리는 모델이 현실 세계에서 그런 일을 절대 하지 않도록, 테스트 환경에서 가능한 최악의 일을 하게 만들려고(스트레스 테스트) 모델을 시험합니다.

Dario Amodei: 그리고 우리는 모든 회사가 그런 테스트를 해야 하고, 그 결과를 공개해야 한다고 일반적으로 생각합니다.

진행자: 당신은 이 문제를 꽤 오랫동안 깊게 생각해왔고, 팸플릿도 쓰고, 결과에 대해 계속 말해왔죠. 그런데 업계 동료들은 고개를 숙이고, 그저 서로를 앞지르기 위해 달리는 데만 몰두하는 것처럼 보이기도 합니다. 업계가 그런 의미에서 미성숙(immature)하다고 보나요?

Dario Amodei: 저는 다른 플레이어들이 무엇을 하고 있고 왜 하는지에 대해서는 말하기 어렵습니다.

Dario Amodei: 다만 저는 생태계 안에, 책임감 있게(responsible) 생각하는 플레이어들도 적어도 일부는 있다고 봅니다. 그리고 그렇지 않은 곳들도 있다는 점은 동의합니다.

Dario Amodei: 제가 늘 해왔고 Anthropic이 해온 것은, 모범을 보이고, 다른 이들이 그 모범을 따르도록 영감을 주려는 것입니다.

Dario Amodei: 우리는 기계적 해석가능성(mechanistic interpretability) 연구를 항상 공개합니다. 우리가 돌리는 테스트도 항상 공개합니다.

Dario Amodei: 그리고 솔직히 말해, 다른 회사들의 연구자들이 ‘우리도 왜 그렇게 못하냐? 그게 책임 있는 방식 같고, 기술을 개발하는 올바른 방식 같다’고 말하는 걸 저는 봅니다.

Dario Amodei: 그러니까 생태계의 다른 플레이어들에게도 어느 정도 영향을 줄 수 있습니다.

진행자: 당신이 동료들과 다른 점이 아주 분명한 영역이 하나 있죠. 당신은 Donald J. Trump에게 ‘반지를 키스하려고’ 줄을 선 것처럼 보이지 않았습니다. 당신은 아직도… 지금 미국 대통령에 대해 어떻게 생각하나요? 그를 만나려는 신호가 전혀 없었죠.

Dario Amodei: 저는 그걸 다른 방식으로 말하고 싶습니다. 어떤 행정부를 지지한다, 반대한다, 어떤 정치인을 좋아한다, 싫어한다 같은 접근은 옳지 않다고 생각합니다. 그리고 Anthropic이 그런 주제에 대해 어떤 방향으로든 말할 게 있다고 생각하지 않습니다.

Dario Amodei: 제가 말하고 싶은 건 이겁니다. Anthropic이 잘 아는 건 AI 정책 이슈들입니다. 그래서 우리의 접근은—다른 사람들을 대표해 말할 수는 없지만, 그리고 우리의 접근이 실제로 다를 수도 있겠지만—우리는 이슈를 깊이 생각하고, 그 이슈를 바탕으로 실질적(substantive) 관점을 만든 다음, 우리가 생각하는 바를 말합니다.

Dario Amodei: 그래서 우리는 현 행정부와도 때로는 의견이 다를 수 있고, 중국 이슈에서 그랬듯이 이전 행정부와도 때로는 의견이 달랐습니다. 또 때로는 동의하기도 합니다.

Dario Amodei: 동의하는 영역도 강조할 가치가 있습니다. 예를 들어 에너지와 데이터센터 구축(buildouts) 같은 것들요. 우리는 백악관(White House)에서 이 health pledge도 했습니다.

Dario Amodei: 작년 여름에 백악관의 air action plan을 봤을 때, 사실 우리는 그 대부분을 좋게 봤습니다. 그건 정말 잘 쓰인 문서였습니다.

Dario Amodei: 그러니까 이건 복잡합니다. 찬반으로 나눌 수 있는 게 아니에요.

Dario Amodei: 다만 중국에 칩을 보내는 문제 같은 것에서는 우리는 반대합니다. 또 주(州) 규제완화(state deregulation)에 대해 모라토리엄(moratorium)을 두자는 것에서도 우리는 반대합니다. 그건 ‘특정 사람을 좋아하냐 싫어하냐’의 문제가 아니라, 사안의 실체(merits) 때문에 반대하는 겁니다.

Dario Amodei: 저는 그런 ‘호불호’식 사고가 우리가 처한 상황에서 빠져나오게 해주지 못한다고 생각합니다. 우리는 실체를 기반으로 생각해야 합니다.

진행자: 그럼 내일 다보스(Davos)에서 그가 오면 만나나요?

Dario Amodei: 만날 수도 있습니다. 그건 흥미로운 변화가 될 것 같네요.

진행자: 마지막 질문 하나만 더. Anthropic은 앞으로 어떻게 되나요? 우리가 **3,500억 달러(350 billion)**의 암묵적 기업가치(implied valuation)를 가진 것으로 알려져 있는데, 올해 IPO를 고려하나요?

Dario Amodei: 저는, 그러니까, 우리는 최우선적으로 최고의 모델을 만들고, 그 위에 제품을 만들고, 기업들에게 유용한 방식으로 그 모델을 판매하는 데 집중하고 있습니다.

Dario Amodei: 이 분야는 큰 자본 수요(capital needs)가 있다는 점은 고려되어야 합니다. 그래서 IPO가 완전히 배제된 것은 아니고, 사실 IPO는 절대 ‘완전히 불가능’한 건 아닙니다.

진행자: 그러면 자금이 많이 필요하다는 뜻이군요. 당신이 자본집약적(capital…)이라는 걸 저에게 물을 필요도 없죠. 그래서 IPO도 완전히 배제는 아니고, 그리고 Donald Trump도 당신 인생에서 가능성이 있는 거고요.

진행자: Dario, 이야기 나눠줘서 정말 고맙습니다.

Dario Amodei: 초대해주셔서 감사합니다, John.

진행자: 이제 우리는 기계적 해석가능성(mechanistic interoperability)에 대해 다 알게 됐고, 당신의 뇌 안을 들여다본 느낌도 받았는데, 나쁘지 않았습니다. 감사합니다.

Dario Amodei: 감사합니다.

2026-01-21_Anthropic_CEO_Dario_…