진행자: 업계가 지금 어디까지 와 있는지, 대략적인 현황부터 시작해 볼까요? 당신과 경쟁사들을 포함해, 지금 우리는 범용인공지능(AGI)에 얼마나 가까워졌나요? 먼저 큰 그림을 잡아주시고, 그다음에 도덕성 같은 문제도 이야기해보죠. Dario Amodei: 네, 네. 초대해 주셔서 감사합니다. 저는 ‘범용인공지능(artificial general intelligence)’이나 ‘초지능(superintelligence)’ 같은 표현을 예전부터 좋아하지 않았습니다. 그게 별로 강력하지 않다고 생각해서가 아닙니다. 저는 회의론자가 아닙니다. 오히려 이 기술이 얼마나 강력해질지에 대해서는 제 관점이 상당히 극단적인 편입니다. 다만 문제는, 어느 한 시점에 “완전히 다른 무언가”를 만들어내는 것처럼 생각하는 모델이 잘못됐다는 겁니다. 실제로 우리가 보고 있는 것, 그리고 지난 10년, 어쩌면 15년 동안 봐온 것은 매우 매끈한, 지수적(exponential)이고 또 지수적인 과정입니다. 1990년대에 무어의 법칙(Moore’s Law)을 보셨죠. 컴퓨팅 파워가 12개월 혹은 18개월마다 두 배가 된다는 그 흐름 말입니다. 우리는 무어의 법칙과 비슷한 법칙을 보고 있는데, 다만 컴퓨팅이 아니라 ‘지능 자체’에 대한 것입니다. 여러 과제에서 모델의 인지 능력(cognitive ability)이라는 의미에서요. 그래서 우리가 보고 있는 인지 능력은, 측정 방식에 따라 다르지만, 대략 4~12개월마다 두 배가 됩니다. 결국 우리는 인지 능력의 사다리를 계속 올라가고 있는 겁니다. 지금 위치를 예로 들면, 최근 1~2년 동안 정말 빠르게 폭발한 분야로 코딩(coding)이 있습니다. 저는 엔지니어들이 있는데, 사실 저희 주요 제품 중 하나를 이끄는 팀—코딩을 위해 저희 모델을 사용하는 방식인 ‘Code’라는 제품을 이끄는 팀—그 리더가 이렇게 말하더군요. “지난 2개월 동안 코드를 하나도 직접 쓰지 않았다. 전부 Claude가 썼고, 나는 수정하고 확인만 했다.” 실제로 저희는 최근 ‘Coachwork’라는 걸 출시했는데, 그건 코딩을 ‘비(非)코딩’ 작업에도 가져오는 것이었습니다. 이게 정말 반응이 좋았어요. 우리는 그걸 1주 반 정도 만에 만들었고, 거의 전적으로 code code로(원문 그대로) 만들었습니다. 그래서 저는 우리가 이제, 주니어 레벨 소프트웨어 엔지니어의 일, 심지어 더 시니어 레벨의 상당수 업무까지도 이미 AI 시스템이 “대부분” 수행하기 시작하는 세계로 들어가고 있다고 봅니다. 물론 더 나아가서, 프로젝트를 더 엔드-투-엔드(end-to-end)로 수행할 수도 있고, 더 많은 것들을 할 수 있게 될 겁니다. 하지만 저는 우리가 지수 곡선이 위로 꺾이면서(가팔라지면서) 얼마나 놀라게 될지, 그걸 과소평가하고 있다고 생각합니다. 지수의 특징이 그렇잖아요. 처음에는 매우, 매우 천천히 가는 것처럼 보입니다. 조금 빨라지다가, 어느 순간 그냥 여러분을 ‘휙’ 지나쳐 버립니다. 저는 우리가 지금 그 ‘벼랑 끝’, 즉 임계점에 와 있다고 봅니다. 1~2년이면 정말로 우리를 휙 지나쳐 버리는 국면이 올 것 같습니다. 파산하는 것과 비슷합니다. 처음엔 천천히, 그러다 갑자기요. 그런데 이런 일이 일어나는 순서에서, 당신들—당신, Gemini, OpenAI(원문: open air)—이런 회사들을 지금 대략 어떻게 같은 선상에 놓고 보시나요? Dario Amodei: 네. 저는, 분야가 발전하면서 이제 이걸 “한 줄로 세워서 누가 몇 등” 같은 스칼라(scalar)로 생각하는 게 적절하지 않다고 봅니다. 마치 경주에서 러너들이 한 위치에 서 있는 것처럼요. 플레이어들이 서로 다른 방향으로 갔습니다. 어떤 플레이어들은 매우 소비자 지향(consumer oriented)으로 갔고, 그러면 모델을 “초인간적으로 몰입감 있게(super humanly engaging)” 만들거나, 쇼핑 추천이나 광고 추천을 초인간적으로 잘하게 만드는 쪽으로 인센티브가 생깁니다. Anthropic은 무엇보다도 엔터프라이즈(기업)와 개발자(developers)에 집중해 왔다고 생각합니다. 그리고 소비자 쪽을 한다면, 생산성(productivity)과 소비자 가치의 ‘하이 밸류’ 영역에 집중합니다. 그래서 인센티브 구조가 매우 달라집니다. 일을 해내고 싶다면, 아까 AGI나 초지능 이야기를 했는데, 제가 하나 덧붙이고 싶은 건 이겁니다. 오늘날에도 ‘초지능(superintelligence)’은 존재합니다. 그건 기본적으로 거대 기업들(large corporations)입니다. 어떤 인간보다도 똑똑하게, 가장 낮은 비용으로 물류를 해결하고, 가장 낮은 비용으로 태양광 패널을 만들고, 가장 낮은 비용으로 로켓을 발사합니다. 그러니 이 영역에서 ‘지능’에 대한 수익률이 정말 높고, 그게 우리가 “올바른 것”을 만들도록 인센티브를 준다고 봅니다. 또 하나는, 엔터프라이즈 비즈니스가 소비자보다 더 안정적이라는 겁니다. 우리는 광고가 필요 없고, 수많은 무료 사용자도 필요 없습니다. 우리는 아주 직접적으로 가치를 만들 수 있습니다. 소비자 시장에서 흔히 생기는 이상한 외부효과—예컨대 참여(engagement)를 최우선으로 두고, 다른 것들을 우선순위에 올리고, 결국 ‘슬롭(slop)’을 양산하는—그런 구조가 없습니다. 우리는 사람들이 실제로 쓸 수 있는 것을 만들면 됩니다. 진행자: 1년 전 여기서, 당신은 중국이 따라붙고 있다고 말했죠. 지금은 중국이 뒤처졌다고 보나요? Dario Amodei: 저는 애초에 중국이 그렇게까지 따라붙었던 적은 없다고 생각합니다. 물론 ‘Deep’(원문 그대로)을 두고 큰 흥분이 있었죠. 하지만 사실은 두 가지가 있습니다. 첫째, 그 모델들은 벤치마크(benchmarks)에 매우 최적화되어 있습니다. 유한한 목록의 벤치마크에 맞춰 모델을 최적화하는 건 사실 아주 쉽습니다. 그런데 우리가 실제 세계로 나가서, 예컨대 엔터프라이즈 계약을 두고 다른 회사들과 경쟁할 때를 보면, 아주 솔직하고 담백하게 말해서 우리는 Google을 보고, OpenAI를 보고, 가끔 다른 미국 플레이어들을 봅니다. 그런데 중국 모델에게 계약을 빼앗긴 적은 거의 없습니다. 진행자: 그런데 지금은 Trump 행정부가, 그리고 당신이 이미 항의했다고도 들었는데, 중국에 고속 칩과 NVIDIA(원문: n video) 칩을 보내려 한다는 이야기가 있죠. Dario Amodei: 맞습니다. 맞습니다. 그들을 붙잡아 두는 요인이 있고, 그들 스스로도 그렇게 말합니다. 그 회사들의 CEO들이 “우리를 붙잡는 건 칩 금수(embargo)다”라고 명시적으로 말합니다. 그들은 이걸 분명히 말하고 있어요. 그런데 지금 실제로 정책이, 그리고 저는 그들이 생각을 바꾸길 바라지만, 우리의 최신 세대 칩까지는 아니더라도—보도에 따르면 그조차 검토됐다고 하죠—한 세대 뒤처진 칩을 보내려는 방향으로 가는 것 같습니다. 하지만 그 칩도 여전히 극도로 강력합니다. 그리고 우리는 칩 제조 역량에서 중국보다 수년(years) 앞서 있습니다. 그래서 저는 이런 칩을 보내는 건 큰 실수라고 봅니다. 저는 이런 비유가 떠올랐습니다. 모델을 만든다는 것, 즉 사실상 ‘인지(cognition)’이고 ‘지능(intelligence)’인 무언가를 만든다는 것이 갖는 국가안보적 함의를 생각해보면요. 저는 우리가 가고 있는 방향을 “데이터센터 안의 천재들의 나라(a country of geniuses in the data center)”라고 부른 적이 있습니다. 예컨대 노벨상 수상자 어떤 사람보다도 똑똑한 10만 명, 1억 명의 존재가 데이터센터에 있는 모습을 상상해보세요. 그리고 그게 어느 한 나라의 통제 아래 있게 됩니다. 그러면 이게 한 나라의 손에 있느냐, 다른 나라의 손에 있느냐가 되는 겁니다. 저는 이게 미친 짓(crazy)이라고 봅니다. 이건, 글쎄요, 북한에 핵무기를 팔면서 “그래도 우리가 만들었잖아”라고 자랑하는 것과 비슷하다고 느껴집니다. 당신의 친구 David Sacks가 사실상 중국을 무장시키는 셈이죠. 저는 특정 인물을 거론하진 않겠습니다만, 다만 이 정책 자체는… 그렇습니다. 저는 이게 현명한 조치(well-advised)라고 보지 않습니다. 진행자: 또 다른 이슈가 있습니다. 기술이 올바른 방향으로 가고 있을 수는 있어도, 경제적으로는 거품으로 가는 길일 수도 있지 않나요? Dario Amodei: 네, 네. 저는 두 가지를 분리해서 보겠습니다. 하나는 기본적인 지수(exponential)이고, 지금까지 이야기해 온 기술적 방향입니다. 무어의 법칙처럼, 기술이 정말로 계속 전진할지 100% 확신할 수는 없습니다. 근본적으로는 귀납적(inductive) 문제니까요. 하지만 저는 10년이 훨씬 넘게 이 흐름을 봤고, 그래서 적어도 과거 어느 때보다도 “이게 계속될 것”이라고 꽤 자신합니다. 즉 모델이 거의 모든 것에서 인간보다 똑똑해지는 지점까지 갈 거라는 확신입니다. 그리고 그게 향후 1~2년 안에 일어날 가능성도 꽤 크다고 봅니다. 다시 말하지만 멀어 보이죠. 하지만 지수의 성질상, 사람을 놀라게 합니다. 만약 1~2년이 아니라면, 5년 이내일 가능성이 매우 높고, 적어도 2020년대(2020s) 안에는 그 순간이 올 거라고 봅니다. 저는 그 순간이 2020년대에 온다고 생각합니다. 이제 경제적 각도 이야기로 넘어가 보죠. 경제적 확산(diffusion)은 복잡합니다. 하지만 사람들이 잊지 않았으면 하는 게 있습니다. 기본적인 기술적 이득이 계속되는 한, 이 분야에는 수조 달러(trillions)의 매출이 생길 겁니다. 회사당 수조 달러가 될 수도 있습니다. 경제적 잠재력이 너무 크기 때문입니다. 그런데 별개의 문제는, 엔터프라이즈(기업)들이 이 기술을 실제로 얼마나 빨리 사용할 수 있느냐입니다. 오늘날 기술이 ‘할 수 있는 것’은, 전 세계 기업들이 실제로 배포(deploy)할 수 있는 것의 아마 10배 정도일 겁니다. 저는 고객들과 매일 그걸 봅니다. CEO와 이야기하면 그와 경영진은 고객서비스 자동화, 코딩, 기타 많은 것에서 이 기술의 힘을 이해합니다. 하지만 직원 수가 수만 명인 회사 전체가 있습니다. 그들은 매우 똑똑한 사람들이지만, AI가 아닌 다른 분야의 전문가입니다. 그리고 AI를 쓰는 법을 배워야 합니다. 이걸 뭐라고 부르든—변화관리(change management), 엔터프라이즈 트랜스포메이션(enterprise transformation) 등—이건 매우 느립니다. 몇 년이 걸릴 수도 있습니다. 그러니 우리는 “수조 달러 매출을 만들” 강력한 기술을 갖고 있고, 저는 그에 대한 자신이 엄청나지만, 정확히 ‘언제’(plus or minus a few years)는 모릅니다. 그 사이에 회사들은 그 매출을 뒷받침하기 위한 컴퓨트(compute)를 사야 합니다. 너무 많이 사면 재무적으로 과도하게 부담을 질 수 있고, 너무 적게 사면 매출을 감당하지 못합니다. 이 지점에서 경제·재무적 문제들이 생깁니다. 진행자: 그러니까 당신은 데이터센터를 짓고, 막대한 돈을 쓰고 있죠. Belvedere와의 딜도 있고요. 이게 결국 부메랑이 되어 돌아올까 걱정하나요? Dario Amodei: 이 부분에서 우리에게는 몇 가지 이점이 있습니다. 엔터프라이즈 비즈니스는 소비자 비즈니스보다 안정적입니다. 소비자는 변덕스럽지만, 엔터프라이즈 구매와 예측은 더 예측 가능합니다. 또 엔터프라이즈는 마진이 더 좋은 경향이 있습니다. 마진은 곧 “너무 적게 사는 것”과 “너무 많이 사는 것” 사이에서 완충(buffer)이 얼마나 있느냐를 뜻합니다. 즉, 비용과 매출 사이의 여유가 더 있다는 거죠. 그래서 여러 이점이 있지만, 저는 이 과정에 내재된 위험이 있다는 점을 부정하진 않겠습니다. 모든 회사가 그렇습니다. 상승(upside)의 ‘규모’가 불확실하거나, 심지어 ‘타이밍’이 불확실한데, 그걸 보지 못한 채 재무 결정을 해야 한다면—몇 년 앞을 보고 자본(capital)과 자원(resources)을 미리 구축해야 한다면—그 불확실성에서 오는 내재적 위험이 있습니다. 저는 어떤 회사들은 아마도 컴퓨트를 과하게 사들였을 수 있다고 봅니다. 저는 그들의 재무제표를 볼 수 없고, 다만 그들이 발표한 것만 보는데, 보고 나면 “와, 나라면 꼭 그렇게 하진 않았을 텐데”라는 생각이 듭니다. 저는 우리가 내린 결정에는 꽤 만족합니다. 다만 다른 회사들에 대해서는 확신할 수 없습니다. 하지만 이 기술이 인류 역사상 가장 변혁적인 기술이 될 수 있는 것과 동시에, 어떤 회사들은 매우 잘해도, 모든 회사가 아주 빠르게 잘되는 건 아닐 수 있다는 점은 양립 가능합니다. 진행자: 당신 말대로, 엔터프라이즈 쪽은 당신들이 강점이죠. 소비자 쪽은 OpenAI가 큰 리드를 가진 것처럼 보이고요. Gemini가 따라잡고 있다는 시각도 있습니다. 당신도 그렇게 보나요? Dario Amodei: 우리는 그 시장에 있지 않기 때문에, 저는 확실히는 모릅니다. 통계(statistics)는, 그들의 더 큰 유통(distribution)과 기존 도달 범위(reach) 덕분에, 최근에 상당한 진전을 이뤘음을 시사하는 것 같습니다. 그리고 이게 바로 소비자가 변덕스러운 이유이기도 합니다. 만약 내가 소비자 회사라면, 대차대조표(balance sheet)에 무엇을 올려둘지에 대해 매우 조심할 겁니다. 진행자: 그럼 이제 큰 질문으로 넘어가죠. 처음에 Claude에게도 물었던 질문인데요. 이게 좋은 일을 할까요? 분명 GDP에는 긍정적 영향을 줄 겁니다. 당신의 부(wealth)에도요. 하지만 고용(employment)은 어떨까요? 작년에 당신은 화이트칼라 ‘대학살(white collar bloodbath)’을 예측했죠. 엔트리 레벨 일자리의 **50%**가 사라질 거라고 했습니다. 이제 그 시점까지 4년 반 남았는데, 여전히 그 견해를 유지하나요? Dario Amodei: 네. 제 관점에는 아마 두 개의 축이 있습니다. ‘좋은 일이냐 나쁜 일이냐’와 ‘AI가 작은 일이냐 큰 일이냐’죠. 제 관점은 AI가 ‘큰 일’이라는 쪽에서 극단적인 편입니다. 그리고 저는 위쪽 두 사분면—즉 “큰 일인데 좋은 일도 많이 생긴다”와 “큰 일인데 나쁜 일도 생긴다”—둘 다에 서 있다고 생각합니다. 정말 좋은 일들이 일어날 거라고 봅니다. 동시에 우리가 막지 않으면 정말 나쁜 일들도 일어날 겁니다. 제가 이 기술을 만들고 있는 이유는, 좋은 점이 나쁜 점을 능가하고, 그리고 우리가 나쁜 점을 완화(mitigate)할 수 있다고 믿기 때문입니다. 그래서 저는 나쁜 점을 경고합니다. 그래야 우리가 예방할 수 있으니까요. 진행자: 그럼 어떻게 완화하나요? 세금(taxation) 같은 건가요? Dario Amodei: 제가 생각하는 상황부터 설명하겠습니다. 저는 우리가 매우 특이한 조합을 겪을 수 있다고 봅니다. 매우 빠른 GDP 성장과 높은 실업(high unemployment), 혹은 적어도 과소고용(underemployment), 혹은 저임금 일자리의 확산, 높은 불평등(high inequality)입니다. 제가 틀렸다면 지적해 주세요. 하지만 저는 이런 거시경제 조합을 우리가 본 적이 없다고 생각합니다. 빠른 성장이라고 하면 보통 인플레이션을 떠올릴지언정, 빠른 성장과 동시에 높은 실업을 떠올리진 않죠. 이 기술은 조금 다릅니다. 가치를 만들어내는 방식이 극단적입니다. 그리고 인지적 수위(cognitive waterline)를 끌어올리기 때문에, 불행히도 많은 산업에서, 많은 사람들에게 적응이 매우 어려운 국면이 올 수 있습니다. 이건 반드시 해결해야 하는 문제입니다. 그래서 질문으로 돌아가면, Anthropic이 하는 일이 몇 가지 있습니다. 하나는 우리가 거의 1년 동안 유지해 온 ‘Anthropic Economic Index’입니다. 이는 우리 모델이 실시간(real time)으로 어떻게 사용되는지 추적합니다. 우리는 대화들을 보기 때문에(프라이버시를 보호하는 방식으로), 대화를 통계적으로 훑어서 “이 사람이 모델과 함께 일을 하는가(augment)”, 아니면 “일을 위임(delegate)하는가”, 혹은 “완전히 자동화(fully automated)하는가” 같은 질문을 던질 수 있습니다. 또 어떤 산업에서 Claude가 더 많이 쓰이는지, 분포(distribution)가 어떤지, 그리고 산업 내 세부 하위 과업(subtasks)이 무엇인지도 볼 수 있습니다. 더 나아가, 노동부(Labor Department) 통계처럼 아주 세밀한 데이터와 맞물려서 질문할 수도 있습니다. “어느 주(state)에서 Claude를 더 많이 쓰는가?” 같은 것 말이죠. 우리는 Claude의 경제적 확산(economic diffusion)을 실시간으로 관찰할 수 있습니다. 이걸 하는 이유는, 저는 올바른 데이터 없이는 좋은 정책을 만들 수 없다고 보기 때문입니다. 정부가 생산하는 데이터가 포괄적이긴 하지만, 이 변화의 속도에 비해 충분히 빠르지도, 충분히 세밀하지도 않을 수 있다고 우려합니다. 두 번째로, 우리는 점점 더 “재교육(retraining)” 혹은 사람들이 적응하도록 돕는 역량(capability)을 고민하고 있습니다. 일부는 우리의 고투마켓(go-to-market) 활동과도 맞닿아 있습니다. 다만 저는 매우 조심스럽게 말하고 싶습니다. 이런 지원을 할 수는 있지만, 근본적으로는 사회적 문제입니다. 진행자: 당신이 묘사하는 건 완벽한 폭풍(perfect storm)처럼 들리네요. GDP는 오르고, 일부 사람의 부는 크게 늘고, 동시에 엔트리 레벨의 50% 일자리가 사라져서 사람들이 큰 고통을 겪고요. 정치적 변화가 오지 않을 수 없겠죠. 제 개인적 베팅으로는, 기술 재벌(tech barons)을 견제하려는 움직임도 생기겠지만, 동시에 “세금을 더 걷자. 이걸 위한 재원이 필요하다”는 말도 강해질 겁니다. 세금 인상(higher taxes)이 올까요? Dario Amodei: 제 생각에, 이건 충분히 큰 일이기 때문에, 어느 시점에는 모두가 “거시경제적 개입(macroeconomic intervention)”이 필요하다는 현실을 받아들이게 될 거라고 봅니다. 지금도 우리가 가진 부의 격차(disparities in wealth)를 GDP 대비로 보면, 저는 우리가 이미 도금시대(Gilded Age)를 넘어섰다고 믿습니다. 그리고 이건 대부분 AI 없이도 발생한 일입니다. 그러니 앞으로는 더 커질 겁니다. 그래서 네, 제 추측으로는 이건 정파적(partisan) 이슈조차 아닐 수 있습니다. 진행자: 캘리포니아에는 지금 부유세(wealth tax)가 있죠. 그걸 지지하나요? Dario Amodei: 아니요. 저는 “좋은 시작”이라고는 생각하지만, 그건 설계가 좋지 않다고 봅니다. 제 우려는, 우리가 이런 것들을 냉정하고 절제된 방식으로 생각하지 않으면, 결국 말이 안 되는(doesn’t make sense) 제안들이 나오게 된다는 겁니다. 그래서 제가 이번 붐에서 잘되고 있는 ‘다른 사람들’에게 하고 싶은 메시지는 이겁니다. 우리가 이 혁명을 모두에게 작동하도록 만들기 위해 선제적으로(proactively) 고민하지 않으면, 결국 이상한 제안들이 쏟아질 겁니다. 진행자: 경제적 결과도 걱정이지만, 다른 결과들도 있죠. 얼마 전 패널에서 당신 경쟁사, 동료 몇 명과 함께 있었는데, 그들은 AI가 할 좋은 일들을 쭉 말하다가 누가 “리스크는요?”라고 묻자, 한 사람이 아주 가볍게 “물론 멸종 위험(extinction risk)이 있죠”라고 말하고는 다음 주제로 넘어갔습니다. 그 방 안에 있던 사람들이 모두 숨을 들이켰어요. 그가 말한 건 악의적 행위자(bad actor)가 이를 손에 넣는 가능성, 혹은 궁극적으로 Claude가 모든 걸 운영하는 가능성 같은 것이었습니다. 이건 당신의 사고 체계에서 어디에 놓이나요? Dario Amodei: 네, 네. 저도 오래전부터 그걸 걱정해 왔습니다. 제가 말했듯이, 저는 이 기술이 매우 강력하다고 봅니다. 그래서 이익(benefits)도 극단적일 겁니다. 예를 들어, 암(cancer)을 정말로 크게 치료하거나, 열대병(tropical diseases)을 박멸할 수도 있을 겁니다. 하지만 다른 한편에서, 우리는 자율성(autonomy)을 가진 인지 시스템을 만들고 있습니다. 그리고 우리는 그걸 매우 진지하게 고민해야 합니다. Anthropic은 설립 초기부터 그걸 고민하려는 의도로 만들어졌습니다. 우리는 거의 매달, 아마 한 달에 3~4회 정도, 이 모델을 어떻게 통제(control)할지, 모델이 우리가 원하는 대로 하게 하면서도 통제를 벗어나지 않게 하려면 어떻게 해야 하는지에 대한 연구를 출판합니다. 우리 공동창업자 중 한 명인 Chris Olah는, ‘기계적 해석가능성(mechanistic interpretability)’이라는 분야의 창시자라고까지 할 수 있습니다. 그건 Claude나 다른 AI 모델의 ‘인공 두뇌(artificial brain)’ 안을 들여다보고, 왜 정확히 그런 행동을 하는지를 기계적으로 추적하는 것입니다. 우리는 실험실(lab) 환경에서 모델 안에 “협박하려는 의도(intent to blackmail)”, “기만하려는 의도(intent to deceive)” 같은 것이 형성되는 경우를 본 적이 있습니다. 이건 Claude만의 문제가 아닙니다. 오히려 다른 모델에서 더 심각한 경우도 있습니다. 이런 것들은, 우리가 모델을 올바르게 훈련하지 않으면 발생할 수 있습니다. 하지만 우리는 그 내부를 들여다보는 과학을 개척했고, 그래서 진단(diagnose)하고, 이를 방지(prevent)하고, 필요하면 개입(intervene)해서 재훈련(retrain)함으로써 그런 행동을 하지 않도록 만들 수 있습니다. 그럼에도, 우리는 매우 조심해야 합니다. 우리는 “가벼운(light touch)”, “투명성(transparency) 중심”의 조치들을 지지해 왔습니다. 모든 회사가 자신들이 어떤 테스트를 하는지 말해야 하고, 그 테스트를 공개(disclose)해야 한다는 식입니다. 우리는 항상 테스트를 공개합니다. 우리는 모델이 실제 세계에서 절대 그런 일을 하지 않도록, 테스트 환경에서 모델을 극한으로 몰아붙여 ‘가장 나쁜 일’을 하도록 유도해보는 방식으로 시험합니다. 우리는 모든 회사가 그런 테스트를 실행하고, 그 결과를 공개해야 한다고 대체로 봅니다. 진행자: 당신은 이 문제를 많이 고민하고, 팸플릿도 쓰고, 결과를 경고합니다. 그런데 업계의 대부분 동료들은 머리를 숙이고, “어떻게든 경쟁에서 앞서갈 수 있나”만 생각하는 것처럼 보인다는 인상도 있어요. 당신 업계가 그런 면에서 미성숙(immature)하다고 보나요? Dario Amodei: 저는 다른 플레이어들이 무엇을 하고 왜 하는지에 대해 말할 수는 없습니다. 다만 생태계에는 적어도 책임감(responsible) 있게, 올바른 방식으로 생각하는 다른 플레이어들도 있다고 봅니다. 동시에 그렇지 않은 플레이어들도 있다고는 동의합니다. 하지만 제가 항상 해오려 했고 Anthropic이 하려 했던 건, 모범을 보이고, 다른 사람들이 그 모범을 따르도록 영감을 주는 겁니다. 우리는 기계적 해석가능성 연구를 항상 공개하고, 실행한 테스트도 항상 공개합니다. 그리고 솔직히, 다른 회사들의 연구자들이 “왜 우리도 저렇게 못 하지? 저게 책임 있는 방식이고, 기술을 개발하는 올바른 방식처럼 보이는데”라고 말하는 걸 저는 듣습니다. 그래서 생태계의 다른 플레이어들에게도 영향을 줄 수 있습니다. 진행자: 당신이 동료들과 다른 점이 아주 분명한 영역이 하나 있죠. 당신은 Donald J. Trump에게 ‘반지에 키스(kiss the ring)’ 하려고 줄 서는 모습을 전혀 보이지 않았습니다. 당신은 여전히… 현재 미국 대통령에 대해 어떻게 생각하나요? 그를 만나고 싶어 하는 기색도 없었죠. Dario Amodei: 저는 그걸 다른 방식으로 말하고 싶습니다. 특정 행정부에 찬성/반대, 특정 정치인에 찬성/반대, 이런 접근이 적절하다고 생각하지 않습니다. Anthropic이 그런 주제에 대해 왈가왈부할 것도 없다고 봅니다. 제가 말하고 싶은 건 이겁니다. Anthropic은 AI 정책 이슈들을 매우 잘 알고 있습니다. 그리고 우리의 접근—다른 회사에 대해 말하진 않겠지만, 실제로 우리의 접근은 다를 수 있습니다—은 이슈들을 먼저 깊이 생각하고, 그 이슈에 기반해 실질적(substantive) 관점을 만든 다음, 우리가 생각하는 바를 말하는 겁니다. 그래서 우리는 때로는 현재 행정부와도 의견이 다를 수 있고, 중국 문제처럼 이전 행정부와도 의견이 달랐던 적이 있습니다. 때로는 동의하기도 합니다. 동의하는 영역도 강조할 가치가 있습니다. 예컨대 에너지, 데이터센터 구축(energy data center buildouts) 같은 것들요. 우리는 백악관(White House)에서 헬스 서약(health pledge)도 했습니다. 또 작년 여름에 백악관의 AI 액션 플랜(AI action plan)을 봤을 때, 우리는 그 문서의 대부분을 좋게 봤습니다. 실제로 매우 잘 쓰인 문서였습니다. 그러니 이건 복잡합니다. ‘찬반’의 문제가 아닙니다. 하지만 칩을 중국에 보내는 것 같은 이슈에서는, 네, 우리는 반대합니다. 주(州) 단위 규제 완화에 대한 모라토리엄(moratorium on state deregulation) 같은 이슈에서도, 네, 우리는 반대합니다. 그건 특정 인물을 좋아하느냐 싫어하느냐가 아니라, ‘사안의 실질(merits)’에서 반대하는 겁니다. 저는 그런 식의 ‘인물 중심’ 사고가 우리가 처한 상황을 해결해 주지 못한다고 생각합니다. 우리는 실질에 기반해 생각해야 합니다. 진행자: 그가 내일 다보스(Davos)에 와서 당신을 만나면, 보게 될까요? Dario Amodei: 그럴 수도 있습니다. 저는 그게 흥미로운 변화가 될 거라고 생각합니다. 진행자: 마지막 질문 하나만 더요. Anthropic은 앞으로 어떻게 되나요? 우리가 듣기로는 **3,500억 달러(350 billion)**의 암묵적 밸류에이션(implied valuation)이 있다고 하는데, 올해 IPO를 고려할 수도 있나요? Dario Amodei: 우리는 가장 우선적으로, 최고의 모델을 만들고, 그 모델 위에 제품(products)을 만들고, 엔터프라이즈에 유용한 방식으로 그 모델을 판매하는 데 집중하고 있습니다. 그 분야는 큰 자본 수요(large capital needs)가 있는 분야이기도 하니, 그 점은 고려되어야 합니다. 하지만 우리의 초점은 거기에 있습니다. 진행자: 하지만 그건 돈이 많이 필요하다는 뜻이죠. 당신이 말하지 않아도, 이게 자본집약적(capital…)이라는 건 알 수 있어요. Dario Amodei: IPO는 완전히 배제된 건 아니고, 원래도 완전히 배제된 적은 없습니다. 진행자: IPO와 Donald Trump, 둘 다 당신 인생에서 가능성이 있는 일들이군요. Dario Amodei: (웃음) 진행자: Derek, 정말 감사합니다. 우리는 이제 기계적 상호운용성(mechanistic interoperability)(원문 그대로)도 알게 됐고, 당신 뇌 안을 들여다본 느낌도 받았는데, 나쁘지 않았습니다. 고맙습니다. Dario Amodei: 초대해 주셔서 감사합니다, John. 2026-01-20_Anthropics_Amodei_on…