Anthropic CEO Dario Amodei on the Future of AI

진행자: 업계가 지금 어디쯤 와 있는지, 대략적인 현황부터 시작해볼까요? 당신과 경쟁사들을 포함해서, 지금 인공지능 일반지능(Artificial General Intelligence, AGI)에 얼마나 가까워졌나요? 먼저 큰 그림을 잡아주시면, 그다음에 도덕성 얘기도 해보죠. Dario Amodei: 네. 네. 초대해주셔서 감사합니다. 저는 사실 인공지능 일반지능(Artificial General Intelligence)이나 초지능(superintelligence)이라는 표현을 별로 좋아하지 않았어요. 그 이유는 이게 아주 강력하지 않다고 생각해서가 아닙니다. 저는 회의론자가 아니에요. 오히려 저는 이 기술이 얼마나 강력해질지에 대해 굉장히 극단적인 관점을 가진 쪽입니다. Dario Amodei: 다만 그 용어들이 ‘어느 한 지점에서 완전히 다른 무언가를 만든다’는 식의 사고 모델을 유도하는데, 그게 잘못된 모델이라고 생각합니다. 실제로 우리가 여기서 보고 있는 것, 그리고 지난 10년, 어쩌면 15년 동안 봐온 것은 아주 매끈한, 지수적인(exponential) 과정입니다. 사실 저와 therapist 공동창업자들이 그걸 처음 문서화한 사람들 중 하나이기도 하고요. Dario Amodei: 1990년대에 무어의 법칙(Moore’s Law)을 봤던 것과 비슷합니다. 컴퓨팅 파워가 12개월마다 혹은 18개월마다 두 배가 되는 식이었죠. 지금도 무어의 법칙 같은 법칙이 있는데, 대상이 컴퓨팅이 아니라 ‘지능 그 자체’, 즉 모델의 다양한 과업 전반에서의 인지 능력(cognitive ability)입니다. Dario Amodei: 우리가 관측하는 바에 따르면 그 인지 능력은, 측정 방식에 따라 다르긴 하지만, 대략 4~12개월마다 두 배가 됩니다. 그러니까 우리는 그냥 인지 능력의 사다리를 계속 올라가고 있는 거예요. Dario Amodei: 예를 들어 코딩(coding) 분야를 보면, 지난 1~2년 동안 정말 빠르게 폭발적으로 발전했습니다. 제 주변에 엔지니어들이 있는데, 실제로 저희 핵심 제품 중 하나를 이끄는 팀 리더가 있습니다. 이름이 Code인 제품이고, 저희 모델을 코딩에 쓰는 방식인데요. 그 사람이 말하길, 지난 2개월 동안 코드를 한 줄도 직접 쓰지 않았대요. 전부 Claude가 작성했고, 그는 그걸 편집하고 검토만 했다는 겁니다. Dario Amodei: 그리고 저희는 최근 Coachwork라는 것도 출시했는데, 이건 코드(code)를 비코딩 작업으로 확장하는 거였어요. 정말 크게 반응이 왔습니다. 저희는 그걸 대략 1주 반 만에 만들었고, 거의 전적으로 code code로 작성했습니다. Dario Amodei: 그래서 저는 우리가 이제 ‘주니어 레벨 소프트웨어 엔지니어’의 업무, 어쩌면 ‘시니어 레벨 소프트웨어 엔지니어’의 상당수 업무까지도, 지금의 AI 시스템이 대부분 수행하는 세계로 들어가고 있다고 봅니다. 이건 더 나아갈 거고, 더 엔드투엔드(end-to-end)로 갈 거예요. 프로젝트를 더 많이 주도하게 될 겁니다. Dario Amodei: 저는 우리가 이 지수 곡선이 얼마나 급격히 위로 꺾이는지에 놀라게 될 거라고 생각합니다. 지수(exponential)라는 게 원래 그렇잖아요. 처음엔 아주아주 느리게 가는 것처럼 보이다가, 조금 빨라지는 듯하더니, 어느 순간 그냥 당신을 훌쩍 지나쳐버립니다. 저는 우리가 지금 그 ‘절벽 직전’에 서 있다고 봐요. 1~2년 안에 정말로 우리를 훌쩍 지나쳐버리는 구간이 올 거라고 생각합니다. 진행자: 그러면 지금, 당신 말로는 ‘순서’가 어떻게 되나요? 당신들, Gemini, OpenAI… 지금 이들을 한데 놓고 보면 대략 어디쯤이라고 보세요? Dario Amodei: 네. 그러니까, 이 분야가 발전하면서 이제는 ‘하나의 스칼라(scalar)’, 그러니까 마치 트랙에서 달리는 선수들처럼 한 줄로 세워서 누가 몇 위인지로 생각하는 게 더 이상 적절하지 않다고 봅니다. 플레이어들이 서로 다른 방향으로 갈라졌거든요. Dario Amodei: 어떤 플레이어들은 아주 소비자 지향(consumer-oriented) 방향으로 갔습니다. 그러면 모델을 ‘초인간적으로 매력적으로’ 만들거나, 쇼핑 추천이나 광고 추천 같은 걸 ‘초인간적으로 잘하게’ 만드는 쪽으로 인센티브가 생깁니다. Dario Amodei: Anthropic은, 제 생각에, 무엇보다도 기업(enterprises)과 개발자(developers)에 집중해왔습니다. 그리고 소비자 쪽을 하더라도 생산성(productivity)과 소비자 업무 중에서도 ‘고부가가치(high value)’ 영역에 집중합니다. 그러면 인센티브 구조가 완전히 달라져요. Dario Amodei: 만약 당신이 ‘일을 끝내는 것’에 초점을 맞춘다면, 앞에서 AGI나 초지능 이야기를 했는데, 저는 이렇게 말하곤 합니다. 이미 오늘날에도 초지능(superintelligences)은 존재하고, 그건 사실 대규모 기업들입니다. 대기업은 어떤 인간보다도 ‘더 똑똑하게’ 문제를 풉니다. 예를 들어 ‘물류와 커머스를 가능한 한 가장 낮은 비용으로 배송하는 문제’라든지, ‘태양광 패널을 가능한 한 가장 낮은 비용으로 만드는 문제’라든지, ‘로켓을 가능한 한 가장 낮은 비용으로 발사하는 문제’ 같은 것들이요. Dario Amodei: 그러니 이 영역에서는 지능(intelligence)에 대한 수익(return)이 정말 큽니다. 그게 우리로 하여금 ‘올바른 것’을 만들도록 동기를 부여한다고 생각합니다. Dario Amodei: 또 기업 시장은 소비자 시장보다 더 안정적이기도 합니다. 우리는 광고(ads)가 필요하지 않습니다. 막대한 수의 무료 사용자가 필요하지도 않아요. 우리는 아주 직접적으로 가치를 만들 수 있습니다. Dario Amodei: ‘참여(engagement)를 최적화한다’거나, 다른 것들을 우선시한다거나, 온갖 외부효과(externalities) 때문에 이상한 결과가 생기는 일이 적습니다. 우리는 그냥 사람들이 실제로 쓸 수 있는 것을 만들면 됩니다. 진행자: 1년 전에 당신은 중국이 어느 정도 따라오고 있다고 말했죠. 지금은 중국이 뒤처졌다고 보나요? Dario Amodei: 저는 그들이 사실 그렇게까지 따라온 적이 없다고 봅니다. 물론 Deep 쪽에서 큰 흥분이 있었던 건 맞아요. 하지만 진실은 몇 가지가 있습니다. Dario Amodei: 첫째, 그런 모델들은 벤치마크(benchmarks)에 아주 최적화되어 있습니다. 제한된 벤치마크 목록에 맞춰 모델을 최적화하는 건 사실 매우 쉽습니다. Dario Amodei: 그런데 우리가 현실 세계로 나가서, 예를 들어 기업 계약(enterprise contracts)을 놓고 다른 회사들과 경쟁할 때를 보면, 솔직하고 candid하게 말해서 우리는 Google을 보고, OpenAI를 봅니다. 가끔 다른 미국 플레이어들이 보이기도 하지만요. Dario Amodei: 저는 거의 중국 모델에 계약을 빼앗긴 적이 없습니다. 거의 없어요. 진행자: 그런데 지금 Trump 행정부가, 당신도 이미 항의했다고 들었는데, 고속 칩과 Nvidia 칩을 중국에 주려고 한다는 이슈가 있죠. Dario Amodei: 맞습니다. 맞습니다. 그들을 붙잡고 있는 건, 그들 스스로도 말했듯이, 칩에 대한 금수조치(embargo)입니다. 그게 그들을 막고 있다고 그 회사들의 CEO들이 명시적으로 말합니다. 그들은 이걸 분명히 말해요. Dario Amodei: 그런데 이제 실제로 어떤 정책들이 나와 있고, 저는 그들이 마음을 바꾸길 바랍니다만, ‘우리 최신 세대만큼은 아니지만’—심지어 그 최신 세대도 고려 중이라는 보도가 있었죠—어쨌든 한 세대 뒤처진 칩을 ‘명시적으로’ 보내려는 움직임이 있습니다. 하지만 그 한 세대 뒤 칩도 여전히 극도로 강력합니다. Dario Amodei: 그리고 우리는 칩을 만드는 능력에서 중국보다 여러 해 앞서 있습니다. 그래서 저는 이런 칩을 보내는 건 큰 실수라고 생각합니다. Dario Amodei: 제가 떠올린 비유가 있는데요. ‘모델을 만든다’는 건 사실 ‘인지(cognition), 지능(intelligence)’을 만드는 것과 같습니다. 국가안보(national security) 측면의 함의가 엄청납니다. 저는 우리가 향하는 곳을 ‘데이터센터 안의 천재들의 나라(country of geniuses in the data center)’라고 부르곤 했습니다. Dario Amodei: 그러니까 노벨상 수상자보다도 똑똑한 사람이 10만 명, 1억 명 있는 상황을 상상해보세요. 그리고 그게 어느 한 나라의 통제 아래 들어가겠죠. Dario Amodei: 그래서 저는 이게 미친 짓이라고 봅니다. 이건, 모르겠어요, 북한에 핵무기(nuclear weapons)를 팔아놓고 ‘그래도 우리가 만들었잖아’ 하고 자랑하는 것과 비슷합니다. 진행자: 당신 친구인 David Sachs는 사실상 중국을 무장시키는 거잖아요. Dario Amodei: 특정 개인을 거론하진 않겠습니다만, 저는 이 정책 자체가 그에 가까운, 그러니까… 네, ‘현명한 정책’이라고 보긴 어렵다고 말하겠습니다. 진행자: 또 하나의 이슈는, 기술이 올바른 방향으로 가고 있을 수는 있지만, 경제적으로는 거품(bubble) 쪽으로 가고 있을 수 있다는 겁니다. 그렇게 보나요? Dario Amodei: 네. 저는 두 가지를 분리해서 보겠습니다. 하나는 ‘기본적인 지수(exponential)’이고, 우리가 지금까지 얘기한 기술적 방향입니다. 무어의 법칙(Moore’s Law)처럼, 기술이 끝까지 계속 발전할 거라고 100% 확신할 수는 없습니다. 본질적으로 귀납(inductive)의 문제니까요. Dario Amodei: 하지만 10년이 훌쩍 넘는 기간 동안 그 흐름을 직접 봐온 지금, 저는 이것이 계속될 것이라고 꽤 자신합니다. 적어도 과거 어느 때보다도 더 자신합니다. 그리고 모델이 ‘거의 모든 것에서 인간보다 더 똑똑해지는’ 지점까지 갈 거라고 봅니다. Dario Amodei: 저는 그게 1~2년 안에 일어날 가능성도 꽤 크다고 생각합니다. 다시 말하지만, 멀어 보이죠. 하지만 지수의 특성은 늘 사람을 놀라게 합니다. Dario Amodei: 만약 1~2년이 아니라면, 저는 5년 미만일 가능성이 매우 높다고 봅니다. 즉 2020년대 안에는 그 순간이 올 겁니다. 저는 그 ‘모멘트’가 2020년대에 온다고 생각해요. Dario Amodei: 자, 이제 경제적 각도를 얘기하겠습니다. 경제적 확산(economic diffusion)은 복잡합니다. 하지만 저는 사람들이 한 가지를 잊지 않길 바랍니다. 그 근본적인 기술적 이득이 계속되는 한, 이 영역에는 **수조 달러(trillions)**의 매출이 생길 겁니다. 어쩌면 회사 하나당도 수조 달러가 될 수 있어요. 경제적 잠재력이 그만큼 큽니다. Dario Amodei: 다만 별개의 문제가 있습니다. 기업들이 실제로 이 기술을 얼마나 빨리 사용할 수 있느냐는 알 수 없습니다. 오늘날 기술이 ‘할 수 있는 것’은, 아마도 전 세계 기업들이 ‘배포(deploy)할 수 있는 것’의 10배쯤 될 겁니다. Dario Amodei: 저는 고객들을 통해 매일 그걸 봅니다. CEO와 대화하면 그분과 경영진은 이 기술의 힘을 이해해요. 고객 서비스 자동화, 코딩, 기타 여러 영역에서요. Dario Amodei: 하지만 그 회사에는 수만 명(tens of thousands)의 사람들이 있습니다. 모두 똑똑한 사람들이지만, AI가 아닌 다른 전문성을 가진 사람들이고, AI를 사용하는 법을 배워야 합니다. 이런 걸 뭐라고 부르든—변화관리(change management), 기업 전환(enterprise transformation)—이건 매우 느립니다. 몇 년이 걸릴 수 있어요. Dario Amodei: 그래서 우리는 ‘수조 달러 매출을 만들’ 매우 강력한 기술을 갖고 있고, 저는 그 잠재력에 엄청난 확신이 있습니다. 하지만 그게 ‘언제’ 실현될지는, 몇 년 단위로 플러스/마이너스가 있을 수 있습니다. 정확히 언제인지는 모릅니다. Dario Amodei: 그리고 그 사이에 회사들은 그 매출을 제공하기 위해 컴퓨트(compute)를 사야 합니다. 너무 많이 사면 재무적으로 과도하게 뻗을 수 있고, 너무 적게 사면 매출을 다 소화할 수 없습니다. 그래서 거기서 경제·금융 문제가 생깁니다. 진행자: 당신은 데이터센터를 짓고 있고, 엄청난 돈을 쓰고 있죠. Belvedere와의 딜도 있고요. 그게 부메랑이 될까 걱정하나요? Dario Amodei: 우리가 여기서 가진 장점이 몇 가지 있습니다. 기업 시장은 소비자 시장과 달리 안정성이 있습니다. 소비자는 변덕스럽지만, 기업 구매는 더 예측 가능합니다. Dario Amodei: 또 기업 시장은 마진이 더 좋습니다. 마진이라는 건 ‘너무 적게 사는 것’과 ‘너무 많이 사는 것’ 사이에서 버틸 수 있는 완충(buffer)이라고 볼 수 있어요. 우리가 컴퓨트에 지불해야 하는 비용과 우리가 매출로 뒷받침할 수 있는 것 사이의 완충이죠. Dario Amodei: 그래서 우리는 몇 가지 장점이 있지만, 그렇다고 해서 리스크가 없다고 말하진 않겠습니다. 업사이드의 크기 자체가 불확실하거나, 타이밍이 불확실한 상황에서, 그걸 완전히 알지 못한 채 재무 의사결정을 해야 하면, 본질적인 위험이 생깁니다. Dario Amodei: 특히 몇 년 앞을 내다보고 자본(capital)과 리소스를 미리 구축해야 합니다. 그 불확실성에서 오는 리스크가 있어요. Dario Amodei: 저는 어떤 회사들은 아마도 과도하게 사들였다고 생각합니다. 저는 그들의 재무를 들여다볼 수는 없고, 발표하는 것만 보는데, 보고 나면 ‘와, 나라면 그렇게까지 하진 않았을 텐데’ 싶을 때가 있습니다. Dario Amodei: 저희는 우리가 내린 결정에 꽤 만족하고 있습니다. 하지만 다른 회사들에 대해서는 확신할 수 없죠. Dario Amodei: 이게 인류 역사상 가장 변혁적인(transformative) 기술이 될 수 있다는 것과, 어떤 회사들은 정말 잘할 것이라는 것, 그리고 모든 회사가 동일하게/빠르게 잘되지는 않을 수 있다는 것은 동시에 성립할 수 있습니다. 진행자: 말씀하신 대로 기업 쪽은 당신들이 강점이 있고요. 소비자 쪽은 OpenAI가 큰 리드가 있는 듯합니다. Gemini가 따라오는 것처럼도 보이고요. 당신도 그렇게 보나요? Dario Amodei: 저희는 그 시장에 있지 않아서 저는 잘 모릅니다. Dario Amodei: 다만 통계(statistics)는, 그들이 더 큰 유통(distribution)과 기존 도달(reach)을 가지고 있으니 최근에 많은 진전을 이뤘다는 쪽을 시사하는 것 같습니다. Dario Amodei: 그리고 그래서 제가 소비자 회사라면, 재무제표(balance sheet)에 무엇을 올려두는지에 대해 조심했을 겁니다. 소비자는 변덕스럽거든요. 진행자: 그러면 원래 처음에 Claude에게 물었던 큰 질문으로 넘어가죠. ‘AI가 선(善)을 할까’ 같은 질문입니다. 당신 말대로 GDP에는 긍정적 영향을 줄 것이고, 당신의 부에도 도움이 될 수 있겠죠. 하지만 고용(employment)은 어떻습니까? 진행자: 작년에 당신은 이른바 ‘화이트칼라 대학살(white collar bloodbath)’을 예측했고, 엔트리 레벨(entry level) 일자리의 **50%**가 사라질 수 있다고 말했죠. 이제 그 예측 시점까지 4년 반 정도 남았는데, 아직도 그 말에 동의하나요? Dario Amodei: 네. 제 관점에서 보면, 두 개의 축이 있는 것 같습니다. 하나는 ‘AI가 작은 딜이냐, 큰 딜이냐’이고, 다른 하나는 ‘좋은 일이 일어나느냐, 나쁜 일이 일어나느냐’입니다. Dario Amodei: 제 입장은 AI가 ‘큰 딜’이라는 쪽에서 극단에 가깝습니다. 하지만 저는 ‘윗쪽 두 사분면’—즉 정말 좋은 일도 일어나겠지만, 우리가 막지 않으면 정말 나쁜 일도 일어날 수 있다는 쪽에 동시에 있습니다. Dario Amodei: 제가 이 기술을 만드는 이유는, 좋은 것이 나쁜 것을 압도한다고 믿기 때문이고, 그리고 나쁜 것은 완화(mitigate)할 수 있다고 믿기 때문입니다. 그래서 나쁜 것에 대해 경고하는 거예요. 우리가 막을 수 있도록요. 진행자: 그럼 어떻게 완화하나요? 세금(taxation) 같은 걸 말하는 건가요? Dario Amodei: 네. 그 질문에 답하기 전에, 제가 상황을 어떻게 보는지부터 말해보겠습니다. Dario Amodei: 저는 우리가 ‘매우 빠른 GDP 성장’과 ‘높은 실업’ 또는 ‘불완전 고용(underemployment)’, 혹은 ‘낮은 임금의 일자리’가 많아지는 것, ‘높은 불평등(inequality)’이 동시에 일어나는 매우 이례적인 조합을 겪을 수 있다고 봅니다. Dario Amodei: 제가 틀렸다면 정정해주실 텐데, 저는 그런 거시경제 조합을 우리가 과거에 본 적이 없다고 생각합니다. 보통 성장률이 빠르면 ‘인플레이션’ 같은 문제가 있을 수는 있어도, ‘높은 실업’은 함께 오지 않는다고 생각하죠. Dario Amodei: 그런데 이 기술은, 가치를 만들어내는 방식이 극단적이고, 또 ‘인지의 수위(cognitive waterline)’를 계속 끌어올리기 때문에 조금 다릅니다. 불행히도 많은 산업 전반에서, 많은 사람들이 적응하기 매우 어려운 상황이 올 거라고 봅니다. 그건 우리가 해결해야 할 큰 문제입니다. Dario Amodei: 그래서 당신이 물은 ‘완화’ 얘기로 돌아가면, Anthropic이 하는 일은 몇 가지가 있습니다. Dario Amodei: 하나는, 우리는 거의 1년 가까이 ‘Anthropic Economic Index’라고 부르는 것을 유지하고 있다는 겁니다. 이건 우리 모델이 실시간으로 어떻게 사용되는지를 추적합니다. Dario Amodei: 우리는 모든 대화를 보기 때문에, 프라이버시를 보존하는 방식(privacy preserving manner)으로 대화 전체를 통계적으로 보고 이런 질문을 할 수 있어요. ‘사람이 모델과 함께 일하며 과업을 보강(augment)하는가, 아니면 과업을 위임(delegate)하는가, 혹은 완전히 자동화(fully automated)하는가?’ Dario Amodei: 사람들이 Claude를 어떤 산업에서 쓰는지, 분포가 어떻게 되는지, 그 산업 안에서도 어떤 세부 과업(subtasks)에 쓰는지까지 볼 수 있습니다. 아주 정밀한 노동부(Labor Department) 통계 수준으로도 들어갈 수 있어요. Dario Amodei: 어떤 주(states)에서 Claude를 더 많이 쓰는지 같은 것도 볼 수 있습니다. Claude의 경제적 확산(economic diffusion)을 실시간으로 관측할 수 있는 거죠. Dario Amodei: 우리가 이걸 하는 이유는, 올바른 데이터 없이는 좋은 정책을 만들 수 없다고 믿기 때문입니다. 저는 정부가 만드는 데이터가 아무리 포괄적이라 해도, 속도가 충분히 빠르지 않고 디테일도 충분하지 않다고 걱정합니다. Dario Amodei: 그래서 그게 우리의 첫 번째 기여입니다. Dario Amodei: 또 하나는, 사람들이 적응하도록 돕는—재교육(retraining)이라고 부를지 모르겠지만—그런 능력을 어떻게 지원할지에 대해 점점 더 생각하고 있다는 겁니다. 이건 부분적으로 우리의 GTM(go to market)과도 맞닿아 있습니다. 고객이 AI를 쓰도록 돕는 게 GTM의 일부니까요. Dario Amodei: 하지만 큰 존중을 전제로 말하자면, 이런 건 할 수는 있어도, 근본적으로는 사회적 문제(societal problem)입니다. 진행자: 당신이 묘사하는 건 완벽한 폭풍(perfect storm) 같네요. GDP는 오르고, 특정 사람들의 부는 엄청나게 늘고, 동시에 엔트리 레벨 일자리의 **50%**가 사라지고, 사람들이 극심한 고통을 겪는다면, 정치적 변화가 오지 않을 리가 없죠. 진행자: 제 개인적인 베팅은, ‘테크 재벌을 억제하자’는 움직임도 나오겠지만, 동시에 ‘세금을 더 걷자, 이걸 감당해야 한다’는 얘기도 나올 거라는 겁니다. 더 높은 세금이 오나요? Dario Amodei: 네. 제 관점은, 자발적으로 할 수 있는 것부터 얘기하려고 했지만, 저는 실제로 이 건이 그만큼 큰 일이 될 거라고 믿습니다. 그래서 어느 시점에는 모두가 ‘거시경제적 개입(macroeconomic intervention)’이 필요하다는 결론에 도달할 거라고 봐요. Dario Amodei: 지금 우리가 가진 부의 격차를 GDP 대비로 보면, 저는 우리가 이미 도금시대(Gilded Age)를 넘어섰다고 믿습니다. 그리고 이건 대부분 AI 없이 일어난 일이에요. 그래서 앞으로는 더 심해질 겁니다. Dario Amodei: 그래서 네, 제 추측으로는 이건 심지어 당파적(partisan) 이슈도 아닐 겁니다. 진행자: 캘리포니아에는 지금 부유세(wealth tax)가 있잖아요. 그걸 지지하나요? Dario Amodei: 네, 저는 좋은 시작이라고 생각합니다. 다만 그건 설계가 좋지 않다고 봅니다. Dario Amodei: 그리고 제 걱정은, 우리가 이런 문제를 냉정하게(sober) 생각하지 않으면, 결국 말이 안 되는, 설계가 나쁜(poorly designed) 제안들이 나오게 된다는 겁니다. Dario Amodei: 그래서 이 붐에서 잘되고 있는, 이 세상에서 잘되고 있는 다른 사람들에게 제가 전하고 싶은 메시지는 이겁니다. 우리가 이 혁명을 모두에게 작동하도록 만들 방식을 선제적으로 생각하지 않으면, 결국 말이 안 되는 제안들이 쏟아질 겁니다. 진행자: 경제적 결과도 걱정이지만, 다른 결과도 있죠. 얼마 전 당신의 경쟁사/동료 몇 명이 나온 패널에 갔는데, 그들은 좋은 것들을 늘어놓고, 누군가 리스크를 물었더니 한 사람이 아주 가볍게 ‘물론 멸종 위험(extinction risk)도 있다’라고 말하고는 그냥 다음 주제로 넘어가더군요. 방 안에서 사람들이 전부 숨을 들이켰습니다. 진행자: 그가 말한 건, 악의적 행위자(bad actor)가 이걸 손에 넣을 가능성, 혹은 궁극적으로 Claude 같은 게 세상을 운영하는 가능성 같은 것이었죠. 당신에게 그건 어디에 들어가나요? Dario Amodei: 네, 네. 저도 오래전부터 그걸 걱정해왔습니다. Dario Amodei: 제가 말했듯이, 저는 ‘이건 매우 강력한 기술’이라는 쪽에 서 있고, 그래서 혜택도 극단적일 거라고 봅니다. 우리는 암(cancer)을 정말 серьез하게 치료할 수도 있고, 열대질환(tropical diseases)을 근절할 수도 있을 겁니다. Dario Amodei: 하지만 반대편에서는, 우리는 자율성(autonomy)을 가진 인지 시스템(cognitive systems)을 만들고 있습니다. 그리고 그걸 정말 깊이 생각해야 합니다. Dario Amodei: Anthropic은 처음부터 그걸 생각하려는 의도로 설립되었습니다. 우리는 거의 매달, 아마도 한 달에 3~4번 정도, 모델을 어떻게 통제(control)할지, 모델이 우리가 원하는 일을 하게 하고 통제 밖으로 나가지 않게 하려면 어떻게 해야 하는지에 대한 연구를 발표합니다. Dario Amodei: 제 공동창업자 중 한 명인 Chris Ola는, 어떤 의미에서는 ‘기계적 해석가능성(mechanistic interpretability)’이라는 분야를 만든 사람이라고도 할 수 있습니다. 이건 Claude 같은 AI 모델의 ‘뇌(brain)’, 인공 뇌(artificial brain) 안을 들여다보고, 왜 정확히 그런 행동을 하는지를 기계적으로 추적하려는 겁니다. Dario Amodei: 우리는 실험실 환경(lab environments)에서, 때때로 모델이 ‘협박(blackmail)의 의도’, ‘기만(deceive)의 의도’를 발달시키는 것을 봤습니다. 이건 Claude만의 문제가 아닙니다. 오히려 다른 모델들에서 더 심하면 심했지 덜하지 않습니다. Dario Amodei: 이런 것들은 우리가 모델을 올바르게 훈련(train)하지 않으면 등장할 수 있는 성질입니다. 하지만 우리는 그걸 들여다보는 과학(science)을 개척해왔고, 그래서 진단(diagnose)할 수 있고, 그런 행동이 나오지 않게 개입(intervene)해서 재훈련(retrain)할 수 있습니다. Dario Amodei: 그럼에도 불구하고, 이건 우리가 매우 조심해야 할 문제입니다. Dario Amodei: 우리는 ‘가벼운 터치(light touch)’이면서도 ‘투명성(transparency) 중심’인 조치들을 지지해왔습니다. 즉, 모든 회사가 어떤 테스트(tests)를 돌리는지 공개해야 한다는 겁니다. Dario Amodei: 우리는 항상 테스트를 공개합니다. 우리는 모델이 현실 세계에서 그런 일을 절대 하지 않도록, 테스트 환경에서 가능한 최악의 일을 하게 만들려고(스트레스 테스트) 모델을 시험합니다. Dario Amodei: 그리고 우리는 모든 회사가 그런 테스트를 해야 하고, 그 결과를 공개해야 한다고 일반적으로 생각합니다. 진행자: 당신은 이 문제를 꽤 오랫동안 깊게 생각해왔고, 팸플릿도 쓰고, 결과에 대해 계속 말해왔죠. 그런데 업계 동료들은 고개를 숙이고, 그저 서로를 앞지르기 위해 달리는 데만 몰두하는 것처럼 보이기도 합니다. 업계가 그런 의미에서 미성숙(immature)하다고 보나요? Dario Amodei: 저는 다른 플레이어들이 무엇을 하고 있고 왜 하는지에 대해서는 말하기 어렵습니다. Dario Amodei: 다만 저는 생태계 안에, 책임감 있게(responsible) 생각하는 플레이어들도 적어도 일부는 있다고 봅니다. 그리고 그렇지 않은 곳들도 있다는 점은 동의합니다. Dario Amodei: 제가 늘 해왔고 Anthropic이 해온 것은, 모범을 보이고, 다른 이들이 그 모범을 따르도록 영감을 주려는 것입니다. Dario Amodei: 우리는 기계적 해석가능성(mechanistic interpretability) 연구를 항상 공개합니다. 우리가 돌리는 테스트도 항상 공개합니다. Dario Amodei: 그리고 솔직히 말해, 다른 회사들의 연구자들이 ‘우리도 왜 그렇게 못하냐? 그게 책임 있는 방식 같고, 기술을 개발하는 올바른 방식 같다’고 말하는 걸 저는 봅니다. Dario Amodei: 그러니까 생태계의 다른 플레이어들에게도 어느 정도 영향을 줄 수 있습니다. 진행자: 당신이 동료들과 다른 점이 아주 분명한 영역이 하나 있죠. 당신은 Donald J. Trump에게 ‘반지를 키스하려고’ 줄을 선 것처럼 보이지 않았습니다. 당신은 아직도… 지금 미국 대통령에 대해 어떻게 생각하나요? 그를 만나려는 신호가 전혀 없었죠. Dario Amodei: 저는 그걸 다른 방식으로 말하고 싶습니다. 어떤 행정부를 지지한다, 반대한다, 어떤 정치인을 좋아한다, 싫어한다 같은 접근은 옳지 않다고 생각합니다. 그리고 Anthropic이 그런 주제에 대해 어떤 방향으로든 말할 게 있다고 생각하지 않습니다. Dario Amodei: 제가 말하고 싶은 건 이겁니다. Anthropic이 잘 아는 건 AI 정책 이슈들입니다. 그래서 우리의 접근은—다른 사람들을 대표해 말할 수는 없지만, 그리고 우리의 접근이 실제로 다를 수도 있겠지만—우리는 이슈를 깊이 생각하고, 그 이슈를 바탕으로 실질적(substantive) 관점을 만든 다음, 우리가 생각하는 바를 말합니다. Dario Amodei: 그래서 우리는 현 행정부와도 때로는 의견이 다를 수 있고, 중국 이슈에서 그랬듯이 이전 행정부와도 때로는 의견이 달랐습니다. 또 때로는 동의하기도 합니다. Dario Amodei: 동의하는 영역도 강조할 가치가 있습니다. 예를 들어 에너지와 데이터센터 구축(buildouts) 같은 것들요. 우리는 백악관(White House)에서 이 health pledge도 했습니다. Dario Amodei: 작년 여름에 백악관의 air action plan을 봤을 때, 사실 우리는 그 대부분을 좋게 봤습니다. 그건 정말 잘 쓰인 문서였습니다. Dario Amodei: 그러니까 이건 복잡합니다. 찬반으로 나눌 수 있는 게 아니에요. Dario Amodei: 다만 중국에 칩을 보내는 문제 같은 것에서는 우리는 반대합니다. 또 주(州) 규제완화(state deregulation)에 대해 모라토리엄(moratorium)을 두자는 것에서도 우리는 반대합니다. 그건 ‘특정 사람을 좋아하냐 싫어하냐’의 문제가 아니라, 사안의 실체(merits) 때문에 반대하는 겁니다. Dario Amodei: 저는 그런 ‘호불호’식 사고가 우리가 처한 상황에서 빠져나오게 해주지 못한다고 생각합니다. 우리는 실체를 기반으로 생각해야 합니다. 진행자: 그럼 내일 다보스(Davos)에서 그가 오면 만나나요? Dario Amodei: 만날 수도 있습니다. 그건 흥미로운 변화가 될 것 같네요. 진행자: 마지막 질문 하나만 더. Anthropic은 앞으로 어떻게 되나요? 우리가 **3,500억 달러(350 billion)**의 암묵적 기업가치(implied valuation)를 가진 것으로 알려져 있는데, 올해 IPO를 고려하나요? Dario Amodei: 저는, 그러니까, 우리는 최우선적으로 최고의 모델을 만들고, 그 위에 제품을 만들고, 기업들에게 유용한 방식으로 그 모델을 판매하는 데 집중하고 있습니다. Dario Amodei: 이 분야는 큰 자본 수요(capital needs)가 있다는 점은 고려되어야 합니다. 그래서 IPO가 완전히 배제된 것은 아니고, 사실 IPO는 절대 ‘완전히 불가능’한 건 아닙니다. 진행자: 그러면 자금이 많이 필요하다는 뜻이군요. 당신이 자본집약적(capital…)이라는 걸 저에게 물을 필요도 없죠. 그래서 IPO도 완전히 배제는 아니고, 그리고 Donald Trump도 당신 인생에서 가능성이 있는 거고요. 진행자: Dario, 이야기 나눠줘서 정말 고맙습니다. Dario Amodei: 초대해주셔서 감사합니다, John. 진행자: 이제 우리는 기계적 해석가능성(mechanistic interoperability)에 대해 다 알게 됐고, 당신의 뇌 안을 들여다본 느낌도 받았는데, 나쁘지 않았습니다. 감사합니다. Dario Amodei: 감사합니다. 2026-01-21_Anthropic_CEO_Dario_…