Karen Hao: 물론 Silicon Valley는 ‘그들이 원하는 만큼’ 우리가 버티면 된다고 말하죠. 그들은 괜찮을 겁니다. 그러니까, 세상의 Sam Altman 같은 사람들은 괜찮을 거예요. 아시다시피 그들은 이미 벙커를 지어 두었고, 자신들이 그 ‘수영장’을 망가뜨린 뒤에 찾아올 어떤 환경 재앙이든 살아남을 준비가 되어 있죠. 제 이름은 Karen Hao이고, ‘Empire of AI’의 저자입니다. 진행자 Bri Kane: 이 책은 다룰 내용이 정말 많아서 바로 본론으로 들어가고 싶어요. 제가 좋아하는 방식으로 ‘빽빽하게’ 쓰인 책이더라고요. 그런데 책 초반에 아주 이르게 제시하는 지점부터 시작하고 싶습니다. 진행자 Bri Kane: Karen님은 많은 기자들이나 심지어 규제 당국자들조차 잘 못하는 방식으로, AI를 또렷하게 바라보는 사람처럼 보였어요. 기술에 덜 익숙해서일 수도 있고, Sam Altman 같은 사람이 AI의 미래를 이야기하기 시작하면 눈이 반짝여 버려서일 수도 있죠. 그렇게 복잡한 주제를 왜 Karen님은 그렇게 냉정하고 명료하게 볼 수 있었던 건가요? Karen Hao: 저는 2018년에 AI를 취재하기 시작했다는 점에서 운이 좋았다고 생각해요. 그때는 지금처럼 이 분야가 소음으로 가득하지 않았거든요. 그리고 저는 MIT Technology Review의 기자였는데, 그 매체는 여러 학문 분야에서 나오는 최첨단 연구를 다루는 데 굉장히 집중합니다. 그래서 저는 대부분의 시간을 학계 사람들, 오래전부터 이 분야에 있었던 AI 연구자들과 대화하며 보냈어요. Karen Hao: 그들에게 분야의 진화, 그 배경의 다양한 철학적 아이디어, 당시 새롭게 등장하는 기법들, 그리고 그 시점에서 기술이 가진 한계까지—저는 어리석어 보일 만큼 ‘기본적인 질문’들을 많이 던질 수 있었죠. 그래서 결국 제가 가진 유일한 이점은 ‘맥락(context)’이라고 생각합니다. Silicon Valley와 세상의 Sam Altman 같은 사람들이 담론을 흐리기 시작하기 전에, 저는 몇 년치 맥락을 먼저 쌓아 두었고, 그 덕분에 지금 쏟아지는 정보의 홍수를 좀 더 차분하게 분석할 수 있게 됐어요. 진행자 Bri Kane: 네, 책은 하나의 중심 전제를 축으로 전개되죠. 저는 Karen님이 그 전제를 아주 강하게 설득했다고 느꼈는데, AI를 역사 속 제국과 식민주의의 관점에서 생각해야 한다는 주장입니다. 왜 그 렌즈가 정확하고 유용하다고 보시는지, 그리고 취재와 리서치 과정에서 어떤 점이 Karen님을 그 결론으로 이끌었는지 설명해 주실 수 있을까요? Karen Hao: 제가 OpenAI 같은 회사를 ‘제국(empires)’이라고 부르는 이유는 두 가지예요. 하나는 그들이 작동하는 규모 자체가 너무 거대하다는 점이고, 다른 하나는 사회의 너무 많은 영역에서 통제적 영향력을 구축했다는 점입니다. 그리고 그들이 막대한 경제·정치 권력을 축적해 온 ‘전술’에도, 역사적 제국과 닮은 점이 있어요. 특히 그 권력은 세계 다수의 ‘소유를 박탈하는(dispossession)’ 과정을 통해 쌓입니다. Karen Hao: 저는 책에서 이들이 그걸 어떻게 하는지 여러 평행선을 보여주는데, 그중 하나는 세계 곳곳에서 엄청난 양의 자원을 추출한다는 점이에요. 물리적 자원이기도 하고, 모델을 학습시키기 위해 개인·예술가·작가·창작자들로부터 가져오는 데이터이기도 하죠. 또 다른 축은, 기술 개발에 기여하는 노동자들에게서 경제적 가치를 뽑아내면서도 그에 비례하는 몫을 거의 돌려주지 않는 방식입니다. Karen Hao: 그리고 지금 AI 산업에는 거대한 ‘이데올로기’ 요소가 있어요. 사람들이 가끔 제게 묻죠. ‘왜 그냥 자본주의 비판으로 쓰지 않았나요? 왜 식민주의를 끌어와야 하죠?’ 그런데 이 회사들의 활동을 자본만으로 보면 오히려 말이 안 됩니다. OpenAI는 지속 가능한 사업 모델이 없어요. Karen Hao: 몇 년 안에 1.4 trillion 달러를 쓰겠다고 약속하면서, 매출은 **tens of billions(수십억 달러 단위가 아니라 수백억 달러 수준)**에 불과하다고 말하니까요. 이윤 동기는 이데올로기적 동기와 결합해 있습니다. 인공 일반 지능(artificial general intelligence, AGI)을 향한 ‘탐구’는 일종의 신앙적 아이디어이지, 과학적 아이디어가 아니에요. Karen Hao: 특정한 AI 개발 경로를 계속 가면 언젠가 AI의 신 같은 존재가 나타나 인류의 모든 문제를 해결해 주거나, 반대로 우리를 지옥으로 몰아넣을 거라는—준(準)종교적 상상에 가깝습니다. 식민주의는 자본주의와 이데올로기의 결합이죠. 그래서 과거의 제국과 ‘AI의 제국’ 사이에는 유사점이 정말 많습니다. Karen Hao: 제가 처음 이런 생각을 하게 된 계기는, 몇몇 학자들이 이미 이런 주장을 정교하게 표현하기 시작했기 때문이에요. 특히 제게 영향을 준 학술 작업이 두 개 있었습니다. 하나는 DeepMind와 University of Oxford 소속 연구자 William Isaac, Shakir Mohamed, Marie-Therese Png이 쓴 ‘Decolonial AI’라는 논문이었고, 다른 하나는 Nick Couldry와 Ulises Mejias가 2019년에 출간한 ‘The Costs of Connection’이라는 책이었어요. Karen Hao: 그 책은 기술 산업의 토대에 ‘데이터 식민주의(data colonialism)’가 있다고 설명했습니다. 저는 이 프레임이 OpenAI, ChatGPT, 그리고 우리가 지금 AI와 함께 서 있는 이 순간을 이해하는 데에도 꼭 필요하다는 걸 깨달았습니다. 진행자 Bri Kane: 지금 AI가 할 수 있는 것의 규모, 그리고 기업들이 아주 가까운 미래에 계획하는 ‘지속적인 성장’의 규모에 대해 이야기해 보고 싶어요. 특히 책이 강조하는데도 AI 논의에서 충분히 중심에 놓이지 않는 게, 데이터센터가 가져오는 환경 영향과, 그 위에 더 많은 데이터센터를 짓기 위해 우리가 무엇—그러니까 쓸 수 있는 땅과 마실 수 있는 물—을 쓰려 하는가, 하는 문제인 것 같아요. Karen님이 보고 있는 AI의 환경 영향, 그리고 가장 우려하는 지점들을 말씀해 주실 수 있을까요? Karen Hao: AI 산업이 현재의 개발 경로를 계속 밟는다면, 수많은 위기가 서로 교차하면서 더 심각해집니다. 첫째는 에너지 위기죠. Sam Altman은 불과 몇 주 전에, 자신이 구축하고 싶어 하는 컴퓨팅 인프라 목표를 새로 발표했어요. 2033년까지 ‘데이터센터 용량’ 250 gigawatts를 구축하고 싶다는 겁니다—그것도 ‘자기 회사만’을 위해서요. Karen Hao: 그게 가능하기는 한 건지조차 모르겠어요. Altman은 이 비용이 10 trillion 달러 정도가 될 거라고 추정했는데, 그 돈을 어디서 조달할 수 있을까요? 누가 알겠어요. 하지만 만약 그게 현실이 된다면, 그 인프라를 돌리는 주된 에너지원은 화석연료(fossil fuels)가 될 가능성이 큽니다. Karen Hao: 2033년까지 핵융합(nuclear fusion)에서 대형 돌파구가 나올 거라고 기대하기 어렵고, 재생에너지(renewable energy)는 이런 시설이 24/7로 돌아가야 한다는 요구를 충족시키기엔 ‘공급 방식’이 맞지 않기 때문입니다. 그래서 Business Insider는 올해 초 조사 보도를 통해, 전력 회사들이 데이터센터 수요를 맞추기 위해 재생에너지 목표를 ‘torpedo’—그러니까 사실상 좌초시키고 있다고 밝혔습니다. Karen Hao: 그 결과 천연가스 발전소의 수명이 연장되고, 석탄 발전소의 수명도 연장되고 있어요. 이는 배출을 늘리는 것뿐 아니라, 지역사회에 대기오염을 더 퍼뜨리는 일이기도 합니다. Karen Hao: Business Insider의 조사에는, 이런 대기오염 급증으로 인해—이미 역사적으로 깨끗한 공기를 누릴 기본권에 접근하지 못했던 지역사회에서—수십억 달러 규모의 의료비 부담이 생길 수 있다는 내용도 있었어요. 예를 들어 미국 테네시주 Memphis에서 나온 훌륭한 보도를 보면, Grok을 학습시키는 데 쓰인 슈퍼컴퓨터 Colossus가 허가받지 않은 35대의 메탄 가스 터빈(methane gas turbines)으로 운영되고 있고, 그게 그 지역 사회의 공기에 유독 오염물질을 뿜어내고 있습니다. Karen Hao: 그리고 또 하나는 담수(freshwater) 소비 문제입니다. 많은 시설이 냉각에 물을 쓰는데, 아이러니하게도 물 냉각이 에너지 효율이 더 좋기 때문이죠. 하지만 물로 식히려면 담수를 써야 합니다. 다른 종류의 물은 장비를 부식시키거나 박테리아가 번식하게 만들 수 있거든요. Karen Hao: Bloomberg는 조사 보도에서 새 시설의 2/3가 물이 부족한 지역으로 들어가고 있다고 밝혔습니다. 그러니 전 세계 곳곳에서 지역사회가 ‘생명 유지에 필요한 자원’인 물을 두고, Silicon 기반 인프라와 경쟁하는 상황이 벌어지는 겁니다. Truthdig의 한 글이 이걸 아주 잘 표현했어요. Karen Hao: 우리는 AI 산업을 ‘중공업(heavy industry)’으로 생각해야 합니다. 즉, 이 산업은 전 세계 환경과 공중보건에 매우 유독하다는 거죠. 진행자 Bri Kane: 어떤 사람들은 이렇게 말하곤 합니다. ‘AI의 환경 영향에 대한 우려는 결국 AI가 해결해 줄 거야. AI가 기후변화 해결책을 찾아낼 거야. 우리가 전에 못 하던 방식으로 숫자를 계산해 줄 거야.’ 그게 현실적인 이야기라고 보세요? Karen Hao: 제 말은 이거예요. 그런 주장은 분명 ‘추정(speculation)’에 기반하고 있고, 반면 제가 방금 설명한 피해는 지금 이 순간에도 실제로 발생하고 있습니다. 그렇다면 질문은 이거죠. 과연 우리는 얼마나 오래 ‘실제 피해’를 감내하면서, 길 끝에서 어쩌면 모든 게 괜찮아질지도 모른다는 ‘가정적 가능성’만을 기다릴 건가요? Karen Hao: 물론 Silicon Valley는 우리가 그들이 원하는 만큼 버티라고 말하겠죠. 그들은 괜찮을 테니까요—세상의 Sam Altman 같은 사람들은 괜찮을 겁니다. 그들은 벙커를 지어 두었고, 자신들이 지구를 망가뜨린 뒤 찾아올 어떤 환경 재앙이든 살아남을 준비가 되어 있으니까요. Karen Hao: 하지만 AGI가 등장해 모든 걸 해결할 가능성은 터무니없이 작습니다. 그리고 강조하고 싶은 건, AI 연구자들 스스로도 이게 일어날 거라고 믿지 않는다는 점이에요. 올해 초 한 설문조사에서는, 산업의 ‘주머니(pocket)’에 들어가 있지 않은, 오랫동안 이 분야에 몸담아 온 AI 연구자들의 75 percent가 ‘우리가 인공 일반 지능으로 가는 길 위에 있지 않다’고 답했습니다. Karen Hao: 그리고 그 AGI가 우리 문제를 해결해 줄 거라고도 보지 않았죠. 그런 관점에서 보면, 과학적으로 뒷받침되지도 않는 아주 작은 가능성을 근거로, 지금 벌어지고 있는 거대하고 되돌릴 수 없는 피해를 정당화해서는 안 됩니다. 진행자 Bri Kane: Sam Altman은 책에서 핵심 인물로 등장합니다. 그는 OpenAI의 핵심 인물이기도 하고요. OpenAI는 세계에서 가장 크고 중요한 AI 회사 중 하나가 됐죠. 그런데 Karen님은 책에서 Altman이 ‘사람들이 듣고 싶어 하는 말’을 해 주는 마스터 조작자(master manipulator)라고도 쓰셨습니다. 그가 진짜로 믿는 것, 혹은 객관적 진실을 말하는 게 아니라요. 진행자 Bri Kane: 그렇다면 Altman이 OpenAI의 현재 능력이나, 현실적인 미래 능력에 대해 거짓말을 했거나 하고 있다고 보시나요? 아니면 그저 자기 마케팅을 스스로 믿게 된 걸까요? Karen Hao: OpenAI의 복잡한 점, 그리고 제가 책을 취재하면서 가장 놀랐던 점은 이거예요. 처음에는 저도 ‘AGI에 대한 주장’이 진정성 없는 수사(rhetoric)일 뿐이라고 의심했습니다. 그런데 취재를 진행하면서, 조직 내부에도—그리고 더 넓게는 샌프란시스코 커뮤니티 전반에도—그걸 진심으로 믿는 사람들이 실제로 존재한다는 걸 알게 됐어요. Karen Hao: AGI가 인류의 모든 문제를 해결할 수 있다는 이야기, 혹은 AGI가 모두를 죽일 수 있다는 이야기 같은 것들 주변에는, 준종교적 운동(quasi-religious movements)까지 생겨나 있었습니다. 그래서 Altman 본인이 정말 ‘신자’인지, 아니면 AI 커뮤니티 전반에 퍼져 있는 진짜 신념을 정치적으로 영리하게 활용해 더 많은 자원과 자본을 OpenAI로 끌어오는 데 쓰는 건지—정확히 판단하기는 매우 어렵습니다. Karen Hao: 하지만 제가 강조하고 싶은 건, 개인이 선한지 악한지, 도덕성이 좋은지 나쁜지에 지나치게 집착하는 방식은 문제의 핵심을 흐릴 수 있다는 겁니다. 궁극적으로 문제는 개인이 아니라, 어떤 개인이든 수십억 명의 삶에 영향을 미치는 결정을 내릴 수 있게 만드는 ‘권력의 구조(system of power)’입니다. Karen Hao: Sam Altman에게는 그의 결함이 있을 겁니다. 하지만 완벽한 사람은 없어요. 그리고 그 자리에 앉는 누구든 각자의 결함이 있을 것이고, 그 결함은 전 세계 사람들에게 거대한 파문을 일으키게 됩니다. 저는 애초에 이런 일이 가능하도록 허용해선 안 된다고 생각해요. 그 자체로 건전하지 않은 구조입니다. Karen Hao: Altman이 더 카리스마 있고, 더 진실하고, 더 뭐든 간에—그렇다고 우리가 그에게 그 모든 권력을 ‘넘겨줘도 된다’는 뜻은 아닙니다. 그리고 Altman을 다른 사람으로 바꾼다고 해서 문제가 해결되는 것도 아니죠. 저는 Altman이 특히 탁월한 스토리텔러이고, 다양한 청중에게 매우 설득력 있게 다가가며, 그 청중들이 그의 회사에 엄청난 권력을 넘겨주도록 만든다고 생각합니다. Karen Hao: 우리는 그런 일이 벌어지도록 놔둬서는 안 됩니다. 또한 개인에게 집착하기보다, 권력 구조를 해체하고 회사를 책임지도록 만드는 데 초점을 맞춰야 합니다. 꼭 ‘그 남자’만을 바라보는 방식으로는 충분하지 않아요. 진행자 Bri Kane: 방금 국제적 파급효과를 말씀하셨는데요. 책에서 인상적이었던 점 중 하나는 Karen님이 국제적으로 많이 이동했다는 겁니다. 데이터센터를 방문했고, AI 데이터 라벨러(annotators)들도 직접 만났죠. 그 경험과, 만나본 사람들에 대해 이야기해 주실 수 있을까요? Karen Hao: 네. 저는 케냐(Kenya)로 가서 OpenAI가 계약한 노동자들, 그리고 OpenAI의 선례를 따라 더 넓은 AI 산업이 전반적으로 계약하는 노동자들을 만났습니다. OpenAI가 그들에게 원했던 일은, 회사의 GPT 모델을 위한 ‘콘텐츠 모더레이션(content-moderation) 필터’를 구축하는 작업이었어요. Karen Hao: 당시 OpenAI는 상용화를 확대하려고 했고, 무엇이든 생성할 수 있는 텍스트 생성 모델을 수백만 명에게 쥐여주면 어떤 문제가 생길지 깨달았습니다. 인터넷으로 학습된 모델은 인터넷의 어두운 구석도 함께 학습하니까요. 사용자에게 인종차별적이고 유독한 혐오 발언을 쏟아낼 수 있고, 그러면 회사는 거대한 PR 위기를 맞고 제품도 실패할 수 있죠. Karen Hao: 그 노동자들에게 그 일이 무엇을 의미했냐면, 인터넷에서 가장 끔찍한 콘텐츠를 직접 들여다봐야 했다는 뜻입니다. 게다가 OpenAI는 더 다양하고 포괄적인 예시를 만들기 위해, 자기 AI 모델에 ‘최악의 콘텐츠’를 상상해 보라고 프롬프트(prompt)를 넣어 AI가 생성한 콘텐츠까지 노동자들에게 보여줬습니다. 그 결과 노동자들은 소셜미디어 시대의 콘텐츠 모더레이터들이 겪었던 것과 같은 심리적 트라우마를 겪었습니다. Karen Hao: 인간의 끔찍한 면들을 끊임없이 마주하다 보니 무너져 내렸고, 사회불안이 생기고, 위축되고, 우울 증상이 나타났죠. 그리고 일부 노동자들에게는, 그 개인이 속한 가족과 공동체까지 함께 흔들리는 일이었습니다. Karen Hao: 개인은 한 장소의 ‘태피스트리(tapestry)’의 일부이고, 그 사람에게 의존하는 다른 사람들이 있으니까요. 더 큰 네트워크 속의 한 ‘노드(node)’가 붕괴되면, 그 주변도 함께 무너질 수 있습니다. Karen Hao: 저는 또 다른 종류의 회사에서 일하는 노동자들도 만났습니다. 이들은 인간 노동 공급망(human labor-supply chain)에서 콘텐츠 모더레이션이 아니라, 인간 피드백 기반 강화학습(Reinforcement Learning from Human Feedback, RLHF)을 담당하는 쪽이었어요. 많은 회사들이 이 방법을 채택했는데, 수만 명의 노동자들이 모델에게 ‘사용자가 챗봇과 대화할 때 무엇이 좋은 답변인가’를 가르쳐야 합니다. Karen Hao: 이 방식은 모델에 특정한 가치관을 심거나 값을 ‘인코딩(encode)’하는 데 쓰이기도 하고, 사실상 모델을 작동시키기 위해서도 필요합니다. 예를 들어 대화가 무엇인지부터 가르쳐야 해요. ‘Human A가 말하고, 그다음 Human B가 말한다. Human A가 질문하고 Human B가 답한다.’ 같은 형식을요. 그게 이제 챗봇이 인간과 상호작용하는 ‘템플릿(template)’이 되었습니다. Karen Hao: 제가 만난 한 여성 Winnie는 Remotasks라는 플랫폼에서 일했는데, 이 플랫폼은 Scale AI의 백엔드(back end) 역할을 합니다. Scale AI는 OpenAI를 포함한 여러 회사에 RLHF를 제공하는 주요 계약사 중 하나예요. Winnie가 다루는 콘텐츠 자체는 꼭 트라우마를 유발하는 것은 아니었지만, 그녀가 일하는 조건은 매우 착취적(exploitative)이었습니다. Karen Hao: 그녀는 자신이 누구를 위해 일하는지조차 몰랐고, Remotasks 플랫폼에 일이 언제 올라올지도 몰랐습니다. 그래서 하루 종일 컴퓨터 앞에서 ‘일이 올라오길 기다리며’ 시간을 보냈어요. 제가 그녀와 이야기했을 때, 그녀는 이미 몇 달 동안이나 다음 작업이 올라오길 기다리는 중이었습니다. Karen Hao: 그리고 작업이 올라오면 그 기회를 놓치지 않으려는 불안 때문에, 하루에 22시간씩 연속으로 일해 가능한 한 많은 돈을 벌려고 했죠. 결국 아이들을 먹여 살리기 위해서였습니다. 파트너가 ‘내가 대신할게’라고 말해 주어야만, Winnie는 잠깐이라도 쉬러 갈 수 있었다고 했습니다. Karen Hao: 그녀가 버는 돈은 하루에 몇 달러 정도였어요. 이것이 AI 산업의 ‘혈관(lifeblood)’인데도, 노동자들은 자신들이 만들어 내는 경제적 가치에서 사실상 아무것도 가져가지 못합니다. 진행자 Bri Kane: Karen님이 만난 그 노동자들과 관련해서, AI 비즈니스가 더 윤리적으로 운영되는 미래가 가능하다고 보시나요? Karen Hao: 저는 그런 미래가 가능하다고 봅니다. 다만 그건 회사들이 자발적으로 그렇게 해서가 아니라, 외부의 압력이 그들을 강제로 움직이게 만들 때 가능해질 거예요. 저는 한때, 패션 산업에서 매우 참담한 노동 사고들이 발생한 뒤 통과된 국제 노동 기준 협정인 Bangladesh ,에 깊게 관여했던 한 여성과도 이야기했습니다. Karen Hao: 그녀가 말하길, 그 협정이 가능했던 방식은 소비자와 대중의 강력한 압력을 쌓아 올려 기업들이 새로운 기준에 서명하도록 강제하는 것이었어요. 그 기준은 공급망을 어떻게 감사(audit)할지, 노동권을 어떻게 보장할지에 관한 것이었습니다. 그녀는 AI 산업에서도 같은 일을 할 수 있는 경로가 있다고 보았습니다. Karen Hao: 소비자들로부터, 심지어 이런 모델을 사용하려는 기업들로부터 충분한 반발(backlash)이 생기면, 기업들은 더 높은 기준을 갖출 수밖에 없습니다. 그리고 그다음에는 그걸 어떤 형태의 규제나 법제화(regulation or legislation)로 굳힐 수 있기를 바란다고 했습니다. 진행자 Bri Kane: 그 말씀을 들으니 이런 질문이 떠오르네요. 현 행정부 아래에서, 우리가 가진 규제 당국은 이 AI 개발을 규제할 수 있을까요? 전반적으로 이 분야를 따라잡아, 무엇을 규제해야 하는지 알 만큼 충분히 이해하고 있을까요? 진행자 Bri Kane: Sam Altman의 마케팅 말과 Musk의 마케팅 말, Thiel의 마케팅 말이—Karen님이 직접 본 현장 현실과—어떻게 다른지 구분할 만큼 충분히 정통할까요? Karen Hao: 미국에서도, 그리고 전 세계 여러 나라에서도, 이 산업을 규제하고 법을 만들기 위해 앞장섰어야 할 ‘정상부(top)’에서 리더십 위기를 겪고 있는 건 분명합니다. 그렇다고 해서 지금 아무것도 할 수 없다는 뜻은 아니에요. 오히려 저는 이런 상황일수록 ‘아래에서부터의 거버넌스(bottoms-up governance)’가 더 필요하다고 생각합니다. Karen Hao: 대중이 적극적인 참여자가 되어 기업들을 공개적으로 지적해야 합니다. 그리고 이미 그런 일이 벌어지고 있어요. 예를 들어 최근 AI 모델로 인해 촉발된 정신건강 위기(mental health crises)가 있었죠. 그와 함께 대중의 강력한 반발이 터져 나오고, 가족들과 피해자들이 기업들을 상대로 소송을 제기하고 있습니다. 그게 바로 아래에서부터의 거버넌스가 작동하는 모습이에요. Karen Hao: 또 기업과 브랜드, 비영리단체, 시민사회(civil society)도 모두 이 기업들에게 더 나아지라고 요구하고 있습니다. 실제로 최근에는, 한 청소년을 죽게 했다는 혐의를 받는 제품을 가진 회사 중 하나인 Character.AI가, 어린이를 .에서 금지하겠다고 발표하기도 했습니다. 그러니 정책 결정자들이 스스로 나서지 않는 상황에서도, 기업들을 계속 책임지게 만들 수 있는 기회는 매우 큽니다. 진행자 Bri Kane: AI의 발전에 대한 우려를 많이 이야기했지만, Karen님은 동시에 낙관할 여지도 많다고 하셨죠. 스스로를 AI ‘두머(doomer)’라고 보시나요, 아니면 AI ‘부머(boomer)’라고 보시나요? Karen Hao: 저는 제가 책에서 정의한 의미의 부머도, 두머도 아닙니다. 그 두 진영은 모두 AGI를 믿고, AI가 결국 어떤 형태로든 자기만의 행위성(agency)—의식(consciousness)이나 감각(sentience) 같은 것—을 갖게 될 거라고 믿어요. 저는 애초에 사람들의 행위성을 빼앗는 ‘행위적(agentic) 시스템’을 만들려는 프로젝트에 참여하는 것 자체가 가치가 없다고 생각합니다. Karen Hao: 제가 더 희망적으로 보는 AI의 미래는, 인간을 대체(supplant)하는 게 아니라 인간을 지원(support)하는 AI 모델과 시스템으로 돌아가는 겁니다. 저는 특히 사회가 해결해야 하는 특정 과제들을 풀기 위한 ‘특화(specialized) AI 모델’에 대해서는 매우 낙관적이고, 오히려 ‘강세(bullish)’라고까지 말하고 싶어요. Karen Hao: 예를 들어 Climate Change AI라는 기후변화 비영리단체가 있는데, 그들은 기후 완화(climate-mitigation) 노력 안에서 AI 기술을 활용해 해결할 수 있는 ‘명확하게 범위가 정해진(well-scoped)’ 과제들을 전부 목록화하는 어려운 작업을 해왔습니다. 그들이 말하는 기술은 대규모 언어 모델(large language models, LLMs)이나 범용 시스템, 이론적 AGI와는 전혀 관계가 없어요. 모두 재생에너지 생산을 극대화하고, 건물과 도시의 자원 소비를 최소화하고, 공급망을 최적화하고, 극한 기상(extreme-weather) 예측의 정확도를 높이는 것 같은 ‘특화된 머신러닝(machine learning) 도구’들입니다. Karen Hao: 제가 자주 드는 또 하나의 예시는 DeepMind의 AlphaFold예요. AlphaFold는 초대형 언어 모델이나 AGI와는 무관한 ‘특화 딥러닝(specialized deep-learning) 도구’인데, 비교적 적당한 규모의 컴퓨터 칩으로 훈련해 아미노산 서열(sequence of amino acids)로부터 단백질 접힘 구조(protein-folding structures)를 정확히 예측했습니다. 이는 인간 질병을 이해하고 신약 개발(drug discovery)을 가속하는 데 매우 중요하죠. Karen Hao: AlphaFold는 작년에 노벨 화학상(Nobel Prize Chemistry)을 받았고요. 저는 우리가 이런 종류의 AI 시스템에 더 많은 에너지, 시간, 인재를 투입해야 한다고 생각합니다. 더 많은 AlphaFold가 필요하고, 더 많은 기후 완화 AI 도구가 필요해요. Karen Hao: 그리고 이런 특화 시스템의 장점 중 하나는, 더 지역화(localized)될 수 있다는 겁니다. 그래서 특정 공동체의 문화, 언어, 역사까지 존중할 수 있죠. 반대로 전 세계 모두에게 통하는 ‘원사이즈-핏-올(one-size-fits-all)’ 해법을 만들겠다는 발상은, 우리 인류의 풍부한 다양성을 하나의 모델이 ‘포괄(encapsulate)’할 수 있다고 믿는 것이고, 그 자체가 본질적으로 매우 제국적(imperial)입니다. Karen Hao: 그래서 저는, 더 아름다운 AI의 미래가 앞에 있다고 믿는다는 의미에서 낙관적입니다. 그리고 거기로 가기 위한 1단계는, 이런 기업들—이 ‘제국들’—을 책임지게 만들고, 그다음 새로운 가능성을 상상하고 실제로 만들어 나가는 것이라고 생각해요. 진행자 Bri Kane: 과학적 탐구에서 AI가 과학자를 대체하는 게 아니라 ‘보조’할 수 있다는 점은 정말 흥미롭습니다. 그런데 Karen님은 책에서 AI 분야 전체가 자본주의와 즉각적인 이윤 추구로 사실상 ‘침투(infiltrated)’되었고, 그 결과 AI 연구의 궤적이 바뀌었다고도 말하죠. 진행자 Bri Kane: 그렇다면 수백만·수십억 달러 기업에 즉각적인 이윤을 만들어 주지 못한다는 이유로, 어떤 아이디어들이 논의에서 밀려나고 있다고 보시나요? Karen Hao: ChatGPT가 등장해 분야를 휩쓸기(steamrolled) 전에는, 뉴로심볼릭 AI(neurosymbolic AI systems)라는 흥미로운 연구 흐름이 진행되고 있었어요. 이는 AI 개발에서 가장 오래된 두 가지 가지를 결합하는 아이디어입니다. 하나는 지금 우리가 갖고 있는 딥러닝(deep learning)이고, 다른 하나는 예전에는 더 보편적이었고 인기 있었던 ‘기호적(symbolic) 시스템’입니다. Karen Hao: 기호적 시스템은 딥러닝과 달리 결정론적(deterministic)입니다. 규칙의 집합을 인코딩하고, 지식 데이터베이스를 기계에 넣는 방식이죠. 그래서 장점은 정확도입니다. 정보를 넣어 두고, 알려진 규칙에 따라 그 정보를 꺼내 쓰니까요. Karen Hao: 하지만 단점도 분명합니다. 우주에 존재하는 모든 지식을 다 인코딩하는 건 너무 어렵고, 말로 규정하기 힘든 ‘부드러운 규범(soft norms)’도 많죠. 게다가 이런 시스템을 최신 상태로 유지하는 것도 어렵습니다. 딥러닝의 장점은 유연성입니다. Karen Hao: 비교적 쉽게 업데이트할 수 있죠. 하지만 딥러닝의 단점은 확률적(probabilistic) 시스템이라는 점이에요. 100 percent 정확하게 만들 수는 없고, 제어하기도 어렵습니다. 그래서 뉴로심볼리즘(neurosymbolism)은 둘의 강점을 합치려는 시도입니다. Karen Hao: 결정론적 시스템의 통제 가능성과 정확함, 그리고 딥러닝 시스템의 유연함을 결합할 수 있을까? 하는 질문이죠. 그리고 이것은, 지금 제대로 투자되지 않고 있는 AI 연구 전선(frontiers) 중 하나일 뿐입니다. 진행자 Bri Kane: Karen, 오늘 함께해 주셔서 정말 감사합니다. 그리고 ‘Empire of AI’에서 보여 주신 이런 취재 작업에도 감사드립니다. Karen Hao: 불러 주셔서 정말 감사합니다, Bri.