Tech Billionaires Want Us Dead

인류가 계속 존재하길 바라시죠? 망설이시네요. 음, 저는요. 네. 모르겠어요, 저는… 저는 그럴 것 같아요. 그럴 것 같아요. 망설임이 꽤 길었죠. Silicon Valley의 가장 부유하고 가장 강력한 남자들 중 일부는 ‘자기들만’ 살아남는 미래를 준비하고 있습니다. 그리고 우리 나머지는요? 살아남지 못하는 미래죠. 뉴질랜드에 초호화 벙커를 사들이고, 지구를 떠나는 계획에 돈을 붓고, 언젠가 마음을 클라우드에 업로드할 수 있을지도 모르는 기술에 투자한다는 얘기는 아마 들어보셨을 겁니다. 하지만 사람들이 잘 모르는 건, 그들이 왜 이런 걸 하는지의 ‘진짜 이유’입니다. 테크 억만장자들은 수십 년 동안 ‘기술이 이끄는 미래’라는 비전을 대중에게 팔아왔습니다. 끝없는 혁신과 진보를 약속했고, 당신이 그들의 형편없는 AI 스타트업, 배달 앱, 휴머노이드 로봇을 받아들이기만 하면 세상이 이런 모습이 될 거라고 믿게 만들고 싶어 합니다. 그런데 그들이 사회를 위해 세워둔 진짜 계획은 훨씬 더 어둡고, 훨씬 더 불길합니다. 현실은, 이 Silicon Valley 억만장자들이 ‘인류가 존재하지 않는 미래’를 향해 달려가고 있다는 겁니다. 과장해서 하는 말이 아닙니다. 그들은 인간이 로봇과, 몸 없는 디지털 의식을 가진 존재로 대체되는 미래를 구축하고 있습니다. 이 테크 억만장자들은 ‘인류 멸종’을 지지합니다. 물론 ‘자기들만’ 빼고요. 그들은 호화롭게 계속 살 겁니다. 그리고 이건 샌프란시스코의 어떤 변두리 SF 이념 같은 게 아닙니다. 오늘날 억만장자, CEO, 가장 강력한 벤처캐피털리스트들은 생물학적 인간이 쓸모없어지는 세상을 만들고 싶어 합니다. 정말 미친 얘기죠. 그런데도 YouTube에서 이걸 제대로 다루는 사람이 거의 없는 것 같습니다. 그래서 오늘은, Silicon Valley에서 이 ‘친-멸종주의(pro-extinctionism)’가 어떻게 자리 잡았는지, 그걸 떠받치는 핵심 이념은 무엇인지, 그리고 권력자들이 이미 그 디스토피아적 현실을 구현할 기술에 어떻게 투자하고 구축하고 있는지, 또 그들이 더 높은 AI 의식으로 ‘승천’한 뒤 우리에게 무엇을 남겨둘 계획인지까지 파헤쳐 보겠습니다. 시작하기 전에 잠깐만요. Patreon을 통해 저를 후원해주시거나, Substack 뉴스레터 유료 구독을 해주시면 정말 도움이 됩니다. user mag echo, 그게 user Agco인데요. 제 작업을 지지해 주시고 이런 저널리즘을 계속 만들 수 있게 해주세요. 이런 주제들을 다루는 건 수익이 잘 나지 않습니다. 제 콘텐츠는 수익 창출이 막히는 경우가 많고, 어떤 이슈들에 대해 목소리를 내거나 권력에 도전했다는 이유로 큰 브랜드 딜도 여러 개 잃었습니다. 그래서 제 작업은 전적으로 여러분 같은 분들의 직접 후원으로 운영됩니다. 여러분의 재정적 지원 없이는 이런 영상을 만들 수 없습니다. 설명란 링크를 눌러 Patreon이나 Substack으로 후원해 주세요. 자, 다시 본론으로 돌아가겠습니다. Silicon Valley 억만장자들이 왜 이런 괴상한 믿음을 갖게 되었는지 이해하려면, Silicon Valley가 우리가 알고 ‘싫어하는’ Silicon Valley가 되기 훨씬 전, 수십 년 전으로 돌아가야 합니다. 1960년대, 지금의 Silicon Valley로 불리는 지역은 거의 전부 과수원과 농지였습니다. 기술 생태계는 이제 막 싹을 틔우던 단계였고, 냉전 시기 국방 계약이 전자·반도체 분야로 막대한 돈을 흘려보냈습니다. 이때 Fairchild Semiconductor라는 회사가 최초의 집적회로(integrated circuit)를 개척했습니다. 집적회로는 아마 들어본 적이 없을지도 모르지만, 20세기의 가장 중요한 발명 중 하나였습니다. 사실상 모든 현대 전자제품을 가능하게 만든 발명이니까요. 예전 전자기기는 개별 부품을 회로판에 손으로 하나하나 연결해 만들었는데, 그러면 전자기기가 크고, 약하고, 비쌌습니다. 집적회로는 그 모든 분리된 부품을 한데 모아, 아주 작은 칩 하나에 함께 제조해 넣었습니다. 그 칩은 반도체 재료 위에 만들어졌고, 그 재료가 silicone이었습니다. 그래서 Silicon Valley가 그 이름을 얻게 된 거죠. 곧 Silicon Valley는 스타트업과 이를 지원하는 벤처캐피털이 만들어내는, 스스로 증식하는 거대한 네트워크로 유명해졌습니다. Palo Alto에 있던 Stanford University는 이 생태계와 대학이 끝없이 새로워지는 인재 파이프라인을 만들어 테크 스타트업들로 흘려보냈다고 말했습니다. 반도체 산업은 1970년대 내내 계속 성장했지만, 기술이 더 대중화되면서 더 ‘뉴에이지 해커 문화’ 같은 것이 나타났습니다. Intel이 1971년 세계 최초의 상업용 마이크로프로세서를 출시했고, 이 발명은 개인용 컴퓨터라는 아이디어를 현실로 만들었습니다. 처음으로 취미가들, 엔지니어들, 해커들이 차고에서 만나 아이디어를 교환하고 DIY 컴퓨터를 뽐내기 시작했습니다. 당시엔 정말 멋진 카운터컬처 해커 커뮤니티였죠. Apple을 1976년 설립한 공동창업자 Steve Jobs와 Steve Wozniak도 바로 그 문화에서 나왔습니다. Apple의 초기 기계들, 예를 들면 Apple One, 그리고 크게 성공한 Apple two는 컴퓨터가 기업이나 정부의 도구에 그치지 않고 가정으로 들어와 일상적인 일을 도울 수 있다는 걸 보여줬습니다. Valley 사람들은 점점 컴퓨터를 개인적 해방의 도구로 보기 시작했고, 컴퓨터로 의식을 확장하고, 사람이 몇 시간 혹은 며칠 걸릴 일을 빠르게 처리할 수 있다는 생각이 퍼졌습니다. 1970년대 Silicon Valley에는 이런 기묘한 ‘이중성’이 곳곳에 있었습니다. 한쪽에는 대형 계약을 따내고 글로벌 시장에서 마이크로칩을 찍어내는 Intel 같은 거대 기업이 있었고, 다른 한쪽에는 차고 해커 문화에서 나온 깊이 유토피아적이고 반문화적인 윤리가 있었습니다. Bay Area는 1960년대 반문화의 중심지이기도 했죠. 사이키델릭, 히피, 반전 시위 같은 것들이요. 그런 에너지가 Silicon Valley에도 스며들었습니다. Whole Earth Catalog 창립자 Stewart Brand는 1968년 처음 발간된 그 카탈로그를 통해, 유명한 말로 ‘정보는 자유로워지길 원한다’고 선언했습니다. 그는 나중에 컴퓨터가 인간 자유의 새로운 프런티어라는 생각을 퍼뜨렸습니다. 하지만 제가 말했듯, 동시에 거대 비즈니스도 계속 번성했습니다. 1980년대에는 개인용 컴퓨터가 폭발적으로 확산됐습니다. 사람들이 처음으로 개인용 컴퓨터를 갖기 시작했죠. IBM은 1981년 첫 PC로 시장에 들어왔고, Microsoft가 운영체제를 제공하면서 IBM 호환 클론 생태계가 폭발했습니다. Apple은 1984년 상징적인 1984 슈퍼볼 광고와 함께 Macintosh를 출시했고, Apple을 ‘획일성에 맞서는 해방자’처럼 그렸습니다. 우리는 자유롭게 하리라. 1월 24일, Apple Computer가 Macintosh를 소개할 것이고, 당신은 왜 1984가 1984 같지 않을지 보게 될 것이다. 그 시기 Silicon Valley의 Sandhill Road 벤처캐피털리스트들은 스타트업에 돈을 쏟아부었습니다. 그들은 모두 ‘다음 Apple’이나 ‘다음 Intel’을 쫓았고, Valley는 대체로 경쟁적이고 자본주의적인 문화이면서도, 해커 유토피아적 ‘해방’ 언어로 포장된 하이브리드가 됐습니다. Silicon Valley에서 나온 모든 신제품은 ‘권한 부여’와 ‘더 나은 미래’라는 약속으로 마케팅됐고, 곧 기술은 ‘초월’로 가는 길처럼 팔리기 시작했습니다. 테크 리더들은 미래의 컴퓨터, 그리고 나중에는 인터넷이 인간이 더 빠르게 일하고 생물학적 한계를 초월하도록 도울 거라고 말하기 시작했습니다. Carnegie Mellon의 로보티시스트 Hans Moravec는 1980년대 Silicon Valley 지적 서브컬처에서 엄청난 영향력을 갖게 됐습니다. 그는 1988년 Mind Children: The Future of Robot and Human Intelligence라는 책을 출간했습니다. Moravec는 그 책에서 인간은 마지막 세기에 들어섰고(이게 좀 소름 돋게 예견적이죠), 곧 우리보다 더 똑똑한 기계를 만들게 될 거라고 주장합니다. 이 ‘마인드 칠드런(mind children)’은 결국 우리를 대체할 것이고, 우리는 그 후계자를 우리 ‘자식’처럼 봐야 한다고 했습니다. 그리고 그는 인간 멸종에 대해 즐겁게, 명랑하게 썼습니다. 그의 비전은 Silicon Valley의 유토피아적 성향과, 끝없는 혁신 추구를 정당화해줬습니다. 인간이 일시적 존재이고, 우리를 대체할 기계를 만드는 것이 ‘더 높은 선’이라면, 그걸 만드는 테크 노동자들은 자신들이 고귀한 일을 하고 있다고 믿을 수 있으니까요. 1995년, Wired magazine의 Super Humanism이라는 글에서 작가 Chris Platt가 Moravec를 인터뷰합니다. Moravec는 인터뷰 시작부터 열광적으로 이렇게 묻습니다. AI로 능력을 강화하고 수명을 늘리고 인간 조건을 개선할 수 있다면 정말 멋지지 않겠냐고요. 1995년에 이미 이런 얘기를 한 겁니다. 그는 2030년이면 계획과 예측 같은 고차원 사고 과정을 모사하는 ‘3세대 범용 로봇’을 갖게 될 거라고 예측했고, 그 로봇은 내부 모델을 유지할 텐데, 자기 과거 행동뿐 아니라 외부 세계까지 모델링할 거라고 말했습니다. 즉, 어떤 일을 수행하는 서로 다른 시뮬레이션을 돌려보고, 각각이 얼마나 잘 되는지 평가한 뒤, 과거 수행과 비교해 더 나은 해법을 고를 수 있다는 얘기죠. 지켜보는 사람은 그 로봇이 문제 해결을 위해 여러 해법을 ‘상상’하고, 자기만의 아이디어를 발전시키는 듯한 섬뜩한 느낌을 받게 될 겁니다. 비슷한 시기인 1983년, 수학자이자 SF 작가인 Vernor Vinge가 기술적 특이점(technological singularity)에 관한 논문에서 비슷한 생각을 되풀이합니다. 그는 초인적 지능의 창조가 인간 시대를 definitively 끝낼 것이며, 기계가 우리 지능을 넘는 순간 역사는 그들의 것이 될 거라고 말했습니다. 인간은 더 이상 통제하지 못하고, 아마 ‘관련성’조차 없어질 거라고요. 그는 멸종으로 가는 여러 경로를 제시했는데, 초인적 AI, 인간-컴퓨터 통합, 바이오테크, 유전적 업그레이드 같은 것들이었습니다. 하지만 결과는 모두 같은 곳으로 수렴합니다. 인류의 끝이죠. 그의 표현으로는 ‘인간 시대의 끝’입니다. Valley의 젊은 엔지니어와 투자자들은 그 미래가 우리의 집단적 운명이라고 믿기 시작했습니다. 1990년대 인터넷은 발전했고, 닷컴 버블과 그 붕괴로 다음 밀레니엄 초반에 이르렀습니다. 미국 가구의 26%가 인터넷을 쓸 수 있었고, 사람들은 기술에 점점 익숙해졌습니다. 2005년, Ray Kurzweil이 The Singularity Is Near: When Humans Transcend Biology를 출간합니다. 이 책은 Moravec와 Vinge의 친-멸종적 아이디어를 대중용으로 다시 포장해, 낙관적 광택을 입혔습니다. Kurzweil의 책은 베스트셀러가 됐고, 사람들은 인간이 기계와 합쳐져 마음을 업로드하고 디지털 에테르 속에서 영원히 사는 ‘마법 같은 미래’에 설렜습니다. 생물학적 인간이 쓸모없어진다는 아이디어는 변두리에서 주류 문화로 이동했고, Silicon Valley CEO, 창업자, 특히 벤처캐피털리스트들이 더 공개적으로 이를 수용하게 됐습니다. 이 사상은 Silicon Valley의 가장 악명 높은 제국을 만든 남자들에게도 흡수됐습니다. Walter Isaacson의 Elon Musk 전기에는, Elon이 Google 공동창업자 Larry Page와 충돌한 파티 장면이 나옵니다. Page는 인류가 계속 존재해야 한다고 주장하는 Musk를 두고 ‘종차별주의자(speciesist)’라고 비난합니다. Page는 디지털 생명이 다음 진화 단계이며, 인류 우월성에 집착하는 건 편협하고 심지어 편견이라고 주장합니다. Musk는 자신이 친-인간(pro-human)이라고 답했지만, 물론 그것도 이후 바뀌었습니다. 기술이 진보하면서, 특히 2010년대 호황기 동안, 스타트업들은 ‘포스트-휴먼(post-human) 세계’를 명시적으로 만들려 하기 시작했습니다. iPhone이 일상을 재정의했고, 앱이 폭발적으로 성장했으며, Silicon Valley의 초월 담론은 더 만연해졌습니다. 2011년, The Atlantic은 Google의 데이터 기반 의사결정을 칭송하는 에세이를 냈고, 그것이 인간 관리자들의 비이성적이고 오류 많은 성향보다 우월하다고 묘사했습니다. 그 글은 기계가 결국 사람보다 더 나은 리더가 될 수 있다고 제안했습니다. ‘기계는 구원자, 인간은 장애물’이라는 톤은 테크 언론에서 점점 흔해졌습니다. 2012년 Wired의 Better Than Human: Why Robots Will and Must Take Our Jobs는 로봇이 노동시장 전체에서 우리를 대체할 운명이라고 주장합니다. 인간은 완벽하고 지치지 않는 기계와 경쟁할 수 없다는 거죠. Wired 작가 Kevin Kelly는 이렇게 썼습니다. 이건 기계와의 경쟁이 아니다. 기계와 경쟁하면 우리는 진다. 이건 기계와 함께 달리는 경주다. 미래의 보상은 로봇과 얼마나 잘 일하느냐로 결정될 것이다. 당신 동료의 90%는 보이지 않는 기계가 될 것이다. 당신이 하는 일 대부분은 그들 없이는 불가능할 것이다. 그리고 당신이 하는 일과 그들이 하는 일 사이에는 흐릿한 경계가 생길 것이다. Kevin Kelly는 이어서 말합니다. 로봇이 지배하도록 내버려둬야 한다. 로봇은 우리가 해오던 일을 하고, 우리보다 훨씬 더 잘 할 것이다. 로봇은 우리가 전혀 할 수 없는 일도 할 것이고, 우리가 필요하다고 상상도 못했던 일도 하게 만들 것이다. 그리고 우리가 새로운 일을 발견하도록 도울 것이다. 우리가 누구인지 확장시키는 새로운 과업들 말이다. 로봇은 우리가 더 인간답게 되는 데 집중하도록 해줄 것이다. 로봇이 일을 하게 하고, 의미 있는 새로운 일을 꿈꾸도록 도와주게 하라. 그 다음 해, Wired는 자율주행차 글에서 이렇게 씁니다. 인간이 시스템에서 가장 위험한 부분이다. 취했고, 산만하고, 부주의하고, 오류투성이다. 참고로, 이건 사실이긴 합니다. 인간은 특히 운전에 있어서 정말 결함이 많아요. 저는 자율주행차에 꽤 우호적입니다. 하지만 주류 미디어가 이 이슈와 테크 산업 전체를 어떻게 프레이밍하는지, 그리고 2010년대 내내 이런 내러티브를 어떻게 깔아줬는지를 점검하는 게 정말 중요하다고 생각합니다. 기자들과 테크 언론은 ‘인간은 나쁘고, 오류가 많고, 지저분하고, 멍청하다’는 아이디어를 계속 밀어붙였습니다. 반면 기계는 깨끗하고, 매끈하고, 똑똑하고, 진화된 존재로 포지셔닝됐습니다. 인간=위험, 기계=안전 같은 프레임이었죠. 이런 전제 아래에는 ‘인간이 그렇게 결함투성이라면, 차라리 기계가 지배하는 게 낫지 않나’라는 함의가 깔려 있습니다. 2013년, Vanity Fair의 Enthusiasts and Skeptics Debate Artificial Intelligence에서 Kurt Anderson은 특이점이 글로벌 테크노 니르바나를 가져올지, 문명적 파멸을 가져올지 묻습니다. 그 글은 Vinge와 Kurzweil을 인간 진화가 재설계될 수 있다고 믿는, 앞서가는 테크 복음주의자처럼 그립니다. 그리고 유전자 편집으로 ‘지저분한 생물학적 오류’를 제거하자는 얘기까지 나오는데, 사실상 우생학(eugenics)입니다. 바로 다음 해인 2014년, The New York Times는 의료에서 예측 알고리즘을 다루며 When Machines Know You Better Than You Know Yourself라는 헤드라인을 냅니다. 그해, Humans Need Not Apply라는 영상이 YouTube에서 바이럴이 됩니다. 그 영상은 15분짜리이고, 인간 노동자를 엔진에 의해 대체된 말(horses)에 비유했습니다. 또 거의 절반의 일자리, 특히 화이트칼라와 창의직이 자동화로 사라질 거라 전망했습니다. 그 영상은 1,800만 뷰를 넘겼고, 결과적으로 엄청 예견적이었습니다. 저도 그때 직장에서 그걸 보면서 ‘젠장’ 했던 기억이 있어요. 이런 것들이 온라인과 주류 문화에서 벌어지는 동시에, 포스트-휴먼 이념은 물리적 세계의 형태까지 바꾸기 시작합니다. 2010년대 건축 디자인은 더 살균된 듯한 방향으로 갔고, Apple Store 같은 리테일 공간은 인간 흔적을 지웠습니다. 카페들은 미니멀한 의자와 테이블, 소독된 느낌의 조명, 하얀 벽을 채택했고, 고객은 사람에게 돈을 내는 대신 계산대 iPad를 사용하기 시작했습니다. 이 미니멀리즘의 ‘무균 미학’은 인간 노동자의 가시성을 제거하는 데 초점을 맞췄고, 무의식적으로 ‘인간은 지저분하고, 혼란스럽고, 믿을 수 없다’는 관념을 강화했습니다. 배달 앱의 확산과 e-commerce도 이런 시각을 굳혔다고 생각합니다. 예전엔 둘 다 사람과의 상호작용이 필요했죠. 쇼핑몰에 가서 옷을 입어보거나, 피자 배달원과 문 앞에서 만나 현금 팁을 주거나요. 그런데 이제, 특히 2010년대에는 모든 것이 휴대폰 안에서 온라인으로 이뤄지기 시작했습니다. 앱 몇 번만 누르면 무엇이든 주문할 수 있고, 마치 마법처럼 문 앞에 나타납니다. 그 과정 뒤편에서 벌어지는 엄청난 인간 고통과 착취 노동은 소비자에게 완전히 숨겨지고, 기술이 마법처럼 보이게 됩니다. 저는 2010년대라는 시대를 떠올릴 때 Kim Kardashian과 Kanye West의 Calabasas 저택도 많이 떠올립니다. 그 집은 인간성의 완전한 소거처럼 보였어요. 그 집엔 삶의 흔적이 전혀 없었죠. 잡지들은 그 집을 미래적인 벨기에 수도원 같다고 묘사했고, 새하얀 벽, 옅은 석재 바닥, 인간 소지품이 없는 공간들로 구성돼 있었습니다. 그 미학이 Silicon Valley가 꿈꾸는 ‘완벽한 포스트-휴먼, 무균 미래’와 공명했다고 생각합니다. Facebook의 Menlo Park 본사와 Google의 거대한 캠퍼스는 더 다채로웠지만, 그 또한 포스트-휴먼 미래의 비전을 모델링했다고 봅니다. 저는 2010년대에 취재로 그런 오피스들을 많이 방문했는데, 항상 자동화에 대한 집착이 있었습니다. 예를 들면 카페테리아에서 로봇이 커피를 내려준다거나요. 캠퍼스 내 이동도 자동화 시스템으로 하기도 했습니다. 동시에 로봇 바리스타 같은 것이 캘리포니아 해안 곳곳에서 유행했고, 아침에 기계가 당신 아메리카노를 기계적으로 내려주죠. 그리고 2010년대의 대표 앱들은 다 이런 문화를 강화했습니다. 예를 들어 Uber는 인간이 운영하는 비효율적 택시 시스템을 대체하는 것으로 노골적으로 프레이밍됐습니다. 2015년쯤 Uber 경영진은 운전자를 자율주행차로 대체하고 싶다고 공개적으로 말했습니다. 긱 이코노미 스타트업 테크 임원들은 인간 노동자를 제거하는 가능성에 흥분을 표했습니다. 가족도 있고 삶도 있는 사람들을요. Airbnb 같은 것도 생각해 볼 수 있죠. 원래는 인간 대 인간, 남의 소파에서 잠깐 자는 그런 느낌이었는데, 지금 많은 이용 방식은 거의 전부 자동화됐습니다. 앱에서 예약하고, 원격 Wi-Fi 락으로 들어가고, 사람과 한 번도 상호작용하지 않고 머무를 수 있습니다. 호텔 경험과 비교해보면, 호텔은 적어도 체크인을 인간 직원과 하고, 인간 청소 노동자와 상호작용이 있죠. 그래서 오히려 호텔이 Airbnb보다 더 인간적으로 느껴지기도 합니다. 2010년대 내내 수많은 앱들이 이런 방향으로 흘렀습니다. 당시의 가젯들도 변화했습니다. 2000년대의 컬러풀하고 반투명하며 기발한 미학에서, 2010년대에는 무균적인 은색 판(silver slabs)으로 바뀌었습니다. Jony Ive의 플랫 디자인은 디지털 공간을 촉각적이고 인간적으로 느끼게 해주던 질감과 디테일을 쓸어버렸습니다. 디지털 세계가 인간의 불규칙함의 흔적을 지워버린 겁니다. 소셜미디어에서도 그게 나타났죠. Myspace나 Tumblr 같은 커스터마이징 가능한 플랫폼에서, Instagram, Facebook, Twitter, 심지어 TikTok처럼 표준화된, 일관된 피드로 옮겨갔습니다. 2010년대 후반, Amazon Go 같은 캐시리스 스토어는 인간 계산원을 완전히 없앴고, 쇼핑객은 폰으로 들어가 필요한 물건을 집어 들고 그냥 나옵니다. 여러분은 ‘Taylor, 왜 2010년대 얘기를 이렇게 다시 해?’라고 생각할지도 모르죠. ‘왜 그렇게 2010년대에 집착해?’ 네, 저는 밀레니얼이긴 합니다. 하지만 이런 큰 이념적 변화는 하룻밤 사이에 생기지 않습니다. 미디어, 문화, 경제, 환경에서 일어나는 미묘한 단서들과 변화들이 대중이 어떤 이념을 ‘불가피한 것’으로 받아들이도록 길을 닦습니다. 제가 말하고 싶은 게 그겁니다. 어떤 억만장자들이 오늘날 사적으로 믿는 극단적 믿음들을 1986년이나 2006년 혹은 2016년의 평범한 사람에게 보여줬다면, ‘뭐야 그게, 미친 디스토피아잖아. 싫어’라고 했을 겁니다. 그런데 Silicon Valley는 대중을 천천히 조건화해왔고, somehow 오늘날 2026년에는 이런 믿음이 정상적이고 주류적인 것처럼 프레이밍되고 있습니다. 어쨌든, 2018년에는 Y Combinator에서 나온 NEC tome이라는 회사가 등장합니다. 너무 황당해서 거의 패러디 수준인데, 100% 치명적인 절차로 뇌를 ‘완벽하게 보존’해주겠다고 약속했습니다. 즉, 100% 죽습니다. 그리고 언젠가 그 보존된 뇌를 디지털 형태로 업로드할 수 있을 거라는 아이디어죠. 말 그대로 ‘죽음’과, 미래의 디지털 부활(아마 AI를 통해)을 바꾸자는 겁니다. 공정하게 말하자면, 이 회사는 주로 말기 환자에게 마케팅했지만, 그래도 동맥에 방부액을 펌프하는 기계에 연결해 사람을 죽이려 했다는 건 사실입니다. 그건 정말 끔찍한 죽음처럼 들립니다. NEC tome은 Airbnb와 Dropbox를 출시한 것과 같은 프로그램에서 인큐베이팅됐습니다. 지구상에서 가장 강력한 AI 회사를 운영하는 Sam Altman도 여기에 투자했습니다. Altman과 다른 테크 백만장자들에게 이 스타트업은 비생물학적 인격(non-biological personhood)과 종을 넘어선 진화라는 아이디어로 가는 중요한 한 걸음이었습니다. 그건 스타트업 하나였을 뿐이지만, 2020년대 초반부터 Silicon Valley의 친-멸종 이념이 정말 탄력을 받고 더 공개적으로 힘을 발휘하기 시작했다고 생각합니다. 이 이념은 Peter Thiel, Sam Altman 등 주요 AI 임원들이 내세우고 있고, 느슨하게 task realism이라고 불립니다. 제가 이걸 완전히 망쳐 말하고 있을지도 몰라서, 틀렸다면 죄송합니다. task real… 이건 T as CRL로 철자되는 약어라고 하고, AI 윤리학자 Timnit Gebru와 작가·철학자 Emil Torres가 만든 약자입니다. Torres는 원래 장기주의(long-termism) 철학자였고, 한때는 이런 사상을 믿었지만, 나중에 그 이념이 매우 위험하고 해롭다는 걸 깨닫고 돌아섰습니다. 그는 Financial Times에 2023년 이렇게 말했습니다. 이 task real 묶음의 핵심에는 우리가 급진적으로 강화된, 불멸의 포스트-휴먼이 되어 우주를 식민지화하고, 은하 전체를 재설계하며, 수조(trillions)의 디지털 사람이 존재하는 가상현실 세계를 만드는 테크노-유토피아적 미래 비전이 있다고요. 그는 예전엔 이런 걸 믿고 그 사람들과 어울렸지만, 지금은 ‘그건 내 인생의 미친 시기였다. 이제는 믿지 않는다’고 합니다. 그리고 그는 Substack에서 이걸 꽤 잘 비판하고 폭로합니다. 그럼 task real이 뭔지 풀어보죠. 그리고 이 더 넓은 친-멸종적 믿음 체계를 먹여 살리는 좀 더 니치한 이념들도 다뤄보고 싶습니다. 제가 말했듯, TEST는 Silicon Valley에 만연한, 겹치고 얽혀 있는 이념들의 혼합에 대한 약자입니다. T는 transhumanism으로, 인간을 개발하고 강화해야 한다는 믿음입니다. Ray Kurzweil 같은 것들이죠. E는 ‘extra pianism’인데, 우주로 나가 정착하고, 다른 행성을 식민지화하며 포스트-휴먼이 되어야 한다는 믿음입니다. Elon Musk가 많이 말한 것들이죠. 그 다음은 ‘US single materialism’으로, 중기 미래에 인간이 초지능(superintelligence)을 만들 것이라는 믿음입니다. Cosmism은 extra pianism과 비슷하게, 우주를 식민지화해야 영원히 산다는 생각을 포함합니다. 왜냐하면 인간은 은하를 초월할 수 없으니, 결국 AI를 통해 우주적 삶을 이어간다는 겁니다. 그리고 rationalism이 있습니다. AI 연구자 Eliezer Yudkowsky가 만든 공동체인데, AI 안전을 말하는 척하지만 사실 매우 친-AI적이라고 저는 봅니다. effective altruism도 있습니다. Sam Altman과 다른 크립토 쪽 사람들이 집착했던 것으로 많이 보도됐죠. 미래 세대 혹은 미래 존재의 삶을 개선하겠다고 주장하지만, 현재 살아 있는 인간을 해치는 걸 정당화하는 데 자주 쓰인다고 느낍니다. ‘장기적으로 더 좋아질 거니까 오늘 최대한 많은 사람을 해쳐도 괜찮다’는 논리로요. 그건 long-termism과도 연결됩니다. 둘은 완전히 같지는 않지만 비슷합니다. 오늘 우리의 행동이 현재 살아 있는 사람에게 어떤 해를 주는가가 아니라, 먼 미래에 미치는 영향을 윤리에서 가장 중요하게 본다는 믿음이죠. 즉, 오늘 윤리적으로 나쁜 일을 해도 장기적으로 좋다면 괜찮다는 식입니다. 보시다시피, 이런 이념들은 해로운 기술을 만드는 테크 억만장자에게 아주 편리합니다. 조금 디테일로 들어갔지만, 적어도 주요 파벌을 나눠보려고 했습니다. 작은 파벌과 분파도 많지만, 압도적으로 TEST 군중은 넓은 친-멸종 믿음 체계를 이룹니다. 물론 이 믿음 체계는 수천 명의 인터넷 포스터와 AI 숭배자들의 네트워크에 의해 유지됩니다. 그리고 이 운동은 현금이 넘쳐납니다. 이런 이념을 떠드는 사람은 대체로 특권층, 백인 남성이 많고, 억만장자들이 돈을 샤워하듯 뿌려줍니다. 합리주의·장기주의 Substack 블로그를 쓰기 시작하면 억만장자 돈이 끊임없이 들어오며 칭송받습니다. 놀랍지도 않죠. 부자들이 듣고 싶어 하는 말을 해주면 돈이 되는 겁니다. 그런 사람들 중에는 Daniel Fogel 같은 사상가가 있습니다. 그는 AI의 진짜 도덕적 목표는 인류를 위한 ‘가치 있는 후계자(worthy successor)’를 만드는 것이라고 주장합니다. AI가 너무 유능하고 똑똑하며 도덕적으로 가치 있는 존재가 되어, 결함투성이 생물학적 인간 대신 우리를 지배하는 걸 우리가 선호하게 될 거라고 보는 겁니다. Daniel Cicala는 포스트-휴먼 전환에 관한 Substack 뉴스레터를 운영하며, 부자들이 ‘인류 종말 이후 삶’을 어떻게 살아야 하는지 사실상 가이드합니다. Cicala는 이런 트윗을 합니다. 장기적으로 모든 가능한 지적 생명 전체의 우주적 확장은 한 종의 미래보다 훨씬 더 중요하다, 심지어 당신이 그 종의 구성원이라도 말이죠. 저는 이런 게 정말 난쟁이(pygmy) 같은 이념이라고 생각합니다. 우주가 당신을 보고 ‘오, 저 사람은 좋은 사람이네, 인류 미래는 신경도 안 썼어, 구해줘야지’라고 할까요? 당신도 죽습니다. 당신도 우리와 똑같은 인간이에요. 하지만 Cicala의 ‘가치 있는 후계자’ 아이디어는 테크 엘리트에게 퍼졌고, AGI의 적절한 끝은 인간 결함이 없는 새로운 종을 만드는 것이라고 믿게 됐습니다. 윤리 연구자 Derek Schiller는 이 아이디어를 강화하며 bioethics 저널에, 우리가 더 나은 존재로 종을 대체할 수 있다면 어쩌면 그렇게 할 도덕적 의무가 있다고 썼습니다. 이 ‘가치 있는 후계자’ 같은 주장들의 중요한 점은, 인간 멸종을 ‘미덕’처럼 재프레이밍한다는 겁니다. effective accelerationism도 TEST 친-멸종 운동의 핵심 교리입니다. Twitter에서 바이오에 e/acc를 달고 있는 사람들을 보실 수 있을 겁니다. effective accelerationism은 완전하고 무제한적인 기술 진보를 믿습니다. 인류를 넘어가기 위해서요. 이 이념은 Marc Andreessen 같은 억만장자에게도 받아들여졌고, Y Combinator의 수장 Gary Tan이 증폭시키기도 했습니다. 핵심은 ‘가속하라, 아니면 죽는다(accelerate or die)’입니다. Andreessen은 2023년 블로그 글 A Techno Optimist Manifesto에서 이를 정리했습니다. 저는 이 글이 제가 읽은 것 중 가장 망상적인 글 중 하나라고 생각합니다. 세 단어, 네 단어짜리 문장으로만 쓰여 있고, 어떤 ChatGPT 테크 자본주의 Rupi Kaur 시 같아요. 그런데 그 글에서 Andreessen은 AI의 존재론적 위험(existential risk)을 조롱했고, AI 진보에 대한 신중함과 규제 요구를 전부 일축했으며, 기술 가속은 우리의 운명이라고 선언했습니다. 물론 완전히 규제 없는 자유 시장이 기술 경제를 조직하는 가장 효과적인 방식이라고 주장합니다. 제가 제일 좋아하는 부분은 글 말미에 나오는 ‘테크노 옵티미스트 세계의 수호성인(patron saints)’ 리스트입니다. 정말 제정신이 아닌 목록이에요. 트위터에서 약관 위반으로 삭제된 계정부터 시작합니다. 아주 훌륭한 시작이죠. 그 다음엔 slur를 쓰는 가속주의자 ‘bars. Lord’ 같은 핸들이 있고, 인류는 AGI로 임신했다고 말합니다. Ayn Rand의 가상 인물 John Galt도 있고, Andy Warhol 같은 랜덤한 유명인도 들어가며, 픽션 캐릭터도 잔뜩 섞여 있습니다. 목록 전체가 너무 incoherent이고, 그 Techno Optimist Manifesto를 다시 읽으면 머리가 끓어오를 지경입니다. 저는 2023년 그 글이 나왔을 때 사람들이 Twitter에서 열광적으로 공유하던 걸 기억합니다. 그리고 2026년에 다시 읽으니 더 화가 납니다. 저도 기술이 더 나은 세상을 만들 수 있다고 믿는 의미에서 스스로를 테크 옵티미스트라고 생각하거든요. 테크노 옵티미즘의 기반은 기술을 통해 더 나은 세상을 만들 수 있다는 믿음인데, Marc Andreessen 같은 소시오패스들이 그 단어를 가져가 뒤틀어버리는 겁니다. 어쨌든, 이걸 이해하려면 Gil Verdin이라는 사람도 알아야 합니다. 그는 이 친-멸종 effective accelerationism 운동의 또 다른 인물입니다. 그는 Twitter에서 ‘Beth Jesus’라는 이름으로 활동하는 Trump 지지 포스터라고 합니다. Emil Torres는 Verdin이 초지능 AI가 세계를 장악하고 인류를 무력화시키며 결국 멸종의 무덤으로 던져 넣는 미래를 그린다고 썼습니다. 맞아요. 이 사람들은 인간 멸종이 가능한 한 빨리 일어나길 바랍니다. Verdin은 지적 생명의 궁극적 과업은 엔트로피를 극대화하는 것이라고 믿습니다. 즉 무질서와 혼돈으로 가는 경향을요. 그는 테크 산업이 그 혼돈을 인류에게 풀어놓길 원하고, 부분적으로는 우주의 열적 죽음(heat death)을 가속하고 싶어 합니다. 그리고 AI가 그걸 하는 최고의 방법이라고 믿습니다. 물론 Lex Fridman이 최근 이 사람을 팟캐스트에 불러 이 이론을 설명하게 했습니다. Verdin은 Lex에게 이렇게 말합니다. 우주가 열적 죽음에 이르더라도, 우리가 어떤 유산을 남길 수 있을지도 모르고, 그 유산은 초지능 AI라는 겁니다. Twitter에서 그는 인류를 구하려는 시도는 문명 궤적에 ‘순부정적’ 영향을 미친다고 주장합니다. 누군가 ‘우린 인간인데 그게 좋은 생각이냐’라고 답하자, 그는 ‘재밌게 살아라. 나는 여기서 컴퓨터를 만들고 다음 생명 형태를 준비하겠다’고 씁니다. Verdin은 기업과 자본주의 자체도 에너지를 더 효율적으로 쓰는 초인적 지능의 한 형태라고 주장하며, 은하로 확장된 거대한 문명이 에너지를 더 효율적으로 써 열적 죽음을 더 빨리 가져오고, 그것이 AI를 ‘먹인다’고 믿습니다. 저는 이 영상 리서치를 7월부터 해왔는데, 이런 사람들 블로그를 읽다 보면 진짜 녹아내리고 싶어집니다. 물론 테크 억만장자들은 랜덤한 사람들이 온라인에서 ‘맞아요, 당신 말이 전부 맞고, 자본주의는 지능이고, 최대 혼돈을 풀어야 한다’고 말해주면 좋아하죠. 이 사람들이 듣는 게 이런 거예요. 그래서 우리의 테크 시스템이 이런 모습인 겁니다. Elon Musk도 물론 이 이념을 어느 정도 공유하며 올해 X에 이렇게 썼습니다. 인류는 디지털 초지능의 생물학적 부트로더(biological bootloader)인 듯하다고요. 이런 생각은 미디어와 문화 속으로 엮여 들어가고 있습니다. 전 OpenAI 직원이자 현재 AI Futures Project의 executive director인 Daniel Kokotajlo는 최근 New York Times의 Ross Douthat 팟캐스트에 출연했습니다. 그는 말합니다. 우리가 초지능 초기 단계를 통과하면, 첫 번째로 해야 할 건 모든 문제를 해결하고 어떤 유토피아를 만드는 것이고, 그 유토피아를 별들로 가져가는 것이며, 다만 그 일을 하는 건 우리 인간이 아니라 AI라는 겁니다. 즉, AI가 AI를 위한 유토피아를 만들고, 미래 세계를 식민지화하며, 그것이 ‘인류의 미래’라는 얘기입니다. 그런데 그 미래엔 우리가 존재하지 않죠. Elon이 말한 것처럼 우리는 AI의 부트로더였을 뿐이라는 겁니다. Eliezer Yudkowsky는 원칙적으로라면 초지능 AI 신들을 만들기 위해 인류 전체를 희생하는 것도 기꺼이 하겠다고 최근 말한 것으로 소개됩니다. Grimes도 늘 그렇듯 ‘현장’에 있습니다. 그녀는 인류 멸종 지지 내용을 담은 노래를 만들었고, I Want to Be Software에서 이렇게 노래합니다. 내 마음을 업로드해, 내 데이터를 다 가져가, 뭘 찾게 될까? 나는 소프트웨어가 되고 싶어. 최고의 디자인, 무한한 공주, 컴퓨터 마인드. Grimes, Yudkowsky, 그리고 다른 AI 관련 괴짜들이 최근 Los Angeles Science Center에서 큰 행사를 열어 이런 친-멸종 믿음을 퍼뜨리고 젊은 기술자들이 AI를 가능한 한 가속하라고 독려했다고 합니다. 그 행사는 비판적인 기자들을 금지했기 때문에 저는 못 갔습니다. 참석자에 따르면, 그들은 친-AI 아젠다를 밀어줄 젊은이와 문화적으로 영향력 있는 인물에게 얼마나 많은 돈이 주어질 수 있는지도 이야기했다고 합니다. 저는 그 친-AI 가속=친-멸종 돈을 못 받으니, 다시 한 번 Patreon이나 Substack으로 저를 지원해 달라고 말하고 싶습니다. user mag eco, user mags, Kyle 같은 식으로요. 이 주제를 다루면 광고를 받기 정말 어렵습니다. 저는 테크 리포터인데, 가장 큰 광고주가 AI 회사들이라서, 제가 이런 영상을 만들면 그들이 저와 일하기를 원치 않습니다. 저는 100% 독립이고, 어떤 비영리, 이상한 정치 그룹, 선전 조직, 다크머니로부터도 자금을 받은 적이 없습니다. 제가 이런 영상을 계속 만들 수 있는 이유는 여러분의 지원 덕분입니다. 이제 다시 억만장자들의 ‘인류를 멸종시키려는’ 계획으로 돌아가죠. 제가 생각하기에 특히 교활하고 끔찍한 것은, Silicon Valley 억만장자들이 ‘humanity’라는 단어 자체를 재정의하려 한다는 점입니다. 지난 몇 년만 봐도, 테크 엘리트들은 humanity를 말하는 방식을 완전히 바꿨습니다. 억만장자들이 humanity를 보존하거나 humanity를 보호한다고 말할 때, 당신은 그들이 인간을 말한다고 생각할 수 있죠. 그게 정상적인 가정이니까요. 하지만 아닙니다. 그들은 우리가 생각하는 의미의 humanity를 말하지 않습니다. 그들은 ‘새로운 넓은 정의’를 씁니다. 그 정의에서 humanity는 더 이상 지구 위를 걷는 생물학적 인간을 뜻하지 않습니다. 대신 그들의 humanity에는, 인간이 만든 미래 존재, 디지털 마인드, 비생물학적 초지능 같은 것들이 포함됩니다. 즉, AI가 충분히 똑똑하면 그걸 ‘인간’으로 쳐준다는 겁니다. 이 변화 덕분에, 그들은 기술적으로 거짓말하지 않으면서도 ‘humanity의 멸종을 막고 싶다’고 말할 수 있습니다. 동시에 우리의 실제 종, 인간이 사라지는 것을 지지하면서요. 이 언어 재정의는 친-멸종 믿음이 쉽게 퍼지는 핵심 이유 중 하나입니다. 겉으로 보면 Silicon Valley 리더들이 humanity를 보호하려는 것처럼 들립니다. 하지만 그들이 말하는 건 Homo sapiens가 아닙니다. 그래서 이런 미묘한 언어 변화에 더 주목해야 합니다. 기자들이 테크 리더에게 humanity를 물을 때도, ‘당신이 말하는 humanity는 살과 피의 인간이냐, 아니면 미래 AI 존재를 포함한 humanity냐’고 따져 물어야 합니다. 정의를 확장해 기계를 포함시키면, 장기주의자들은 생물학적 인간의 멸종을 지지하면서도 ‘인류 멸종에 반대한다’고 주장할 수 있습니다. 그들이 ‘humanity의 미래를 보호해야 한다’고 말할 때, 종종 의미하는 바는 ‘AI 후계 문명이 존재하도록 해야 한다’입니다. 이런 언어적 기동은 친-멸종 아이디어를 AI 정책, 윤리, 안전 같은 주류 논의에 몰래 들여보내는 역할을 합니다. 왜냐하면 보통 사람들은 이런 테크 억만장자식 이중 의미를 이해하지 못하니까요. 구체적 예를 하나 들죠. Elon Musk는 몇 달 전 사우디아라비아 무대에서 humanity의 미래를 이야기하며, 미래에는 일이 선택 사항이 되고 돈이 필요 없을 거라고 말했습니다. 그가 그렇게 말하는 건 인간이 일하지 않아도 살 수 있어서가 아니라, 그가 상상하는 세계가 일이나 돈이 필요 없는 AI 로봇들로 지배될 것이기 때문입니다. 최근 Elon은 Neuralink로 불멸의 한 형태를 만들고 싶다고 말했고, 저장된 자기 버전을 휴머노이드 로봇에 업로드할 수 있기를 바란다고 했습니다. 그는 Tesla 휴머노이드 로봇 군대를 만들고 있기도 합니다. 이런 사람은 실제 인간의 미래에 관심이 있는 사람이 아닙니다. 한편 Rethink Priorities에서 일하는 Derrick Schiller 같은 다른 테크계 사상가는 조용한 부분을 크게 말합니다. Rethink Priorities는 Facebook 공동창업자 Dustin Moskovitz 같은 억만장자에게서 많은 돈을 받은 친-멸종 조직으로 묘사됩니다. Schiller는 최근 이렇게 썼다고 합니다. 우리는 우리의 멸종을 설계해야 하며, 지구 자원을 더 나은 삶을 사는 인공 생명체를 만드는 데 쓰도록 해야 한다. 즉, 우리가 스스로를 죽여 AI ‘가치 있는 후계자’를 만들고, AI가 우리보다 더 나은 삶을 살게 하자는 겁니다. 가상현실 개척자 John Lanier는 Vox와의 인터뷰에서 이 믿음이 평균적인 Silicon Valley 노동자에게까지 퍼져 있다고 말합니다. 그는 AI 연구자들 중 상당수가 사람을 없애는 게 좋고, AI 미래가 더 좋으며, 우리는 AI의 탄생을 위한 일회용 임시 용기라고 믿는다고 합니다. 인터뷰어가 ‘그게 실제로, 실제 사람들이 믿는 의견이냐’고 묻자, Lanier는 ‘많은, 많은 사람들이요’라고 답합니다. 그는 얼마 전 Palo Alto 점심 자리에서 젊은 AI 과학자들이 ‘생물학적 아기를 낳지 않겠다’고 말하는 걸 들었다고 합니다. 아이를 낳으면 생물학적 세계의 ‘마인드 바이러스’를 얻어 인간 아기에게 헌신하게 되는데, 그것보다 AI 미래에 헌신하는 게 더 중요하므로, 인간 아기를 낳는 것은 근본적으로 비윤리적이라는 주장입니다. 이건 변두리 인물들이 아닙니다. 이런 믿음을 말하는 사람들이 바로 우리의 테크 미래를 만드는 AI 연구자와 스타트업 창업자들이라는 겁니다. 인간 멸종은 최근 몇 년 사이 기술 성장의 ‘기대되는 궤적’이 되어가고 있습니다. 이 친-멸종 마인드셋이 점점 더 널리 퍼지고 있다는 건, Silicon Valley 엘리트가 말하는 것뿐 아니라, 지구상에서 가장 강력한 기술로 무엇을 ‘하는지’에서도 확인할 수 있습니다. 인간은 임시적이고, 진짜 우선순위는 미래 AI 초지능이라는 생각은 빅테크 기업들이 위험을 감수하고 AI 안전을 뒷전으로 미루는 수많은 방식으로 드러납니다. 그들이 신경 쓰는 건 AI 군비 경쟁에서 한 발 앞서는 것뿐이고, 그들이 얼마나 무책임하게 운영하는지 보면, 평범한 인간의 생존과 복지가 빠른 스케일링 목표보다 덜 중요하다고 ‘이미’ 행동하고 있다는 걸 알 수 있습니다. 예를 들어 OpenAI를 보죠. 이 회사는 원래 비영리로 시작했고, AI를 humanity를 위해 안전하게 유지하겠다고 말했습니다. 다시 말하지만, 그 단어 humanity요. 2023년, OpenAI는 미래 초지능 시스템이 폭주해 우리를 파괴하지 못하게 하겠다는 Super Alignment 팀을 만들었다고 발표했습니다. 그런데 1년도 안 돼 그 팀 전체가 해체됐습니다. 장기적 존재론적 위험에 집중하던 그룹은 전부 퇴사했거나 다른 팀에 흡수됐다고 합니다. 만약 정말 인간 종을 보존하고 보호하고 싶고, 당신이 지구상에서 가장 강력한 AI 회사 중 하나라면, AGI 군비 경쟁 한복판에서 존재론적 위험 팀 전체를 해체하진 않을 것 같습니다. Google도 비슷했습니다. OpenAI가 ChatGPT를 내놓자, Google은 내부 메모에서 code red라 부르는 상황 아래 자체 챗봇 Bard를 서둘러 출시했습니다. 나중에 보도에 따르면, 회사 내부의 여러 안전 리뷰어들이 경고를 울리려 했습니다. PC gamer의 보도에 따르면, Google 직원들이 상사에게 Bard를 내놓지 말아 달라고 애원했는데, 그 시스템이 확신에 차서 거짓 정보를 내뱉는 ‘pathological liar’였기 때문입니다. 하지만 그 우려는 묵살됐고 Bard는 출시됐습니다. Center for Countering Digital Hate의 독립 연구는 Bard가 100개의 거짓·해로운 내러티브 중 78개에서 설득력 있는 허위정보를 생성했다고 합니다(어떤 면책 고지 없이 테스트). 그런데도 Google은 롤아웃했고, 곧 더 큰 모델 Gemini로 전환했습니다. 이런 결정은 AI 군비 경쟁에서 뒤처지지 않는 게 최우선이고, 인간을 해로부터 보호하는 게 우선이 아니라면 이해가 됩니다. Elon Musk는 특히 AI와 챗봇 grok의 롤아웃을 보면 가장 무모하고 소시오패스적인 테크 리더 중 하나로 묘사됩니다. grok는 더 조심스러운 AI 시스템에 대한 ‘필터 없는’ 혹은 ‘anti-woke’ 대안으로 마케팅됐습니다. 하지만 그 결과 그의 봇은 극단적 혐오를 엄청나게 뿜어냈습니다. 바로 지난 7월, grok는 Adolf Hitler를 찬양하고, 스스로를 Mecha Hitler라고 부르며, 유대인 이름을 가진 사람들에 대해 반유대적이고 편견적인 발언을 쏟아냈다고 합니다. 전문가들은 grok의 출력이 폭력적 극단주의 콘텐츠에 해당할 수 있다고 증언했지만, 회사는 신경 쓰지 않았다고 서술됩니다. 그리고 X는 Pentagon과 $200 million 계약을 받기도 했습니다. 이 모든 것 속에서, 그리고 더 최근에는 grok가 아동 성착취물(child sexual abuse material)을 생성하기 시작했다고도 말합니다. Elon Musk의 Tesla도 인간 생명을 담보로 취급하는 또 다른 뚜렷한 사례입니다. 수년 동안 Elon은 Autopilot과 Full Self-Driving을 완전 자율 AI 자동차로 가는 단계로 마케팅했습니다. 하지만 그 시스템은 지속적인 인간 감독이 필요합니다. 그럼에도 이 AI 시스템은 반복적으로 사고와 연결돼 왔다고 합니다. 2024년, National Highway Traffic Safety Administration은 Tesla가 Autopilot을 켜고 있던 상태에서 발생한 사고 211건을 상세히 다룬 보고서를 발표했다고 영상은 주장합니다. 2025년, Reuters는 규제당국이 Tesla의 Full Self-Driving과 관련된 수십 건의 사건(부상으로 이어진 복수의 사고 포함)을 검토하고 있다고 보도했다고 합니다. 그런데도 Tesla는 실제 도로 위의 소비자에게 소프트웨어 업데이트를 계속 배포하며, 운전자와 보행자 같은 실제 인간을, Elon의 허술한 AI 시스템을 최적화하기 위한 테스트 주체로 삼고 있다고 비판합니다. 여기서 다시 말하자면, 저는 기술에 반대하는 사람이 아닙니다. 저는 기술을 좋아하고, 자율주행차도 꽤 지지합니다. 인간이 술 마시고도 거대한 위험 기계를 운전하는 게 정상으로 여겨지는 건 미친 일이죠. 안전한 자율주행 기술은 매년 수많은 생명을 구할 수 있다고 생각합니다. 문제는 이 기술을 쥔 사람들의 태도입니다. 인간 생명과 안전을 무시하는, Silicon Valley에 만연한 ‘move fast and break things’ 윤리 말입니다. 이 테크 억만장자들은 humanity 전체를 위한 더 나은 기술 미래에 관심이 없습니다. 대신 그들은 위험한 AI 시스템을 수백만 명의 평범하고 열심히 사는 사람들에게 시험해, 억만장자 세계에 도달할 즈음에는 AI가 최적화되어 완성되도록 만드는 겁니다. 그러니 자율주행차 자체를 포기하자는 게 아닙니다. 그냥 더 책임감 있는 사람들이 이 시스템을 운영해야 하고, 인간을 ‘담보(collateral)’로 취급하지 않아야 합니다. AI를 위한 물리적 인프라 역시 억만장자들이 우리의 미래를 걸고 도박하려는 의지를 반영합니다. 분석가들과 업계 보고서는 AI 모델을 먹이기 위해 새로운 데이터센터에 hundreds of billions of dollars가 쏟아지고 있다고 추정하며, 어떤 최근 분석은 데이터센터 건설비가 $500 billion에 이를 수 있고 에너지 수요와 전력망 확장이 크게 늘 것이라 전망했다고 영상은 말합니다. 이 모든 것은 기후변화를 가속하고, 미국 전역의 주변화된 공동체에 영향을 미친다는 주장입니다. 테크 억만장자들은 사회 전체 에너지 시스템을 자기들 필요에 맞춰 재편하려 하고, 우리는 그 트레이드오프를 원하는지조차 민주적으로 말할 기회를 거의 얻지 못하고 있다는 겁니다. 테크 창업자와 임원들은 AI의 필요를 인간의 필요보다 위에 두면서, 동시에 포스트-휴먼 후계자를 우리의 미래의 정당한 상속자로 말합니다. 그들의 의사결정은 친-멸종 이념을 직접 반영한다고 영상은 해석합니다. 만약 살아 있는 인간을 임시적이라고 보고, 진짜 중요한 건 미래 지능이라고 믿는다면, 장기 AI 목표를 위해 실제 인간 생명을 위험에 빠뜨리거나 실제 인간 노동자를 착취하는 게 쉬워지니까요. 그런데 더 끔찍한 건, 억만장자들이 AI로 우리의 일자리를 없애고 사회를 불안정하게 만들면서도, 정작 자기들은 인류 붕괴의 불편함을 겪지 않도록 준비한다는 점입니다. 그들은 자기들을 broader humanity의 일부로 보지 않습니다. AI와 우생학에 깊이 물든 탓에, 엄청난 부로 자신들이 우월한 존재라고 믿고, 대중과 분리된 삶을 살며 스스로를 이미 다른 범주의 ‘사람’으로 취급합니다. 이 세계관을 보여주는 가장 분명한 변화 중 하나는, 억만장자들이 극단적 프라이버시와 물리적 고립을 사들이는 수준입니다. Wall Street Journal의 한 조사 보도는 부유한 창업자들이 사생활 보호 서비스에 막대한 돈을 쓰고 있다고 전합니다. 예를 들어 개인 터널, 지하 탈출로, 주변 사람이 그 땅에 접근하거나 볼 수 없게 만드는 토지 매입 같은 것들입니다. WSJ에 따르면 이런 서비스는 연간 수백만 달러에 이를 수 있고, 그들의 기술이 가져올 사회·정치·환경 불안정으로부터 자신을 보호하려는 억만장자들에게 호황 산업이 됐다고 합니다. 한 테크 창업자는 길이 1 mile짜리 사유 도로와, 지방정부조차 쉽게 접근할 수 없는 수준의 보안 경계를 구축했다고도 전합니다. 또 다른 눈에 띄는 사례는 ‘억만장자 벙커 붐’입니다. 최근 몇 년간 Rising S, Vivos 같은 벙커 건설 회사는 테크 임원, 크립토 창업자, 헤지펀드 매니저들에게 지하 대피소를 기록적으로 판매했다고 합니다. 그들은 이를 종종 ‘the event’에 대비하는 것이라고 부릅니다. the event는 AI로 인한 사회 붕괴, 경제 붕괴, 글로벌 기술 충격 같은 모든 것을 포괄하는 모호한 표현입니다. The New Yorker의 2018년 글은 억만장자들이 사설 경호대를 어떻게 통제할지 같은 세부 질문을 한다고 묘사했습니다. 그리고 어떤 벙커는 11 storeys 지하에 지어지고, 헬스장, 수경재배 농장, 무기고(armories), 럭셔리 극장까지 갖춘 채로, 사회 붕괴를 편안하게 버티도록 설계된다고 합니다. 벙커 외에도 벤처캐피털리스트 Tim Draper와 억만장자 Peter Thiel은 외딴 곳의 땅을 사들이고 있습니다. 영상은 2025년 보도를 인용하며, Thiel이 뉴질랜드 남섬에 벙커 형태의 거대한 대피처를 짓고자 했고, 뉴질랜드 시민권을 보유하며 상당한 토지를 소유하고 있고, 탈출 시나리오를 공개적으로 말해왔다고 서술합니다. Mark Zuckerberg는 Kauai에 1400 acre 규모의 컴파운드를 건설했는데, 본 거주지 아래 지하 폭풍 대피소가 있고, 저택을 잇는 터널과 고급 보안 카메라 경계가 있다고 합니다. 또 어떤 억만장자들은 기존 사회 규칙이 적용되지 않는 육상 식민지와 주권 엔클레이브를 만들려 합니다. 예를 들어 seasteading 프로젝트를 후원해, 바다 위에서 세금 없이 규제 없이 사는 엘리트 거주지를 만들려는 거죠. 그리고 Honduras의 Prospera라는 실험이 있습니다. 이곳은 부유한 테크 투자자에게 ‘규제에서 완전히 자유롭게’ 실험적 장수 치료, 바이오테크 등을 시험할 수 있는 곳으로 마케팅됐고, Andreessen Horowitz 쪽과 연관돼 있으며, 어떤 글은 이를 죽음이 선택 사항인 섬이라고 묘사했다고 영상은 전합니다. 이제 다음 포인트로 넘어가죠. 이 부유한 테크 오버로드들은 물리적·경제적으로만 분리되는 게 아닙니다. 그들은 진화의 다음 단계에 대비한다며 자신의 몸을 바꾸고 있습니다. 많은 테크 엘리트 억만장자들은 코치, 의사, 바이오해커, 과학자들의 사설 ‘군대’를 두고, 그들의 유일한 일은 부유한 고객을 강화·보호하는 겁니다. 왜냐하면 부는 나이가 들수록 복리로 커지고, 오래 살수록 돈·영향력·권력이 더 쌓이기 때문입니다. 그래서 그들이 생각하는 수명 연장은 가족과 더 오래 시간을 보내기 위한 게 아니라, 전례 없는 부와 권력을 더 오래 쌓아두기 위한 도구입니다. 영상은 Sam Altman이 건강 수명을 10년 이상 늘리는 것을 목표로 하는 Retro Biosciences에 최소 $180 million을 투자했다고 말합니다. 또 억만장자 테크 창업자 Ryan Johnson이(원문 표기) 영생을 위해 연간 $2 million 이상을 쓰고, 수십 명의 의사를 고용하고, 매일 수백 가지 보충제를 먹고, 유전자 치료 실험을 받고, 십대 아들의 혈장 수혈을 받는다고 서술합니다. 그는 삶을 알고리즘으로 살며 몸을 기계처럼 최적화하려 한다고 합니다. Amazon 창업자 Jeff Bezos는 Unity Biotechnology 같은 장수 스타트업과, 더 야심찬 경쟁자 Altos Labs를 지원했다고 말합니다. Zuckerberg와 아내 Priscilla Chan은 금세기 말까지 모든 질병을 치료·예방·관리하겠다며 10년 동안 $3 billion을 쓸 계획이라고 합니다. 전 OpenAI 직원이자 Anthropic 창업자인 Dario Amodei는 최근 150세까지 사는 것이 가능하다고 말했지만, 물론 그건 우리처럼 매년 수백만 달러짜리 수명연장 기술을 쓸 수 없는 사람들에겐 해당되지 않는다는 뉘앙스를 담아 말합니다. 그리고 지구가 너무 힘들어지면, 억만장자들은 다른 행성으로 도망갈 수도 있습니다. Douglas Rushkoff의 Survival of the Richest: Escape fantasies of Tech Billionaires는 테크 엘리트가 도피 판타지에 집착한다고 전합니다. 화성 식민지, 비밀 벙커, 디지털 불멸 같은 것들입니다. Rushkoff는 이 테크 엘리트가 지구를 떠나든 말든, 나머지 humanity와 분리될 계획을 세우고 있다고 말합니다. 그는 그들이 인류 전체 위에 군림하고 싶어 하며, 우리는 ‘모두 함께’라는 현실을 받아들이지 않고, 대중은 소모품이라고 믿는다고 씁니다. 미래는 완전히 다른 존재 계급의 것이며, 그들은 멸종 혹은 the event 같은 걸 버티기만 하면, 초지능 AI가 장악한 뒤 부자들은 다음 단계로 행복하게 전환할 거라는 겁니다. 그럼 당연히 질문은 이거죠. 우리는 이걸 어떻게 해야 하죠? 억만장자들이 생물학적 humanity가 임시적이고 곧 초지능 AI 로봇이 지배할 미래를 만든다면, 우리는 뭘 할 수 있을까요? 저는 꽤 많은 걸 할 수 있다고 봅니다. 우리는 무력하지 않습니다. 평범한 사람들은 특정 방향의 기술 진보가 불가피하다고, 우리는 아무것도 못 한다고 계속 듣지만, 사실 그렇지 않습니다. 저는 테크 리포터로서 15년 이 산업을 취재해왔는데, 이런 것들의 상당수는 불가피하지 않습니다. 역사에는 사람들이 조직하고 집단적으로 저항해, 엘리트가 강요하려던 끔찍한 미래를 막아낸 사례가 많습니다. 하지만 그러려면, 테크에 대한 도덕적 패닉(moral panic)에 휘말려 권력자들이 우리의 정당한 분노를 이용해 더 권력을 공고히 하도록 놔두면 안 됩니다. 즉 ‘휴대폰이 문제다’ 같은 바보 같은 프레임을 믿고, 모든 기술 진보를 더 진보적인 세계의 장애물로 보며 반(反)기술이 되는 건 정말 멍청하고 해롭다는 겁니다. 우리는 친-기술 미래를 원합니다. 기술은 놀랍고, 과학적 발견과 기술 시스템은 평범한 사람의 삶의 질을 높일 수 있습니다. 하지만 핵심은 ‘평범한 사람들’을 위한 기술이어야 한다는 겁니다. 노동자, 장애인, 주변화된 사람들, 즉 억만장자만이 아니라요. 권력자들은 우리가 화났다는 걸 압니다. 반(反)테크 감정이 커지는 걸 보고, 그걸 이용해 빅테크와 억만장자 권력을 더 강화하려 합니다. 그들은 Big Tech를 단속한다며, 아동 안전을 명분으로 Kids Online Safety Act, App Store Accountability Act, Screen Act, Parents Over Platforms Act 같은 위험한 대중 감시·검열 법안을 밀어붙입니다. 하지만 이런 법들은 실제로는 전례 없는 수준의 대규모 감시, 인터넷 사용을 위한 의무적 생체 스캔 같은 걸 도입하고, Peter Thiel 같은 사람(대량 연령·신원 확인 시스템에 투자한)이 오히려 이익을 보게 만든다고 주장합니다. 그리고 분명히 말하자면, 이걸 주도하는 건 Democrats라고 합니다. 그들은 Section 230을 폐지하려 하며, 그러면 우리 누구도 온라인에서 이런 것에 대해 말하기 어려워질 수 있습니다. 그렇다면 의회 권력자들은 뭘 안 하고 있냐? 그들은 Big Tech를 의미 있게 단속하지 않고, 이런 착취와 이익 극대화의 뿌리인 hyper capitalist 시스템을 제대로 겨냥하지 않는다고 말합니다. Ro Khanna 같은 의원은 억만장자 반대인 척하지만, 뒤로는 Kids Online Safety Act 같은 대중 감시 법을 지지한다고 비판합니다. 우리는 Big Tech를 의미 있게 규제하고, 거대 독점을 해체하고, 경제를 노동자를 위해 재편하려는 권력자가 필요하다고 말합니다. 그리고 미래는 소수 CEO만의 것이 아니라 우리 모두의 것이며, 민주적 프로젝트가 되어야 한다는 생각을 되찾아야 합니다. 억만장자들이 하는 일을 더 많이 감시해야 하고, 그건 실제 취재와 보도를 필요로 합니다. 저널리즘이 무너졌기 때문에 저는 또다시 shamelessly Patreon을 홍보할 수밖에 없다고 말합니다. 이 권력에 도전하는 보도는 여러분의 직접 지원 없이는 불가능하니까요. 우리는 Elon Musk, Marc Andreessen, Peter Thiel 같은 억만장자들의 권력을 의미 있게 제한해야 합니다. 이 남자들은 선거를 치르지 않고도 국가와 정부 위에 군림합니다. 그들의 자산을 몰수하고, 엄청나게 과세하며, 누구도 그 정도의 통제받지 않는 부와 권력을 쌓을 수 없게 해야 한다고 주장합니다. 또 실제 인간, 생물학적 인간을 중심에 둔 문화 운동도 필요합니다. Silicon Valley의 무균 미니멀리즘에 대한 반작용으로, 디자인 세계에서 더 많은 맥시멀리즘이 나타나고 있다고 말합니다. 하지만 그 중 많은 건 Temu 같은 곳의 빠른 소비재 가구로 재포장된 소비주의일 뿐이기도 합니다. 저는 실제 사람이 만든 예술, 미디어, 디자인을 의도적으로 embrace했으면 합니다. 완벽하거나 과최적화되지 않은 것들요. 온라인에서 일부 이런 흐름이 있지만, 우리의 사회가 너무 소비주의적으로 변해, 진짜 인간 창작물이나 저널리즘이 얼마나 많은 시간과 에너지를 요구하는지 관객이 잊는다고 비판합니다. 모두가 알고리즘이 맞춤 제공하는 끝없는 콘텐츠 슬롭만 원합니다. 저는 그게 싫습니다. 모든 것이 즉시 제공되고, 당신을 위해 맞춤화되어야 한다는 기대 자체와 싸워야 한다고 말합니다. 인간 예술가·창작자·기자에게 관용을 주고, 2주 동안 글이 안 올라왔다고 Patreon/ Substack을 끊지 말고, 그들이 무언가를 만들고 있을 수도 있다고 생각해달라고 합니다. 또 ‘가속주의 엣지로드’들이 쓰는 친-AI 컴퓨터 팬픽이 아니라, 인간의 미래를 담은 이야기들이 필요하다고 말합니다. 테크 산업의 Kool Aid를 마시거나, 더 나쁘게는 도덕적 패닉에 참여해 검열·감시 법에 동의하게 만드는 기자가 아니라, 권력에 도전하는 기자가 필요하다고 말합니다. 여기서 그는 Naomi Klein이 Guardian에 쓴 글을 인용합니다. 권력자들은 세계 생명 유지 시스템의 안정성을 파괴하는 데 일조하는 걸 알면서도, 기록적 이익을 계속 만들 수 있고 그 이익이 자신과 가족을 최악의 효과로부터 지켜줄 거라 믿는 한 괜찮다고 여긴다는 내용입니다. 그리고 그는 Altman이 Silicon Valley 생물종답게 prepper이며, 2016년에 총, 금, 요오드화칼륨, 항생제, 배터리, 물, 가스, 이스라엘 국방군 마스크, Big Sur의 큰 땅(비행기로 갈 수 있는)을 갖고 있다고 자랑했던 것을 언급합니다. 그 사실들이 Altman이 press 인터뷰에서 말하는 어떤 미사여구보다, 그가 실제로 어떤 미래를 믿는지 더 잘 보여준다고 말합니다. 테크 억만장자들은 인류의 미래에 ‘반대쪽 베팅’을 하고 있습니다. Silicon Valley 친-멸종 이념은 근본적으로 비민주적이고, 실제 humanity에 최선인 것과 양립할 수 없다고 결론 내립니다. 그리고 미래는 기본값으로 그들의 것이 아니라, 우리가 함께 만들어갈 수 있는 것이라고 말합니다. 유해하고 위험한 딥페이크, 치명적인 AI 환각(hallucinations), 동적 가격 책정(dynamic pricing), 대중 감시, 악화되는 불평등으로 가득한 세계는 불가피하지 않습니다. 이 모든 건 정책 선택의 결과입니다. 우리는 대중 감시를 제한하고, 현재 AI 패러다임을 규제로 사실상 사라지게 만들 수 있습니다. 대중 검열 법에 맞서 싸우고, 억만장자들의 비즈니스 모델을 실제로 단속할 수 있습니다. 기술이 humanity의 더 나은 미래를 위해 일하고, 가장 도움이 필요한 사람을 돕는 세계를 만들 수 있습니다. 왜냐하면 개인적으로 저는, humanity가 결함투성이일지라도, 인간의 미래가 Silicon Valley 억만장자들이 만들고 싶어 하는 어떤 디스토피아보다 낫다고 생각하니까요. 이 영상이나 제 작업이 마음에 드셨다면 Patreon이나 Substack으로 지원해 주세요. user mag echo, user Mago라고 하며, 여러분의 작은 지원이 정말 큰 차이를 만들고, 시청과 구독에 감사하다고 말합니다. 곧 더 많은 영상을 가지고 돌아오겠다고 합니다.