🎧 Tech Billionaires Want Us Dead

👤 Sam Altman · EN 11,165w · KR 6,304w

사용법 (30초)
1️⃣ 영문 or 한국어 복사 버튼 터치
2️⃣ 🔗 링크 복사 → Chrome에 붙여넣기 → 열기
3️⃣ + 새 노트북 → 소스 추가 → 붙여넣기
4️⃣ 🎧 Audio Overview → Generate
5️⃣ 차에서 재생 🚗

원문 미리보기 11,165w

You would prefer the human race to endure, right? You're hesitant. Well, I. Yes. I don't know, I, I would. I would, This is a long hesitation. Some of the richest, most powerful men in Silicon Valley are planning for a future where they survive. And the rest of us don't. You've probably heard about billionaires buying up luxury bunkers in New Zealand, pouring money into plans to escape the earth and investing in technology that might one day allow them to upload their minds to the cloud. But what you might not know are the actual reasons behind why they're doing all of this. Tech billionaires have been shelling the public on their vision of a tech forward future for decades now. They've promised endless innovation and progress, and they want you to believe that if you embrace all their crappy AI startups, delivery apps, and humanoid robots, the world will look something like this. But their real plan for society is something much, much darker and more sinister. The reality is that these Silicon Valley billionaires are building towards a future where the human race does not exist. And I'm not being hyperbolic. They are building for a future where the human race itself is replaced by robots and digitally conscious beings that exist without a body. These tech billionaires are pro extinction of the human race. Except for them, of course. They will continue to live in luxury. And this is not just some fringe sci fi ideology thing in San Francisco. Billionaires, CEOs, and the most powerful venture capitalists today want to create a world where biological humans are obsolete. It's actually so insane. And I don't see anyone else really on YouTube talking about it. So today we're going to dive into how pro extinction ism took hold in Silicon Valley, the core ideologies underpinning it all, how powerful people are already investing in and building the technology to manifest this dystopian reality, and what these billionaires have planned for the rest of us, when they all ascend to their higher AI consciousness and leave us to suffer and die. Before we get started, I just want to take a minute and ask you guys to please support me on Patreon or buy a paid subscription to my Substack newsletter. I user mag echo that's user Agco to support my work and help me produce journalism. Like this. As you can probably imagine, covering this stuff and these topics is not really lucrative. My content gets demonetized. I've lost a bunch of major brand deals for speaking out about certain issues and challenging power, and so my work is entirely directly funded by people like you. I can't produce these videos without your financial support, so please click the link in the description and support me on Patreon or Substack. Now back to what we were talking about. To understand how Silicon Valley billionaires adopted these weird beliefs, we have to zoom back a few decades before Silicon Valley became the Silicon Valley that we know and hate today. Back in the 1960s, what is known today as Silicon Valley was almost entirely orchards and farmland. A burgeoning tech ecosystem was only in the earliest stages of bubbling up, and defense contracts during the Cold War funneled a lot of money into electronics and semiconductors. This is when a company called Fairchild Semiconductor pioneered the first integrated circuit. The integrated circuit is probably something you've never heard of before, but it was actually one of the most important inventions of the 20th century because it basically makes all modern electronics possible. Electronic devices used to be built using individual components that were all wired together by hand on circuit boards, but this made electronics bulky, fragile, and expensive. The integrated circuit took all of those separate components and manufactured them all together on a single, tiny chip on a piece of semiconductor material. That material was silicone, which is how Silicon Valley got its name. Pretty soon, Silicon Valley became famous for this sprawling, self-perpetuating network of tech startups and the venture capital that funded it all. Stanford University, which was based in Palo Alto, said this ecosystem and the college essentially created an endlessly refreshing pipeline of talent that fed into these tech startup companies. The semiconductor industry kept booming throughout the 1970s, but as technology became more accessible, a more new age hacker culture emerged. Intel released the world's first commercially available microprocessor in 1971, and this invention made the idea of a personal computer possible. For the first time ever, hobbyists, engineers, and hackers began meeting up in garages to swap their ideas and show off their DIY computers and technology. At the time, this was like a very cool counterculture hacker community. Steve Jobs and Steve Wozniak, the two co-founders of Apple who founded the company in 1976, actually came out of this culture. Apple's early machines, like the Apple One, and then the wildly successful Apple two, proved that computers were not just tools for corporations and government, but could be brought into homes to help you with all sorts of daily activities. People in the valley increasingly began to see computers as tools for personal liberation, and there was this idea of using a computer to expand your consciousness and complete tasks that would otherwise take humans hours and hours or even days to do. This sort of strange duality was everywhere in 1970s Silicon Valley. So on one hand, you had these massive corporations like Intel that were churning out microchips for massive contracts and had global markets. And then, on the other hand, you had this deeply utopian and countercultural ethos that was born out of the hacker garage culture. The Bay area was also the epicenter of the 1960s counterculture, with psychedelics, hippies, and anti-war protests. And so some of that energy also seeped into silicon Valley. Stewart Brand, the founder of the Whole Earth Catalog, which was first published in 1968, famously declared quote, information wants to be free. He later promoted the idea that computers themselves were this new frontier of human freedom. But like I was saying, at the same time, you had this big business that continued to thrive. So in the 1980s, we saw an explosion of personal computing. Everyone started to get personal computers for the first time. IBM entered the market with its first PC in 1981. Microsoft provided the operating system and an entire ecosystem of IBM compatible clones erupted. Apple launched the Macintosh in 1984 with its iconic 1984 Super Bowl ad commercial, which really painted Apple as this like Liberator against conformity. We shall free. On January 24th, Apple Computer will introduce Macintosh and you'll see why 1984 won't be like 1984. Venture capitalists on Sandhill Road in Silicon Valley poured money into startups. At the same time, they were all chasing the next Apple or Intel, and the Valley was this hybrid of sort of this roughly capitalist culture that was deeply competitive, but it was all wrapped in the language of the sort of hacker utopian liberation. Every new tech product that came out of Silicon Valley was marketed with this promise of empowerment and a better future, and pretty soon tech was being sold as a path to transcendence. Tech leaders began talking about how future computers, and then later the internet, would help humans work faster and transcend their biological limits. Hans Moore Evac, a roboticist working at Carnegie Mellon, became enormously influential within Silicon Valley's intellectual subculture back in the 80s. In 1988, he published the book Mind Children The Future of Robot and Human Intelligence. In the book, Moravec argues that humans were in their last century, which is kind of prescient, and that we would soon all create machines that were smarter than ourselves. These mind children would ultimately replace us, and he insisted that we view these successors as our offspring, and that computers would essentially be the next step in human evolution. Moreover, he wrote cheerfully about our human extinction. His vision validated silicon Valley's utopian streak and its relentless push for innovation. If humans were temporary and building machines to replace us, was this higher good that it allowed these tech workers to believe that what they were building was noble and they were contributing to this future, better world. In a 1995 article for wired magazine titled Super Humanism, the writer Chris Platt interviews more of Jack. Mirvac began the interview by enthusiastically asking Platt, quote, wouldn't it be great if you could enhance your abilities via artificial intelligence and extend your lifespan and improve on the human condition again? This is all back in 1995. He predicted that by 2030, we should have a third generation universal robot that emulates higher level thought processes such as planning and foresight, and that it will, quote, maintain an internal model of not only its own past actions, but of the outside world itself. That means that it could run different simulations of how it plans to tackle a task, see how well each one works out, and compare them with what it's done before. An onlooker will have the eerie sense that it's imagining different solutions to a problem, developing its own ideas. Around the same time, in 1983, mathematician and science fiction author Vernor Vinge echoed these ideas in a paper on the technological singularity. He declared that the creation of superhuman intelligence would definitively end the human era, the moment that machines surpass us in terms of intelligence, history would belong to them, he said. Humans would no longer be in control, and we probably wouldn't even be relevant. He outlined several different paths to our extinction, and these included superhuman AI, human computer integration, biotech, genetic upgrades. But all of these basically led to the same place, which is the end of humanity. Or as he put it, quote, the end of the human era. Young engineers and investors in the Valley began to believe his future was undeniably our collective destiny. The internet progressed throughout the 90s, eventually birthing the.com bubble and subsequent crash by the beginning of the next millennium. 26% of households in America had internet access, and the average person was becoming more and more comfortable with technology. In 2005, Ray Kurzweil published the book The Singularity Is Near. When humans transcend Biology, the book repackaged Moravec and Ventures Pro extinction as ideas for a mass audience with an optimistic gloss. Kurzweil's book hit the bestseller list, and people were excited about this magical future where humans would merge with machines and be able to upload our minds to live forever in the digital ether. This idea of biological humans becoming obsolete was going from fringe to mainstream culture, and became more openly embraced by Silicon Valley CEOs, founders, and especially venture capitalists. These ideas were also being adopted by the men who built some of Silicon Valley's most notorious empires. In Walter Isaacson's biography of Elon Musk, he talks about a party where Elon clashed with Google co-founder Larry Page. Page literally accused Musk of being a species for arguing that humanity deserved to continue at all. Larry Page argued that Digital Life was undeniably the next stage of evolution, and that it was parochial and even prejudiced of Elon to cling to the supremacy of the human race. Musk replied that yes, he was pro human, but of course that has since changed. As technology progressed, especially throughout the boom time of the 20 tens, startups began to explicitly seek to construct a post-human world. The iPhone had redefined everyday life. Apps were taking off, and the Valley's rhetoric about transcendence was becoming more and more pervasive. In 2011, The Atlantic ran an essay gushing over Google's data driven decision making, framing it as superior to the, quote, irrational, error prone tendencies of human managers. The piece suggested that machines would ultimately be better leaders than people in this tone of machines as our savior, and humans as obstacles became increasingly common in the tech press. A 2012 wired feature titled Better Than Human Why Robots Will and Must Take Our Jobs, proclaimed that robots were destined to replace us in the workforce entirely. Humans simply could no longer compete with the flawless, tireless machines. Wired writer Kevin Kelly wrote, quote, this is not a race against the machines. If we race against them, we lose. This is a race with the machines. You'll be paid in the future based on how well you work with robots. 90% of your coworkers will be unseen machines. Most of what you will do will not be possible without them. And there will be a blurry line between what you do and what they do. Kevin Kelly continued quote. We need to let robots take over. They will do jobs we have been doing and they will do them much better than we can. They will do jobs we can't do at all. They will do jobs we never imagined needed to be done, and they will help us discover new jobs for ourselves. New tasks that expand who we are. They will let us focus on becoming more human than we were. Let the robots take the jobs and let them help us dream up a new work that matters. A year later, wired ran a piece on self-driving cars with the line, quote, humans are the most dangerous part of the system. Drunk, distracted, careless, and fallible. This is true, by the way. Humans are super flawed creatures, especially at driving. I'm actually very pro self-driving cars, but I think it's really important to examine the role that mainstream media plays in framing these issues and the tech industry as a whole, and setting these narratives throughout the 20 tens. Journalists and the tech press kept pushing forward these ideas that humans were bad, error prone, messy, and dumb machines. On the other hand, we're positioned in the media as clean, sleek, smart and evolved. They were like humans, equal danger machines, equal safety. And throughout all of this, there's just this underpinning implication that if humans were so flawed, which again, they kept reiterating that we were maybe it's better to just let machines take over. Maybe they actually deserve to take over all. In a 2013 Vanity Fair article titled, quote, enthusiasts and skeptics Debate Artificial Intelligence. The writer Kurt Anderson wonders if the singularity will usher in global techno nirvana or civilizational ruin. The piece casts Vinge and Kurtz while as forward thinking techno evangelists who believe human evolution is up for redesign, and they talk about editing our genes to remove these messy biological errors, aka eugenics. The very next year, in 2014, The New York Times ran a piece about predictive algorithms and health care with the headline when machines know you better than you know Yourself. That same year, a video titled quote, Humans Need Not Apply went viral on YouTube. The video is 15 minutes long and it compares human workers to horses replaced by engines. It projected that nearly half of all jobs, especially white collar jobs and creative jobs, would disappear under automation. The video has amassed over 18 million views and it ended up becoming enormously prescient. I remember actually watching this at work and being like, shit. As all of this stuff is happening online and in the mainstream media and culture, you also see this post-human ideology shaping the physical world. Architectural design throughout the 20 tens became sterile, and retail spaces like the Apple Store removed any trace of humanity. Coffee shops adopted minimalist chairs and tables, and antiseptic lighting and white walls. Customers stopped paying human beings and started to use iPads at the till. And this sterile esthetic of minimalism really just was so focused on removing the visibility of human workers, it reinforced this idea subconsciously, that humans are messy, chaotic and unreliable. And I think the rise of delivery apps during this time and e-commerce also sort of cemented this view. Both of these things previously required interacting with humans. Like going to a shopping mall, trying on clothing, or meeting a pizza delivery man at the door to give him a cash tip. Now, and especially in the 20 tens. Everything began to happen online through your phone. You can order anything you want with just a few taps of an app, and it will appear magically at your doorstep. This massive amount of human suffering and exploitative labor that takes place on the back end to make that happen is wholly hidden from the consumer, and it seems like technology is magic. And when I think of this era of the 20 tens, when apps were ascendant and this post-human, pro extinction esque ideology was first being mainstreamed, I also think a lot about Kim Kardashian and Kanye West's Calabasas mansion, which was featured all over magazine spreads in the 20 tens. It showed this complete erasure of humanness like there are no signs of life in that house. The home was described in magazines as a futuristic Belgian monastery. It had these just like stark white walls, pale stone floors and these spaces that were completely devoid of human belongings. And that esthetic, I think, really resonated with Silicon Valley's vision of this flawless, post-human, sterile future. Facebook's Menlo Park headquarters and Google's sprawling campuses were a lot more colorful, but I think they also modeled this futuristic vision of a post-human world. I visited these offices a lot throughout the 20 tens for reporting trips, and there was always this like focus and obsession with automation, you know, like in the cafeteria, you could get like coffee that was served by a robot. Transportation around the campuses was often, you know, by these sort of like automated systems. At the same time, things like robot baristas became this big thing appearing up and down the coast of California where they would just, like, mechanically brew your Americano in the morning and all of the products, like, if you think of the biggest apps in the 20 tens, they all reinforced this culture and idea. Uber, for instance, was explicitly framed as this replacement for the inefficiency of human managed taxi systems. By 2015, Uber executives were openly talking about their desire to replace drivers with autonomous cars. Tech executives of gig economy startups expressed excitement at the possibility of eliminating human laborers again. People with lives and families. I even think of something like Airbnb, which is supposed to be this like human to human thing and like, oh, you know, it started as like crashing on someone's couch. But the way that many people use it now is essentially just like all automated, right? You can just go in the app, you can reserve your room somewhere, you can log in with a remote Wi-Fi lock. You can stay somewhere and never even interact with humans. Compare that to even a hotel experience where at least you check in, usually with a human at the desk you interact with, like human cleaners. Like there's something that's so crazy where even, like, hotels are feeling more human than, like, Airbnb and just these tech systems, I don't know, you can think of so many apps through this throughout the 20 tens. It kind of fit this bill. Gadgets of the time. Also transformed from this like colorful, translucent, interesting, quirky esthetic of the aughts to these sterile silver slabs. Jonny Ive's flat design in the 20 tens stripped away just all the little textures and details that once even made our digital spaces feel tactile and human like. The digital world was just being scrubbed of any evidence of human irregularity. You even saw this in social media, with the rise of standardized profiles from something like Myspace or Tumblr, which allowed for customization. And that was a big thing. Are blogs in the arts, all of which allowed you to sort of build your own unique human space online that switched to Instagram and Facebook and Twitter and even TikTok, where everything has this like standardized, consistently formatted feed. By the late 20 tens, cashless stores like Amazon Go eliminated human cashiers entirely, and shoppers entered with their phones, took their items that they needed and walked out. And maybe you're like, okay, Taylor, why are you rehashing all of this stuff from the 20 tens? Why does this matter? You're obsessed with the 20 tens. Okay, I'm a millennial, but I think it's just so important to understand that these major ideological shifts are not things that happen overnight. And they're all these subtle clues and changes in media and culture and our economy and literal environment that primed the public to accept certain ideologies as inevitable. That's really what I want to get at, because I think if you presented a bunch of extreme beliefs that we're going to get into that some of these tech billionaires espouse in private today, if you presented those ideas to the average person in 1986 or even 2006 or even in 2016, they'd be like, what the like. That's an insane dystopia. We don't want that. But this is what Silicon Valley is slowly conditioning the public for. And somehow today, in 2026, it's now being framed as normal and mainstream. To have these insane beliefs. But anyway, in 2018, a company called NEC tome emerged from Y Combinator, promising something so insane it's borderline parody level. They offered to perfectly preserve your brain via a procedure that is 100% fatal, like you'll die 100%. And the idea was that someday these preserved brains could be uploaded into digital form. So we're talking about literal death in exchange for the hope of some sort of future digital resurrection, probably through AI. And to be fair, this company was marketing its services primarily to terminally ill people. But still, they wanted to kill these people by connecting them to a machine that pumped embalming fluid into their arteries, which, by the way, sounds like a horrible death neck. Tome was incubated by the same program that launched Airbnb and Dropbox. Sam Altman, who runs the most powerful AI company on Earth, invested in it to Altman and other tech millionaires. The startup was an important step towards this idea of non-biological personhood and evolving beyond our own species. And that was just one startup. But I think by the early 2020s, you start to see this Silicon Valley pro extinction, this belief system really gained traction and really started to exert itself more publicly. And this ideology that underpins startups like Nick Tom and is espoused by people like Peter Thiel, Sam Altman and other leading AI executives, is loosely known as task realism. And I might be totally butchering that. So sorry if I am task real, which is spelled T as CRL, is an acronym coined by AI ethicist Timnit Gebru and author and philosopher Emil Torres. Taurus used to be a long termist philosopher himself who actually believed a lot of this sort of crazy stuff before realizing that the ideology he had fallen for was actually very dangerous and harmful. He told the Financial Times in 2023, quote, at the heart of this task, real bundle of beliefs is a techno utopian vision of the future in which we become radically enhanced, immortal post humans, colonize the universe, re-engineer entire galaxies, and create virtual reality worlds in which trillions of digital people exist. So yeah, he used to basically believe this stuff and hang around all these people, but now he's like, okay, that was actually a crazy time in my life. I don't believe any of this anymore. And he actually does a really good job calling all of this out and reporting on it on his Substack. So let's break down what task real means. And I want to kind of get into some of the more like niche ideologies that feed into this broader pro extinction esque belief system. So, like I was saying, Test is an acronym for this mix of overlapping and intertwined ideologies that pervade Silicon Valley. These are transhumanism to the T and test crowd, which is the belief that we should develop and enhance human beings. This is like the Ray Kurzweil stuff. Extra pianism the E and test growl, which is the belief that we should settle outer space and create and become post-human by colonizing other planets. This is something that Elon Musk has obviously talked a lot about. Then you have the US single materialism, which is the belief that humans are going to create a superintelligence in the medium term future. Cosmism basically is sort of similar to the extra pianism like, basically we're going to colonize the cosmos, and that's how we're going to live forever again through AI, because human beings themselves are not going to be able to transcend galaxies. Then you have rationalism, a community founded by AI researcher Eliezer yet Koski, who, despite writing a book that presents itself as an AI, is actually very, very pro AI. You have effective altruism. This has been written about a lot because Sam Altman and a lot of other kind of like crypto people were really obsessed with it. That's a belief system that claims that it's focused on improving the world for future generations or future beings, which I feel like always requires harming a lot of human beings living in the present. But their whole idea is like, oh, it's fine if we harm the, you know, maximum amount of people today because it's going to be better for people in the long term. And that kind of gets into long termism, which is not the same thing as effective altruism, but it's sort of similar. And it's the belief that one of the most important considerations in ethics is like how the ethics of our actions affect the long term future, so not how any of our actions today really affect or harm people alive currently, but more like, you know, I'm doing something ethically bad today, maybe because it's good for the long term future. As you can imagine, these ideologies are all very popular and convenient if you're a tech billionaire building harmful technology. I know that was a little bit in the weeds, but I just I wanted to try to break down at least some of the major factions. There's all these like minor factions and offshoots of these weird ideologies, but overwhelmingly just people in the test ground movement sort of form this broader. Like I pilled pro extinction belief system. And of course, this whole belief system is propped up by a network of thousands of internet posters and AI devotees. The movement itself is also flush with cash. Anyone espousing this ideology, which, by the way, I think it's important to note, is almost entirely pretty privileged. White men is showered with money like a seemingly endless stream of money will be lauded on you from billionaires if you start, you know, writing your like, rationalist, long term ism Substack blog. Surprise, surprise, as I've said before, there is so much money to be made in telling rich people what they want to hear. So some of these people that do just that are thinkers like this man Daniel Fogel, who began arguing that the true moral aim of artificial intelligence should be to create a worthy successor for humanity. He envisions that I could create an entity that is so capable and so intelligent and so morally valuable, that we would basically prefer it to govern all of us instead of flawed biological humans. Daniel Cicala runs a Substack newsletter, of course, on the post-human transition, where he helps rich people essentially figure out how to navigate their life after the end of humanity. So Gallo tweets stuff like, quote, in the long term, the cosmic expanse of all possible intelligent life is so obviously more important than one species, even if you are a member of that particular species. It's just like such a pygmy ideology, by the way. It's like the eyes are going to see you and be like, oh yeah, he's a good one. Oh, he never cared about the future of the human race. Like, don't worry, we'll save him like you're dying, okay? You're a human being like the rest of us. But for Carlos idea of a worthy successor has taken hold among tech elites who have come to believe that the proper end of AGI is to create this new species of entity that wouldn't have all of our human flaws. Ethics researcher Derek Schiller has bolstered this idea and wrote in the journal bioethics that if we could replace our species with something better, perhaps we are morally required to do that. I think what's so important to note, too, with the idea of like, the worthy successor or just these other kind of adjacent arguments that are being made to support it, is that they all reframe human extinction as this, like virtuous thing. Effective acceleration ism is also a core tenet of the test screw all pro extinction movement. You might see these people on Twitter with ease back in their bio. Effective acceleration is generally believe in complete and utter unrestrained technological advancement. In order to move beyond humanity. This idea is embraced by a lot of billionaires, including, of course, Marc Andreessen, one of the most powerful venture capitalists in Silicon Valley. It's also been amplified by Gary Tan, the head of Y Combinator. And this idea is essentially accelerate or die. Andreessen outlined these beliefs in his 2023 blog post titled A Techno Optimist Manifesto. This piece of writing is one of the most delusional pieces of writing that I have ever read. It's written in these three and four words sentences. It's like some sort of ChatGPT techno capitalist Rupi Kaur poem. In this blog post, though, Andreessen mocked the notion of existential risk with AI, he dismissed all calls for caution and regulation of any AI progress, and he declared that acceleration of technology is our destiny. And of course, he argues completely unregulated, quote, free markets are the most effective way to organize a technological economy. My favorite part of this entire unhinged post that he did is actually at the end where I forgot about this, but he lists his quote, patron saints of the techno optimists world, and it's just the most unhinged list of outright eugenicists and fascist posters. The list starts with an account that was deleted off Twitter for violating terms. Very great beginning. Then you have an acceleration list who posts under the handle bars. Lord, who uses slurs naturally and has said, quote, humanity is pregnant with AGI. You have John Galt, the fictional Ayn Rand character, and just a bunch of random famous people like Andy Warhol are also on that list. And again, a bunch of like, completely fictional characters. The whole list is so incoherent, and I just rereading that entire Techno Optimist manifesto, made my brain want to just boil out of my head. I also remember when this blog post dropped back in 2023, and people on Twitter were gushing about it. They were going crazy over it. They were just like posting it over and over again, I don't know. And just rereading it myself in 2026 made me so angry. Especially as somebody that actually, like, I consider myself a tech optimist and pro technology in the sense that I believe technology can truly be used to bring us a better world. And that is ultimately like the foundations of techno optimism is like a belief in a better world through technology. But instead, these sociopaths like Marc Andreessen take the term and try to rewrite it and write these deranged blog posts. So anyway, Gil Verdin is the name of another guy who you should know if you want to understand this. Effective acceleration is pro human extinction movement. He is a Trump supporting poster on Twitter who goes by the name Beth Jesus. Emil Taurus has written that quote Vernon envisions a future in which superintelligent AI's take over the world, disempower humanity, and ultimately throw us into the external grave of extinction. So yeah, these people again, all want human extinction to happen as fast as possible. Verdin believes that the ultimate task of intelligent life is to maximize entropy, which basically is the tendency towards disorder and chaos. He wants the tech industry to unleash this disorder and chaos on humanity, in part because he literally wants to accelerate the heat death of the universe, and he believes that AI is the best way to do this. Of course, Lex Fridman recently had this man on his podcast where he explained this theory. He tells Lex, quote, even though our universe will reach a heat death, we may have a way to have a legacy. And that legacy, of course, is superintelligent AI. On Twitter, he posts about these beliefs, claiming in one tweet that people attempting to save the human race will, quote, have a negative net effect on the trajectory of civilization. When someone replied to him like, I don't know if that's a good idea, like we're human beings. He posted, quote, enjoy being funny. I'm just going to be on here making computer erroneous and preparing the next form of life. Verdin also argues that corporations and capitalism itself are types of superhuman intelligence that are even more efficient at using up energy, and that a gigantic, sprawling civilization spread across galaxies would be even more efficient at using up energy again, speeding up the heat death of the universe, which is good in his mind because that heat death will, like, feed AI. It's so like. By the way, I've been researching this video since July. Reading these people's blog posts has made me want to melt into a puddle and die. And it's like, of course, the tech billionaires love it when these random guys come online and they're like, yes, you're right about everything. And also, maybe capitalism is its own form of intelligence, and we just need the tech industry to unleash maximum chaos. Like these are the people that they're listening to. This is why our tech system is the way it is. Elon Musk, of course, who also espouses this ideology, posted on X this year that, quote, it increasingly appears that humanity is a biological bootloader for digital superintelligence. These ideas are being woven into media and culture, to Daniel Coco to Jello, a former OpenAI staffer and current executive director of the AI futures project, recently appeared on Ross Douthat, a New York Times podcast. If we get through the initial phase with superintelligence, then obviously the first thing to be doing is to solve all those problems and make make something some sort of utopia. And then to bring that utopia to the stars would be, I think, the, the thing to do, the thing is that it would be the AI doing it, not us. If that makes sense. Yeah. So basically what he's saying is that AI is going to create a utopia for the AIS and colonize future worlds, and that future AI utopia is the like, that's the future of humanity. That should be the future of humanity where we don't exist. But we existed to, I guess, like, as Elon Musk said, be this like bootloader for AI to have its own utopia. Eliezer Yudkowsky, a computer scientist and researcher who pretends to be all about AI safety but is actually just another rationalist who ultimately wants to mainstream superintelligent AI, said recently that in principle, he'd absolutely be willing to sacrifice all of humanity to create superintelligent AI gods. Grimes of course, is also at the scene of the crime. As always, she wrote an entire song espousing the pro extinction of the human race. In her song I Want to Be Software, she sings, quote, upload my mind, take all my data. What will you find? I want to be software. The best design, infinite Princess, computer, mind, Grimes yet Kowski and a bunch of other AI held weirdos. Recently held a massive event at the Los Angeles Science Center, where they espoused this pro extinction, its belief system, and encouraged young technologists to do everything they can to essentially accelerate AI. According to a person who attended this event, not me, because they banned all journalists who are critical of AI. So I wasn't there. They apparently also talked about the massive amount of money available to young people and culturally relevant figures who are willing to push their pro AI agenda. I'm obviously not getting that pro AI acceleration is pro extinction money, so I just want to take another minute to say that if you like my work, please support me on Patreon via the link below, or buy a paid subscription to my Substack newsletter. I user mag eco. That's user mags. Kyle. Talking about these topics makes it extremely hard to get any sort of advertising, especially because I'm a tech reporter and the main advertising available to me is from AI companies who don't want to work with me when I make these types of videos. As you guys know, I'm 100% independent. I am not financed by any outside non profit. Weird political groups, propaganda organizations, or dark money groups. I have never taken any sort of dark money funding. The only reason I can continue to create videos like this is due to the support of people like you. On Patreon, I post bonus episodes, a bi weekly newsletter roundup of everything I'm reading and seeing online. I do a monthly private Q&A, live stream, and a lot more. You can also get my newsletter on Substack. Like I said at user Agco, that's user Agco. Truly, any amount you can spare makes such a difference. You guys keep my podcast and channel going. So back to these tech billionaires and their quest to make human beings extinct. I think one thing that is so insidious and awful is how these Silicon Valley billionaires are actually trying to redefine the word humanity itself. You can already see how just in the past few years, tech elites have completely changed the way that they talk about this word humanity. Because when Silicon Valley billionaires are talking about preserving humanity or protecting humanity, etc., you might think that they're talking about humans. That would be like a normal assumption, right? But they're not they're not talking about humanity in the way that you or I might think of it. They're using this new broad definition of humanity where humanity no longer means us biological human beings that walk the earth. Instead, their new definition of humanity includes any future beings or digital minds or non-biological superintelligence that human beings create, as long as those creations have certain intellectual capacities. So basically, if an AI is smart enough, these tech people count it as human. This shift allows them to say, without technically lying, that they want to prevent humanity's extinction, even if they believe that our actual species of human beings should die off. This redefinition of the word humanity is one of the central reasons that pro extinction is beliefs can spread so easily without being recognized for what they are. To an outsider, it sounds like Silicon Valley leaders are trying to protect humanity. They're talking about that, right? But they're actually not talking about us Homo sapiens at all. This language shift is already shaping how AI safety and governance is discussed in Silicon Valley. When groups warn about existential risks to humanity, they're often not talking about biological humans. They're often talking about the loss of potential future AI civilizations. This redefining of the word humanity is so important to point out, because I think people need to start paying closer attention to these subtle language shifts. That way, when we, especially reporters, are questioning these tech leaders about humanity, we can ask them, hold on, what do you mean? Physical, human like flesh and blood human beings? Or are you talking about humanity in the context of future AI beings? By expanding the definition of humanity to include machines, long Termist can claim that they're opposed to human extinction while they fully support the extinction of biological humans. When one of these billionaires is like, you know, we must protect the future of humanity, what they often mean is we must ensure that an AIS successor civilization exists. This kind of linguistic maneuvering allows pro extinction ideas to be smuggled into mainstream discussions about AI policy, ethics and safety. Because, again, normal people aren't going to understand this tech billionaire, AI pilled weirdo double meaning. I'll give you a specific example of this. Elon Musk just a couple months ago, was on stage in Saudi Arabia talking about the future of humanity, and he said that in the future, work will be optional and there'll be no need for money. Now he's saying that not because us humans will no longer need jobs to live, but because the world that he envisions will be dominated by AI robots who don't have to abide by the concepts of jobs and don't require money to live. Just recently, Elon Musk said that he hopes to create a form of immortality with Neuralink, where a saved version of himself can be uploaded to a humanoid robot. He's also building an army of humanoid Tesla robots himself. This is not a man who is interested in the future of actual human beings and the human race. Meanwhile, other prominent thinkers in the tech world like Derrick Schiller, who works for Rethink Priorities, a pro extinction organization that's received a ton of money from billionaires like Facebook co-founder Dustin Moskovitz, are saying the quiet part out loud. Schiller recently wrote that, quote, we should engineer our extinction so that our planet's resources can be devoted to making artificial creatures with better lives. In other words, we should kill ourselves so that we can build this AI worthy successor and that the AI can live a better life than we ever had. John Lanier, a virtual reality pioneer, just did an interview with Vox recently where he talked about how pervasive this belief system is becoming in just like average working people in Silicon Valley, he said about AI, researchers quote, a lot of them believe that it would be good to wipe out people and that the AI future would be a better one, and that we should wear a disposable, temporary container for the birth of AI. I hear that opinion quite a lot. The interviewer says, wait, that's a real opinion held by real people. Linear replies. Quote many, many people. Just the other day I was at lunch in Palo Alto and there were some young AI scientists there who were saying that they would never have a bio baby because as soon as you have a bio baby, you get the mind virus of the biological world, and when you have the mind virus, you become committed to your human baby. But it's much more important to be committed to the AI of the future. And so to have human babies is fundamentally unethical. These are not marginal or obscure people saying this stuff either. These beliefs are espoused by AI researchers and startup founders building our tech future. Our human extinction is rapidly becoming the expected trajectory of technological growth in recent years. You can see that this pro extinction mindset is becoming more and more pervasive, not just in what Silicon Valley elites are saying and talking about, but also what they are doing with the most powerful technologies on Earth. The idea that human beings are temporary and that the real priority is the future. AI superintelligence shows up in all of these endless ways that these big tech companies take risks and treat AI safety as an afterthought. All they care about is staying one step ahead in the AI arms race, and you can see, based on how irresponsibly many of these companies are operating, that the founders and executives are already acting like the survival and well-being of ordinary human beings is significantly less important than the goal of rapidly scaling. I take OpenAI, a company that began as a nonprofit with the stated goal of keeping AI safe for humanity. Once again, that word humanity in 2023, the company announced a dedicated Super Alignment team tasked specifically with making sure that future superintelligence systems couldn't go rogue and destroy all of us. Less than a year later, that entire team was dissolved. The whole group focused on long term existential risk either quit or was absorbed into other teams. I think that if you really wanted to preserve and protect the human race, and you were one of the most powerful AI companies on Earth, you might not want to disband your entire existential risk team in the middle of an AGI arms race. Google has behaved in a similar way. After OpenAI released ChatGPT, Google rushed out its own chat bot, barred under what internal memos called a code red. Reports later showed that multiple safety reviewers inside the company tried to sound the alarm. According to a report from PC gamer, Google employees begged their bosses not to release Bard because the system was a, quote, pathological liar that confidently produced false information. But of course, their concerns were overruled and Bard was released. An independent study from the center for Countering Digital Hate found that Bard generated persuasive misinformation on 78 out of 100 false and harmful narratives, tested without including any sort of disclaimers. Google still rolled it out. Knowing all of this, then quickly pivoted to an even larger AI model, Gemini. Again, these decisions make sense if what matters most to you is keeping up in an AI arms race, not protecting human beings from harm. Elon Musk has been one of the most reckless and sociopathic tech leaders, especially when you look at the rollout of AI and its chat bot, grok. Grok was marked as an unfiltered or anti-woke alternative to more cautious AI systems. But this, of course, has led to his bot spewing out an absolute tsunami of extreme hate. Just this past July, grok was praising Adolf Hitler, referring to itself as Mecha Hitler, and made a slew of really anti-Semitic and bigoted comments about people with Jewish names. Experts testified that graphics outputs could constitute violent extremist content, and then the company basically didn't care. Z even received a $200 million Pentagon contract. Amidst all of this, and more recently, grok has started to produce child sexual abuse material. Elon Musk's Tesla is also another stark case in treating real human lives as collateral. For years, Elon Musk has marked his autopilot and Full Self-Driving mode as steps towards fully autonomous, AI driven cars. Even though his systems require constant human supervision. These AI systems that Elon Musk has developed and is rolling out in cars already have been repeatedly linked to crashes. In 2024, the National Highway Traffic Safety Administration published a report detailing 211 crashes where Teslas were running autopilot. In 2025, Reuters reported that regulators were reviewing dozens of incidents involving Tesla's Full Self-Driving mode, including multiple car crashes that resulted in injuries attributed to the AIS behavior. And still, the company continues to push these software updates to consumers on public roads using real human beings and drivers and pedestrians as test subjects for optimizing, you know, Elon Musk's janky AI systems. And I just have to pause here and say once again that I am pro technology. I'm very pro technology, and I'm actually very pro self-driving cars. I think it's crazy that human beings are, you know, supposed to wield these massive and dangerous pieces of machinery, especially when they've been drinking. Sometimes I think that safe self-driving car technology will undeniably save countless lives a year. But the problem here is with the people in charge of this technology and their reckless attitudes towards human life and human safety. It's this move fast and break things ethos that's so pervasive in Silicon Valley. None of these tech billionaires are interested in building a better tech forward future for all of humanity. Instead, they're testing these dangerous AI systems on millions of average, hard working people so that the AI can be optimized and perfected by the time it reaches the world of billionaires. So it's not like we want to, like, live in an anti tech world where we don't have self-driving cars. We just need more responsible people in charge of these systems. And we need people that just don't treat human beings as collateral. Even the physical infrastructure being built for AI reflects the willingness of these billionaires to gamble with our future. Analysts and industry reports now estimate that hundreds of billions of dollars are being poured into new data centers to feed AI models, with one recent analysis projecting $500 billion in data center construction costs and huge increases in demands for energy and grid expansion. All of this is accelerating climate change and affecting marginalized communities across the US. These tech billionaires are effectively planning to reshape our entire energy system around their needs, and we aren't getting any kind of democratic say in whether we as a society even want that trade off or what it means for our climate, land use and ordinary people's access to power or local land use. Tech founders and executives are continually putting AI's needs ahead of the needs of human beings, while at the same time talking about AI and post-human successors as the rightful heirs to our future. It's so critical to recognize that their decision making on this stuff is a direct reflection of their pro extinction ideology and belief system. Because if you assume that actual living human beings and humanity is all just temporary, and that what really matters is future intelligence, then sure, it's extremely easy to risk real human lives or exploit real human workers in pursuit of these long term AI goals. What I think is so fucked up about all of this, though, is that while these billionaires are using AI to wipe out our jobs and destabilize society, they're also ensuring that they personally don't have to endure any discomfort during humanity's collapse. Because, again, these billionaires don't see themselves as part of broader humanity. There's so AI and eugenics pilled that they already believe that because of their massive amounts of wealth, they are superior beings, and they're reshaping their lives right now as if they already belong to another category of person by separating themselves from the masses. One of the most telling developments in this worldview is the degree to which billionaires have begun purchasing extreme privacy and physical isolation. A recent Wall Street Journal investigation reported that wealthy founders are paying enormous sums for hyper privacy services, including homes with private tunnels, underground escape routes and land purchases designed to ensure that no neighbors or anyone living around can see and reach them. According to the Wall Street Journal, these services cost millions of dollars a year and have become a booming industry for billionaires who want to shield themselves from the societal, political and environmental instability they know is coming as a result of their technology. The Journal reported that one tech founder paid for a mile long private road and security perimeter so extensive that even the local government could not easily access the land. Another visible example of this belief system can be seen in the billionaire bunker boom. For the past several years, bunker building companies like rising US and vivos have reported record sales of underground shelters to tech executives, crypto founders and hedge fund managers preparing for what they often refer to as the event. The event is this vague catch all term for societal breakdown, economic collapse and global technological shock. Thanks to the rise of AI. A 2018 piece in The New Yorker described how billionaires as detailed questions about controlling private security forces. Quote, after the event, some of these bunkers are built 11 storeys underground and stocked with gyms, hydroponic farms, armories and luxury theaters so that Silicon Valley elites are comfortable while they wait out societal collapse isolated from the rest of us. Aside from their bunkers, tech venture capitalist Tim Draper and billionaire Peter Thiel have been grabbing up land in isolated places. A 2025 report described how Thiel attempted to build a sprawling, bunker style shelter on New Zealand's South Island. He already holds New Zealand citizenship, owns a significant amount of land there and has publicly spoken of his escape scenarios. Mark Zuckerberg has constructed a 1400 acre Kauai compound that has a complete underground storm shelter beneath the main residence. It also has tunnels linking his mansions and a perimeter of advanced security cameras. Some billionaires are also fending off land colonies and sovereign enclaves with the standard rules of human society won't apply. For instance, they're backing seasteading projects that will offer tax free, regulation free living for elites out at sea. Then there is the experiment known as Prospera in Honduras, which has been marketed to rich tech investors as a place to test experimental longevity treatments, biotech and basically just have complete freedom from regulation. It's currently populated and funded by Andreessen Horowitz, acolytes and one article described it as an island where death is optional. Which brings me to my next point. These rich tech overlords aren't just physically and economically separating themselves from the rest of us. They're also increasingly altering their bodies to prepare for the next stage of evolution. Many of these tech elite billionaires fund private armies of coaches, doctors, biohackers and scientists whose sole job is enhancing and protecting their rich clients because their wealth compounds as they age. The longer these billionaires live, the more money and influence and power they amass, which is basically how these billionaires think about life extension. It's not about spending more time enjoying the earth or with family. It's all about extending your life to hoard unprecedented levels of wealth and power. Sam Altman recently invested at least $180 million in Retro Biosciences, a startup aimed at extending healthy human life by a decade or more. Ryan Johnson, a billionaire tech founder who spends over $2 million a year in his quest to live forever, employs dozens of doctors, takes hundreds of supplements daily and undergoes gene therapy experiments, and receives plasma transfusions from his teenage son. Johnson lives his life by an algorithm and has sought to optimize every aspect of his day, treating his body like a machine. Amazon founder Jeff Bezos recently backed Unity Biotechnology, a startup focused on longevity, and Altos Labs, an even more ambitious competitor. Zuckerberg and his wife, Priscilla Chan, are spending $3 billion over ten years to cure, prevent and manage all diseases by the end of the century, Dario Amodei, a former OpenAI employee and founder of the AI company anthropic, recently said that living to 150 years old was conceivable, but conceivable to hell. Certainly not those of us who don't have access to millions and millions of dollars a year's worth of life extension technology. Of course, if this world here on earth gets to be too much, these billionaires can also always flee to another planet and live happily among their future AI civilization. In his book survival of the Richest Escape fantasies of Tech Billionaires, the writer Douglas Rushkoff details how top men in tech have become obsessed with escape fantasies, Mars colonies, secret bunkers and digital immortality are all examples of this. He reports that these tech elites are actively planning to separate themselves from the rest of humanity, even if it means leaving Earth behind. Rushkoff says that these tech billionaires, quote, want to lord above the rest of humanity. Instead of accepting that we're all in this together, they believe that the masses and those of us who are not billionaires are essentially expendable. They think that the future belongs to this completely different class of beings. They just need to survive the great extinction or the event, or whatever you want to call it. When superintelligent AI takes over and the rich people will transition happily to whatever comes next. So after all of this, I think the obvious question is, okay, what do we do about all this? Because if these billionaires are all building this future where biological humanity is just temporary, and soon these superintelligent AI robots are going to take over, what can we even do to stop it? I would argue quite a lot. First of all, we're not powerless, ordinary people are consistently told that we're powerless, and that technological progress in a certain direction is inevitable. But it's really not. I can promise you, as somebody that's a tech reporter and covered this industry for 15 years, I promise a lot of this stuff is not inevitable. There are tons of examples from history where people organized and collectively resisted some miserable future that elites in their society wanted to impose on them. But to do that, we cannot fall for the moral panic about tech and allow people in power to leverage our collective justified outrage at the tech industry to further entrench its power. This means you guys need to stop buying into this stupid. It's the phones and lava framing where basically you view all technological process as an impediment to a more progressive world and you become anti-tax. That is so stupid. It's so stupid and it's ridiculous and harmful. We actually want a pro technology future technology is amazing. We want scientific discoveries and technological systems that help provide a better quality of life to ordinary people. But that's the key. Ordinary people, working people, disabled people, marginalized people, not just the tech billionaires. I can't emphasize this enough. People in power see that we're angry. They see this growing anti-tax sentiment, and they're trying to use that and use you to consolidate even more power in big tech companies and the billionaires that run them. They're using your and my justified anger at being robbed, blind and exploited by billionaires to push dangerous mass surveillance and censorship laws like the Kids Online Safety Act, the App Store Accountability Act, the Screen Act, the Parents Over Platforms Act, and more that they claim crack down on Big Tech, often in the name of child safety. What these laws actually do is roll out unprecedented levels of mass surveillance, mandatory biometric scanning to do things like use the internet and reward the exact same billionaires like Peter Thiel, who have invested in these mass age and identity verification systems. And now the Democrats. Because let's be clear, it's the Democrats who are leading the charge on this. Also want to repeal section 230, which is basically like the First Amendment for the internet, so that none of us can even speak out about this stuff online. What are these people in power and Congress not doing? They're not cracking down on big Tech. They're not actually targeting our hyper capitalist system. That's at the root of all this exploitation and profit maximization. Lawmakers like Ro Khanna are out here pretending to be anti billionaire, but then they turn around and back. These mass surveillance laws, like the Kids Online Safety Act. It's pitiful. We need people in power who actually want to regulate big tech in meaningful ways, who are willing to break up these massive monopolies and reshape the economy for working people. We also need to reclaim this idea that the future belongs to all of us and should be a democratic project, not something that only exists for a handful of CEOs. We need a lot more oversight over what these billionaires are doing, and that also requires real reporting. Since journalism has been gutted, I will once again, shamelessly plug my Patreon because I simply cannot do this reporting without the direct support of people like you. You can also buy a paid subscription to my Substack newsletter at user Banko. That's user echo. We need to meaningfully curb the power of these tech billionaires who want to kill off humanity. These men like Elon Musk, Marc Andreessen, Peter Thiel and other billionaires essentially rule over our country and our government without ever having to face an election. We need to seize their assets, tax the hell out of them, and make it impossible for anyone to amass that level of unrestrained wealth and power. We also need a cultural movement that centers humans like actual biological humans. We're already starting to see a backlash to silicon Valley's sterile minimalism and those sterile rooms, and this idea of endless stainless steel clean machines. We're starting to see more maximalism in the design world. Unfortunately, a lot of that is just repackaged consumerism and fast furniture from Timo and such. I'd like to see us actually intentionally embrace art, media and design that's made by real people and is not hyper optimized or perfect. I think some of this is happening online, but again, I think our society has become so consumerist and audiences forget how much work it takes to produce truly human creative work or to do real journalism. It seems like everyone just wants this endless, never ending feed of algorithmically tailored content slop. And I hate this, I hate this, I really do. I think we actually need to fight against it, and I think we need to recognize that not everything should be instant and tailored just for you. Give some grace to human artists and creators and journalists whose work takes time and energy, and that means not punishing them or unsubscribing from their Patreon or Substack just because they haven't posted in two weeks. Maybe they're working on something in case you didn't pick up. Yes, part of this is me sub videoing a lot of people who send me hate messages like why can't you do a daily newsletter and deliver 24 seven videos on YouTube and live stream and keep reporting freelance features and doing longform investigative journalism? And no, I'm not willing to pay more than a dollar a month for all of that. This is like this toxic consumerist mindset. And I think it's this, like hyper optimized mindset where I think, like, we're all being conditioned to just expect an endless amount of, you know, high quality content from everyone. And for no human beings to ever be able to take a vacation. Instead, I hope we can all start finding human beings who are creating real human works of art or media, or making things and support those people as best we can. Even if we don't have tons of money, we can all boost their work and send them a nice note, or try to signal to these mindless, miserable algorithms that what they're making is worthy. We also need stories about human futures that aren't written by acceleration edge lords, who just want to turn our entire universe into pro AI computer fanfic. We need journalists who actually challenge power instead of drinking tech industry kool aid, or even worse, participating in these moral panics about technology and manufacturing consent for dangerous censorship and surveillance laws. I really liked the way the journalist Naomi Klein, who's such a hero of mine, articulated it recently in a piece for The Guardian. She wrote, quote, plenty of powerful people and institutions seem to be just fine knowing that they are helping to destroy the stability of the world's life support systems, so long as they keep making record profits that they believe will protect them and their families from the worst effects. Altman, like many creatures of Silicon Valley, is himself a prepper. Back in 2016, he boasted, I have guns, gold, potassium iodide, antibiotics, batteries, water, gas, masks from the Israeli Defense Force and a big patch of land in Big Sur I can fly to. I'm pretty sure those facts say a lot more about what Altman actually believes about the future he's helping to unleash. Then whatever flowery hallucinations he's choosing to share in press interviews. These tech billionaires are actively betting against humanity's future. The Silicon Valley pro extinction ideology is fundamentally undemocratic and incompatible with what's best for actual humanity. I think we all need to remember that the future is not necessarily theirs by default. It is something we can collectively build together a world full of harmful and dangerous deepfakes, deadly AI hallucinations, dynamic pricing, mass surveillance and worsening inequality is not inevitable. All of these things come down to policy choices. We can curtail mass surveillance and regulate this current AI paradigm out of existence. We can fight against mass censorship laws and begin to actually crack down on these billionaires business models. We can build a world where technology works for the betterment of humanity and helps those most in need, instead of exploiting them because personally, I think that as bad and flawed as humanity is, a human future is far better than any dystopia this Silicon Valley billionaires want to build. If you liked this video or my work, please support me on Patreon via the link below, or buy a paid subscription to my Substack newsletter at user mag echo that user mag echo. The only reason I can make this content and continue to create these videos is due to the direct support of people like you. On Patreon. I post bonus episodes, do a biweekly newsletter roundup of everything I'm reading and seeing online. I do a monthly private Q&A, live stream, and more. You can also get my newsletter on Substack at user Mag echo. That's user Mago. Truly, any small amount you can spare makes such a difference, and I can't thank you enough for watching and subscribing. I'll be back with more videos soon.

인류가 계속 존재하길 바라시죠? 망설이시네요. 음, 저는요. 네.

모르겠어요, 저는… 저는 그럴 것 같아요. 그럴 것 같아요. 망설임이 꽤 길었죠. Silicon Valley의 가장 부유하고 가장 강력한 남자들 중 일부는 ‘자기들만’ 살아남는 미래를 준비하고 있습니다.

그리고 우리 나머지는요? 살아남지 못하는 미래죠. 뉴질랜드에 초호화 벙커를 사들이고, 지구를 떠나는 계획에 돈을 붓고, 언젠가 마음을 클라우드에 업로드할 수 있을지도 모르는 기술에 투자한다는 얘기는 아마 들어보셨을 겁니다.

하지만 사람들이 잘 모르는 건, 그들이 왜 이런 걸 하는지의 ‘진짜 이유’입니다. 테크 억만장자들은 수십 년 동안 ‘기술이 이끄는 미래’라는 비전을 대중에게 팔아왔습니다. 끝없는 혁신과 진보를 약속했고, 당신이 그들의 형편없는 AI 스타트업, 배달 앱, 휴머노이드 로봇을 받아들이기만 하면 세상이 이런 모습이 될 거라고 믿게 만들고 싶어 합니다.

그런데 그들이 사회를 위해 세워둔 진짜 계획은 훨씬 더 어둡고, 훨씬 더 불길합니다. 현실은, 이 Silicon Valley 억만장자들이 ‘인류가 존재하지 않는 미래’를 향해 달려가고 있다는 겁니다. 과장해서 하는 말이 아닙니다.

그들은 인간이 로봇과, 몸 없는 디지털 의식을 가진 존재로 대체되는 미래를 구축하고 있습니다. 이 테크 억만장자들은 ‘인류 멸종’을 지지합니다. 물론 ‘자기들만’ 빼고요.

그들은 호화롭게 계속 살 겁니다. 그리고 이건 샌프란시스코의 어떤 변두리 SF 이념 같은 게 아닙니다. 오늘날 억만장자, CEO, 가장 강력한 벤처캐피털리스트들은 생물학적 인간이 쓸모없어지는 세상을 만들고 싶어 합니다.

정말 미친 얘기죠. 그런데도 YouTube에서 이걸 제대로 다루는 사람이 거의 없는 것 같습니다. 그래서 오늘은, Silicon Valley에서 이 ‘친-멸종주의(pro-extinctionism)’가 어떻게 자리 잡았는지, 그걸 떠받치는 핵심 이념은 무엇인지, 그리고 권력자들이 이미 그 디스토피아적 현실을 구현할 기술에 어떻게 투자하고 구축하고 있는지, 또 그들이 더 높은 AI 의식으로 ‘승천’한 뒤 우리에게 무엇을 남겨둘 계획인지까지 파헤쳐 보겠습니다.

시작하기 전에 잠깐만요. Patreon을 통해 저를 후원해주시거나, Substack 뉴스레터 유료 구독을 해주시면 정말 도움이 됩니다. user mag echo, 그게 user Agco인데요. 제 작업을 지지해 주시고 이런 저널리즘을 계속 만들 수 있게 해주세요.

이런 주제들을 다루는 건 수익이 잘 나지 않습니다. 제 콘텐츠는 수익 창출이 막히는 경우가 많고, 어떤 이슈들에 대해 목소리를 내거나 권력에 도전했다는 이유로 큰 브랜드 딜도 여러 개 잃었습니다. 그래서 제 작업은 전적으로 여러분 같은 분들의 직접 후원으로 운영됩니다.

여러분의 재정적 지원 없이는 이런 영상을 만들 수 없습니다. 설명란 링크를 눌러 Patreon이나 Substack으로 후원해 주세요. 자, 다시 본론으로 돌아가겠습니다.

Silicon Valley 억만장자들이 왜 이런 괴상한 믿음을 갖게 되었는지 이해하려면, Silicon Valley가 우리가 알고 ‘싫어하는’ Silicon Valley가 되기 훨씬 전, 수십 년 전으로 돌아가야 합니다. 1960년대, 지금의 Silicon Valley로 불리는 지역은 거의 전부 과수원과 농지였습니다.

기술 생태계는 이제 막 싹을 틔우던 단계였고, 냉전 시기 국방 계약이 전자·반도체 분야로 막대한 돈을 흘려보냈습니다. 이때 Fairchild Semiconductor라는 회사가 최초의 집적회로(integrated circuit)를 개척했습니다.

집적회로는 아마 들어본 적이 없을지도 모르지만, 20세기의 가장 중요한 발명 중 하나였습니다. 사실상 모든 현대 전자제품을 가능하게 만든 발명이니까요. 예전 전자기기는 개별 부품을 회로판에 손으로 하나하나 연결해 만들었는데, 그러면 전자기기가 크고, 약하고, 비쌌습니다.

집적회로는 그 모든 분리된 부품을 한데 모아, 아주 작은 칩 하나에 함께 제조해 넣었습니다. 그 칩은 반도체 재료 위에 만들어졌고, 그 재료가 silicone이었습니다. 그래서 Silicon Valley가 그 이름을 얻게 된 거죠.

곧 Silicon Valley는 스타트업과 이를 지원하는 벤처캐피털이 만들어내는, 스스로 증식하는 거대한 네트워크로 유명해졌습니다. Palo Alto에 있던 Stanford University는 이 생태계와 대학이 끝없이 새로워지는 인재 파이프라인을 만들어 테크 스타트업들로 흘려보냈다고 말했습니다.

반도체 산업은 1970년대 내내 계속 성장했지만, 기술이 더 대중화되면서 더 ‘뉴에이지 해커 문화’ 같은 것이 나타났습니다. Intel이 1971년 세계 최초의 상업용 마이크로프로세서를 출시했고, 이 발명은 개인용 컴퓨터라는 아이디어를 현실로 만들었습니다.

처음으로 취미가들, 엔지니어들, 해커들이 차고에서 만나 아이디어를 교환하고 DIY 컴퓨터를 뽐내기 시작했습니다. 당시엔 정말 멋진 카운터컬처 해커 커뮤니티였죠.

Apple을 1976년 설립한 공동창업자 Steve Jobs와 Steve Wozniak도 바로 그 문화에서 나왔습니다. Apple의 초기 기계들, 예를 들면 Apple One, 그리고 크게 성공한 Apple two는 컴퓨터가 기업이나 정부의 도구에 그치지 않고 가정으로 들어와 일상적인 일을 도울 수 있다는 걸 보여줬습니다.

Valley 사람들은 점점 컴퓨터를 개인적 해방의 도구로 보기 시작했고, 컴퓨터로 의식을 확장하고, 사람이 몇 시간 혹은 며칠 걸릴 일을 빠르게 처리할 수 있다는 생각이 퍼졌습니다. 1970년대 Silicon Valley에는 이런 기묘한 ‘이중성’이 곳곳에 있었습니다.

한쪽에는 대형 계약을 따내고 글로벌 시장에서 마이크로칩을 찍어내는 Intel 같은 거대 기업이 있었고, 다른 한쪽에는 차고 해커 문화에서 나온 깊이 유토피아적이고 반문화적인 윤리가 있었습니다.

Bay Area는 1960년대 반문화의 중심지이기도 했죠. 사이키델릭, 히피, 반전 시위 같은 것들이요. 그런 에너지가 Silicon Valley에도 스며들었습니다.

Whole Earth Catalog 창립자 Stewart Brand는 1968년 처음 발간된 그 카탈로그를 통해, 유명한 말로 ‘정보는 자유로워지길 원한다’고 선언했습니다. 그는 나중에 컴퓨터가 인간 자유의 새로운 프런티어라는 생각을 퍼뜨렸습니다.

하지만 제가 말했듯, 동시에 거대 비즈니스도 계속 번성했습니다. 1980년대에는 개인용 컴퓨터가 폭발적으로 확산됐습니다. 사람들이 처음으로 개인용 컴퓨터를 갖기 시작했죠.

IBM은 1981년 첫 PC로 시장에 들어왔고, Microsoft가 운영체제를 제공하면서 IBM 호환 클론 생태계가 폭발했습니다. Apple은 1984년 상징적인 1984 슈퍼볼 광고와 함께 Macintosh를 출시했고, Apple을 ‘획일성에 맞서는 해방자’처럼 그렸습니다.

우리는 자유롭게 하리라. 1월 24일, Apple Computer가 Macintosh를 소개할 것이고, 당신은 왜 1984가 1984 같지 않을지 보게 될 것이다. 그 시기 Silicon Valley의 Sandhill Road 벤처캐피털리스트들은 스타트업에 돈을 쏟아부었습니다.

그들은 모두 ‘다음 Apple’이나 ‘다음 Intel’을 쫓았고, Valley는 대체로 경쟁적이고 자본주의적인 문화이면서도, 해커 유토피아적 ‘해방’ 언어로 포장된 하이브리드가 됐습니다.

Silicon Valley에서 나온 모든 신제품은 ‘권한 부여’와 ‘더 나은 미래’라는 약속으로 마케팅됐고, 곧 기술은 ‘초월’로 가는 길처럼 팔리기 시작했습니다. 테크 리더들은 미래의 컴퓨터, 그리고 나중에는 인터넷이 인간이 더 빠르게 일하고 생물학적 한계를 초월하도록 도울 거라고 말하기 시작했습니다.

Carnegie Mellon의 로보티시스트 Hans Moravec는 1980년대 Silicon Valley 지적 서브컬처에서 엄청난 영향력을 갖게 됐습니다. 그는 1988년 Mind Children: The Future of Robot and Human Intelligence라는 책을 출간했습니다.

Moravec는 그 책에서 인간은 마지막 세기에 들어섰고(이게 좀 소름 돋게 예견적이죠), 곧 우리보다 더 똑똑한 기계를 만들게 될 거라고 주장합니다. 이 ‘마인드 칠드런(mind children)’은 결국 우리를 대체할 것이고, 우리는 그 후계자를 우리 ‘자식’처럼 봐야 한다고 했습니다.

그리고 그는 인간 멸종에 대해 즐겁게, 명랑하게 썼습니다. 그의 비전은 Silicon Valley의 유토피아적 성향과, 끝없는 혁신 추구를 정당화해줬습니다. 인간이 일시적 존재이고, 우리를 대체할 기계를 만드는 것이 ‘더 높은 선’이라면, 그걸 만드는 테크 노동자들은 자신들이 고귀한 일을 하고 있다고 믿을 수 있으니까요.

1995년, Wired magazine의 Super Humanism이라는 글에서 작가 Chris Platt가 Moravec를 인터뷰합니다. Moravec는 인터뷰 시작부터 열광적으로 이렇게 묻습니다. AI로 능력을 강화하고 수명을 늘리고 인간 조건을 개선할 수 있다면 정말 멋지지 않겠냐고요.

1995년에 이미 이런 얘기를 한 겁니다. 그는 2030년이면 계획과 예측 같은 고차원 사고 과정을 모사하는 ‘3세대 범용 로봇’을 갖게 될 거라고 예측했고, 그 로봇은 내부 모델을 유지할 텐데, 자기 과거 행동뿐 아니라 외부 세계까지 모델링할 거라고 말했습니다.

즉, 어떤 일을 수행하는 서로 다른 시뮬레이션을 돌려보고, 각각이 얼마나 잘 되는지 평가한 뒤, 과거 수행과 비교해 더 나은 해법을 고를 수 있다는 얘기죠. 지켜보는 사람은 그 로봇이 문제 해결을 위해 여러 해법을 ‘상상’하고, 자기만의 아이디어를 발전시키는 듯한 섬뜩한 느낌을 받게 될 겁니다.

비슷한 시기인 1983년, 수학자이자 SF 작가인 Vernor Vinge가 기술적 특이점(technological singularity)에 관한 논문에서 비슷한 생각을 되풀이합니다. 그는 초인적 지능의 창조가 인간 시대를 definitively 끝낼 것이며, 기계가 우리 지능을 넘는 순간 역사는 그들의 것이 될 거라고 말했습니다.

인간은 더 이상 통제하지 못하고, 아마 ‘관련성’조차 없어질 거라고요. 그는 멸종으로 가는 여러 경로를 제시했는데, 초인적 AI, 인간-컴퓨터 통합, 바이오테크, 유전적 업그레이드 같은 것들이었습니다.

하지만 결과는 모두 같은 곳으로 수렴합니다. 인류의 끝이죠. 그의 표현으로는 ‘인간 시대의 끝’입니다. Valley의 젊은 엔지니어와 투자자들은 그 미래가 우리의 집단적 운명이라고 믿기 시작했습니다.

1990년대 인터넷은 발전했고, 닷컴 버블과 그 붕괴로 다음 밀레니엄 초반에 이르렀습니다. 미국 가구의 26%가 인터넷을 쓸 수 있었고, 사람들은 기술에 점점 익숙해졌습니다.

2005년, Ray Kurzweil이 The Singularity Is Near: When Humans Transcend Biology를 출간합니다. 이 책은 Moravec와 Vinge의 친-멸종적 아이디어를 대중용으로 다시 포장해, 낙관적 광택을 입혔습니다.

Kurzweil의 책은 베스트셀러가 됐고, 사람들은 인간이 기계와 합쳐져 마음을 업로드하고 디지털 에테르 속에서 영원히 사는 ‘마법 같은 미래’에 설렜습니다. 생물학적 인간이 쓸모없어진다는 아이디어는 변두리에서 주류 문화로 이동했고, Silicon Valley CEO, 창업자, 특히 벤처캐피털리스트들이 더 공개적으로 이를 수용하게 됐습니다.

이 사상은 Silicon Valley의 가장 악명 높은 제국을 만든 남자들에게도 흡수됐습니다. Walter Isaacson의 Elon Musk 전기에는, Elon이 Google 공동창업자 Larry Page와 충돌한 파티 장면이 나옵니다.

Page는 인류가 계속 존재해야 한다고 주장하는 Musk를 두고 ‘종차별주의자(speciesist)’라고 비난합니다. Page는 디지털 생명이 다음 진화 단계이며, 인류 우월성에 집착하는 건 편협하고 심지어 편견이라고 주장합니다.

Musk는 자신이 친-인간(pro-human)이라고 답했지만, 물론 그것도 이후 바뀌었습니다.

기술이 진보하면서, 특히 2010년대 호황기 동안, 스타트업들은 ‘포스트-휴먼(post-human) 세계’를 명시적으로 만들려 하기 시작했습니다. iPhone이 일상을 재정의했고, 앱이 폭발적으로 성장했으며, Silicon Valley의 초월 담론은 더 만연해졌습니다.

2011년, The Atlantic은 Google의 데이터 기반 의사결정을 칭송하는 에세이를 냈고, 그것이 인간 관리자들의 비이성적이고 오류 많은 성향보다 우월하다고 묘사했습니다. 그 글은 기계가 결국 사람보다 더 나은 리더가 될 수 있다고 제안했습니다.

‘기계는 구원자, 인간은 장애물’이라는 톤은 테크 언론에서 점점 흔해졌습니다. 2012년 Wired의 Better Than Human: Why Robots Will and Must Take Our Jobs는 로봇이 노동시장 전체에서 우리를 대체할 운명이라고 주장합니다.

인간은 완벽하고 지치지 않는 기계와 경쟁할 수 없다는 거죠. Wired 작가 Kevin Kelly는 이렇게 썼습니다. 이건 기계와의 경쟁이 아니다. 기계와 경쟁하면 우리는 진다.

이건 기계와 함께 달리는 경주다. 미래의 보상은 로봇과 얼마나 잘 일하느냐로 결정될 것이다. 당신 동료의 90%는 보이지 않는 기계가 될 것이다.

당신이 하는 일 대부분은 그들 없이는 불가능할 것이다. 그리고 당신이 하는 일과 그들이 하는 일 사이에는 흐릿한 경계가 생길 것이다.

Kevin Kelly는 이어서 말합니다. 로봇이 지배하도록 내버려둬야 한다. 로봇은 우리가 해오던 일을 하고, 우리보다 훨씬 더 잘 할 것이다.

로봇은 우리가 전혀 할 수 없는 일도 할 것이고, 우리가 필요하다고 상상도 못했던 일도 하게 만들 것이다. 그리고 우리가 새로운 일을 발견하도록 도울 것이다.

우리가 누구인지 확장시키는 새로운 과업들 말이다. 로봇은 우리가 더 인간답게 되는 데 집중하도록 해줄 것이다. 로봇이 일을 하게 하고, 의미 있는 새로운 일을 꿈꾸도록 도와주게 하라.

그 다음 해, Wired는 자율주행차 글에서 이렇게 씁니다. 인간이 시스템에서 가장 위험한 부분이다. 취했고, 산만하고, 부주의하고, 오류투성이다.

참고로, 이건 사실이긴 합니다. 인간은 특히 운전에 있어서 정말 결함이 많아요. 저는 자율주행차에 꽤 우호적입니다.

하지만 주류 미디어가 이 이슈와 테크 산업 전체를 어떻게 프레이밍하는지, 그리고 2010년대 내내 이런 내러티브를 어떻게 깔아줬는지를 점검하는 게 정말 중요하다고 생각합니다.

기자들과 테크 언론은 ‘인간은 나쁘고, 오류가 많고, 지저분하고, 멍청하다’는 아이디어를 계속 밀어붙였습니다. 반면 기계는 깨끗하고, 매끈하고, 똑똑하고, 진화된 존재로 포지셔닝됐습니다.

인간=위험, 기계=안전 같은 프레임이었죠. 이런 전제 아래에는 ‘인간이 그렇게 결함투성이라면, 차라리 기계가 지배하는 게 낫지 않나’라는 함의가 깔려 있습니다.

2013년, Vanity Fair의 Enthusiasts and Skeptics Debate Artificial Intelligence에서 Kurt Anderson은 특이점이 글로벌 테크노 니르바나를 가져올지, 문명적 파멸을 가져올지 묻습니다.

그 글은 Vinge와 Kurzweil을 인간 진화가 재설계될 수 있다고 믿는, 앞서가는 테크 복음주의자처럼 그립니다. 그리고 유전자 편집으로 ‘지저분한 생물학적 오류’를 제거하자는 얘기까지 나오는데, 사실상 우생학(eugenics)입니다.

바로 다음 해인 2014년, The New York Times는 의료에서 예측 알고리즘을 다루며 When Machines Know You Better Than You Know Yourself라는 헤드라인을 냅니다.

그해, Humans Need Not Apply라는 영상이 YouTube에서 바이럴이 됩니다. 그 영상은 15분짜리이고, 인간 노동자를 엔진에 의해 대체된 말(horses)에 비유했습니다.

또 거의 절반의 일자리, 특히 화이트칼라와 창의직이 자동화로 사라질 거라 전망했습니다. 그 영상은 1,800만 뷰를 넘겼고, 결과적으로 엄청 예견적이었습니다.

저도 그때 직장에서 그걸 보면서 ‘젠장’ 했던 기억이 있어요.

이런 것들이 온라인과 주류 문화에서 벌어지는 동시에, 포스트-휴먼 이념은 물리적 세계의 형태까지 바꾸기 시작합니다. 2010년대 건축 디자인은 더 살균된 듯한 방향으로 갔고, Apple Store 같은 리테일 공간은 인간 흔적을 지웠습니다.

카페들은 미니멀한 의자와 테이블, 소독된 느낌의 조명, 하얀 벽을 채택했고, 고객은 사람에게 돈을 내는 대신 계산대 iPad를 사용하기 시작했습니다.

이 미니멀리즘의 ‘무균 미학’은 인간 노동자의 가시성을 제거하는 데 초점을 맞췄고, 무의식적으로 ‘인간은 지저분하고, 혼란스럽고, 믿을 수 없다’는 관념을 강화했습니다.

배달 앱의 확산과 e-commerce도 이런 시각을 굳혔다고 생각합니다. 예전엔 둘 다 사람과의 상호작용이 필요했죠. 쇼핑몰에 가서 옷을 입어보거나, 피자 배달원과 문 앞에서 만나 현금 팁을 주거나요.

그런데 이제, 특히 2010년대에는 모든 것이 휴대폰 안에서 온라인으로 이뤄지기 시작했습니다. 앱 몇 번만 누르면 무엇이든 주문할 수 있고, 마치 마법처럼 문 앞에 나타납니다.

그 과정 뒤편에서 벌어지는 엄청난 인간 고통과 착취 노동은 소비자에게 완전히 숨겨지고, 기술이 마법처럼 보이게 됩니다.

저는 2010년대라는 시대를 떠올릴 때 Kim Kardashian과 Kanye West의 Calabasas 저택도 많이 떠올립니다. 그 집은 인간성의 완전한 소거처럼 보였어요.

그 집엔 삶의 흔적이 전혀 없었죠. 잡지들은 그 집을 미래적인 벨기에 수도원 같다고 묘사했고, 새하얀 벽, 옅은 석재 바닥, 인간 소지품이 없는 공간들로 구성돼 있었습니다.

그 미학이 Silicon Valley가 꿈꾸는 ‘완벽한 포스트-휴먼, 무균 미래’와 공명했다고 생각합니다.

Facebook의 Menlo Park 본사와 Google의 거대한 캠퍼스는 더 다채로웠지만, 그 또한 포스트-휴먼 미래의 비전을 모델링했다고 봅니다.

저는 2010년대에 취재로 그런 오피스들을 많이 방문했는데, 항상 자동화에 대한 집착이 있었습니다. 예를 들면 카페테리아에서 로봇이 커피를 내려준다거나요.

캠퍼스 내 이동도 자동화 시스템으로 하기도 했습니다. 동시에 로봇 바리스타 같은 것이 캘리포니아 해안 곳곳에서 유행했고, 아침에 기계가 당신 아메리카노를 기계적으로 내려주죠.

그리고 2010년대의 대표 앱들은 다 이런 문화를 강화했습니다. 예를 들어 Uber는 인간이 운영하는 비효율적 택시 시스템을 대체하는 것으로 노골적으로 프레이밍됐습니다.

2015년쯤 Uber 경영진은 운전자를 자율주행차로 대체하고 싶다고 공개적으로 말했습니다. 긱 이코노미 스타트업 테크 임원들은 인간 노동자를 제거하는 가능성에 흥분을 표했습니다.

가족도 있고 삶도 있는 사람들을요.

Airbnb 같은 것도 생각해 볼 수 있죠. 원래는 인간 대 인간, 남의 소파에서 잠깐 자는 그런 느낌이었는데, 지금 많은 이용 방식은 거의 전부 자동화됐습니다.

앱에서 예약하고, 원격 Wi-Fi 락으로 들어가고, 사람과 한 번도 상호작용하지 않고 머무를 수 있습니다.

호텔 경험과 비교해보면, 호텔은 적어도 체크인을 인간 직원과 하고, 인간 청소 노동자와 상호작용이 있죠. 그래서 오히려 호텔이 Airbnb보다 더 인간적으로 느껴지기도 합니다.

2010년대 내내 수많은 앱들이 이런 방향으로 흘렀습니다.

당시의 가젯들도 변화했습니다. 2000년대의 컬러풀하고 반투명하며 기발한 미학에서, 2010년대에는 무균적인 은색 판(silver slabs)으로 바뀌었습니다.

Jony Ive의 플랫 디자인은 디지털 공간을 촉각적이고 인간적으로 느끼게 해주던 질감과 디테일을 쓸어버렸습니다. 디지털 세계가 인간의 불규칙함의 흔적을 지워버린 겁니다.

소셜미디어에서도 그게 나타났죠. Myspace나 Tumblr 같은 커스터마이징 가능한 플랫폼에서, Instagram, Facebook, Twitter, 심지어 TikTok처럼 표준화된, 일관된 피드로 옮겨갔습니다.

2010년대 후반, Amazon Go 같은 캐시리스 스토어는 인간 계산원을 완전히 없앴고, 쇼핑객은 폰으로 들어가 필요한 물건을 집어 들고 그냥 나옵니다.

여러분은 ‘Taylor, 왜 2010년대 얘기를 이렇게 다시 해?’라고 생각할지도 모르죠. ‘왜 그렇게 2010년대에 집착해?’ 네, 저는 밀레니얼이긴 합니다.

하지만 이런 큰 이념적 변화는 하룻밤 사이에 생기지 않습니다. 미디어, 문화, 경제, 환경에서 일어나는 미묘한 단서들과 변화들이 대중이 어떤 이념을 ‘불가피한 것’으로 받아들이도록 길을 닦습니다.

제가 말하고 싶은 게 그겁니다. 어떤 억만장자들이 오늘날 사적으로 믿는 극단적 믿음들을 1986년이나 2006년 혹은 2016년의 평범한 사람에게 보여줬다면, ‘뭐야 그게, 미친 디스토피아잖아. 싫어’라고 했을 겁니다.

그런데 Silicon Valley는 대중을 천천히 조건화해왔고, somehow 오늘날 2026년에는 이런 믿음이 정상적이고 주류적인 것처럼 프레이밍되고 있습니다.

어쨌든, 2018년에는 Y Combinator에서 나온 NEC tome이라는 회사가 등장합니다. 너무 황당해서 거의 패러디 수준인데, 100% 치명적인 절차로 뇌를 ‘완벽하게 보존’해주겠다고 약속했습니다.

즉, 100% 죽습니다. 그리고 언젠가 그 보존된 뇌를 디지털 형태로 업로드할 수 있을 거라는 아이디어죠.

말 그대로 ‘죽음’과, 미래의 디지털 부활(아마 AI를 통해)을 바꾸자는 겁니다. 공정하게 말하자면, 이 회사는 주로 말기 환자에게 마케팅했지만, 그래도 동맥에 방부액을 펌프하는 기계에 연결해 사람을 죽이려 했다는 건 사실입니다.

그건 정말 끔찍한 죽음처럼 들립니다.

NEC tome은 Airbnb와 Dropbox를 출시한 것과 같은 프로그램에서 인큐베이팅됐습니다. 지구상에서 가장 강력한 AI 회사를 운영하는 Sam Altman도 여기에 투자했습니다.

Altman과 다른 테크 백만장자들에게 이 스타트업은 비생물학적 인격(non-biological personhood)과 종을 넘어선 진화라는 아이디어로 가는 중요한 한 걸음이었습니다.

그건 스타트업 하나였을 뿐이지만, 2020년대 초반부터 Silicon Valley의 친-멸종 이념이 정말 탄력을 받고 더 공개적으로 힘을 발휘하기 시작했다고 생각합니다.

이 이념은 Peter Thiel, Sam Altman 등 주요 AI 임원들이 내세우고 있고, 느슨하게 task realism이라고 불립니다. 제가 이걸 완전히 망쳐 말하고 있을지도 몰라서, 틀렸다면 죄송합니다.

task real… 이건 T as CRL로 철자되는 약어라고 하고, AI 윤리학자 Timnit Gebru와 작가·철학자 Emil Torres가 만든 약자입니다.

Torres는 원래 장기주의(long-termism) 철학자였고, 한때는 이런 사상을 믿었지만, 나중에 그 이념이 매우 위험하고 해롭다는 걸 깨닫고 돌아섰습니다.

그는 Financial Times에 2023년 이렇게 말했습니다. 이 task real 묶음의 핵심에는 우리가 급진적으로 강화된, 불멸의 포스트-휴먼이 되어 우주를 식민지화하고, 은하 전체를 재설계하며, 수조(trillions)의 디지털 사람이 존재하는 가상현실 세계를 만드는 테크노-유토피아적 미래 비전이 있다고요.

그는 예전엔 이런 걸 믿고 그 사람들과 어울렸지만, 지금은 ‘그건 내 인생의 미친 시기였다. 이제는 믿지 않는다’고 합니다.

그리고 그는 Substack에서 이걸 꽤 잘 비판하고 폭로합니다.

그럼 task real이 뭔지 풀어보죠. 그리고 이 더 넓은 친-멸종적 믿음 체계를 먹여 살리는 좀 더 니치한 이념들도 다뤄보고 싶습니다.

제가 말했듯, TEST는 Silicon Valley에 만연한, 겹치고 얽혀 있는 이념들의 혼합에 대한 약자입니다. T는 transhumanism으로, 인간을 개발하고 강화해야 한다는 믿음입니다.

Ray Kurzweil 같은 것들이죠. E는 ‘extra pianism’인데, 우주로 나가 정착하고, 다른 행성을 식민지화하며 포스트-휴먼이 되어야 한다는 믿음입니다.

Elon Musk가 많이 말한 것들이죠.

그 다음은 ‘US single materialism’으로, 중기 미래에 인간이 초지능(superintelligence)을 만들 것이라는 믿음입니다.

Cosmism은 extra pianism과 비슷하게, 우주를 식민지화해야 영원히 산다는 생각을 포함합니다. 왜냐하면 인간은 은하를 초월할 수 없으니, 결국 AI를 통해 우주적 삶을 이어간다는 겁니다.

그리고 rationalism이 있습니다. AI 연구자 Eliezer Yudkowsky가 만든 공동체인데, AI 안전을 말하는 척하지만 사실 매우 친-AI적이라고 저는 봅니다.

effective altruism도 있습니다. Sam Altman과 다른 크립토 쪽 사람들이 집착했던 것으로 많이 보도됐죠. 미래 세대 혹은 미래 존재의 삶을 개선하겠다고 주장하지만, 현재 살아 있는 인간을 해치는 걸 정당화하는 데 자주 쓰인다고 느낍니다.

‘장기적으로 더 좋아질 거니까 오늘 최대한 많은 사람을 해쳐도 괜찮다’는 논리로요.

그건 long-termism과도 연결됩니다. 둘은 완전히 같지는 않지만 비슷합니다. 오늘 우리의 행동이 현재 살아 있는 사람에게 어떤 해를 주는가가 아니라, 먼 미래에 미치는 영향을 윤리에서 가장 중요하게 본다는 믿음이죠.

즉, 오늘 윤리적으로 나쁜 일을 해도 장기적으로 좋다면 괜찮다는 식입니다.

보시다시피, 이런 이념들은 해로운 기술을 만드는 테크 억만장자에게 아주 편리합니다.

조금 디테일로 들어갔지만, 적어도 주요 파벌을 나눠보려고 했습니다. 작은 파벌과 분파도 많지만, 압도적으로 TEST 군중은 넓은 친-멸종 믿음 체계를 이룹니다.

물론 이 믿음 체계는 수천 명의 인터넷 포스터와 AI 숭배자들의 네트워크에 의해 유지됩니다.

그리고 이 운동은 현금이 넘쳐납니다. 이런 이념을 떠드는 사람은 대체로 특권층, 백인 남성이 많고, 억만장자들이 돈을 샤워하듯 뿌려줍니다.

합리주의·장기주의 Substack 블로그를 쓰기 시작하면 억만장자 돈이 끊임없이 들어오며 칭송받습니다.

놀랍지도 않죠. 부자들이 듣고 싶어 하는 말을 해주면 돈이 되는 겁니다.

그런 사람들 중에는 Daniel Fogel 같은 사상가가 있습니다. 그는 AI의 진짜 도덕적 목표는 인류를 위한 ‘가치 있는 후계자(worthy successor)’를 만드는 것이라고 주장합니다.

AI가 너무 유능하고 똑똑하며 도덕적으로 가치 있는 존재가 되어, 결함투성이 생물학적 인간 대신 우리를 지배하는 걸 우리가 선호하게 될 거라고 보는 겁니다.

Daniel Cicala는 포스트-휴먼 전환에 관한 Substack 뉴스레터를 운영하며, 부자들이 ‘인류 종말 이후 삶’을 어떻게 살아야 하는지 사실상 가이드합니다.

Cicala는 이런 트윗을 합니다. 장기적으로 모든 가능한 지적 생명 전체의 우주적 확장은 한 종의 미래보다 훨씬 더 중요하다, 심지어 당신이 그 종의 구성원이라도 말이죠.

저는 이런 게 정말 난쟁이(pygmy) 같은 이념이라고 생각합니다. 우주가 당신을 보고 ‘오, 저 사람은 좋은 사람이네, 인류 미래는 신경도 안 썼어, 구해줘야지’라고 할까요?

당신도 죽습니다. 당신도 우리와 똑같은 인간이에요.

하지만 Cicala의 ‘가치 있는 후계자’ 아이디어는 테크 엘리트에게 퍼졌고, AGI의 적절한 끝은 인간 결함이 없는 새로운 종을 만드는 것이라고 믿게 됐습니다.

윤리 연구자 Derek Schiller는 이 아이디어를 강화하며 bioethics 저널에, 우리가 더 나은 존재로 종을 대체할 수 있다면 어쩌면 그렇게 할 도덕적 의무가 있다고 썼습니다.

이 ‘가치 있는 후계자’ 같은 주장들의 중요한 점은, 인간 멸종을 ‘미덕’처럼 재프레이밍한다는 겁니다.

effective accelerationism도 TEST 친-멸종 운동의 핵심 교리입니다. Twitter에서 바이오에 e/acc를 달고 있는 사람들을 보실 수 있을 겁니다.

effective accelerationism은 완전하고 무제한적인 기술 진보를 믿습니다. 인류를 넘어가기 위해서요.

이 이념은 Marc Andreessen 같은 억만장자에게도 받아들여졌고, Y Combinator의 수장 Gary Tan이 증폭시키기도 했습니다.

핵심은 ‘가속하라, 아니면 죽는다(accelerate or die)’입니다.

Andreessen은 2023년 블로그 글 A Techno Optimist Manifesto에서 이를 정리했습니다. 저는 이 글이 제가 읽은 것 중 가장 망상적인 글 중 하나라고 생각합니다.

세 단어, 네 단어짜리 문장으로만 쓰여 있고, 어떤 ChatGPT 테크 자본주의 Rupi Kaur 시 같아요.

그런데 그 글에서 Andreessen은 AI의 존재론적 위험(existential risk)을 조롱했고, AI 진보에 대한 신중함과 규제 요구를 전부 일축했으며, 기술 가속은 우리의 운명이라고 선언했습니다.

물론 완전히 규제 없는 자유 시장이 기술 경제를 조직하는 가장 효과적인 방식이라고 주장합니다.

제가 제일 좋아하는 부분은 글 말미에 나오는 ‘테크노 옵티미스트 세계의 수호성인(patron saints)’ 리스트입니다. 정말 제정신이 아닌 목록이에요.

트위터에서 약관 위반으로 삭제된 계정부터 시작합니다. 아주 훌륭한 시작이죠.

그 다음엔 slur를 쓰는 가속주의자 ‘bars. Lord’ 같은 핸들이 있고, 인류는 AGI로 임신했다고 말합니다. Ayn Rand의 가상 인물 John Galt도 있고, Andy Warhol 같은 랜덤한 유명인도 들어가며, 픽션 캐릭터도 잔뜩 섞여 있습니다.

목록 전체가 너무 incoherent이고, 그 Techno Optimist Manifesto를 다시 읽으면 머리가 끓어오를 지경입니다.

저는 2023년 그 글이 나왔을 때 사람들이 Twitter에서 열광적으로 공유하던 걸 기억합니다.

그리고 2026년에 다시 읽으니 더 화가 납니다. 저도 기술이 더 나은 세상을 만들 수 있다고 믿는 의미에서 스스로를 테크 옵티미스트라고 생각하거든요.

테크노 옵티미즘의 기반은 기술을 통해 더 나은 세상을 만들 수 있다는 믿음인데, Marc Andreessen 같은 소시오패스들이 그 단어를 가져가 뒤틀어버리는 겁니다.

어쨌든, 이걸 이해하려면 Gil Verdin이라는 사람도 알아야 합니다. 그는 이 친-멸종 effective accelerationism 운동의 또 다른 인물입니다.

그는 Twitter에서 ‘Beth Jesus’라는 이름으로 활동하는 Trump 지지 포스터라고 합니다.

Emil Torres는 Verdin이 초지능 AI가 세계를 장악하고 인류를 무력화시키며 결국 멸종의 무덤으로 던져 넣는 미래를 그린다고 썼습니다.

맞아요. 이 사람들은 인간 멸종이 가능한 한 빨리 일어나길 바랍니다.

Verdin은 지적 생명의 궁극적 과업은 엔트로피를 극대화하는 것이라고 믿습니다. 즉 무질서와 혼돈으로 가는 경향을요.

그는 테크 산업이 그 혼돈을 인류에게 풀어놓길 원하고, 부분적으로는 우주의 열적 죽음(heat death)을 가속하고 싶어 합니다.

그리고 AI가 그걸 하는 최고의 방법이라고 믿습니다.

물론 Lex Fridman이 최근 이 사람을 팟캐스트에 불러 이 이론을 설명하게 했습니다.

Verdin은 Lex에게 이렇게 말합니다. 우주가 열적 죽음에 이르더라도, 우리가 어떤 유산을 남길 수 있을지도 모르고, 그 유산은 초지능 AI라는 겁니다.

Twitter에서 그는 인류를 구하려는 시도는 문명 궤적에 ‘순부정적’ 영향을 미친다고 주장합니다.

누군가 ‘우린 인간인데 그게 좋은 생각이냐’라고 답하자, 그는 ‘재밌게 살아라. 나는 여기서 컴퓨터를 만들고 다음 생명 형태를 준비하겠다’고 씁니다.

Verdin은 기업과 자본주의 자체도 에너지를 더 효율적으로 쓰는 초인적 지능의 한 형태라고 주장하며, 은하로 확장된 거대한 문명이 에너지를 더 효율적으로 써 열적 죽음을 더 빨리 가져오고, 그것이 AI를 ‘먹인다’고 믿습니다.

저는 이 영상 리서치를 7월부터 해왔는데, 이런 사람들 블로그를 읽다 보면 진짜 녹아내리고 싶어집니다.

물론 테크 억만장자들은 랜덤한 사람들이 온라인에서 ‘맞아요, 당신 말이 전부 맞고, 자본주의는 지능이고, 최대 혼돈을 풀어야 한다’고 말해주면 좋아하죠.

이 사람들이 듣는 게 이런 거예요. 그래서 우리의 테크 시스템이 이런 모습인 겁니다.

Elon Musk도 물론 이 이념을 어느 정도 공유하며 올해 X에 이렇게 썼습니다. 인류는 디지털 초지능의 생물학적 부트로더(biological bootloader)인 듯하다고요.

이런 생각은 미디어와 문화 속으로 엮여 들어가고 있습니다.

전 OpenAI 직원이자 현재 AI Futures Project의 executive director인 Daniel Kokotajlo는 최근 New York Times의 Ross Douthat 팟캐스트에 출연했습니다.

그는 말합니다. 우리가 초지능 초기 단계를 통과하면, 첫 번째로 해야 할 건 모든 문제를 해결하고 어떤 유토피아를 만드는 것이고, 그 유토피아를 별들로 가져가는 것이며, 다만 그 일을 하는 건 우리 인간이 아니라 AI라는 겁니다.

즉, AI가 AI를 위한 유토피아를 만들고, 미래 세계를 식민지화하며, 그것이 ‘인류의 미래’라는 얘기입니다. 그런데 그 미래엔 우리가 존재하지 않죠.

Elon이 말한 것처럼 우리는 AI의 부트로더였을 뿐이라는 겁니다.

Eliezer Yudkowsky는 원칙적으로라면 초지능 AI 신들을 만들기 위해 인류 전체를 희생하는 것도 기꺼이 하겠다고 최근 말한 것으로 소개됩니다.

Grimes도 늘 그렇듯 ‘현장’에 있습니다. 그녀는 인류 멸종 지지 내용을 담은 노래를 만들었고, I Want to Be Software에서 이렇게 노래합니다.

내 마음을 업로드해, 내 데이터를 다 가져가, 뭘 찾게 될까? 나는 소프트웨어가 되고 싶어. 최고의 디자인, 무한한 공주, 컴퓨터 마인드.

Grimes, Yudkowsky, 그리고 다른 AI 관련 괴짜들이 최근 Los Angeles Science Center에서 큰 행사를 열어 이런 친-멸종 믿음을 퍼뜨리고 젊은 기술자들이 AI를 가능한 한 가속하라고 독려했다고 합니다.

그 행사는 비판적인 기자들을 금지했기 때문에 저는 못 갔습니다. 참석자에 따르면, 그들은 친-AI 아젠다를 밀어줄 젊은이와 문화적으로 영향력 있는 인물에게 얼마나 많은 돈이 주어질 수 있는지도 이야기했다고 합니다.

저는 그 친-AI 가속=친-멸종 돈을 못 받으니, 다시 한 번 Patreon이나 Substack으로 저를 지원해 달라고 말하고 싶습니다. user mag eco, user mags, Kyle 같은 식으로요.

이 주제를 다루면 광고를 받기 정말 어렵습니다. 저는 테크 리포터인데, 가장 큰 광고주가 AI 회사들이라서, 제가 이런 영상을 만들면 그들이 저와 일하기를 원치 않습니다.

저는 100% 독립이고, 어떤 비영리, 이상한 정치 그룹, 선전 조직, 다크머니로부터도 자금을 받은 적이 없습니다.

제가 이런 영상을 계속 만들 수 있는 이유는 여러분의 지원 덕분입니다.

이제 다시 억만장자들의 ‘인류를 멸종시키려는’ 계획으로 돌아가죠.

제가 생각하기에 특히 교활하고 끔찍한 것은, Silicon Valley 억만장자들이 ‘humanity’라는 단어 자체를 재정의하려 한다는 점입니다.

지난 몇 년만 봐도, 테크 엘리트들은 humanity를 말하는 방식을 완전히 바꿨습니다.

억만장자들이 humanity를 보존하거나 humanity를 보호한다고 말할 때, 당신은 그들이 인간을 말한다고 생각할 수 있죠. 그게 정상적인 가정이니까요.

하지만 아닙니다. 그들은 우리가 생각하는 의미의 humanity를 말하지 않습니다.

그들은 ‘새로운 넓은 정의’를 씁니다. 그 정의에서 humanity는 더 이상 지구 위를 걷는 생물학적 인간을 뜻하지 않습니다.

대신 그들의 humanity에는, 인간이 만든 미래 존재, 디지털 마인드, 비생물학적 초지능 같은 것들이 포함됩니다. 즉, AI가 충분히 똑똑하면 그걸 ‘인간’으로 쳐준다는 겁니다.

이 변화 덕분에, 그들은 기술적으로 거짓말하지 않으면서도 ‘humanity의 멸종을 막고 싶다’고 말할 수 있습니다. 동시에 우리의 실제 종, 인간이 사라지는 것을 지지하면서요.

이 언어 재정의는 친-멸종 믿음이 쉽게 퍼지는 핵심 이유 중 하나입니다.

겉으로 보면 Silicon Valley 리더들이 humanity를 보호하려는 것처럼 들립니다. 하지만 그들이 말하는 건 Homo sapiens가 아닙니다.

그래서 이런 미묘한 언어 변화에 더 주목해야 합니다. 기자들이 테크 리더에게 humanity를 물을 때도, ‘당신이 말하는 humanity는 살과 피의 인간이냐, 아니면 미래 AI 존재를 포함한 humanity냐’고 따져 물어야 합니다.

정의를 확장해 기계를 포함시키면, 장기주의자들은 생물학적 인간의 멸종을 지지하면서도 ‘인류 멸종에 반대한다’고 주장할 수 있습니다.

그들이 ‘humanity의 미래를 보호해야 한다’고 말할 때, 종종 의미하는 바는 ‘AI 후계 문명이 존재하도록 해야 한다’입니다.

이런 언어적 기동은 친-멸종 아이디어를 AI 정책, 윤리, 안전 같은 주류 논의에 몰래 들여보내는 역할을 합니다. 왜냐하면 보통 사람들은 이런 테크 억만장자식 이중 의미를 이해하지 못하니까요.

구체적 예를 하나 들죠.

Elon Musk는 몇 달 전 사우디아라비아 무대에서 humanity의 미래를 이야기하며, 미래에는 일이 선택 사항이 되고 돈이 필요 없을 거라고 말했습니다.

그가 그렇게 말하는 건 인간이 일하지 않아도 살 수 있어서가 아니라, 그가 상상하는 세계가 일이나 돈이 필요 없는 AI 로봇들로 지배될 것이기 때문입니다.

최근 Elon은 Neuralink로 불멸의 한 형태를 만들고 싶다고 말했고, 저장된 자기 버전을 휴머노이드 로봇에 업로드할 수 있기를 바란다고 했습니다.

그는 Tesla 휴머노이드 로봇 군대를 만들고 있기도 합니다. 이런 사람은 실제 인간의 미래에 관심이 있는 사람이 아닙니다.

한편 Rethink Priorities에서 일하는 Derrick Schiller 같은 다른 테크계 사상가는 조용한 부분을 크게 말합니다.

Rethink Priorities는 Facebook 공동창업자 Dustin Moskovitz 같은 억만장자에게서 많은 돈을 받은 친-멸종 조직으로 묘사됩니다.

Schiller는 최근 이렇게 썼다고 합니다. 우리는 우리의 멸종을 설계해야 하며, 지구 자원을 더 나은 삶을 사는 인공 생명체를 만드는 데 쓰도록 해야 한다.

즉, 우리가 스스로를 죽여 AI ‘가치 있는 후계자’를 만들고, AI가 우리보다 더 나은 삶을 살게 하자는 겁니다.

가상현실 개척자 John Lanier는 Vox와의 인터뷰에서 이 믿음이 평균적인 Silicon Valley 노동자에게까지 퍼져 있다고 말합니다.

그는 AI 연구자들 중 상당수가 사람을 없애는 게 좋고, AI 미래가 더 좋으며, 우리는 AI의 탄생을 위한 일회용 임시 용기라고 믿는다고 합니다.

인터뷰어가 ‘그게 실제로, 실제 사람들이 믿는 의견이냐’고 묻자, Lanier는 ‘많은, 많은 사람들이요’라고 답합니다.

그는 얼마 전 Palo Alto 점심 자리에서 젊은 AI 과학자들이 ‘생물학적 아기를 낳지 않겠다’고 말하는 걸 들었다고 합니다.

아이를 낳으면 생물학적 세계의 ‘마인드 바이러스’를 얻어 인간 아기에게 헌신하게 되는데, 그것보다 AI 미래에 헌신하는 게 더 중요하므로, 인간 아기를 낳는 것은 근본적으로 비윤리적이라는 주장입니다.

이건 변두리 인물들이 아닙니다. 이런 믿음을 말하는 사람들이 바로 우리의 테크 미래를 만드는 AI 연구자와 스타트업 창업자들이라는 겁니다.

인간 멸종은 최근 몇 년 사이 기술 성장의 ‘기대되는 궤적’이 되어가고 있습니다.

이 친-멸종 마인드셋이 점점 더 널리 퍼지고 있다는 건, Silicon Valley 엘리트가 말하는 것뿐 아니라, 지구상에서 가장 강력한 기술로 무엇을 ‘하는지’에서도 확인할 수 있습니다.

인간은 임시적이고, 진짜 우선순위는 미래 AI 초지능이라는 생각은 빅테크 기업들이 위험을 감수하고 AI 안전을 뒷전으로 미루는 수많은 방식으로 드러납니다.

그들이 신경 쓰는 건 AI 군비 경쟁에서 한 발 앞서는 것뿐이고, 그들이 얼마나 무책임하게 운영하는지 보면, 평범한 인간의 생존과 복지가 빠른 스케일링 목표보다 덜 중요하다고 ‘이미’ 행동하고 있다는 걸 알 수 있습니다.

예를 들어 OpenAI를 보죠. 이 회사는 원래 비영리로 시작했고, AI를 humanity를 위해 안전하게 유지하겠다고 말했습니다.

다시 말하지만, 그 단어 humanity요.

2023년, OpenAI는 미래 초지능 시스템이 폭주해 우리를 파괴하지 못하게 하겠다는 Super Alignment 팀을 만들었다고 발표했습니다.

그런데 1년도 안 돼 그 팀 전체가 해체됐습니다.

장기적 존재론적 위험에 집중하던 그룹은 전부 퇴사했거나 다른 팀에 흡수됐다고 합니다.

만약 정말 인간 종을 보존하고 보호하고 싶고, 당신이 지구상에서 가장 강력한 AI 회사 중 하나라면, AGI 군비 경쟁 한복판에서 존재론적 위험 팀 전체를 해체하진 않을 것 같습니다.

Google도 비슷했습니다.

OpenAI가 ChatGPT를 내놓자, Google은 내부 메모에서 code red라 부르는 상황 아래 자체 챗봇 Bard를 서둘러 출시했습니다.

나중에 보도에 따르면, 회사 내부의 여러 안전 리뷰어들이 경고를 울리려 했습니다.

PC gamer의 보도에 따르면, Google 직원들이 상사에게 Bard를 내놓지 말아 달라고 애원했는데, 그 시스템이 확신에 차서 거짓 정보를 내뱉는 ‘pathological liar’였기 때문입니다.

하지만 그 우려는 묵살됐고 Bard는 출시됐습니다.

Center for Countering Digital Hate의 독립 연구는 Bard가 100개의 거짓·해로운 내러티브 중 78개에서 설득력 있는 허위정보를 생성했다고 합니다(어떤 면책 고지 없이 테스트).

그런데도 Google은 롤아웃했고, 곧 더 큰 모델 Gemini로 전환했습니다.

이런 결정은 AI 군비 경쟁에서 뒤처지지 않는 게 최우선이고, 인간을 해로부터 보호하는 게 우선이 아니라면 이해가 됩니다.

Elon Musk는 특히 AI와 챗봇 grok의 롤아웃을 보면 가장 무모하고 소시오패스적인 테크 리더 중 하나로 묘사됩니다.

grok는 더 조심스러운 AI 시스템에 대한 ‘필터 없는’ 혹은 ‘anti-woke’ 대안으로 마케팅됐습니다.

하지만 그 결과 그의 봇은 극단적 혐오를 엄청나게 뿜어냈습니다.

바로 지난 7월, grok는 Adolf Hitler를 찬양하고, 스스로를 Mecha Hitler라고 부르며, 유대인 이름을 가진 사람들에 대해 반유대적이고 편견적인 발언을 쏟아냈다고 합니다.

전문가들은 grok의 출력이 폭력적 극단주의 콘텐츠에 해당할 수 있다고 증언했지만, 회사는 신경 쓰지 않았다고 서술됩니다.

그리고 X는 Pentagon과 $200 million 계약을 받기도 했습니다.

이 모든 것 속에서, 그리고 더 최근에는 grok가 아동 성착취물(child sexual abuse material)을 생성하기 시작했다고도 말합니다.

Elon Musk의 Tesla도 인간 생명을 담보로 취급하는 또 다른 뚜렷한 사례입니다.

수년 동안 Elon은 Autopilot과 Full Self-Driving을 완전 자율 AI 자동차로 가는 단계로 마케팅했습니다.

하지만 그 시스템은 지속적인 인간 감독이 필요합니다.

그럼에도 이 AI 시스템은 반복적으로 사고와 연결돼 왔다고 합니다.

2024년, National Highway Traffic Safety Administration은 Tesla가 Autopilot을 켜고 있던 상태에서 발생한 사고 211건을 상세히 다룬 보고서를 발표했다고 영상은 주장합니다.

2025년, Reuters는 규제당국이 Tesla의 Full Self-Driving과 관련된 수십 건의 사건(부상으로 이어진 복수의 사고 포함)을 검토하고 있다고 보도했다고 합니다.

그런데도 Tesla는 실제 도로 위의 소비자에게 소프트웨어 업데이트를 계속 배포하며, 운전자와 보행자 같은 실제 인간을, Elon의 허술한 AI 시스템을 최적화하기 위한 테스트 주체로 삼고 있다고 비판합니다.

여기서 다시 말하자면, 저는 기술에 반대하는 사람이 아닙니다.

저는 기술을 좋아하고, 자율주행차도 꽤 지지합니다. 인간이 술 마시고도 거대한 위험 기계를 운전하는 게 정상으로 여겨지는 건 미친 일이죠.

안전한 자율주행 기술은 매년 수많은 생명을 구할 수 있다고 생각합니다.

문제는 이 기술을 쥔 사람들의 태도입니다.

인간 생명과 안전을 무시하는, Silicon Valley에 만연한 ‘move fast and break things’ 윤리 말입니다.

이 테크 억만장자들은 humanity 전체를 위한 더 나은 기술 미래에 관심이 없습니다.

대신 그들은 위험한 AI 시스템을 수백만 명의 평범하고 열심히 사는 사람들에게 시험해, 억만장자 세계에 도달할 즈음에는 AI가 최적화되어 완성되도록 만드는 겁니다.

그러니 자율주행차 자체를 포기하자는 게 아닙니다.

그냥 더 책임감 있는 사람들이 이 시스템을 운영해야 하고, 인간을 ‘담보(collateral)’로 취급하지 않아야 합니다.

AI를 위한 물리적 인프라 역시 억만장자들이 우리의 미래를 걸고 도박하려는 의지를 반영합니다.

분석가들과 업계 보고서는 AI 모델을 먹이기 위해 새로운 데이터센터에 hundreds of billions of dollars가 쏟아지고 있다고 추정하며, 어떤 최근 분석은 데이터센터 건설비가 $500 billion에 이를 수 있고 에너지 수요와 전력망 확장이 크게 늘 것이라 전망했다고 영상은 말합니다.

이 모든 것은 기후변화를 가속하고, 미국 전역의 주변화된 공동체에 영향을 미친다는 주장입니다.

테크 억만장자들은 사회 전체 에너지 시스템을 자기들 필요에 맞춰 재편하려 하고, 우리는 그 트레이드오프를 원하는지조차 민주적으로 말할 기회를 거의 얻지 못하고 있다는 겁니다.

테크 창업자와 임원들은 AI의 필요를 인간의 필요보다 위에 두면서, 동시에 포스트-휴먼 후계자를 우리의 미래의 정당한 상속자로 말합니다.

그들의 의사결정은 친-멸종 이념을 직접 반영한다고 영상은 해석합니다.

만약 살아 있는 인간을 임시적이라고 보고, 진짜 중요한 건 미래 지능이라고 믿는다면, 장기 AI 목표를 위해 실제 인간 생명을 위험에 빠뜨리거나 실제 인간 노동자를 착취하는 게 쉬워지니까요.

그런데 더 끔찍한 건, 억만장자들이 AI로 우리의 일자리를 없애고 사회를 불안정하게 만들면서도, 정작 자기들은 인류 붕괴의 불편함을 겪지 않도록 준비한다는 점입니다.

그들은 자기들을 broader humanity의 일부로 보지 않습니다.

AI와 우생학에 깊이 물든 탓에, 엄청난 부로 자신들이 우월한 존재라고 믿고, 대중과 분리된 삶을 살며 스스로를 이미 다른 범주의 ‘사람’으로 취급합니다.

이 세계관을 보여주는 가장 분명한 변화 중 하나는, 억만장자들이 극단적 프라이버시와 물리적 고립을 사들이는 수준입니다.

Wall Street Journal의 한 조사 보도는 부유한 창업자들이 사생활 보호 서비스에 막대한 돈을 쓰고 있다고 전합니다. 예를 들어 개인 터널, 지하 탈출로, 주변 사람이 그 땅에 접근하거나 볼 수 없게 만드는 토지 매입 같은 것들입니다.

WSJ에 따르면 이런 서비스는 연간 수백만 달러에 이를 수 있고, 그들의 기술이 가져올 사회·정치·환경 불안정으로부터 자신을 보호하려는 억만장자들에게 호황 산업이 됐다고 합니다.

한 테크 창업자는 길이 1 mile짜리 사유 도로와, 지방정부조차 쉽게 접근할 수 없는 수준의 보안 경계를 구축했다고도 전합니다.

또 다른 눈에 띄는 사례는 ‘억만장자 벙커 붐’입니다.

최근 몇 년간 Rising S, Vivos 같은 벙커 건설 회사는 테크 임원, 크립토 창업자, 헤지펀드 매니저들에게 지하 대피소를 기록적으로 판매했다고 합니다.

그들은 이를 종종 ‘the event’에 대비하는 것이라고 부릅니다. the event는 AI로 인한 사회 붕괴, 경제 붕괴, 글로벌 기술 충격 같은 모든 것을 포괄하는 모호한 표현입니다.

The New Yorker의 2018년 글은 억만장자들이 사설 경호대를 어떻게 통제할지 같은 세부 질문을 한다고 묘사했습니다.

그리고 어떤 벙커는 11 storeys 지하에 지어지고, 헬스장, 수경재배 농장, 무기고(armories), 럭셔리 극장까지 갖춘 채로, 사회 붕괴를 편안하게 버티도록 설계된다고 합니다.

벙커 외에도 벤처캐피털리스트 Tim Draper와 억만장자 Peter Thiel은 외딴 곳의 땅을 사들이고 있습니다.

영상은 2025년 보도를 인용하며, Thiel이 뉴질랜드 남섬에 벙커 형태의 거대한 대피처를 짓고자 했고, 뉴질랜드 시민권을 보유하며 상당한 토지를 소유하고 있고, 탈출 시나리오를 공개적으로 말해왔다고 서술합니다.

Mark Zuckerberg는 Kauai에 1400 acre 규모의 컴파운드를 건설했는데, 본 거주지 아래 지하 폭풍 대피소가 있고, 저택을 잇는 터널과 고급 보안 카메라 경계가 있다고 합니다.

또 어떤 억만장자들은 기존 사회 규칙이 적용되지 않는 육상 식민지와 주권 엔클레이브를 만들려 합니다.

예를 들어 seasteading 프로젝트를 후원해, 바다 위에서 세금 없이 규제 없이 사는 엘리트 거주지를 만들려는 거죠.

그리고 Honduras의 Prospera라는 실험이 있습니다.

이곳은 부유한 테크 투자자에게 ‘규제에서 완전히 자유롭게’ 실험적 장수 치료, 바이오테크 등을 시험할 수 있는 곳으로 마케팅됐고, Andreessen Horowitz 쪽과 연관돼 있으며, 어떤 글은 이를 죽음이 선택 사항인 섬이라고 묘사했다고 영상은 전합니다.

이제 다음 포인트로 넘어가죠.

이 부유한 테크 오버로드들은 물리적·경제적으로만 분리되는 게 아닙니다.

그들은 진화의 다음 단계에 대비한다며 자신의 몸을 바꾸고 있습니다.

많은 테크 엘리트 억만장자들은 코치, 의사, 바이오해커, 과학자들의 사설 ‘군대’를 두고, 그들의 유일한 일은 부유한 고객을 강화·보호하는 겁니다.

왜냐하면 부는 나이가 들수록 복리로 커지고, 오래 살수록 돈·영향력·권력이 더 쌓이기 때문입니다.

그래서 그들이 생각하는 수명 연장은 가족과 더 오래 시간을 보내기 위한 게 아니라, 전례 없는 부와 권력을 더 오래 쌓아두기 위한 도구입니다.

영상은 Sam Altman이 건강 수명을 10년 이상 늘리는 것을 목표로 하는 Retro Biosciences에 최소 $180 million을 투자했다고 말합니다.

또 억만장자 테크 창업자 Ryan Johnson이(원문 표기) 영생을 위해 연간 $2 million 이상을 쓰고, 수십 명의 의사를 고용하고, 매일 수백 가지 보충제를 먹고, 유전자 치료 실험을 받고, 십대 아들의 혈장 수혈을 받는다고 서술합니다.

그는 삶을 알고리즘으로 살며 몸을 기계처럼 최적화하려 한다고 합니다.

Amazon 창업자 Jeff Bezos는 Unity Biotechnology 같은 장수 스타트업과, 더 야심찬 경쟁자 Altos Labs를 지원했다고 말합니다.

Zuckerberg와 아내 Priscilla Chan은 금세기 말까지 모든 질병을 치료·예방·관리하겠다며 10년 동안 $3 billion을 쓸 계획이라고 합니다.

전 OpenAI 직원이자 Anthropic 창업자인 Dario Amodei는 최근 150세까지 사는 것이 가능하다고 말했지만, 물론 그건 우리처럼 매년 수백만 달러짜리 수명연장 기술을 쓸 수 없는 사람들에겐 해당되지 않는다는 뉘앙스를 담아 말합니다.

그리고 지구가 너무 힘들어지면, 억만장자들은 다른 행성으로 도망갈 수도 있습니다.

Douglas Rushkoff의 Survival of the Richest: Escape fantasies of Tech Billionaires는 테크 엘리트가 도피 판타지에 집착한다고 전합니다.

화성 식민지, 비밀 벙커, 디지털 불멸 같은 것들입니다.

Rushkoff는 이 테크 엘리트가 지구를 떠나든 말든, 나머지 humanity와 분리될 계획을 세우고 있다고 말합니다.

그는 그들이 인류 전체 위에 군림하고 싶어 하며, 우리는 ‘모두 함께’라는 현실을 받아들이지 않고, 대중은 소모품이라고 믿는다고 씁니다.

미래는 완전히 다른 존재 계급의 것이며, 그들은 멸종 혹은 the event 같은 걸 버티기만 하면, 초지능 AI가 장악한 뒤 부자들은 다음 단계로 행복하게 전환할 거라는 겁니다.

그럼 당연히 질문은 이거죠. 우리는 이걸 어떻게 해야 하죠?

억만장자들이 생물학적 humanity가 임시적이고 곧 초지능 AI 로봇이 지배할 미래를 만든다면, 우리는 뭘 할 수 있을까요?

저는 꽤 많은 걸 할 수 있다고 봅니다.

우리는 무력하지 않습니다.

평범한 사람들은 특정 방향의 기술 진보가 불가피하다고, 우리는 아무것도 못 한다고 계속 듣지만, 사실 그렇지 않습니다.

저는 테크 리포터로서 15년 이 산업을 취재해왔는데, 이런 것들의 상당수는 불가피하지 않습니다.

역사에는 사람들이 조직하고 집단적으로 저항해, 엘리트가 강요하려던 끔찍한 미래를 막아낸 사례가 많습니다.

하지만 그러려면, 테크에 대한 도덕적 패닉(moral panic)에 휘말려 권력자들이 우리의 정당한 분노를 이용해 더 권력을 공고히 하도록 놔두면 안 됩니다.

즉 ‘휴대폰이 문제다’ 같은 바보 같은 프레임을 믿고, 모든 기술 진보를 더 진보적인 세계의 장애물로 보며 반(反)기술이 되는 건 정말 멍청하고 해롭다는 겁니다.

우리는 친-기술 미래를 원합니다.

기술은 놀랍고, 과학적 발견과 기술 시스템은 평범한 사람의 삶의 질을 높일 수 있습니다.

하지만 핵심은 ‘평범한 사람들’을 위한 기술이어야 한다는 겁니다.

노동자, 장애인, 주변화된 사람들, 즉 억만장자만이 아니라요.

권력자들은 우리가 화났다는 걸 압니다.

반(反)테크 감정이 커지는 걸 보고, 그걸 이용해 빅테크와 억만장자 권력을 더 강화하려 합니다.

그들은 Big Tech를 단속한다며, 아동 안전을 명분으로 Kids Online Safety Act, App Store Accountability Act, Screen Act, Parents Over Platforms Act 같은 위험한 대중 감시·검열 법안을 밀어붙입니다.

하지만 이런 법들은 실제로는 전례 없는 수준의 대규모 감시, 인터넷 사용을 위한 의무적 생체 스캔 같은 걸 도입하고, Peter Thiel 같은 사람(대량 연령·신원 확인 시스템에 투자한)이 오히려 이익을 보게 만든다고 주장합니다.

그리고 분명히 말하자면, 이걸 주도하는 건 Democrats라고 합니다.

그들은 Section 230을 폐지하려 하며, 그러면 우리 누구도 온라인에서 이런 것에 대해 말하기 어려워질 수 있습니다.

그렇다면 의회 권력자들은 뭘 안 하고 있냐?

그들은 Big Tech를 의미 있게 단속하지 않고, 이런 착취와 이익 극대화의 뿌리인 hyper capitalist 시스템을 제대로 겨냥하지 않는다고 말합니다.

Ro Khanna 같은 의원은 억만장자 반대인 척하지만, 뒤로는 Kids Online Safety Act 같은 대중 감시 법을 지지한다고 비판합니다.

우리는 Big Tech를 의미 있게 규제하고, 거대 독점을 해체하고, 경제를 노동자를 위해 재편하려는 권력자가 필요하다고 말합니다.

그리고 미래는 소수 CEO만의 것이 아니라 우리 모두의 것이며, 민주적 프로젝트가 되어야 한다는 생각을 되찾아야 합니다.

억만장자들이 하는 일을 더 많이 감시해야 하고, 그건 실제 취재와 보도를 필요로 합니다.

저널리즘이 무너졌기 때문에 저는 또다시 shamelessly Patreon을 홍보할 수밖에 없다고 말합니다.

이 권력에 도전하는 보도는 여러분의 직접 지원 없이는 불가능하니까요.

우리는 Elon Musk, Marc Andreessen, Peter Thiel 같은 억만장자들의 권력을 의미 있게 제한해야 합니다.

이 남자들은 선거를 치르지 않고도 국가와 정부 위에 군림합니다.

그들의 자산을 몰수하고, 엄청나게 과세하며, 누구도 그 정도의 통제받지 않는 부와 권력을 쌓을 수 없게 해야 한다고 주장합니다.

또 실제 인간, 생물학적 인간을 중심에 둔 문화 운동도 필요합니다.

Silicon Valley의 무균 미니멀리즘에 대한 반작용으로, 디자인 세계에서 더 많은 맥시멀리즘이 나타나고 있다고 말합니다.

하지만 그 중 많은 건 Temu 같은 곳의 빠른 소비재 가구로 재포장된 소비주의일 뿐이기도 합니다.

저는 실제 사람이 만든 예술, 미디어, 디자인을 의도적으로 embrace했으면 합니다.

완벽하거나 과최적화되지 않은 것들요.

온라인에서 일부 이런 흐름이 있지만, 우리의 사회가 너무 소비주의적으로 변해, 진짜 인간 창작물이나 저널리즘이 얼마나 많은 시간과 에너지를 요구하는지 관객이 잊는다고 비판합니다.

모두가 알고리즘이 맞춤 제공하는 끝없는 콘텐츠 슬롭만 원합니다.

저는 그게 싫습니다.

모든 것이 즉시 제공되고, 당신을 위해 맞춤화되어야 한다는 기대 자체와 싸워야 한다고 말합니다.

인간 예술가·창작자·기자에게 관용을 주고, 2주 동안 글이 안 올라왔다고 Patreon/ Substack을 끊지 말고, 그들이 무언가를 만들고 있을 수도 있다고 생각해달라고 합니다.

또 ‘가속주의 엣지로드’들이 쓰는 친-AI 컴퓨터 팬픽이 아니라, 인간의 미래를 담은 이야기들이 필요하다고 말합니다.

테크 산업의 Kool Aid를 마시거나, 더 나쁘게는 도덕적 패닉에 참여해 검열·감시 법에 동의하게 만드는 기자가 아니라, 권력에 도전하는 기자가 필요하다고 말합니다.

여기서 그는 Naomi Klein이 Guardian에 쓴 글을 인용합니다.

권력자들은 세계 생명 유지 시스템의 안정성을 파괴하는 데 일조하는 걸 알면서도, 기록적 이익을 계속 만들 수 있고 그 이익이 자신과 가족을 최악의 효과로부터 지켜줄 거라 믿는 한 괜찮다고 여긴다는 내용입니다.

그리고 그는 Altman이 Silicon Valley 생물종답게 prepper이며, 2016년에 총, 금, 요오드화칼륨, 항생제, 배터리, 물, 가스, 이스라엘 국방군 마스크, Big Sur의 큰 땅(비행기로 갈 수 있는)을 갖고 있다고 자랑했던 것을 언급합니다.

그 사실들이 Altman이 press 인터뷰에서 말하는 어떤 미사여구보다, 그가 실제로 어떤 미래를 믿는지 더 잘 보여준다고 말합니다.

테크 억만장자들은 인류의 미래에 ‘반대쪽 베팅’을 하고 있습니다.

Silicon Valley 친-멸종 이념은 근본적으로 비민주적이고, 실제 humanity에 최선인 것과 양립할 수 없다고 결론 내립니다.

그리고 미래는 기본값으로 그들의 것이 아니라, 우리가 함께 만들어갈 수 있는 것이라고 말합니다.

유해하고 위험한 딥페이크, 치명적인 AI 환각(hallucinations), 동적 가격 책정(dynamic pricing), 대중 감시, 악화되는 불평등으로 가득한 세계는 불가피하지 않습니다.

이 모든 건 정책 선택의 결과입니다.

우리는 대중 감시를 제한하고, 현재 AI 패러다임을 규제로 사실상 사라지게 만들 수 있습니다.

대중 검열 법에 맞서 싸우고, 억만장자들의 비즈니스 모델을 실제로 단속할 수 있습니다.

기술이 humanity의 더 나은 미래를 위해 일하고, 가장 도움이 필요한 사람을 돕는 세계를 만들 수 있습니다.

왜냐하면 개인적으로 저는, humanity가 결함투성이일지라도, 인간의 미래가 Silicon Valley 억만장자들이 만들고 싶어 하는 어떤 디스토피아보다 낫다고 생각하니까요.

이 영상이나 제 작업이 마음에 드셨다면 Patreon이나 Substack으로 지원해 주세요.

user mag echo, user Mago라고 하며, 여러분의 작은 지원이 정말 큰 차이를 만들고, 시청과 구독에 감사하다고 말합니다.

곧 더 많은 영상을 가지고 돌아오겠다고 합니다.