🎧 FULL INTERVIEW: Dylan Patel Sa… - TBPN

👤 Dylan Patel · EN 10,290w · KR 6,623w

사용법 (30초)
1️⃣ 영문 or 한국어 복사 버튼 터치
2️⃣ 🔗 링크 복사 → Chrome에 붙여넣기 → 열기
3️⃣ + 새 노트북 → 소스 추가 → 붙여넣기
4️⃣ 🎧 Audio Overview → Generate
5️⃣ 차에서 재생 🚗

원문 미리보기 10,290w

This is our full interview with SemiAnalysis Founder and CEO Dylan Patel, recorded live on TBPN at the Cisco AI Summit in San Francisco.  We discuss data centers in space, the limits of today’s AI hardware, and how chips, power, and geopolitics will shape the future of AI infra. TBPN is a live tech talk show hosted by John Coogan and Jordi Hays, streaming weekdays from 11–2 PT on X and YouTube, with full episodes posted to podcast platforms immediately after.  Described by The New York...

This is our full interview with SemiAnalysis Founder and CEO Dylan Patel, recorded live on TBPN at the Cisco AI Summit in San Francisco.&nbsp; We discuss data centers in space, the limits of today’s AI hardware, and how chips, power, and geopolitics will shape the future of AI infra. TBPN is a live tech talk show hosted by John Coogan and Jordi Hays, streaming weekdays from 11–2 PT on X and YouTube, with full episodes posted to podcast platforms immediately after.&nbsp; Described by The New York Times as “Silicon Valley’s newest obsession,” TBPN has recently featured Mark Zuckerberg, Sam Altman, Mark Cuban, and Satya Nadella. What is TBPN? TBPN is a live tech talk show hosted by John Coogan and Jordi Hays, streaming weekdays from 11–2 PT on X and YouTube, with full episodes posted to Spotify immediately after airing. Described by The New York Times as “Silicon Valley’s newest obsession,” TBPN has interviewed Mark Zuckerberg, Sam Altman, Mark Cuban, and Satya Nadella. Diet TBPN delivers the best moments from each episode in under 30 minutes. 00:00 Sup, Ben? Good to see 00:01 you again. To have you. Data centers in space, what you got? 00:04 When are 00:06 we going? 00:07 Coming in hot. 00:08 Me, you, the International Space Station. Let's break it down. 00:11 You know, the space tourism industry is quite a quite a fun one. Right? 00:14 Yeah. Would you go? Would you do the Blue Origin thing where they blast you out past the Carmen line? Good enough for Katy Perry. It's not good enough for you. 00:22 What's 00:22 going on? It's it's like, you know, like you're in free fall. You're not actually in space. Oh, 00:25 doesn't count. Shout out to my Oh, 00:27 Carmen line denier. I wanna be, like, going around for days. Oh, okay. Okay. I want my bone density to start to atrophy. 00:33 It's like 00:33 I I truly want to feel the negative effects of space. Yeah. 00:36 Yeah. It's not enough just to go. I I think I would do it. It's right? Yeah. 00:41 But it's better than being hanging out at all 00:44 the cool stuff that our astronauts do. Right? Like, you know, put water and then like they're bubbling and then you like try and drink the water or 00:50 like They'll be unplugging the GP and plugging it back. 00:53 Oh, yeah. Yeah. Yeah. Yeah. Yeah. 00:54 That's what you pay for your space tourism. You gotta go on a seas trip. 00:59 Ninety seconds of service. Yeah. SpaceX satellite. 01:01 One ninety second trip at a time. No. But people were wondering, you know, TPUs, Nvidia going on the on the on the Starlink v five or whatever something gets up there. It feels like this will be something more like a Tesla Silicon chip, an AI chip. Like, do you have any insight into, like, what the process if you wind up figuring out how to heat dissipate, if you wind up figuring out the costs, what might the chip look like? 01:29 I think I think, you know, everyone freaks out, oh my god, putting stuff in space is expensive. Yeah. But if you look at like Starship launch costs and, you know, they keep falling, you're you're like fine. Right? Like I think that's not, by the end of the decade, the cost of space launch will be fine. 01:42 The heat dissipation, I mean it's a challenge where you just put a massive massive effectively radiator. Yep. And it's fine. Right? By the end of the decade, you'll be good. 01:50 I think the big challenge is that chips are just really unreliable. Right? And so so how do you deal with, like, a couple things? Right? Satellites can only be so large before they, like, you need start needing a lot of support and structure before they tear themselves apart. 02:03 Mhmm. 02:03 So when you look at, like, the the launches, right, these these things are shooting out, like, tiny satellites. Yeah. And many of them. Okay. So you can't have like a big fully connected cluster of chips. 02:14 And then and then like on top of that, right, how do how do you deal with any random error? Mhmm. On on earth, have text running around the data center unplugging stuff, putting in spares, things like that. What do you do in space? You RMA it to the factory where they, like, might unsolder it and resolder it and then, like, test it and it works and go back out. 02:33 Yeah. Sometimes it is just trash. Yeah. But, like, you know, that's the challenge to me. 02:37 Is that is that I I I feel like maybe the the pattern we should be looking at is like how often do the Tesla self driving chips need to get serviced because that's like the the the team that would probably be building or like bridging the gap there. Like the Starlink satellites, sure they go down, but like the service works. Like you're you're just relying on some sort of, like, you know, 90% uptime stuff's coming down. But most people that are in a waymo, like, the chip keeps working. Right? 03:03 Most people that are in a Tesla self driving, like, they're not like, you don't hear about Tesla owners being like, I love FSD, but I'm constantly in the shop getting my my custom silicon chips unseated and reseated. Right? 03:15 Well, mean, it's it's also a function of like the complexity of a chip. 03:18 Right? Sure. 03:18 You know, if if a chip is twice as fast Yeah. And let's say the bit error rate, right? Like how often a bit flips Sure. Is the same, then it's airing out twice as often. Yeah. 03:28 But let's say the chip is 10 x as big. Right? And so when you look at like a Tesla FSD chip, very very good, very very efficient, very still like relatively Small. Inexpensive and cheap compared to Sure. You know, a big old GPU or TPU or whatever. 03:41 Yep. Right? Those things are extremely large. Mhmm. And, you know, again, like if if the error rates are the same Yeah. 03:46 Then it it fails 10 x more. But in fact, the error rates are a bit harder, a bit higher because they're pushing these things to the absolute limit. Yeah. Whereas, you know, Tesla does have some level of like well, first of all, the Tesla car has two chips sort of redundancy already So built in. 04:01 Maybe you do that on the satellite, but then there's more power, more 04:04 Yeah. Right. So so the whole and lure, right, of it is Yeah. Is, you know, effectively power is free. Right? 04:09 And solar panels you'll get the cost curve of solar panels. You'll get the cost curve of Yeah. Satellite launches. You're you're like, this is this is free. This is great. 04:17 Power is less than 10% of the cost of the cluster. Sure. Right? Yeah. So so, like, it's that 90% you're not saving anything on. 04:24 Yeah. 04:24 Yeah. And in so far as much as 04:26 For potentially a 100 times the hassle. 04:29 Yes. Yes. Yeah. There's this whole like, you know, like if you look at NVIDIA GPUs. Right? 04:34 Yeah. When you first turn on the cluster, about 10 to 15% of them fail RMA in the first two 04:41 weeks. Wow. 04:42 That's And then that's fine. Like, you have to receipt them, whatever. Yeah. Like, the industry knows how to deal with this. Yeah. 04:47 Right? And and over time, like, Hopper's now at 5%, but Blackwell's still 10 to 15%. Wow. Right? It actually started out higher than that. 04:53 Sure. And when a new generation comes out, it's gonna be higher than 15%. It'll it'll have its curve gradually decline down. But Yeah. You know, who who's gonna are you gonna test it and burn it in on the ground? 05:02 Or are you gonna say 5% of my chips or 15% of my are trashed? Yeah. Yeah. Because someone can't go up there and like do these things. Or am I saying, oh, I need robots who can do all this stuff in space and now that's like an additional engineering problem when sacks of meat are actually very cheap? 05:15 Yeah. Sacks of meat. Yeah. Speaking of media, we haven't talked since the Grok acquisition. What does that look like in the bull case? 05:23 Like, if it's if it's a good if the next version of Grok is a great chip, is it sitting next to the, you know, h 200, h one hundreds in the in the rack, g b 200? Like, how does it fit into the actual, like, what NVIDIA deploys? Is it just a separate chip? 05:38 I I think a big vibe shift from NVIDIA. 05:41 Right? 05:41 Before they were like, alright. Got this big GPU. Yeah. Yeah. Everyone's gonna use this GPU. 05:45 Software ecosystem of the GPU is so good. Okay. It's one size fits all. Yeah. Everyone, you know, like, everyone's trying to make all these, like, specific point solutions. 05:52 Yeah. But we've got the thing that's good good at everything. Okay. And then they had a vibe shift. Right? 05:56 They launched this thing called CPX Okay. Which is a chip made for pre fill Okay. With, you know, prompt processing, creating a KV cache Okay. And also good at like video generation and image generation. Yeah. 06:07 And that's coming out later 06:07 this release, they were really talking about video generation as well. 06:10 So so yeah. You've got like CPX, you've got like the standard GPU, now you've got the Grok chips and they all fill a different niche. 06:16 Okay. 06:16 But really it screams, oh crap. We don't really know exactly where AI is going, which I don't think anyone does. Right? I mean, it's it's moving so fast. The software is, the model architectures, etcetera. 06:26 So we're just gonna like engineer solutions that are along multiple points of the Pareto optimal curve and then, you know, one of them will win. Yeah. Right? And I think I think it's like sort of like a big vibe shift from Nvidia. Mhmm. 06:36 Also, just knew OpenAI was gonna do the Cerberus deal, so they freaked out. But 06:39 Got it. Okay. Yeah. Yeah. Yeah. 06:40 Get me up to speed on what makes Cerberus important in the ecosystem right now. 06:46 So so, you know, you you have people thinking like, oh, latency matters in terms of where our data center is. It doesn't matter at all. What matters is, you know, as we've moved from, you know, chat applications which were like or search response immediately. Chat applications, let's say response takes ten, twenty, thirty seconds. You've got agents, you know, I don't know my cloud codes are working in the background for for a long time. 07:07 Right? Yep. It doesn't matter where the data center is. But what does matter is that these streams of inference take, thirty minutes versus ten minutes Yeah. Versus five minutes. 07:14 And for a lot of people, I'm fine to spend 10 x the price Sure. On something that completes 10 x faster. Yeah. And so so Cerberus sort of just makes a ton of sense there. 07:23 Yeah. 07:24 So OpenAI, you know, they've got these like long horizon. There's there's like Codex 5.2 Yeah. Extra high thinking or whatever. Yeah. It's terrible. 07:31 Can you guys teach them how to market? OpenAI, you have to sponsor this podcast. Yeah. 07:38 Yeah. We had two months yesterday and I did actually ask him like, can I I I had the Codex app pulled up on my desktop and I was like, there are six different models and then there's a then there's another button that I can pick to it? Well, how many different products are 07:51 called Codex now? 07:52 There's a lot. 07:52 Right? And now there's an app. 07:54 Yeah. Yeah. 07:55 Actually have 07:56 another guy on just to do branding. Lexicon branding came on the show yesterday talking about the the all the naming 08:02 Naming architecture. 08:02 Naming architecture. It is complicated but hopefully 08:05 You could tell his blood's boiling because like all the AI companies just have the most chaotic, Anthropic, Claude, Claude code, but also you can use Claude code for other stuff. 08:16 Yeah. But yeah, I mean, with Cerberus, it seems like there is a value to it, but are they constrained on the supply side? Like, they actually scale up to, you know, a a colossus style data center that could actually speed up Codex not just for like one user, but all the users. 08:33 So so I mean, servers can speed up multiple users for sure. Yeah. Yeah. The question is sort of like where you use it and that's where they have to like figure out where within Codex. Right? 08:41 Yeah. Because there are times where Codex is running for like ten hours. Yep. And sometimes you don't mind. Right? 08:46 Yeah. Screw it. I've put out this nice prompt. Gone. Work on it. 08:49 Refactor my code. Do this thing. Do this task. Yeah. Other times, I want this iteration feedback loop. 08:53 Yeah. So how do you expose it to the user without saying, hey, actually, there's another toggle. Your is is 18 times. 09:00 Well, hopefully, like, a really robust model router. But it feels like that's been a process. 09:05 Yeah. So so the OpenAI deal is like for seven fifty megawatts. It's Okay. It's not that much capacity Yeah. On the order of like what OpenAI has talked about. 09:12 Yeah. You know, by the end of twenty eighth, they'll be at like 16 gigawatts Sure. Of that 09:16 So it's absolute cutting edge, the most price insensitive customers in that specific use case of this is the type of prompt that you need to return fast, then you'll get the speed up potentially. 09:26 Right. Right. And and they've gotta figure out how to do 09:27 it from a product 09:28 exposing to the user, etcetera. But it it it's it's clearly something where there is demand. Right? Like, don't know. Like, Andrej Karpathy doesn't care if he's spending a thousand bucks per agent Sure. 09:39 Per second or whatever. Right? Like, you know, whoever it is, these these like super cracked engineers don't care at all. 09:43 Yeah. 09:43 And then obviously, there's like a long tail of like actually cost does matter for most people. And so so all along that curve, they've gotta have solutions, right? 09:51 Yeah. When did you first think that xAI might end up at another Elon company? 09:59 I mean, has been rumored for a long time. Right? Yeah. Like people are saying Tesla, Tesla, Tesla for the longest time. It's harder with a public company. 10:05 Yeah. Yeah. And then and then a few a bit ago, people were like, oh, SpaceXi. I'm like, wait. This makes no sense. 10:10 Yeah. 10:10 And then there was a very coordinated, like, narrative pump. Oh, yeah. 10:14 Like And then the space data center. 10:16 At the end of last year. No. Was perfect. It was like almost like perfectly telegraphed. 10:20 Well, there's there's a bet, right, between basically the head of compute of XAI and the head of compute of Anthropic. Mhmm. And the bet is what percentage of worldwide data center capacity is in space by the '28. Okay. And the bar is 1%. 10:34 Oh, wow. And so the XAI guy is like really bullish. The Anthropic guy is like A little far. Yeah. Yeah. 10:40 So but it's it's a really interesting bet. I I take the under on 1% by '28 because that's a gigawatt in space. Yeah. But it's actually not that crazy. Right? 10:48 Yeah. It's roughly a 150 Starship launches. Yeah. We'll get them to a 100 to get them to a gigawatt in space. Yeah. 10:55 So, you know, Starship hasn't worked yet 10:57 Yeah. 10:58 Fully. I was looking at 10:59 the energy draw of the current star Starlink fleet and I think they're at like, what is it, 200 kilowatts or something like that. So you you you get a thousand of those, 200 megawatts, and, like, you're starting to be be in the territory, something 11:13 like that? Yeah. So the V two star satellites, I think, are the only ones they've launched. Maybe they've launched a few V threes, but the V threes are coming soon. And those are those are, a 100 x more bandwidth each. 11:22 Right? 11:22 Yeah. And more power. And just more power. And so I when I'm just thinking of like, can you scale this thing up at all? It's like, are they two orders of magnitude off? 11:29 Are they three orders of magnitude? This feels like they're like one order of magnitude off I think they run something that looks like an h 100. 11:35 I think the metric is like 50 it's either 50 kilowatts Yeah. A ton or something like this per satellite for v three. 11:41 Yeah. 11:42 If they let's say from v three to whatever the compute thing is Yeah. They double it again, get to a 100. I think that v twos are like 25. 11:48 Yeah. 11:48 Yeah. So if you get to a 100 kilowatts per ton Yeah. For launch, it's it's only a 150 or so Starship launches. Yeah. I think it's so reasonable. 11:55 Yeah. Maybe not 28. Maybe it takes 29. But like, you know, it's it's so reasonable. The question is cost and reliability and, you know, what happens when the chip fails? 12:04 How do you service it? That kind of stuff. How do you how do you deal with having clusters be much smaller instead of, like, you know, these big clusters? Even for inference, clusters are useful. 12:12 Yeah. Yeah. How do you think about Google's response to Grox or Eris TPUs, obviously, very successful. But are they forking that project to eat more of the Pareto curve? 12:26 Yeah. So so for the longest time, Google's had one main line of TPUs. Right? Made by Broadcom. And then sort of next year, they've diverged it. 12:35 Right? Where Broadcom makes a TPU and MediaTek makes a TPU. These two TPUs are focused at different things. 12:40 And they're fabbed at They're both 12:42 fabbed at TSM. Everything at the end of the day goes to Rackus. Right? 12:45 I I wanna I wanna go there next, but everything goes to Rackus. 12:49 So fat by TSMC regardless, but both of these TPUs are focused on different things. Okay. And they've actually got a third project for another kind of TPU there. They also see this need to proliferate Okay. Along the curve of like, hey, do I care a lot about super high amounts of flops, not that much memory? 13:04 Yeah. Do I care a lot about super fast on chip memory only? Do I care about three d stacking memory? Do I care about, you know, the sort of general purpose middle ground AI chip which is what, you know, an h 100, a black well Yeah. A TPU looks like today. 13:17 You know, they're sort of like, oh, we need to hit the entire Pareto optimal curve. And it's like, okay, within this, there's training versus inference differences and like what numerics you want and all these other things. There's so much complexity there. Everyone everyone sort of is diverging their roadmaps once they're at a sufficient scale, I think. 13:34 Yeah. Are are is Google still way ahead on cross data center training? Yes. And are the other labs like is that is that important to the other labs to catch up there? Or is it something that will just naturally happen because everything sort of commoditizes? 13:47 Or do the other labs need to sort of marshal some Herculean effort to, like, crack the code on what it takes and what Google's doing? 13:55 Yeah. So so it's a couple of things. Right? In 2023, everyone thought that scaling was pre training. 14:00 Yeah. 14:00 Right? You know, more parameters, more data. Oh, okay. And that's very difficult to split across data centers. 14:05 And has Google been able to 14:06 do that? And Google's been able to do that to an extent. Right? So what they've done is they've got, you know, they don't have the largest individual data center campus. But what they do is they do these like regions where it's like, hey, each data center is roughly 40 miles apart from each other. 14:20 Sure. 14:20 So in Nebraska and Iowa and then in Ohio, they've got like these complexes and now they're building one in Oklahoma, Texas. Got it. You know, complexes where there's all these data centers pretty close to each other. 14:29 So it's not really cross data center across across the world. Right. It's just across like region. 14:34 Yeah. And then that that makes a lot of the difficulties a lot easier. Flip side is we've also moved to RL. Right? Yeah. 14:39 And majority of the time of the chips is spent generating data. Right? Only doing forward passes through the model. Sure. And then you only send the final tokens that you verified sort of back to train on to the training to train. 14:53 Right? Yeah. So then you end up with like, oh, instead of in pre training scaling, you need to like synchronize all the weights every ten, twenty, whatever seconds. Mhmm. When you're doing these rollouts and especially as things get more and more agentic and training, you might not only need to send not the entire weights, but just the tokens that are relevant. 15:08 So way smaller amount of data and way less frequently. Mhmm. Right? Minutes at a time instead of seconds at a time. Yeah. 15:14 And so you've got this like now now it's become like reasonable where, oh, actually multi data center training is completely reasonable. Yep. And people do this. People do multi data center multi chip training. 15:23 Sure. 15:24 Right? You know, you do your inference on one set of chips and you do your training on another set of chips. So like, Anthropic does this. I don't know if Google does this, but Google's kind of already, got the cards. Yeah. 15:35 Okay. Got it. Let's go to Aracus. 15:38 Talk about Aracus. Just 15:39 there's this debate. TSMC risk, is that the bottleneck or is energy the I was doing back of the envelope calculations. Feels like we're using maybe like 1% of global energy production or Western energy production on AI specifically workloads. And then we're using like 50% of leading edge fab capacity on AI workloads. And so that feels like, okay, well, even if we all agree and we say as a society, we're going all in on AI, we can only double the AI chip capacity before we need to build more fabs. 16:11 That takes years. Whereas we could say, everyone turn off your air conditioning. We're sending the electricity to the data centers, right? Like we have the ability to generate. So we to create new 16:22 Clapping for your earring turning off 16:24 the AC. 16:26 Clobb needs 16:27 to eat. Keep strokes for all the grandmothers. Yes. Yes. I need my cat dancy videos. 16:32 Need to 16:32 feed Claude. Right? But but but seriously, like, there's this debate over, you know, is TSMC the main bottleneck or energy the bottleneck? How are you feeling about that? 16:40 Yeah. Yeah. So so sidebar before I answer the question because I think it's fun. Yes. You know, in The US, it's insane to say turn off your AC for AI. 16:47 Yes. Right? And the general public hates AI already. 16:49 Of course. 16:50 But in Taiwan, they've had droughts before and they've turned off water to entire cities. They're like, oh, you get to you get water three days of the 16:57 week. Woah. 16:58 And then the fabs still get supplied water. It's like, this is Wow. You know, you've gotta understand the mindset. We are not ready as weak Americans to do this. Yeah. 17:05 That's right. No. But at the end of the day, right, like, water water water and power are certainly less big of constraints. Now now, you've got to imagine, like, you know, semiconductor industry is used to, hey, doubling the amount of transistors made every year or two. Yep. 17:20 Part of that is Moore's Law, part of that is Moore's Moore capacity. Yep. Whereas the energy industry in America wasn't. And and so, like, initially people were, like, not creative. They're like, let's do let's do these kinds of gas plants. 17:30 It's like, well, no. Now we've realized, you know, yes, there's three main main manufacturers of turbines and then you've got cycle, then you've got, like, IGTs. But you've also got, like, medium speed reciprocating engines. Right? Like, turns out Cummins can make, like, a million diesel engines a year, and, like, those can make electricity. 17:46 Like, if I don't give a fuck and I put it in West Texas, easy. Yeah. So now it's more of like a regulation thing, a supply chain thing. Power is not a constraint in insofar, like, that much. Right? 17:56 I think it certainly is a constraint still today. It was the biggest constraint in 2425, data center capacity power, because the industry was just not ready. People have woken up. They've like sort of been shocked to the system. Now you've got, you know, tens of gigawatts being deployed. 18:10 You know, next year, 30 gigawatts are being added and we think the power is there for it. Wow. What was it for this year? It's it's or this year is like think it's like 18 ish, 10 ish. Okay. 18:20 Fifteen fifteen to 18 ish. 18:21 Sorry. So so almost a doubling. 18:22 Yeah. Almost a doubling. Yeah. 18:23 Yeah. Wow. 18:24 And when you look at when you look at TSMC and the crew, right, there is not really, oh, this random, you know, there's 12 people making medium speed engines that you can now convert to make Yep. Power at some random data center. No. No. No. 18:37 There's like there is Rackus. 18:38 Yep. 18:39 Right? There is one set of SPICE. Like, know, there's Yep. You know, that's it. Right? 18:43 And so and then and then the flip side is like, okay, when you have 12 vendors, everyone's got a little bit of slack capacity. You know, there's more likelihood. You know, you can people are like, turbines you can't get. You can call a broker and you can get a turbine. Might be paying 50% more, two x more, but you can get a turbine. 18:59 Yeah. 18:59 Right? Like, it's You can't get 19:00 a three nanometer fab. 19:01 You cannot get a three nanometer fab. Exactly. And so when you talk about what's the you know, the the baton got passed from semiconductor shortages in '23 to power and and data centers That's right. In '24, '25. '26, we're still we're we're swinging the pendulum Mhmm. 19:15 But it will fully beach semiconductors again in '27. Right? Mhmm. And so we see this across the entire space of the ecosystem. It's not just TSMC. 19:23 It's also memory both. Mhmm. Because both of them have built at a certain pace. Now TSMC has been expanding at some rate. Mhmm. 19:29 The memory makers, in fact, have just not expanded capacity. Basically, they've not built new fabs since 2022. Yeah. Because their their cycle their cycle is so undulating. Right? 19:38 Yeah. And and so when you look at it, it's like, oh, even if they wanted to double capacity, they need to build the fabs. Yeah. Right? And building the fabs, it is the most complex building humans make. 19:47 Right? It's it's it's it's the entire air of a clean room circulates itself every one point five seconds. What? And you don't even feel it when you're inside. Really? 19:56 It's like that. And and it's like parts per billion Right? Of Like, it's it's actually insane how you could you could get coughed in the face by someone who has COVID and not get COVID. 20:07 So It gets circulated so fast that it doesn't even hit you. 20:09 It's like it's like 20:10 It's that meme of, like, the spraying when someone's talking and then it's 20:13 just it's circulated. So so one another another sidebar is everyone knows COVID like really popped off in Wuhan. Yeah. Right? Wuhan also is home to China's largest memory company, YMTC. 20:25 Oh. And so when they were like welding people into their homes, the people who worked in the fab still went to work. Wow. It was because it's, you know, one, it's a national like it's a national importance. But two, like, these people are getting sick. 20:36 This fab is like way too clean. Oh, that's crazy. Yeah. Jordy. 20:41 I I wanna talk about Oracle. They put out a post this morning that said, our partners financing for the Dona Ana County, New Mexico, Shackleford County, Texas, and Port Washington, Wisconsin data centers are secured at market standard rates progressing through final syndication on schedule and consistent with investment grade deals. Obviously, they were fast following their posts from yesterday where they said the Nvidia OpenAI deal has zero impact on our financial relationship with OpenAI. We remain highly confident in OpenAI's ability to raise funds and meet its commitments. And obviously, everyone was looking at this being like, give me a cigarette. 21:13 I like smoking. It's like bank run language. I haven't seen posts like this since like the FTX 21:19 Is it just bad comms or is there something worrisome? It's it's terrible comms. Yeah. Like like I I told my Oracle context, like, who the hell is in charge of the Twitter? Like, what are you doing? 21:31 NVIDIA did something similar last year when the whole TPU mania was 21:34 Yeah. Going It was Yeah. It was it it was like we're we're thrilled with Google's progress with the TPU. That said, NVIDIA chips are the only, you know, there's Yeah. So It's like no one asked you to comment. 21:46 Yeah. I mean like I'm sure a handful of people in your DMs and random but that doesn't mean 21:51 Doesn't project confidence. 21:52 It's it's sort of the lion shouldn't concern themselves with the sheep. Yes. And like, okay, Nvidia's the lion. Maybe maybe Oracle's a little bit more bumpy, but I think Oracle's like fine. Yeah. 22:00 People are just freaking out because, you know, OpenAI is is peak know, people are peak negative on OpenAI right now because of how good Anthropic's been killing it. 22:08 Sure. Sure. Sure. 22:10 Yeah. I I think it's just like kinda silly. Like, need to they need to hire someone to do comms like a lulu or something. Right? Both Nvidia and Oracle because what are you doing? 22:19 Yeah. How did you process yesterday in general? Jensen was clip farming. He was like, I don't know why he does these street interviews. Right? 22:28 No other CEO 22:29 does those where they just stick 25 microphones in your face and the paparazzi's flashing. It's a great vibe. 22:35 It's it's, you know, Jensen's not been as famous as other CEOs for as long and yet he's so important now. Yeah. And if you've like if you know Jensen, how he's in meetings, there's I feel like there's two Jensen's. Right? 22:49 Sure. 22:49 There is like PR, like good at PR, just good at talking, good at like making people hyped up and believe what he's doing. He's great 22:56 at standing on stage holding up the chip, delivering 22:59 a sermon. And then there's the real Jensen which is like a business killer and like actually just knows about every like aspect of the supply chain. Right? All the way from like niche semiconductor, you know, design and manufacturing stuff all the way to like energy power data center. Yeah. 23:15 And and and then doing the business deals too. Right? And so like you've got this whole Pareto like of the whole thing of whole range of things that he's good at and he's a killer in. Yeah. And clearly he's like he was in a meeting where he was being a killer and like negotiating like supply contracts or something. 23:30 Oh and he walks outside. 23:30 And then 23:31 he walks outside. That's hilarious. Yeah. Yeah. My inference. 23:34 But I like it. Yeah. That's awesome. 23:36 And and that's why he was like, you know, like, he was like, still killer. Like, no. We never said we committed to a 100,000,000,000, you know, like, and it's like 23:42 I don't know. Wait. Where do you even get the $100,000,000,000 number from? And it's like, well, you did go on CNBC and like a big deal out of it. Doggy pudding show. 23:51 Assume that it was Yeah. But they did say in the press release Yeah. These are early talks. Yeah. But they just kinda jumped the gun. 23:58 This was the height of the press release economy. 24:01 Yeah. What's funny is Oracle stock peaked like just like a week after they announced the OpenAI deal. Yeah. And so like the press release of like, hey, OpenAI is gonna do this humongous deal. Stock peaks. 24:12 Yeah. Same happened with a couple other vendors who announced deals with OpenAI or Nvidia. Like sort of a lot of these like like they all peaked to that and then it's sort of been like Nvidia OpenAI trade has been going poorly. Yeah. And sort of like the TPU, Anthropic, Google, Amazon complex has been doing well. 24:28 Yeah. It's quite interesting that 24:30 So this it's good good energy back at home with the roommates. 24:33 What what's going 24:36 on in wanted 24:37 to Yeah. Got one more thing. So yes, over the weekend, it was sort of drowned out by all the justice department stuff. 24:47 But Wait. Have you just talked about Elon saying you can smoke a cigar in the fab? No. Yeah. Yeah. 24:52 Yeah. I was gonna say that's this is is this is part of the 24:55 whole I didn't realize that was related. Yeah. That makes sense. 24:57 Sense. Indoor heaters. Yeah. We have indoor heater technology. No one's taking advantage of Yeah. 25:01 What what does the fab look like if you have no humans inside? Like, that's probably his long term thing is like, yeah, there there will be an optimist. 25:08 But no one no. Like, the number of people who work in a fab is, like, irrelevant. 25:11 Like Yeah. But but but is it is it irrelevant because there's all these things you have to do when a human's in there because they sweat and they breathe? And if you don't have to do that because it's a robot walking down, even if it's puppeteered or teleoperated, you you might be able to have different considerations. I don't 25:25 know if that actually affects Well, it's like a nesting of like it's a nesting of like cleanliness. Right? Yeah. For example, you've got this wafer you've put like down let's say you put down copper. Yeah. 25:32 And now you're moving it from one area to another. Well, it needs to be stored in a vacuum. But the easiest way to store a vac like or or an inert gas. Yeah. And that's like the thing that's being transported in. 25:41 But then around that, you want it to be super clean as Yeah. You you you if you don't, then the copper starts getting oxidized. It affects our yields. All this sort of stuff happens. Yeah. 25:49 And so like you kind of want it to be a nested layer nested layer of like, well, this chain this thing inside the EUV tool is super clean and then the thing feeding it is super clean and then the thing it sits in is super clean because because that's how you get to like there's zero particles. Yeah. Well, because like, you know, in the in the in the FOUP and the transportation devices parts per trillion and made FOUP, it's called f o u p, front operated, front opening, I don't know, something pod. 26:11 Yeah. Pod. But it's called 26:13 a FOUP. 26:13 It's like 26:13 the thing that moves and it carries the wafers. 26:15 Sure. Sure. Sure. 26:15 And then and then the fab is like parts per billion and you know, sort of like, you know, you've you've gotta like got this nesting relationship so everything is super clean. Yeah. You know, I'm I'm bullish on robots, like super bullish on robots, but only for like not for tasks that have like TSMC's Arizona fabs or okay. Let's say TSMC Sure. Tainan which I think produces, like, you know, indirectly hundreds of billions of dollars of global GDP. 26:40 Yeah. Even directly, it's, like, still tens of billions of dollars, has, like, five, ten thousand people in it. Yeah. Like, it's, like, irrelevant Yeah. In terms of the number of people who work there. 26:48 In terms of the overall economic 26:49 value that's created. 26:50 Right. Like it's like Yeah. It's like how many people fold laundry or how many people wash dishes or how many people like do construction work. Like, are way bigger markets. 26:57 For robotics. Yeah. Yeah. Makes sense. Speaking of China, what what are you making of the the the Dario essay or he I I guess his comments at Davos about, you know, selling chips to China is equivalent to, you know, nuclear weapons these days. 27:13 The the Ben Thompson line was something like he's okay selling chips because he wants dependency on the NVIDIA ecosystem, CUDA, but he would ban lithography tools from going to China. And I've been wrestling with this idea of like, I don't know if China would accept this, but wouldn't there be a different world where you want them dependent on American LLM APIs and you don't even send them the chips? And you say, yeah, you're you can have as much AI as you want as long as you're paying, you know, OpenAI and Anthropic API. Yeah. 27:44 I think it's I think it's like a curve of like 27:46 What they will accept. 27:47 It's it's it's, you know, one, you you you push someone to the corner, they're gonna start swinging. Right? Which means this. And and I'm I'm like very concerned that China does this. Right? 27:56 Do they do you do you push them too far into the corner? Do they say, screw this. We're gonna start being a lot more aggressive. We're gonna we're gonna, you know, do more military actions 28:04 or Or even just invest twice as much in 28:07 In global supply chains. In global take over Africa more than they already Like, LatAm, like etcetera. There's there's or or just take over Taiwan. Yeah. Right? 28:15 Because if I can't have the chips, what value is there in Taiwan existing? Sure. 28:18 Sure. Sure. 28:18 In its current state. Right? So there's like there's this like game theory aspect. Yeah. At the same time, you don't want China to be able to like, you know, if you believe AI is gonna be do what I think many, at least in San Francisco think it's gonna do, which is like completely revolutionize humanity Yeah. 28:33 And cause GDP growth to accelerate. Yeah. Do you wanna have China also own that technology? And and all, you know, their ability to integrate that into their military and all these other things much faster. Yep. 28:43 You know, so there there is like these competing like, you know, interests. 28:47 Yeah. 28:47 Where where is the like right line? And some people think it's like, hey, yeah, sell them AI model Well, think Dario would say, don't even sell them AI model access. 28:54 Don't even sell them tokens. 28:55 Yeah. Think so. I think I think Anthropic does not sell AI access to China. Yeah. They they loop it through and you can see this in the traffic data. 29:01 They go through Korea 29:02 and Yeah. 29:02 Yeah. Places. But like And so they get it. Yeah. And then the other side is like sort of like I think like the Ben Thompson view which is like Sure. 29:09 And I think I'm more sympathetic to that. Yeah. Although I think I'm not exactly in line with that which is like and we've been saying like don't sell them equipment. Don't sell them equipment. Don't sell them equipment. 29:18 My view my argument is like more economic in the sense of like if you sell them like tens of billions of dollars equipment, they can make hundreds of billions of dollars of AI Yeah. Value or chips with that equipment. Yeah. Whereas if you sell them AI model access and it costs them this much to get the economic know, they're they're not able to 29:32 And you're capturing more of the value 29:33 Exactly. And so that's sort of the question that is is at foot here. Right? Do you want them to capture all this value of the of the supply chain 29:41 Yeah. 29:41 In equipment or by buying the chips Yeah. Or using the models, right, and services? And we've seen, you know, across many, you know, stacks. China refuses to accept, you know, using American ecosystem and they'll wait many years before they develop their own. Yeah. 29:57 Whether it was like, hey, they didn't use Windows. They've figured out a bootlegging economy. Yeah. Or they didn't use Visa and eventually they came out with like Alipay and WeChat Pay or whatever it's called on. Yeah. 30:06 And and like these things are way better than Visa in fact. Right? Lower transaction cost and higher volume. 30:11 Never use Red Star Linux? It's North Korea's Linux machine. Wait. Really? Yeah. 30:16 If you if you don't if you put it on a network, it'll immediately call home. So you have to put it on a on a on a firewall network or else. It just like steals everything immediately. 30:24 I'm I'm a fan of TempleOS, you know? 30:26 Yeah. Alright. Is Doug O'Laughlin suffering from a case of Claude Code psychosis? 30:35 Okay. Yes. Yes. So I think I think everyone's like Claude Code is for coders. It's like, no. 30:40 No. Claude Code is for people who don't code now. Yes. Right? And that's the big realization this year. 30:45 Yeah. You know, we've got we've got a couple folks now in the firm who have psychosis. But Douglas O'Laughlin who is like semi analysis, number two he's president. Yeah. You know, he's my boy. 30:54 He's the one in fact, he's the one who encouraged me to make a sub Oh, you did? A long time ago a long time ago. What were you doing before? I had a WordPress blog. 31:02 Oh, okay. 31:03 And I was consulting on the side, but I like, okay, let me do a Substack now. Because I saw him making money off it, I was like, this is shit. 31:08 Like, why are you doing money for this? Yeah. 31:11 Like, there were multiple times where he wrote something and was like, I could do way better. 31:15 I'll show you. 31:15 And and and and like, obviously, like it was good because we both taught each other a lot of 31:19 things and 31:19 we've been great friends. Yeah. And eventually he joined semi analysis. Yeah. But like, you know, he he his background is he was a hedge fund analyst. 31:25 Yeah. And then he decided to do a substack slash walk hike the Continental Divide Trail for like six months walking from Mexico to you know, and then and then, you know, came back to doing substacking, tried to do a fun. 31:35 Six months of touching grass and then he like, ready to lock in Cloud Code. 31:38 Yeah. And and and so now he's, you know, like, he's he's never been a software developer. Yeah. Right? But he's been on a generational run. 31:44 Like Mhmm. He's he's he's not coding anything. Right? He's just telling Cloud to do stuff. Yeah. 31:48 Yeah. Like, it's to the point where it's like, our our our like head of data, head of IT is like, oh, can you send me that? And he's like, how do I do that? And then he like Yeah. He zips the whole thing and sends it to him. 31:56 It's like local host. Yeah. He sends him a leak once. It's like local host like Yeah. It's like 32:01 bro, that's not how this works. But 32:03 but yeah. No. I I I've talked to some folks at VibeCode and they'll be like they'll be like, why'd you choose Node. Js? And they're like, what's Node. 32:08 Js? And I'm 32:09 like, that's a very specific advice. Someone? Someone? Yeah. Tyler. 32:12 No. But it's it's it's we went on a we went on a little tour of a lot of our clients. Like, you know, roughly like half our business is or 40% of our business is like hedge funds. So we went to New York a week, two weeks ago and we went to all of our clients. Mhmm. 32:25 And like part of it's like them asking me is OpenAI fucked? Yeah. And I'm answering like, no, think they're fine. Yeah. And then like some like actual ideas. 32:32 And then like a lot of it is Doug just telling them Clog Code is like they they're like, you don't have to hire any junior hedge fund analysts anymore. They're like, the junior hedge funds analysts are like and then he's explaining, know, what what can you do? It's like, well like, you can just do like financial models and pro form a financial models and like everything in Clog code Yeah. Without ever opening Excel. Yeah. 32:49 And you can generate charts and like you don't need Yeah. To know how to code. Yeah. You just need to know how like how this stuff generally works and you can just do it. 32:56 Are how how many hedge funds are just trying to copy trade situational awareness 33:01 now? I mean, I think everyone who's I think I think a lot of hedge funds obviously believe in AI. I think there's a lot of them who don't believe in it, right, to be clear. But a lot of them that have done the best 33:12 why are they selling software everywhere? 33:15 Oh, you mean selling software stocks? Yeah. Oh, yeah. Why the sell off then? 33:19 Yeah. I mean I mean, of course, it's like an incremental thing. Right? But anyway, so so these hedge funds like and then then the question is like, okay, you believe in it, how do you manifest that trade? And and so when you look across the like ecosystem, I would say almost all my clients sometimes think are two years out, numbers are too high. 33:37 Mhmm. But like there's there's like Leopold's like, your numbers are too low. And so it's like it's like it's like in general. Right? And I think I think like if you think about how much do you believe in AI and what's your access to information of AI Yeah. 33:50 You know, there's not many hedge funds who live in San Francisco and like fully breathe and live and understand it. Then and then depending on how much you believe in AI, how do you manifest that trait. Right? 33:58 Mhmm. 33:58 Are you surprised that more hedge funds wouldn't like even just smaller shops wouldn't say like, hey, this AI thing seems like it's gonna be big. Maybe we should set up in San Francisco? 34:07 Or hire. 34:08 There's there's a number of people. Right? So we're we're, you know, we're we're getting an office together. Leopold, myself, to our cash and then a client of mine, another hedge fund. 34:17 Cool. 34:17 And they have one analyst here and it's like Mhmm. And there's like a number of other hedge funds that are like hiring analysts here. But, you know, being plugged into the AI ecosystem does not mean you're just in San Francisco because you can just walk around and talk to like doofus like Yeah. Startups and VCs and like not actually, see what's coming down the pipeline. And you have to combine it with all sorts of information. 34:35 Right? You have to have a good tune with what's going on in Asia supply chains. You have have a good tune with what's going on in New York. You have to get tune with what's going on in the financial markets. And then like what's going on in credit markets and what's going on in all, you know, the data center energy, blah blah blah, all these different industries. 34:50 And so it's it's it's actually not like so simple to like be in tune with what's going on in AI. Mhmm. You can easily get like head faked. Mhmm. Right? 34:59 Mhmm. You For the longest time, were thinking, you know, Adobe is an AI company. And like Yeah. And it's like For for a bit like, oh, Adobe was going down on AI and then they like launched a few AI features and the stock skyrocketed. And then Mhmm. 35:09 Now it's going back down again because people realize, oh, wait. No. Actually, it's not an AI company. Yeah. I think it's it's the manifestation and thought of like what is actually gonna the world gonna look like if Anthropic three x's its revenue again this year, OpenAI two x's its revenue again this year or, you know, by the end of the year do how many people even believe by the end of the year AI startup revenue is over a $100,000,000,000? 35:31 I think that's an insane statement for a lot of people but that's what it's gonna be. 35:34 Yeah. 35:34 Right? And who believes that number? Right? It's like Yeah. Very few people. 35:37 And then you you you draw the continuation. It's like and who believes you know, and when Anthropic says in their funding like, we're hey, gonna have $300,000,000,000 of revenue by the end of the decade. And it's like, actually, I think that number's too low. Because because the economic value of what they're gonna create is gonna be insane. Yeah. 35:56 And and you tell people, oh, excellent. You know, OpenAI is gonna have 18 gigawatts or 16 gigawatts by the '28 and they're gonna be able to pay for it. And that's like, well, that's $300,000,000,000 of spend. How are gonna pay for it? It's like you you sweet summer child. 36:09 Don't worry. Sam can raise. They're gonna blow up on revenue. They're fine. Right? 36:12 Like, it is like a bit of a vibe thing. It's a bit of like, you know, irrational exuberance almost. Right? Like, Leopold's in his, you know, mid twenties. Like, I'm 29. 36:22 Like, we we are irrational. 36:23 Yeah. 36:23 Right? Because we have not lived through know, getthese.com. These PMs who like don't 36:27 You've want never been you've never been that humble. 36:30 I I don't know. Like, we almost My family almost went bankrupt in 2008. Like, you know, because we lived in a motel and we almost foreclosed and we actually did foreclose on one motel. It's pretty bad but I was still a kid. Right? 36:40 Yeah. I've never been humble. No. 36:41 It's good to live through that and understand how things can go wrong. That's interesting. What are you expecting out of Zoc and Meta this year? We've been big Zoc defenders, especially I mean, there's this pressure of like, oh, Meta is spending so much and yet they haven't created, you know, any any AI product that's super compelling or that's really working. And our stance has has generally been Meta's making more money from AI than almost any company in the world outside of Nvidia. 37:11 So it's like, of course, Zoc should be justified in saying, hey, this is real. It's big. Like, I'm gonna like back the truck up and and go all in. 37:19 Yeah. I mean, it's it's clear if you look at the most recent earnings. Mhmm. I think their CPM went up 9% when the consumer's weak. Mhmm. 37:25 Which means, like, if you were to, like, try and strip out, like, what is consumer spending increasing for CPM of ads versus what is the effectiveness of their algorithms? Or algorithm got better by double digits in one quarter. Yeah. Right? It's, like, actually insane how good the algo is getting, right, at serving you the slop in the ads. 37:42 Right? So so so in that sense, like, 37:46 big sound of the trough. I love it. Slop the 37:52 It's it's slop sound. We're going all in on 37:54 that farm. Slop the fence. 37:56 Slop the fence. Daughters. 38:00 I love it. 38:01 So so, you know, if you if you think about it, right, like, Metas, where are they gonna, like, win? Right? You know, I think if you have the Galaxy Brain take, it's like, well, they've got the best wearables coming down the pipeline. They're gonna put AI on it. Mhmm. 38:14 Apple won't be able to put good AI on their wearables, so they'll seed it all to like Google or 38:19 Well, the other people have had this narrative, oh, as AI gets better, the the value of real world experiences will increase. Mhmm. And I think that's a cool theory. But if you actually play it out, AI getting better means more content that's more, like, effectively crafted for you, more personalized, a 100 times more con a thousand, a million times more content, that would imply to me that people will just use digital products more which means more time on-site, more time in the app for meta. So I don't know. 38:50 I I mean, I I'm I'm with you entirely. But I think I think like the Galaxy of your intake is that you're just gonna have a wearable and that's gonna have AI assistant. OpenAI is trying to make it wearables, you know. Mhmm. You know, there's there's you know, everyone's trying to make wearables. 39:03 Google is, etcetera, etcetera. I think Meta will actually execute and then they'll have a good AI. And then you you stack on like a few things. Right? How do they get users? 39:12 Well, we've seen at least if you look at the user metric charts, Google's use you know, OpenAI's users were growing, growing, growing. They were gonna hit a trillion by the end of the They ate a 100,000,000,000. Why did they not keep growing in the last quarter? It's because Nano Banana came out and they took all the incremental users. Right? 39:27 And and likewise, if you go look at like you know, Gemini three didn't actually make Google grow that much. It was Nano Banana and then Pro or two or whatever it's called. Right? Are the ones that made them really grow. Meta's licensed all of Midjourney's code, data, models. 39:41 Right? One. Two, they're like actually just like focusing hardcore on 39:46 was that a billion dollar plus deal? 39:49 The number is undisclosed. Midjourney still exists as a company. 39:52 Yeah. Mhmm. 39:54 No. It felt it looked to me like effectively a massive exit, but the best case scenario where they can just keep kind of being artists. 40:01 I I think I think if you had me guess, I would bet it's bill over 1,000,000,000. 40:05 Right? Every deal that Meta did was over 1,000,000,000. Basically, like, whether it's an employment contract, a licensing deal, an acquisition, everything had a B after it. 40:15 Well, so so the interesting thing is 40:16 So you're a zero again. Miss the zero again. 40:20 Yeah. Every every discussion is how many billions are we spending on hiring this person or buying this company? 40:25 Well, Meta interestingly has gone down market for compute because they there's not enough compute in the big size deals. They've actually gone and like What that mean? Bought like small clusters. Oh. Because it's like, well, I want more compute. 40:37 From like long tail neo clouds? 40:39 Yeah. Just like Yeah. From a longer tail. 40:41 Okay. 40:42 Because that's the only place they can get compute they need. Interesting. Because you know, they've already like went out and signed big deals with Google and Core Weave and so on and so forth. 40:48 Is cluster max three gonna be a smaller chart because of consolidation in the industry? No. It's there's more bigger. 40:53 Gonna be bigger bigger bigger But but you know, so so metal 40:58 That's the thunder. That's ominous. It's ominous. 41:02 So so I think Meta will, you know, capture consumers through generative. Mhmm. If there's more content, people are just gonna go to the content marketplace. Right? Mhmm. 41:11 The creator of the content captures less value as there are more content creators and more diversification of content. Right? So I think Meta just wins by being a platform. Right? Google does too and ByteDance does too. 41:22 Right? But like those three win by having a platform. And then the real question is, can they get in the assistant productivity game? Right? 41:29 Mhmm. 41:30 And I think this is effectively 41:32 search. Like if you're an assistant, it means that you can like there's some commerce happening. 41:36 Well, they spin out and poached a bunch of people from Google. Yeah. So this wasn't in the media much, but like they actually poached Google search people with similar sized deals as like these crazy Yeah. Researchers. Yeah. 41:46 And I always I I you know, demoing demoing any of the the the wearables, you can imagine like Meta wants you to walk around in the world and see like, oh, what are those headphones? And like while we're talking, I just hit my little thing and buy it. Right? Yeah. And it's like you didn't even necessarily know that it happened. 42:01 But like of course Meta's gonna wanna 42:02 knows those are the Sony MDR XU two seven twos four six two 42:07 Dude, I've been I've been screaming about them like doing some proper marketing. 42:11 Branding so 42:12 It's it's literally like they're over here is like w h x 1,000 x m five It's crazy. And then their in ear is like w f one x x m 1,000. It's like, dude, just call them like Bravia buds in Bravia like Yeah. Headphones or some shit. 42:25 Well, China just What? 42:27 Bought Sony brand? Yeah. Yeah. Bravia brand is actually a Chinese company Sony sold their TV 42:34 and PlayStation buds. Yeah. Yeah. Yeah. PlayStation. 42:37 Walkman. Yeah. Walkman. Something. 42:41 Something. For sure. Anyway, anything else, Jordy? 42:46 For this weekend. 42:48 Yeah. Yeah. Super excited. You guys 42:49 What are some plays that we don't watch a 42:51 lot of sports? What are some plays? What are 42:53 some plays a football guy. Right? 42:54 Yeah. Yeah. 42:54 You grew up in yeah. 42:56 Rural Georgia, so I like football. High school football was the thing. College football was the thing. I think NFL is a little less soulful. Sure. 43:05 But you know now college football has the NIL and so it's also soulless to some extent. It's fine. We enjoy it. Primal desire of seeing heads clash. 43:15 Yes. 43:15 And sometimes that manifests in like Twitter drama and sometimes that manifests in real football. Yeah. All I can say is fuck the Patriots. Okay. 43:23 Woah. Okay. Okay. Since we're gonna be at the game, we're not gonna really get the great experience seeing the ads. Gonna be like my glued phone. 43:33 I I wanna see all the AI, the different 43:36 Well, don't worry. Got some more ads for you. Alright. Thank you so much for coming. 43:39 Thank you so much. Alright. Great segue.

이것은 시스코 AI 서밋에서 생방송으로 녹화된 SemiAnalysis의 창립자이자 CEO인 Dylan Patel과의 전체 인터뷰입니다. 우리는 샌프란시스코에서 데이터 센터를 우주에 설치하는 것, 오늘날의 AI 하드웨어의 한계, 그리고 칩, 전력, 지구정치가 AI 인프라의 미래를 어떻게 형성할지에 대해 논의합니다. TBPN은 존 쿠건과 조디 헤이스가 진행하는 생방송 기술 토크 쇼로, 매주 월요일부터 금요일까지 오전 11시에서 오후 2시까지 X와 유튜브에서 생방송되며, 전체 에피소드는 즉시 팟캐스트 플랫폼에 게시됩니다. 뉴욕 타임즈는 TBPN을 "실리콘 밸리의最新 열풍"이라고 묘사했으며, 최근에는 마크 저커버그, 샘 알트만, 마크 쿠반, 사티아 나델라를 인터뷰했습니다. TBPN이란 무엇인가? TBPN은 존 쿠건과 조디 헤이스가 진행하는 생방송 기술 토크 쇼로, 매주 월요일부터 금요일까지 오전 11시에서 오후 2시까지 X와 유튜브에서 생방송되며, 전체 에피소드는 즉시 스포티파이에서 게시됩니다. 뉴욕 타임즈는 TBPN을 "실리콘 밸리의最新 열풍"이라고 묘사했으며, 최근에는 마크 저커버그, 샘 알트만, 마크 쿠반, 사티아 나델라를 인터뷰했습니다.

디트 TBPN은 각 에피소드의 최고의 순간을 30분 이내에 전달합니다. 00:00 어, 벤? 너를 다시 보는 것이 좋다. 데이터 센터를 우주에 설치하는 것에 대해 무엇을 얻을 수 있나? 00:04 언제 00:06 우리는 갈 것인가? 00:07 뜨겁게 들어갑니다. 00:08 나, 너, 국제 우주 정거장.讓我們分析해 보자. 우주 관광 산업은 khá 재미있는 산업이다. 맞지? 00:14 예. 너는 갈 것인가? 블루 오리진의 것을 할 수 있나? 카르만 라인을 넘어서 날아가는 것을? 케이티 페리에게는 충분하지만, 너에게는 충분하지 않다. 00:22 무엇이 00:22 일어나고 있는가? 그것은 자유 낙하 상태에서처럼 느껴진다. 너는 실제로 우주에 있지 않다. 오, 00:25 그것은 충분하지 않다. 내 카르만 라인 부정자에게 외침을. 나는 몇 일 동안 우주를 돌고 싶다. 오, 좋다. 좋다. 나는 내 뼈 밀도が 감소하기 시작하는 것을 느끼고 싶다.

00:33 그것은 00:33 像 나의 진정한 우주 체험을 원한다. 예. 00:36 예. 그것은 충분하지 않다. 나는 그것을 할 것이라고 생각한다. 맞지? 예.

00:41 하지만 모든 우주 비행사들이 하는 멋진 일들에 참여하는 것보다 낫다. 맞지? 예를 들어, 물을 넣고 거품이 이는 것을 보면 물을 마시려고 시도하거나, GP를拔하고 다시 꽂는 것과 같은 일을 한다. 00:53 오, 예. 예. 예. 이것이 우주 관광의 대가이다. 바다 여행을 갈 수 있어야 한다. 90초의 서비스. 예. SpaceX 위성. 01:01 한 번에 190초의 여행. 아니요. 하지만 사람들은, TPUs, Nvidia가 Starlink v5나 다른 것을 개발할 것이라는 것을 궁금해했다. 이것은 테슬라 실리콘 칩, AI 칩과 비슷할 것 같다. 만약 열을散散시키는 방법을 찾고, 비용을 계산할 수 있다면, 칩은 어떤 모습일지에 대해 어떤 통찰력이 있는가?

01:29 나는 생각한다, 모두가 우주에 물건을 넣는 것이 비싸다고 생각한다. 예. 하지만 Starship 발사 비용을 보면, 비용이 계속 떨어지고 있다. 01:42 열散산은 어려운 문제지만,巨大한 방열기를 사용하면 된다. 예. 10년이 끝나면 괜찮을 것이다. 나는 칩이 매우 불안정하다는 것이 큰 도전이라고 생각한다. 따라서, 몇 가지 문제를 어떻게 해결할 수 있는가? 위성은 일정 크기 이상이 되면 많은 지원과 구조가 필요하다. 02:03 그렇다. 02:03 발사된 위성들은 작은 위성을 많이 쏘아올린다. 예. 따라서 큰 완전 연결 클러스터를 만들 수 없다. 02:14 그리고, 임의의 오류를 어떻게 처리할 수 있는가?

지구上的 데이터 센터에서는 텍스트를 실행하여 장치를 분리하고 예비품을 넣는 등 다양한 작업을 수행합니다. 하지만 우주에서는 어떻게 해야 할까요? 장비를 공장으로 반품하여 불필요한 부분을 제거하고 다시 솔더링한 뒤 테스트를 수행하여 작동하는지 확인한 후 다시 발사합니다. 02:33 예, 때로는 그냥 쓰레기가 됩니다. 하지만, 그렇다고 해서 도전이 되는 것입니다. 02:37 제가 생각하는 패턴은 테슬라의 자율 주행 칩이 얼마나 souvent 서비스를 받아야 하는지 확인하는 것입니다. 왜냐하면 그것은 우주와의 간격을 메우는 팀을 구축하는 데 도움이 될 것입니다. 스타링크 위성은 작동을 멈추지만 서비스는 작동합니다. 즉, 90%의 업타임을 유지하기 위해 일부 장비를 내립니다. 하지만 웨이모나 테슬라의 자율 주행 칩은 대부분 작동합니다.

오른쪽입니다. 테슬라의 자율 주행 칩은 작동을 멈추지 않고, 테슬라 소유자는 자율 주행 칩을 수리하기 위해 차를 매번 수리소에 가져가지 않습니다. 03:15 칩의 복잡성도 함수입니다. 03:18 오른쪽입니다. 즉, 칩이 2배 빠르면 비트 오류率가 같다면 2배 더 자주 작동합니다. 03:28 하지만 칩이 10배 크면 비트 오류율이 같다면 10배 더 자주 고장납니다. 테슬라의 FSD 칩은 매우 효율적이고 작으며 저렴합니다.

03:41 예, 오른쪽입니다. 큰 GPU나 TPU와 같은 칩은 매우 크고 비쌉니다. 03:46 비트 오류율이 같다면 10배 더 자주 고장납니다. 하지만 실제로 비트 오류율은 더 높습니다. 왜냐하면 이러한 칩을 절대한계까지 밀어붙이기 때문입니다.

테슬라의 차에는 이미 내장된 중복성이 있습니다. 04:01 어쩌면 위성에서도 그렇게 하지만 그 경우에는 더 많은 전력이 필요하고, 04:04 예, 맞습니다. 그래서 전체적으로는, 예, 전력이 사실상 무료입니다. 04:09 태양 전지판의 비용 곡선과 위성 발사 비용 곡선이 있습니다. 04:17 클러스터의 비용 중 전력 비용은 10% 미만입니다. 맞습니다. 그래서 90%의 비용은 절약할 수 없습니다. 04:24 예, 그리고 потен적으로 100배의 문제가 있을 수 있습니다. 04:29 예, 예, 맞습니다.

예를 들어, NVIDIA의 **GPU**를 보면, 04:34 클러스터를 처음 켤 때 약 10~15%의 칩이 처음 2주 안에 고장나서 반품처리됩니다. 04:41 와, 그게 정상입니다. 산업계는 이를 처리하는 방법을 알고 있습니다. 04:47 예, 그리고 시간이 지나면, **Hopper**는 현재 5%로 떨어졌지만 **Blackwell**은 여전히 10~15%입니다. 와, 실제로 처음에는 더 높았습니다. 04:53 새로운 세대가 나올 때마다 15% 이상으로 시작해서 점차적으로 낮아집니다. 하지만 누가 그것을 테스트하고 지상에서 번인할까요? 05:02 아니면 5% 또는 15%의 칩이 쓸모없다고 말할까요? 예, 예,有人이 그것들을 고칠 수 없기 때문입니다. 또는 로봇이 모든 것을 하도록 해야 하는데, 그것은 추가적인 엔지니어링 문제입니다. 그리고 사실, 사람들은 매우 저렴합니다. 05:15 예, 사람들은 매우 저렴합니다. **Grok** 인수를 논의하지 않은 지 오래되었는데, 불경기에 대한 전망은 어떻습니까?

05:23 만약에 다음 버전의 **Grok**이 훌륭한 칩이라면, 그것은 실제로 **NVIDIA**가 배포하는 것과 어떻게 관련이 있는가? 예를 들어, **h200**, **h100**과 같은 랙에 함께 놓여있는가? 또는 별도의 칩인가? 05:38 나는 **NVIDIA**에서 큰 변화를 느끼고 있다. 05:41 예, 이전에는 큰 **GPU**를 가지고 모든 것을 해결하려고 했다. 소프트웨어 생태계가 너무 좋아서 모든 것을 하나의 크기로 해결하려고 했다. 05:45 그러나 이제는 특정한 점 해결을 위한 칩을 만들고 있다. 예를 들어, **CPX**라는 칩을 출시했는데, 이것은 프리필(pre-fill)용으로 만들어졌으며, 프롬프트 처리, KV 캐시, 비디오 생성, 이미지 생성 등에 적합하다.

06:07 그리고 이 칩은 나중에 출시될 예정이다. 06:07 이번 출시에서 비디오 생성도 중요하게 다루었다. 06:10 그래서 **CPX**, 표준 **GPU**, **Grok** 칩이 모두 다른 니치에 적합하다. 06:16 그러나 이것은 사실 **NVIDIA**가 정확하게 어디로 가는지 모른다는 것을 의미한다. 06:16 나는 이것이 사실 누구도 모르는 것이라고 생각한다. 예를 들어, 소프트웨어, 모델 아키텍처 등이 너무 빠르게 발전하고 있다. 06:26 그래서 우리는 여러 가지 솔루션을 개발하여 파레토 최적 곡선의 여러 점에 대응하고, 하나가 승리할 것이라고 생각한다.

06:36 또한 **OpenAI**가 **Cerberus** 거래를 할 것이라고 생각했기 때문에, **NVIDIA**는 놀랐을 것이다. 06:39 그렇다. 06:40 지금 생태계에서 **Cerberus**가 중요한 이유를 설명해 주시겠나? 06:46 그래서人们들은 데이터 센터의 위치에서 레이턴시가 중요하다고 생각하지만, 사실은 중요하지 않다.

중요한 것은, 데이터 센터의 위치가 중요하다고 생각하는 것이 아니라, 실제로 중요한 것은 이러한 추론 스트림이 **30분** 대신 **10분**, 혹은 **5분**이 걸리는 것이다. 많은 사람들이 **10배** 더 높은 가격을 지불해도 **10배** 더 빠른 것을 선택할 것이다. 따라서 **Cerberus**는 이러한 상황에서 많은 의미를 가진다.

**OpenAI**는 긴 시간을 가지고 있으며, **Codex 5.2**와 같은 모델이 있다. 하지만 마케팅에는 문제가 있다. **OpenAI**는 이 포드캐스트를 후원해야 한다.昨日, 우리는 **Codex** 앱을 사용해 보았는데, 6개의 다른 모델과 또 다른 버튼이 있었다. **Codex**라는 이름의 제품이 너무 많다. 이제는 앱도 있다.

실제로, 우리는昨日 다른 사람을 초대해 브랜딩에 대해 이야기했다. **Lexicon branding**의 대표가 나오셨는데, 네이밍 아키텍처에 대해 이야기했다. 이는 복잡하지만, 희망적으로 해결될 것이다. AI 회사들은 매우 혼란스러운 네이밍 아키텍처를 가지고 있다. **Anthropic**, **Claude**, **Claude code**와 같은 이름이 있다. 하지만 **Cerberus**의 경우, 가치가 있지만, 공급 측면에서 제한이 있는가?

그들은 실제로 거대한 데이터 센터로 확장할 수 있으며, **고대역폭 메모리(HBM)**와 같은 기술을 사용하여 **Codex**의 속도를 단일 사용자뿐만 아니라 모든 사용자에게 향상시킬 수 있습니다. 서버는 여러 사용자의 속도를 향상시킬 수 있습니다. 문제는 어디에 사용하는지 결정하는 것입니다. **Codex** 내에서 사용자에게 노출시키는 방법을 결정해야 합니다. **Codex**가 10시간 동안 실행되는 경우가 있습니다. 하지만 때때로 사용자는 속도가 느려도 상관없습니다. 사용자는 **Codex**를 사용하여 코드를 리팩토링하거나 특정 작업을 수행할 수 있습니다. 다른 경우에는 사용자는 빠른 피드백 루프를 원합니다.

따라서 사용자에게 추가적인 토글을 제공하지 않고 어떻게 노출시킬 수 있을까요? 강력한 **모델 라우터(Model Router)**가 필요할 것입니다. 하지만 이는 프로세스처럼 느껴집니다. **OpenAI**의 계약은 750메가와트입니다. 이는 충분한 용량이 아닙니다. **OpenAI**는 2028년 말까지 16기가와트에 도달할 것입니다. 이는 절대적인 최신 기술이며, 가장 비용에 둔감한 고객을 위한 특정 사용 사례입니다. 이 경우 빠른 속도가 필요하며, 사용자는 속도 향상을 경험할 수 있습니다.

그들은 제품을 노출시키는 방법을 결정해야 합니다. 하지만 이는 명백하게 수요가 있는 것입니다. 예를 들어, **Andrej Karpathy**는 에이전트당 1,000달러를 지출하는 것에 대해 신경 쓰지 않습니다. 이러한 초고급 엔지니어들은 비용에 대해 전혀 신경 쓰지 않습니다. 하지만 대부분의 사람들에게 비용은 중요합니다. 따라서 그들은 모든 사용자에게 솔루션을 제공해야 합니다.

Dylan Patel: xAI가 엘론의 다른 회사로 갈 가능성이 있을까 생각한 것은 언제였나요? 09:59 예, 오래전부터 소문이 돌았죠. 그렇죠. 사람들이 테슬라, 테슬라, 테슬라라고 말했었는데, 공공 회사에서는 더 어려울 것입니다. 10:05 예, 그렇죠. 그리고 얼마 전, 사람들이 스페이스X라고 말했었는데, 나는 기다려보자고 생각했습니다. 10:10 예, 10:10 그리고 매우 조직적으로, 이야기들이 나왔죠. 오, 예. 10:14 스페이스 데이터 센터와 같은 이야기들이요. 10:16 작년 말에요. 아니요, 완벽했습니다. 거의 완벽하게 예측된 것 같았습니다. 10:20 그렇죠, 거기에는 내기라는 것이 있어요. xAI의 컴퓨팅 책임자와 Anthropic의 컴퓨팅 책임자 사이에요. 그리고 내기는 세계적인 데이터 센터 용량 중에 우주에 있는 비율이 **28년**에 nào일까요? 그리고 기준은 **1%**입니다. 10:34 오, 와우. 그리고 xAI 측은 매우 낙관적이지만, Anthropic 측은 조금 더 멀다고 생각합니다. 예, 그렇죠. 10:40 그래서 그것은 매우 интерес있는 내기입니다. 나는 **1%** 미만으로 내기를 걸겠습니다. 왜냐하면 그것은 우주에서 기가와트를 의미하기 때문입니다. 예, 하지만 그것은 실제로 그렇게 미친 생각은 아닙니다. 10:48 예, 그것은 대략 **150**번의 스타십 발사에 해당합니다. 예, 우리는 그것을 **100**번의 발사로 기가와트를 우주에 올릴 수 있을 것입니다. 10:55 그래서, 스타십은 아직 작동하지 않았습니다. 10:57 예, 10:58 완전히 작동하지는 않습니다. 나는 현재 스타링크 플릿의 에너지 소모를 살펴보았고, 그것은 **200**킬로와트 정도인 것 같습니다. 그래서你们가 그 중 하나를 가져가면, **200**메가와트가 되고, 그것은 어떤 영역에 속하는지 생각해 볼 수 있습니다. 11:13 예, 그렇죠. 그래서 V2 스타卫星들은 아직 발사된 것이고, 아마 몇 개의 V3를 발사했을 수도 있지만, V3는 곧 출시될 것입니다. 그리고 그것들은 각각 **100**배 더 많은 대역폭을 가지고 있고, 더 많은 전력을 가지고 있습니다. 11:22 예, 그렇죠. 11:22 그리고 더 많은 전력을 가지고 있습니다. 그래서 나는 이것을 확대할 수 있을까 생각했을 때, 그것은 두 가지의 차이일 수 있습니다.

Dylan Patel: 그리고 스타링크 플릿의 에너지 소모를 살펴보면, 현재는 **200**킬로와트 정도입니다. 하지만 스타십을 사용하면, 그것을 **100**배 이상으로 늘릴 수 있을 것입니다. 그리고 그것은 **1%**의 목표에 도달하는 데 충분할 수 있습니다. 11:30 예, 그렇죠. 하지만 그것은 여전히 매우 큰 도전입니다. 스타십은 아직 완전히 작동하지 않기 때문입니다. 11:35 예, 그렇죠. 하지만 엘론은 이미 스타링크 플릿을 통해 우주에서 데이터 센터를 구축하는 데 성공했습니다. 그리고 그것은 매우 큰 성과입니다. 11:40 예, 그렇죠. 그래서 xAI의 컴퓨팅 책임자가 우주에서 기가와트를 달성할 수 있을지에 대한 내기는 매우 관심을 끌만한 것입니다. 그리고 그것은 기술의 발전에 대한 흥미로운 예측입니다.

11:29 3개의 차수인가요? 이것은 1개의 차수에서 벗어난 것 같습니다. 저는 H100과 비슷한 것을 실행하는 것으로 생각합니다. 11:35 저는 지표가 50이라고 생각합니다. V3의 경우에는 50킬로와트입니다. 아니면 1톤당 이런 것 같습니다. 11:41 예. 11:42 만약에 V3에서 컴퓨팅 것을 비교한다면, 다시 두 배로 늘어나면 100킬로와트에 도달할 수 있습니다. V2는 25킬로와트인 것 같습니다. 11:48 예. 11:48 예. 그래서 1톤당 100킬로와트에 도달한다면, 발사에는 **150**번의 스타십 발사만 있으면 됩니다. 예, 저는 이것이 매우 합리적이라고 생각합니다. 11:55 아마 **28**이 아니라 **29**번의 발사가 필요할 수도 있지만, 알고 보면 이것은 매우 합리적인 것입니다. 질문은 비용과 신뢰성, 칩이 고장 났을 때 어떻게 처리하는지, 서비스를 어떻게 하는지와 같은 것입니다. 클러스터가 더 작아지는 대신, 큰 클러스터를 어떻게 다루는지와 같은 것입니다. sogar 추론을 위한 클러스터도 유용합니다.

12:04 어떻게 구글의 Grok 또는 Eris TPU에 대한 대응을 생각하시나요? 분명히 매우 성공적이지만, 파레토 곡선의 더 많은 부분을 차지하기 위해 그 프로젝트를 분기시키고 있나요? 12:12 예. 12:12 예. 구글은 오랫동안 하나의 주요 TPU 라인을 가지고 있었습니다. 브로드컴에서 만든 것입니다. 그리고 다음 해에는 그것을 분기시켰습니다. 12:26 예. 그래서 브로드컴에서 TPU를 만들고, MTK에서 TPU를 만듭니다. 이 두 개의 TPU는 다른 것에 초점을 맞추고 있습니다. 12:35 예. 12:35 그리고 그것들은 TSMC에서 제조됩니다. 결국 모든 것이 Rackus로 갑니다. 12:42 예. 12:42 TSMC에서 제조됩니다. 12:45 저는 Rackus에 대해 다음으로 이동하고 싶습니다. 하지만 모든 것이 Rackus로 갑니다. 12:49 그래서 TSMC에서 제조됩니다. 하지만 이 두 개의 TPU는 다른 것에 초점을 맞추고 있습니다. 그리고 실제로 다른 종류의 TPU에 대한 세 번째 프로젝트도 있습니다. 또한 이 곡선을 따라 확산할 필요를 보는 것입니다. 예를 들어, 매우 높은 flop에 대해 관심이 있나요? 메모리에 대해 관심이 있나요?

13:04 예. 매우 빠른 온칩 메모리만을 원하는 경우에는 어떻게 할까요? **가속 컴퓨팅(Accelerated Computing)**과 **고대역폭 메모리(HBM)**의 발전이 어떻게 될지 interessant한 예측입니다. 구글의 TPU 전략은 **인공지능(AI)**과 **머신러닝(ML)**의 발전에 큰 영향을 미칠 것입니다. **클라우드 컴퓨팅(Cloud Computing)**과 **에지 컴퓨팅(Edge Computing)**의 발전도 관심을 끌만한 것입니다.

3D 스택킹 메모리에 관심이 있나요? 일반적인 목적의 중간 지대 **인공지능(AI)** 칩에 관심이 있나요? 예를 들어, **H100**, **Blackwell**과 같은 칩은 현재 **TPU**와 비슷합니다. 13:17 이러한 칩들은 Pareto 최적 곡선을 모두 만족해야 한다고 말합니다. 하지만, 훈련과 추론의 차이, 사용하는 숫자 등 복잡한 요소들이 있습니다. 이러한 복잡성으로 인해 각 회사는 충분한 규모에 도달하면 자신의 로드맵을 다르게 진행합니다.

구글은 여전히 데이터 센터 간 훈련에서 앞서있는가요? 그렇습니다. 다른 연구소들은 데이터 센터 간 훈련을 따라잡는 것이 중요하나요? 아니면 자연스럽게 commoditization이 일어날까요? 또는 다른 연구소들이 구글의 기술을 따라잡기 위해 대단한 노력을 해야 할까요? 13:55 그렇습니다. 2023년에 mọi人が 생각한 것은 스케일링이 사전 훈련이었다는 것입니다. 14:00 즉, 더 많은 매개변수와 더 많은 데이터를 사용하는 것입니다. 하지만, 이러한 작업을 데이터 센터 간에 분할하는 것은 매우 어렵습니다. 14:05 구글은 이러한 작업을 수행할 수 있었나요? 구글은 어느 정도 이러한 작업을 수행할 수 있었습니다.

구글은 개별 데이터 센터 캠퍼스가 가장 크지 않지만, 데이터 센터들이 서로 약 **40마일** 거리에 있는 지역을 만들었습니다. 14:20 예를 들어, 네브라스카, 아이오와, 오하이오에 이러한 복합시설을 가지고 있으며,現在 오클라호마와 텍사스에도 건설 중입니다. 이러한 복합시설에는 여러 개의 데이터 센터가 서로 가까이 위치해 있습니다. 14:29 따라서, 이는 전 세계적으로 데이터 센터 간에 작업을 수행하는 것이 아니라, 지역 내에서만 수행하는 것입니다. 14:34 이러한 접근 방식은 많은 어려움을 줄입니다. 반면에, 우리는現在 **강화 학습(RL)**으로 이동했습니다.

그래. 14:39 그리고 대부분의 시간에 칩은 데이터를 생성하는 데 소요됩니다. 그렇죠? 모델을 통해 전방 패스를 수행하는 것만으로도 충분합니다. 그렇습니다. 그리고 나서 검증된 최종 토큰만을 훈련에 사용하기 위해 훈련 데이터로 전송합니다. 14:53 그렇죠.그래서 결국에는 예를 들어, 사전 훈련에서 스케일링할 때마다 모든 가중치를 10초, 20초마다 동기화해야 하는 대신, 롤아웃을 수행하고 특히 훈련이 더 많이 진행될수록 에이전트가 되면 전체 가중치를 전송하는 대신 관련 토큰만 전송하면 됩니다. 15:08 그래서 훨씬 적은 양의 데이터이고 훨씬 덜 빈번하게 전송됩니다. 그렇죠. 맞죠? 몇 분마다 전송하는 대신 몇 초마다 전송하는 것입니다.그래서 이제는 멀티 데이터 센터 훈련이 완전히 합리적인 것으로 변했습니다. 예. 그리고 사람들은 멀티 데이터 센터 멀티 칩 훈련을 수행합니다. 15:23 확실합니다. 15:24 그렇죠? 여러분은 한 세트의 칩에서 추론을 수행하고 다른 세트의 칩에서 훈련을 수행합니다. 그래서 예를 들어, Anthropic은 이렇게 합니다. Google이这样 하는지 모르겠지만, Google은 이미 카드를 가지고 있습니다. 15:35 좋습니다. 알겠습니다. 이제 Aracus에 대해 이야기해 봅시다. 15:38 Aracus에 대해 이야기해 봅시다. 그냥 15:39 TSMC 위험이 병목 현상인지, 에너지가 병목 현상인지에 대한 논쟁이 있습니다. 제가 뒤로 계산을 해보니, 우리는全球 에너지 생산의 **1%** 또는 서구 에너지 생산의 **1%**를 AI에 특화된 워크로드에 사용하는 것 같습니다. 그리고 우리는 AI 워크로드에 regards에 **50%**의 선도적인 공정 용량을 사용하고 있습니다. 그래서 이는 괜찮아 보입니다. 우리 모두가 동의하고 사회적으로 AI에 전적으로 투자하기로 결정한다고 해도, 우리는 AI 칩 용량을 두 배로 늘릴 수 있을 것입니다. 그러나 새로운 공장을 지어야 합니다. 16:11 그것은 몇 년이 걸립니다. 반면에 우리는 모두 에어컨을 끄고 데이터 센터에 전기를 보낼 수 있습니다.

그래서 우리는 새로운 공장을 지어야 합니다. 16:22 박수를 치고 귀걸이를 끄는 것에 대해 16:24 에어컨을 끄는 것에 대해 말하고 있습니다. 16:26 클롭은 16:27 음식을 먹어야 합니다. 모든 할머니들을 위해 스트로크를 유지하세요. 예, 예, 나는 내 고양이 댄스 비디오가 필요합니다. 16:32 클로드에게 음식을 주어야 합니다. 맞죠? 하지만 하지만 하지만 진지하게 말해서, TSMC가 주요 병목 현상인지, 에너지가 병목 현상인지에 대한 논쟁이 있습니다. 이에 대해 어떻게 생각하시나요? 16:40 예, 예, 그래서 질문에 답하기 전에 사이드바를 열겠습니다. 왜냐하면 재미있기 때문입니다. 예, 미국에서는 에어컨을 끄고 AI에 전기를 보내는 것을 말하는 것이 어이없습니다. 16:47 예, 맞죠? 그리고 일반 대중은 이미 AI를 싫어합니다. 16:49 물론입니다. 16:50 하지만 대만에서는 가뭄이 있었고 도시 전체에 물을 끊었습니다. 그들은 물을 3일 동안만 받을 수 있다고 말합니다. 와우. 16:58 그리고 팹은 여전히 물을 공급받습니다. 이것은 와우입니다. 당신은 마음가짐을 이해해야 합니다. 우리는 이 일을 할 준비가 되지 않았습니다. 예, 맞습니다. 아니요, 하지만 결국에는 물과 전기가 더 큰 제약이 아니라는 것을 알 수 있습니다. 이제 반도체 산업은 매년 또는 2년마다 **트랜지스터의 수를 두 배로** 늘리는 데 익숙해졌습니다. 예, 이것은 **모어의 법칙**의 일부이고, **모어의 용량**의 일부입니다. 예, 반면에 미국의 에너지 산업은 그렇지 않았습니다. 그리고 그래서 초기에 사람들은 창의적이지 않았습니다. 그들은 가스 공장을 지어야 한다고 말했습니다. 하지만 지금은 아니요, 우리는 **가스 터빈**과 **사이클** 그리고 **IGT**를 사용할 수 있습니다. 그리고 우리는 또한 **중속 레시프로เค팅 엔진**을 사용할 수 있습니다. 예, 커민스는 **디젤 엔진 100만 대**를 생산할 수 있고, 그것으로 전기를 생산할 수 있습니다. 17:46 그것을 웨스트 텍사스에 설치하면 쉽습니다. 예, 그래서 이제는 더 이상 기술적인 문제가 아니라 **규제**와 **공급망**의 문제입니다.

진행자: Dylan Patel님, 에너지 산업과 반도체 산업의 병목 현상을 어떻게 생각하시나요? 
Dylan Patel: 에너지 산업은 더 이상 큰 제약이 아니라고 생각합니다. 이제는 규제와 공급망의 문제입니다. 우리는 새로운 기술을 사용할 수 있고, 더 많은 에너지를 생산할 수 있습니다. 하지만 규제와 공급망의 문제를 해결해야 합니다.

의미있는 단어와 숫자를 강조하면 다음과 같습니다. 
- **트랜지스터의 수를 두 배로** 늘리는 데 익숙해졌습니다. 
- **모어의 법칙**의 일부이고, **모어의 용량**의 일부입니다. 
- **가스 터빈**과 **사이클** 그리고 **IGT**를 사용할 수 있습니다. 
- **중속 레시프로케팅 엔진**을 사용할 수 있습니다. 
- **디젤 엔진 100만 대**를 생산할 수 있고, 그것으로 전기를 생산할 수 있습니다. 
- **규제**와 **공급망**의 문제입니다.

전력은 제약이 아니라는 점에서, 그렇습니다. 17:56 저는 여전히 오늘 제약이라고 생각합니다. 2425년 데이터 센터 용량 전력은 산업이 준비되지 않았기 때문에 가장 큰 제약이었습니다. 사람들은 깨어났습니다. 시스템에 충격을 받았습니다. 이제 수십 기가와트가 배치되고 있습니다. 18:10 내년에는 30기ガ와트가 추가되고 전력이 충분하다고 생각합니다. 와우, 올해는 얼마였죠? 18:20 18은, 10은, 15에서 18까지입니다. 18:21 죄송합니다. 거의 두 배입니다. 18:22 예, 거의 두 배입니다. 18:23 와우. 18:24 그리고 TSMC와 같은 회사들을 보면, 랜덤한 중속 레시프로케팅 엔진을 사용하여 전력을 생산할 수 있는 12개의 회사들이 있지 않습니다. 18:37 랙커스(Rackus)가 있습니다. 18:38 예. 18:39 정해진 규칙이 있습니다. 예, 하나의 SPICE 세트가 있습니다. 18:43 그리고 반대편에서는, 12개의 벤더가 있으면 모두 약간의 여유 용량이 있습니다. 터빈을 구입할 수 있습니다. 50% 더 비싸거나 2배 더 비싸더라도 터빈을 구입할 수 있습니다. 18:59 예. 18:59 3나노미터 공정의 **파운드리**를 구입할 수 없습니다. 19:01 3나노미터 공정의 파운드리를 구입할 수 없습니다. 정확히 그렇습니다. 그리고 반도체 부족이 '23년에 데이터 센터와 전력으로 바뀌었습니다. '24, '25, '26년에 우리는 여전히 진동하고 있습니다. 19:15 하지만 '27년에 반도체로 돌아올 것입니다. 예. 그리고 우리는 전체 생태계에서 이것을 봅니다. TSMC만이 아닙니다. 19:23 **메모리**도 마찬가지입니다.

진행자는 데이터 센터의 전력 제약에 대해 이야기하고 있습니다. 그는 전력이 여전히 제약이라고 생각하지만, 데이터 센터 용량이 증가하고 있습니다. 그는 또한 반도체 부족이 '23년에 데이터 센터와 전력으로 바뀌었지만, '27년에 다시 반도체로 돌아올 것이라고 생각합니다.

Dylan Patel: 데이터 센터의 전력 제약은 여전히 중요하지만, 반도체 부족이 더 큰 문제라고 생각합니다. 그는 TSMC와 같은 회사들이 반도체 생산을 증가시키고 있지만, 여전히 부족한 상황이라고 생각합니다. 그는 또한 **메모리**가 중요한 역할을 하고 있다고 생각합니다.

진행자는 데이터 센터의 전력 제약과 반도체 부족에 대해 이야기하고 있습니다. 그는 두 가지 모두가 중요하지만, 반도체 부족이 더 큰 문제라고 생각합니다. 그는 '27년에 반도체 부족이 다시 나타날 것이라고 예측하고 있습니다.

그 두 가지 모두가 일정한 속도로 건설되어 왔기 때문입니다. 지금 TSMC는 일정한 속도로 확장하고 있습니다. 음. **메모리** 제조업체는 사실 생산 능력을 확장하지 않았습니다. 기본적으로, 그들은 2022년 이후 새로운 공장을 지어오지 않았습니다. 네. 그들의 사이클이 너무 불규칙하기 때문입니다. 그렇습니다. 그래서 그것을 보면,哦, 即使 그들이 생산 능력을 두 배로 늘리려면 새로운 공장을 지어야 합니다. 네. 새로운 공장을 지어야 합니다. 그리고 공장을 지어야 합니다. 그것은 인간이 만드는 가장 복잡한 건물입니다. 그렇습니다. 그것은 깨끗한 방의 전체 공기가 1.5초마다 자신을 순환시킵니다. 정말요? 그리고 안에 있을 때에는 느끼지 못합니다. 정말로요? 그것은 부분당 십억 개입니다. 즉, 그것은 실제로 미친 것입니다. 누군가가 COVID-19에 감염되어 당신의 얼굴에 기침을 해도 감염되지 않는다는 것을 알 수 있습니다. 그래서 그것은 너무 빠르게 순환되어 당신에게 닿지 않습니다. 그것은เหมือน 그것은เหมือน 누군가가 말할 때 뿌리는 것과 같은 밈입니다. 그리고 그것은 순환됩니다. 그래서 다른 하나의 옆 이야기로, 모두가 COVID-19가 우한에서 실제로 발생했다는 것을 알고 있습니다. 네. 우한은 또한 중국에서 가장 큰 **메모리** 회사인 YMTC의 본거지입니다. 오. 그래서 그들이 집에 사람들을 용접할 때, 공장에서 일하는 사람들은 여전히 일했습니다. 와우. 그것은 첫째, 국가적으로 중요하기 때문입니다. 하지만 둘째, 이러한 사람들은 아프게 됩니다. 이 공장은 너무 깨끗합니다. 와우, 그것은 미치겠습니다. 네.

진행자는 오라클에 대해 이야기하고 있습니다. 오라클은 오늘 아침에 포스트를 올렸습니다. 그것은 도나 아나 카운티, 뉴멕시코, 샤클포드 카운티, 텍사스, 그리고 포트 워싱턴, 위스콘신의 데이터 센터에 대한 파트너 자금이 시장 표준 금리에서 확보되었으며, 최종 시드에 따라 일정에 따라 진행되고 있으며, 투자 등급 거래와 일치한다고 말했습니다. 진행자는 오라클의 데이터 센터에 대해 이야기하고 있으며, 그들은 자금을 확보하고 있습니다. 그는 **데이터 센터**와 관련된 이야기를 계속하고 있습니다. 그는 오라클의 데이터 센터에 대한 자금을 확보한 것에 대해 이야기하고 있습니다. 그는 **데이터 센터**의 중요성을 강조하고 있습니다.

显然, 그들은 어제 게시물을 통해 엔비디아와 오픈AI의 거래는 오픈AI와의 재정 관계에 영향을 미치지 않는다고 말했습니다. 우리는 오픈AI가 자금을 조달하고 의무를 이행하는 능력에 대해 매우 확신합니다. 그리고 모든 사람이 이것을 보면서, 마치 담배를 하나 주세요. 21:13 나는 담배를 피는 것을 좋아합니다. 이것은銀行의어체와 같습니다. 나는 FTX 이후로 이런 게시물을 본 적이 없습니다. 21:19 이것은 단지 나쁜 커뮤니케이션일까요, 아니면 걱정할 것이 있을까요? 이것은 끔찍한 커뮤니케이션입니다. 예, 예, 나는 오라클 컨텍스트에서 말했듯이, 누가 트위터를 담당하고 있나요? 당신은 무엇을 하고 있나요? 21:31 엔비디아는 작년에도 비슷한 일을 했습니다. TPU 광풍이 불던 때였습니다. 21:34 예, 그것은 구글의 TPU 진행 상황에 대해 매우 기뻤습니다. 그러나 엔비디아 칩은 유일한 것입니다. 21:46 예, 나는 몇몇 사람들이 당신의 DM에 있고 랜덤하지만, 그것은 당신이 댓글을 달았어야 한다는 것을 의미하지 않습니다. 21:51 그것은 자신감을 보여주지 않습니다. 21:52 그것은 사자에게 양이 걱정할 필요는 없습니다. 예, 그리고 오라클은 괜찮을 것입니다. 예, 사람들은 단지 오픈AI가 안드로믹이 매우 잘하고 있기 때문에 오픈AI에 대해 매우 부정적인 반응을 보이는 것입니다. 22:08 물론, 물론, 물론. 22:10 예, 나는 이것이 그냥 어리석은 것 같아요. 그들은 커뮤니케이션을 담당할 사람을 고용해야 할 것입니다. 예를 들어, 루루 같은 사람입니다. 오라클과 엔비디아 모두, 당신은 무엇을 하고 있나요? 22:19 예, 어제는 어떻게 보셨나요? 젠슨은 클립을 수집하고 있었습니다. 그는 왜 이런 거리 인터뷰를 하는지 모르겠습니다. 22:28 다른 CEO는 22:29 이런 인터뷰를 하지 않습니다. 그들은 einfach 마이크를 25개 가지고 있고 파파라치가 플래시를 합니다. 그것은 좋은 분위기입니다.

진행자는 젠슨의 인터뷰에 대해 이야기하고 있습니다. 그는 젠슨의 인터뷰 스타일이 다른 CEO와 다르다고 말합니다. 젠슨은 거리 인터뷰를 하는 것을 좋아하며, 이것은 다른 CEO가 하지 않는 것입니다. 진행자는 젠슨의 인터뷰 스타일이 좋지 않다고 생각합니다. 그는 젠슨이 인터뷰를 할 때 너무 많은 마이크와 파파라치가 있다는 것을 지적합니다.

진행자는 오라클과 엔비디아의 커뮤니케이션에 대해 이야기하고 있습니다. 그는 두 회사가 커뮤니케이션을 잘하지 못한다고 생각합니다. 그는 두 회사가 커뮤니케이션을 담당할 사람을 고용해야 한다고 말합니다. 진행자는 두 회사의 커뮤니케이션 스타일이 좋지 않다고 생각합니다. 그는 두 회사가 더 좋은 커뮤니케이션을 위해 노력해야 한다고 말합니다.

진행자는 오픈AI와 관련된 뉴스에 대해 이야기하고 있습니다. 그는 오픈AI가 현재 많은 관심을 받고 있지만, 이것은 오픈AI의 성과에 대한 부정적인 반응일 수 있다고 말합니다. 그는 오픈AI가 안드로믹과 비교될 때 부정적인 반응을 받을 수 있다고 생각합니다. 진행자는 오픈AI의 성과에 대해 더 많은 정보를 원합니다. 그는 오픈AI의 성과에 대한 더 많은 분석을 원합니다.

22:35 젠슨은 다른 CEO들보다 오래전부터 유명하지 않았지만, 지금은 매우 중요해졌습니다. 예. 젠슨을 잘 안다면, 회의에서 그가 어떻게 행동하는지 알 수 있습니다. 제가 느끼기에는 두 가지 젠슨이 있는 것 같습니다. 맞습니다. 22:49 하나는 PR에 능숙한 젠슨으로, 사람들을 설득하고 열광하게 만드는 데 매우 뛰어납니다. 그는 무대 위에서 칩을 들고 설교하는 데 매우优秀합니다. 그리고 실제 젠슨은 비즈니스에서 매우 뛰어나고, 공급망의 모든 측면을 잘 알고 있습니다. 예를 들어, 니치 반도체 디자인과 제조부터 에너지, 파워, 데이터 센터까지 모든 것을 잘 알고 있습니다. 그리고 비즈니스 거래도 잘합니다. 맞습니다. 그래서 그는 매우 다양한 분야에서 뛰어나고, 비즈니스에서 매우 강합니다. 예. 그리고 그는 회의에서 협상을 Doing하고 공급 계약을 체결하는 등 비즈니스에서 매우 강한 사람입니다. 23:15 그리고 그는 회의에서 나와서,

그는 매우 뛰어난 비즈니스맨입니다. 23:30 그리고 그가 밖으로 나오면, 그가 협상을 Doing하고 있는 모습이 매우 재미있게 보입니다. 예. 제가 추론하건대, 그는 매우 뛰어난 비즈니스맨입니다. 23:34 하지만 저는 그것을 좋아합니다. 예. 그것은 매우 훌륭합니다. 23:36 그리고 그가 "킬러"라고 불리는 이유는, 그는 매우 강하고, 비즈니스에서 매우 뛰어난 사람입니다. 예. 그리고 그는 "$100,000,000,000"라는 숫자를 어디서 얻었는지 모르겠습니다. 23:42 그리고 그가 CNBC에 출연하여 큰 발표를 했기 때문에, 그것은 매우 큰 문제입니다. 그리고 그것은 "도기 푸딩 쇼"라고 불리는 프로그램이었습니다. 23:51 저는 그것이 사실이라고 가정합니다. 하지만 그들은 보도 자료에서 초기 협상을 언급했습니다. 예. 하지만 그들은 너무 성급하게 발표했습니다.

23:58 이것은 보도 자료 경제의 최고점이었습니다. 24:01 재미있는 것은 오라클의 주가가 오픈AI 거래를 발표한 지 일주일 후에 최고치에 달했다는 것입니다. 예. 그리고 오픈AI가巨大한 거래를 할 것이라는 보도 자료가 발표되자, 주가는 최고치에 달했습니다. 24:12 예.

오픈AI나 엔비디아와 거래를 발표한 다른 업체에서도 같은 일이 일어났습니다. 예를 들어, 이런 업체들은 모두 최고치에 달했다가 이제는 엔비디아와 오픈AI의 거래가 잘되지 않는 것처럼 보입니다. 예. 그리고 TPU, 앤트로픽, 구글, 아마존 복합체는 잘 돌아가고 있습니다. **24:28** 예. 매우 흥미로운 것은 **24:30** 이 에너지가 집에서 룸메이트들과 함께 좋다는 것입니다. **24:33** 무엇이 일어나고 있는지, 원하는 것이 무엇인지, **24:36** 예, 하나 더 있습니다. 주말에 모든 정의부 관련 소식으로 묻혀 버렸지만, **24:47** 하지만 엘론이 파브에서 시가를 피울 수 있다고 말한 것을谈하지 않았나요? 아니요. 예. **24:52** 예, 제가 말하려던 것은 이것이 전체적으로 관련이 있다는 것입니다. **24:55** 예, 실내 히터 기술이 있습니다. 하지만 아무도 利用하지 않고 있습니다. **25:01** 파브 안에 사람이 없다면, 파브는 어떤 모습일까요? 그것이 그의 장기적인 목표일 것입니다. **25:08** 하지만 파브에서 일하는 사람의 수는 중요하지 않습니다. **25:11** 예, 하지만 그것은 사람이 있을 때 해야 하는 많은 일들 때문에 중요하지 않습니다. 사람들은 땀을 흘리고呼吸하기 때문에, 로봇이 걸어다니면, 즉 제어되거나 원격으로 작동한다면, 다른 고려 사항을 가질 수 있습니다. **25:25** 하지만 그것이 실제로 영향을 미치는지 모르겠습니다. 그것은 깨끗함의 중첩입니다. 예를 들어, 웨이퍼에 구리 등을 묻은 다음, 다른 영역으로 이동할 때, 진공이나 불활성 가스에서 보관해야 합니다. **25:32** 그리고 그것이 운송되는 것입니다.

파브에서 사람이 없다면, 이러한 고려 사항이 달라질 수 있습니다. 예를 들어, 웨이فر를 처리할 때, 사람이 없으면 더 깨끗한 환경을 유지할 수 있습니다. **25:40** 하지만 그것이 실제로 생산성이나 품질에 영향을 미치는지에 대해서는 더 연구가 필요합니다. 엘론의 발언은 파브의 미래에 대한 그의 비전을 보여주는 것입니다. **25:45** 그는 파브에서 사람이 없는 미래를 상상하고, 그것을 가능하게 하는 기술을 개발하고자 합니다. **25:50** 하지만 그것은 아직 먼 미래의 이야기일 수 있습니다. 현재의 기술과 제조 공정은 여전히 사람이 필요합니다. **25:55** 하지만 엘론의 발언은 파브의 미래에 대한 관심을 끌었습니다. **26:00** 그의 비전은 파브의 자동화와 로봇 기술의 발전에 영향을 미칠 수 있습니다.

25:41 하지만 그 주변에는 매우 깨끗한 환경이 필요합니다. 그렇지 않으면 구리(copper)가 산화되기 시작하고, 수율(yield)에 영향을 미치게 됩니다. 25:49 이러한 문제가 발생하기 때문에, 중첩된 계층구조를 갖는 것이 중요합니다. 예를 들어, EUV 도구 내부의 이 체인이나 장치가 매우 깨끗한 환경에서 작동해야 하며, 이를 공급하는 시스템도 매우 깨끗해야 합니다. 또한, 이러한 시스템이 설치되는 환경도 매우 깨끗해야 합니다. 25:55 왜냐하면 이러한 깨끗한 환경이 제로 파티클(Zero Particles)을 달성하는 데 중요하기 때문입니다.

FOUP(Front Operated, Front Opening Pod)와 같은 운송 장치에서 parts per trillion의 수준으로 깨끗해야 하며, 파브(fab)에서는 parts per billion의 수준으로 깨끗해야 합니다. 이러한 중첩된 깨끗한 환경이 중요합니다. 26:15 저는 로봇 기술에 대해 매우 낙관적입니다. 하지만 TSMC의 아리조나 파브나 타이난 파브와 같은 대규모 파브에서는 로봇의 적용이 제한적이라고 생각합니다. 이러한 파브에서는 수천 명의 인력이 고용되어 있으며, 수십억 달러의 경제 가치를 창출합니다.

26:40 이러한 파브의 규모는 로봇 기술의 적용과 비교할 때 상대적으로 작습니다. 26:48 로봇 기술의 적용은 세탁이나 건설업과 같은 분야에서 더 큰 시장과 가치를 창출할 수 있습니다. 26:57 이러한 시장은 로봇 기술의 발전에 더 큰 기회를 제공합니다.

중국에 대해 말하자면, 다리오의 에세이나 다보스에서 한 발언에 대해 어떻게 생각하시나요? 그는 중국에 칩을 판매하는 것은 요즘 핵무기와 같은 것이라고 말했습니다. **벤 톰슨**의 발언은 칩을 판매하는 것은 괜찮지만, 그는 중국에 리소그래피 도구의 수출을 금지하고 싶다고 했습니다. 그리고 나는 중국이 이를 받아들일지 모르겠지만, 미국의 **LLM API**에 의존하게 하고 칩을 보내지 않는 다른 세계가 있지 않을까 생각했습니다. 그리고 나는 중국에게 "네, AI를 원하는 만큼 사용해도 되지만, **OpenAI**와 **Anthropic API**를 사용하기 위해 돈을 지불해야 한다"고 말할 수 있습니다.

이것은 중국이 받아들이는 것의 한계를 나타내는 곡선과 같습니다. 누군가를 구석으로 밀어붙이면, 그들은 결국 반격을 할 것입니다. 중국이 이렇게 할까 걱정입니다. 중국을 너무 구석으로 밀어붙이면, 그들은 더 공격적인 행동을 할까요? 더 많은 군사적인 행동을 할까요? 아니면 글로벌 공급망에 더 많은 투자를 할까요? 아프리카나 라틴아메리카를 더 많이 장악할까요? 아니면 타이완을 장악할까요? 타이완이 현재의 상태로 존재하는 가치는 무엇일까요?

게임 이론적인 측면에서 볼 때, 중국이 AI 기술을 소유하는 것을 원하지 않습니다. 특히 AI가 인류를 혁신하고 경제 성장률을 가속화할 것이라고 생각하는 사람들의 관점에서 볼 때, 중국이 이 기술을 소유하는 것을 원하지 않습니다.

그리고 모든 면에서 볼 때, 중국은 군대와 다른 모든 것에 통합하는 능력이 훨씬 빠르다는 것을 알 수 있습니다. 예. 28:43 그렇습니다. 28:47 이러한 경쟁적인 관심사들이 있습니다. 28:47 어디에 적절한 선이 있는가요? 어떤 사람들은 중국에 AI 모델을 판매하는 것이 좋다고 생각합니다. 다리오(Dario)가 말하듯이, AI 모델 접근 권한을 판매하지 마십시오. 28:54 토큰을 판매하지 마십시오. 예. 안트로픽(Anthropic)은 중국에 AI 접근 권한을 판매하지 않는다고 생각합니다. 예. 그들은 데이터를 통해 이를 확인할 수 있습니다. 29:01 한국을 통해 29:02 그리고 예. 29:02 예. 다른 장소도 있습니다. 하지만 다른 측면은 벤 톰슨(Ben Thompson)의 견해와 유사합니다. 29:09 그리고 저는 더 공감하는 편입니다. 예. 하지만 저는 정확히 같은 줄에 서 있지 않습니다. 즉, 중국에 장비를 판매하지 마십시오. 장비를 판매하지 마십시오. 29:18 제 견해는 더 경제적인 측면에서입니다. 즉, 수십억 달러의 장비를 판매하면 그들은 수백억 달러의 가치가 있는 AI 또는 칩을 만들 수 있습니다. 예. 하지만 AI 모델 접근 권한을 판매하면 그들은 경제적으로 더 많은 비용을 지불해야 하므로 29:32 더 많은 가치를 창출할 수 없습니다. 29:33 정확합니다. 따라서 이는 여기서 질문되는 문제입니다. 즉, 중국이 공급망의 모든 가치를 포착하도록 하시겠습니까? 29:41 예. 29:41 장비 또는 칩을 구매하거나 모델 및 서비스를 사용하여? 우리는 여러 스택에서 중국이 미국 생태계를 사용하는 것을 거부하고 몇 년 동안 기다렸다가 자체적으로 개발한다는 것을 보았습니다. 예. 29:57 윈도우를 사용하지 않았고, 불법 복제 경제를 만들었습니다. 예.

중국은 자체적인 기술을 개발하기 위해 많은 시간과 노력을 투자할 것입니다. 하지만 미국이 중국에 기술을 제공하면, 중국은 더 빠르게 발전할 수 있습니다. **중국은 이미 많은 기술을 습득**했으며, 미국이 중국에 더 많은 기술을 제공하면, 중국은 더 강력해질 것입니다. 따라서 미국은 중국에 기술을 제공할 때 매우 주의해야 합니다. **수십억 달러**의 장비를 판매하면 중국은 **수백억 달러**의 가치가 있는 기술을 개발할 수 있습니다. 미국은 중국에 기술을 제공할 때, 중국이 더 많은 가치를 창출하도록 허용해서는 안 됩니다.

중국은 이미 많은 기술을 습득했으며, 미국이 중국에 더 많은 기술을 제공하면, 중국은 더 강력해질 것입니다. 미국은 중국에 기술을 제공할 때 매우 주의해야 합니다. **AI 기술**과 **가속 컴퓨팅(Accelerated Computing)**을 포함한 많은 기술이 중국에 제공되면, 중국은 더 빠르게 발전할 수 있습니다. 미국은 중국에 기술을 제공할 때, 중국이 더 많은 가치를 창출하도록 허용해서는 안 됩니다. 미국은 중국에 기술을 제공할 때, 매우 신중하게 고려해야 합니다. **안전성**과 **보안**을 고려해야 하며, 중국이 더 많은 기술을 습득하지 못하도록 해야 합니다.

그들은 Visa를 사용하지 않았고 결국 Alipay와 WeChat Pay라는 것을 만들어냈죠. 맞아요. **30:06** 그리고 이러한 것들은 실제로 Visa보다 더 좋습니다. 맞아요? 거래 비용이 낮고 거래량이 더 많습니다. **30:11** 레드 스타 리눅스(Red Star Linux)를 사용해 본 적이 있나요? 그것은 북한의 리눅스 머신입니다. 정말吗? 예. **30:16** 만약에 네트워크에 연결하면 즉시 호출합니다. 그래서 방화벽 네트워크에 연결해야 합니다. 그렇지 않으면 모든 것을 즉시 도용합니다. **30:24** 저는 TempleOS의 팬입니다. **30:26** 예. 알겠습니다. Doug O'Laughlin은 클로드 코드(Claude Code) 정신병에 걸렸나요? **30:35** 예. 클로드 코드는 코더를 위한 것입니다. 아니요. 클로드 코드는 코딩을 하지 않는 사람들을 위한 것입니다. 예. 맞아요. 그것이 올해의 큰 실현입니다.

저는 Doug O'Laughlin이 반분석(semi analysis)에서 두 번째로 높은 직위인 사장입니다. 예. 그는 제 친구입니다. **30:54** 그는 실제로 제게 서브스택(Substack)을 만들도록 격励한 사람입니다. 예. 오래 전부터요. 이전에는 무엇을 했나요? 저는 워드프레스 블로그를 운영했습니다. **31:02** 오, 알겠습니다. **31:03** 그리고 저는 상담을 했지만, 제게 서브스택을 하라고 말했습니다. 왜냐하면 그는 그것으로 돈을 벌고 있었고, 저는 그것이 더 좋다고 생각했습니다. **31:08** 예. 여러 번 그는 뭔가를 썼고, 저는 더 잘할 수 있다고 생각했습니다. **31:11** 저는 보여주겠습니다. **31:15** 그리고 우리는 서로 많은 것을 가르쳤고, 우리는 좋은 친구가 되었습니다. 예. 그리고 결국 그는 반분석에 합류했습니다. 예. 하지만 그의 배경은 헤지 펀드 분석가였습니다. **31:25** 예.

그리고 그는 서브스택(Substack)을 하다가 대륙 분리 트레일(Continental Divide Trail)을 6개월 동안 걸어墨西코에서 시작해서 걸었다가 다시 서브스택킹(Substacking)을 시작했습니다. **31:35** 6개월 동안 草을 만지고 나서 클라우드 코드(Cloud Code)에 집중하기로 했습니다. 예. 그리고 지금 그는 소프트웨어 개발자가 아니었지만, **31:44** 한 세대가 지내는 동안 많은 것을 경험했습니다. 예. 그는 코드를 작성하지 않고 클라우드에게 일을 시키는 것만으로 충분합니다. 예. 우리의 데이터 책임자와 IT 책임자는 그에게 자료를 요청하면, 그는 어떻게 해야 하는지 모르고 그냥 전체를 압축해서 보내줍니다. **31:56** 로컬 호스트(Local Host)처럼요. 예. 그는 한 번에 로컬 호스트를 보내줍니다. **32:01** 형, 이렇게 안 됩니다. 하지만 **32:03** 예. 비브코드(VibeCode)의 몇몇 사람들과 이야기했는데, 그들은 노드 제이 에스(Node.js)를 왜 선택했냐고 묻습니다. 그리고 그들은 노드 제이 에스가 무엇인지 묻습니다. **32:08** 그리고 저는 매우 구체적인 조언을 했습니다. 누군가? 예. 타일러(Tyler)가 아니었지만, **32:12** 우리는 많은 고객을 방문했습니다. 대략 우리의 사업 중 절반 또는 40%는 헤지 펀드(hedge funds)입니다. 그래서 우리는 뉴욕에 가서 1주일 또는 2주 전에 모든 고객을 방문했습니다. **32:25** 그리고 일부 고객은 오픈艾(OpenAI)가 망했는지 묻습니다. 예. 그리고 저는 아니라고 대답했습니다. 그리고 일부 고객은 실제 아이디어를 제안했습니다. **32:32** 그리고 일부 고객은 더그(Doug)가 클라우드 코드에 대해 설명합니다. 예. 클라우드 코드는 더 이상 주니어 헤지 펀드 분석가들을 고용할 필요가 없다고 합니다. 주니어 헤지 펀드 분석가들은 더 이상 필요하지 않습니다. 그리고 더그는 그들에게 클라우드 코드가 무엇을 할 수 있는지 설명합니다.

그것은 마치, 글쎄, 클라우드 코드에서 금융 모델과 프로 폼 모델을 만들 수 있고, 모든 것을 클라우드 코드에서 할 수 있다는 뜻입니다. 예, 엑셀을 열지 않고도 할 수 있습니다. 예, 차트를 생성할 수 있고, 코드를 알 필요가 없습니다. 예, 그냥 이런 것들이 일반적으로 어떻게 작동하는지 알면 할 수 있습니다. **32:49** 그리고 차트를 생성할 수 있고, 코드를 알 필요가 없습니다. 예, 그냥 이런 것들이 일반적으로 어떻게 작동하는지 알면 할 수 있습니다. **32:56** 상황 인식에 대한 거래를 복사하려는 헤지 펀드가 얼마나 많은가요? 글쎄, 저는 많은 헤지 펀드가 인공지능을 믿는다고 생각합니다. 하지만 명확히 말하자면, 믿지 않는 헤지 펀드도 많습니다. 하지만 가장 잘한 헤지 펀드들은 **33:12** 왜 소프트웨어를 모든 곳에서 판매하고 있나요? **33:15** 아, 소프트웨어 주식을 판매한다는 뜻인가요? 예, 그렇습니다. 그렇다면 왜 판매하나요? **33:19** 글쎠, 당연히 점진적인 것입니다. 하지만 어쨌든, 이러한 헤지 펀드들은 믿는다고 하지만, 거래를 어떻게 구체화할까요? 그리고 생태계를 살펴보면, 저의 고객들은 2년 후에 숫자가 너무 높다고 생각합니다. **33:37** 하지만 레오폴드의 경우에는 숫자가 너무 낮다고 생각합니다. 그래서 일반적으로 말하자면, 인공지능에 대한 믿음과 정보에 대한 접근성이 얼마나 되는지에 따라 거래를 구체화합니다. **33:50** 산호세에서 살고, 인공지능을 완전히 이해하는 헤지 펀드는 많지 않습니다. 그리고 인공지능에 대한 믿음에 따라 거래를 구체화합니다. **33:58** 음, 그렇습니다. **33:58** 더 많은 헤지 펀드들이, 심지어 작은 회사들이, "이 인공지능이 큰 것으로 보인다. 우리가 샌프란시스코에 사무실을 열거나 인력을 고용해야 할까?"라고 생각하지 않는다는 것이 놀랍지 않나요? **34:07** 또는 고용한다면? **34:08** 사람들은 많습니다. 그래서 우리는 사무실을 마련하고 있습니다.

레오폴드, 나 자신, 우리의 자금과 그러한 다음에私の클라이언트, 또 다른 헤지 펀드입니다. **34:17** 좋습니다. **34:17** 그리고 그들은 여기 한 명의 분석가를 두고 있고, 그것은 마치 Mhmm과 같습니다. 그리고 여기서 분석가를 고용하는 다른 헤지 펀드들이 몇 개 있습니다. 하지만, 당신이 알다시피, AI 생태계에 연결되어 있다는 것은 단순히 샌프란시스코에 있는 것만을 의미하지 않는다는 것입니다. 왜냐하면 당신은 그냥 걸어 다니며_startup_과 _VC_와 같은 사람들과 이야기할 수 있기 때문입니다. 그리고 실제로 무엇이 파이프라인을 통해 나오고 있는지 보지 못합니다. 그리고 당신은 모든 종류의 정보와 그것을 결합해야 합니다. **34:35** 맞습니다? 당신은 아시아의 공급망에서 무엇이 일어나고 있는지에 대해 좋은 감각을 가지고 있어야 합니다. 당신은 뉴욕에서 무엇이 일어나고 있는지에 대해 좋은 감각을 가지고 있어야 합니다. 당신은 금융 시장에서 무엇이 일어나고 있는지에 대해 좋은 감각을 가지고 있어야 합니다. 그리고 그러한信用 시장과 데이터 센터 에너지와 같은 모든 산업에서 무엇이 일어나고 있는지에 대해 좋은 감각을 가지고 있어야 합니다.

그리고 그래서 그것은 실제로 AI에서 무엇이 일어나고 있는지에 대해 감각을 가지고 있는 것이 그렇게 간단하지 않습니다. Mhmm. 당신은 쉽게 속아질 수 있습니다. Mhmm. 맞습니다? **34:59** Mhmm. 가장 긴 시간 동안, 당신은 생각했습니다. 아도브가 인공지능 회사라는 것을 알고, 예. 그리고 그것은 조금처럼, 오, 아도브는 인공지능에서 하락하고 있었고, 그러다가 몇 가지 인공지능 기능을 출시했고, 주가는 하늘을 찌르며 올랐습니다. 그리고 **35:09** 지금은 다시 하락하고 있습니다. 왜냐하면 사람들이 실망하여, 오, 기다려. 실제로 그것은 인공지능 회사가 아닙니다. 예, 저는 그것이 실제로 세계가 어떠한 모습일지에 대한 구체화와 생각을 나타낸다고 생각합니다. 안트로픽이 올해 수익을 세 배로 증가시키고, 오픈AI가 올해 수익을 두 배로 증가시키거나, 또는 연말까지 AI 스타트업의 수익이 **10억 달러**를 넘어갈지에 대한 것입니다.

저는 그것이 많은 사람들에게 미친 말이라고 생각합니다. 그러나 그것이 실제로 될 것입니다. **35:34** 예. **35:34** 맞습니다? 그리고 누가 그 숫자를 믿는가? 맞습니다? 그것은 매우 적은 사람들의 생각입니다. **35:37** 그리고 그러면 당신은 연속성을 그립니다.

그것은 누가 그 숫자를 믿는지와 같은 것입니다. 앤트로픽(Anthropic)이 자금 조달에서 말했듯이, "우리는 10년 말까지 **300억 달러**의 수익을 달성할 것입니다." 그리고 실제로 저는 그 숫자가 너무 낮다고 생각합니다. 왜냐하면 그들이 창조할 경제적 가치는 엄청날 것이기 때문입니다. **35:56** 그리고 사람들이 말합니다. "훌륭합니다. 오픈AI는 2028년까지 **18ギガ와트** 또는 **16ギ가와트**를 달성할 것이고, 그들을 위해 지불할 수 있을 것입니다." 그리고 그것은 "**300억 달러**의 지출입니다. 어떻게 지불할 것인가?" 그것은 마치, 당신은 단순한 아이입니다. **36:09** 걱정하지 마십시오. 샘은 자금을 조달할 수 있습니다. 그들은 수익에서 폭발할 것입니다. 그들은 괜찮을 것입니다. 옳습니다?

그것은 약간의 분위기와 같은 것입니다. 그것은 약간의, 당신이 알기 때문에, 비이성적 열광과 거의 같습니다. 옳습니다? 레오폴드(Leopold)는 20대 중반입니다. 저는 29살입니다. **36:22** 우리는 비이성적입니다. **36:23** 옳습니다? 왜냐하면 우리는 getthese.com과 같은 것을 경험하지 않았기 때문입니다. 이러한 PM들은, 당신이 원하는 대로, 절대 겸허하지 않습니다. **36:27** 당신은 결코 겸허하지 않았습니다. **36:30** 저는 모릅니다. 저의 가족은 거의 2008년에 파산했습니다. 저는 모텔에서 살았고, 우리는 거의 압류되었습니다. 그리고 실제로 우리는 한 모텔에 대해 압류되었습니다. 그것은 꽤 나빴지만, 저는 아직 아이였습니다. 옳습니다? **36:40** 저는 결코 겸허하지 않았습니다. 아니요. **36:41** 그것을 경험하고, 어떻게 일이 잘못될 수 있는지 이해하는 것은 좋습니다. 그것은 흥미롭습니다. 저는 올해 Zoc와 Meta에서 무엇을 기대하는지 궁금합니다. 우리는 큰 Zoc 옹호자였습니다. 특히, "Meta는 너무 많은 것을 지출하고 있지만, 아직도 어떤 인상적인 AI 제품이나 실제로 작동하는 제품을 만들지 못했다"는 압력이 있습니다. 그리고 우리의 입장은 일반적으로 Meta가 AI에서 거의 모든 회사보다 더 많은 돈을 벌고 있다는 것입니다. **37:11** 그래서, 물론, Zoc는 그것이 실제이고, 큰 것이라고 말해야 합니다. 저는 그것을 믿고, 모든 것을 투자할 것입니다. **37:19** 옳습니다.

저는 최근의 실적을 보면 명확합니다. 음, 저는 그들의 CPM이 9% 증가했을 때 소비자가 약한 것을 의미합니다. 즉, 광고의 CPM이 소비자 지출 증가에 대한 효과와 알고리즘의 효과를 분리하려는 경우, 알고리즘이 한 분기에 두 자릿수 개선된 것입니다. 예, 맞습니다? 실제로 알고리즘이 광고에서 사용자를 대상으로 하는 것이 얼마나 좋은지 놀랍습니다. 따라서 이러한 의미에서 큰 소음이 발생합니다. 저는 그것을 좋아합니다. 우리는 모두 그 농장에 전부를 투자할 것입니다.

저는 메타가 어디서 승리할지 생각해 본 적이 있습니다. 저는 갤럭시 브레인 테이크를 가지고 있다면, 그들은 파이프라인에 최고의 웨어러블을 가지고 있습니다. 그들은 웨어러블에 AI를 탑재할 것입니다. 애플은 웨어러블에 좋은 AI를 탑재할 수 없으므로 모두 구글이나 다른 사람들에게 넘겨줄 것입니다. 다른 사람들은 AI가 개선됨에 따라 실제 세계 경험의 가치가 증가할 것이라는 내러티브를 가지고 있습니다. 하지만 실제로 실행해 보면, AI가 개선되면 더 효과적으로 사용자에게 맞춤형으로 제작된 콘텐츠가 더 많아지고, **100배**, **1,000배**, **1백만 배** 더 많은 콘텐츠가 생성되어 사용자가 디지털 제품을 더 많이 사용하게 될 것입니다. 이는 메타의 사이트에서 더 많은 시간을 보낸다는 것을 의미합니다. 따라서 저는 모릅니다.

저는 완전히 동의합니다. 하지만 갤럭시 브레인의 관점은 단지 웨어러블을 가지고 있고, 그 안에 AI 어시스턴트가 있다는 것입니다. OpenAI도 웨어러블을 만들려고 합니다. 구글도 마찬가지입니다. 모두 웨어러블을 만들려고 합니다.

메타는 실제로 실행할 것이고, 그들은 좋은 AI를 가질 것입니다. 그리고 몇 가지를 쌓는다는 것입니다. 그렇죠? 사용자를 어떻게 얻을까요? 사용자 지표 차트를 보면, 구글의 사용자 수는 증가했습니다. OpenAI의 사용자 수도 증가했습니다. 1조에 이를 것이라고 예상했습니다. 하지만 지난 분기에 왜 증가하지 않았을까요? 그것은 나노 바나나가 출시되어 모든 증분 사용자를 가져갔기 때문입니다. 그리고 마찬가지로, Gemini 3는 구글의 사용자 수를 많이 증가시키지 못했습니다. 나노 바나나와 프로 또는 다른 것이 사용자 수를 크게 증가시켰습니다. 메타는 Midjourney의 코드, 데이터, 모델을 모두 라이선스했습니다. 하나, 둘, 그들은 실제로 하드코어로 집중하고 있습니다. 그것은 **10억 달러** 이상의 거래였나요? 금액은 공개되지 않았습니다. Midjourney는 여전히 회사로 존재합니다.

저는 그것이 효과적으로 거대한 출구였지만, 최고의 시나리오에서 그들은 계속해서 예술가로 남을 수 있다고 생각합니다. 저라면, 저는 그것이 **1억 달러** 이상일 것이라고 예상할 것입니다. 메타가 한 모든 거래는 **10억 달러** 이상이었습니다. 기본적으로, 그것은 고용 계약, 라이선스 거래, 인수 등 모든 것이었습니다. interessant한 것은 메타가 컴퓨팅을 위해 다운 마켓으로 이동했다는 것입니다. 큰 거래에서 충분한 컴퓨팅 파워가 없기 때문입니다. 그들은 실제로 작은 클러스터를 구입했습니다. 그것은 더 많은 컴퓨팅 파워를 원하기 때문입니다.

그것은 **장기尾 클라우드**로부터 왔습니다. 예, 더 긴 꼬리에서 왔습니다. 그렇습니다. 메타는 interessant한 방식으로 컴퓨팅 파워를 얻고 있습니다. 모든 논의는 이 사람을 고용하거나 이 회사를 사는 데 얼마나 많은 **10억 달러**를 사용할 것인가에 관한 것입니다.

그것은 그들이 필요한 컴퓨팅 파워를 얻을 수 있는 유일한 곳이기 때문입니다. interessant합니다. 왜냐하면 메타는 이미 Google과 Core Weave와 같은 큰 거래를 체결했기 때문입니다. 클러스터 맥스 3은 산업의 통합으로 인해 더 작은 차트가 될 것인가? 아니요, 더 크게 될 것입니다. 더 크고 더 크고 더 크게 될 것입니다. 하지만, 당신은 알고 있듯이, 메타는 generative를 통해 소비자를 확보할 것입니다. 음, 사람들은 더 많은 콘텐츠가 있다면 콘텐츠 마켓플레이스에 갈 것입니다. 그렇습니다. 콘텐츠의 제작자가 콘텐츠 제작자가 많아지고 콘텐츠의 다양화가 증가함에 따라 콘텐츠 제작자는 더 적은 가치를 획득합니다. 그렇습니다. 그래서 메타는 플랫폼으로 존재함으로써 승리합니다. Google도 그렇고 ByteDance도 그렇습니다.

그들은 플랫폼을 가지고 승리합니다. 그리고 실제 질문은, 그들이 어시스턴트 생산성 게임에 참여할 수 있을까입니다. 음, 그리고 나는 이것이 효과적으로 **검색**과 같습니다. 어시스턴트라는 것은 어떤 거래가 발생한다는 것을 의미합니다. 메타는 Google에서 사람들을 빼내고 비슷한 크기의 거래를 체결했습니다. 예, 연구원들이었습니다. 그리고 나는 항상 데모를 하는데, 메타는 당신이 세상을 돌아다니며 어떤 헤드폰인지 보는 것을 원합니다. 그리고 우리가 이야기하는 동안, 나는 작은 버튼을 클릭하고 그것을 구매할 수 있습니다. 그렇습니다. 그리고 당신은 그것이 일어났는지조차 모를 것입니다.

하지만 메타는 당연히 그것을 알고 싶을 것입니다. 그것은 **Sony MDR XU 272 462**입니다. 나는 그것에 대해 적절한 마케팅을 해야 한다고 계속 말해왔습니다.

브랜딩에 관해서는, 42:12 그것은 거의 w h x 1,000 x m fünf와 같으며, 그것은 미쳤습니다. 그리고 그들의 이어폰은 w f one x x m 1,000과 같으며, 그것은 그냥 브라비아 버즈(Bravia buds)나 브라비아 헤드폰(Bravia headphones)이라고 불러야 합니다. 42:25 중국은 그냥 무엇을 했나요? 42:27 소니 브랜드를 샀나요? 예, 브라비아 브랜드는 실제로 중국 회사이며, 소니는 그들의 **TV**와 **PlayStation** 버즈를 판매했습니다. 예, 예, 플레이스테이션, 워크맨, 어떤 것, 확실히.

어쨌든, 조디, 이번 주말에 대해 더 알고 싶은 것이 있나요? 42:46 이번 주말에, 예, 매우 흥奮합니다.你们가 많이 보지 않는 스포츠 중 어떤 것이 있나요? 어떤 플레이가 있나요? 축구 선수로서, 예, 예, 농촌 조지아에서 자랐기 때문에 축구를 좋아합니다. 고등학교 축구와 대학 축구가 중요했습니다. NFL은 조금 menos soulful이라고 생각합니다. 하지만 대학 축구에는 현재 **NIL**이 있으며, 그래서 어느 정도는 soulless합니다. 괜찮습니다. 우리는 그것을 즐깁니다. 머리가 충돌하는 것을 보는 원시적인 욕망입니다. 43:15 예, 43:15 그리고 때때로 그것은 트위터 드라마나 실제 축구로 나타납니다. 예, 모두가 할 수 있는 것은 **Patriots**를 싫어하는 것입니다. 43:23 와, 괜찮습니다.

우리가 경기에 가면, 우리는 광고를 볼 수 있는 좋은 경험을 하지 못할 것입니다. 그것은 내 전화에 붙어 있는 것과 같을 것입니다. 43:33 나는 모든 **AI**와 다른 광고를 보고 싶습니다. 43:36 괜찮습니다, 더 많은 광고가 있습니다. 알겠습니다, 감사합니다. 43:39 감사합니다, 알겠습니다, 좋은 연결이었습니다.