AI的基础设施建设规模需要达到多大,才能证明数万亿美元的投入是合理的?让我们与SemiAnalysis的权威专家一起探讨。欢迎收听Big Technology Podcast,这是一个关于科技界及更广泛领域冷静、细致对话的节目。AI基础设施的数据似乎在不断膨胀,且看不到尽头。因此,我们将讨论整个建设过程的物理限制,以及它能否在不毁灭世界、至少不摧毁经济的前提下持续自我维持。我们有一些非常有趣的嘉宾将与我们就此展开讨论。今天,我们要请到的嘉宾是SemiAnalysis的首席执行官兼创始人Dylan Patel,以及SemiAnalysis的技术人员Jordan Nanos。

我们将深入探讨AI基础设施建设中发生的一切。Dylan、Jordan,欢迎做客节目。“谢谢。”“很高兴来到这里。”让我们先从我们看到的AI基础设施建设规模谈起。Dylan,目前X平台上流传着一张图表,将当前的AI基础设施建设与过去的铁路、高速公路等建设进行了对比。该图表显示,当前AI建设的GDP占比中位数约为3.6%,平均年份为2.2%(铁路)。基本上,评论认为这要大得多。这意味着即使按GDP份额计算,它也比铁路大50%左右。评论指出,这是前所未有的规模,比我们要见过的任何东西都要大得多。

我很想听听你对这一规模的看法:这是否是一种正确的观察方式?如果我们正在建设如此庞大的基础设施,这意味着什么?“嗯,首先,当那张图表流传时,我觉得人们的数字太低了。实际上已经比那高得多。”“真的吗?好吧,分享一下真实的数字。”“是的。如果你看明年的情况,美国的资本支出将达到2万亿美元左右。这不仅包括数据中心和芯片,还包括人们投资的所有其他供应链部分。”

因此,资本支出接近2万亿美元。而美国的GDP约为30多万亿。所以比例大约是5%或6%,而不是2%或3%。我的想法是,这些数字比实际要低,因为人们低估了美国、北美乃至全球正在发生的资本支出的数量和规模。我认为部分原因在于,对于铁路,你的资本支出是在部署它的国家;对于光纤,也是如此。但对于AI基础设施,你在美国的许多资本支出实际上是用于服务美国以外的用途的。”

例如,欧洲大多数Anthropic的推理工作在美国进行,而OpenAI在欧洲的大多数推理也在美国进行。同样地,如果你看许多亚洲国家……因此,由于一方面在这里进行所有训练,另一方面从美国的服务中心服务其他国家,导致美国资本支出的比例实际上更高。最终,我们处于这样一个阶段:其经济影响比历史上任何其他类型的物理基础设施投资周期都要大得多。”

“好的,Jordan。你是Clustermax 3.0的作者,这是SemiAnalysis对GPU云系统的排名。”基本上是将许多超大规模企业和新兴云计算公司分级,讨论它们的性能。我们稍后会谈到这一点。但在你的报告中,你纵观全局,我想请你对此发表评论。基本上,我们关注的是超大规模企业季度同比资本支出的增长去向。”

在2026年第三季度,同比增长率为116%,这令人震惊。而华尔街的预期共识是:在第四季度降至100%以下,明年第一季度为70%,并继续下降。我们认为这是一个熟悉的周期:基数变大后,不可能再次超越预期或翻倍。但我很好奇从你的研究和视角来看,你认为这种增长放缓的趋势真的会出现吗?还是我们再次陷入了陷阱?或者华尔街又陷入了“你已经达到了你能想象的最大数字,但仍需更大”的误区?”

[叹气] “是的,我认为我们肯定会在明年年底到……”“等等,Jordan,在你认真回答之前,我得说……这就像问一个孩子能想到的最大数字是多少,他说‘100’[笑声]。现在的情况是:不,宝贝,我们已经达到万亿级别了。”“是的。[笑声]”“四位数俱乐部(指万亿美元)。”

所以等等,在这个例子中Dylan,孩子就是华尔街。[笑声] 并不是说人们是小孩。好吧,请继续。”“抱歉。[笑声]”Dylan有时习惯称他的员工和客户为孩子,但除此之外……“我觉得我用了一个更刻薄的词。”“好吧。是的。”“我喜欢这个走向。”

“我们要用尽大数字了。在建设方面有一些事情需要关注。这可能包括从工业设备到准备好进行EPC(工程、采购和施工)工作的公司,再到芯片、冷却系统以及构成IT基础设施的所有组件。为了容纳所有这些资本支出,正在大量工作以扩展供应链。”

“这很有效,我们将看到巨大的增长。但确实,你不能保持三位数的增长率并进一步加速二阶导数。你会耗尽资源。”

目前最大的问题在于两个方面。首先,对于超大规模云服务商中的顶级企业来说,要在他们已经在建设的庞大项目基础上再组织并调配资源来建设另一个吉瓦级的设施变得极其困难。同时,他们筹集资金也变得相当艰难。尽管这些投资已经带来了令人难以置信的回报,但你仍然需要找到资金投入这些项目,当涉及数万亿美元的数字时,这确实是一件难事。

其次,从定义上讲,增长率必须放缓。今年我们看到了10倍的增长,例如Anthropic的收入从低于100亿美元增长到超过1000亿美元。因此,他们不可能在明年年底就拥有万亿美元的收入。所以是的,那里确实存在增长放缓的情况。英伟达的收入增长率虽然仍是每年2倍,但比起早期阶段已经没那么高了。仅仅因为从同一基数上增长3倍在定义上就更难了,这对其他公司也是一样的。因此,从定义上讲,这确实是明显的减速。

那么支出增长最终需要放缓是必然的。但与此同时,收入和利润的增长必须加速——基本上要跟上这一大规模基础设施建设的步伐,并且可能超越我们之前看到资金投入的水平。我想这是为了促进所有的AI活动所必需的。关于这一点,还有一些进一步的讨论在流传。Dylan,让我把这些数字抛给你看看。这是一份高盛报告。

高盛说Meta在采取不可克服的债务后committed corporate suicide(企业自杀),该公司将难以偿还。Bane表示,超大规模云服务商到2031年需要每年6万亿美元的收入才能收支平衡。还有哥伦比亚大学的教授Stavros Newberg表示,到2032年,美国每年需要在AI服务上花费约3.5万亿美元(占GDP的8.8%),以证明今天巨大的数据中心投资是合理的。

你对这些关于支出和收入需要达到何种水平才能收回投资的评估有什么看法?它们有机会兑现那些投资吗?是的,我认为考虑到建设的速度,每个人对收入需求的预测都偏低。我认为到2031年,收入将远高于此。这里有几个要点:人们花在资本支出和收入上的金额是多少?通常收入会滞后于资本支出。

这些基础设施投资在会计基础上至少是六年折旧的资产,虽然有相当多的证据表明它们的实际使用寿命比这更长,但我们暂且继续使用六年这个说法。如果我今天在一万亿美元的人工智能数据中心和GPU上花费资金——GPU使用寿命为六年,而数据中心为十五年。这意味着从收入角度来看,要么假设是直线型的,即在六年内需要产生1.5万亿美元的总收入;

那么对于这一万亿美元资本支出而言,每年需要2500亿美元的收入。要么是某种斜率形式,第一年收入较少而最后一年较高,以实现投资回报。至于关于Meta的声明,这简直有些荒谬,因为Meta随时可以停止购买新设备。他们的现金流可以轻松支付他们已经签约的所有项目。

他们明年不必建造价值一千亿美元的数据中心,他们可以在任何时候叫停。当然,他们已经承诺了一些合同,但也还有很多尚未承诺的事项。就Meta的偿付能力而言,他们完全有偿付能力,完全没有问题。接下来的问题是他们在这些之外能获得多少收入?

关于AI对美国经济的影响,如果到2031年AI收入只有3万亿美元,那确实会有大问题。但我相信仅Anthropic一家公司在明年12月前就能达到6000亿至7000亿美元的收入。我认为仅这两家公司到2027年底就能达到1.5万亿美元甚至更多。所以回报是清晰的,你知道他们从哪里获得这些收入吗?

最终人们建设的能力与他们认为即将到来的业务相匹配。因此,在基础设施建设阶段,你花费的基础设施与AI收入之间总是存在不匹配,因为今天的AI收入主要基于前几年投入的基础设施。目前资本支出并没有每年增长10倍,但对于AI实验室而言推理收入确实实现了同比10倍的增长。

我们看到Anthropic在计算成本减去收入的意义上已经实现盈利,或者说是收入减去计算成本的盈亏平衡点。训练和推理结合来看,OpenAI将在接下来的两三个季度内达到这一点。根据我们对经济学模型的预期,我认为这些公司实际上已经收支平衡了。

以亚马逊为例,作为最大的人工智能基础设施构建者,他们所有的人工智能基础设施投资在今天都是盈利的。虽然他们的客户(如Anthropic等)可能会破产,但目前这些公司在产生非常强劲的毛利率方面是偿付能力充足的。事实上,在最近一个季度中,来自Bedrock的AI收入使他们的毛利率上升了。

是的,AI收入需要大幅增长。但我认为能够自动化我们已经能够实现的所有事情,并构建世界已经能够实现的一切,最终将为消费者产生有意义的收入和盈余。

我们需要理解未来将如何衡量AI收入。如果这些公司真的拥有世界上最好的模型,能够有效地完成所有知识工作,你可以想象它们将进入编码之外的众多不同行业,并获得类似于它们在编码领域所看到的投资回报。因此,你可以看看机器人和自动驾驶汽车等领域;可以关注药物研发;也可以着眼于整个健康和生命科学领域。我们可以将这些行业全部涵盖在内,并指出:如果它们希望将产品推向市场,比如一款抗癌药物或一辆自动驾驶汽车,你可以仅根据它们今天的投资规模来想象其潜在的回报收入。

如果它们在构建该产品所需的知识工作方面拥有极其出色的AI系统,我认为只有它们才能在能够执行这些任务的前沿领域真正展开竞争。因此,我认为人们缺乏创造力去理解如何超越当前Claude Code订阅和按令牌计费的定价模式来看待回报。是的,这里有一张图表展示了我们作为GDP份额的支出情况。这是2025年的数据,健康占18%,是最高类别;食品占9.1%。AI服务在2025年排名第三,我预计它将在2026年超越食品。

各位,我只是好奇这笔钱来自哪里?比如,假设OpenAI和Anthropic明年的总收入达到7000亿美元。这笔钱是来自这些公司的劳动力池吗?还是因为销售增加而单纯叠加的增量?作为这些AI公司客户的其他企业,它们用于注入到AI公司的资金来自哪里呢?这有几个因素。首先,公司显然能够加速其建设进程,从而进行更多投资。研发资金中用于AI的比例将增加;销售成本中也会有更大比例流向AI。

此外,还将有相当一部分资金来自劳动力方面。我认为劳动力本身并不会缩减。相反,由于其他经济领域增长迅速(至少在短期内),劳动力规模大致保持平稳。在过去,我们经历过不同的经济周期,但其中一个长期趋势是劳动力的GDP份额在几十年间持续下降,自70年代以来一直呈缓慢下滑态势。

因此,人们常说“美国经济糟糕”,但经济规模却在扩大,这实际上是因为劳动力在经济中的份额缩小了。这意味着越来越多的价值流向了资本。AI将加速这一长期趋势,即劳动力份额相对于资本份额的下降,因为AI令牌基本上是以芯片和数据中心形式存在的资本。这些基础设施坐在那里创造劳动力价值,导致劳动力份额下降得更快。

我希望并相信(尽管这可能是一种非理性的信念),我们将使经济以如此快的速度增长,以至于从美元角度看劳动力价值不会缩水。它甚至可能缓慢增长,只是经济的其他部分增长得更快。这就是资金的来源所在。所有这些提供各类服务的公司,其服务将变得更好;它们能够收取更高的费用并销售更多产品。

而且,它们可以用更少的人来完成这些工作。或者换个角度看,它们可以保持相同的人数规模,而业务表现却变得更好。在许多行业中这都是可能的:显然编码领域人们已经做得很多了;普通的白领工作正在迅速自动化,但公司能够完成的工作量远超以往。

然而,在许多行业中都是如此:制药、交易以及芯片设计等。芯片设计就是一个很好的例子。过去20年里,美国从事芯片设计的研发工程师数量基本持平,但该领域的经济规模却爆炸式增长。当然,我们这里不计入制造业,只计算设计师群体。

其中两家公司——英伟达和博通——是世界上最有价值的公司,此外还有谷歌等许多其他制造自有芯片的公司。这些设计师的人数规模并没有大幅增长,整个行业对我们而言一直持平,但所积累的价值却爆炸式增长。这是为什么呢?因为出现了许多工具。

那么AI辅助芯片设计现在能做什么呢?如今,经济中所有的芯片都会变得越来越好。你的手机会变好;你的AirPods及其中的芯片会变好;机器人的芯片会变好;显然AI的芯片也会变好。各种事物的芯片,包括蓝牙、GPS以及其他传感器(例如博世制造的气体泄漏检测器)都会变得更好。

因为AI可以帮助你设计芯片,你保持相同的人数规模,收入增长、利润率提升,一切看起来都非常美妙。在我看来,许多行业都可以复制这种模式。Dylan,你以前曾说过知识工作完蛋了(effed)。所以你现在不再这么认为了吗?

我认为大多数知识工作是没问题的。让我们区分一下我对2035年《乐一通》式未来的信念与对2028年的看法。我认为在未来X年里,只要AI非常强大但并未在所有方面都优于人类,最具高能动性的人将能够完成最酷的工作。

他们将能够对世界产生更大的影响。然而,如果AI在所有方面都优于所有人,情况可能会发生剧烈变化。那时知识工作确实会完蛋,实际上重要的是人们能够玩游戏、享受乐趣以及进行表演等。

能够像人类那样做那些只有人类才会彼此欣赏的事情,前提是AI没有把我们全杀光。好吧,那我们就今天不聊那个了。乔丹,这算是你的专业领域吧?我想先稍微谈谈可能让这个故事脱轨的风险。我们之前已经谈过,像Meta这样的公司可能会有一些合同不需要去履行。你显然在密切关注那些新云(Neoclouds)的业务,而这些业务依赖于像Meta这样的公司真正兑现他们提出的与这些公司合作的承诺。这是否是一种被低估的风险?

如果你跟其中一家新云交谈,目前一切看起来都相当不错,因为他们会告诉你他们拥有世界上最好的客户。他们有Meta,而Meta会兑现承诺,并且基于此进行债务融资。但现实中的风险可能是像Meta这样的公司最终决定“我们不做了”,而这些合同可能并不像新云告诉我们的那样具有约束力。

好吧,我想澄清一点,关于Dylan刚才提到的终止合同与Meta和新云之间发生的事情的区别。一般来说,这些超大规模厂商或大型前沿实验室与新云签订合同时,并没有按月随意取消的权利,不能直接拔掉插头就让合同结束。一般来说,他们签署的是五到六年的期限,并占用全部容量,拥有固定的每小时费率和极具吸引力的总合同价值。这对新云提供商来说很有吸引力,因为他们已经去获取土地、电力并建造场地,甚至在某些情况下购买了芯片。

Dylan所指的潜在放缓、暂停或取消项目的能力,更多是针对自建站点而言的。也就是说,Meta拥有巨大的园区,这些园区将作为未来更多的基础负载容量。他们可以选择购买芯片,或者如果希望放缓脚步、不那么激进地扩张,也可以让它们在几年内保持空置状态。一般来说,虽然建设成本非常高昂,但在新芯片项目的总成本中只占很小一部分。

换句话说,混凝土、钢材和墙壁确实很重要、很大,而且完成它们是一项真正的挑战,但在美元价值上,HBM(高带宽内存)、光学元件和GPU本身才是账单中更大的部分。所以目前的情况是,所有这些大公司都不得不应对来自客户群体预期的巨大增长需求。无论是Meta、OpenAI还是Anthropic,他们的面向消费者的应用如ChatGPT、Claude Code或CodeX甚至Meta的Muse等都有需求。

为了满足这些需求,他们需要GPU,而且提供服务是盈利的,所以他们需要扩大规模并准备好向Meta不同平台上数十亿的月活跃用户推出服务。ChatGPT的月活接近十亿,Claude Code则有数亿。所以无论如何,考虑到这种区别,项目取消或衰退等风险是什么?

为了让我们预测供需曲线的某种变化,你真的需要看到需求放缓。在芯片产量、数据中心建设速度以及这些设施上线的速度方面都存在硬性约束。到目前为止,我们所有的模型基本上都显示需求超过供应。那么现在的供求是10%还是50%,或者是无限大?我们无法回答这个问题,因为我们目前无法通过上线GPU供应来赶上需求。

因此,当这个问题得到解答时——如果它能被解答的话——如果我们发现知识工作对智能的需求存在极限,那么我们将能够弄清楚谁需要在何时、何地以及如何放缓。但到目前为止,我想这些限制尚未被发现。好吧,在进入Cluster Max之前,还有一个最后的话题我要谈谈,那就是Anthropic的大型IPO。

Dylan对此有一条非常有趣的推文,我就读一下。你说:“你不能以两万亿美元的价格投资Anthropic的IPO,因为它可能是零;也可能是二十万亿,但在二十万亿时,我们就都完蛋了。”你能解释一下并告诉我们你是什么意思吗?

嗯,首先要澄清的是,这完全是一条推文。我当时想……你知道的?我明白你的意思,但我认为你说的有些道理。所以跟我们说说吧。我总体上对Anthropic非常看好。我认为Anthropic将成为一家非常成功的公司,甚至可能成为世界上第一家估值达到十万亿美元的公司。我对Anthropic就是这么看好。

但与此同时,要让他们成为一家估值十或二十万亿美元的公司,尤其是二十万亿的话,首先他们的收入倍数必须大幅缩水。你知道的,他们以前以30倍融资,现在IPO时假设他们的收入达到一千亿美元,估值可能是20倍。如果他们达到十万亿美元的估值,我敢打赌他们的收入需要达到一万亿美元左右或更夸张的数字。

这可能在28年或29年的某个时候发生,当然也取决于股市是否疯狂导致倍数飙升。但在他们值二十万亿的世界里,我认为他们的收入甚至不到10倍的销售倍数,可能只有5倍或更低。在这种情况下,如果他们值二十万亿美元……

两千到四万亿美元的估值,两万亿美元的收入。在那时,人工智能的状态如何?在一个一千五百亿到五千亿美元的全球经济或万亿美元经济中,它们产生了数万亿美元的收入,成为世界上最大的公司。人工智能的能力简直令人疯狂。在这种情况下,人们担心“AI会毁灭人类”或“AI太好导致所有人失业”,因为收益分配将严重倾斜给拥有Anthropic股票的人或其供应链的组成部分,而不是均匀分布。因此,人们会陷入困境并推翻政府,因为所有增长都积累在极少数人手中。所以这些事情可能会撕裂社会的结构。因此,如果你相信Anthropic能达到两万亿美元估值,那么整个社会……

Jordan,你有类似的担忧吗?我认为是的。但我认为还有很多工作要做才能达到那个阶段。实际上,我并不像Dylan那样担心。顺便说一下,我是乐观的。我只是描绘了一幅悲观的画面,现在我要转向乐观的一面。是的。我的意思是那种玫瑰色的乐观观点其实是我之前描述的那样,即如果他们达到两万亿美元的收入。这不是按使用Claude Code作为产品的令牌计量基础进行的,而且我认为你不会看到Claude的质量从现在的水平提高20倍从而驱动收入。

我想他们会进入其他业务领域,而且我相信Anthropic能够像之前说的那样将癌症药物推向市场之类的。我们最近也看到了类似的事情发生在GLP-1上,这对经济中的许多人来说意义重大,因此像礼来(Lilly)这样的公司在那项导致这些帮助人们的非凡药物的惊人研究上获得了巨大的回报。所以我认为我对未来会更乐观,理论上Anthropic的估值达到两万亿美元。但我确实认为沿途会有很多坎坷。

这意味着回到你之前的问题,他们如何可能满足所有这些需求并训练这些模型,并将智能扩散到经济的各个不同部分,让人们实现利益。我认为做到这一点的方法是构建计算能力,这取决于安装和运行GPU以及可靠运行的琐碎细节等。对我来说,世界的中心是那些从两万亿美元IPO到公共市场两万亿美元估值的NeoClouds道路。是的,Anthropic的商业案例很有趣,对吧?他们在基础设施上花费了大量资金。即使在S1文件中,你也看到了伴随收入的大额亏损。

不过Dylan,正如你提到的,看起来他们扭转了局面,目前他们的收入超过了在计算上的支出。稍微谈谈这一点,因为这里的信念是像Anthropic这样的公司是一个低利润率业务,或者至少远低于软件行业。但这似乎并不符合实际情况。而且你们已经核算过数据了。我想说,如果你看看Salesforce,这可能是最出色的SaaS公司之一,我认为它至少持续增长成为最大的SaaS公司之一,其毛利率约为75%。而Anthropic在推理方面的毛利率也达到了75%,甚至略高,特别是在前沿模型上。

这有点像Salesforce花了相当长的时间才达到那个水平,他们在IPO时并没有75%的毛利率。实际上他们花了相当长的时间,在200年代中期或后期……我想Anthropic用了比Salesforce少得多的时间就达到了那样强劲的增长利润率水平。如果你看许多其他SaaS公司,他们的毛利率甚至没那么高。另一件事是他们的客户获取成本简直离谱。如果你看一家SaaS公司,你的COGS确实很低,但你的客户获取成本可能高达30%。而Anthropic几乎没有客户获取成本。

目前,他们当然有巨大的研发支出,但他们的研发支出增长慢于收入增长。所以他们现在已经实现了盈利,而且没有理由这种趋势不会继续下去,他们会变得更加盈利。所以在运营利润率方面……可扩展性是另一件事。SaaS公司的一个美妙之处在于,即使你的客户获取成本很高,只要你的利润率足够高以支付初始费用,最终你就不需要重新获取该客户。现在你就拥有了这个超级盈利的业务。

但对于AI实验室来说,他们的业务似乎具有一定的粘性。是的,虽然有关于Meta削减支出或微软削减支出的各种消息,但最终收入在图表上一直是直线上升的,几乎每个客户的收入都在增长。即使有其他中国模型发布或发布了更好的模型,也不会真正改变现有客户的花费份额。你最终会得到一个粘性很强的潜在客户,其收入以某种速度增长,且没有客户获取成本,利润率很高。因此,可以说这比软件业务更好……

如果你能成功的话……但风险有多大?比如前沿步伐放缓的问题……Pacing the Frontier正在采取行动。我认为这只是信号,我完全认为……谈谈这个,你不认为那会真的发生吗?不,一点也不。我认为如果相信我们可能会毁灭自己,“Pacing the Frontier”是一种负责任的做法。但我并不认为他们会过度放缓前沿步伐。我认为鉴于他们所处的竞争,他们能做的放缓非常有限。人们为此制作过小品,但你知道,Daario不能减速,因为他不信任Sam……

不会放缓,山姆也不能大幅放缓,因为情况与达里奥类似。显然,当发生这些重大安全事件时,他们会稍微放缓一点。但他们谁都无法真正放慢脚步,因为中国并不落后太多。所以这非常困难。“那让人安心。”(笑声)好吧,我们要休息一下,回来后会聊聊AI云的状态、ClusterMax等等,然后继续探讨关于技术和业务的一些问题。稍后回来见。欢迎回到Big Technology播客,嘉宾是SemiAnalysis的Dylan Patel和Jordan Nanos。我相信大家都熟悉SemiAnalysis,它是AI基础设施领域的圣经。他们是最棒的,非常感谢你们抽出时间,也强烈推荐大家至少去看看他们的博客。你也可以在subscanalysis.com订阅SemiAnalysis,这是排名第一的科技通讯,实至名归。恭喜你们两位。“在通讯中你可以找到ClusterMax 3.0……”

即使你不具备技术背景,我和Jordan聊过这事,读起来很有趣。它深入探讨了建设现状,副标题告诉你一切:GPU云提供商的可靠性、性能、支持、定价和安全性等细节已全面展开,内容非常丰富。Jordan和Dylan,我们可以深入探讨很多领域,但让我们先从英伟达的角色说起。报告虽然大部分篇幅集中在技术层面,但也指出英伟达在维持这些集群、提供AI基础设施方面发挥着主要作用——不仅是面向前沿实验室,而是全方位地确保整个体系运转。英伟达通过收入保底、房东担保和计划转让给第三方的租赁等方式,为Neo Labs和AI实验室获得无需超大规模云厂商参与的信用评级融资提供了后盾。Jordan,对此你怎么看?业界有一种类似“埃德特隆”式的批评……

认为英伟达实际上是在资助所有这些新云的需求,如果没有这种后盾支持,整个行业基本会蒸发消失,英伟达看起来也会变小,这些新云将变得不可行。深入调查后你有什么看法?“嗯,是的。”我在ClusterMax以及最近另一篇名为《英伟达的后盾宇宙》的文章中,详细探讨了后盾的运作机制及其如何帮助新云筹集部署GPU所需的资金。目前客户对这些资源的租赁需求非常强劲。我们追踪的数据显示,英伟达目前正在支持5880亿美元的表外后盾资金。这是我们在本期播客中听到的又一个令人难以置信的数字。英伟达的收入正接近4000亿美元,即将突破5000亿大关。作为参考,这相当于美国M2货币供应量的约2.5%。显然,这个我们称之为“宇宙”的领域涉及巨额资金……

我只能说这对英伟达来说非常务实。他们真正希望拥有多样化的客户群,不希望收入过度依赖超大规模云厂商;同时也不希望他们的客户依赖于从少数三到四家超大规模云厂商获取芯片。因此,英伟达有充分的动力去维护一个健康、多样化且选择丰富的市场,让所有客户都能找到合适的合作伙伴。为了实现这一目标,人们面临的问题不仅仅是筹集购买GPU所需的资金。首先,他们需要保证如果筹到钱,债权人能看到回报。这就需要某种信用级别的承购商,而在许多情况下英伟达可以扮演这一角色。但目前的运作方式是:英伟达作为承购商签约,等到真正需要将这些GPU用于内部研究时,却有人愿意出更高的价格购买。于是英伟达将其卖给这些人……

而不是用于内部研究,然后转向下一个案例。对于那些声称英伟达出于某种不可告人的目的或为了维持泡沫而这样做的人,我建议你们看看英伟达的研究质量。他们在Hugging Face上发布的模型数量超过任何其他公司,在其支持的GPU软件套件方面拥有令人难以置信的CI(持续集成)能力,并训练了如Neotron等模型。虽然我们对这些模型或软件并非最热衷者——我们认为应该有一个多样化的生态系统——但认为英伟达不使用自己的GPU进行服务于公司目的的研究,这种观点本身就是错误的。我们看到的情况是,用于英伟达内部研究工作负载的算力实际上只占其收入的很小一部分。因此,我们看到的只是他们在支持新云的建设……

以满足当前极其强劲且难以满足的客户需求的产能。最后还要补充一点,这不仅仅是芯片的问题。我们追踪了他们支持的一系列广泛事物:从建筑成本、内存供应商、晶圆厂建设者到工业设备制造商。这不仅仅是“我需要帮助为GPU筹集资金”,而是“我需要帮助为供应链中的其他所有事物筹资”,因为这些都是特定项目的关键瓶颈。“没错。让我们谈谈安全性,因为这……”报告中第一张图片是Ilia Sutskever在Hugging Face事件后发布的推文截图。Ilia指出新云网络安全有限,下次代理成功失控时……

运行更多副本,这很糟糕。因此,Neocloud 应大大加强其网络安全,拥有强大网络模型的公司也应在此方面提供帮助。这是伊利亚的一条罕见推文。迪伦,你怎么看?我觉得这听起来像是如果他在公开这么说……记得他自己就在构建这些东西。我想说,如果我们拥有超级智能,那可能会有问题。

是的。我们发表了一篇题为《大多数 Neocloud 在安全方面都很糟糕》的文章,记录了……顺便说一句,那篇文章的插图非常精彩。我们会把它放在屏幕上给观看的人看——那个人正在被所有人捅刀(笑声)。是的,确实。就像它声称符合 SOC2 标准一样(笑声)。但我们发表了那份报告后……你知道,大约八个小时左右,伊利亚就发了那条推文。

因为他们非常依赖各种云服务……他们显然超级神秘,非常重视保密性,关心他们在做什么工作。但他们也是超级智能的坚定信仰者……你知道,安全超级智能(SSI)。他们是第一个——实际上特朗普复制了伊利亚的另一个“第一”,即推理、大语言模型扩展,现在是第一个在超级智能品牌化方面领先的人。伊利亚发了那条推文……某种程度上呼应了我们的观点,对吧?

也就是说,大多数这些云平台在安全方面都很糟糕。你可以利用开源模型来黑客攻击 Neoclouds,或者获取其他 Neocloud 内部的信息。你知道的,GLM-5.3 在这方面特别擅长这一点。因此,开源的中国模型可以轻易黑客攻击数十个现存的 Neoclouds,你可以去看看别人在做什么。我们在其他云平台上也见过类似的情况。

有一个云平台……你知道,我们甚至没有打算这样做,但我们意外地看到了该集群上的所有其他客户。我们看到他们在存储中有什么东西,在 Slurm 系统中有什么东西等等。那里有情报机构……对吧?所以我们立即向他们报告了,说:“嘿”。

“哪些情报机构?”我们无法透露。我认为这么说并不合适……国家级的、联邦的,或者是安全机构、政府方面的人。“他们不是美国人。”“他们不是美国……”但我们说那是一个拥有前十 GDP 的国家,而不是什么小国家。“我简直疯了,这居然可能。”

“是的。就像如果我们心怀恶意……顺便说一句,大概还有十几个其他客户,也许其中一个是恶意的——我们本可以看到他们在训练什么。他们正在为他们自己训练模型和运行模型,大概是这样的……因为这是 GPU 基础设施。那么除了这个你还能用一堆 Blackwell GPU 做什么呢?”

“是的,我们经常提到‘主权人工智能’这个词,它经常与 Neocloud 的概念纠缠在一起。人们在融资时也大量使用这个词,因为他们将计算视为基础设施。我认为这完全正确。这就好比电信建设……这种基础设施被部署和参与其中的主权国家视为一个国家希望控制和拥有主权的资产。

他们相信,就像你在节目开头所说的那样……他们想成为净代币的进口国或出口国。而这由他们所建立的基础设施驱动,这意味着带有 GPU 的数据中心。所以我认为联邦政府的研究和情报机构与其他人共享基础设施出现在这些集群上并不令人惊讶。

你希望他们有隔离的数据中心,但如果整个国家只有一个设施拥有 GB300、NVL72……我的意思是,这是一个卖方市场。天哪。好吧,今晚我可能要失眠了。那么,你在报告中还将许多超大规模云服务商和 Neoclouds 进行了分级……第一梯队是 CoreWeave 和 Nebius。我更关注第二梯队,即甲骨文(Oracle)和谷歌云。

主要是乔丹,因为你知道……在我为今天对话准备的文档中,我列出了很多从报告中提取的话题和句子作为问题。而对于甲骨文,我只写了“Oracle”然后是一堆问号……因为我对这家公司就是这种感觉。我不知道该怎么看待他们。显然,他们的债务评级不被评级机构看好……他们在进行一场豪赌。

他们的评级相当高,而且在你的报告中,他们因开创了一些技术而受到赞誉。但我很想听听你对甲骨文的看法……你知道这是否是他们明智的赌注,以及他们是否会像许多人预期的那样崛起荣耀或陷入火海。我认为关于 Cluster Max 的关键点是,它不是股票推荐……

它与“这个 Neocloud 明年将建设吉瓦级或 200 兆瓦容量”无关,后者对股票来说更相关……也与“他们在运营集群方面有多好”无关。这与数据中心延迟交付三个月毫无关系,这不是 Cluster Max 衡量的内容。Cluster Max 明确衡量的是……如果你租用 GPU,集群对用户来说有多好?

它可靠吗?安全吗?存储如何?网络如何?生命周期管理怎样?Slurm 和 Kubernetes 的表现如何?所有这一切……在这种情况下,我们尽量保持客观。显然,制定评级金字塔是某种必须做的事情。如果只写一份长报告而没有排名就好了……但那样没人会在意。所以你必须做排名,设定某些界限。

你可以对为什么什么在哪个层级进行激烈的辩论……但客观事实是,我们认为甲骨文在服务品质方面属于顶级 Neoclouds。但这另一方面并不意味着……在四月,我们向客户发布报告称他们的内华达州数据中心将因管道问题而延迟。这对 OpenAI 来说是个大问题,因为……

他们在新墨西哥州与他们签约了一个巨大的数据中心。但如果这些管道不建成,这个数据中心就无法建立。嗯,后来我们在五月和六月又提到了这一点,最近甲骨文宣布对此采取强制措施,其股价因此暴跌。所以我们要把这两件事分开来看:是的,甲骨文是一家很棒的云服务商,也是托管集群之一,属于顶级的“新云”提供商;但同时他们也可能存在执行问题。比如在新墨西哥州数据中心案例中,由于监管原因导致管道无法到位;或者资产负债表上的其他问题。因此需要厘清:哪些因素对股价有利或不利,以及我们这里试图测试的是什么?Cluster Max的目标是创建一个租用GPU的人可以使用的基础设施。

事实证明,现在它有很多其他用途,人们试图强行将其应用于各种场景。例如,“我们要为这家新云发行债务”,或者“如果他们从铜级升级到银级,费率实际上会下降”。诸如此类的事情。还有人说,“我要投资那些在Cluster Max中排名靠前的股票。”显然,这些都不是决策依据,也不是设计Cluster Max的初衷。它是一个数据点,如果你在与这些公司打交道时应该使用它。但就甲骨文这家公司而言,有两件事需要关注:一是他们去年与OpenAI签署了大量人工智能数据中心交易。

是的,就是去年。天哪,竟然只有一年前,感觉像是很久以前了。我认为可能正好是一年前。有趣的是,他们签署了这些巨额合同。其中嵌入了一些风险:一是他们以固定利润率签约的。因此,随着云服务商GPU价格的大幅上涨,他们无法利用这一更高的利润空间,所以在这方面受到了一定的限制。第二,他们借了很多债,然后市场开始对企业的债务水平感到恐慌,尽管甲骨文完全有偿付能力,但他们还是受到了惊吓。第三,他们存在一些执行问题。我提到了监管方面;还有其他一些数据中心也出现了延误等情况,比如威斯康星州的那个项目。

最主要的是新墨西哥州的这个站点,由于管道问题可能延迟数年之久。因此,这些因素可能会对股价产生非常负面的影响,但我认为公司本身状况尚可。现在他们不是Nebius。Nebius能够迅速调整,他们在Cluster Max中拥有顶级云服务商中最短的平均合同期限。因此Nebius能够扭转局面,大幅提高价格并从中获利;而CoreWeave和甲骨文尽管也具备良好的集群管理、可靠性和安全性等,却无法像Nebius那样充分利用优势,因为他们主要将自己锁定在长期合同中。

这太迷人了。好吧,乔丹让我问你一个技术问题。正如Dylan所说,这是一个金字塔结构,有像CoreWeave、Nebius和Oracle这样的顶级群体,Google Cloud也在其中。但在“不推荐”部分有很多标志,包括表现不佳和不可用。我认为在“不可用”类别中的标志数量比前四个顶级梯队加起来还要多。你认为这说明了什么?也就是说,为什么有这么多技术未能达到你的标准?

作为试图代表买方利益的人,我认为这让我们感到难过。看到这种情况令人遗憾:自Cluster Max第一个版本发布以来已经一年半了,实际上接近两年;自从我们在SemiAnalysis coined “新云”这个词以来,许多人并没有朝着我们文章中描述的方向取得进展。我们所写的正是我们与这些新云客户交谈时讨论的内容。因此,我认为这种卖方市场的动态意味着这些公司的优先事项是如何筹集尽可能多的资金、如何快速建设数据中心以及如何快速部署芯片,而不是致力于提高底层服务的真正质量。

这就是你在其中看到的一种动态:人们可以拥有很好的业务,而不必过于担心提供让客户真正享受并推荐给其他人的优质服务。另一件事是,我认为随着时间的推移,我们将继续看到这种持续的动态:领导者只能有那么多,因为只有少数人真正创新,而其他人则模仿他们。根据我们的追踪,目前市场上有323家提供商(截至今天早上),我们在SemiAnalysis订阅者的AI云TCO模型中进行了追踪。其中只有一部分是相关的,即足够大到可以列入名单;而在这些之中,只有少数能通过我们认为值得推荐的标准。

在某些方面,我们认为推荐的门槛其实相当低。比如安全性和可靠性这两个主要失败点,在我们看来是极其简单的要求。令人难过的是看到其他人没有足够关注或关心去真正实施这些东西。好了,在结束前还有两个快速问题。这是一个更广泛的问题:Google显然宣布了他们即将推出Gemini Argon(用于Argo的Gemini)。你认为,鉴于有些人呼吁Google基本上成为一个新云提供商,出租其Google Cloud中的TPU和计算资源吗?

你认为他们会走那条路,还是认为他们仍将把大部分算力用于模型训练和推理?也就是说,在过去六个月里,他们在定义上分配给模型训练和部署的算力少于两三年前。

几年前,这种分配比例随着时间的推移而下降。这可以说是我们开玩笑说的一句话——或者说不完全是玩笑,只是一个陈述:托马斯·库兰赢了,丹尼斯输了。现在我想卡拉伊……谷歌每年生产的算力显著增加,但分配给DeepMind的份额并没有以同样快的速度增长。并不是说“哦,DeepMind拥有谷歌三分之一的算力,现在仍然占三分之一”,实际上它在百分比上是下降的。这非常有趣,因为如果我现在只看DeepMind与Anthropic和OpenAI相比,到今年年底,DeepMind在这三者中拥有的算力最少。这真的是一件大事。

那么谷歌呢?不管有没有“新云”(Neocloud),这个词甚至意味着什么。出售其他模型的代币算作新云吗?在某种意义上,新的云服务业务就是销售AI模型代币。所以也许这就是新云。定义是……黑石(Blackstone)进行新的建设项目,建造GPU并直接部署给客户,而不是在其核心平台之外……或者只是出售芯片?那是新云吗?不。我的意思是,他们向Anthropic出售了很多芯片。所以他们是物理上销售芯片,而不是像出租那样。因此我会说谷歌的商业模式正在演变,他们希望在堆栈的每一层都赚钱。

但根据定义,用TPU如此大力帮助Anthropic,以及在其他方面帮助他们,正在损害谷歌DeepMind的业务。我想他们需要一个利基市场。对于Gemini来说,没人想要第三、第四或第五好的编码模型。如果他们希望DeepMind继续在AI研究的前沿竞争,他们需要找到一个能推动Gemini代币销售的利基市场。因为目前即使发布了Gemini 4 Argon,在编码方面也不如前两名或前三名的模型。

这里的风险是明年会发生什么?当OpenAI和Anthropic都试图为他们的实验室增加5到10吉瓦的额外算力,而谷歌只增加了几吉瓦时。现在他们的算力赤字……以前谷歌在算力方面遥遥领先,他们处于落后/相当的水平,大部分只是稍微落后一点。而现在他们进一步落后了,但他们的算力是一样的。那么当他们拥有更少的算力时会发生什么?他们会以某种方式神奇地赶上吗?这是可能的,他们有人才,有人手。他们需要重组并真正聚焦。

而且越来越多的顶尖人才不断被Anthropic和OpenAI挖走,这是Meta的发现循环(Discovery Loop)。是的。发现循环。对。好吧,我想在结束前再问一个问题,如果可以的话。你知道Dylan你以前说过,从创建的AI模型中获得最大价值的是最终用户,对吧?例如在基础层面使用云的人。当然Anthropic通过API提供该模型并进入各种用途。它必须做更多的许可,谁知道他们是否能为此开发所有产品。我很好奇你是否认为存在一种情景:鉴于我们过去讨论过的大数字,或者他们更长时间地将前沿模型留在内部使用来构建自己的产品。就像我们知道他们有湿实验室,有云代码和协作工具,然后他们不对外提供这些模型,因为他们想从他们已经购买和构建的基础设施中获得更多利润。

是的。我的意思是我认为我们已经看到了这一点,对吧?Anthropic在二月就准备好了Mythos。他们的模型安全卡指出他们自Methos以来发布了另外两个模型,但在公开层面我们仍然没有完整的Mythos。我们要的是一个被阉割的版本叫Fable。而且过了好几个月Fable才出来。他们有一个Glasswing,就像Mythos但仅适用于某些子领域,并且在某些方面被阉割了。所以很明显Anthropic没有发布新模型。OpenAI也是如此,Astra实际上几个月前就完成了,但过了好几个月才发布Astra。

新的模型Bell甚至展示了一篇博客,展示了它在数学方面的性能以及如何解决这些问题,但他们没有发布它。所以很明显他们只是在内部使用而不是外部使用。因此实验室已经沿着这条线前进,即“是的,它们与中国开源之间的差距仍然是6个月”。他们某种程度上保持着这种状态,但实际上他们将几个月的进展仅保留在内部。因为一旦你将其对外发布,人们就可以对其进行蒸馏以及其他操作。所以我认为Anthropic可能会在未来几周内为他们的IPO发布一个新模型,OpenAI可能也将在未来几周不得不发布新模型,因为竞争环境如此激烈。

但与此同时他们确实将很多东西保留在内部仅用。是的,我们内部讨论过一些资本主义激励措施。如果这些激励措施实际上会促使人们发布更多模型并将它们交到消费者手中,因为每代币API定价的毛利率令人难以置信;或者激励措施是将其保留在内部以便追求最终用户应用,这些应用的附加值甚至比按代币销售模型访问权更高。这将很有趣看它如何展开。但在其中一种情景中,资本主义的方法将是为自己控制前沿的速度。

你对它会走向哪里有什么直觉?你认为哪种情景会发生?我认为Anthropic公开声明他们通过保持自身受限来掌控前沿。这也是他们的博客文章在现实中唯一体现的方式。没有人放慢脚步,只有他们在慢下来。我认为这是真的,这就是正在发生的事情。而且我认为通过解决诸如癌症之类的问题来提升AI地位的激励措施……

那些毫无疑问是好事、大家都能认同为有益的事情,将构成一种正向激励。而且我认为,如果做这类事情也能赚到不少钱。所以我的判断是,我们将继续看到OpenAI和Anthropic发布最小可行模型(MVP),以保持相对于中国及其他开源生态系统的领先地位。

网站semianalysis.com,正如Dylan所说,注册订阅博客;我也建议大家像我一样订阅时事通讯。这里充满了深刻的见解与分析,如果你还没有关注,我相信你会爱上它的。这次对话正是这种价值的体现。

Dylan,很高兴再次见到你;Jordan,认识你真高兴。你们随时欢迎再来,非常感谢大家今天抽出时间参与。

“感谢邀请我们,Alex。” “谢谢,Alex。”

好了,内容很精彩。感谢各位收听和观看,我们下期《Big Technology Podcast》再见。