大家好，我是Dylan Patel，SemiAnalysis的创始人。我们每年一次的播客录制就像是一顿家庭式的感恩节晚餐，但我们其实并无血缘关系。千万别告诉别人这件事，这会破坏我们的神话色彩。基本上，世界经济的走向正日益取决于实验室经济、计算市场等的走势。我想了解在几年内这个疯狂的未来会走向何方，但让我们先从当下开始。请带我了解一下目前实验室的计算能力和收入情况，并展望一两年后的前景。
回顾去年年底，美国GDP增长的大部分都来自于AI基础设施的建设。展望今年，约有三分之一的上线计算能力是用于OpenAI和Anthropic等实验室的。虽然这些设施可能由其他公司建造然后租给他们，但最终客户是它们。随着未来到来，计算能力的数字正在膨胀。今年的资本支出略超过一万亿美元，到2028年将超过两万亿美元。实验室所占的比例也在不断增加。
因此，出现了一个非常有趣的情况：这些公司从每年花费数百亿美元到数千亿美元的支出规模，预测在十年末将达到每年数万亿美元的支出水平。这是它们与合作伙伴签署的一些合同的一部分。这需要对其经济模式进行重大重塑。在此之前，它们大多是亏损的企业。Anthropic在第二季度开始盈利；据信OpenAI随着Codex、5.6等更大规模的发布，可能在第三季度某个时候也开始盈利。
回顾一年前或今年年初，它们的资金全部来自风险投资支持的亏损。但现在它们已经扭转局面，开始真正盈利。这并不意味着它们不再吸收新资本，新的资金仍在涌入以加速增长。但最终，它们的业务越来越多地依靠自身收入而非外部注资来维持。在过去一年半里，利润率飙升。
计算的基础成本通常在每兆瓦1000万至1500万美元之间。目前最有趣的一点是：以前，如果它们提供服务——例如在Nvidia Hopper GPU上运行GPT-4——OpenAI的毛利率是负的。但现在，当OpenAI服务GPT-5.6或Anthropic服务Opus 5、Fable 5时，其收入生成已远超每兆瓦1000-1500万美元的增量成本。
以Anthropic为例，收入曾高达每兆瓦5000万美元。这使得它们能够这样做：“嘿，如果我在推理能力上花费10美元，实际上能产生50美元的收入，然后我可以将这部分利润增量地全部用于训练。”我很感兴趣的一点是，你如何看待计算能力在实验室的集中化趋势，或者流向世界与流向实验室的计算相对比例。
如果说目前边际计算能力的三分之一流向了实验室，那么到什么时候超过一半的全球增量计算能力会流向实验室？在什么时间点，实验室将基本拥有世界上绝大部分的计算能力？今年年初，OpenAI从2吉瓦起步，Anthropic不到2吉瓦。到今年年底，两者都将超过5吉瓦。这意味着整体计算能力增长了3-4倍。
当你查看新增的计算能力时，今年约占全球新增计算能力的30%。展望明年，鉴于已经签署和敲定的合同，情况将更加剧烈。Anthropic和OpenAI将占据明年计算能力的40%到50%。这种集中化趋势看起来并未放缓或停止，反而在加速。
为它们建造计算能力的公司将发生变化。明年，一个新的主要进入者是SpaceX，它正在建设大量的计算能力。它们很可能会将其中很大一部分租赁给Anthropic和OpenAI，因为它们是边际支付能力最高的客户。此外，OpenAI和Anthropic也开始自建计算能力——OpenAI使用自己的芯片，Anthropic则从Google购买TPU并通过Fluidstack部署。
那么问题来了：“什么时候全球一半的新增计算能力会只流向OpenAI和Anthropic？”实际上，到明年年底，全球一半的增量计算能力将已经流向Anthropic和OpenAI。由于计算能力增长如此迅速，新增的计算量基本上构成了总计算量的主体。因此很快——也许在一到两年内——世界上大部分的计算能力将由两家实验室拥有，或者至少服务于这两家实验室的需求。
存在这样一种趋势：全球计算能力（以吉瓦计）每年翻倍，但前沿实验室的计算能力每一年都翻三倍。如果保持当前趋势，将从今年年初的2吉瓦增长到年底接近6吉瓦（乘以3）。到2027年底将达到18，到2028年底达到54。你会想：“在那个时候，鉴于全球计算能力的总量，它们还能继续翻三倍吗？”你如何看待未来几年全球计算能力的前景？
如果今年新增30吉瓦，明年50吉瓦，后年约70吉瓦，就会出现一个非常有趣的现象。今年部署的新瓦特比两年前部署的瓦特效得多。全球计算能力中很大一部分是在今年部署的，尽管它没有使部署的瓦特数量翻倍。我正在部署GB300、TPUv7和Trainium3，它们的效率要高得多。
它们每瓦特的性能是前代芯片的3-5倍。因此，你在这里看到了一个巨大的阶梯效应。如果Anthropic和OpenAI明年占据45%的计算能力，那么到2027年12月，它们将已经占据了全球一半的新增增量计算能力。但这“一半”的全球新增增量计算能力的性能实际上高于之前所有的其他设备。所以这里还有另一个乘数效应。
到2028年底——如果这一趋势继续，我看不到任何能阻止它的因素——它们将仅仅控制着……
全球大部分可用的算力都掌握在他们手中。让我感到困惑的是，为什么你认为到2028年我们只会增加80吉瓦的算力？如果我们进入一个计算价值大幅提升的世界，这就是上限了。顺便说一句，这就像是“我极度看好”的意思。好吧，让我们进行一些逻辑推导。几个月前采访你时，你说要制造一吉瓦的Vera Rubin芯片，需要5.5万片N3晶圆、6000片N5晶圆和17万片DRAM晶圆。我知道这些数字可能已经变了，我要调侃你一下，但你当时说“wafer”（晶圆）的方式太像印度口音了，读成了“Vafers”。顺便说一句，当我们刚搬到美国时，我的英语发音问题很严重，而且我是个素食者。我记得你跟我提过这事。
在北达科他州读小学时，我会问：“能给我来个‘内裤外翻’恶作剧吗？来几个？”不管怎样，这是一吉瓦的情况。我用大语言模型运行了你的晶圆厂设备模型，计算出每年生产一吉瓦算力所需的工具成本。结果显示是30到40亿美元。现在假设你在晶圆厂里加入洁净室、外壳等其他设施，那么60亿美元的晶圆厂资本支出每年就能生产一吉瓦算力。目前一吉瓦能产生1000亿美元的收入。而且，这60亿美元的资本支出每年都在生产一吉瓦算力，而这一吉瓦算力每年都能产生1000亿美元的收入。
因此，在五年时间里，第一吉瓦算力产生的利润相当于五年的收益；晶圆厂生产的第二吉瓦算力则产生了四年的利润，以此类推。在晶圆厂层面60亿美元的资本支出将产生超过1万亿美元的终端AI收入。是的，中间有很多运营费用和其他资本支出，比如数据中心和电力设施，还要支付给OpenAI研发安装费。这里有很多不同的人需要钱。扣除所有中间商的一半费用后，晶圆厂资本支出与最终产生的收入之间仍存在100倍的差距。实际上比这更大，但我们非常保守。
这就是资本主义的结果……存在巨大的差异，你可以把1美元变成100美元。他们不会想办法制造更多的镜片吗？他们会做的，只是这些镜片的制造需要时间。但情况非常紧急，Anthropic和OpenAI等公司表示：“我们现在本可以赚到1万亿美元，但只是受限于进入ASML机器中的镜片供应瓶颈。”如果我们在这上面花费1000亿美元，如何制造更多的镜片？这就是我们很快会面临的情况。
我们要无法解决这个供应限制吗？这似乎很难想象。你已经看到人们在这里进行有趣的套利，他们购买涡轮机然后尝试转售，因为涡轮机的价值远高于此，它是你数据中心的瓶颈。我认为如果任何人有4亿美元并有能力说服ASML向他们出售一台EUV光刻机，他们应该完全去买一台，等待然后以超过10亿美元的价格出售。但最终，是的，资本主义会导致这些事物扩张。但这就像鞭子一样，鞭子的信号传到尾部需要很长时间。供应链不会立即做出反应。
事实上，你去跟卡尔蔡司的人谈谈，他们会说：“是的，是的，到本世纪末我们需要制造100台EUV光刻机。”今年早些时候我们录制节目时，他们甚至认为不需要制造那么多镜片来每年生产100台EUV光刻机。现在他们说：“好吧，我们需要这样做。”但实际上，由于正在发生的所有经济因素，情况应该更加严重。制造过程需要花费很长时间。假设供应链中的每家公司都获得了私募股权融资，有人超级痴迷于AGI并说：“我们要最大化生产。”你认为制造更多东西的物理限制是什么？
我问这个问题的原因是，我们很快将进入一个世界，那里的实验室收入或仅仅是AI现金流——因为加速器也有巨大的现金流——如此巨大，以至于你可以仅仅通过自身的现金流来资助所有这些生产的极端扩张。我大体上同意这一点。显然存在一些物理限制。目前供应链扩展的方式，100台左右仍然是正确的数字。对于2030年？到2030年是100台ASML光刻机。但如果你说：“卡尔蔡司，给你100亿美元。请他妈的扩大生产。”那就会改变局面。你必须对供应链中的每家公司都这样做。
你不认为明年会发生这种情况吗？我不认为今年会发生，也不认为明年或后年会发生，因为世界资本受限。但在一个世界里，假设顶级实验室明年即使合并也能产生1万亿美元的营收，他们不能从中拿出100亿美元——我不认为他们会这样做，但……或者至少数千亿？这似乎表明他们意识到世界的走向。我觉得他们可以做到……问题是，实验室明年将产生数千亿美元的收入。但最终，明年的资本支出约为2万亿美元。所以你有一个巨大的不匹配。
晶圆制造设备供应链将产生约2000亿美元，数据中心市场供应链会产生更多，加速器供应链会产生更多，能源供应链也会产生一定数量。加总起来，资本支出将远远超过2万亿美元。因此，实验室尚未达到其现金流足以资助这些支出的地步。显然他们永远不会到达那个点，因为你希望资本支出高于回报。是的，你要再投资。
我真正想理解的关键问题是：如果当前趋势继续下去，到2028年底每个实验室的算力将超过50吉瓦。因此它们合计将达到100吉瓦。正如你所说，这些吉瓦在2028年将驱动比现在多倍的吞吐量或性能，因为硬件变得更好了。不仅每瓦特的浮点运算次数增加了，而且硬件在处理AI工作负载方面也变得更好了。好的，所以到2028年底实验室拥有100吉瓦算力。世界总算力是多少？
我认为这可能有点困难，因为到2028年它们将占据70-80%的增量算力。我不确定那时市场会发生什么。计算价格飙升多少它们才能真正购买70-80%的算力？Google、Meta或Amazon愿意出售这么多吗？此外，当我们谈论这些吉瓦数字时还有一个注意事项。当亚马逊服务Bedrock Anthropic模型时，在我们的世界观中这算作Anthropic的算力，因为实际上它是……
归根结底，即便存在收入分成和信用返还等机制，这些费用仍会被计入Anthropic的收入。但如果到2028年他们能实现合计100吉瓦的算力，那将对市场产生极具颠覆性的影响。因为如今任何人只要拥有每兆瓦1000万至1500万美元的算力，就能轻松获利。我绝非开玩笑，这并不难。你去搞一个GB300机架，下载Kimi的权重模型，再部署vLLM或SGLang框架并配置好。Codex和Fable等工具实际上能帮你完成这些步骤，过程相当简单。这虽非易事，但也绝非高深莫测的技术难题。你只需将其上架到OpenRouter平台即可，操作非常简便。随后你将发现生成的收入将超过你为算力支付的成本。
这种现状已经导致每兆瓦1000万至1500万美元的算力定价开始呈现上升趋势。若要在2028年达到100吉瓦的目标，你必须相信AI实验室有能力为算力支付更高溢价，因为任何人都能在每兆瓦1000万至1500万美元的价格下获利。那么，算力价格是否会涨到每兆瓦2500万甚至4000万美元？正如你所说，目前实验室每兆瓦产生的收入已远超其他参与者。如果他们能保持当前的巨大领先优势，这种局面预计将持续下去。若出现某种递归式自我改进机制，使AI实验室获得相对优势——例如他们拥有未对外发布的内部模型来优化下一代模型的研发，那么这种领先效应将更加显著。
你是否已经观察到这种现象：SpaceX或其他稍落后的实体，若无法像实验室那样在内部实现算力的高效变现，便会将算力出售给出价最高者？预计他们会继续竞购更大份额的算力市场。这是我的核心观点：他们将不断吞噬更多算力资源，但显然无法以当前价格或接近当前的价格实现这一目标。他们必须开始支付每兆瓦2500万、3000万甚至5000万美元的费用，才能在2028年真正吞下全球70%的算力份额，从而实现100吉瓦这一极具侵略性的目标。
另一个极具挑战性的方面是，我们已经看到AI实验室的发展出现了显著放缓。他们游说推动的监管政策，实际上比对中国开源语言模型的影响更为严重。例如OpenAI未发布Astra版本；OpenAI暂停训练两周；Anthropic也未发布其安全评估认为的“Model 2”，外界普遍相信这将是Mythos模型的下一个版本。他们显然没有发布其最佳模型，这意味着每兆瓦的收入可能停滞甚至因其他竞争性模型的崛起而再次下滑。这并非意味着他们落后了，而是因为他们没有释放最强实力。
如果监管影响阻止了他们发布最佳模型，那么每兆瓦收入的增长速度将放缓。他们以高于他人的价格购买增量算力的能力开始减弱，进而可能无法实现100吉瓦的目标。但在一个安全考量无关紧要的世界里，我确实相信这种情况会发生：他们每兆瓦能生成1亿美元甚至更多的收入，并愿意支付5000万美元的算力费用。届时，其他人除了说“拜托Dario，把我手里的算力都收走吧”之外，没有任何逻辑理由去处理他们的算力。但存在一些我们无法描述的力量，可能会减缓这一进程。
我认为一个很好的直觉测试是：如果AI模型在功能上完全等同于全自动化的软件工程师，情况会怎样？目前他们尚未达到这一水平。我认为他们还远不能完全自动化白领工人的工作。但白领工人年薪通常在六位数以上，甚至更高。如果你有一吉瓦算力能支撑大约一百万名白领工人的工作产出……由此产生的价值将是1000亿美元。这实际上低得令人惊讶——每人年薪10万美元，一百万人口规模。但如果实现完全通用人工智能（AGI），每吉瓦产生的价值将是数千亿美元级别。
另一个持续观察到的方面是，大部分价值并未被捕获。这些模型生成的绝大部分价值并没有流向OpenAI和Anthropic。值得庆幸的是，目前大部分价值主要流向了用户。例如Jane Street与OpenAI就GPT-5.6 Ultrafast模式签订的独家合同，或者作为Anthropic最大客户之一的Jane Street，他们从支付的代币中获取的价值远远超过Anthropic获得的利润，因为他们能从市场中获利。再比如Meta，曾有传闻称其业务占Anthropic的10%左右。他们通过优化广告算法或延长用户参与度5%等方式，获得了巨大的效率提升。
使用这些模型所获得的收益远超Anthropic所得，这才是应有的状态。当然，如果新增一百万名软件工程师，软件工程师的成本也会下降。我对此感到困惑的是：市场是否会达到均衡？如果达到均衡，算力价格是否只会等于Anthropic和OpenAI从中获得的收益，或仅加上微小的加价？目前算力售价与Anthopic能从中获利的金额之间存在4倍以上的差距，这非常奇怪。在每吉瓦收入持续增长的世界里，如果Anthropic将一吉瓦变现的能力翻倍或翻三倍，差距继续扩大就显得不合逻辑。
Anthropic仅凭拥有某些权重模型，就能将成本10美元的东西转化为100美元的价值。这始终是一个有趣的问题：AI产生的价值去了哪里？AI正在生成巨额价值。首先是终端用户，我认为大家都同意他们生成的价值最大，因此他们需要为这些模型支付高昂费用。其次是应用层，迄今为止该层级产生的价值微乎其微。然后是模型层，直到一年前其毛利率仍为负值，而现在则产生了巨大的正毛利。
看起来模型层正朝着每兆瓦生成1亿美元的目标迈进，正如你所说，将成本从10-15美元转化为100美元。但如果回顾一年前，硬件供应链正在获取所有毛利，而其他所有人都在为此亏损。OpenAI和Anthropic以及许多其他初创公司当时只是在投入风险投资资金。
超大规模云服务商在构建基础设施时，并不确定是否会有回报。因此，从模型层面来看，实际上产生了负价值，因为他们向客户出售Token的价格低于他们在基础设施侧的成本。所有的价值都被芯片和晶圆代工厂捕获了。起初在2023年，尽管理论上他们提供的价值巨大，但内存厂商从HBM或AI相关内存中几乎没赚到钱。现在情况变了……其实，台积电捕获的价值比内存厂商要少得多。
因此，价值分配发生了很大的转移，这对于跟踪市场或参与市场的公司来说非常有趣，比如Jane Street就是一个例子。这不是广告，真的不是广告。虽然他们是赞助商，但没必要这么硬广。那么接下来会发生什么？Anthropic和OpenAI的价值捕获能力开始缓慢膨胀。他们会膨胀并拿走所有的价值吗？这曾是一种想法，但埃隆·马斯克展示了“实际上并非如此。我可以以每兆瓦2500万美元或4000万美元的价格向Anthropic和Google出售我的算力。即使这只是短期行为，我也以这个价格卖出了，并且我可以在一年内收回全部资本支出。”
你对相关批次的算力——比如SpaceX以每吉瓦400亿美元的价格卖给Google的B300或其他型号——在明年年底会卖多少钱有什么预测？我认为大多数算力交易价格仍将低于每吉瓦20亿美元。即使到明年年底也是如此吗？因为所有的算力都需要融资。如果Meta、微软、亚马逊和SpaceX可以在没有客户的情况下建造算力，只需说“管他呢，我就要建这些算力”，然后转身等待它建成，他们就控制了局面。大多数算力在建造之前就已经签订了合同。这就是埃隆在市场中所利用的优势，他实际上拥有所有这些算力。
他对Anthropic说：“嘿，我知道你们每吉瓦能赚60多亿美元。你们为什么不花天价买我的东西呢？”显然，这不是埃隆或Anthropic单方面决定的，而是市场自我调节的结果。其他人去随机找一家云服务商时，他们会说：“好吧，我要建造一吉瓦或100兆瓦的算力。我将投入资本支出。我需要转身去寻找客户。”如果你想找客户，你就需要找到资金。“谁给我提供资金和客户？客户必须签署协议。然后我将客户的承诺带入信贷市场来筹集资本。”
因此，存在一种完全不同的权力结构，Meta实际上是在囤积算力。他们和SpaceX是唯一可能的第三极，因为他们囤积了所有这些算力。他们利用资产负债表和能力建造没有最终客户的算力，并以巨大的程度进行变现。因为他们有实际的资产负债表，所以可以去信贷市场。“你建造一吉瓦算力，你可以获得利润，虽然不是疯狂的利润率，但是不错的利润率。现在我有所有这些算力。”Meta和SpaceX因此拥有了这种选择性：看看是内部用例能让我赚更多钱，还是出去以疯狂的利润率卖给Anthropic或OpenAI？
所以我们现在进入了一个新阶段，SpaceX和Meta表示：“实际上，我要建造算力，而且我可以出租它。我不以13美元的价格出售，而是可以卖到25、50甚至更多。”正如我一直在制作视频论文和其他格式的内容，我正在为播客招聘一位新编辑。但积极寻找编辑非常耗时，因为绝大多数候选人不符合我要求的画像。所以我创建了一个Grok Bot招聘人员来看看它是否会有所帮助。
我向它提供了巨大的上下文投喂，基本上独白了我想要的一切内容，然后它启动了另外四个机器人来缩小搜索范围。其中一个浏览我过去一年的电子邮件以查找相关的主动联系；一个搜索了我的X（推特）动态和私信；一个浏览了各种我喜欢的纪录片的片尾字幕；最后一个寻找为一些我关注的YouTuber工作的编辑。Grok Bot随后将这些子代理找到的不同候选人汇总，根据我的标准进行筛选，并交付最终名单供我审查。
老实说，第一批候选人中有几个不错的我想见的人，但主要是一堆不合适的人选。但在我给Grok Bot更多关于它遗漏了什么的一些反馈后，它带回了一份新的候选人名单，让我非常兴奋。我将整个工作流程保存为一个例行程序。所以现在每周Grok Bot都会检查我的收件箱邮件和X私信，寻找有希望的新候选人进行潜在面试。如果你想自己尝试Grok Bot，请访问x.ai/bot。
你认为到2027年底他们的每吉瓦收入是多少？对于Anthropic或OpenAI，在‘27年底前。我认为这在很大程度上取决于谁拥有最好的模型，以及他们是否被允许继续发布他们的最佳模型。但我不明白为什么不会达到每兆瓦5000多万美元。到2027年底？哦，是‘27年底前吗？那挑战就更大了，但我认为可能会更高，比如达到每兆瓦7000万到8000万美元（公司整体平均），甚至更高。这似乎太低了。
如果是这样的话，那么算力的价格会发生什么变化？好吧，如果我是Anthropic，增量算力是值得的。也许我在SpaceX算力上花费每兆瓦4000万美元。如果我是SpaceX，我会看向供应链并说：“好吧，我已经和Jensen（现在他突然开始使用Twitter）达成了协议。”而Elon说他们是Nvidia的独家合作伙伴，但为什么Jensen不提高价格呢？然后SK海力士、美光和三星看了看说：“好吧，我们为什么不提高我们的价格？”因此关于价值捕获，我认为这里存在牛鞭效应。
仅仅因为有人提高了价格并不意味着整个供应链会立即重新平衡。但随着时间的推移，供应链将重新平衡，成本会变得越来越高。为了获得那些增量产能，你不得不这样做。所以台积电缓慢但持续地提高价格，而内存公司迅速提高价格。基板公司也迅速提高价格。Elon如果价格是15美元就不会卖，但他以25美元以上出售。所以他显然迅速提高了价格。我很惊讶你认为到明年年底每吉瓦的收入不会增加到超过100美元以上。RSI什么时候发生？起飞是什么时候发生？或者即使没有发生RSI，只是说当前的进步速度继续下去。只看一下……
我们要看过去一年半取得的进展。一年前半的模型是什么？是 Claude 3.5 之类的吗？我的问题是，世界上最好的模型是在二月训练出来的。所以你是说我们可能不被允许发布实验室的最佳模型吗？OpenAI 说他们两周都不训练新模型，天哪。这里有一个内部问题：它们是否因为获得足够的使用率而推高了算力的价格？另一个问题是，监管是否会减缓整体 AI 的进步速度？
是的，但他们甚至不被允许在内部使用这个新模型。Astra 甚至在内部都没有广泛部署。但即便如此，如果你有一个这样的模型……去年年初发布的模型是什么？GPT-4o 吗？那是 GPT-4o 对吧？是的。你指的是从现在到 2027 年底，从 GPT-4o 跃升到 Mythos 2 级别的差距。是的，但 Mythos 2 还没发布，甚至 Mythos 都没出来。再次强调这种差距。甚至连 Mythos 都不被允许发布，它已经被“阉割”了。我们不能用它来优化推理性能，也不能用它来优化各种其他东西。
是的，也许 AI 进步或部署的放缓意味着每吉瓦的收益会降低。但这是我看到的到明年年底每兆瓦只有 1 亿美元收入的唯一方式。只要模型变得更好，从中产生的价值就会提升。显然，谁捕获这些价值仍有争议，但最终每个人都会提高价格。因为他们可以这么做，而且这具有极强的通胀效应。
特别是如果监管的方式是……目前为止，还只是“不要发布模型”。但越来越多的监管方式是纽约禁止数据中心、德克萨斯州暂停审批、俄亥俄州声称（或试图声明）你必须为特定半径内的所有人支付房产税。这类事情将减少供应并增加成本，这些也会转嫁出去。
你最终会陷入一种境地：尽管模型在内部不断变好，但至少在外部意义上进步放缓了。在一个起飞场景中，为什么 Anthropic 的最佳模型会比外部可用的版本领先六个月？是因为安全和监管，也是因为有竞争优势吗？如果进步加速，这六个月的差距实际上会变成一个更大的差异。这就是为什么这会限制每兆瓦收入的增益，使其增长率远低于今年上半年的水平。
这里有一个我非常感兴趣的问题。随着这些公司上市并对投资者负责，假设到明年年底他们拥有接近 20 吉瓦的算力。那么算力的 10% 就是 2 吉瓦。假设他们想把用于训练的算力占比从 60% 提高到 70%，而他们的投资者会说：“如果你每吉瓦能产生 1000 亿美元的收入，那你基本上是在为了增加训练算力而拒绝 2000 亿美元的营收。”所以投资者会问：“天哪？你们已经在训练上花了这么多钱，为什么还要花更多？”
作为一家上市公司，你认为如果他们只是说“不，我们将继续增加用于训练的算力占比，以抵消每吉瓦算力带来的收入增长”，会发生什么？这是我个人的信念。实验室将随着时间的推移分配越来越少的算力给推理任务。我认为这非常非共识。大多数人的标准观点是：“哦，大部分算力将用于推理。”其中大部分将用于训练的前向传播，而不一定是产生收入的推理任务。
最终，如果今天每兆瓦能产生 3000-4000 万美元的收入，你分配 40% 给推理。如果现在每兆瓦能产生 6000-7000 万美元的收入，你仍然分配 40% 给推理并产生所有这些利润，然后进行分红和股票回购吗？还是去构建 AGI（通用人工智能）？我认为 Anthropic 和 OpenAI 的明显答案，不仅在高管层面，也在董事会层面，是去构建 AGI，因为它更有利可图。
所以最终你会看到他们提高专门用于训练的算力百分比——尽管如果他们将每单位增量算力投入到推理中，它会产生越来越多的利润。没错。重点在于，如果我出售令牌……OpenAI 发布 Ultrafast 模式是仅针对外部用户，还是也在内部使用？
事实证明不是。实际上，我将把它分配给内部和外部，因为我从超快 AI 或最佳模型中产生的内部价值远高于外部的价值。所以最终，当然我可以每兆瓦产生 1 亿美元的收入，但如果我将此转向 AI 研究，我能获得多少增量进步？这对我的未来收益潜力、对我所做一切的折现现金流有什么影响？他们不会进行这种计算，但最终将越来越多的算力分配给内部更有意义。
推理算力的规模之所以如此之大，唯一的原因是为了扩大训练集群的规模。我认为这是一个有趣的经济学问题，我们可以让模型来消化：在一个减少用于推理算力比例的世界里，必须满足什么条件？我认为在过去三个月里他们已经这样做了。我想在今年的一些时候，他们正在增加算力的比例……让我们按月来看。你会同意每个月 Anthropic 添加的算力都比前一个月多吗？
当他们签署 SpaceX 协议或其他事情时可能会有一些噪音，但总的来说，算力数量是一个上升的曲线。所以在一月，他们添加的算力比十二月少，但他们的收入却飙升了。然后他们似乎进入了平台期。现在他们每个月不再增加 250 亿美元的经常性收入（ARR）。这意味着他们获得的边际兆瓦中，有更高比例用于研发而非推理。所以他们事实上正在增加投入研发的算力。
如果你仔细观察他们的所作所为，这是显而易见的。如果我看你提到的世界算力增长速度的数字，我想了解一些事情。似乎如果我把你刚才说的数字加起来，到 2028 年底世界算力将超过 200 吉瓦，对吧？是的，全球范围内。好的。在那之后，全球 AI 算力还能以多快的速度增长？今年 30，明年 50，28年 70。29年应该在 90-100 吉瓦的量级。然后每年只增加 100 吉瓦左右吗？
我认为斜率可以继续上升。很难预测四年以后的事情。谁知道我们是否处于 RSI（相对强度指数） regime，或者世界经济何时以每年 10% 的速度增长？因为如果你达到每年 100+ 吉瓦，
你们处于荒谬的GDP增长率。如果认为2028年全球有200吉瓦，那时中国有多少？在整个趋势中，中国的算力如何持续增长？因为如果西方的RSI（推理规模效应）在中国拥有大量算力之前就开始启动，那么我们生活的世界可能就会不同。
回到2022年水平来看，当时美国占全球新增算力的45-50%，中国约占30-35%。其余部分由世界其他地区占据。自2022年以来，美国对中国实施了严厉监管并大幅增加自身算力部署。如今70%的电力用于在美国部署，而中国的数据中心AI算力占比极低，不足10%。
展望未来，这一比例依然很小。中国国内生产规模有限，从英伟达采购的芯片也很少，且许多最终流向马来西亚等地。因此中国国内新增算力增量仍低于10%。我认为2028年可能会开始转折，但可以说中国到那时拥有30吉瓦或更少的AI算力。
至于他们的“曲棍球棒”式增长有多快？我认为2028年他们能部署的算力会有大幅提升。但在2026年，他们仍主要依赖走私芯片、台积电为某些公司（实则为华为）生产的芯片以及三星出货的高带宽内存。
到了2027年，晶圆厂开始投产；特别是2028年，中芯国际和长鑫存储等国内厂商的产能开始上升，年产达到数百万片。仅在2028年，他们就增加了5-10吉瓦的国产芯片算力。
这些芯片肯定不如英伟达、谷歌或OpenAI在2028年拥有的芯片。所以即使按吉瓦计算也高估了情况，实际上是更差的芯片性能。如果世界明年增加100吉瓦算力（尽管你说无法预测那么远），中国随后一年能增加多少？
我想知道的是：当他们开始大规模出货算力时，是否会呈现“曲棍球棒”式爆发？还是说仍少于美国及其盟友？这取决于MATCH法案是否通过、出口管制工具是否持续收紧，以及中国制造新设备的速度。
但归根结底，中国肯定会实现指数级增长。如果有什么是中国擅长的，那就是极其迅速地扩大制造规模。我预计中国将能够把更多对外国芯片的采购转移到国内，或者缩小美国允许英伟达出售给他们的产品差距。
你认为中国在2029年能增加50吉瓦增量吗？我认为这完全合理。其中一部分可能来自国外购买，但我认为中国在2029年达到50吉瓦是完全合理的。但如果大多数是国产芯片，那么这50吉瓦的实际价值可能仅相当于美国20吉瓦的算力。
所以你实际上是在预测这样一个世界：也许2028年领先实验室拥有的算力，按质量加权后比中国到2029甚至2030年拥有的还要多。这意味着美国实验室没有任何减速迹象，确实如此。但显然政府和政客已经开始采取行动了。
而中国不会放缓AI发展，事实上只会加速它。老实说，当我采访黄仁勋并询问出口管制问题时——我是个自由主义者——我不确定自己对此的看法。我试图为他相反的观点进行辩护，因为我认为有必要深入探讨各种想法。
我曾想：“也许如果我们与中国合作会更好”，特别是考虑到他们控制着机器人技术所需的供应链和其他资源。但我没意识到算力局势会像你说的那样糟糕。事实上，出口管制似乎真的产生了巨大差异。
如果我们按照你所说的数量出货，那将是巨大的差距。等到我们有自动编码器和自动化研究人员时，中国在算力存量上将远远落后于美国。如果情况确实如此，那将是一项显著的成功。
唯一的例外是部分原因是出口管制，另一部分是金融体系的问题。美国金融系统更愿意对初创企业进行高风险投资（YOLO），而中国则不然。但一旦中国金融体系选定一个行业重点投入，他们会提供多得多的补贴。
因此，中国半导体行业的补贴总额超过了全球其他所有半导体行业之和。如果起飞速度不如你暗示的那么快，而是需要更长时间，那么最终中国将在半导体领域大幅追赶，进而转化为算力优势。
另一个值得注意的方面是：今天中国公司在AI模型上并不落后太多，至少在公众感知中相对于其拥有的算力而言。领先的中文实验室总共最多拥有100-200兆瓦的算力，字节跳动的Seed是唯一的例外。
但Kimi并没有运行吉瓦级别的算力或接近该水平，而Anthropic年底将达到5吉瓦以上。所以问题是：这重要吗？我认为目前这种算力差异并不那么重要。
当我们分解实验室的算力比例或预算时，到目前为止一直是60%用于训练，40%用于推理。但训练进一步细分：实际上50%的算力是研究，10%是开发，40%是推理。
研究和开发的含义是：研究人员生成想法、测试新架构、数据混合、超参数及注意力机制等。但当他们进行训练运行时，例如Anthropic训练Mythos时，其预训练阶段低于200兆瓦。
是整个还是仅预训练？是预训练部分，耗时约两个月，低于200兆瓦。强化学习（RL）甚至更少。你认为RL的算力少于预训练？就单次预训练站点而言，是的。但总算力可能更高吧？不过这是顺序执行的。
大多数时候，他们某一时刻使用的算力最多可能只有200兆瓦。实际上，他们拥有多个吉瓦的算力，因此大部分计算资源都用于研究，而非模型开发。这背后有其原因：协调所有这些集群很困难；将它们集中部署也很困难；进行多站点训练很难；强化学习也很难。在强化学习中，生成更多的 rollout 并不一定能使模型变得更好。
有很多原因导致你可能无法利用拥有的全部两吉瓦算力来进行训练，实际上我只能使用200兆瓦。随着自动化编码和自动研究人员的发展，我预计用于研究与训练的计算预算比例将变得更加模糊，或者甚至更高地偏向于训练。此外还有持续学习等因素开始意味着越来越多的资源实际上都投入到了模型训练中。
如果你最终处于每年使用100吉瓦算力的世界，按当前价格计算，这意味着每年的资本支出将达到5万亿美元。再加上你必须在此之前很久就建造发电厂的事实，这也是一个30年的资产周期。同时数据中心也是15到20年的资产，你也必须提前建造它们。因此，一旦考虑到未来几年的增长，5万亿美元的资本支出实际上可能会变成7到10万亿美元。
等等，我没听懂。这还不包括数据中心本身缺乏发电基础设施的事实吗？没错，正是如此。当你谈论AI资本支出时，人们常说400到500亿美元。但这仅仅指关键的IT部分：服务器、网络、光纤、收发器、光通信等所有这类东西。它并没有计入数据中心本身或发电厂，而这些设施是提前建造的。
如果我今年建造100吉瓦的算力，明年建造150吉瓦，那么这150吉瓦所需的所有建筑都需要在今年以资本支出的形式完成。如果我在后年建造200吉瓦，那么所有这些发电厂都需要投入资金……你今年就必须购买涡轮机。因此，如果你要建造100吉瓦的算力，实际规模比5万亿美元还要大得多。
非常有可能的是，到2030年底，每年的增量资本支出将接近1万亿美元，这相当于世界经济的十分之一。如果所有这些都在美国进行……美国经济也会增长。但即便如此，以目前美国经济的规模来看，仅数据中心就要占据美国经济的四分之一到三分之一。当我大声说出这些话时，我想：“也许你是对的，而我们只是不会允许这种情况发生，这就是为什么这不会发生的理由。”
因为为了让这种指数级增长继续下去，美国经济的四分之一都用来建造数据中心。我相信资本主义和资源向最有利可图的事物重新配置的理念，但与此同时，政治、信贷市场和资本市场也是存在的。所以为了实现在2030年前达到100吉瓦的目标……或者让我们将其缩减到2028年，届时所有这些项目的资本支出约为3或4万亿美元：超过2.5万亿美元用于IT资本支出，另外1到2万亿美元用于数据中心和能源以及下游供应链（如半导体等）。
如果你处于3或4万亿美元的资本支出水平，这些现金从哪里来？目前还没有任何业务能产生这么多现金流。超大规模云厂商（Hyperscalers）资助了迄今为止所有的增长：谷歌、微软、亚马逊和Meta。他们资助了很大一部分，占据了超过一半的算力份额，但他们现在并不产生现金利润。
实际上他们将所有资金都投入到了资本支出中。此外，他们还通过举债并将借来的钱全部用于资本支出。你已经看到Meta这样做过，亚马逊和谷歌也是如此，微软很快也会跟进。每个人都在举债以支付他们的资本支出。那么谁是之前没有这样做、但现在需要为此买单的新增主体呢？
对于谷歌来说，情况相对简单：他们可以停止股票回购，或者让Meta停止回购，转而购买计算机基础设施。这对市场没有巨大影响，但确实有一定影响。但随着时间推移到2028年——届时超大规模云厂商正在筹集数千亿美元的债务，然后他们的整个供应链也在筹集数百亿美元债务——谁来为这一切买单呢？
有几种不同的方式。首先是像英伟达、博通这样的半导体公司以及内存厂商，决定资助部分资本支出。其次是传统的基础设施投资者，他们筹集资金并投资于基础设施；只不过这次不是桥梁，而是数据中心。最后是经济中的每个人意识到：“也许我不应该买房，或者也许我不应该投资于帮助人们购房的信贷产品，或者我不应该购买政府债券。”
“我应该直接购买超大规模云厂商的债务，或者购买这个数据中心的债务，或者购买Anthropic（人类对齐公司）的债务。因为Anthropic愿意为增加的一十亿美元产能支付20%的利率。”因为他们知道由此产生的收入将是巨大的，而且他们愿意支付20%，因为这仍然比从SpaceX以每吉瓦500亿美元的价格租赁更划算。
因此存在所有这些竞争和争夺资金的情况。但如果现在这样做，整个世界经济格局将发生真正的转变。Antithesis是一个确定性软件测试平台，能够实现完美的可复现性。它还解锁了一些非常疯狂的调试方法，比如时间旅行功能。
使用Antithesis，你可以跳转到轨迹中的任意一点并从此处开始。因此当发生崩溃时，你可以回退到出错的精确时刻并冻结整个系统：包括应用程序、数据库甚至环境本身。这使得你可以做到原本不可能做到的事情，即在完全相同的瞬间观察分布式系统的每一个部分。
时间旅行还允许你为已经发生的事件添加遥测数据和日志记录。例如，你可以回退到崩溃前五秒并决定捕获所有网络流量。最强大的是，Antithesis为你提供进入系统的实时终端，你可以用它来扰动任何你希望改变的部分。
杀死一个节点或禁用某个功能，然后点击播放看看会发生什么。然后再回去尝试其他操作。在生产环境中，对于这种破坏性分析，你通常只有一次机会（one shot on goal）。例如，如果你重启一个死锁的服务，原本需要研究的确切死锁现象就会消失。
但有了Antithesis，原始的时间线是……
始终可复现，因此你可以测试尽可能多的假设。如果你不想亲自进行所有这些“时间旅行”，你可以通过 Antithesis API 让你的代理为你完成。访问 antithesis.com/dwarkesh 了解更多。过去几天我们私下一直在辩论，AI 是否会导致主权债务危机。逻辑如下：正如我们所提到的，存在一种情况，即很少的投资能转化为巨额资金。因此回报率——这真是个该死的问题，伙计。天哪，真不敢相信。不，这对那些无法将少量资金转化为巨额资金的每个人来说都是个大问题。所以回报率极高。即使在数据中心层面，如果你建造一个数据中心并试图以折旧后成本的 10 倍租金租给 Anthropic 或 OpenAI，这简直疯狂。你在年底能将 1 美元变成 2 美元、10 美元或更多。这会推高利率。
现在，如果利率上升，并且这种趋势蔓延至整个经济……人们借入越来越多的资金。他们与政府原本会进行的借贷、其他公司可能提供的贷款，或者你作为消费者或房贷买家所获得的资金展开竞争。这使得其他人借贷变得更加昂贵。这对成千上万的人有着巨大的影响。抱歉，我要开始长篇大论了，但我们一直在共同思考这个问题。我认为美国最终会没事的。因为如果数据中心建在美国，你可以对它们征税。但目前的税收体系设定下，企业所得税仅占联邦收入的不到 10%。超过 80% 来自工资税和所得税，随着自动化程度不断提高，这部分收入将萎缩。
同时，在支出方面，目前税收收入的 20% 用于偿还债务利息。现在，许多债务期限较短，每五年滚动一次。你为什么要笑？因为你最近一个月学到的东西让你觉得好笑吗？对你来说不是一样吗？你可是拿了金融经济学学位的人。我没有。互联网以为我是养蜂人。几个月前，是的，就几个月前。这是我们的业务啊，Dylan。我知道，我知道。抱歉，我现在有点不自在。该死。不，挺好的。你做得很好。我只是觉得这很有趣。有一百万人听这个刚了解债务几个月的人讲话。
假设利率上升 1%。在五年的时间跨度内，用于偿还债务利息的税收收入比例将从 20% 升至 25%。如果上升 5 个百分点，这一比例将超过 40%。但如果考虑到政府每年借入 2 万亿美元的事实，那么这一比例将从 40% 飙升至超过 60%。也就是说，税收收入的 60% 仅仅用于支付债务利息。现在我认为美国会没事的，因为如果我们允许数据中心在美国建设，税基将会扩大。但我认为其他国家绝对完蛋了。我刚才在查看哪些国家拥有大量债务、极少的税收收入，且其债务需要频繁偿还。这些国家，比如巴基斯坦或尼日利亚，我认为在这个新的利率环境下将彻底陷入困境。
这种挤出效应正是为什么我们不能“YOLO”（孤注一掷）建造 10 亿吉瓦电力的原因。你拥有所有这些依赖大量债务的行业和国家，包括我之前提到的那些即将违约的贫困国家。你有消费品行业，所有在 Trader Joe’s 或其他地方售卖商品的制造商都大量使用债务。所有这些电信公司也依赖巨额债务。银行同样如此。因此，如果市场利率上升——不一定是政府设定的基准利率，而是政府联邦利率与所有人实际收取的利率之间的利差扩大，因为亚马逊明年可能想发行 1000 亿美元的债务（或者不管数字是多少，大概少一些）——你最终会面临一个极具挑战性的问题：现金从哪里来？
有一部分资金来自现金流，且现金流持续增长。但合乎逻辑的做法是投资远超你的现金流，因为这样未来几年的回报将令人惊叹。因此存在一个差额（delta）。而推动这个差额下降的因素包括：针对数据中心的监管、消费者的愤怒、政治家的不满、对 AI 的监管，以及 AI 实验室因安全原因未发布最新模型。利率上升影响了所有这些方面。因此，所有这些因素将曲线从资本主义在纯粹简单经济学意义上所期望的状态，弯曲到我们这个复杂系统所想要的状态，并使其越来越低，导致实际建造的数据中心电力容量低于理论应有水平。
嗯，利率是资本主义的一部分，对吧？是的，但在简单经济模型与我们所处的复杂现实之间。你认为亚马逊、Anthropic 或其他公司明年发行债券融资的平均利率是多少？如果他们借入数千亿美元债务。我不认为亚马逊会借入数千亿美元的总债务。我是说大型科技公司整体，以及所有云服务商……在我们做的模型中，从 2024 年到 2029 年约有 11 万亿美元的资本支出。总计？是的，总计。如果你尽可能多地用现金流来资助这部分资金，你仍然需要发行超过 5 万亿美元的信贷来满足这 11 万亿美元以上的建设需求。所以你不认为 AI 收入能继续每年翻三倍吗？
AI 收入确实会增长。但我认为如果没有某些约束条件被触及，它不能无限期地持续增长。实验室会有特定的激励措施。在许多情况下，即使他们越来越试图走向这条路，但建造所有算力的并非实验室本身。但他们将拥有所有这些现金流。你说收入会是多少？你认为他们不会有那么多收入吗？不，我只是说直到 2029 年，资本支出大约在 11 万亿美元左右。其中 6 万亿美元由现金资助，5 万亿美元由债务资助。如果是这样，整个生态系统筹集的 5 万亿美元债务确实会导致利率上升。那么什么能阻止这种情况发生？有几个因素。第一，实验室是否增加每兆瓦的收入并保持庞大的推理分配量？
在这种情况下，标普500指数上的公司正在积累所有利润，因为每个人都在付费以降低成本。当然，它们的利润也会上升，但现金必须来自某处。因此，相对于它们向世界提供的价值，其收入增长的速度存在上限。而且技术具有扩散性。但最终，实验室的收入持续上升。
它们无法仅靠现金流资助一切。最佳方案是尽可能多地使用信贷进行融资，因为即使实验室的现金流能资助大量项目，你仍希望建设更多。因此会形成一定规模的信贷。我们目前的模型显示，到2029年将有5万亿美元的信贷和6万亿美元由现金资助的基础设施投资。考虑到这一点，
相对于人工智能模型带来的需求增长而言，当前的算力仍然不足。因此显而易见的答案是：每兆瓦的收入持续上升，这很合理。你认为到2029年由于这一切的影响，利率将上涨多少？嘿，这完全是凭感觉估算的数字。如果你要凭空猜测一个数字……
世界经济增长将大幅上升，那么亚马逊当前的利率为何不会上涨呢？
这完全是凭感觉的推测。最近Meta的融资成本在5%到6%之间。我不明白它们为何不会支付8%。它们会乐意支付8%，因为它们即将建设的算力带来的回报是巨大的。市场可能不希望如此，但它们愿意支付8%。反之亦然：如果它们支付的利率从目前的5%、5.5%或6%上升到8%，即增加250个基点，这将导致
经济中的其他人也需多支付250个基点，从而引发一系列后果。银行会叫苦连天，因为如果它们的信用利差扩大，其债务重定价的速度将快于资产。最终，如果信用利差失控，它们将损失巨额资金。另一个后果——正如你提到的观点——是如果利率上升，贴现率也会增加，这意味着
所有股票的现金流现值将暴跌。这意味着即使整体股市表现尚可——标普500指数可能没问题——任何个股的价值很可能已经崩盘，尤其是那些巴菲特式的、伯克希尔哈撒韦类型的、能稳定提供30年现金流的股票。是的，这就好比在想：“我为什么要花这么多钱去买强生公司股票？”它们被视为
稳定股票：现金流良好，并会随时间返还这些收益。或者铁路公司。如果我的贴现率不是3%或5%，而是现在的8%或10%，我他妈为什么要投入这么多资金？对于发展中国家……我的好朋友兼经济学家巴兹尔·哈尔佩林曾指出，我们将看到第二次“沃尔克冲击”。在20世纪80年代，为了对抗通货膨胀，美联储主席保罗·沃尔克将利率提高了5%以上，实际利率高达8%左右。这导致该十年间大约40个国家（主要在拉丁美洲）违约。我认为这种情况可能会再次发生。
好了，我们现在进入了关于“奇点”的讨论范畴。我们一直在探讨如果利率上升会发生什么——顺便说一句，我认为这一切在奇点到来之前就会发生。是的，我就是这个意思。我们之前在讨论奇点之前的情况：利率上升2-3%等等。我认为，在某个时刻，世界经济极有可能每年翻倍。这不会在五年内发生，但最终会实现。有一位名叫达蒙·宾德的研究者在这方面做了很棒的工作。如果你查看完全自动化经济中的投入产出表……
要让经济体中的所有资产存量每年翻倍，需要付出什么代价？是的。如果经济以每年3%的速度增长，根据70法则，那需要20多年。没错。但他指出：“好吧，目前我们受到瓶颈限制，因为有人口因素存在，你无法每年让人口翻倍。”但在一个劳动力也能每年翻倍的世界上，经济能增长多快？
我认为它可能每年翻倍。至少也会达到百分之几十的年增长率。好的。利率应该与经济增长率非常接近。由于消费的存在，它不会完全相等，但应该相当相似。因此我认为在2030年代我们将进入一个利率高达百分之几十的世界。
我脑子里有个声音说：“可能是几百个百分点，”但我们就假设至少是百分之几十吧。好吧。所有不参与人工智能生产的国家都将违约。所有非AI股票的价值基本归零，因为现金流现值毫无意义。如果联邦政府无法找到向人工智能征税的方法，那么债务偿付额将超过
当前的税收收入。而且还会出现所有这些其他影响——我相信我们甚至还没有将这些因素计入定价中：你无法获得抵押贷款，等等。从根本上说，这个世界正在发生什么？这些都是极客术语，对吧？但让我们退一步看。到底发生了什么？刚才开始进入极客话题了吗？我们将进入一个完全不同的增长体制。经济基本上在说：“嘿，
政府借钱支付养老金的机会成本现在极高。因为这笔钱本可以用来建设机器人工厂，进而建造更多机器人工厂。”资本的机会成本将大幅增加。这正是我们讨论的所有这些现象的根本原因。随着利率上升，股市遭受重创。即使是AI公司也是如此。一些真正相信人工智能的人会说：“为什么美光、海力士或铠侠的市盈率只有2到3倍？”这就好比在说：“如果你真的深信AI，那么经济中的 everything 都应该以2到3倍的市盈率交易。”
如果你不信奉AI，那当然可以说它们被高估了。这是一个论证：我认为存储芯片业务会表现良好——但存储类股票不应该再翻10倍之类了。因为如果我们处于对存储芯片需求如此巨大的市场中——这意味着AI已经引起了经济的剧烈变化——那么所有东西都应该以2到3倍的倍数交易，而股市应该彻底崩盘。从这个意义上说，Meta的交易价格……
我认为它是一家1.5万亿美元的公司。这真是荒谬。从逻辑上讲，它的价值远高于此。你只需看看它们的现金流、它们囤积的所有基础设施，以及它们未来能够以每瓦特极高价格出售的算力——无论是作为代币（因为他们的实验室运作良好），还是直接卖给Anthropic和OpenAI。最终，这变成了一个必须将所有资本重新配置到通用人工智能（AGI）上的问题。你是通过给其他人定价来实现这一点的
所以，AGI的限制因素并不是研究工程师（比如我们的室友Sholto）能多快转动齿轮。实际上，限制在于世界其余部分允许这种情况发生到什么程度？因为他们会进行监管。他们显然会提高利率。他们会说：“不行，不能建数据中心。”他们会说：“停止建造晶圆厂。”他们会惊呼：“天哪，每家公司的股权价值都在暴跌，那我怎么为增加业务而投资AI买单呢？”
在这种情况下，Anthropic和OpenAI必须开始自己构建基础设施。他们已经在制造自己的芯片，或者至少在设计自己的芯片，并且这种趋势会向外扩展。在未来几年内，他们正在承包自己的数据中心并构建自有基础设施。这就引出了经济资源重新分配的问题。即使模型具备直接起飞的能力，也有很多因素对其施加向下的压力，使其无法实现直线式的爆发式增长。
我认为你和我都相信我们处于一个模型具备这种能力的世界中。但至少出于我的希望，由于经济和监管世界的种种因素，“缓慢起飞”是可能的。政府会说：“不要发布你的模型。”政府还会说：“实际上，你们甚至不能在自己的内部大量使用这些模型”，因为这种情况很快就要发生。他们已经在禁止发布模型了。
我最担心的是奇点的到来，而外部部署实际上正在帮助这一进程的到来。因此，阻止外部部署是愚蠢的。这能防止奇点吗？目前来说不会，因为这会导致更多的收入增长，因为模型尚不具备递归自我改进（RSI）的能力。但我担心的是这样一个世界：到了2030年，政府会说：“我们要等六个月才允许你们向公众发布最新模型。”
仅仅六个月的时间差，乘以100倍的增长。让我们算一下：在这六个月内，他们在内部进行递归自我改进。公司内部会发生各种疯狂的事情。与此同时，我们其他人只能守着那些按照当前速度落后几年的模型。这是我的想法：假设全世界都卷入这场试图减缓AI发展的阴谋中。（我并不认为这是阴谋，而是每个政客公开表达的观点。）
假设他们通过限制将AI的发展延缓一年。如果算力每年增加2到3倍，他们阻止了一整年的AI部署应用，导致你比原本应有的进度落后了一年。但在进行递归自我改进（RSI）时，你在一年内能获得3到6年的AI进步。但他们不仅限制算力，还限制了实验室在内部发布模型的能力。我们看到了这一点。
如果他们真的这样做，那将是理想的局面。Anthropic曾不得不暂时停止向外国员工提供Mythos（注：指代某内部模型或系统）。我不知道这在内部也是真的吗？那是他们声称的。我以为那只是一个不同于Mythos的检查点，但它基本上就是Mythos。但像这样的事情将来也不会被允许。
政府是愚蠢的，但我希望他们不至于那么蠢。至少拥有主导权的美国政府不会想让Anthropic在内部使用Mythos 4。他们会说：“等等，慢下来。”因为所有这些监管原因。所有当选官员都会讨厌AI，甚至那些已经上任的官员也恨AI，包括他们的选民。
我敢打赌，总有一天你的父母会打电话给你说：“Dwarkesh宝贝，你做得很糟糕。你在加速AI的进步。”因为我的播客我在加速AI进展吗？也许吧。你教育人们，也许如果他们更聪明，他们就会更快地推进AI发展。总之，你将面临现实世界的约束，限制AI的进步、开发和部署。
虽然这一切最终都会发生，但在到达那个阶段之前，我们可能会自相残杀。Jane Street目前正在招聘两个不同的机器学习实习生职位：一个专注于ML工程，另一个专注于ML研究。我与负责管理研究轨道的Alok进行了交谈，以了解更多关于该项目的信息。
我认为这个领域从根本上说是研究不足的。通常，我们的深度学习研究团队内部存在未解答的问题，比如我们不了解某些市场参与者的行为或交易发生的特定动态。这些未解之谜构成了非常好的实习生项目，因为它们最终是我们关心的话题，只是还没来得及弄清楚而已。
因此，即使是实习生，你也将为真正的研究做出贡献，而不是从事某种人为设计的练习。Jane Street团队密切关注前沿LLM（大型语言模型）研究。一个相对常见的实习生项目是将最近的论文适应于金融市场，而金融市场带来了一整套棘手的问题。
最终，我们试图建模数千个相互关联的非规则时间序列。信噪比极低，因为有很多竞争对手也在做同样的事情。所以我们面临着一个对抗性、非平稳的、极高维度的问题，试图解决它。明确地说，你不需要了解任何金融知识也能成为合适的人选。
只要你拥有ML研究的背景，Jane Street可以教你其余的一切。他们的2027年实习申请现已开放。请在janestreet.com/dwarkesh申请。我发现这些情景中疯狂的一点是，世界未来的劳动力供应有多少最终集中在极少数公司手中，以及这种劳动力供应量每年增长的速度有多快。
如果前沿领域的算力（以FLOP计算）每年增长4到5倍——并且实现一定能力水平所需的算力每年减少3倍——那么前沿实验室中有效的AI人口规模实际上每年增长10倍。这目前并不太重要，因为AI还不够好，无法胜任完整的工作，或者在从事工作、策划方案等方面的自主性不如人类。
但如果当前趋势持续下去，你将面对这样一个世界：OpenAI今年拥有大约1000万AI劳动力者，明年变成1亿，后年达到10亿。很快，即使算力扩展放缓，也不需要太多年份，每个公司单独拥有的劳动力等价物就会超过地球上的人口总数。
我认为在本世纪末之前，这是非常可能的：单个实验室内的AI劳动力数量（有效人口）将超过地球上的人口总数。我们经常谈论因国有化或其他原因导致的权力集中，但我们没有充分考虑到我们正在迅速进入这样一个体制：就工作产出而言，“人”（即AI）大多集中在两家实验室，它们消耗了更多的
以及世界上更多的算力。如果这些人工智能存在目标错位，那么基本上整个世界都错位了，因为世界上的大多数思维都在那里。但即使它们没有错位，也只有极少数公司拥有巨大的影响力或控制权。最近发生了一场争论，我记得加文·贝克尔曾说：“达里奥认为世界上只会有一个公司。”随后肖尔特和达里奥出来澄清，说：“不、不、不。我们不是那个意思。”
但归根结底，如果你相信超级智能（ASI），认为实验室是算力最有效的使用者并能从算力中产生最大价值，那么唯一会发生的事情就是算力的集中化。如果你相信人工智能研究人员、ASI和通用人工智能（AGI），那么这一切都存在，这一切都是基础。即使没有超级智能也是如此。
前沿领域的有效人口规模目前正以每年10倍的速度增长，针对给定的能力水平。因此，如果你达到了非常称职的远程工作者、软件工程师或研究人员的能力水平，那么这些人的数量正以当前能力增长率的每年10倍速度增加。
我明白了，而且是在没有超级智能的情况下。那么一旦有了超级智能，情况甚至会更疯狂。也许每年增长100倍或1,000倍。或者他们的智力在增加，但人口数量没有增加？或者是两者的某种混合，对吧？
你看到的达韦克什的世界是什么样的，在那里一切都不是集中化的？因为在我看来，每一种力量都在疯狂地趋向于集中化。这让人害怕得要命。我希望它不要完全集中化。但这也许正是“热爱恩典的机器”的全部意义所在，对吧？它是万物，它让我们的生活变得美好。
思考未来太难了。但我同意你的观点。我认为根本问题在于，人工智能训练具有巨大的规模经济效应，因为你在特定技能或知识集上投入的任何培训努力都会分摊到数十亿次会话或数十亿用户身上。这是一个效应。
另一个效应是，如果你在人工智能竞赛中稍微领先，且算力短缺，你可以收取高得多的加价率，因为你能更好地利用这种稀缺资源。因此有两个效应使得人工智能竞赛中的领先者获得更多优势。可能还有更多因素。
如果模型从部署中学习，并且一个模型的部署范围比另一个广泛得多，它就能获得多得多的现实世界数据。你的观点很有道理：无论是用户部署和持续学习，还是训练带来的规模经济效应，亦或是最佳人工智能模型帮助制造下一个最佳模型的渐进式进步、ASI等，所有这些都指向集中化。
我认为一个重大的智力项目——诚实地说，我们应该花些时间思考这件事——或者至少我会花时间思考：在通用人工智能之后，什么是去中心化、广泛赋权的未来愿景？这个愿景必须认真对待这些规模经济效应。
另一种替代性的愿景是政府控制它，也许你认为你可以更信任政府，因为它不是私营公司。我不信任政府，也不信任达里奥，还不信任山姆。这是个问题，对吧？显然，对未来的预测很容易出错。
你可能没有预料到某个关键效应或改变一切的事情。但在事前，很难看出我们如何避免必须选择一个集中化来源的情景。这就是资本主义运作的原因，对吧？它是去中心化的决策和去中心化的权力。
在某些方面，超级集中的资本主义经济体实际上比超级分散的资本主义经济增长更慢。你需要法治等等。但人工智能将所有这些都颠倒了。最终你会觉得：“实际上，私有制可能不是最高效的经济形式，因此它的增长速度慢于集中化的人工智能经济。”
好吧，那仍然是私有制，但有多少公司真正参与这部分经济呢？目前可能只占经济的2%左右吗？1万亿美元除以30。英伟达占据了很大份额，还有Anthropic、OpenAI以及这些超大规模云服务商。
显然还有其他公司参与其中，但大部分人工智能业务仅由极少数公司完成。所以这可能是私有财产，但涉及的公司非常少。我的意思是，这就是市场结构正在做的事情。那么什么能阻止它呢？我不知道。
除非人工智能进展放缓，否则除非政府对其进行严加监管，否则这一切都会发生。在这种情况下，我们正走向一个世界：要么资源超级集中，我们祈祷一家公司能做好所有事情；要么政府让人们放慢一切步伐，从而以某种方式减缓进步。
希望这样能形成更平衡的权力结构。即使我们走向通用人工智能、超级智能（ASI）、超级智能（RSI），沿途的一切仍会导致某人捕获更多资源。因此，很难找到一个人工智能不会导致超级集中的框架。
现在这里有一个积极的一面：今天Anthropic并没有捕获大部分价值。我们可以谈论他们如何从每兆瓦2,000万美元增加到1亿美元，但他们为购买的许多算力仍支付1,300万美元。但最终，他们涨到每兆瓦1亿美元的原因是Jane Street捕获了每兆瓦3亿美元或5亿美元。
或者达韦克什，通过研究他的播客并了解信贷知识，他捕获了每兆瓦多少美元？现在你能用多少呢？很难说。但我认为这是唯一的救赎之处，即经济的其余部分可能从Anthropic身上获利更多——不，但你之前提出的整个逻辑是将推理重新分配给人工智能研发。
这种逻辑的核心在于，人工智能实验室内部劳动的回报率远高于外部。是的。这是我的自我安慰之词。我同意。在世界的所有情景中……有80,00个世界，而在其中只有一个世界里Anthropic不拥有整个世界。
权力再次集中，因为我不想把代币发送到外部。它们在内部更有价值。所以是一样的道理。我为什么要让Jane Street从这些堕落的期权交易者身上赚取所有钱呢？嘿，他们是赞助商，拜托。天哪。不，我认为这很棒。
让它成为一个高效的市场对世界来说是一个很好的价值。
Jane Street 通过正确把握市场观点来赚取巨额利润，从那些进行高风险期权交易的投机者身上获利，无论具体形式如何。既然 Jane Street 每兆瓦能产生两亿美元的最终货币化收益，他们愿意向 Anthropic 支付一亿美元……那么，如果 Anthropic 能够通过在内部使用这些算力来每兆瓦产生数亿美元的收益呢？这正是正在发生的事情。
带着这一沉重的话题，我想我们下次再见时 RSI 应该已经正式启动了。你打算在接下来两个月内不再邀请我上你的播客节目吗？好吧，没问题。谢谢了，兄弟。