从软件定义网络到可编程GPU集群的范式转移

云计算早期的颠覆性创新源于 Martin Casado 提出的软件定义网络(SDN),该概念通过分离控制平面与数据平面实现了路由网络的虚拟化。这一技术变革极具破坏力,甚至迫使 Cisco 支付 $600m 收购相关技术,而 VMware 则以 $1.3B 的价格竞得。如今,类似的革命正在 GPU(图形处理器) 领域发生。SF Compute 的核心理念在于,不再要求企业投入 $50-100m 的前期资本去构建从硬件、固件到内核的完整超算集群,而是允许用户通过编程方式控制网络与内存资源。这种模式不仅支持买卖当前的GPU算力,更涵盖了未来时段的合约交易。

"That revolution is now coming for GPUs - where previously running your own supercompute cluster required $50-100m upfront... SF Compute is now enabling you to not only buy or sell GPU hours now and in the future, but also to programmatically control everything from your network to memory."

这种转变标志着算力从单纯的硬件租赁向 可编程基础设施 的演进。企业无需再承担沉重的资产负担,而是可以通过市场机制灵活获取算力资源。

物理结算:从“出租房间”到“运营酒店”的深层工程挑战

Evan Conrad 用酒店的比喻来阐释 SF Compute 的业务深化过程:客户最初只想要一间“房间”(基础算力),随后需要清洁、客房服务和安保,最终发现交付这些服务意味着必须 运营整家酒店。SF Compute 最初尝试转租集群,但为了提供真正的交易价值,公司构建了类似云运营商的基础设施能力。这种模式被称为 物理结算(Physical Settlement),即买方获得的是实际可用的算力资源,而非基于指数的现金赔付。

物理结算将集群的物理约束直接引入市场定价机制中。交易不仅涉及价格,还涵盖以下关键细节: 1. 工作负载的中断容忍度:算力是否可随时被抢占? 2. 恢复速度:从存储中恢复状态需要多长时间? 3. 配置规格:特定的 GPU 代际、网络架构及软件栈要求。

这些物理层面的约束直接影响了合约条款与最终定价,使得算力交易不再是简单的金融衍生品,而是具有实体交付属性的复杂工程问题。

流动性、标准化与独立市场运营商的必要性

在 GPU 技术快速迭代且集群尚未完全标准化的背景下,SF Compute 采取了一种务实的策略:匹配具有不同约束条件的订单。Evan 认为,这虽然导致流动性分散在更多变体中,但使得交易成为可能。市场涵盖了现货与远期定价、批量推理(Batch Inference)与实时推理的租赁差异。值得注意的是,指数价格可能与实际购买算力的成本脱节,因此理解底层硬件规格(如 GPU 代际、SKU)至关重要。

"Independence is central to Evan’s case for a market operator. He argues that companies with large hardware or inference businesses have incentives that make it harder to run a neutral exchange."

独立性 是市场运营商的核心价值。拥有大规模硬件或推理业务的公司因利益冲突难以保持中立,因此无法构建公平的交易场所。SF Compute 致力于解决这些“不性感”的工程难题:访问站点、设计集群、运行背板(Backplane)以及实现基础设施的可编程性。例如,动态划分 InfiniBand 网络fabric(弹性分区) 是一项关键技术突破,它允许在运行时灵活调整网络资源。

NVIDIA为何无法构建此市场:生态位与中立性悖论

尽管 NVIDIA 是算力市场的“800磅大猩猩”,但它无法也不愿成为 SF Compute 这样的市场运营商。根本原因在于 中立性(Independence) 的缺失:如果 NVIDIA 建立交易市场,它将同时作为最大的供应商和平台方,这种双重角色会破坏交易者的信任。相反,NVIDIA 从 SF Compute 等独立市场的存在中获益良多:

  1. 提高硬件利用率:通过二级市场消化闲置产能。
  2. 扩大生态边界:促进更广泛的 GPU 部署与应用创新。
  3. 避免利益冲突:保持其作为中立硬件供应商的地位,服务于所有云厂商和独立市场。

这种生态位分工使得 NVIDIA 专注于硬件创新,而 SF Compute 等公司则通过工程能力解决算力交易的流动性、物理交付和可编程性问题,共同推动了 可编程数据中心 的成型。

从酒店运营到云端物理结算的演进逻辑

Evan Conrad 用了一个生动的比喻来解释技术栈的复杂性:起初只是想卖酒店房间,但客户随后要求客房服务、清洁设施甚至安保系统。随着需求层层叠加,最终你不得不运营整家酒店。在算力市场,供应商的角色也发生了类似转变。SF Compute 不再仅仅是提供裸金属或虚拟机,而是构建了云的全部运营能力。他们借鉴了大宗商品期货市场的概念,提出了“物理结算”(Physical Settlement)这一术语。在石油或大豆市场中,实物交割意味着货物实际交付;而在电力和算力市场,由于基础设施(如电网或冷却系统)的刚性约束,必须同时设计物理结算机制与订单簿。正如他在讨论中提到的:

“我们同时设计了物理结算和订单簿。这意味着我们可以实际处理算力的真实约束,例如‘我可以接受中断,但前提是存储可以快速恢复’。”

这种设计解决了传统云计算中忽略的物理层限制,使得算力交易能够像电力或石油一样进行精确的实物交割与调度。

市场流动性现状与核心衡量指标

尽管可编程数据中心的愿景宏大,但 Evan Conrad 坦言当前的算力市场并不成熟、深度不足且流动性较差。过去几年,团队的首要任务是获取在线供应并构建平台基础设施。目前,仅有 5% 的总容量被置于订单簿上,但团队正持续将更多产能迁移至此。值得注意的是,虽然订单簿上的容量占比小,但其流动性高度集中。为了衡量这种流动性的商业价值,SF Compute 采用了一个具体的财务指标:

衡量维度 具体数据/描述
客户购买成本 100美元(用于购买算力容量)
平均回收价值 25美元(通过转售给其他客户获得)

Evan Conrad 指出,这个 25% 的回收率是衡量流动性是否对商业参与者有用的关键指标。他们不追求虚无缥缈的高频交易者数量,而是关注流动性是否切实解决了客户的问题。这种务实的评估方式反映了早期市场的特征:通过高浓度的有效流动性来弥补总体规模的不足,从而为后续的市场扩展奠定基础。

标准化难题与算力“等级”差异

关于合同标准化的进展,Evan Conrad 表示目前距离全面标准化仍相当遥远。核心难点在于操作层面的统一性。他指出,如果无法先使所有运营环节一致化,就无法实现标准化。他以虚拟机的性能差异为例:同一运营商提供的两种虚拟机类型之间,可能存在高达 40% 的性能降级。这种差异并非抽象概念,而是具体体现在GPU内核启动时间(kernel launches)等高频操作中。对于训练或推理任务而言,这种中间层级的性能波动会直接导致最终MFU(模型浮点运算利用率)的下降。这类似于大宗商品中的“等级”差异,如轻质低硫原油与普通原油的区别。目前市场尚未建立统一的算力等价标准,因此必须先通过统一运营来消除这些差异,才能迈向真正的标准化合同。

基于多维约束的订单簿匹配机制

为了应对技术快速迭代的挑战,团队没有选择预先标准化算力产品,而是构建了一个支持多重约束条件的订单簿系统。在这个系统中,买方可以指定一系列属性作为需求条件,例如时间窗口(从何时到何时)、地理位置范围(X 到 Y)以及其他特定技术规格。系统随后在大型匹配引擎中,将这些带有复杂属性的买单与具备相应特性的卖单进行撮合。这种设计的核心优势在于无需提前定义技术能力的边界即可生成流动性。然而,这种灵活性的代价是流动性分散导致买卖价差扩大。虽然这增加了交易成本,但也为能够正确利用多种类型算力的产品创造了大量的套利机会。如果用户的产品架构足够灵活,能够适配不同类型的底层容量,就能通过捕捉这些价差获利。

"The trade off of this is that you have less concentrated liquidity. And so the prices are going to have, there’s going to be more spreads between the buy and the sell."

时间维度与中断成本分析

在评估算力容量时,当前可用容量(现量)与未来交付容量(期货/远期)存在本质区别。出售当前可用容量的前提是必须中断正在运行的工作负载,因此买方需要权衡对中断的容忍度。相比之下,出售一个月后开始的容量则不存在即时中断风险,因此这类远期容量的流动性更容易获得。然而,即使是未来产能,其价值也取决于中断发生的具体方式。例如,如果集群的存储性能(如是否配备 Weka 或 Vast 系统)不足,中断带来的数据迁移成本将显著增加。为了缓解这一痛点,快速的数据传输路径(如 WAN 或私有互联网)变得至关重要。这使得用户可以在一个集群被中断后,迅速在其他集群恢复服务。但现实是,许多新建的数据中心为了靠近电力而非客户(尤其是 GPU 集群),导致跨集群的传输路径往往不如传统 CPU 集群那样完善。这种基础设施的物理分布差异,直接影响了中断恢复的效率和市场定价。

硬件批次、固件缺陷与 Burn-in 流程

除了基础设施,硬件的生产批次(Cohort)也是影响算力质量的关键因素。早期发布的 H100 和 GB200 等芯片可能存在固件漏洞或硬件缺陷,导致用户倾向于购买特定时间段后部署的“更优质”批次。这种对硬件质量的精细化区分,反映了市场对早期缺陷产品的折价预期。云服务商通常通过 Burn-in(老化测试)流程来过滤不良品:在交付客户前,系统会尝试“杀死”所有故障 GPU 或节点。对于发现的坏件,服务商通过 RMA(退货授权)流程进行更换,确保客户永远不会接触到有缺陷的硬件。然而,某些问题(如 Supermicro 机箱固件 bug)可能影响整批设备,且修复需要时间或新硬件支持。例如,团队曾使用 Devin 工具来自动修复 B300 相关的固件问题。这种批次效应和潜在的软件层缺陷,使得即使是同一型号的 GPU,其实际性能和稳定性也因生产时间和固件版本而异。 sophisticated 的客户愿意为经过筛选的、无已知缺陷批次支付溢价,这进一步细化了市场的定价维度。

"The early GB 200s broke. The early H100s broke... if you were buying H 100s or you’re buying GB 200s, you might really want the ones that were deployed after a certain time because you’re not getting the first shitty ones off the rack."

市场深度与合约期限展望

在讨论市场的未来时,远期合约的期限长度是一个重要指标。目前的市场观察显示,这些可编程算力交易的合约可以延伸至 3 到 5 年的远期。这种长周期的存在表明,市场参与者不仅在交易即时或短期的闲置算力(Spot Instances),也在进行长期的产能规划和对冲。这种衍生品交易模式的引入,使得算力资源像传统大宗商品一样具备了金融属性。买方可以通过锁定远期价格来规避未来成本波动,卖方则能提前获得收入确定性。这种长尾流动性的提供,依赖于上述订单簿系统对复杂约束的支持能力,使得不同时间维度的供需能够精确匹配。

算力租赁的金融属性与支付结构

在可编程数据中心的运作中,集群融资周期通常为三到五年,这意味着相关的付款安排完全覆盖这一时间段。为了管理现金流并锁定长期资源,平台在订单簿中提供了可延伸至任意时间段的容量区块。对于这种长期的远期合约,目前的策略是要求客户全额预付费用;这与短期租赁不同,后者并不强制要求提前支付。这种金融结构设计旨在构建一个具有高流动性的远期曲线(Forwards Curve),从而让市场参与者能够根据自身的业务需求,灵活选择从即时可用到未来三年内的任意时间点购买算力。

中断容忍度与差异化定价模型

平台对算力的管理核心在于区分“实时”需求与“长期预留”需求,其中更侧重于构建具有流动性的远期曲线。这种区分直接影响了客户对服务中断的容忍度,进而导致截然不同的定价策略。对于批处理推理(Batch Inference)等可中断工作负载,客户通常只需要一小时或几分钟的提前通知即可应对资源被切断的情况;而对于实时推理(Live Inference)等对在线状态有严格要求的服务,客户无法接受分钟级的中断,他们可能需要一个月甚至三个月的提前期来适应容量变化并调整业务。因此,平台根据客户愿意为“中断权”支付的价格差异进行分层定价:实时工作负载因需遵守严格的 SLA(服务等级协议),其被中断的成本远高于批处理任务,这本质上是一个关于“打破租赁合约”的市场。

算力远期曲线的形态与套利机会

计算能力的定价曲线并非简单的线性上升或下降,而是呈现出复杂的动态变化。通过类比电力市场中的“日前市场”与“实时市场”,算力也存在当前可用容量与未来交付容量的价格差异。目前的曲线形态表现为一种“驼峰”状(Hump)结构。当一批算力即将到期或临近交付时,由于无法将已过期或未售出的容量“退回”过去,卖家必须降价以清除库存。随后价格回升至正常水平,而远期算力因客户更倾向于即时可用(Short lead time),其单价反而可能低于近期现货。这种结构反映了市场对时间价值的定价。

硬件代际差异与不可抽象化的算力

在评估算力价值时,市场并不接受将不同代的芯片简化为通用的“FLOPS”单位。客户高度关注具体的硬件代际,例如 NVIDIA B300 与 AMD 或其他旧款芯片之间存在显著差异。这种不可抽象化的原因主要在于显存(VRAM)容量和 NVLink 域的大小等技术细节。以 B300 为例,若用于推理且利用率达到 100%,其市场售价约为 $40/小时;即便在仅 50% 利用率的保守估计下,售价也约为 $25/小时。然而,当前市场上购买 B300 算力的成本仅为 $5-$6/小时。这种巨大的套利空间(Arbitrage)意味着如果客户预期未来价格会上涨,他们可能愿意支付更高溢价以锁定未来的算力供应。正如石油市场区分不同品质的原油一样,算力也无法被完全同质化,硬件代际的技术壁垒决定了其市场价值的独立性。

异构计算市场的维度压缩与 SKU 策略

在可编程数据中心的构建中,硬件的极度异构性(Heterogeneity)是核心挑战。与石油炼化这种输入输出相对标准化的“黑盒”模式不同,计算资源极其复杂,必须向最终用户暴露底层的复杂性。为了应对这一局面,市场做市商的角色类似于降维(Dimensionality Reduction),即通过标准化手段减少用户需要关注的参数维度。然而,这种简化无法完全消除差异,因此必须建立一种标准化合约(SKU)机制。SF Compute 的目标是让用户能够定义自己的需求,例如“我愿意以每小时不超过 $6 的价格购买 Blackwell 系列芯片”,而平台则负责在后台匹配具体的硬件组合(如 GB300 或 B300),只要满足价格上限即可,无需用户关心具体型号。这种机制允许不同需求的客户分层:部分用户对硬件极其敏感且愿意支付溢价,而另一部分用户则更关注成本效率。

“就像你买油一样……但计算是如此异构,我想这就是那个词。你必须向最终客户暴露底层复杂性。”

这种 SKU 概念的核心在于可组合性。平台通过 API 让程序化定义成为可能,用户设定约束条件(如价格上限、内存需求等),系统自动匹配最合适的卖家资源。虽然这会导致一定的效率损失(Inefficiency),因为标准化合约往往不是最优解,但这是建立市场共识的必要代价。正如对话中所指出的,“你的工作就是降维”,尽管维度依然存在,但通过标准化,市场参与者可以就某个“瓶颈点”或集结点(Shelling Point)达成一致,从而推动市场的流动性。

物理结算 vs. 现金结算:防范市场操纵与基差风险

SF Compute 经过三年的探索,确立了物理结算(Physical Settlement)作为市场基础的核心地位。与金融衍生品市场中常见的现金结算不同,物理结算要求交易最终对应实际的算力资源交付。这一立场基于对基差风险(Basis Risk)的深刻认知:如果市场过度金融化而缺乏坚实的物理基础,价格将极易被操纵。在信用违约互换(CDS)或抵押贷款再保险等市场中,衍生品规模往往是底层实物资产的数倍(如 12 倍),这种脱节导致了巨大的系统性风险。在算力市场早期,若过早引入现金结算,相当于在没有实物支撑的情况下进行对赌(Side Bet)。

“我们花了三年时间学习为什么你需要物理结算……如果没有这个,你会面临很多风险。”

对话中特别提到了 LIBOR(伦敦银行同业拆借利率)被操纵的案例,指出当指数基于少量与实物价格相关性低的数据时,指数操纵(Index Manipulation)极易发生。SF Compute 担心算力市场重蹈覆辙,因此坚持物理结算作为现金结算的前置条件。虽然他们并不排斥未来的现金结算(Cash Settlement)概念,但认为其必须衍生自物理市场。这种观点类似于反对在股票实际存在之前就交易其衍生品,因为那会导致价格与真实价值完全脱钩。通过强制物理交割,市场参与者必须面对真实的供需关系,从而抑制纯粹的投机行为。

行业生态与 Silicon Data 的差异化路径

在探讨市场参与者时,Silicon Data 和 Compute Exchange 被视为重要的早期玩家。SF Compute 对 Silicon Data 持高度认可态度,认为其在物理结算路径上的探索与 SF Compute 的理念一致。尽管 Silicon Data 目前主要采用现金结算模式,但双方认为这两种路径可以共存(Coexist)并互为补充。Silicon Data 的早期入场和特定路径选择,为整个行业提供了宝贵的实验数据和市场流动性。

“我们是大粉丝……他们也非常早地进入这个领域,并且正在走一条我们认为最终可能会成为合作伙伴的路径。”

这种差异化竞争被视为健康的市场生态。Silicon Data 侧重于现金结算的灵活性,而 SF Compute 坚守物理结算的安全性。两者在市场中扮演不同角色:前者可能吸引更广泛的金融投机者和短期需求方,后者则服务于需要确定性和长期合约的企业用户。通过这种互补性(Mutually Beneficial)的关系,整个可编程数据中心市场得以在风险控制和流动性之间找到平衡点。SF Compute 明确表示不排斥竞争对手,反而认为这种多元路径有助于行业最终形成稳定的标准。

新兴算力金融生态与中立结算角色

在GPU硬件市场迅速崛起的背景下,除了像Jump Trading这样的分析机构外,一个围绕算力金融瓶颈解决的复杂生态系统正在形成。这个生态涵盖了试图建立更好标准的分析师、提供剩余价值保险的公司,以及通过前置信用风险来支持云借贷的金融机构。对于买家和卖家而言,这种多元化的参与者结构至关重要,因为它确保了市场的流动性和稳定性。

"We want this like healthy ecosystem out there."

在这个体系中,SF Compute的独特定位在于它拥有物理结算(physical settlement)的问题解决能力。与传统的云服务商不同,SF Compute并不直接拥有硬件。这种中立性(Switzerland)是其核心战略:如果公司持有硬件,就会操纵远期市场,从而破坏交易基础。因此,SF Compute必须保持独立,专注于处理硬件交付、供应链咨询以及确保设备按时送达的复杂物流环节。

超越裸金属:全栈基础设施运营能力

SF Compute的技术堆栈涵盖了云厂商所做的一切,但不拥有硬件。为了完成物理结算,团队必须深入数据中心现场进行访问。这包括设计物料清单(BOM)、与原始设备制造商(OEM)建立关系以确保交付,以及设计集群架构。从机架部署到背板管理,SF Compute接管了PDU(电源分配单元)、交换机、DPU以及UFM和BMC等所有围绕节点运行的基础设施组件。

"When you buy a node from a cloud, there’s the bare metal, but there’s all this shit around the bare metal."

传统数据中心旨在将这些复杂性从用户手中剥离,而SF Compute则主动承担这些运营工作。他们提供的是“超级计算即服务”(Supercomputing as a Service)。客户可能拥有兆瓦级的电力或场地,希望将其转化为GPU集群。SF Compute介入后,将客户的数据中心能力与自身的超级计算技术结合,帮助客户成为云服务商的一部分。这种模式要求团队具备深厚的数据中心专业知识,但不自建基础设施(self-perform builds),而是通过合作伙伴完成建设。

全球主权AI布局与英伟达的博弈逻辑

SF Compute的业务模式被形容为“算力的Palantir”,因为每次部署都是独特的挑战。虽然主要在美国运营,但其全球扩张策略特别针对主权AI(Sovereign AI)需求。SF Compute向各国政府推销其方案:帮助建立本土云,引入旧金山的采购渠道和技术专长。尽管目前无法公开具体合作伙伴名单,但这一模式旨在将电力土地转化为数据中心,并由SF Compute接管超级计算部分。

关于英伟达为何不直接成为SF Compute,核心原因在于市场操纵风险。如果英伟达介入结算层,它将不再具备足够的独立性供市场交易。缺乏流动性会导致贷款方无法基于远期市场提供融资,从而破坏整个金融生态。英伟达虽不能亲自下场,但极大地受益于这一中立结算层的存在,因为它确保了硬件流动性和市场深度。

结构性障碍:为何巨头无法构建可编程数据中心

SF Compute 创始人 Evan Conrad 深入剖析了当前云计算市场中一个独特的结构性矛盾:尽管行业需要降低融资成本,但现有的大型云服务商和新兴 AI 平台均因商业模式的根本冲突而无法提供真正的可编程数据中心。他指出,像 Crusoe、CoreWeave 和 Lambda 这样的公司,以及 Base10、Fireworks 和 Modal 等新兴平台,之所以无法实现这一目标,是因为它们在推理业务和大额云合同上存在巨大的利益依赖。这些企业必须牺牲其核心的高利润收入来源,才能腾出资源去构建这种低摩擦的基础设施。Conrad 强调:“没有人能做成这件事,除非他们放弃做大额推理业务和所有大型云交易的能力。”

这种商业模式的互斥性导致了市场供给的缺失。对于传统云厂商而言,减少摩擦意味着直接削减其主要的收入来源。因此,从结构上讲,这些巨头并没有被设定为去执行这种自我颠覆的操作。SF Compute 之所以能够填补这一空白,正是因为它不背负这些沉重的历史包袱,从而能够为整个行业带来更低的融资成本和更高的基础设施灵活性。

虚拟化与可编程性:重新定义数据中心控制权

在宣布达成数亿美元交易量并部署新集群的同时,SF Compute 推出了一系列关键功能,使其成为平台即服务(PaaS)公司的可行选择。其中最具代表性的突破是 InfiniBand 网络的动态细分能力。Conrad 指出,传统云服务商通常提供固定的网络拓扑,若客户需要重新绘制 InfiniBand 网络的线路以调整集群规模或性能分配,必须联系服务商进行人工干预。而 SF Compute 允许客户无需申请即可实时动态地重新划分 InfiniBand 网络。这一功能极大地提升了市场响应速度,使客户能够根据实际需求灵活地向上或向下扩展集群。

“我们允许客户在不询问我们的情况下细分他们的 InfiniBand 网络……我们可以即时为客户做到这一点。”

Conrad 将这一技术演进定义为数据中心的虚拟化和可编程化。正如云计算时代通过虚拟化服务器硬件改变了 IT 基础设施一样,SF Compute 正在尝试将传统上只有拥有物理硬件才能获得的控制权进行虚拟化。这意味着用户不仅获得算力,更获得了对底层网络拓扑和硬件资源的精细编程能力。这种从“黑盒”到“白盒”的转变,是数据中心基础设施的一次重大范式转移。

硬件资产合作模式:风险隔离与流动性保障

针对希望拥有 GPU 集群以获取残值并优化投资组合的机构,SF Compute 提出了一种创新的硬件合作模式。该模式允许合作伙伴拥有 GPU 集群的所有权,而 SF Compute 则接管超级计算部分的运营并确保服务等级协议(SLA)的履行。这种分工使得合作伙伴能够保留硬件资产在资产负债表上的价值,同时享受专业运营带来的效率。

“如果你想要拥有 GPU 集群并获取其残值……我们会接管超级计算部分并确保一切顺利。我们承担 SLA。”

该模式的核心优势在于风险隔离与流动性保障。Conrad 明确表示,如果合作伙伴发现这一投资决策是错误的,SF Compute 可以立即将该集群转售给其他买家,从而避免该资产对合作伙伴的资产负债表造成负面影响。这种“简单直接的推销”不仅解决了硬件投资的流动性难题,也为行业提供了一种兼顾资产持有与运营专业化的新路径。

结论

SF Compute通过物理结算与可编程基础设施,解决了算力市场因硬件异构、中断容忍度差异及基差风险导致的流动性碎片化问题。其核心优势在于中立性,避免了NVIDIA等硬件巨头因利益冲突无法建立公平交易场所的结构性矛盾。通过支持多维约束匹配与动态网络编程,平台实现了从硬件租赁向可编程数据中心的范式转移。然而,市场仍面临标准化滞后、早期批次缺陷及跨集群传输瓶颈等挑战。该模式适用于需灵活调度算力且能接受物理交付约束的企业,通过高浓度有效流动性弥补规模不足,为长期远期合约与套利提供了可行路径。