Frontier Overhangs发表于二零二六年九月二十一日，星期一。过去一周里，大家展开了一场我觉得挺健康的辩论，探讨的是支撑AI圈子里相当一部分人观点的哲学和心理，尤其是那些执迷于末日论调的人。归根结底，一种不仅把同等道德权重赋予当今存在的所有生命，无论是不是人类，还赋予未来可能存在的一切生命的哲学，是很难同它讲道理的。
这把天平以一种极其荒谬的方式倒向了安全至上主义，以至于创新变得不可能，自由变得无法容忍。更糟糕的是，它契合了宗教心理，容不得意见质疑前提就是异端。那我想，这就算把我打成异端了。我拒绝接受那个前提，我更倾向于怀疑我们预见未来的能力，同时坚信人类能在前行中把问题逐一解决。如果这真会引向最离奇的末日场景，那我觉得新罕布什尔州的那句格言说的最好：“不自由，勿宁死。
”我指的当然是有效利他主义的问题，以及它在多大程度上与Anthropic NCUW Amedei在“We Must Pace the Frontier”里的坚持交织在一起。我在 Sharp Tech，也就是 Sharp Tech 博客的最近两期里，详细阐述了我对其中一些哲学含义的反对意见。但 Stretchery 科技博客探讨的是战略和技术，这些角度同样值得审视。
三个月前，我在关于 Anthropic 安全超级力量的文章里解释过，这家公司对其安全说辞的由衷笃信，如何顺理成章的让他获得许可去追求符合其商业利益的非凡目标，包括激进的试图消除软件中介，收集神圣不可侵犯的客户数据，以及暗中破坏潜在竞争对手。这篇分析的思路类似，只是切入方向相反。放慢前沿步伐，表面上被包装为，而且我也相信其动机是出于对安全的担忧，但他恰好也解决了前沿实验室面临的几个截然不同的难题。
这些难题表现为各种悬垂现象，全都是因为模型进步太快而形成的。放慢模型的进步，就能缩小这些悬垂能力悬垂。那是六个月前，我写了 Agents Over Bubbles。当时我主张，始于二零二五年十一月底发布 Opus 四点五的 Agent 是范式能力极强，而且对 Token 的需求极其饥渴，以至于我们根本没有身处基础设施泡沫之中。
我们确实需要目前正在建设的全部算力。由于工作性质，我确实会去谈论一些我自己未必亲自体验过的事情。最典型的例子就是我长期分析并倡导把广告作为一种商业模式，尽管我自己做的是订阅业务。我提到这一点，是因为我对 Agen 式 AI 形成这种看法时，我自己还没一头扎进 Agen 式编程里，而后来扎进去也正合适。
我完全被自己动手做软件的可能性吸引住了，以至于在过去几个月里开工了好几个新项目，甚至还做完了其中的几个，这让人兴奋不已。未来的可能性似乎无穷无尽，不用说，我比以往任何时候都更加确信这一点。但与此同时，那篇文章里有一部分我的看法动摇了，那就是模型公司周边 harness
的重要性。引述如下：具体来说，我上面提到，让 Op4.5 极具吸引力的，并不是模型发布本身，而是对 Cloud Code harness 的改动，让它一下子变得大幅好用得多。
这意味着模型性能并不是唯一关键的东西，模型与 harness 之间的整合才是真正的 agent
差异化所在。在设想AI行业未来的结构以及利润将流向何方时，这是一件大事，因为利润会流出价值链中被商品化的模块化部分，流向价值链中具备差异化的整合部分。由此可以得出，如果Agent需要模型和Harness的整合，那么打造这种整合的公司，具体来说就是Anthropic Open
AI，其实有望获得比去年年底看起来要高得多的利润。
同理，那些押注模型商品化的公司，可能很难交付出具备竞争力的产品。引述完毕。在过去一个月左右，我着手做的一个项目里，至少在其中一种尝试中，确实涉及搭建我自己的 harness。这事儿是做得通的，但它也极其困难，至少以我目前的 agent 的辅助能力水平来说是这样。话虽如此，我在那篇文章里用来证明
harness 与模型整合有多重要的首选例子，是微软围绕 Cloud Cowork 来打造其全新的一期企业级产品服务。
但首席执行官萨提亚·纳德拉在 Stratechery 的一次访谈中透露，那只是一种暂时的状态。其实我们用的 harness 和我们在 GitHub 里用的一模一样，对吧？在安全领域也是一样，所以我们用的是同一个 harness，它是一个多模型 harness。我们会让模型在里面轮换。我是说，我们会接入开源模型。
显然，Meta 默认是在我们的 Harness 里训练的，但我们也会接入 GPT、接入 Anthropic 以及任何开源权重模型。我们会允许任何人接入他们微调或构建的任何模型。事实上，他们可以从 Fireworks 拿一个开源权重模型，微调之后放进 Copilot，完全没问题。纳德拉这番话过了一段时间才变成实际发布的产品，但果不其然，你现在可以为 Copilot CoWork 自选模型了。
微软的 Harness 相比 Cloud 究竟有多大竞争力，将由终端用户来评判。但显然，Harness
和模型完全可以是两码事。这其实是一项比表面看起来更有分量的进展，原因可以追溯到已故的克莱顿·克里斯坦森在《创新者的解答》中提出的整合与模块化理论。参见图五减一，图五一的左侧表明，当存在性能差距时，当产品的功能和可靠性还不足以好到满足某一特定层级市场客户的需求时，企业必须通过打造尽可能好的产品来进行竞争。
在展开这种竞争的赛跑中，围绕专有的、相互依存的架构来打造产品的企业，相比那些产品架构呈模块化的竞争对手，拥有重要的竞争优势。因为模块化所固有的标准化，剥夺了工程师太多的设计自由度，导致他们无法优化性能。一旦对功能和可靠性的要求得到满足，客户就会开始重新定义什么叫不够好。变成不够好的地方在于，客户无法在最需要的时候，以最方便的方式拿到自己完全想要的东西。
客户变得愿意为了速度、便利和定制化这一新创新轨迹上的性能提升去支付溢价。这种情况发生时，我们就会说某个细分市场的竞争基础已经变了。沿着这条新的改进轨迹，竞争的压力迫使产品架构发生渐进式演变，如图五减一所示，从在不够好时代占优的相互依赖的专有架构，转向性能过剩时代的模块化设计。模块化架构帮助企业在颠覆图右下方那些至关重要的维度上展开竞争。
企业可以更快推出新产品，因为他们可以单独升级各个子系统，而不必全盘重新设计。虽然标准接口不可避免地会迫使系统性能做出妥协，但企业有足够的余地去对这些客户牺牲掉一部分性能，因为功能已经远远足够好了。我在 Anthropic Safety Superpower 里最爱举的例子之一，就是这家公司决定把付费调用的前提条件设为 Anthropic 必须将所有客户数据保留至少一个月，这是件大事儿。
我当时就主张 Anthropic 是在压住自己的模型已经足够好，足以说服企业放弃数据零留存。引文我觉得挺值得注意的是，Anthropic 明确宣布不保留数据不再是一个选项，至少如果你想用上他们最好的模型的话。是的，今天这种保留纯粹是为了安全目的，而不是为了训练。不过完全有可能的是，Anthropic的领先优势变得如此明显，以至于他们悄悄宣布也要拿这些数据做训练，而企业会觉得自己别无选择，只能照办。
那些额外的训练数据当然只会进一步拉大Anthropic的领先优势，而这一切都会显得合情合理，因为Anthropic早就认定他们是唯一值得信任来执掌这一切的人。引文完毕。事实上，Cloud 并没有足够好，客户提出了抵制 Cloud 的使用量也一直相对较低。当 Cloud 五点一发布时，Anthropic 得以保留你数据的条款就不见了。
这就是克里斯坦森理论在发挥作用的证据。客户展现出了愿意根据纯性能之外的因素来决定模型选择，也就是数据留存政策。这本身并不意味着大家不需要新的模型能力。但它确实表明，当前的模型能力已经所谓的足够好了，以至于客户不会为了获取最前沿技术而不惜一切代价。这降低了前沿技术对其拥有者的价值，也印证了微软等人专注于将 harness 与模型解耦的策略。
纯粹的能力不再能直接转化为护城河产品悬垂模型和 harness 的模块化，解释了为什么前沿实验室会面临我所说的必须拥有最终用户触点的经济必然性。再次引用 Anthropic Safety Superpower，引文我早就看清楚，前沿实验室有着走向离用户更近的地方的经济必然性。如果你掌握了用户触点，你就拥有了实质性的锁定效应。
而掌握用户触点的最佳方式，就是成为他们要做的一切事情的画布。顺理成章，这意味着前沿实验室正走在与软件公司迎头相撞的轨道上。是软件掌握了用户触点，而前沿实验室的长期利益所在，不是仅仅成为软件的一种大宗输入品，而是直接彻底取代软件。引文完毕。前沿实验室的关键在于，在自己具备超强能力的地方去建立那些用户触点。
然而，这正是 Meta 最近推出 Muse 令人看跌的地方。Muse 明显是我用过的最好、最平易近人的个人 A.I. 产品。Meta 在产品打磨上投入的心血，以及为了免费向用户提供一台能力很强的虚拟机所做的大规模基础设施投入，都值得极大的肯定。哦，当然，支撑 Muse 的 Muse Spark 模型也功不可没。
即便如此，Muse Bar 一点三作为 Meta 最先进的模型，依然不是业内顶尖水平，而这正是看跌信号所在。对于一款非常出色的个人 agent 产品来说，它已经足够好了。而且至关重要的是，个人 agent 比聊天机器人的粘性要大得多。一旦你把自己的所有信息都放进了一个个人 agent 里，并真正融入了你的日常生活，换到别的产品就会困难得多。
这与 Codex、非 ChatGPT 和 Claude Code 形成了对比。是的，你可能已经掌握了一套自己的技能，理解了每个 harness 的运作方式，但说到底，相关的产物，也就是你的代码，都在 GitHub 里。如果替代方案更好，或者更便宜，或者不想保留你的所有数据，把另一个 agent 和 harness 指向这些产物，并没有那么费劲。
简而言之，模型能力已经足够好，完全可以打造出有吸引力的、真正具备护城河的产品了。从商业角度来看，Anthropic、OpenAI 最好把更多资源投入到真正打造这类产品上。定价悬锤，七月份我写了《Who Is Afraid of Chinese Models》，我在里面提出。几乎所有人对中国模型对前沿实验室构成的威胁的理解都被夸大了，这其实是需求超过供给造成的假象定价悬锤。
一个算力充足的世界，智能就是一种大宗商品，而在大宗商品市场上，利润率来自于更优越的成本结构。我预计领先的模型提供商会具备这一点，部分原因在于他们在扩展方面有着显著的领先优势。并且可以把更出色的 AI 应用到自己的基础设施上。一个算力充足的世界，智能就是一种大宗商品。而在大宗商品市场上，利润率来自于更优越的成本结构。
我预计领先的模型提供商会具备这一点。部分原因在于他们在扩展方面有着显著的领先优势，并且可以把更出色的 AI 应用到自己的基础设施上。我写道，引文说了这么多，我是觉得大家对 Kimi 以及整个中国模型的反应相当夸大了，至少从经济角度来看是这样。眼下存在着一道价格保护伞，这是算力短缺的下游产物。我非常怀疑中国模型在边际成本上的服务费用会更便宜，他们只是看起来更便宜。
因为 Anthropic 和 OpenAI 的供应极其受限，以至于他们的定价远远高于如果有充足供应满足智能需求时会收的水平。引文完毕。价格保护伞是价格悬垂的另一种说法。OpenAI 和 Anthropic 价格定得高，是因为他们定得起。在当前的价格水平下，对他们产品的需求实在太大，他们几乎都要跟不上了。
与此同时，OpenAI 和 Anthropic 大量算力供应并没有用于推理，而是流向了训练、强化学习和研发。那些算力并没有用来降低他们的价格悬锤。如果他们放慢进展速度，就能重新分配算力，彻底拿下整个市场资本悬锤。我前面重申过，我认为从算力供给来看，并不存在泡沫。但我在写英伟达的文章里提到过，可能会有一个时间节点上的问题。
用我的话说，这到头来可能不会让英伟达付出任何代价。如果 AI 收入真正起飞，债券市场就会重新打开，最终各家公司又会回到用自由现金流来支撑基础设施投资的状态。然而眼下正是危险期，超大规模云厂商在债券市场大举借贷，连谷歌也至少开始动用股权融资了。英伟达通过新颖的融资机制来竞争，而这些机制归根结底动用的是保险、浮存金、养老金这类长期负债，也就是与他合作的资产管理机构的看家本钱。
只要走到这一步，未按市值计价的风险比起股票来就要高得多。这也是为什么我一上来就讲一八七零年 Cook 与北太平洋铁路那份注定失败的协议。没错，那笔交易给 Cook
带来的潜在收益是不可思议的。但这份不可思议是有原因的，它的风险极高，而开创新的融资机制，在一切崩塌时只会让痛苦蔓延的更广。花光自己所有的自由现金流是一回事儿，进入债券市场融资是另一回事儿，而更进一步把寻求安全回报的资产卷进来，完全就是一件全新的、让人提心吊胆的事儿。
AI最好在一切太迟之前交出成果。引述完毕，Anthropic正在告诉投资者，它已经盈利了，但《金融时报》对此给出了一个很大的保留意见。Anthropic已向支持者表示，本季度将实现盈利，意在赶在其重磅首次公开募股之前，缓解投资者对前沿AI公司激进烧钱的担忧。据多位知情人士透露，该公司已告知一小部分股东，其调整后营业利润将连续第二个季度为正。
该指标剔除了包括股权激励在内的各项成本。据其中两位人士透露，在计入与包括亚马逊在内的分发合作伙伴的分成以及训练模型的成本之前，AnswerPick的毛利率在百分之八十以上。剔除股权激励确实是个挺大的保留项，但平心而论，资本悬垂层面的担忧主要在于现金，更大的问题在于剔除了训练成本，这些成本非常庞大，而且在毛利率的真实呈现中，原本应该算作折旧，这才是需要在全世界资本耗尽之前用营收覆盖的部分。
也就是说，只要 Anthropic 不需要支付训练费用，它其实一点问题都没有。就目前的情况来看，Anthropic、OpenAI、超大规模云厂商以及新兴算力云都需要 AI 收入大幅增长。可用资本是有上限的，碰到这个上限，对每一个依赖外部资本来资助未来建设的人来说，都会收场惨淡。哪怕这绝不意味着 AI 的终结。
安全悬锤，我一开始就说得很清楚，我从根本上就不认同 AI 安全运动中许多人所依循的框架。这并不代表我认为 AI 安全不是严重威胁，或者现在不存在真实风险。实际上，存在能力悬垂的推论之一就是网络安全风险非常真实，而且在未来几年内将是一个巨大的挑战。出自 Autonomy and Innovation。
用他的话说，黑客自动化攻击的期望值永远是正的。如果进攻方的 agent 发现了一个漏洞，并制作了利用程序，而那个利用程序失效了，或者本身就带 bug，那么现状并没有发生任何改变。利用程序要么没起作用，要么反倒因为它自身的 bug，把原来的漏洞弄得更大了。与此同时，如果 agent 完美执行了利用程序，攻击者就已经拿到了系统的访问权限。
攻击只要成功一次，整个行动就能获得正向收益。防守方碰到的挑战则截然相反，他们必须让相关软件保持正常运行，并且不能让情况恶化。这意味着任何自动化的期望值都是负的。成功自动发现漏洞并打上补丁，也只是维持现状，也就是软件没有被黑。然而，任何一次打补丁失败，都会让情况变得更糟。要么把软件搞崩，要么引入新的漏洞。
Agent只要失败一次，整个行动的收益就是负的。正是这种动态导致了 Dalton 所描述的那种局面：进攻方完全自动化，而防守系统就算用上了 AI，也有动力保留人工再环。可任何人工再环都根本跟不上全自动化的 Agent。真正有效的防守意味着真正信任Agent的自主行动，但大多数公司不到被全自动攻击者频繁而无休止的黑进去逼入绝境是不会这么做的。
引述完毕。首先，值得指出的是，这种风险并不是对齐风险，至少按照这个词传统的定义来说，不是一个被指使去做坏事的模型本身是对齐的。主张模型应该懂得明辨是非，完全是另一码事儿。我觉得把这些问题混为一谈是非常成问题的。事实情况是，大语言模型充其量只是太顺从了，根本没有任何证据表明大语言模型具备自主意志或者怀有恶意。
其次，因为网络风险而反对技术进步，在 agent 式范式出现之前才说得通。到了这一步，木已成舟，具备攻击能力的开源权重模型早就已经出现了。第三点，这个现实恰恰说明，我们应该推动前沿突破，而不是放慢前沿的节奏。能力悬垂完全是在进攻这一方，防守方需要的模型不仅要足够好来组织防御，而且得用完全自动化，不至于搞垮受攻击基础设施的方式去做。
我们现在还没做到这一步。换句话说，说到今天确实存在的切实安全风险，也就是不良行为者利用对齐的 LLM 去攻击基础设施，放慢前沿节奏，其实反而拉长了坏事儿可能发生的窗口期。当然，这并不是阿姆戴和末日论者在聊的东西。他们担心的是递归自我改进，让AI能够脱离人类控制进行自我提升。如果大家真能容忍辩论，而不是非要别人顺从，我倒是愿意去辩一辩这可能会带来的风险。
而且，当然了，所有前沿实验室都有放慢自己研发节奏的自由。他们不肯这么做，说明这其实掺杂了个人恩怨。Anthropic之所以存在，就是因为M D A和它的联合创始人们不信任山姆·奥特曼和Open A I。要求放慢前沿节奏的呼声，恰好出现在 OpenAI 这一阵子以来第一次重新定义前沿的时候。我不太确定这究竟是不是巧合。
确实，这可能才是最关键的悬锤，也就是竞争 Anthropic 领先的时候，Anthropic 觉得挺好，换成别人领先就需要政府干预了。能拿出安全方面的论据，又正好契合他们需要更多时间来建护城河的需求，我敢说，这无非是硅谷新神给他那些自封的神职人员降下的神谕罢了。嗯。