哲学分歧与前沿悬垂的战略本质

2026年9月21日，围绕AI安全与创新的辩论持续发酵。这场争论的核心在于哲学前提的分歧：一种赋予所有现存及未来生命同等道德权重的观点，往往导致极端的安全至上主义。这种立场使得创新变得不可能，自由被视为不可容忍的异端。Ben Thompson 拒绝接受这一前提，他更倾向于怀疑人类预见未来的能力，并坚信问题能在前行中逐一解决。若安全逻辑导向极端的末日场景，他引用新罕布什尔州格言“不自由，勿宁死”来表达立场。

这种哲学分歧直接影响了战略判断。在《Anthropic Safety Superpower》一文中，Thompson 指出 Anthropic 对安全的笃信使其获得了追求商业利益的许可，包括激进地消除软件中介、收集客户数据以及破坏竞争对手。而在《We Must Pace the Frontier》中，Anthropic 主张放慢前沿步伐以应对安全担忧。Thompson 认为，“放慢模型进步”这一策略表面上是出于安全，实则巧妙地解决了前沿实验室面临的多个“悬垂”（Overhang）问题。这些悬垂现象均因模型进步过快而形成，通过减速可以缩小能力悬垂。

Harness与模型的解耦及克里斯坦森理论

六个月前，Thompson 在《Agents Over Bubbles》中主张 Agent 是范式能力极强且对 Token 需求饥渴的技术，因此不存在基础设施泡沫。然而，他近期在实践中的体验修正了部分观点：虽然模型能力至关重要，但Harness（运行框架）与模型的整合才是 Agent 差异化的关键。利润将从商品化的模型部分流向具备差异化整合能力的 Harness。

微软 CEO 萨提亚·纳德拉透露，其企业级产品 Copilot CoWork 使用的 Harness 与 GitHub 相同，且支持多模型接入（包括开源、GPT、Anthropic等）。这证实了Harness 和模型可以是两码事。这一进展印证了克莱顿·克里斯坦森在《创新者的解答》中的理论：当产品功能与可靠性达到“足够好”的水平后，竞争基础从性能转向便利性、速度和定制化。此时，模块化架构优于相互依赖的专有架构。Anthropic 曾强制保留客户数据一个月以维持安全形象，但随着 Claude 5.1发布且用户抵制使用量较低，该条款被取消。这表明当前模型能力已“足够好”，客户不再为前沿技术支付无限溢价，从而降低了纯能力的护城河价值。

定价悬垂、资本风险与用户触点

在商业层面，Thompson 提出了“定价悬垂”概念。他指出中国模型（如 Kimi）看似便宜，实则是由于算力短缺导致的“价格保护伞”。在智能成为大宗商品的世界里，利润率源于更优越的成本结构。OpenAI 和 Anthropic 的高定价是因为需求远超供给，且大量算力用于训练而非推理。若放慢进展，它们可重新分配算力以压低价格。

然而，资本结构存在巨大风险。超大规模云厂商在债券市场大举借贷，甚至动用股权融资；英伟达则通过新颖机制利用保险浮存金和养老金等长期负债。这种未按市值计价的风险远高于股票，类似1870年北太平洋铁路的失败协议。AI 必须在风险崩塌前交出成果。

最后，前沿实验室面临“产品悬垂”。由于模型与 Harness 的模块化解耦，纯能力无法直接转化为护城河。实验室必须建立最终用户触点以形成锁定效应。Meta 推出的 Muse 产品虽优秀，但其底层模型并非顶尖，这表明个人 Agent 的粘性远高于聊天机器人。一旦用户将生活信息融入特定产品，迁移成本极高。因此，Anthropic 和 OpenAI 应将资源从单纯追求模型能力转向打造具备真正护城河的用户产品。

资本悬垂与Anthropic的盈利真相

前沿AI领域的风险极高，开创新的融资机制在体系崩塌时只会让痛苦蔓延得更广。 花光自由现金流是一回事，进入债券市场融资是另一回事，而将寻求安全回报的资产卷入其中则是一件让人提心吊胆的全新事情。AI必须在一切太迟之前交出成果。

尽管 Anthropic 正在向投资者宣称其已实现盈利，意在缓解对其激进烧钱的担忧并为首轮公开募股铺路，但《金融时报》对此提出了重大保留意见。据知情人士透露，Anthropic 告知部分股东其 调整后营业利润 将连续第二个季度为正。该指标剔除了包括股权激励在内的各项成本，且在计入与亚马逊等分发合作伙伴的分成及训练模型成本前，其 毛利率在80%以上。

然而，剔除股权激励和庞大的训练成本是巨大的保留项。真正的资本悬垂担忧在于现金消耗，尤其是那些本应算作折旧的训练成本。这才是需要在全世界资本耗尽之前用营收覆盖的部分。也就是说，只要 Anthropic 不需要支付训练费用，它其实一点问题都没有。

就目前情况而言，Anthropic、OpenAI、超大规模云厂商以及新兴算力云都需要 AI 收入大幅增长。可用资本是有上限的，一旦碰到这个上限，对每一个依赖外部资本来资助未来建设的人来说，结局都会非常惨淡。虽然这绝不意味着 AI 的终结，但资本结构的脆弱性不容忽视。

“只要 Anthropic 不需要支付训练费用，它其实一点问题都没有。”

“可用资本是有上限的，碰到这个上限，对每一个依赖外部资本来资助未来建设的人来说，都会收场惨淡。”

网络安全中的自动化不对称性

在安全悬垂层面，我从根本上不认同 AI 安全运动中许多人所依循的框架。这并不代表我认为 AI 安全不是严重威胁，实际上，能力悬垂的一个推论就是网络安全风险非常真实。正如 Autonomy and Innovation 中所述，黑客自动化攻击的期望值永远是正的。

如果进攻方的 Agent 发现漏洞并制作利用程序，即使该程序失效或带有 Bug，现状也不会变差：要么没起作用，要么因自身 Bug 使漏洞更大。反之，如果 Agent 完美执行了利用程序，攻击者便获得了系统访问权限。只要成功一次，整个行动就能获得正向收益。

防守方碰到的挑战则截然相反。他们必须让软件保持正常运行且不恶化情况，这意味着 任何自动化的期望值都是负的。成功发现漏洞并打补丁只是维持现状（软件未被黑），但任何一次打补丁失败都会让情况更糟，要么搞崩系统，要么引入新漏洞。Agent 只要失败一次，整个行动的收益就是负的。

正是这种动态导致了进攻方完全自动化，而防守系统即便使用 AI 也有动力保留人工再环的局面。但任何人工环节都根本跟不上全自动化的 Agent。真正有效的防守意味着完全信任 Agent 的自主行动，但大多数公司不到被全自动攻击者逼入绝境不会这么做。

“进攻方完全自动化，而防守系统就算用上了 AI，也有动力保留人工再环。可任何人工再环都根本跟不上全自动化的 Agent。”

“真正有效的防守意味着完全信任 Agent 的自主行动，但大多数公司不到被全自动攻击者频繁而无休止的黑进去逼入绝境是不会这么做的。”

对齐误区与前沿竞争的博弈

首先，这种风险并非传统定义下的 对齐风险（即模型被指使做坏事）。大语言模型充其量只是太顺从，没有任何证据表明 LLM 具备自主意志或怀有恶意。将“模型应明辨是非”与当前的网络风险混为一谈是有问题的。

其次，因网络风险而反对技术进步在 Agent 范式出现前才说得通。如今木已成舟，具备攻击能力的开源权重模型早已存在。这恰恰说明我们应该推动前沿突破而非放慢节奏。能力悬垂完全在进攻方，防守方需要的模型不仅要足够好以组织防御，还得通过完全自动化来避免搞垮受攻击的基础设施。目前我们尚未做到这一点。

换言之，针对今天切实存在的安全风险（不良行为者利用对齐 LLM 攻击基础设施），放慢前沿节奏反而拉长了坏事可能发生的窗口期。当然，这与末日论者担心的“递归自我改进”不同。如果允许辩论而非强制顺从，我愿意探讨后者带来的风险。

最后，所有前沿实验室都有放慢研发的自由。他们不肯这么做，说明其中掺杂了个人恩怨。Anthropic 之所以存在，是因为其创始团队不信任 Sam Altman 和 OpenAI。要求放慢前沿节奏的呼声，恰好出现在 OpenAI 重新定义前沿之时。我不确定这是否巧合。当 Anthropic 领先时它觉得挺好，换成别人领先就需要政府干预——能拿出安全论据又契合其建立护城河需求的行为，无非是硅谷新神给自封神职人员降下的神谕罢了。

“说到今天确实存在的切实安全风险，也就是不良行为者利用对齐的 LLM 去攻击基础设施，放慢前沿节奏，其实反而拉长了坏事儿可能发生的窗口期。”

“当 Anthropic 领先时，Anthropic 觉得挺好；换成别人领先就需要政府干预了。”