“Token 最大化”时代的狂欢与代价
在 AI Engineer World's Fair 的最后一场演讲中，Tailscale 战略项目团队成员 Remy Guercio 指出，过去十二个月的 AI 开发领域可以被概括为“Token Maxing”（最大化 Token）。这并非贬义，而是指开发者试图利用百万级上下文窗口、MCP（模型上下文协议）以及强大的 CLI 编码工具，从任意来源获取上下文并构建真正智能的代理式编程（Agentic Coding）。这种技术突破令人兴奋，但也带来了显著的问题。首先，这是一个极其昂贵的过程。随着预算限制的收紧，“无限 AI 预算”的时代已经结束。其次，这种模式默认激励了 Token 的浪费。Remy 在运营 AI 网关 Aperture 时观察到大量未清理上下文的会话，导致单次对话消耗数千万 Token。
“你会看到数以百万计的 Token 在一个会话中，上下文几乎一直满载。”
这种浪费不仅体现在单次对话的长度上，更体现在缺乏对上下文生命周期的管理。开发者往往保留数百甚至数千条消息的历史记录，导致计算资源被低效占用。这种垂直整合的工具链趋势（如 Cloud Code 和 Codex）虽然提供了从模型到代理的完整堆栈，但也加剧了供应商锁定风险和高昂的使用成本。因此，单纯追求 Token 数量的最大化已不可持续，行业亟需转向更理性的使用模式。
警惕“供应商整合”的陷阱与 ROI 最大化的必要性
面对激增的 AI 账单，许多企业在恐慌中采取了一种常见的错误策略：将使用量整合到单一或少数几个供应商（如 Cloud Code）身上。Remy 指出，虽然这种做法看似能控制成本并简化管理，但实际上并未解决根本问题。这种“恐慌性整合”往往导致企业陷入更深的供应商锁定，且无法从根本上优化 AI 的价值产出。随着财务部门开始质疑 AI 支出，行业正从“Token Maxing”转向“ROI Maxing”（最大化投资回报率）。
“我们不再进行 Token 最大化，而是转向 ROI 最大化。这不仅是削减成本，更是为了证明你所做之事的价值。”
“ROI Maxing”的核心在于证明 AI 应用的实际价值，而不仅仅是降低账单。如果企业仅依赖两三个前沿模型及其封闭生态，AI 的使用范围将受到限制，难以在公司内部大规模扩展。因此，必须打破这种封闭性，通过更灵活、开放的架构来优化成本效益比。这要求企业重新审视其内部 AI 部署的组件，不再盲目追求最新模型或最复杂的工具链，而是关注如何以合理的成本实现业务目标。
构建去锁定的内部 AI 部署架构
要实现“没有锁定”的 AI 未来，首先需要解构企业内部 AI 部署的关键组件。Remy 强调，这里讨论的不是面向客户的新 AI 功能，而是组织内部的 AI 基础设施。一个健康的内部 AI 部署应包含四个核心层次：
- LLM（大语言模型）层：这是基础推理能力，但不应被单一供应商绑定。
- 数据连接器层：包括 MCP、CLI、API 或简单的文件读取，用于获取上下文。
- 代理与工具层：负责执行具体任务和操作环境。
- 网关与控制层：如 Tailscale 的 Aperture，用于管理流量、安全和成本。
通过解耦这些组件，企业可以避免被垂直整合的工具链锁定。例如，数据连接器层可以灵活切换不同的 MCP 服务器或 API 接口，而无需更换整个代理系统。这种模块化设计允许企业根据成本、性能和可用性选择最佳的模型和工具组合，从而实现真正的去锁定（No Lock-in）。最终目标是建立一个开放、灵活且成本可控的 AI 生态系统，使 AI 能够广泛服务于企业的各种非前沿任务，而不仅仅是昂贵的实验性项目。
AI部署的四大核心组件与选择权最大化
在构建AI系统时，必须明确其由四个独立且可拆解的核心组件构成：聊天界面（Chat Interface）、交互渠道（如Slack等即时通讯工具）以及沙盒环境（Sandbox，即Agent运行的具体环境）。随着技术演进，交互方式经历了从传统聊天窗口到IDE集成，再到移动端应用，如今正迅速向Slack等协作平台转移。这种多样性意味着组织内部不同团队对交互层的需求截然不同，例如工程团队可能倾向于IDE集成或Slack线程进行代码审查与数据查询，而营销团队则完全可能在Slack中完成所有工作。ROI最大化（Return on Investment Maximization）的核心在于确保在每个组件层级上都保留“选择权”。企业无需为每个层都定制独特的解决方案，但必须有能力在需要时针对特定层级做出独立决策。这种架构上的灵活性允许不同团队根据实际工作流选择最合适的交互模式，从而避免被单一的技术栈或接口所锁定。
Aperture网关：连接Agent与后端的枢纽
作为Tailscale团队开发的AI网关，Aperture在架构中扮演着关键的中枢角色。它部署在Agent（智能体）与后端端点之间，这些端点既包括各种大语言模型（LLM），也涵盖数据源、Model Context Protocol (MCP) 接口以及常规API。Aperture的核心价值在于提供统一的控制与监控能力，涵盖安全性、成本控制以及行为分析等多个维度。通过集中管理流量，网关能够记录详细的日志数据，帮助开发者在Agent出现“失控”或未能达成预期结果时进行事后复盘。例如，当较便宜的模型因能力不足导致循环调用或失败时，网关日志能清晰展示错误路径。正如演讲者所言："> It's actually really cool when you have logs... it's really easy to point it back at what you were doing and say, 'What happened? Why did this not work the way I was expecting it to?'" 这种可观测性对于优化Agent性能和降低调试成本至关重要。
Tailscale身份网络：无需额外密钥管理的治理基础
Aperture的独特优势源于其底层架构——Tailscale，这是一个基于WireGuard的身份感知网格网络。传统AI网关往往要求用户为每个服务创建新的合成密钥，导致密钥管理的复杂性增加。Aperture利用Tailscale的TSNet开源库，使得所有经过网络的连接都天然携带对端（机器或用户）的身份信息。这种身份可以是机器ID、PR审查Bot的实例，也可以是具体的个人用户。更重要的是，它支持与Entra或Okta等身份提供商同步组信息。这意味着在连接建立之初，网关就能识别出“你是谁”以及你属于哪个组织组，从而无需额外的配置步骤即可实施精细化的访问控制。例如，系统可以自动识别出某个请求来自“PR Review Bot”的特定实例或某位使用Cloud Code的员工，并据此动态调整权限。
基于身份的细粒度LLM访问与预算控制
在利用Aperture连接各类大语言模型（如Anthropic、OpenAI、Bedrock Codex等）时，传统的API密钥管理被彻底简化。用户只需在网关层面配置一次后端提供商的凭证。一旦Agent或用户通过Tailscale网络连接到网关，系统即可基于其身份自动应用预设的策略，无需为每个调用方单独创建密钥或进行额外设置。这种机制允许企业实施极其精细的成本与权限管理策略：例如，为普通用户分配廉价模型的无限预算，同时严格限制前沿模型（Frontier Models）的使用额度。演讲者强调："> You get unlimited budget with a cheap model and you get an extremely narrow budget with a Frontier model... There's no extra setting here. It's just add your API key and go." 这种基于身份的自动化治理，不仅提升了安全性，还大幅降低了多模型混合部署时的运维复杂度。
MCP 标准化与细粒度权限控制
在 AI 基础设施中，MCP（Model Context Protocol）网关是连接模型与数据的关键环节。Aperture 不仅作为 LLM 网关，还特意选择了更广泛的“AI Gateway”定义，因为它同时支持 MCP 和标准 API。针对 MCP 生态中版本碎片化严重、实施标准不一的现状，Aperture 内置了经过验证的 MCP 服务器配置，简化了部署流程。管理员可以在平台中灵活定义允许使用的 MCP 服务，并利用身份信息进行细粒度的权限隔离。例如，营销团队可访问 Google Calendar 和 Gmail，而工程团队则额外获得 GitHub 的读写权限。这种设计将认证逻辑集中在网关层，实现了身份与应用的解耦。当工程师切换使用 Cursor、CodeEx 或新兴 Agent 框架时，只需连接至 Aperture 端点即可自动完成认证，无需在每个新工具中重新登录。这极大地降低了尝试新技术的摩擦成本，鼓励团队探索更优的工作流。
开放接口与身份透传机制
Aperture 提供内置的聊天 UI，但其核心价值在于底层 API 的全面开放。用户不仅可以利用现有界面，还可以基于这些接口构建 Slack Bot、移动端应用甚至语音交互系统。所有连接器（Connectors）均通过 Aperture 统一配置，而非分散在各个前端界面中。针对第三方 UI（如 Open WebUI、LibreChat 等）常见的身份丢失问题，Aperture 即将推出完整的 OAuth/OIDC 透传功能。这意味着即使用户通过自定义界面访问，网关仍能保留并传递用户身份和机器身份信息。这一特性确保了无论前端如何变化，后端都能维持一致的可见性与安全性。正如演讲者所言：
"We're actually going to be adding a full like pass through O... so you'll be able to actually see all of the like user identities and machine identities."
这种设计避免了因界面切换导致的身份上下文断裂，保障了企业级 AI 应用的安全合规。
沙箱编排与防止供应商锁定
在计算环境方面，当前市场处于“百花齐放”阶段，存在大量针对不同需求的沙箱提供商。Aperture 计划引入沙箱编排层（Orchestration Layer），将其整合进网关体系。这一举措旨在构建一个通用翻译层（Universal Translation Layer），统一管理 LLM、数据连接器及运行环境。通过集中管理这些端点，企业可以灵活选择最合适的后端服务，避免被单一供应商绑定。演讲者强调：
"ROI maxing really is all about maximizing choice to prevent lock in."
即使不直接使用 Aperture，引入 AI Gateway 的概念也至关重要。它通过最大化选择权（Maximizing Choice）来防止技术锁定，使组织能够在模型、提供商和基础设施之间自由切换。这种架构不仅提升了系统的灵活性，还通过统一的治理层降低了长期运维的复杂性与风险。
消除多提供商配置负担与实现统一监控
使用AI网关的核心优势之一在于其能够简化复杂的后端集成架构。用户无需再为不同的服务提供商配置多个独立的接口，也不必在它们之间频繁切换。通过统一的网关层，系统能够屏蔽底层的提供商差异，从而让开发者或用户专注于业务逻辑而非基础设施的维护。这种架构不仅提升了运维效率，更关键的是它提供了全局视角。即便对于个人用户而言，将AI使用流量汇聚在网关之后也是至关重要的，因为这提供了理解智能体（Agents）实际行为的必要手段。在没有中间层的情况下，用户往往难以察觉后台运行的自动化任务具体执行了哪些操作。
基于Tailscale与OpenClaw的故障诊断案例
在实际应用场景中，当用户在私有网络（如Tailscale）上运行OpenClaw等自动化代理时，常面临“黑盒”困境。许多用户反映，他们发现智能体在后台执行了某些操作，但无法确定具体做了什么，甚至担心其执行了非预期的任务。AI网关在此类场景中扮演了“黑匣子”的角色，允许用户回溯历史请求与响应。通过网关日志，用户可以清晰地看到智能体调用了哪些API、发送了什么指令以及收到了什么反馈。这种可观测性使得诊断错误变得可行且直观，用户不再需要猜测智能体为何出错或如何偏离预期路径。这种回溯能力是构建可靠自动化系统的基础，它让用户从被动接受结果转变为主动掌控过程。
超越锁定：实验、理解与会议结语
AI网关的价值远不止于避免供应商锁定（Lock-in），它更是支持实验性探索与深度理解的必要工具。在AI技术快速迭代的背景下，理解智能体的行为模式比单纯切换提供商更为重要。通过网关进行监控和分析，用户能够建立对智能体行为的整体认知，这对于调试、优化和信任构建至关重要。演讲者在结尾强调，这种对“发生了什么”的清晰认知是AI工程实践中的核心需求。最后，演讲者感谢参会者的到来，并表达了对本次大会及AI工程师世界博览会（AI Engineer World Fair）的喜爱与认可。作为当天的最后一场演讲，他祝愿所有与会者拥有愉快的会议体验，并再次感谢大家的参与。
结论
视频论证表明，AI开发正从追求Token数量的“最大化”转向注重实际价值的ROI最大化。单纯依赖垂直整合工具链会导致高昂成本与供应商锁定，因此构建去锁定的内部AI架构至关重要。通过解耦LLM、数据连接器、代理及网关层，企业可保留各层级选择权。Tailscale Aperture利用身份感知网络实现细粒度权限控制、统一日志监控及MCP标准化，有效解决了密钥管理复杂与智能体行为黑盒问题。该方案通过最大化选择权防止锁定，提升可观测性与运维效率，但主要适用于组织内部基础设施部署。