今年9月20日星期日,任何在亚马逊订购或购买商品的人都会在页面上方看到一个标志。该声明指出,未经授权的AI代理继续访问违反了使用条款。这不是技术错误,也不是空白屏幕,而是一个带有法律文本和封闭目标语气的标志。人们很容易将其解读为两家大公司之间的斗争。但如果你看看今年秋天人们报告的中断情况,大多数中断并非来自做出任何决定的公司。
它们来自于基础设施层,该层在9月改变了默认行为,并位于全球三分之一的网站之前。这就是本视频的目的:一张没人为你写的海报。支配这一切的数字不是代理,也不是金钱,而是流量。2025年,机器人占所有网络流量的比例超过53%,高于前一年的51%。人类流量保持在47%,并继续下降。
转化为图像,想象一下对网站的100次访问,其中53次不是由人进行的。根据这家已测量此数据13年的机构的年度报告,其中近三分之一是恶意机器人。这是历史的底线;网络不再是一个人们去的地方,而是一个程序去的地方。当大多数访客不是人类时,让他们进入就不再是礼貌问题,而是安全问题。
本视频探讨的是你正在使用或编程的代理是否能够访问其所需的网站,以及获取如今开始要求的许可需要多少成本。因为有一个决定落在你身上,这不是政治问题,而是关于产品的问题。如果你的代理通过浏览器登录,你将依赖于它们识别你。如果你通过接口进入,你将依赖于被邀请。如果两者都不做,你就只能听天由命。
在视频结尾,你将根据你正在构建的内容以及每种方式的成本,找出哪种方式适合你。对每个人来说没有唯一正确的答案,任何告诉你有标准答案的人都在试图向你推销东西。在查看来源之前,我以为这是一场商业斗争,仅此而已。亚马逊捍卫其商店,银行捍卫他们的业务,而代理们抱怨因为不被允许参与游戏。
我不会否认这一点。但我没想到的是,2026年最重要的变化并非由这些公司中的任何一家做出。它是由基础设施提供商在7月的新闻稿中完成的,并于9月实施。我也没想到法律已经讨论过,而且其内容与所说的几乎相反:进入网站的是人,而不是他们的代理公司。
我当然也没想到技术解决方案已经在44页中写好,但几乎没有人使用它。让我们从网站论点的最强版本开始,因为它比看起来要好。如果代理在你登录会话的情况下登录,网站看到的与攻击者使用你被盗的会话登录后完全相同。相同的浏览器,相同的Cookie。
这不是假设。27%的机器人攻击不再针对页面,而是直接针对编程接口,那里没有按钮或重要的验证。根据同一份报告,去年金融行业占机器人攻击的24%,账户盗窃案的46%。当你的业务是某人的钱时,放过一个声称是其助手的程序是一场你承担不起的赌博。阻止并非敌意,而是无法区分。
第二个论点是成本,这也是成立的。一个每小时刷新页面500次的代理会在服务器上产生费用,但不会生成任何广告展示。Meta在解释Mounse(注:此处可能指Muse或相关AI代理)的行为时直言不讳。一个人可以在一小时内刷新页面500次,但他不会这样做。还有第三条腿,即最让我信服的责任感。
如果代理移动资金并出错,谁负责?银行不确定并公开表示如此。查尔斯·施瓦布在10月这样表述,摩根大通则更为直接。他们不允许外部代理进入,因为这对客户和银行来说风险太大。这不是企业借口;这是一个尚未通过合同或法律回答的问题。
第一个原因,也是改变故事的原因,是门不是由商业决定关闭的,而是由默认值关闭的。2026年9月15日(注:原文为2026,结合上下文可能指代未来或笔误,此处忠实翻译),Cloudflare更改了其客户设置,使其分类为训练机器人和代理的机器人在显示广告的页面上被阻止,而搜索机器人继续允许通过。做出该决定的不是一家小公司。
根据本月发布的科技使用法规,Cloudflare作为反向代理领先于全球所有网站的28.2%。近三分之一的网站在同一天改变了行为,而大多数所有者没有触碰任何东西。当用户说他们的代理停止工作时,诚实的回答往往是从未做出过决定,而是继承了一个缺陷。
同一块中的第二条信息将标题颠倒过来。今天存在的实际政策非常有限。Tales的报告衡量了多少AI跟踪器流量被客户定义的规则阻止,这个数字几乎是12%。再读一遍,剩下的88%将通过。门没有关闭,只是虚掩着,而且没有门卫,这并不是出于慷慨,而是因为Cloudflare将以前结合在一起的东西分开:搜索、代理和训练,每个都有自己的开关。
搜索返回访客,代理代表人在实时行动,训练获取你的内容并不回来。9月之前,大多数网站对所有事物只有一个按钮。现在他有三个,几乎没有人触碰过它们。这里有一个最能证明这一点的案例,因为它对每个人来说都是最不舒服的。沃尔玛是Muse的合作伙伴,Meta在9月的会议上宣布了这一消息,同时还有Gap、Sephora和Best Buy。
沃尔玛希望代理进入内部,然而他们的客户仍然被拒之门外。沃尔玛向TechCrunch解释说这是无意的;网站包含一个验证你是人类的按钮。代理中断了该检查,检查失败,人们被排除在外。两周后,一名用户报告说沃尔玛阻止了他,一个没有代理介入的人。这是校准不当阈值的真正成本。
不是试图进入的程序为此买单,而是背后的客户为此买单。
然而,我们需要说明这些数字的来源,因为它们并非中立。《Tales》报告由一家专门销售机器人防御服务的公司发布。Cloudflare 也表达了相同的观点,尽管措辞不同,但它同样销售此类服务。两家卖方意见一致并不代表这是独立的测量结果,但这也不是谣言。它们是提供真实流量数据的两大巨头。
报告本身警告称,其仅测量可检测到的流量,即被识别或触发某种控制的程序。这意味着 53% 是底线而非上限。然而,有一个结论经得起推敲:如果大多数访问并非来自人类,且只有 12% 的 AI 爬虫被屏蔽,那么问题不在于网站关闭,而在于其毫无标准地开放。第二个原因是金钱。
在此处找到的最清晰的数据并未提及代理,而是关注点击率。皮尤研究中心在 2025 年 3 月将浏览追踪器安装在 900 名美国成年人设备上,并比较了两种情况:同一人、同一搜索引擎在有和没有人工智能摘要时的表现。当出现摘要时,用户在 8% 的访问中点击了传统结果;而当没有摘要时,这一比例接近一半。
这发生在 2025 年 3 月,早于我们今天讨论的大多数代理的存在。换言之,解释所有封锁的机制并非机器人进入,而是点击没有发生。第二个测量结果正在发生:Chartbeat 是一家被全球一半出版界使用的分析服务,它衡量了 Google 发送给超过 2500 个网站的流量。
从 2024 年 11 月到 2025 年 11 月,全球流量下降了 33%,美国下降了 38%。路透社研究所调查的编辑预计,三年内流量将下降 43%。涉及来自 51 个国家的 280 名高管,因此这是一个声明的预期而非实际测量,这一点必须说明。
但同一份报告中有一项数据是实测的,它解释了为何没有人愿意让步:仅搜索引擎一项就为 Google 带来了比 ChatGPT 多 500 倍的访问量,若计入其发现频道,则多达 1300 倍。流量并未消失,而是集中在一个人手中。而封闭这一局面的案例是亚马逊。
根据 eMarketer 的数据,亚马逊不仅仅是一个普通的网站,它占据了美国电子商务总额的 39.7%,以及零售数字广告支出的超过 79%。关于谁在为这场派对买单存在争议:亚马逊在 2025 年 11 月屏蔽了 Perplexity 并起诉了它。
法官在三月的一审中裁定亚马逊胜诉,尽管八月该命令被推翻,但在九月它通过标志屏蔽了 Muse。此外,自七月以来,其确认邮件的内容变得空洞,没有产品名称和照片,以便从外部无法阅读。
这不仅仅是一家公司在捍卫其网站,而是一家公司正在切断喂养其他公司代理的数据来源。在继续之前,让我总结一下目前的状况:首先,大多数网络流量已不再来自人类,屏蔽代理的阈值已于 9 月 15 日默认移动,而非由每个网站决定。
其次,目前只有 12% 的 AI 追踪因其自身规则而被屏蔽,所以门是虚掩着的,而关闭它的是因未发生点击而损失的金钱。第三,屏蔽者并不总是想屏蔽,有时甚至屏蔽自己人,例如沃尔玛对其自己的客户进行屏蔽。
有了这些背景,你可以看看那些不上头条的部分:这在技术上如何解决以及成本是多少。第三个原因——这也是需要回答的原因——是卡片已经存在且基于密码学,称为 WebBotAuth。其解释思路很简单:直到现在,网站只知道你的来源是一个共享且可伪造的网络地址。
使用 WebBotAuth 后,代理会对每个请求进行签名,并在目录中发布其密钥。因此,网站检查两件事:程序是谁以及它代表谁行事。该提案由 Cloudflare 于 2025 年 5 月提交,7 月已成为其验证机器人计划的一部分。
10 月 29 日,即两天前,它成为标准化互联网的组织工作组的文件,共 44 页。当一个想法从博客进入工作组时,它就不再只是一个想法了。证明这一进程正在进行的测量指标是一个状态码:402 自 1990 年代以来就已存在,意为“需要付款”。
30 年来几乎没人使用它。Cloudflare 在八月表示,其客户每天已发送超过 10 亿次 402 响应。这不是一扇紧闭的门,而是一条可能包含文本的消息,例如“要授权此内容,请联系某某地址”。而在代理端,已有四个从第一天起就签名的:Chachi Petit 的代理、开源的 Gus the Block、Browser Bass 和 Anchor Browser。
请注意一个重要细节:规模大并不会给你身份证,它只给予识别能力。Gus 是免费软件且拥有此功能。如果你发布目录,你的代理也可以拥有它。目前有两个协议在争夺这一席位:第一个是今年一月由 Shopify 和 Google 发布的通用商业协议,背后有超过 20 家企业和平台支持。
它不让人浏览网页,而是给他们一个配置文件,说明每家商店的支持情况并协商交集。第二个是 Meta 和 Sierra 的个人代理协议,沃尔玛、Shopify 和 Stripe 在工作组中。它们用不同的词表达了相同的意思:识别你自己,由网站决定。
法律目前支持这一点。8 月 4 日,第九巡回法院撤销了对 Perplexity 的命令,因为访问网站的是个人而非其代理的公司,并包含了一个价值连城的细节:Perplexity 决定不发送警告人们的人链消息。
小心一件事,因为通常在这里他们会兜售伪科学:签名仅在网站验证时才有效。Cloudflare 会检查它,并通过有效的签名给予其最低机器人评分。但是,使用验证插件的自管理 WordPress 站点并不检查任何东西。
没有人会在那里读取你的身份证,唯一保护你的是你发送的用户代理(user agent),那是自由文本,你可以自己编写。换言之,标准存在于有门卫的地方,这就是为什么谁让你进入的地图与提供基础设施的地图如此相似的原因。
至此,我们完成了完整的诊断分析。缺失的部分在于实践层面:周一你该怎么做?第一点只需五分钟,也是亚马逊对Muse唯一的批评之处:未表明身份。给你的代理设置一个诚实的用户代理字符串,包含产品名称和联系邮箱。这虽不能直接解封你账号,但能让你脱离“匿名程序”类别;在发生冲突时,这是接到通知与永久封禁的区别。
如果你的代理使用人类用户的会话进行浏览,请在请求头中也注明这一点。这零成本且能消除“隐藏身份”的指控。代价是五分钟和一个名称,收益是你不再是匿名记录中的幽灵。第二项方案耗时一天并需要一个域名。
通过信任网络签署请求涉及几行代码和一个需发布在稳定地址的公钥目录。这使你能够加入“已验证机器人”计划,但这不保证一定被接纳,因为网站拥有制定政策的自主权。第三点:如果代理与服务平台交互,切勿将密码明文写入配置文件。
模型上下文协议(MCP)要求服务器像授权服务器一样运作,具备权限管理功能;用户应携带包含受众、范围和过期时间的令牌,而非直接提供凭据。成本方面:若使用身份提供商需一下午时间;自行搭建则需一周。
第四点不花钱,但费设计:分离读取与写入权限。确保代理可以查阅目录但不能直接支付;若要付款,必须获得用户的明确授权。这正是引发本视频的那篇文章所推荐的方案。通用商务协议在购物流程未完成时即采用此逻辑,Muse也在登录或购买前执行类似操作。
第五点:假设你将被封禁并告知用户。“他们不让我进入这个网站。”这是一种产品话术,而非错误提示。第六点几乎无人提及:风险问题。Andrew Biggs用123个攻击案例测试了他的浏览器代理,在无防御情况下成功率为23.6%;启用防御后降至11.2%。
拥有你开放会话和购买权限的代理是完美的攻击目标。我的建议用两句话概括,且我认为没有中间地带:如果你的代理用于个人购买、预订或下单,请在本地部署并进行签名。最流行的浏览器库是开源的,拥有免费许可证,可在你的机器上配合本地模型运行,其仓库星标已超11.9万。
他们无论如何都会封禁你,但你会知道原因并能提出申诉。如果你的代理是面向成千上万用户和第三方商家的产品,不要基于浏览器构建它,而要基于商务协议。为人类眼睛设计的导航是昂贵、缓慢且脆弱的路径;这是投入最多的Meta公司的观点。在这两种情况下,规则相同:代码免费,但卡片(支付能力)不是。
我们回到视频开头的那张海报,即9月20日星期日亚马逊页面顶部的那一张。它依然在那里,并将继续存在。没有法律禁止它,也没有判决阻止它。改变的是其含义:不再是某家公司对另一家说“不”,而是网站要求一张仅存在两天、作为工作文档的卡片。你可以今天下午就开始处理,使用诚实的用户代理和密钥目录。
大门并非由请求开启,也非由法律关闭。它始于声明你是谁;而这部分,这一次取决于你,而非竖起那块牌子的公司。