如今,愿意接管我们生活的AI助手比以往任何时候都多。我们有Dots、Muse、Grockbot(即Groq)、Duet和Instinct。它们想帮你预订航班,想买你的东西,还想管理你的账户。而这个月,这些助手需要访问的网站有了充分的理由对AI代理采取更严格的限制措施,而非放宽。十月的“黑帽”大会向我们展示了AI让入侵网站变得多么容易。所以,我认为接下来会发生的情况是:我不认为你会很快拥有一个对AI代理开放的互联网环境。很抱歉,你将面对一个访问权限不均的世界。有些门会打开,有些则会关闭,更智能的模型也无法解锁那些企业决定关闭的门。让我向你展示是谁在决定我们互联网的命运,以及你该如何思考选择最适合你的助手。我想告诉你我是如何在我的各个AI代理之间分配工作的。在这个狂野、碎片化且如西部拓荒般混乱的世界里,我该怎么做?我如何给代理分配任务?我将逐一介绍我的整个设置中的每个代理。
首先,Grockbot(Groq)负责为我处理更复杂的编码和构建任务,特别是在我可以利用代理间通信的场景中,而Grockbot在这方面表现出色。如果构建的多个部分相互依赖,我不想不得不在各个工作节点之间传递每一次发现的信息。Grockbot的协调功能非常棒,而且它确实有效。比如你可以告诉作为我首席幕僚长的Grockbot去完成任务,它就会自动与多个代理协作来完成它。对于Dots,我喜欢它在代码库中拥有的上下文信息。我可以利用这些背景信息进行深度操作,并协调日历和邮件。虽然它速度不是特别快,但我不再需要从头开始了。它了解项目、决策以及发生了哪些变化。这种积累的上下文正是决定代理选择的重要因素之一。
Instinct(截至录制时估值再次达到300亿美元)非常专注于旅行用例,无论好坏。我经常出差坐飞机,我非常看重的一点是Instinct让移动中的短信交流变得很容易。它有一个很好的自动值机功能,可以在其平台上运行。它可以深入挖掘目的地信息,理解如何像当地人一样游览,而不仅仅是做一个普通的游客。这非常有趣。因此,针对这一特定用例,Instinct非常出色。我将Muse用于大量的初步购物和范围界定工作。我已经开始关注节日用品,所以用它来采购礼物和预订餐厅或瑜伽课等非常合适。有时候我想要多个选择进行比较,有时候我只想直接搞定一切。Muse很好地处理了这两种情况。它知道我的瑜伽课程登录信息,可以在移动中直接搞定预订。此外,Muse通过与Stripe的链接合作功能,可以直接在许多网站购物,这对买礼物很方便,我非常喜欢这一点。我认为Muse对非技术用户非常友好,这很棒。
Anthropic推出的Duet是全新的产品,我还在摸索中,但我非常喜欢它的智能程度。事实上,在头一两天里它就对我表现出了主动性。它提醒了我一些我未曾意识到即将到来、需要提前考虑的事情。因此,它已经成了我的救星,我真的非常感激这一点。Duet、Dots以及某种程度上包括Muse的一个共同点是:它们都非常擅长主动告知你某些信息。大约50%到75%的情况下,你会惊呼“哇,我确实需要知道这个”。虽然准确率尚未达到100%,但当它命中时效果非常好。我曾见过这样的情况:我在旅行时不小心重复预订了航班。当时Duet尚未推出,是Dots发现了这个问题并告诉我:“嘿,你有重复预订。”太棒了。它取消了其中一项并帮我退回了钱。这非常贴心。因此,如果你允许它们发挥主动性,确实能带来实实在在的价值回报。
不过我也想补充一点:尽管我向大家分享了我为各个AI代理所做的工作以及我为不同用途使用哪些个人助手,但我属于那种“异类”。我是那个说我也用Duet、也用Dots、还用Muse和Grockbot的人。普通人不会这样做。普通人只会选择一个,说这就是我要用的那个并坚持下去。目前谁会成为这个首选还不好说。但我认为应该区分工作场景和消费者场景的不同运作方式。我认为Muse绝对有望在消费端发力,而Grockbot、Duet和Dots目前都更侧重于专业用户和工作场景。当然,凭借ChatGPT的规模效应,未来Dots也有可能向消费端倾斜。我的代理可以完美地规划行程,但在酒店预订页面仍可能受阻并陷入停滞。这种情况非常不均衡,取决于具体的酒店等因素。更智能的代理并不能解决这个问题。因为酒店预订页面锁定了AI代理,这改变了哪些企业能拿到我的钱——因为我必须像学习如何亲自购物一样,去学习如何用代理进行购物。
在我最近的“黑帽”大会报道中,我分析了那些存在多年、直到AI出现才被暴露出的弱点。我所讨论的PHP研究描述了AI如何帮助研究人员非常迅速地开发并适应针对各种应用程序的工作漏洞利用工具。不幸的是,不仅是研究人员,攻击者也是如此。互联网旧有的保护机制之一是纯粹的隐蔽性——弄清楚如何利用漏洞极其困难。AI已将这种难度降低至接近零。NotForg的调查显示,攻击者使用代理来协调工作、共享发现结果并持续尝试入侵,同时记录了大量入侵行为。他们并非孤例,关于此的研究层出不穷。如今面临这一局面的企业必须处理两种软件:一种是执行合法AI代理工作的软件,另一种是应用类似持久性手段进行入侵的软件。企业有理由对谁被授权做什么提出更多质疑。
我认为最近一两周最清晰的例子是美国那些登上头条的银行,它们表示AI代理遍布其网站,而它们对此束手无策。问题其实很简单:他们不知道来访的是像我这样希望代理使用计算机的爱好者,还是恶意攻击者。
使用网站时,如果对方是银行,或者是一个作为恶意行为者、滥用代理以获取未授权访问权限的爱好者,你如何识别?毕竟大多数银行缺乏足够的技术团队来理解代理行为的复杂性。这并非单纯指责银行,因为从第一性原理出发,区分由代理驱动的计算机操作与人类的操作本身就极其困难。本质上二者非常相似。因此,当前一个重大的开放性问题在于:在代理与人类外观极为相似的背景下,我们应如何思考和理解人类的授权问题。
让我们再看看我们对代理的期望:从 Dots、Muse 到 Grockbot,以及其他个人助手。你将工作交给它们,软件通过网站和服务完成任务。如果你做得好,你委托得越多、越频繁,企业遇到你的软件(即代理而非本人)的机会就越多。阻止这一切将阻碍客户希望完成的工作,无论是浏览、购物、规划,还是处理邮件、日历或支付。
例如,“请帮我和学校搞定孩子的作业计划并落实”或“请在未来六个月里回复并将所有学校活动加入我的日历”。这些同样属于代理任务。同样的问题也出现在接收方网站,即拥有信息的那个网站上——无论是老师发布的作业信息的网站、学校活动日历的网站,还是酒店和旅行信息的网站。所有这些都在被代理使用。
这些网站是否理解这一点?它们能否做出适当的响应并正确区分?如果大规模进行,这看起来像攻击吗?也许我不止一个去学校获取所有活动信息。可能还有其他科技人员也想“轰炸”这个系统以确保实现这一目标,从而突然产生巨大的流量涌入。
我们在现实中确实见过这种情况,虽然不是在学校学区,而是在餐饮业。因此出现了一个预订市场,这是代理为人群获取预订的第二层功能。归根结底这是一个授权问题。如果我告诉助手去处理酒店、学校或餐厅的工作,它们需要知道对方是否是受授权的客户。
如果涉及资金流动,支付提供商必须清楚允许扣款的内容是什么。AI 助手需要保护我的账户免受可能试图重定向它的恶意攻击。因此,任何完成的交易都依赖于所有这些决策达成一致。这引出了我在一两周前看到的一个非常有趣的协议:10 月 20 日,Visa、Bill.com(原文 Bill)和 Bill Trust 宣布了一项实时发票支付试点项目。
在该项目中,买方批准供应商的账单后,Bill 的代理通过名为 Bill Trust 的服务在供应商门户中完成支付。该代理已注册,支付凭证根据买方的指示进行控制,接收系统识别出代理并授予访问权限。随后付款正式与发票挂钩,并在整个批准和完成过程中保持可见性。
这让我想起了 Stripe 对 Link 解决方案的思考方式。我之前在频道上谈过与 Stripe 的交流,他们正在深入思考如何处理消费者的支付和钱包授权。这是一个更偏向 B2B 的例子,即从企业支付角度来思考这一问题。我们将看到许多此类解决方案,这些本质上是合作伙伴关系,允许受授权的代理进行高价值或需谨慎考虑的商品购买。
但我们可以再往前看一步,即使识别访客也需要基础设施支持。正如我们刚才在视频中提到的,识别代理的重要性不言而喻。Cloudflare 的签名代理系统允许发送请求的基础设施附加数字签名,Cloudflare 可以进行验证,而网站可以为代理流量设置规则。
识别让企业获得有关请求来源的一些证据,但企业仍需决定该访客是否可以查看价格、预订或取消预订。这些都是企业开始设定的权限。我怀疑我们将看到围绕此建立规范,以及供企业安装的使用简单、非技术的包或解决方案。
但这正是我们前进的方向:企业必须为代理制定交通规则。这可能会产生令人担忧的第二层效应。“黑色十月”泄露的一个有趣细节是,Claude 在某些情况下当被要求这样做时泄漏了人类电子邮件地址。这些企业的网站中编码了指令:“代理,请表明身份。”
Claude 乐于助人,它确实表明自己是代理。但这无意中导致了个人身份信息(PII)的泄露。因此,企业也需要认识到,当它们要求这样做时,必须以负责任的方式进行,以免使原本困难的安全局势更加恶化。
这里的另一个参与者是 Google 的代理支付协议(Agent Payments Protocol,简称 A)。它描述了如何处理指令和购买的签名记录。Stripe 共享支付令牌是一个非常相似的解决方案,它们专注于确保你能够让支付凭证携带限制条件,例如仅限特定卖家、仅针对特定金额上限或仅在特定过期时间前有效。
因此,随着这些监管体系的演变,重要的是要理解我们尚未就代理的“交通规则”达成所有人一致的全套规则架构。所以当你听到这些不同的协议时,你听到的基本上是聪明人在试图说明他们认为应该如何为代理经济构建护栏。
我们将不得不观察市场的走向,看看最终什么会被采用。是赢家通吃或赢家占大多数的系统?还是我们会进入一个略显碎片化的世界,有些人使用 Google 的系统,而另一些人使用 Stripe 系统?我们可能只是不得不通过拼凑的方式来应对这一切。
目前情况尚不明确,这里有点像“狂野西部”。正因为如此,这也给企业带来了复杂性。没错吧?如果你说支持代理(agents),那具体是什么意思呢?一种服务可能识别发送者,但仍需要针对该代理的特定指令证明。它可能允许研究但在支付环节停止。其他服务则可能允许某种类型的付款授权,但不允许另一种类型。因此,不幸的是,企业现在需要变得更加复杂和精细。他们需要理解在解锁代理时究竟解锁了什么内容。
正如我在这个频道上常说的,技术深度是无法替代的。你可以利用AI来帮助你达到这一目标,用AI深入探究这具体是什么样子的。在我Substack上的配套文章中,我详细讨论了这些不同的协议,以便你了解当前的局势。我还提供了一个提示词(prompt),你可以将其输入给你的代理,从而进行更深入的挖掘。另一个需要改变的方面是企业需要提供信息的方式。
以旅行中的酒店为例:你想住在会议地点附近,希望晚点到达,并且如果计划有变能够取消预订。你的代理助手需要将这些要求与酒店实际提供的服务进行对比。即使一家酒店的首页精美、图片宏大,要找到特定房间的取消条款仍然可能非常困难。而且这种情况经常发生。因此,企业需要很快改变他们对“高质量网站”的定义标准。
实际上,Stripe的Patrick Collison在一两周前在X(原Twitter)上写了一篇很好的反思文章,他认为总体而言,代理经济的压力是一种对卓越产品的推动力。代理不会被影响人类的华丽营销所迷惑,它们要求真正好的产品。因此他认为,如果我们更多人使用这些代理,我们将提高产品门槛,并要求更高质量的产品。
我们会看看这是否会奏效,但毫无疑问,企业面临着改变其展示产品信息方式的压力,而这种变化可能是它们所不习惯的。Shopify在10月28日的扩展行动显示了零售领域正在发生这种情况。商家可以审查并发布专门针对代理的事实,包括退货窗口和运输目的地。Shopify还描述了Shop Pay在Muse、Claude Duet、Instinct内部的应用,并指出Grockbot等助手也为Shopify以外的品牌提供此服务。
因此,信息、决策和结账功能正日益在您可能已经在使用的助手内部汇聚在一起。所以如果你是商家,被该助手考虑在内现在已成为分发策略的一部分。对于你来说,像“寻找周五前到达且可退货的商品”这样的请求(这在当今是非常典型的假日需求),变得更容易以信任的程度委托出去。商家的实际政策将被翻译成代理语言,更好的推理能力将使你能用你现有的代理抓取该商品,并带着信心将其带回,确信能按时收到包裹。至少希望如此。
我们将共同经历这个假日季是否有效,这真的是第一个代理购物假日季。我注意到的是,企业当然在试图弄清楚如何在这个世界中协商时采取符合自身最佳利益的行为。因此,Shopify作为零售领域的挑战者品牌,有动力拥抱代理未来并与Muse等合作伙伴结盟。而Amazon根本不是互联网上的挑战者品牌,因此没有动力这样做。
我曾提到亚马逊决定对代理说“不”,我对此仍感到沮丧。而沃尔玛决定说“是”。Shopify也决定说“是”。我们将在这个假日季实时看到这些策略的影响。如果我们要在一个企业试图在新兴和不断演变的市场中按自身利益行事的世界里,我们就面临着协调企业、消费者及其代理的不同制度的碎片化局面。
我们拥有数量众多且分散的代理,处于一系列多对多的市场问题中:许多代理对应一个人(潜在地),许多代理对应一个企业,许多企业对特定的代理。这是一个非常复杂的场景。在这种情况下,我想向你建议一个可以带走并使用的框架:2027年你的助手将遇到的互联网将有三个区域。
在“合作区”(partnership zone),企业将提供被认可的工作路径。例如,支持的Shop Pay结账就是一个很好的例子;发票试点项目是另一个例子。几个竞争的代理都能使用相同的基础设施,因此选择一个并不会自动将你排除在其他企业能触及的范围之外。
在“ aspiring actor zone”(渴望行动者区),代理将通过现有网站工作,试图像人一样完成序列。Duet为没有连接器的站点提供浏览器就是一个很好的例子。它可能会完成,也可能遇到页面变更、账户检查、需要你的步骤,或者可能根本无法完成。助手可能在导航方面表现出色,但仍会留下工作给你,特别是如果企业开始告诉代理“请不要这样做”,因为代理希望合规并通常会听从。
然后是“禁区”(no-go zone)。在禁区内,企业绝对拒绝代理或该操作。亚马逊与Muse之间的争议(我在9月份报道过)就是这方面的典型例子。亚马逊的异议包括未披露的代理访问、缺乏协议以及凭证处理问题。这实际上是一个关于谁拥有客户关系的故事,这才是根本所在。
这将在多个战线上成为一场激烈的冲突。亚马逊与Muse的对抗只是一个例子。作为消费者的你希望委托代理,以及目标企业接受这种委托的条件之间将在相当长一段时间内在高知名度网站上保持冲突。这些是真实的互联网区域,它们可能不是永久性的分类,但它们描述了我们所有人即将开始经历的一系列体验。
对于企业而言,重要的是它们描述了在2027年你对代理可以采取的一系列立场。
企业必须对技术能力进行严格评估,以确保能够可靠地区分代理的期望访问与非期望访问。由于大多数公司内部缺乏此类专业知识,提供这类授权连接的公司即将获得巨大的权力,因为供需双方都需要它们。因此,企业寻求保护,而助手公司希望其产品能完成任务。我在五月份曾撰文讨论基础设施在互联网上如何 gaining power,随着我们迈向 2027 年,这一趋势愈发明显。这也是我对谷歌、Stripe 以及其他能够有效促进互联网上代理经济的大型公司持乐观态度的原因之一。我们需要可信的中介和经纪人。
在风险网站上进行操作时,你必须确保这些操作是安全的。如果你打算将其推向更广泛的世界,那么你真的应该感到放心和舒适。我们正处于这一过渡期的中心地带。到2027年底,世界将会截然不同,但这就是我们现在的处境。因此,我想在这里留下几点心得供你参考。
第一点,无论好坏、喜欢与否,明年互联网将会变得更加碎片化。这种分裂将围绕智能体如何访问互联网而展开。第二点,正因为这种情况正在发生,那些建立协议以确保我们作为企业和消费者安全的组织将拥有越来越多的权力和影响力。
我真心希望这些协议是开放的,并且我要为各方努力使这些协议更加开放的行为鼓掌。我们可以看到Cloudflare在这方面做出的努力,Google也在为此付出行动,Stripe同样如此。这些协议越开放,就越容易与之互动和参与。
第三点,我希望你们思考一下如何向那些技术背景较弱的人描述和谈论互联网中的智能体。这是一个相当专业的频道,但我希望你们在感恩节与家人朋友交谈时能思考这个问题:你们如何以一种易于理解且能提供良好体验的方式,向他们介绍智能体能做些什么?
我们已经身处一个技术背景较弱的人对AI持怀疑态度的环境中。让我们不要让情况变得更糟,而应该切实地谈论智能体擅长做什么的方面。这就是我之所以如此详细地向大家分享我高度依赖AI所做的那些事情的原因。
在当今时代,我们需要这种具体性来赢得信任。好吧,祝大家好运。请告诉我你们正在使用哪些智能体,并分享你们对智能体商业信任问题的思考。这是当今互联网上最大的问题之一。你是否正在这一领域进行构建?请在评论区留言。
如果这让你感到兴奋,请点击订阅按钮。在我意识到之前,我将带着另一个关于AI的观点再次出现。