你可能已经注意到,即使运行的是同一个底层模型,两个 AI 产品给人的感觉也可能截然不同。例如,同样的模型如果只是一个基本的来回对话聊天机器人,功能就很有限;但如果把它放入一个能访问文件和终端的开发者工具中,它突然就能在一个软件任务上连续工作数小时。那么,造成这种差异的原因是什么呢?这归结于 AI 模型和智能体框架(agentic harness)。
让我们先从 AI 模型说起,因为它的定义相当简单。我们都知道这些 AI 模型是什么,比如 ChatGPT 或 Claude。当我们谈论“模型”时,我们实际上指的是人工神经网络本身。这些模型自身无法真正触及外部世界:它们不能原生地打开文件或运行代码,也不能真正地浏览网页。因此,单独来看,这些 AI 模型本质上就是“罐子里的大脑”。它们具备能力,但被困住了。
目前,顶级实验室之间的基准测试差距在大多数评估中已缩小到几个百分点以内。因此,当一个 AI 产品明显优于另一个时,“大脑”本身——即我所说的 AI 模型——通常不是解释原因。真正起作用的是包裹在“大脑”周围的东西,而这个包装有一个名字。当我们把模型封装起来时,我们称这个包裹它的东西为智能体框架(agentic harness)。
如果我们把整个 AI 智能体作为一个整体来思考,它就包含了这两者。因此,本质上一个 AI 智能体由 AI 模型和智能体框架组成。这是模型使用的工具、它记忆信息的方式、它不断运行的循环,以及关于它可以做什么的规则——所有这些内容都存在于智能体框架中。
让我们深入这个框架内部,看看里面有什么:基本上由三个组件组成。我们有工具(tools)、记忆(memory)和智能体循环(agentic loops)。让我们逐一查看。首先从工具开始。通过工具,模型可以在外部世界中执行操作。例如,它可以访问文件,从而读取和写入它们。
使用工具的另一种方式是运行代码,这些代码也可以在沙箱中执行。我们可以从互联网上获取信息,而且通常实际上还可以控制计算机屏幕本身。这被称为“电脑使用”(computer use)。在这里,模型可以移动光标并操作任何软件,其方式类似于人类的操作。
许多这些能力实际上直接构建在框架中。对于机器上已有的任何其他东西,框架通常会给模型提供命令行访问权限,这样它就可以运行任何已安装的软件,这与开发者的操作方式完全相同。而对于连接到不位于机器上的外部服务——比如企业数据库或第三方应用程序,有一个名为 MCP(模型上下文协议)的标准。
为 MCP 构建的工具可以插入任何支持它的框架,而无需每次重新构建。这就是工具部分。那么记忆呢?模型有一个固定的上下文窗口,这基本上就是它们的工作内存。一旦对话结束,工作记忆就会被清除干净。但框架可以帮助持久化保存信息。
例如,它可以持久化指令文件。比如一个位于项目文件夹中的 agents.md 文件,它会在每次会话开始时加载到模型的上下文中。这样模型就能知道代码库的约定或应该使用哪些库。而在会话期间,当上下文窗口开始填满时,框架会运行另一个进程来压缩该上下文窗口。
它会对之前发生的事情进行总结,以便重要部分得以保留,而像冗余的工具输出之类的东西则会被修剪掉。而且,框架不会一次性将整个代码库转储到模型的上下文中,而是让模型执行搜索。我们可以使用类似 grep 的文本搜索、语义搜索或代码索引来搜索项目,然后只拉取它需要的部分。这就是记忆。
然后是智能体循环(agentic loop)。这是框架和模型协同工作以实现目标的地方。模型决定为实现该目标的下一步行动,这就是规划阶段(plan stage)。然后框架接受该计划并实际执行操作。当动作被执行后,我们会得到一些结果。
模型观察这些结果,然后循环不断重复。有时只持续几秒钟,有时则长达数小时。除了这个周期之外,现代框架在整个循环中都会连续运行验证过程。模型在过程中会运行测试,可能会截取它所构建内容的屏幕截图,有时甚至启动一个单独的模型充当审查者。
验证功能相当酷:运行这些测试、检查结果并查看屏幕截图。一个会自我检查的模型在偏离轨道之前可能会运行得更久。这就是工具、记忆和智能体循环。一旦框架让这三者协同运行,AI 实际能够做的事情就开始与 AI 模型单独能做的任何事情看起来非常不同。
所以我认为我们也应该问,为什么我们要关心这种区别——AI 模型和智能体框架?因为一旦我们将模型和框架视为独立的事物,我认为 AI 领域最近发生的很多事情就开始变得有些道理了。因为我们看到的许多能力增益实际上来自于框架的改进,这意味着更好的工具、记忆处理以及带有验证功能的更智能的智能体循环。当然,随着每个新版本的发布,模型本身也得到了改进。
因此,当有人问“AI 擅长某件事吗?”——比如 AI 是否擅长编写代码或作为客服聊天机器人时,我认为更有用的提问方式是更准确地定义我们所说的“AI”是什么意思。具体来说,我们要问两件事:我们将在这个场景中使用哪个 AI 模型?此外,如果这是一个智能体,我们还需要问将使用该 AI 模型的哪一个框架。
因为模型在一个框架中可能表现出色,而在另一个框架中却陷入停滞。而且这两者之间的界限也有些模糊:以前完全存在于框架中的能力,如长期规划或自我验证,现在正开始直接训练到模型中;而以前属于模型行为的一致性(在长任务中),现在越来越多地由框架约定和项目文件来塑造。
这就让我们回到了那个“罐子里的大脑”。大脑本身,即 AI 模型,毫无疑问正在变得越来越聪明。但你知道吗?不仅仅是模型在变聪明——也就是大脑本身;还有那个罐子,即智能体框架。