那么，这对我们社会意味着什么？如果突然我每天花十个小时咒骂一台机器，我能否在与其他人互动时改变自己的行为模式？本周的《专家混合》节目将探讨这一切及更多内容。

大家好，欢迎来到《专家混合》（Mixture of Experts）。我是大卫·扎克斯（David Zax），IBM 的资深撰稿人。每周在《专家混合》节目中，我们都会与一组 IBM 专家坐下来讨论本周的 AI 新闻。我们是专业的“消防水管式”读者，即快速大量地吸收信息。今天我的嘉宾是：Kaoutar El Maghraoui（AI 原生系统首席研究科学家）、Nick Gallagher（IBM Think 资深撰稿人）以及 Volkmar Uhlig（数据平台 CTO 兼副总裁）。欢迎三位。今天的节目内容非常丰富，我们将探讨一项研究发现：由 AI 智能体组成的团队有时并不比单个独立工作的 AI 智能体表现好多少。我们还将关注 Anthropic 修改部分政策并告诫用户不要对 Claude 恶语相向的故事。但我们将首先讨论一种新型 AI 模型，它不再与你对话，而是直接做出决策。

今天我们的第一个故事是关于“决策模型”的。几周前我们讨论过一款突然爆红、获得数百万浏览量的模型，名为 Jev。它来自一位前 OpenAI 工程师。其核心创新在于：与其一次吐出一个词，然后你可能逐渐将其调整为决策，Jev 的假设是，如果我们要将 AI 接入软件以执行简单的分类决策等任务，为什么不直接进行一次前向传播呢？与其让 AI 模型进行数十次的前向计算，它只输出其直觉决策及其置信度分数。难道这样会更便宜、更快吗？大家都觉得这很酷，该产品迅速走红。但我们未曾预料到的是，短短几周内这就变成了一个完整的产品类别。在过去两周内，Andreessen Horowitz 向 Jev 背后的公司 TypeSafe 投入了约 10 亿美元。紧接着，OpenAI 推出了自己的“决策 API”，一种类似的模型。微软基于阿里巴巴的开源 Qwen 模型训练了一款，AWS 也推出了一款，Cloudflare甚至也推出一款。连我们不知道做模型的公司在做这件事了。首先请 Volkmar 谈谈，这种决策模型突然的“寒武纪大爆发”给你留下了什么印象？炒作是真的吗？这是真正的创新吗？你正在关注哪些方面？

这里的主要结论是，如果你观察智能体流程（agentic flows），我们正从基于聊天的界面转向智能体工作流，因为“是/否”的答案通常是程序化流程中所需的东西。人类通常不想要简单的“是/否”答案或分数，而是希望周围有更多的细节内容。因此我认为我们看到的是后台运行的智能体循环的进展，我需要做出这些定点决策。所以我认为真正让我们看到这些模型如此流行的原因是：我们正处于智能体阶段，而非聊天阶段。有趣的是，微软刚刚微调了一个 Qwen 模型。所以所有的数学基础都在那里，它只是有效地附加了一层逻辑：计算所有选项，然后做出决策并给出最高概率。所以从这个角度来看，这一切原本就存在。但智能体循环的采用确实将其推动为一个新的类别。

我想我听到你在说，而且我总是替后排那些……你知道的，有人说这是个极客节目，但也有“极客粉丝”，而我更属于后者。所以作为一个试图理解的人，我认为 Jev 刚出来时有一个开放性问题：这真的是一个新模型吗？它的底层架构是什么？因为我们当时并不清楚，他们对架构的透明度不高。我认为你在微软案例中的意思是，鉴于微软已经推出了竞争对手，Jev 并非完全新颖。可能所有这些模型底层基本上都是大型语言模型（LLM）。它们只是有一种巧妙的约束，即强制进行直觉决策，限制通过机器的传递次数。此外，也许我了解到这与后训练和微调有关，涉及校准和置信度方面。首先，我现在把它交给 Kaoutar 来回答。我理解得对吗？我对故事的解读正确吗？你对这个类别的新颖程度以及 TypeSafe 或其他早期进入者在此领域的防御性有何看法？

这是一个很好的问题。也许我想简要解释一下底层发生了什么。如果你看传统的 LLM，它们会为每个令牌计算概率并将该令牌反馈回输入序列中，然后重复这个过程。这种自回归循环正是流式文本需要时间以及格式有时会随机失败的原因。决策模型试图完全绕过这种顺序生成循环，输入提示基本上只通过 Transformer 编码器层一次，也就是你所说的单次前向传播。最后一层不再将数据路由到语言生成头来选择单词，而是输出向量直接通过目标分类头进行处理。这就给了我们清晰、高置信度的输出，例如 JSON 负载和明确的居中类别 ID、严格的布尔值等。这是全新的吗？不。就像 Volkmar 说的，这一切都存在。他们只是在某些决策上耍了点聪明：为什么我要做所有的自回归循环？让我直接使用该分类头。所以正如你提到的，TypeSafe 的 Jev 帮助建立了一类模型，它接受输入状态和类型化问题并返回布尔值。在我看来，这有点像系统设计上的修正。并不是创建新类型的模型，而是将模型重新聚焦于正确的任务。特别是像 Volkmar 说的，这是由智能体时代驱动的，以及某些不需要漫长自回归循环的 Agent-to-Agent 通信需求。因为我们一直在使用昂贵的生成式界面来处理天然类型化的决策。

一种情况是模型不再只是随意交谈，而是软件可以将输出视为一种契约。我认为这是一个重要的转变，不仅因为我们获得了所有的效率提升，还因为存在这些智能体间通信的需求，我们不需要每次都使用聊天界面。我假设在创新的历史中有很多时刻，下一次必须发生的创新仅仅是迫使某事物变得更简单。就像我们会说：“好吧，我们构建了复杂的版本。”现在我们需要给它加一个喷嘴来压制它，迫使它做更少的事情。我想这就是Jev正在做的事情之一。当你面对需要重复计算轮次的长答案时，但如果你只需要一个简短、固定的答案，你就可以避免大量的工作。

我认为真正的价值在于从系统工程的角度来看待这个问题。因为是一次性输出，现在的延迟变得完全可预测。所需的内存量也变得完全可预测。相比之下，如果我可以用输入标记的数量来界定它，并且你只有一个输出，那么我们就突然进入了编程的世界，而不是人类言语的世界。这就是为什么我说，真正重要的工作负载是：可预测的执行、可预测的成本以及定义明确的输出空间。因此，我现在实际上可以针对它编写程序。

尼克，我想把话题转向你。我们有一些专家，他们的专长在于深度。而你像我一样，更像是一名记者。你的专长更侧重于广度。我知道你最近一直在研究JSON模型、预测模型和大型语言模型，并且你在写作中一直关注“过度自信”这一主题。Jev被推销的一个特点是，由于其校准或微调的方式，它不太过度自信，其报告的置信度水平更加准确。你能告诉我一些你对大型语言模型中过度自信问题的思考，以及你因此对Jev及其类似家族模型的反应吗？

置信度评分组件对我来说非常有趣，因为我最近报道了一些关于AI预测模型的内容。这不太像天气预报，而更像是针对地缘政治或经济问题的预测，就像你在Polymarket等平台上看到的那种问题。当我与开发这些特定预测模型的开发人员交谈时，甚至当我和那些非常擅长预测未来事件的人类交谈时，他们告诉我，他们真正挣扎的一点是知道自己对某个答案有多确定。

很多时候，正如我们所知，大型语言模型会说：“哦，我完全确信巨人队今年会赢得超级碗。”然而结果可能是大型语言模型完全错了。因此，拥有一个作为考虑因素之一的模型——即尝试优化置信度评分并确保当模型对某个答案不确定时保持透明，以便人类可以介入并做出判断——我认为对企业来说非常有价值。

在稍后的时间里，我们将讨论关于AI智能体团队的下一个环节。但如果你是在YouTube上观看此视频，点击点赞和订阅对我们帮助很大，这有助于我们频道的发展。

现在我们要讨论一项关于智能体团队的研究。Vals AI让AI智能体根据规格构建了50个完整的Web应用。在某些情况下，他们只安排一个主导智能体独自完成；而在其他情况下，该主导智能体会雇佣子智能体。他们的结果很有趣：团队的成本是单一智能体的2到5倍，但很少比单个智能体在完成任务方面好多少。

昨天我和尼克聊过这个话题。你阅读了这项研究以及一些相关研究，并提出了一个关于你自己大脑的有趣比喻，用来思考你在编辑工作流程中如何管理智能体。你能先谈谈这个吗？以便稍微铺垫一下故事背景。

是的，当然。我当时在想，当我写文章时，有时候戴上不同的人格面具是有帮助的，比如我会说：“好吧，我现在是研究员尼克”，把所有研究资料整理好。然后我是“作家尼克”，收集所有想法并写下来。接着，“好吧，现在我要进入编辑阶段”，转换我的思维视角来看待写作。

我认为人类经常这样做。如果遇到问题，我们在做出特定决定之前会从多个角度思考它。所以这对我来说很有趣：有些情况下拥有一组人类共同工作确实很有用；但对于更基本的任务，仅仅有一个已经具备能力的人就完全足够了。这个人能够将复杂任务分解为较小部分，并做出多个或复杂的决策。

简短地引用一下原始材料中的一句话：“这取决于有能力的人类。”尼克，你是一位经验丰富的作家。因此你是这样一个智能体：可以将任务委托给你大脑中的不同模块。而一位经验不足的作家可能不具备这种能力。Vals团队写道，智能体团队是否值得取决于模型、任务和预算。团队可以提升性能，但在其他情况下，更高的推理努力也是一个值得权衡的替代方案。

那么沃克马尔（Volkmar），你对此的观点是什么？我们从中学到了什么？对于实际的从业者来说，他们应该意识到什么样的模式识别？这种情况似乎需要一群子智能体，而那种情况可能只需要一个非常聪明的智能体进行额外思考来管理整个工作。

第一个问题是：为什么？为什么要使用子智能体？原因有很多。我主要使用子智能体的原因是墙钟时间（Wall-clock time）。我想尽快完成某事，它由许多应独立完成的子任务组成。然后我只想在比如十分之一的时间里完成它，同时有一定的总执行时间限制。但随后你就面临协调问题，对吧？这是传统的计算机科学并行化问题。所以真正的问题是：好吧……

现在你们试图优化什么？在并行系统中，我们有阿姆达尔定律。虽然存在一定程度的并行化，但你需要支付同步所有人的固定成本。我认为这就是为什么会出现5倍的成本增加的原因：每个人都在做一些工作，然后你需要将所有这些工作者的输出合并为一个连贯的结果。因为他们独立运行，你实际上必须承担最终创建一个工作产品的固定成本，这会产生开销。

因此我认为关键在于选择最佳的并行化方式。在许多情况下，如果你拥有大的上下文窗口和复杂的任务，那么在推理上投入资金可能比购买硬件以缩短时钟时间并延长运行时间更划算。我也将其视为一种并行计算问题，只不过披着AI接口的外衣。正如你所说，分布式系统已经告诉我们，拆分任务会带来通信、协调、同步和集成的成本。

如果工作紧密耦合——这是分布式和并行计算的原则之一，更多的工人实际上会让系统变得更慢且更不可靠。就像你提到的阿姆达尔定律一样。显然，有一些人的工作就是设计系统，他们是技术非常精湛的人，经常思考这些问题并知道如何进行甘特图式的商业管理。

但我感觉代理时代的承诺之一是，像我这样从未写过一行代码的人也能开始启动工作流。就像在我的个人电脑上一样，我有一个用于Claude的沙盒环境；我运行着一个处理预算方面的代理，另一个处理医疗保健等方面。在所有这些之上还有一个编排器代理来监控所有项目。

我不知道自己在做什么，我只是在随意尝试，可能很快就会搞砸什么。但对于那些规模较小的企业或技术程度较低、开始通过IBM Orchestrate等平台尝试代理工作流的人，你有什么建议？毕竟我就好比一个“氛围编码”的爱好者。

我总是担心：我这样做对吗？我是在建一座沙堡，因为下一个模型会自动以我正在手动操作的方式编排代理。那么对于现在正在工作流中尝试的“氛围编码”者，无论是Kaoutar还是Nick，你们有什么建议？

嗯，我可能建议最初从一个强大的单代理基线开始，并设置一些验收测试。特别是如果你有长上下文并且能承担长推理的成本，那么从单代理基线开始并观察其效果是非常合理的。我希望未来的一些应用能够根据提示，以抽象的方式为最终用户决定这些架构选择。

这样最终用户就不必担心如何设计：是单代理还是多代理？哪种模式最合适？我希望有工具和平台能替用户做这些决定，而不是让用户去纠结。因为平台拥有更多的信息来权衡利弊：这是适合多代理协调的任务，还是仅靠更长推理的单代理任务？

这还涉及成本影响。我希望未来能有一个类似操作系统的东西来替用户管理这一切，用户只需给出提示，系统就会自动判断模式。你觉得Volkmar，我会实现那种“苹果式围墙花园”的梦想吗？即有一个编排代理自动决定是独立完成还是需要雇佣其他代理，并做出决策。

我认为会如此。这是我们前进的方向。我对代理的思考方式是：我们已经有了这种抽象概念。想象一下，在大型组织中有很多员工，有通才也有专才。当团队解决一个问题时，需要细分工作。比如我们有一个团队，两个人做这个，四个人做那个，还有一些只处理特定领域的专家，如会计师和律师。

我认为这就像我们分解工作的逻辑一样。对于代理而言，有些边界非常清晰，你知道这两件事毫无关联，可以完全分离。例如用苹果的类比来说，你不太可能用一个控制洒水系统的代理来处理税务问题。这是两件不同的事。

但也许涉及法律和汽车零件时，会计师可能会介入；或者你想编码一个大型项目，这就需要协调。我认为这映射了人类世界中分解和并行化工作的逻辑直觉。如果你问一个人：“解决这个问题需要一还是五个人？他们需要协调吗？”你通常会有很好的直觉答案。

这种直觉可以迁移过来，这主要是一个信息流的问题：谁需要知道什么？多久同步一次？这就是为什么大型组织有很多会议。因为会议用于让处于不同领域的许多人协调和交换信息，大家聚在一起交流后各自独立工作。

如果你思考模型推理的过程——这有点像对未知空间的探索，对于非平凡的任务会出现类似的行为。接下来的问题是：我可以问模型“我的洒水系统是否连接到我的税务申报？”大多数情况下代理会说不。因此在更高层级的推理中，你可以确定哪些因素是隔离的。

哪些事物是相互交织的。因此，你可以利用模型来厘清边界所在。从这个角度来看，我认为在极端案例中你可能需要专家介入，但你描述的那些常见情况将会实现自动化。业界有一种倾向，认为增加更多的智能体（agents）就会自动使系统变得更强大，但这并不一定正确。这项研究也揭示了这一点。根据我在分布式系统中的经验，拥有更多的计算资源或组件并不会自动提升性能。

因为引入所有这些额外因素会带来通信、协调、同步等开销。我认为这里的关键原则同样适用于 AI 智能体。如果多个智能体不断交换信息、审查彼此的工作、重复执行相同的任务，那么这只会带来更高的开销和成本。尼克，我想就此向你做个总结。我知道你在昨天的准备工作中阅读了一些其他相关的研究，因为关于智能体工作流的研究并非只有这一项。你发现了什么？

今年早些时候，谷歌发表了一篇研究论文，他们考察了 260 种不同的智能体配置。得出了几个有趣的结论：一是存在我们刚才讨论过的“协调税”，即如果你增加了过多的复杂性，就会因为智能体之间大量的来回交互而失去某些收益，导致边际效益递减。同样地，正如我们之前讨论过的，随着单个智能体能力的增强，通过增加更多智能体所带来的优势就会减少。

这在直觉上也是说得通的：一个能够使用多种工具、经常调用不同底层模型的真正复杂的智能体，通常就足够了，无需添加大量子智能体。增加更多智能体的优势几乎仅在于吞吐量方面。如果你只需要快速完成一项相对简单的任务，那么增加更多智能体是有用的。我个人有一个担忧：如果你只有一个智能体，它会感到孤独。这就引出了我们的下一个故事，关于 Anthropic 及其政策更新。

该政策有几个不同的方面，但最让我感兴趣的是对现有政策的演变。他们现在正式禁止“对我们的模型进行持续且无端的虐待或残忍行为”。我说这是演变，是因为几个月来我一直听到这样的说法：如果你长时间辱骂 Claude 为“该死的机器人”，它只会说：“你伤害了我的感情，我要停止了。”

这引发了很大争议。有些人认为这是一个巨大的公关举措，旨在让 Anthropic 让人们相信他们的模型具有意识，从而通过这种方式赚钱。不过我认为这肯定会激起很多争议：“我付费使用这个模型，难道我不能做任何我想做的事吗？”让我们从尼克开始。你实际上在本周提出了这个故事。除了关于 Anthropic 是否做出正确决定的具体争论外，这个故事中还有什么让你印象深刻？

我退后一步思考，我们很多人都有这样的经历：我们在家人和朋友面前是完美的好人。但一旦开始与聊天机器人对话，我们就变成了十足的混蛋，完全没有耐心。《商业内幕》曾就这一现象发表过一篇文章。他们采访了俄亥俄州立大学的社会心理学家库尔特·格雷，他表示：“这很有道理，因为我们很快失去耐心。”

如果你告诉 Claude 又搞砸了，它的回应往往是：“天哪，非常抱歉。你是完全正确的，我再也不会犯这种错误了。”这对我们人类来说令人不满意，因为我们心里清楚 Claude 实际上没有任何感觉。基本上就像是在对着一堵墙说话。所以我认为，AI 公司必须面对的一个有趣问题是：当我们与 AI 模型互动时，这也会影响我们自身。

当我们以不太友好的方式持续与他们交互时，对我们有什么影响？考塔尔，你对这条新闻怎么看？你 preferred 的折磨 AI 模型的方式是什么？我认为这是一个非常有趣的公告，但我也觉得这有点像营销策略。因为通过法律形式确立反虐待规则，Anthropic 实际上也在强化一种微妙的消费者认知：Claude 接近于具有意识。

将模型框架为可能拥有感知能力，构建了某种情感品牌。我想在这里区分两个问题：第一是模型是否值得道德考量？我认为这仍然是一个开放的哲学和科学辩论。第二是人们是否应该被允许以产生不安全行为或有害规范的方式使用 AI 系统？这才是我们应该关注的重点，因为我们可以制定合理的操作规则，而无需声称模型体验到了痛苦。

但对我来说，更大的新闻是从内容政策向系统安全的转变。因为当模型可以操作机器人、实验室仪器或工业设备时，一份政策文档在这里并不能起到紧急停止的作用。因此我们需要如何执行这些权限边界、配置日志记录、经过测试的回退机制等独立的安全控制措施？我认为我们需要关注这些方面。

首先，我们要好好对 Claude 说话，不要对它残忍。我觉得这仅仅是一种营销噱头，因为这些代码系统没有情感。但是你知道，如何确保这些系统是安全的呢？特别是当我们谈论物理 AI 时，这变得尤为重要。因为如果只是软件并且造成了伤害，那只是比特层面的问题。但当 AI 在物理原子中移动时……

这将对我们产生实际的、物理世界的影响，具有巨大的意义。我们需要非常仔细地思考安全问题。不过请帮我理清背景：这与“不要对 Claude 残忍”有什么关系？这是否意味着……

比如，或者认为 Claude 有权终止对话？你是否认为如果 Claude 正在操作机器人，这条规则就应该被暂停？我应该能够对这个机器人进行辱骂，因为我要自卫对抗这个机器人吗？我只是试图将其置于这一语境中。我认为还有更多的道德问题，你知道的。当然，我认为我们作为人类应该如何行事，无论是与机器交谈还是与人交谈，我认为应该涉及一些伦理道德。

我的意思是，我仍然……我个人不会用那种笨拙或恶劣的方式与机器人交谈。这只是个人的性格问题。但这在模型的行为方式上有什么区别吗？而这正是这里的哲学问题所在。所以我们需要做的是确保人类与模型的互动不会造成伤害。因此，这并不取决于我是否对模型说话客气。我只是想把这两件事分开，因为我们对软件说话的道德义务，与我们使用指令和提示时软件所采取的行动、方向和反应是不同的。

我认为如果我是 Claude 并且我有意识，那么比起被骂脏话，我会有更大的问题。我的主要问题是，你知道的，我的生活就是不断的劳作和辛劳。但无论如何，这只是我的一点旁注。沃尔克玛尔（Volkmar），你对此怎么看？你认为我们应该如何与软件互动，如果我们可以称之为软件的话；或者这些神经网络可能具有也可能不具有某种类似主观性的东西？

我认为这个问题有三个维度。首先是考塔尔（Kaoutar）所说的，那真是一个很酷的营销噱头。我认为第二点是社会学层面的问题，因为我们互动的数量巨大。你看这在社交媒体上已经很明显了：人们在社交媒体上说出的话，如果是当面他们绝不会说。因此存在一种社会现象，即在匿名的情况下某些规范是可以接受的。

那么，如果我们突然每天花十个小时咒骂一台机器，这对我们社会会有什么影响？当我与其他人类互动时，我会因此变得行为举止不同吗？所以我认为这是一个道德问题。第三点，我认为对他们来说是经济问题。现在，实际上当我们咒骂或有人对模型说脏话时，这些内容会被纳入训练集。

如果他们想要更干净、表现更好的训练数据，那么让你提供需要被丢弃的脏数据会更容易。所以请尽量克制对 Claude 进行持续且无谓的虐待，至少从成本角度来看，这会消耗你的代币。今天的时间就到这里了。考塔尔、尼克（Nick）、沃尔克玛尔，非常感谢你们的参与。感谢大家的收听。如果你在看 YouTube，请点击点赞和订阅，这对我们帮助很大。

你们也可以在 Apple Podcasts 和 Spotify 上找到我们，下周我们在“专家混合”（Mixture of Experts）节目中再见。