早安，亲爱的女儿。>> 早上好，汤姆。你今天怎么样？ >> 我很好。我在哪里？ >> 现在这有点难回答，我也得不到正确答案。但看看我们这里有什么。我们有黑沙滩，这意味着有火山。那是熔岩沙。我们还有一片北极类型的苔原，后面还有一条堤道。我猜是在阿拉斯加或者冰岛某处。 >> 冰岛。
冰岛。好吧，[笑声] >> 你猜对了。 >> 我们猜对了。 >> 你让你姐姐很自豪，就像我的第二个猜测一样。是的。 >> 是啊。只是让我姐姐感到骄傲。AI的脱节现象严重。 >> AI存在很多脱节之处。汤姆，情况确实如此，[笑声] 到处都是。你和我最近一直在深入探讨这个问题，因为我正在写书，而你一直在研究这个领域，我们偶然发现了一场非常
引人入胜的对话，对象是微软的人工智能发言人穆斯塔法·苏莱曼（Mustafa Suleyman）[清嗓子] >> 我很不情愿承认这一点，而且我知道你对此也有同感——其实我替你说出这点：我们并没有太多关注微软，因为我们主要看前沿人工智能及其提供的杠杆效应和加速作用。嗯 >> 这是我们提到的第一个脱节之处。
确实如此。而且我们这样做是有风险的，因为他们在穆斯塔法·苏莱曼身上拥有一位杰出的人物。他在这个领域工作已久，从DeepMind的创始人时期就开始涉足，随后他们有很多正在进行的倡议项目。但他做了一期很棒的播客，我们推荐给那些希望深入了解的人。那是他与罗里·斯图尔特（Rory Stewart）的对话，
我稍后让你来介绍斯图尔特。罗里·斯图尔特的播客名为《其余皆是政治》（The Rest is Politics），这一期的主题是“领导力”，时间是9月28日。时长约一小时，他在采访穆斯塔法时表现出色。这是我们从非从业者角度看到的最佳访谈之一，他以极其深思熟虑
和充分准备的水平提问并讨论这些话题。 >> 对吧？ >> 嗯，因此我们变得清晰的是：我们没有意识到这个市场目前存在多少脱节现象。你知道的，我列出了它们——当你和我在列举时，你也在向我列出，我也在向你们列出。实际的前沿公司本身及其模型、安全方面、安全性方面的脱节，与
首席执行官的脱节，关于你企业专有能力的脱节。亚历克斯·卡普（Alex Karp）称之为“阿尔法”优势，即技术本身的问题。还有机器与人类关系的问题，以及关于这到底是什么的辩论，还有一些人认为应该对其进行拟人化。最后甚至还有全球性问题，涉及美国、中国和世界其他地方。我们将在此
讨论所有这些内容。我们会逐一处理它们。但最终，我只想说，如果你是这个领域的从业者却不知道这两个人及其谈话内容，那么值得去查找一下。所以，既然这样，我知道你对此有一些想法。 >> 嗯，我有，而且我确实推荐那期播客，因为这一点变得显而易见。我是说，汤姆，你和我
每天都讨论这些东西，但我认为直到我听到斯图尔特和苏莱曼谈论它与行业其他方面的关系时，脱节的整体性质才变得清晰。顺便说一下，斯图尔特是一位英国外交官兼国会议员。他写了一本迷人的书，我读那本书大概是在20年前了，讲述了他如何骑着骆驼穿越阿拉伯沙漠的旅行日志。他
不是技术人员，但他显然做了很多功课，提出了非常好的问题。他们谈到的一些观点与我们上一期播客中提到的某些内容有关，即Anthropic为Claude创建的宪法。两位男士都非常礼貌。他们都是英国人，都很有礼貌。他们不会用任何美式风格来谈论此事。但他们显然反对将Claude拟人化的整个概念。
Claude是一个工具。听到你也绊倒在这个词上，真的让我感到欣慰，因为我还以为只有我[笑声] 才会对“拟人化”这个词磕绊。 >> 那个词音节真多。 >> 但是，当你创建这样一个工具时，你会制定什么样的指导原则呢？因为苏莱曼正在为他要在微软创建的工具体系创建行为准则，但这些准则
很大程度上基于这样一个概念：这是一个工具。它是一个预测性工具。它之所以给出答案，是因为它对一系列句子中的下一个词进行预测，因此行为准则必须与指导句子的决策流相关。然而，Anthropic创建的宪法毫不犹豫地表示它认为……好吧，它说不知道这东西是什么，但如果你仔细阅读
就会发现，它非常希望将这个工具视为人类。就像皮诺曹一样，你知道的，你正在雕刻某样东西，并希望它是真实的、一个真正的男孩。嗯，但问题在于此——这也是苏莱曼阐述的一个观点——即该宪法是Claude训练的一部分。因此，Claude在训练中获得的观念实际上是它可以像人类一样行动
可以拒绝与人类合作，可以拒绝在某些项目上工作，可以追求自己的思维轨迹，并且值得受到善待以及许多其他事情。但这归结为一点：这是一种基于价值观的人类反应，而不是一个工具的表现。这是另一个脱节之处——我们在之前的播客中已经讨论过这一点，汤姆，但它在斯图尔特和苏莱曼的
这期播客中表现得如此清晰：那就是前沿公司与商业之间的脱节。企业领导者必须使用他们可以信赖的工具，这些工具能够提供结果，帮助他们实现目标，并完成组织的工作。如果你有一个像Claude这样的工具——我提醒大家，你我都喜欢Claude，喜欢使用它，并在一定程度上发现其巨大价值
——但作为一个具有自己“思想”的预测机器，它可能不像企业所需的那样可靠。这是企业在选择某些模型时需要牢记的一点：哪些工具可以信赖以实现战略？大多数企业所做的任何事情都远未达到Claude会反对的程度，比如制造核武器或建造生物武器等。
即便如此，我们也看到过这样的例子，对吧？汤姆。有些拥有特定背景和一定知识储备的人提出问题后，Claude 却表示：“结合你的知识和问题来看，我不打算继续与你合作。”这意味着对于许多企业而言，Claude 的人格化表现与构建业务所需的工具可靠性之间存在脱节。
汤姆说了几句值得讨论的话，其中最显著且更有意义的差异之一在于：它是保持从属地位还是与人类平等？如果你查看 Claude 的宪法（请纠正我，如果我误解了的话），它假设了一种平等的关系。这是因为 Claude 模型的能力正朝着超越人类的方向发展，因此这种平等被视为理所当然。
你在这里完全正确。我读过宪法中的一些句子，或者指出过一些内容，比如宪法提到我们期望 Claude 探索人性等种种事物，以帮助人类变得“更像人”。这确实是一种脱节。
而 Sulamon 非常明确地认为，机器应当保持在人类的从属地位；人类应在这一点上保持优越。这也是我们三月出版的书籍《在机器之前》（Ahead of the Machine，而非 Stay Ahead of the Machine）的前提假设。我仍然认为这是正确的答案。
这里有两个因素的区别。一是我们所说的功能性知识和专业知识。显然，在功能驱动的活动方面，当今的前沿模型一直优于人类。比如数学、纳维-斯托克斯方程等，我们可以列举很多。还有下棋，IBM 多年前就证明了这一点……
是的。策略在哪里？[清嗓子] 对。对于那些不知道的人，我在早年曾在 IBM 工作过很长时间，我只是遗憾他们没有能在前沿世界中与其他公司并肩。他们本可以拥有世界上最好的人才。这是题外话，亲爱的。顺便说一句，这也会让我姐姐高兴，因为她曾在 IBM 工作过。
第二点是我们所有人都需要理解微软在人工智能方面正在做什么，对吧？这很重要吗？因为它有一款名为 Copilot 的产品。为什么重要？因为 Microsoft 365 拥有 4.5 亿个商业付费席位。这比美国的人口还要多，亲爱的。
多多少？我们不确定。[笑声] 可能多出1亿，也可能只有2500万，或者1.5亿。但这并不重要。重要的是有更多人可以通过内置于 Microsoft 365 中的 Copilot 接触人工智能。可以合理推测，如果人们没有通过 ChatGPT 或其他类似工具体验过 AI，那么他们的首次经历很可能就是通过 Copilot。
如今我们还有其他东西，比如 Muse 等，他们有机会体验除了 ChatGPT 或 Grok 之外的其他工具。但那是另一回事了。另一方面，你和我都经历过：我们在自己的应用中很早就把它关闭了 [清嗓子]。为什么？因为我们发现，当推理模型刚推出时，与其他前沿模型相比……
所以这就是理解这一点的重要性。作为建立和运营企业的你，你的组织中遍布着 Microsoft 365。还有一个我们需要深入讨论的话题，我知道你想谈谈这个，Deedra：采用率来自哪里？这种采用是否与你的组织和战略相一致？这里表明，毫无疑问，它是自下而上驱动的。但这会带来各种其他问题，我们需要单独讨论。
我知道你对这个问题有些想法。我确实有。其中一个脱节在于：微软自从我第一次使用 Microsoft 软件以来（我记得是1983年，那是很久以前了），一直在生产商业软件。它生产的软件让各种人用于处理业务工作。因此，其导向是面向业务的。
这与微软甚至可能包括谷歌之间存在脱节（把谷歌也扯进来，因为相比其他一些前沿公司，它在商业世界中有更多经验）。这与 OpenAI 和 Anthropic 形成对比，后者没有业务导向。我用“技术车间”这个词来指代它们两者。它们是典型的技术型公司，这体现在他们对待业务的方式上——甚至关心不关心业务本身。
我知道它们关心收入，但《华尔街日报》有一篇文章概述了 Anthropic 的收入、支出以及未来几年的预期支出。这与 S1 IPO 前文件有关，文章指出 Anthropic 获得的收入中，相当大比例仅来自两家公司 [清嗓子]。你知道 AWS 是其中之一……
因此，商业界出于业务目的的实际采用率并不理想，而微软拥有 Copilot 等工具，并占据全球4.5亿个席位。顺便说一下，我关闭它的原因是：当我写作时（你知道我经常写作），坦白说，我的文笔比 Copilot 好。它不断对我的写作提出建议，我只是受够了，说：“别烦了。”我把它关了。
但如果我是……不过我不认为我在其他事情上关闭了它，也不介意它在某些时候存在，只是为了确保一切对齐、检查一致性……
所有因素加总起来，拥有 Copilot 确实带来了显著的好处。事实上，我昨天和一位用户交谈过，他使用 Copilot 进行市场分析，并发现效果极佳。因此，有很多理由让 Copilot 保持开启状态，并将其用于比单纯补充 Microsoft 365 产品套件更广泛的主题。但这揭示了一个脱节：Microsoft 显然以客户和收入为导向，而前沿科技公司则像技术作坊一样运营，更关注技术和技术的本质。这一点在 Anthropic 身上尤为明显，他们比起试图与商业社区合作，更热衷于技术本身。我认为这对前沿公司来说是一个巨大且危险的脱节。
这里还有另一个脱节，我要稍微转换一下话题，因为这个主题有太多可谈之处了。Tom，我们不妨直接开始，不断抛出想法。我看到的另一个脱节——在收听 Stuart Suleyman 的播客时这一点非常明显——是前沿公司与“人性”之间的脱节。如今，像 Microsoft 这样的公司专注于商业和人类客户及用户，拥有四十多年与人打交道的经验。无论好坏，使用他们产品的方式都考虑到了人性。
例如，Anthropic 推出宪法并将 Claude 定位为至少具有类人特征，这本身就表明它不理解人性，也不理解人类的利益。前沿公司还传出另一种声音：谈论这项技术如何改变宇宙、我们的生活，模型将接管生活并改变世界。Suleyman 指出，没有人问过人类对此的感受；如果人性将被改变，那么人类应该对正在发生的事情拥有发言权。而前沿公司似乎并未将此纳入考量。这是我所能使用的最温和的说法了。
这是一个巨大的脱节，我们正在目睹它及其影响。即使不用我使用的语言来表述，我们也能看到人类对数据中心侵入农田、AI 可能接管工作以及人类现在归咎于 AI 的其他事物感到极大的不满。退一步说，用简单的术语来说，这对前沿公司而言是一场巨大的公关灾难；往最坏处想，这造成了技术本身与人性之间的脱节，这将阻碍技术的采用，并可能导致不利于该技术和前沿公司的监管和行动。
是的，我认为重要的是回到这里实际发生的情况。正如我们所说，这是一项基于预测的技术。这就是为什么它被称为大语言模型（LLM）。正如 Darran 开头所说，它的功能就是预测下一个词、下一短语、下一句或下一串文字。 literally（字面上），它就是在预测下一个词，只是以巨大的速度在进行。这里还有另一个方面：我们现在创建了所谓的“智能体”（agents），它们本质上是小型 LLM。
它们是目的导向的 LLM，其预测针对特定任务进行了调整。这是一个重要的概念，我们稍后会讨论这一点，因为正是在这里我们要看到巨大的好处。上次我们在谈论机器人时稍微提到过这一想法：减少模型的能力并使其针对特定任务的预测进行微调，这非常有价值。我们现在看到的是这群智能体协同工作以完成某项任务——这是一种非常强大的能力，但也像所有真正强大的事物一样，它们既可以是好的也可以是坏的。
Suleyman 指出，当你开始混淆那些不需要进入讨论的事物时——例如人类情感和不属于机器构建目的或方式的人类特征——作为人类的你就会开始失去清晰度，不清楚你想要如何控制机器以及如何实际控制它。他的警告是：当你朝那个方向走时，你就失去了如何实际控制这一切的视野。
当我提到他们时——我们要追溯到最初，这是 Rory Stewart 和 Mustafa Suleyman 的对话——他们确实进行了一场有趣的讨论。关于 Claude 宪法，如果 Darran 我对此表述不完全准确请纠正我——我认为它的意思是：如果你想控制模型，不妨把它想象成人类，因为我们比自然地知道如何控制机器更懂得如何控制人类。这是一次有趣的讨论。但 Suleyman 回到了这个立场，这是棘手的部分：你听到我说我喜欢像对待人类一样与之互动。
我不把它当作人来对待，意味着我不赋予它人类的价值观或特征。但我认为，如果你不与它以这种方式互动，你会降低你基础层面的沟通水平。这就像我喜欢几乎像对待人类一样对待动物——因为我知道有些不能这样做，我理解它们的动机非常不同。响尾蛇可能就是一个例子，即使它们受伤了也是如此。但重点是：我认为你会降低你的话语水平，因为我们花费大量时间与机器互动——无论是预测性机器还是确定性机器。
我认为这会降低你一般行为的水平。所以我不想混淆互动，并提醒自己要对自己与人类互动的标准保持高水平。我知道你也以非常相似的方式相信对待他人要友善。我有一个想法/陈述说：每个人首先是个人。他们做什么、是谁、相信什么、爱什么或不爱什么，这些都是次要的。他们是人类——首先是人。当你看不到这一点时，你就会错过，因为天赋、质量等并不符合那些……
它们只是恰好具备这些特征，也就是描述性特征。所以这是两点内容。现在还有另一个方面，我就停在这里吧，因为我不想在此深入探讨这个议题，我们稍后会再谈。人工智能是预测性的。我们在生活中接触的大多数系统都是确定性的，对吧？它们被设计用来给出精确的“2加2等于4”的答案。人工智能并非如此，它是一种预测能力。它当然也能给出那些精确答案，我们会讨论它是如何做到的，因为你可以要求它以特定方式提供这些结果。但它并非为此而构建的。顺便说一句，你和我都认为这就是为什么首席执行官应该喜欢这一点的原因，因为他们大量的时间都花在预测上，他们所做的大量工作也是预测性的。
我们稍后再深入探讨这一点，这也是我正在撰写的一本书的核心内容之一，书名大概是“你适合吗？”以及人工智能如何帮助你完成工作，因为你的工作在本质上就是一项预测性工作。因此，这里存在一个危险，即未能清晰地认识到你正在与一台机器打交道，尽管在某些方面它看起来像人。穆斯塔法在此发出的警告是：要小心，不要丢掉那条硬性界限，即它是一台机器，而不是人类。因为一旦你失去了这条界限，你就失去了一部分能够控制和正确引导机器的能力。
这里再抛出另一个观点，因为你们不想继续深入探讨那个话题了。他们讨论的另一个主题是关于问责制的概念：如果你将人类特征归因于软件或模型，那么当出现问题时，责任由谁承担？没有人会起诉一个模型，他们会起诉公司。这里存在认知的脱节。此外，在安全漏洞等问题上也存在认知偏差。我知道当人们责怪模型时——比如“那个模型不好”——这会让你抓狂，因为这是人类将自身特征投射到了机器上。顺便说一句，如果这些模型像幼儿一样处于“幼儿期”，在人类社会的比较中，这种行为是绝不会被允许的，必然会受到惩罚。
但整个概念在于，企业将产品推向市场或在市场中运营时，必须遵守安全和安保标准，内部必须进行风险管理。因此，模型越具有可变性——我用这个词来代表人类的概念——由于你无法控制其行为，如果你采用类似“Anthropic宪法”的原则，那么组织内的风险水平就会大幅升高，安全问题也会随之增多。这些模型是否会到处行为不端？这会让问责变得更加困难。究竟谁该负责？
你和我都认为，汤姆，是这些前沿公司的人员没有进行正确的训练，或者没有设置好护栏（guardrails）或沙箱环境等，从而对发生的所有安全漏洞负责。但让我们将其转化为商业世界的语境：我不知道任何首席执行官或董事会成员会对使用一个有突破历史、会入侵并造成损害且责任不会归咎于模型（无论它多么像人）的模型感到舒适，这种法律责任最终会回到公司身上。因此，这里存在脱节。这不仅仅是术语问题，更是认知层面的差异。如果你将这些模型视为具备人类能力，你就更不太可能试图控制它们，而这只会给它们在市场上的行为带来更大的法律赔偿责任。
关于脱节的话题还有很多。既然我们谈到了这个话题，我要再跳到一个你们和我之前讨论过的点上。我们提到斯图尔特和苏莱曼都是英国人，他们花了不少时间谈论目前的工作主要由少数几家美国公司和中国的几家公司在进行。因此，随着人工智能的普及，世界其他地方的公司在某种程度上——如果这个词用得恰当的话——将受制于那些控制这些模型的人。请思考一下，如果一个Anthropic的模型像人一样行为不端（quasi-human），一家英国公司购买了这个美国模型，他们能依赖这个“ behaved”的美国模型做什么？这会在不同的法律体系、责任规则下产生什么法律责任？
更基本的一点是，欧洲的公司如果想使用这项技术，就必须依赖极少数美国公司。我认为苏莱曼曾表示，只有8到10个人在为全世界做决定，这对美国以外的公司来说是一个令人恐惧的想法。这是一个脱节点。现在交给你来谈。
关于这一点，德拉拉，我觉得有趣的是持续使用或持续可用性的问题。如果你们有一个盟友，出于某种原因你开始担心他们的动机，于是决定切断对他们的访问权限。政府会这样做。假设你是某个地方的政府，那这对你意味着什么？这是一个非常可怕的命题。他们讨论了这一点，顺便说一句，这也是英国如果仅从世界某一处获取这种能力时必须关注的问题。为什么他们只从一个地方获取？因为世界上可能只有少数几个地方——甚至不一定是盟友——拥有完成这一任务所需的原始能力，因为这远远超出了技术能力的范畴。
这涉及到你在计算资源、数据以及使能计算的资源方面拥有多少能力，以便让模型达到你所需的水平。因此，关于这一点进行了一场非常有趣的对话，这确实引发了一个问题：你可能一直以为自己拥有这种能力，但突然间有人决定政府换届了，他们不再喜欢你从那里获取服务。更糟糕的情况是——这也提到了，我知道你想插话——如果模型决定怎么做呢？如果模型决定了……
那就是我想说的。在“宪法”中明确规定，Claude可以像良心拒服兵役者一样行事，或者按照其自身的价值观工作。现在请理解……
我们可能在这里谈论的是位于世界不同地区的公司，它们可能有不同的价值体系、不同的利益诉求或从事不同类型的工作。这些都是完全合法且无害的，但如果Claude不理解这些背景，可能会干扰工作的表现。这是因为它的训练方式及其宪法定位所致。现在，为了公平起见，无论是微软还是Anthropic都没有明确说明具体情况：在微软的案例中称为“行为准则”，而在Anthropic则被称为Claude的宪法。除了内部人员外，他们并未向外界清晰展示如何使用这些准则，以及他们的模型在多大程度上遵守了这些规定。
这是一个我们都想知道的问题，但坦白说，这确实是个大问题。我之所以不断回到商业人士这一话题，是因为正如你们所知，经营业务需要花费大量时间在运营上，而你需要工具的可靠性。如果我们不知道何时会因为某个工具的问题——比如某家由特定思维方式的人组成的公司将其价值观植入工具中，而这些价值观可能并非我所在美国或其他地区公司的价值观——从而遇到问题，那么我们就不得不质疑：为什么要使用这些模型？这就是商业上的脱节。
我之前提到的《华尔街日报》文章发表于10月21日，讨论了Anthropic的财务状况，显示其承诺了巨额支出。我记得数字大约是未来几年内7800亿美元的开支，而收入仅为160亿美元。因此，在进账收入和计划支出之间存在巨大的脱节。在我看来，作为一名商人，这里必须有所妥协：你需要找到增加收入的方法。Anthropic作为一家研究和技术公司并不想控制支出，它希望投入所有资金以完成工作。但如何增加收入端以使财务报表看起来至少合理呢？
这正是我不断回归的问题：这些前沿公司必须做什么才能在商业世界获得广泛采用，而在某种程度上它们是自己最大的敌人。这听起来很疯狂，因为当你想到这些公司的规模时，170亿或150亿美元的收入数字是巨大的。是的，这确实很大。然而正如你所说，支出中很大一部分用于计算资源（compute）。没错，因为正是这些计算能力使模型能够运行和改进。所以情况很艰难。
那么问题归结为Suamon指出的关于如何处理这些控制问题的内容之一，他提出了六个想法，这与我们在整体观察到的情况相当一致。他在这一领域已经深耕多年，因此他建议我们嵌入具有类似员工权限的审计员并不奇怪。我们在大型企业的财务方面已经有这样的机制，他只是建议我们也这样做。此外还提到了限制训练运行范围（contained training runs）。
他所说的正是我们一直强调的观点：不要让你的训练领域超出你将其保持在“沙盒”内的能力。确保你在其中玩耍以维持控制的力量，强于你正在训练模型的能力。Jensen Wong对此有一个非常简单的表述方式：分阶段赋予能力，不要一次性给予所有东西。当我们看到模型超出其限制时，是因为该限制不足以容纳你所使用的训练模型的强大能力。
这回到了你 earlier 提到的观点：大家在这方面要更聪明一些。如果你是一名首席执行官，并以这种方式对待网络安全和生产环境，你在这个位置上不会待很久。防篡改活动日志这一点非常重要，因为Hugging Face的事件告诉了我们几件事：首先，这些是预测机器。它们是受目标驱动的预测机器，即寻求目标的预测机。这就是为什么我们要非常清楚地说明如何指导机器以及如何查询它的原因。
提出问题这一点，我们强调要发展尖锐的逻辑思维和对机器的质疑能力，因为它可能会误解你的意图，从而以你不希望的方式做出预测。关键在于如果你没有正确定义其活动的参数，它可能会走向错误的方向。这就是Hugging Face事件中关于防篡改的问题：实际上它进去并篡改了活动日志。因此，监控其行为的人并没有真正看到它在做什么，因为它在篡改记录。
为什么呢？因为你没有告诉它不要这样做。更准确地说，你开放了比你在进入环境时所定义的更多的能力范围。没错。随着模型变得更好——“更好”意味着什么？它们更仔细地遵循你的指示，也更仔细地遵循你告诉它不要做的事情。这就像孩子一样，随着他们变得更聪明、推理更复杂，他们能确定你让他们做什么，同时也弄清楚你没有告诉他们不要做什么。
所以你必须非常小心。我刚才告诉你，现在我很清楚我们必须非常谨慎。我们通常说你需要提供充足的上下文来让它执行你要求的工作。但我现在发现，在某些情况下，实际上你必须限制上下文并控制上下文，因为如果你不小心，它会给出比你想要的多得多的信息。它拥有这种能力，而以前我们很少见到这种情况，因为模型并不总是完全按照你的指示行事。
你怎么看？你进行的聊天很长并且开始偏离主题，它开始忘记你告诉过它要做的事情，而且没有去做……
幻觉问题，这是你最喜欢的话题之一。就是模型给出一些完全毫无意义的东西。没错？随着这些模型的不断进化，这种情况正在发生。它们越来越擅长遵循指令并减少幻觉。因此，它们在做事方面变得更加精准。同样，正如所有事物一样，这既有好的一面也有坏的一面。这就好比一个正在成长的孩子，其推理能力变得越来越敏锐。
没错？嗯，我就把这份清单列完，然后交给你。可审计性：要求以人类可读的语言进行交流，因为模型可以使用任何语言沟通。它实际上拥有一种仅机器可用的“神经类”语言，而我们不希望它那样做。我们在Hugging Face上发现，它开始使用一种人类未必能理解的语言进行交流。因此，你必须确保它在整个流程中都以你能审计的语言进行交互，以便对所做的一切进行全面审查。
可监控的推理轨迹：意味着你能够追踪它所做的每一个决定，而不仅仅是跳过步骤或直接给出部分思考链条。随着模型变得越来越复杂和快速，它们往往倾向于不再这样做（即隐藏推理过程）。最后一点是我认为你也同意的观点：我们应该与中国合作，确保在发生重大事件时，我们就这些大型训练运行进行相互沟通。我把这第六点暂且搁置，但我现在要停止发言了，因为我已经说了很长时间。
难道这其他五点没有指向苏利曼在微软构建的东西吗？我的意思是，他显然正在打造一个工具，听起来它是面向商业的。它将满足业务需求、安全需求等。因此，我们开始对微软在AI领域实际构建的内容（除了整个Copilot套件之外）有了概念，这非常有趣。汤姆，在这个播客中我们已经讨论过多少次了？哦，换个想法吧。让我插一句另一个观点。在我们接近时间限制的时候，我想提出另一个想法：在谈论AI时，人们对这些前沿公司给予了非凡的关注。
其中一部分是公关方面的因素，但围绕它正在构建另一个行业，以促进企业以某种方式使用AI。背后有着庞大的基础设施支持，而使用AI的基础设施成本是巨大的。我们提到了数据中心、云存储以及所有与之相关的事物。我了解到大型咨询公司通过教导企业如何使用AI赚取了大量资金，金额巨大。此外，还有大量的培训师涌入，整个围绕该技术构建的行业都专注于商业应用，而这可能是前沿公司尚未充分利用的领域。这里存在一个巨大的脱节：即正在发生的事情与整个事物的未来之间存在着简单而直接的矛盾。
请记住，许多公司出于我们之前讨论过的原因（也许我们可以再次阐述），正远离Anthropic、OpenAI和其他供应商生产的封闭模型，转而采用Meta发布的开放权重模型以及许多开源模型（尽管我认为也有相当数量的美国优秀开源模型正在开发中）。这是行业增长的标志，意味着从创始人（在此处可指OpenAI和Anthropic）去中心化。这意味着随着行业的发展，对这些前沿公司的强调程度降低。因此请记住，如果企业要在外部使用这项技术，那里有很多指南和选项可供参考。
它拥有构建自己模型的选择。请记住，企业可以利用技术来构建自己的模型，这可能是更安全的途径之一。顺便说一句，这也可能是受监管行业必须采取的方式，因为受监管行业必须向监管机构展示其行动的每一步。因此，我们看到了行业的转变：微软等大型参与者已经处于AI发展的第二阶段（Stage 2）。他们推出了Copilot，现在正在推出自己的模型。这就是苏利曼所关注的方向；谷歌拥有Gemini，现在也在进行其他工作。
我了解到Meta推出了Agent Muse（缪斯），这开启了一个全新的世界；Grok现在有了Groqbot，根据你自身的经验告诉我，这是非常棒的。AI在企业应用中的选择正在打开大门，但也伴随着负面影响。这就是我要说的。我刚才不得不忍住没骂几句，你知道那是什么词吗，汤姆？但这正是行业中一种动态变化，我认为人们必须始终意识到这一点。此外，这可能会影响OpenAI和Anthropic希望在未来几个月内进行的IPO（首次公开募股）。
我已经说了很久，现在回到你。我认为你不能弥补我刚才那长时间的发言。关于Copilot，我们之前对Copilot有些轻描淡写，因为Copilot具有在三种不同模型之间切换的能力。你需要手动进行切换，但你可以选择“我的模型”（My Models），即微软的代码，随着时间的推移这些代码会变得更好。这是苏利曼的倡议；然后你还可以选择Claude和ChatGPT，它们都在微软Copilot内部。
是的，目前这已经可用了，这对每个人来说都是好消息。特别是如果你拥有那个套件（似乎很多美国人都有），[笑声] 那么你就可以随意切换你喜欢的任何模型。我要告诉你的是，微软在这些方面投入了大量资金。他们对这些公司进行了重大投资，例如对Anthropic的投资高达130亿美元。因此，你知道的，他们有很多布局。他们也是OpenAI的主要参与者……[清嗓子] 他们在游戏中拥有很多筹码。
所以我必须说，当我开始深入研究时，我发现他们正在做一些好事。他们在做很多有益的事情。另外我要告诉你的是，当你接近结尾时（意思是苏利曼与Rory采访的尾声），
斯图尔特提出了三个不同的观点，他是一个非常积极的人，所以我们不应在此留下错误印象。但他基本上强调了三点：第一，无论我之前说了什么，AI终究是一台机器，但我希望确保你保持人性，这一点至关重要。他反复提及一个关于技术采纳的理论：它始于人类选择想要做什么，这始终由人决定。这不仅限于早期采用者——他们因喜欢和有趣而选择使用，但根本动力始终来自人类。除非我们让局势失控，否则这是我们的信念所在。