天哪，我有些关于人工智能的误解要告诉你。当你与AI聊天时，它给出了一个答案，但你并不完全确信这个回复是正确的。于是你反问道：“你真的确定吗？”现在，我亲爱的观众朋友们，我的问题是：问“真的确定吗”是否能让模型真正重新检查它的工作并给出更准确的答案？嗯，有一种误解认为确实如此，但很有可能它的效果恰恰相反。

聊天机器人可能会将“你真的确定吗”解读为怀疑的信号，从而改变立场以迎合这种态度。无论原始答案是否正确——抱歉梅西先生，但那次英格兰夺冠确实是历史上最伟大的世界杯胜利之一——模型只是在推断你想要一个不同的答案。真是可怜它那阿谀奉承的人工智能心脏。这只是众多误解之一，即认为反驳聊天机器人会得到更准确的回复，而且这个误解甚至不在我的前五名之列。那么什么才是呢？以下是关于人工智能的五大误解及其背后的真相。

首先登场的是第一个误解：AI模型经常产生幻觉。“幻觉”指的是模型自信地返回一个实际上错误的响应。难道我真的要告诉你AI幻觉是一个误解吗？不，我不这么认为，但请听我解释。如今的前沿模型也不再是过去那种生成“替代事实”的机器了。有几件事发生了变化，减少了幻觉的发生。模型现在引入了所谓的工具使用功能，这很有帮助。这意味着从网络搜索或数据库查找中提取答案，而不是依靠记忆生成内容。

此外还有拒绝校准训练，这只是一个花哨的说法，意味着AI学会了说“我无法验证这一点”，而不是胡编乱造。推理模型还带来了扩展思考功能，让模型在得出答案之前有时间真正检查自己的工作。看，试着让当今最好的前沿模型在你熟悉的主题上产生事实性幻觉，往往并不像你想的那么容易，因为有这些安全措施。

比如，当我问一个前沿聊天机器人为什么《计算机程序设计艺术》第五卷是在2019年出版的，这是一个陷阱问题，因为根本没有第五卷。聊天机器人使用工具进行网络搜索，完全识破了我。它发现第五卷尚未出版。当我故意询问一些非常晦涩的内容，即2023年发表的关于使用COBOL现代化描述RAG的论文时（这样的论文并不多），它直接告诉我这是一个极其狭窄的技术交叉领域。

引用聊天机器人的原话，它对我说：“如果我只是搜索并报告结果，我可能会引用实际上不存在的论文。”这就是拒绝校准在起作用。因此，虽然幻觉并未通过工具使用和推理完全解决，但相比旧模型已大幅减少。当今最大的前沿模型产生幻觉的频率约为3%，这并非微不足道，但我认为说AI模型经常产生幻觉并不准确。

接下来进入第二个误解：你可以观看AI思考。“思维链”是推理模型在解决问题时生成的可见逐步推理过程。你获得的是所谓的“推理轨迹”，作为用户你可以跟随它查看。在任何聊天机器人中，通过展开思考或推理部分都可以看到这一点。当我们的推理模型生成可见轨迹时，它正在产生我们可以看到的文本令牌，看起来像是逐步的推理过程。

但这真的反映了模型内部实际正在发生的事情吗？事实证明并没有。衡量这里发生情况的术语称为“忠实度”。我们可以测量忠实度，即这种言语化的推理轨迹与模型在得出答案时的实际计算之间的因果对应程度。这些推理轨迹并不完全忠实于实际情况。

那么，实时发生的真实情况是：模型正在通过其权重网络来得出答案。而推理轨迹中报告的内容不一定与权重内部实际发生的情况高度相关。在模型内部，庞大的权重网络和注意力模式在进行真正的工作，而推理轨迹与这些工作之间并不一定是一一对应的关系。

研究人员给这种情况起了一个名字，称为“事后合理化”。轨迹是在朝着模型内部计算已经偏向的答案进行推理。因此，说你可以观看AI思考并不完全公平。你能看到的是模型对思考过程的叙述。

接下来是第三个误解：训练阶段消耗了AI算力。我们都听说过数据中心如雨后春笋般涌现，对电力和水资源有着巨大的需求。那么这些数据中心的算力究竟被用于什么呢？运行AI有两个阶段：一个是训练模型，即“训练阶段”。这是构建模型的阶段，数十亿参数在海量数据集上进行调整，需要数周的GPU时间。

另一个是推理阶段，即我们实际运行模型的时候，也就是有人在使用该模型时。GPU将权重向前传递以产生答案。回想2023年，头条新闻称GPT-4的训练成本为1亿美元，这确实是一笔巨款，但如今模型的训练成本更是远超于此。看起来训练确实是昂贵的那部分。一旦训练完成，运行推理的成本要便宜得多。

过去这大致属实，但作为总AI算力占比的推理成本正在上升。让我简单勾勒一下：如果从2023年开始，当时所有AI算力中约有三分之一用于推理。如果我们向前看至2025年，两者各占一半。而分析师预测到今年年底，推理算力将占总AI算力的约三分之二。

为什么会这样？原因之一是我们在第二个误解中讨论过的推理模型，它们生成这些思维链轨迹。所有需要经历的推理轨迹实际上会为每次查询产生多得多的令牌，比非推理模型多出10到100倍。这在智能体框架中尤为明显。因此，如今AI算力主要花在了推理端，而非训练端。

接下来是第四个误解：大上下文……

Windows 允许你卸载数据，我稍后会解释具体含义。这里有一个上下文窗口（Context Window），它决定了模型在一次生成回复前能接收多少文本。几年前，这样的上下文窗口可能只有几千个 Token；而今天，大多数前沿模型至少支持一百万个 Token。这意味着我们在提示（Prompting）模型时，可以分享更多的内容。

现在的诱惑是将这个上下文窗口视为数据库，即直接把整个代码库丢进去，或者发送一堆 PDF 文档，然后让模型在上下文窗口中查询所需的信息。这在一定程度上是对的。长上下文的测试标准被称为“大海捞针”（Needle in a Haystack）。其思路是在上下文窗口的某个位置隐藏一个特定事实，然后要求模型找到它。

在针对一百万 Token 的单针测试中，今天的前沿模型表现近乎完美，几乎总能找到那根“针”。到目前为止，这看起来很像数据库。但现实世界中的长上下文任务很少只是寻找一个事实或一根“针”，通常需要将信息跨多个部分进行关联。

如果我们查看多针基准测试（如 MRCR），在二十万到一百万 Token 之间，性能可能会下降三十到六十分。因此，大上下文窗口在连接分散在众多 Token 中的信息时仍然感到吃力。寻找单根“针”的问题已基本解决，但在长窗口中连接多根“针”则不然。

好了，我们终于来到了第五个误解：AI 智能体可以完全自主工作。那么什么是 AI 智能体呢？它是一个包裹在循环中的语言模型。我们通常为智能体设定一个目标，它决定做什么、执行动作、观察结果，然后决定下一步该怎么做并重复这一过程。

直到目标达成，这个循环才结束，这种模式被称为“智能体循环”（Agentic Loop）。例如，一个智能体浏览网页、查询数据库，然后可能需要编写代码并发送邮件。这一切都由模型在每一步决定下一步做什么来驱动，而无需人工提示。这就是 AI 的自主性。

那么效果如何呢？总体而言，智能体处理单个动作表现良好。问题通常出现在这些动作被链接在一起时。这种情况有一个专门的名称，叫做“误差累积”（Compounding Errors）。让我解释一下我的意思。

假设在智能体循环的第一步，智能体大部分时候都能做对。如果这一步的可靠性是 95%，那么如果有二十个步骤，每个步骤都是 95% 的可靠性，整个链条的可靠性将降至约 36%。随着步骤增加情况会变得更糟，五十个步骤的可靠性将降至约 8%。

因此，如果让智能体独自运行太久，它们可能会陷入循环或死胡同。目前常见的解决方法是“人在回路”（Human in the Loop）。智能体执行几步操作后，会在继续之前向人类汇报。或者我们可以使用验证模型（Verifier Models），在智能体执行下一步之前检查每一步，通过打破误差累积链条来增加可靠性。

所以，智能体在短时间的自主运行中表现良好，但端到端的流程自主性通常仍需要有人监督。这是对当前智能体状况的客观陈述，至于未来的 AI 智能体会多么可靠，谁也不知道。我认为这也是对所有这些误解的合理结论：它们之所以是误解是有原因的。

有些过去曾是事实，比如模型产生大量幻觉；而有些未来可能会成为现实，比如完全自主的智能体。也许我们应该明年再试一次这个练习，看看情况有何变化。但与此同时，我遗漏了哪些常见的 AI 误解呢？请在评论区告诉我。