智能的核心：在不确定性中决策

大语言模型当前面临的一个显著通病是缺乏自我怀疑。当用户提问时，AI往往以不容置疑的权威感给出斩钉截铁的答案，即便答案错误也是如此。剑桥大学教授、谷歌DeepMind前沿AI研究负责人祖宾·加赫拉马尼（Zoubin Ghahramani）指出，任何智能系统的核心都是决策，而现实世界中的决策必然面临感知的局限性。我们无法完全知晓世界的真实状态，也无法预测未来，因此智能系统必须具备表示不确定性、更新不确定性并利用其做出决策的能力。

以自动驾驶为例，尽管车辆经过海量数据训练，但仍会遇到长尾场景（如冰雹中突然出现的马）。智能系统需要一种对自身不确定性的自我意识。当感知到场景不寻常或没见过时，最合理的反应是减速。从数学角度看，所有形式的不确定性都可以映射到概率上，通过概率论的规则进行操作和更新。这种能力是构建真正智能系统的基础，而非仅仅依赖数据拟合。

“要理解这个议题，我们得先从一个根本问题说起：智能为什么离不开不确定性。祖宾的观点很明确，任何智能系统的核心都是决策……但是要在现实世界中做决策，你面临的第一个困境就是感知是有限的。”

不确定性的分类与人类认知的概率本质

机器能否区分不同类型的不确定性至关重要，因为不同类型的不确定性意味着不同的决策策略。祖宾将不确定性分为两类：一是偶然不确定性（Aleatoric Uncertainty），本质上是像抛硬币那样的随机性，例如无法预测行人转向的随机方向；二是认知不确定性（Epistemic Uncertainty），即自身信念不够确信。对于后者，正确的做法是收集更多信息。在计算机科学中，信息被定义为让不确定性减半的东西（一个比特），因此学习过程本质上是减少不确定性的过程。

人类认知同样遵循这一概率框架。我们感知世界本身就是在处理不确定信息。例如，虽然看不到一个人的后脑勺，但大脑能结合先验信念推断其样貌。祖宾举了哥斯达黎加徒步遇到树叶沙沙响的例子：感官接收信号，大脑结合“当地有美洲豹”的先验概率进行推断。这种将信息与先验信念结合的概率推断模型已被认知科学广泛采用。

“信息的定义就跟这个直接相关。在计算机科学中，一个比特的信息就是让你的不确定性减半的东西。”

对抗样本与过度自信的陷阱

尽管人类擅长概率推断，但并不擅长显式估算具体数值。更严重的是，正确性和置信度常被混淆。在AI领域，对抗样本（Adversarial Examples）揭示了神经网络的致命缺陷：给校车图片添加肉眼不可见的像素噪声，人类仍识别为校车，但神经网络会以99%的置信度将其分类为猎豹。这种过度自信且错误的状态表明，我们需要的不仅是正确性，更是置信度的准确性。

大语言模型同样存在此问题。当被质疑时，它们可能立即改变答案，显示出缺乏连贯的立场。这种过度自信的系统难以被信任。对于构建通用人工智能（AGI），感知自身边界和知识范围必须内建到AI系统中。如果系统不能诚实面对自身的局限，就无法在关键领域（如医疗、自动驾驶）获得人类的真正信赖。

“我们关心的不只是正确性，而是正确性和置信度的结合。我们不想要那种过度自信还错了的系统。”

祖宾的学术历程与贝叶斯法则的重现

祖宾·加赫拉马尼自1980年代末开始AI研究。大学期间，他受导师阿拉温德·乔希（Aravind Joshi）影响阅读《并行分布式处理》，接触了神经网络。当时AI主流是脆弱的专家系统，而神经网络能从数据中学习，更具灵活性。1989年，他甚至用并行计算机研究自然语言解析，早于现代小模型概念。然而，90年代初他认为神经网络原理已明晰（函数逼近），转而投身贝叶斯机器学习和概率模型研究。直到2015年，他在《自然》发表论文论证智能依赖于对不确定性的谨慎概率表示。尽管当时学界未充分重视，但他坚持认为显式的概率推理优于隐式的数据拟合。

贝叶斯法则（Bayes Rule）是这一框架的核心。它通过先验信念（Prior）结合新证据的似然（Likelihood），更新为后验信念（Posterior）。这一过程不仅是感知建模，也是学习机制：获取数据即更新模型参数。祖宾希望AI像《星际迷航》中的Data一样理性，比人类更擅长概率操作，而非像人类那样常错估概率。

“贝叶斯法则……在你观察到任何东西之前，你会有一些先验信念。然后你观察到一些证据……由此你得到后验信念。”

语义熵与当前AI的“假装”困境

当前的LLM在不确定性表达上表现不佳。虽然它们基于概率预测下一个词，但没有显式的置信度表示。祖宾的学生提出的“语义熵（Semantic Entropy）”试图从模型内部状态推断信念：低熵表示确定，高熵表示不确定。例如问埃菲尔铁塔位置，巴黎是高概率主峰，其他地点为低熵分布。

然而，祖宾指出这仍是“装出来的”。依赖数据训练的模型如同通过看加法例子来学习加法的计算器，缺乏泛化能力。真正的推理需要系统理解世界而非模仿轨迹。当用户质疑时，LLM的即时改口证明其缺乏连贯的信念系统。要解决此问题，需从数据训练转向显式的概率推理架构。

“这就像试图通过给计算器看大量加法和乘法的例子来造一个计算器一样……我们不想要一个装出来的计算器，而是想要一个真正会算的计算器。”

贝叶斯方法在前沿AI中的成功实践

尽管LLM存在不足，但其他领域的AI已证明贝叶斯方法的有效性。谷歌DeepMind的GenCast天气预报模型利用扩散模型操作概率分布，生成预报集合（Ensemble）。通过反复运行和更新观测数据，它实现了贝叶斯式的概率预测。结果显示，诚实地承认传感器不精确和模型假设误差反而提高了预测准确性。此外，AlphaFold在蛋白质结构预测中用颜色标注确信度，处理物理学固有的不确定性。这些案例表明，将不确定性纳入系统能提升鲁棒性和可靠性。对于不可重复事件（如登火星日期），贝叶斯概率仍能合理表达不确定程度，而非简单的二元判断。

“往系统里加入不确定性，反而让预测更准确了。这确实是AI的一个关键洞见：不是给系统随意加噪，而是诚实地承认传感器不精确以及模型的假设可能有误。”

未来方向：持续学习与能效突破

面对“规模论”（更多数据算力即可）的观点，祖宾指出其在长尾场景和关键决策中的缺陷。他提出四个突破方向： 1. 持续学习：解决灾难性遗忘，通过贝叶斯更新实现知识的累积而非覆盖。 2. 能效：人脑仅20瓦，AI需大幅降低能耗差距。 3. 新架构：探索稀疏神经网络等软硬件协同方案，超越Transformer和扩散模型。 4. 数据效率：借鉴贝叶斯思路提升学习效率，减少对人类标注数据的依赖。

这些方向旨在构建理性、谦逊且高效的AI。虽然贝叶斯推理计算复杂（NP-hard），但随着算力提升和近似算法成熟，理想AI系统的概念框架已具备实现条件。祖宾强调，这些人性化品质（谦逊、诚实）实为智能的基本属性。

“如果我们从人类需要什么和社会最大的问题是什么出发，倒推我们需要什么样的AI系统……我宁愿要一个知道自己不知道什么的AI系统，也不要一个傲慢且过度自信的AI系统。”

结论

祖宾·加赫拉马尼的论述揭示，当前AI的主要瓶颈并非算力或数据规模，而是缺乏对不确定性的显式建模和自我怀疑能力。通过引入贝叶斯法则和概率推理，AI可以从“过度自信的模仿者”转变为理性的合作者。尽管计算复杂性曾是障碍，但GenCast和AlphaFold等案例已证明诚实表达不确定性能提升系统鲁棒性。未来AI的发展需聚焦持续学习、能效优化及新架构探索，以构建既高效又谦逊的智能系统。最终，让AI学会说“我不确定”，不是弱点，而是其在现实世界中扎根、获得人类真正信任的关键。