大家好，这里是最佳拍档，我是大飞。当你问AI一个问题，它几乎总是给你一个斩钉截铁的答案，带着不容置疑的权威感。哪怕这个答案其实是错的，这几乎是当下所有大语言模型的一个通病：它们缺少一种很基本的东西，就是自我怀疑。但是早在这一轮大模型浪潮之前，就有一位学者花了三十年时间，试图让机器学会感知自身的局限。这个人叫祖宾·加赫拉马尼（Zoubin Ghahramani），剑桥大学教授，同时也是谷歌DeepMind的前沿AI研究负责人。

他最近在DeepMind的播客节目中做了一次深度对话，聊的核心议题就是：让机器学会不确定性，会不会是持续提升AI的那块缺失的拼图？要理解这个议题，我们得先从一个根本问题说起：智能为什么离不开不确定性。祖宾的观点很明确，任何智能系统的核心都是决策。从细菌到动物、到人类、到机器人，决策无处不在。但是要在现实世界中做决策，你面临的第一个困境就是：感知是有限的。

我们永远无法完全知道世界的真实状态，必须在不确定中做判断。我们没法通过感官知道一切，也没法预测未来。所以从根本上说，要构建一个智能系统，你需要它能表示不确定性、能更新不确定性，然后利用这些来做出好的决策。这其实跟我们的日常经验是吻合的：你想想自动驾驶的场景，车在路上跑，经过了海量数据训练，见过无数的路况。

但你总能想象到一些长尾情况：比如它可能从没在冰雹天气里训练过多少次，更没见过一匹马突然在冰雹中跳到车前面。这种时候，你真正希望智能系统具备的，是一种对自身不确定性的自我意识：它能意识到当前场景是不寻常的、是它没见过的。如果是自动驾驶汽车，它感知到这种不确定性，最合理的反应就是减速——因为它不够确信，没法确定前面那个东西到底是马还是自行车。

不确定性的种类有很多，但是从数学角度来看，它的美妙之处在于：我们可以把所有不同形式的不确定性映射到概率上，然后用概率论的规则去操作和更新不确定状态。不过这里有个值得细究的问题：机器能不能区分不同类型的不确定性？这件事到底有多重要？祖宾认为这确实重要，因为不同类型的不确定性可能意味着不同的决策。

比如有一种叫“偶然不确定性”（Aleatoric Uncertainty），本质上是像抛硬币那样的随机性。比如你可能无法预测一个行人会往哪个方向转，因为它就是随机的。但是另一种情况是你自身的信念不够确信，这时候你应该做的是收集更多的信息。实际上信息的定义就跟这个直接相关：在计算机科学中，一个比特的信息就是让你的不确定性减半的东西。收集信息的过程，就是减少不确定性的过程。

那这些关于不确定性的思考跟人类认知有什么关系呢？祖宾大学学的是计算机科学和认知科学，一直对人类智能和机器智能都很感兴趣。认知科学领域确实一直在用不确定性和概率的框架来理解人类的感知和决策：我们感知世界本身，就是在处理不确定信息。比如你看不到一个人的后脑勺，但是你可以推断它大概长什么样。

祖宾举了个很生动的例子：假设你在哥斯达黎加徒步，突然树叶一阵沙沙响，那可能是只美洲豹。你的感官通过进化已经学会了接收感知信息，同时结合你的先验信念——因为你知道哥斯达黎加有美洲豹，而伦敦市中心不太可能有。这种将信息结合的过程，已经被认知科学家、心理学家和神经科学家用概率推断的语言来建模了。

有意思的是，人类其实很不擅长显式地估算概率：你问一个人某件事的概率，他可能差出好几个数量级。正确性和置信度是两回事，但是经常被混在一起谈。祖宾举了一个经典案例：我们用AI系统做图像分类，给它一张图，它告诉你图里是什么。十多年前人们就发现：你拿一张校车图片，只修改几个肉眼不可见的像素，人看了还是觉得是校车。

但是神经网络会极其自信地告诉你：这是一只猎豹，置信度99%！而且你几乎可以把它变成任何类别。在神经网络的眼里，校车可以变成猴子或者别的什么东西。这种对抗样本（Adversarial Examples）说明：我们关心的不只是正确性，而是正确性和置信度的结合。我们不想要那种过度自信还错了的系统。

主持人也指出，现在的AI系统仍然可能被这种方式欺骗，这一点对于构建AGI来说非常关键。我们的大语言模型已经能积累大量的知识，但是不管你用哪个大模型，它都会自信满满地给你一个答案。你一质疑，它可能马上翻脸给出不同的答案。一个过度自信的系统是很难被信任的——就像过度自信的人同样难以被信任一样。

我们希望所有的智能系统都能感知自身的边界和知识范围，这一点必须内建到AI系统里。随后，话题自然过渡到了祖宾的个人经历：他在AI领域已经深耕了几十年，从上世纪八十年代末就开始了。祖宾说自己十四五岁起就对AI感兴趣，大学一年级暑假需要找份工作，就去找了宾夕法尼亚大学计算机系主任、也是一位很有名的计算语言学家阿拉温德·乔希（Aravind Joshi）。

乔希给了他两本书，就是1986年出版的那套《并行分布式处理》（Parallel Distributed Processing）。同一年反向传播（Backpropagation）论文也发表了，开启了现代神经网络革命。乔希让他读这两本书然后讲给自己听，这对一个好奇心旺盛的学生来说，简直是最完美的暑假工作。祖宾就是这样接触到了神经网络：那时候AI的主流范式还是专家系统（Expert Systems）。

这些基于规则的系统相当脆弱，而神经网络模仿人脑的结构要灵活得多。最关键的是它能从数据中学习——这是之前的方法做不到的。祖宾还写了一篇本科论文，研究如何用神经网络解析人类自然语言；如果当时发表了，那会是非常早的小语言模型论文。那一年是1989年，他们当时甚至有一台并行计算机——就是那种标志性的连接机（Connection Machine），一个方块里面六万五千个处理器闪着小红灯。

祖宾就坐在那儿，用并行语言编写神经网络来处理自然语言。当时神经网络还是非主流，旧学派的人占据着话语权。但之后祖宾却离开了神经网络，转向了概率论研究。主持人打趣说：他比所有人早了大概四十年，结果却搞砸了？祖宾解释说，他们在九十年代初觉得自己已经理解了神经网络的工作原理：就是函数逼近器嘛，把输入映射到输出。

但是后来人们开始发现，神经网络和概率论、统计、随机过程之间有一些很美妙的关系。祖宾后来和杰弗里·辛顿（Geoffrey Hinton）合作过一段时间，辛顿后来因为神经网络的工作获得了诺贝尔奖。他们当时也在尝试深度学习，但用的是概率模型而非简单的神经网络。现在回头看，其实是把问题搞复杂了——因为那时还没见过大规模数据下的效果。

之后祖宾转向了贝叶斯机器学习和概率模型方向，做了很多年。不过他说自己从未完全否定过神经网络，因为他知道它们管用；只是在研究层面，那些数学当时让人觉得已经被理解透了、不够有趣。转折出现在2015年：那一年祖宾在《自然》杂志上发表了一篇里程碑式的论文，跟辛顿等人的深度学习和强化学习基础论文刊登在同一期。

在那篇论文里他论证了：智能的许多方面相当依赖于对不确定性的谨慎概率表示。主持人问他：学界有没有听到他的警告？祖宾坦言并没有，但是也解释说这取决于你思考问题的层次。如果你看大语言模型，它们本身就是概率模型——预测给定前序词后下一个词的概率。概率确实在机器学习的一切中处于核心位置，但是问题在于：我们并不是在真正做他所说的那种谨慎的概率表示。

只是指望模型因为训练了足够多的数据，就差不多能表示概率了？所以并没有以显式的方式去思考这个问题。主持人追问了一个很关键的点：如果你去看一个巨大神经网络的内部，你其实找不到某个概率的显式表示对吧？它是散布在几十亿个神经元的激活值里的。相比之下，祖宾更像是一个贝叶斯思考者：那么贝叶斯到底是什么意思？

祖宾给出了一个很清晰的解释。贝叶斯法则（Bayes Rule）是概率论中一个简洁而迷人的概念：在你观察到任何东西之前，你会有一些先验信念（Prior Beliefs），可以用概率分布来表示。比如侦探小说里的悬疑案，有好几个嫌疑人，你可能先觉得管家最可疑，然后用概率分布来表示这些信念。概率论是表示信念的正确方式——这一点在数学上已经被充分证明。

然后你观察到一些证据，比如凶器在食品储藏室被发现了。于是你把先验信念乘以所谓的似然（Likelihood），也就是每个嫌疑人条件下这个证据出现的概率，然后重新归一化——因为概率之和必须为一。由此你得到后验信念（Posterior），也就是你新的认知状态：通过这个证据，你获得了信息。字面意义上以比特为单位衡量，表示你的不确定性减少了多少。

如果又获得了新的证据，就拿当前的后验作为新的先验，重复这个过程。通过贝叶斯法则的不断应用：我们既可以建模感知（睁开眼看到东西，又在看到更多之后就知道跟着我的不是美洲豹了），也可以建模学习（学习就是你有一个模型，模型有参数；一开始你不知道参数该是什么，获取数据后通过贝叶斯法则逐次更新模型参数）。

主持人对此有个很直觉的理解：这其实就是我们大脑工作的方式。回到侦探的例子，假设我原来觉得是那个人，但是新证据出现了，我改变主意了。这本质上就是贝叶斯法则在做的事——只不过祖宾是用形式化的方法让AI也能做到。祖宾确认了这一点，并且补充说：他希望构建的AI系统能够随时间积累知识和信息，并且是理性的。

就像《星际迷航》里的Data一样，不会基于无证据的翻来覆去。他甚至认为理想情况下：我们希望AI系统比人类更加理性，在表示和操作概率方面比人类更强——就像他希望计算器在大数相乘方面比人强一样。那么快进到今天，这篇论文已经发表了十年：我们日常使用的那些AI系统在表示不确定性方面到底做得怎么样呢？祖宾直言不讳，它们在变好但不太好。

你跟大语言模型交互：它陈述了一件事，你问它有多确信？它可能给你一个回答。但是它真正在做的只是对下一个词的预测，并没有对自己确信度的显式表示。主持人补了一句：它没有在算贝叶斯法则？祖宾说至少没有显式地算。它可能因为训练了数万亿的网络数据，模仿了很多推理轨迹——但那其实是在装？

那我们怎么知道它在装呢？可以推回去说“我觉得你错了”，它可能马上说：“哦，抱歉我错了。”所以它并不是真正连贯的：不会站定自己的立场。为什么会这样？祖宾解释说，这是因为训练范式没有把不确定性作为优先项：训练目标是把数据建模做到极致。但如果训练数据是许多不同人类或者不同信念的混合体，你得到的就是一锅汤：什么都有点。

如果要造自动驾驶汽车或机器人，它们需要推理真实世界、理解因果、理解自身的不确定，并且用这些来安全地行动。主持人把话题引向了幻觉问题：因为这也跟不确定性有关。祖宾认为，幻觉是一种症状——而且有时候我们其实希望模型出现幻觉：比如让它写一个爱因斯坦坐火箭去月球的故事。这显然是幻觉，但那是一种创意写作；模型应该能推断出你的意图。

但如果问的是事实性问题，它就应该尝试落地。谷歌在让模型落地方面做了很多工作，但网络上的信息本身就经常矛盾：所以你需要对冲。你真正想要的是一个系统能对任何陈述给出它的信念或概率的某种估计——我们现在还没有？那如果要实现这一点，具体该怎么做呢？主持人提到了语义熵（Semantic Entropy），这是祖宾的一个学生提出来的思路。

祖宾解释说：你可以从模型的内部状态去推断它的信念程度。在大语言模型产生下一个词之前，它其实对所有可能的下一个词都有一个概率分布：这个分布的熵就能告诉你一些关于不确定性的信息。低熵的分布很尖锐、很确定；高熵的分布很分散、很不确定。主持人用埃菲尔铁塔来理解这个概念：你问它埃菲尔铁塔在哪？巴黎应该有个大尖峰，不过拉斯维加斯和纽约也有小号的。

所以那几个地方可能有些小的熵，但巴黎是主峰？祖宾确认了这种理解，但也指出了问题所在：这还是在装——因为你依赖的是数据。他给了一个很妙的类比：这就像试图通过给计算器看大量加法和乘法的例子来造一个计算器一样。但如果你从没给它看过某个特定的数字，它可能就无法泛化到那个数字？所以我们不想要一个装出来的计算器：而是想要一个真正会算的计算器。

要的是AI真正能推理它所处的世界，这才是我们要的？那为什么还没做到呢？祖宾说这确实很难：因为计算上很难。大约十五到二十年前我们就已经有了构建理性系统的所有要素，但是表示所有可能事物的概率分布在计算上是不可行的：需要巨型的超级计算机才能做到。而且会慢到要等上百万年才能得到答案？所以人们放弃了这条路，转而走了从数据中训练的路线。

但是祖宾认为现在可以重新审视这些想法了：他有一些思路正在探索中，但还没有完全成型。主持人把视角从大语言模型移开：指出还有其他前沿AI在以更加贝叶斯的方式来处理不确定性，比如天气预报？祖宾确认了这一点：谷歌DeepMind开发了一系列最先进的天气预报模型。其中GenCast是一个很新的模型，能预测十五天的天气而且速度极快——大约八分钟就能完成。

而不是在巨型超算上跑几个小时？虽然它用到了神经网络，但是一个关键要素是：它使用了扩散模型。这本身就在操作概率分布？然后它会生成一个预报集合（Ensemble）：比如追踪热带风暴或者飓风梅丽莎。你有到目前为止的数据，要预测它未来的路径——因为你的决策取决于此：决定是否疏散城市或者是否调动紧急服务。模型会用一组预报来表示，对可能的路径有一整套概率分布：你反复运行模型随着获取更多的观测数据来更新这个集合。

本质上就是把贝叶斯更新的基本思路应用到了这个问题上？主持人也注意到了一个反直觉的点：往系统里加入不确定性，反而让预测更准确了？祖宾强调这确实是AI的一个关键洞见：不是给系统随意加噪，而是诚实地承认传感器不精确以及模型的假设可能有误。把这些不确定性都表示出来就能得到更校准的预报？

另一个把不确定性用得好的例子是AlphaFold：在蛋白质结构预测中，模型会用颜色标注它对每个部分折叠预测的确信程度。祖宾解释说：从序列到折叠结构，本质上是在求解一个不确定的问题——物理学本身就决定了蛋白质某些部分会摇摆、位置会不确定。再加上模型预测本身也不等于实验数据：所以需要用分子位置的预报云来表示这种不确定性？

主持人提出了一个有意思的担忧：说这样会不会走过了头，模型变得对不确定性太诚实？结果啥也不说了永远在对冲？祖宾认为这里有不同的“我不知道”的层次：对于可重复的事件需要校准。如果我说降雨概率百分之七十，那么在我说过这话的所有日子中，百分之七十的日子确实下了雨、百分之三十没下——这才是校准的概率？

但如果问的是不可重复的事件，比如人类第一次登上火星的日期：那它要么发生要么不发生。发生时你就确定了？贝叶斯统计告诉你用概率来表示这种只发生一次的事件的不确定程度是完全合理的，不是简单的五十五十？那怎么把不确定性传达给人类让它真正增值而不是让人敷衍点头呢？祖宾提到了一个很实际的场景：想象不远的将来医疗领域会有AI辅助医生来查看患者、症状和检查结果。

如果AI说了什么你真的需要它传达不确定：因为那将直接决定治疗方案，可能是生死攸关的决策？所以我们绝对不能过度依赖一个过度自信的AI系统。而要做到这一点，AI就必须对自己的不确定性诚实：以可见的方式呈现给人类用户？他提到了剑桥同事大卫·斯皮格尔哈尔特（David Spiegelhalter）在向公众传达不确定性和概率方面的大量出色工作。

他坚信AI应该做对人类有补充性的、增值的事情：而要做到这一点，系统就得诚实地知道自己知道什么、不知道什么？随后话题转向了未来：主持人提到并不是所有人都认同祖宾的贝叶斯路线。有些人觉得，只要往里灌更多的数据就不用操心不确定性了？祖宾对此非常坦诚：他说这种观点在领域内确实有很多人持有。

他们也并非全错，模型确实在很多有用的事情上做得不错？但是问题在于：当你把它们推到不寻常事件的长尾区域时，缺陷就暴露了。而且如果只是跟聊天机器人对话，决策后果可能不太严重；但是如果你要造可靠的自动驾驶汽车或者辅助诊断的医疗AI：概率的准确性就真的性命攸关了？在构建AGI的路线上确实有两派。

一派说只要规模够大就行：更多数据、更多算力？另一派认为需要新的架构。祖宾显然站在后者一边，他给出了几个他认为需要突破的研究方向：第一个是持续学习（Continual Learning）。现在的训练方式是训练一个巨型模型投入使用，几个月后再训练另一个巨型模型。但人类和动物是持续学习的：不断接收数据流并适应？AI系统在这一点上做得不好，存在灾难性遗忘（Catastrophic）

灾难性遗忘等问题，这恰好跟贝叶斯思维直接相关。因为从贝叶斯角度看，你有先验，来一个数据点就更新，再来一个再更新。理论上不会灾难性遗忘。很多在大神经网络中做持续学习的尝试，本质上就是贝叶斯更新的近似。

第二个方向是能效。人脑大约二十瓦，大概一个灯泡的功耗。虽然不好直接跟大语言模型比，因为单个大脑是人类个体的一生经验，而大语言模型是全人类知识的浓汤。但是能效差距确实是数量级的。

第三个方向是新的架构。当前AI的两大主力是Transformer和扩散模型，但是可能会有完全不同的软硬件协同演化，比如基于新型硬件架构的稀疏神经网络。

第四个方向是数据效率。AI的学习方式相比人类和动物极度低效，贝叶斯思路同样可以帮助改善。主持人半开玩笑地说，这听起来像是祖宾发现了一个魔法技巧：不仅嵌入了谦逊和不确定性、支持持续学习，可以提高数据效率，还能用一行公式写出来。这会不会是太好了，不像真的？

祖宾承认，这确实太好了不像真。学界早就知道这些了。他说所有机器学习的学生至少应该理解这些事情是可能的，但是魔法的代价是计算上非常慢。这些本质上是NP困难（NP-hard）级别的问题，所以需要近似。你可以认为一个理想AI系统的概念框架其实我们是知道怎么构建的，现代AI系统某种程度上就是它的近似。

那能不能两全其美呢？祖宾觉得可以重新审视这些想法。他本科时用的那台巨型并行计算机，如今还不如他口袋里一台Pixel手机快。算力在变好变快，而且几十年来也积累了高效近似这些方法的工具。所以万事俱备，只需要把它们拼起来，再加上几个新想法。

主持人感叹，他们讨论的这些谦逊、诚实、不确定、怀疑，感觉是非常人性化的品质。祖宾当年开始做研究的时候，有没有想到最终我们缺的会是这些，而不是算力或分析能力？祖宾说他确实没料到会走到今天这一步。任何AI研究者都会对如今的进展速度感到震惊，但是他也认为虽然这些是我们想加入的人性化品质，但它们也是智能系统的基本品质。

我们需要一个超越人类的智能概念，因为人类自身在不确定条件下的理性决策其实相当糟糕，经常错估概率。如果我们从人类需要什么和社会最大的问题是什么出发，倒推我们需要什么样的AI系统，那么对于所有重要的问题，他宁愿要一个知道自己不知道什么的AI系统，也不要一个傲慢且过度自信的AI系统。

最后主持人总结了一段很有分量的话：多年来，我们一直在建造追求准确性的AI，通过让系统处理海量数据来得出答案。这些系统惊人地强大，但是也相当的脆弱。当它们失败时，是带着十足的信心失败的。

但是通过教AI拥抱不确定性，我们赋予了它一些更人性的东西：比如谦逊、诚实，以及怀疑的智慧。这不是弱点，并不会让AI变弱，而是让它在现实中扎根，成为我们可以真正依赖的合作者。最后的问题是：当AI学会了说我不确定的时候，你是会更信任它，还是会更怀疑它呢？

感谢收看，我们下期再见。