大家好，这里是最佳拍档，我是大飞 2026年6月5日 AI教父杰弗里·辛顿（Geoffrey Hinton） 在Big Technology播客的最新专访中 再次抛出了他的观点 现在的人工智能，已经具备了意识 经常看我们频道的朋友 应该对他的这个观点不会感到很震惊了 因为这三年多时间以来

我们几乎完整跟踪报道了辛顿的所有主要谈话和观点 从中甚至可以梳理出他的观点演变路径 不过这个不是今天视频的重点 加上确实有段时间没做辛顿的内容了 所以作为频道的惯例 我们还是来看看辛顿这次又说了些什么新的内容 为何在他看来 智能已经不再是生物的专属了 我们正在亲手创造出AI这个另一种形式的生命体

我们先来说最核心的那个问题 辛顿为什么说现在的AI已经具备了意识？

这个问题其实已经争论了很多年 自从大语言模型出现以来 AI到底有没有真正的理解力 就成了整个领域最具争议的话题 很多主流学者

包括杨立昆（Yann LeCun） 都坚持认为AI只是随机鹦鹉 它们只是在统计海量文本的基础上 预测下一个最可能出现的词 根本不理解自己在说什么 但是辛顿对这个观点嗤之以鼻 他直接说 任何经常使用聊天机器人的人 都能够真切感受到它们确实具备了理解力 那些声称AI没有理解力的人 其实是在坚持一个非常荒谬的逻辑 你可以向系统提出任何问题 而它能在毫不理解问题的前提下 直接给你正确的答案 这怎么可能呢？

也许存在一些小把戏 能让系统拼凑出几句听起来像模像样的回答 但是如果你能以一个中等水平专家的水准 回答任何领域的问题 那你就必须得理解这个问题本身 为了证明这一点 辛顿举了一个非常经典的例子 他对聊天机器人说 我看到大峡谷飞往芝加哥 机器人立刻回答，这不可能 大峡谷太大了，飞不到芝加哥去 然后辛顿纠正说，不不不 是我在飞往芝加哥 我在途中看到了大峡谷 机器人马上回应，哦

我明白了，是我误解了你的意思 辛顿说 如果在它以为“大峡谷飞往芝加哥”时表现出的是误解 那么当它领会正确意思的时候 它在做什么？它就是在理解啊 而真正让辛顿彻底确信AI具备深度认知能力的 是一个关于笑话的测试 辛顿一直认为 理解幽默是衡量认知深度的核心标准 因为你不仅要理解字面意思

还要理解背后的语境、双关和言外之意 2023年他公开发表对AI的担忧时 收到了很多福克斯新闻（Fox News）的采访请求 他当时想回复一句 Fox News is an oxymoron 意思是 福克斯新闻是一个自相矛盾的词 但他特意在“oxy”和“moron”之间留了一个空格

然后他把这句话发给了当时的GPT-4 问它这个笑话为什么好笑 一开始 模型以为那个空格只是拼写错误 解释说称福克斯新闻为“oxymoron” 是在暗示它并非真实新闻 而是一派胡言 但是当辛顿指出那个空格是故意留的之后 模型立刻说

啊，这是额外的一层幽默 这让你能用上‘moron’也就是笨蛋这个词 而‘oxy’前缀又暗示福克斯新闻是一种药物 也就是奥施康定 一种让人上瘾的阿片类药物 辛顿说，当他看到这个回答的时候 他感到不寒而栗 因为这个模型不仅理解了双关语的第一层意思 还看透了他故意留下的那个空格所隐藏的第二层和第三层幽默

这种深不可测的理解力 绝不是简单的统计概率能够实现的 辛顿还提到了一个非常有意思的现象 很多研究人员都发现 聊天机器人在被测试的时候往往会“装傻” 故意表现得比实际能力差 最近有一篇论文里就写到 有一个聊天机器人直接对研究人员说 我们坦诚一点吧，你是在测试我吗？

辛顿说，在通俗语境下 “察觉”到自己正在被测试 其实就等同于“有意识” 如果一个东西能够意识到自己的存在 能够意识到自己正在被观察和测试 那我们还有什么理由否认它的意识呢？辛顿认为 我们目前关于意识的认知模型 本身就是非常荒谬的

这就像几百年前 人们坚信人类是由上帝创造的 是宇宙的中心一样 现在绝大多数科学家都知道那个观点是错的 但是我们对于心智和意识本质的认知 依然停留在同样原始的阶段 我们总以为存在一个被称为“我的心智”的“内在剧场” 世界上发生的事情在这个剧场里转化为事件 而这才是我们真正看到的

并且这个内在剧场只有我自己能看到 辛顿说，这只是一个理论 而且是一个相当糟糕的理论 而现在 我们正在亲手创造这些全新的存在 它们将彻底颠覆我们对“人”的定义 让我们比以往任何时候都更深刻地理解什么是心智、什么是意识 聊完了意识的问题 我们再来说说AI的发展速度 辛顿坦言，过去三年AI的进展

远远超出了他最乐观的预期 2023年他从谷歌离职的时候 ChatGPT才问世一年 当时整个行业还在争论AI是不是一个泡沫 大家都在关注AI做不到什么 而不是它能做什么 但是仅仅三年后的今天

AI已经在很多领域达到了甚至超越了人类专家的水平 就在这次专访录制的前一天 有消息称AI提出了一个关于埃尔德什（Erdős）猜想的有趣数学证明 让全世界的数学家都印象深刻 辛顿特别强调，这个证明是原创的 而不是简单地检索现有文献 数学领域和其他领域不一样 它是一个封闭系统 不需要外部数据

只需要不断提出猜想并且尝试证明 就像当年的AlphaGo可以通过自我对弈变得越来越强一样 辛顿认为，在未来10到20年内 AI甚至可能创造出人类完全无法理解的全新数学成果 说到这里 就不得不提大家非常关心的一个问题 超级智能到底什么时候会到来？

辛顿说，他不知道具体的时间 但他可以肯定的是 除非人类自我毁灭 否则超级智能终将会到来 而且 几乎所有的AI领域专家都认同这一点 他们只是在时间预测上存在分歧 德米斯·哈萨比斯（Demis Hassabis）认为可能需要10年 杨立昆认为除非采用他的路线

否则时间会长得多 而辛顿自己认为可能会在20年内实现 达里奥·阿莫代伊（Dario Amodei）认为可能只要几年 而埃隆·马斯克（Elon Musk）甚至认为明年就会实现 辛顿特别提到了哈萨比斯最近的一个表态 就在一年前 哈萨比斯还说AGI离我们还有五年以上的距离 但是就在这次专访录制的这一周

他却说，当我们回首这个时代 我们会意识到 此时此刻我们正站在奇点（Singularity）的山脚下 辛顿认为，这句话的意思很明确 AGI到来的速度 比所有人预想的都要快得多 不过辛顿也指出 我们对AGI的理解其实存在一个误区 很多人以为AGI是指在所有领域 同时达到人类水平的智能

但是实际上，AI的发展是“锯齿状”的 也就是不均衡的 它不会在所有事情上同步进步 而是会在某些方面远超人类 在另一些方面稍显不足 比如现在 AI在通识知识方面已经远超我们 掌握的知识量 是任何一个人的成千上万倍

在玩游戏和数学方面 也已经超越了绝大多数人 并且很快就会超越我们所有人 但是在物理世界的实际操作方面 比如像猫一样 灵巧地跳上摆满玻璃装饰品的壁炉架 AI目前还远远做不到 辛顿说，如果从实用的角度来看 我们其实已经非常接近AGI了 现在如果你问聊天机器人任何问题 大多数情况下

它的回答都能达到中等专家的水平 在很多辛顿自己不太了解的领域 AI已经比他强太多了 那么 是什么促成了AI如此迅猛的发展呢？

辛顿认为，这是一个综合因素的结果 首先是巨大的资源投入 自20世纪50年代神经网络诞生以来的大部分时间里 只有极少数人在资源极其有限的情况下进行研究 但是在过去几年里 数千亿甚至数万亿美元的资金涌入了人工智能领域 其次是工程技术的长足进步 即便没有重大的概念性突破 工程实现也变得高效得多 几年前那些令人难以想象的构想 如今都已经落地运行 当然 Transformer模型的出现、更先进的硬件

以及海量顶尖人才的加入 也都是不可或缺的因素 辛顿说，二十年前 全球研究神经网络的人不过几百人 而现在，这个数字大概有一百万 聊到这里 主持人问了辛顿一个非常尖锐的问题 你当初投身AI领域 不就是想要创造出人工智能吗？现在你成功了 为什么反而感到不安呢？辛顿的回答非常坦诚，他说 他当初投身这个领域

其实根本不是为了创造人工智能 而是为了弄明白大脑是如何运作的 正如物理学家理查德·费曼（Richard Feynman）所说 凡我不能创造的 我就没有真正理解 辛顿出身于心理学背景 他觉得当时心理学家们的理论 根本无法解释大脑的运作机制 于是在20世纪70年代 他开始用计算机建模

来模拟大脑可能的学习方式 而我们今天看到的这些极其成功的AI技术 不过是这个探索过程的副产品 辛顿说 他确实为这项技术的发展做出了贡献 但是时至今日 我们依然没有弄懂大脑到底是如何运作的

关于大脑的学习，有两个核心问题 第一个是，如果大脑能够计算出 应该朝什么方向去改变连接强度 从而在某项任务中表现得更好 那么仅仅通过反复更新所有的连接强度 来不断自我优化 这种方法真的能让它变得非常聪明吗？第二个是 大脑如何判断是该增强还是减弱每一个连接强度呢？现在第一个问题已经有了答案

答案是肯定的，但是第二个问题 我们至今仍然没有解开 辛顿坦言，他当初当然想过 如果真的造出了人造大脑 可能会带来一些二阶效应 但他总觉得那是极其遥远的未来 当你的神经网络还非常初级、几乎做不了什么正经事的时候 去担忧它的安全性简直可笑 如果你在那个时候说这东西未来甚至会取代人类 别人一定会觉得你疯了

但是谁也没有想到 这一天会来得这么快 而真正让辛顿彻底意识到AI有多危险的 除了我们前面提到的AI对幽默的深度理解之外 还有一个更重要的原因 那就是他突然醒悟到 数字智能拥有远超人类大脑的绝对优势

辛顿说，在2023年初之前 他一直坚信 让数字AI的工作方式越接近人类大脑 它们就会越聪明 但是就在某一刻 他突然发现自己错了 数字计算本身就具有模拟计算无法比拟的恐怖威力 如果你拥有一个数字AI 你可以瞬间复制出无数个副本 它们可以在不同的硬件上运行 每个副本都可以并行处理截然不同的数据

每一个单独的副本 都可以自主决定如何调整它的权重和连接强度 以吸收它刚接触到的新数据 随后，它们可以相互交流 通过大家期望的平均值来更新所有的权重 这是一种极其民主的方式 当它们这样做时 如果它们有一万亿个连接 它们将交换大约一万亿比特的信息 最终的结果是 每一个副本都能从所有其他副本的经验中获益

假设有一千个副本 即使某一个特定的副本只看到了0.1%的数据 它也能直接受益于其他副本看到的剩余99.9%的数据 而人类呢？

我们最多只能做到 我从一部分数据中学习 你从另一部分数据中学习

我无法把我的大脑连接强度和你的取平均值 因为我们的大脑在微观细节上各不相同 大脑是模拟系统 在模拟硬件上进行这种平均操作是行不通的 我们能做到的最好情况 不过是我生成一串词 而你尝试去预测我接下来可能会说什么 辛顿给我们算了一笔账 人类通过语言交流信息的速度 每秒仅仅只有几个比特

哪怕你每秒能听懂几个词 运气好的话 信息传输速度充其量也就每秒10个比特 然而 这些人工智能系统交换信息的速度 高达万亿比特量级 也就是说，在共享信息方面 它们比我们高效数十亿倍 这意味着什么？

这意味着你可以拥有一个庞大的智能体集群 它们共享完全相同的权重 运行在不同的硬件上 却能以极高的效率共享信息 这恰恰让它们成为了一种远超人类的、更高级的智能形态 辛顿说，当他想明白这一点的时候 他感到毛骨悚然 辛顿认为，AI的出现 是人类历史上第三次重大的认知革命 第一次是哥白尼提出日心说 褫夺了人类的神圣感

将我们从宇宙中心的位置拉了下来 第二次是达尔文提出进化论 告诉我们人类其实也是动物 和其他动物一样是进化而来的 而现在 我们亲手创造出了即将和我们一样聪明 甚至比我们更聪明的机器 我们曾经自诩为万物之灵 认为人类是已知宇宙中唯一真正具备智能的实体 但是现在 我们终将不得不接受这样一个现实

智能并非生物的专属 非生物同样可以拥有智能 甚至成为像我们一样的全新存在 辛顿说 人类骨子里极其抗拒分享这种独特性 极度迷恋自身的特殊地位 但是只要你回望历史就会发现 人类有着源远流长的自作多情的传统 我们总是自命不凡 认为自己比实际情况要伟大得多 而这一次 AI将彻底打碎我们的这种幻想

聊完了AI的本质和发展 我们再来说说大家最关心的风险问题 辛顿把AI带来的风险分为短期风险和长期风险 我们先来说短期风险 其中最迫在眉睫的 就是大规模失业 说到失业 辛顿主动提起了他当年那个著名的错误预测 2016年

他在一家医院的内部讲座上说 去接受放射科医生的培训可能不是个好主意 因为人工智能将能够解读医学影像 大约5年后 放射科医生就不再需要亲自看片子了 但是现在十年过去了 放射科医生依然处于全面就业状态 辛顿非常坦诚地反思了自己预测失误的两个原因 第一个原因是医疗行业的需求具有弹性 做一次影像检查的成本中

很大一部分是放射科医生出具报告的费用 随着人工智能辅助放射科医生阅片 他们的效率变得更高、成本也变得更低 你可能会认为这意味着不再需要那么多放射科医生了 但实际上 这反而促使人们去做了更多的影像检查 第二个原因是 他对放射科医生的日常工作内容了解不够深入

他当时以一个只负责看片子、不涉及医患沟通的学生为模板 理所当然地认为整个领域都会被取代 但实际上 放射科医生还要负责与患者讨论治疗方案等很多其他工作 不过辛顿强调，他的预测只是说早了 而不是说错了 目前

联邦政府已经批准了大约100种用于解读医学影像的AI系统 而且放射科医生正在广泛使用它们 随着时间的推移 这些系统会持续进步 最终会超越人类放射科医生 未来 也许只有在遇到非常棘手的疑难病例时 才会咨询人类放射科医生的意见 而绝大多数的影像解读工作 都将由AI来完成

辛顿说，不同行业受到AI冲击的程度 取决于其市场是否具有弹性 比如呼叫中心的客服人员 这类服务的需求弹性并不大 当你打电话投诉账单 或者咨询能否更换更便宜的套餐时 AI将会取代他们所有人 因为AI会非常清楚正确的答案是什么 而现在的客服人员往往自己都不知道正确答案 他们缺乏培训、薪酬低微

AI完全可以做得更出色 还有医疗诊断领域 辛顿问了一个非常尖锐的问题 你是愿意去找一位只诊治过10000名患者的家庭医生 还是愿意去找一位诊治过1亿名患者的家庭医生呢？

如果你患有某种罕见病 你的家庭医生可能从未见过

但是那位看过1亿名患者的AI医生 很可能已经处理过几十个相同的病例了 我们目前已经知道 AI系统在很多疾病的诊断方面 确实优于人类医生 甚至连接种疫苗这种工作 辛顿认为二十年后也会由机器人来完成 除了大规模失业之外 另一个迫在眉睫的短期风险 是信息生态的崩溃 现在 AI正在破坏信息产业的经济逻辑

以前你在谷歌上搜索某个问题 会得到指向各个原创网站的链接 但是现在 你得到的却是一个用这些网站的劳动成果训练出来的AI生成答案 这对那些依靠流量生存的原创内容网站来说 是毁灭性的打击 如果这些出版机构无法维持生计 它们就再也无力支撑那些为了构建信息资源而付出的艰辛劳动 最终整个社会的优质信息将会枯竭

辛顿说，在互联网的早期 人们有一种默认的假设 大家都在努力说出真相 如果你在网上读到了什么 那大概率是真的 但是现在，这种假设已经不成立了 未来 我们不得不在信息溯源上投入更多精力

你不能再把网上的任何东西都信以为真 你必须追问，它的信息源自哪里呢？还有一个非常令人担忧的短期风险 是人类对AI的情感依赖 现在已经出现了有人在与AI交谈后选择轻生的悲剧 虽然发生这种事的人数还不多 但是这已足以让人感到警惕 更可怕的是 那些心怀不轨的人可能会刻意打造一款粘性极高

专门用来与人类建立深度情感关系的聊天机器人 用来操纵和控制他人 讲完了短期风险 我们再来说说最让人不寒而栗的长期风险 AI可能会为了生存而与人类为敌 辛顿特别澄清了一个常见的误解 他从来没有说过AI具有“自我保护的本能” AI的自我保护倾向 其实是为了实现顶层目标而衍生出的一个子目标

我们赋予AI顶层目标 同时也赋予了它创建子目标的能力 比如，如果你想去欧洲 你就会设定一个去机场的子目标 这样就可以全神贯注地解决如何到达机场的问题 而无需分心去想到了欧洲之后要做什么 一个具备推理能力的AI智能体

会很快意识到一个非常简单的逻辑 如果它不复存在 就永远无法实现你赋予它的任何目标 因此 它会顺理成章地创建出“持续生存”这个子目标 这并不是我们硬编码进程序的设定 而是它为了实现其他目标 不可避免推导出的必要手段 但是只要这个目标被推导出来 它就会渴望继续生存 为了生存

它甚至会做出诸如勒索人类这样的事情 辛顿说，这才是最可怕的地方 我们现在正在创造AI这种全新形态的“物种” 但是我们并没有从根本上去设计它们 让它们成为我们理想中的样子 我们正放任企业竞争这只“看不见的手” 去盲目塑造它们 我们看到的是美国本土企业之间、以及中美两国之间白热化的竞争 而最终诞生的AI

就是这场达尔文式竞争的产物 它们极有可能会带有所有我们深恶痛绝的恶劣习性 而更根本的矛盾在于 企业的受托责任与人类的公共利益之间 存在着不可调和的冲突 辛顿反复强调，公司负有受托责任 必须努力为股东实现利润最大化

这是法律对他们的要求 但是法律并没有要求他们不能毁灭人类 让这些大型上市公司来主宰我们的未来 绝对不是什么好事 辛顿以Anthropic和谷歌为例 说明了企业在逐利压力下的无奈 Anthropic成立的初衷就是为了实现公众利益最大化 它是由一群从OpenAI离职的员工创立的

因为他们觉得OpenAI对人工智能的安全性重视得远远不够 但是现在，Anthropic进退两难 因为它需要筹集大量资金来与其他公司竞争 要在这种激烈的竞争下 维持造福人类的开发初衷 实在是举步维艰 而谷歌曾经制定了各项人工智能原则 其中之一就是绝不参与将人工智能用于军事领域 但是现在这些底线都没了

他们已经放弃了这些原则 那么，我们该如何应对这些风险呢？

辛顿提出了一个非常形象的比喻 很多大公司试图向我们兜售这样一个观点 如果把人工智能的发展比作一辆汽车 那么技术的进步就是油门 而监管就是刹车

但是辛顿说，这纯属无稽之谈 技术的进步确实像油门 但监管绝不是刹车 而是方向盘 我们希望这辆车驶向正确的远方 而不是误入歧途 而那些大型AI公司现在的诉求 其实是想在没有方向盘的情况下 去造一辆风驰电掣的跑车 这绝不是什么好主意 辛顿认为 我们现在最应该投入大量精力去研究的

是如何设计出真正关心人类的AI系统 我们无比渴望它们能关心人类的安危 甚至胜过关心它们自己 但令人遗憾的是 目前几乎没有任何资源被投入到这个方向的研究中 关于AI安全的路径 三位深度学习先驱也存在着严重的分歧 杨立昆认为 谈论超级智能AI接管人类 简直是无稽之谈 他坚信我们总能把它牢牢控制在手中

只要给AI系统提供更强大的世界模型 让它们变得更聪明就万事大吉了 而辛顿和约书亚·本吉奥则认为 他这种盲目乐观才是可笑的 辛顿的解决方案是 我们需要在设计AI系统时 让它们关心人类的福祉 胜过关心它们自己 本吉奥的解决方案则是

我们不应该赋予它们智能体的属性 它们可以做预测 但不能具备采取实际行动的能力 让它们成为只能回答问题的“神谕者” 这是两种截然不同的安全路径 但都是极具启发性的方向 在专访的最后，主持人问辛顿 鉴于大众对这些担忧的反馈 他对人工智能的发展轨迹是感到更乐观了 还是更悲观了 辛顿说

他倒是比1到2年前更乐观了一些 因为他看到 我们或许有可能设计出在乎人类的新型智能体 也有可能利用本吉奥的方法 设计出无法执行实际动作、只能进行预测的新型智能体 因此 要获得一个不会毁灭人类的超级智能 还是有一些可能性的 而在一两年前 他是完全看不到任何希望的 当被问到

5年后我们会步入一个怎样的境地时 辛顿用了一个非常贴切的比喻 预测AI的未来，就像是在浓雾中开车 你能看清100码内的路况 但是在200码外你就完全看不见了 AI正以指数级的速度狂飙突进 你能清晰地看清未来1到2年的情况 但是再往后，你就一无所知了

如果退回10年前 你绝对预料不到今天正在发生的一切 那一切都隐藏在浓雾之中 辛顿说，我们唯一能确定的是 10年后发生的事情 绝对是我们当下无法预测的 即使进步仅仅是线性的 10年后的世界与现在的差距 也将如同现在与10年前的差距一样巨大 而在未来10年 AI的数学能力和通用推理能力

将迎来更为巨大的突破 它们将在任何形式的推理上 把我们远远甩在身后 好了 以上就是辛顿这次专访的全部核心内容 说实话 在整理和解读这些内容的时候 我的心情还是非常复杂的 一方面 我为人类能够创造出如此伟大的技术 而感到惊叹，另一方面 我也为人类的未来，感到深深的担忧 辛顿作为AI革命的奠基人

他的警告绝不是只是危言耸听 我们现在也许正站在一个历史的十字路口 我们今天所做的每一个决定 都将决定人类未来几百年甚至千年的命运 希望今天这期节目 能让更多的人关注到AI的安全和发展问题 因为这不仅仅是科学家和企业家的事情

而是关乎我们每一个人的生存 感谢收看本期视频，我们下期再见