AGI是个公关术语 | 过度拟人化 | 动摇创新根基 | 经济思维 | 集体主义经济视角 | 第一步谬误 | AlphaFold | 理解的谬误 | 数学框架

反潮流的反思：警惕AGI对科研根基的动摇

本期内容深入探讨了加州大学伯克利分校及法国国家信息与自动化研究所（Inria）的顶尖学者、被《自然》杂志评为最具影响力的计算机科学家迈克尔·I·乔丹（Michael I Jordan）教授的核心观点。他在《Machine Learning Street Talk》播客中，对当下AI行业的狂热炒作、AGI概念的滥用以及整个领域的发展方向提出了犀利的反思，主张放弃追逐通用智能的幻梦，回归以人类为中心、以统计和经济为根基的务实路径。乔丹教授最反感的是行业对智能的过度拟人化，他认为AGI这一概念不仅毫无必要，更是对科研群体尤其是年轻研究者的巨大伤害。

“现在有大量20到25岁的年轻研究者……却被行业里的意见领袖灌输了两种极端的论调……这种话有多伤人呢？教授用了‘令人彻底泄气’来形容。”

乔丹教授指出，年轻研究者满怀热情想靠技术帮家人、社区做实事，却面临两种极端论调的打击：一种是“核心算法已搞定，你们没机会了，且AI会毁灭人类”；另一种是“AGI即将到来，你们的小研究没意义”。这种言论剥夺了年轻人对科研的期待，导致整个行业的创新根基被动摇。比打击年轻人更严重的是，当前AI研发完全缺失经济思维，陷入一场脱离现实的狂欢。只要能从互联网上“偷”数据，哪怕资金来自缺乏深度思考的投资者，只要能在偷来的数据上跑通梯度下降等经典算法，就敢宣称是前沿AI。科技的本质是服务社会，而非单纯的技术堆砌，但现在的AI研发连“谁创造价值、谁获得价值”的基本经济逻辑都抛诸脑后。

AGI的本质：纯粹的公关术语与集体误导

在乔丹教授看来，AGI（通用人工智能）是一个纯粹的公关术语，除了制造噱头、吸引投资外，只会扭曲科研方向、混淆商业逻辑。行业领袖们要么将AGI吹捧为能解决所有问题的万能神，要么将其渲染为毁灭人类的洪水猛兽，但事实是，AI的核心价值从来不是追逐这种虚无缥缈的通用智能。真正的核心问题在于：这些技术如何整合数十亿人的输入，又如何服务数十亿人的需求？

“AGI就是个纯粹的公关术语，除了制造噱头、吸引投资，只会扭曲科研方向、混淆商业逻辑。”

人类作为技术的生产者和消费者，其角色应该被尊重和放大，而不是被AGI这种空洞的噱头掩盖。乔丹教授认为，当前的AI研发缺乏清晰的目标，研究者想当然地认为“人类有智能，大脑是计算机，只要模仿大脑、把模型并行化就能做出厉害的AI”，却忽略了技术要解决的具体社会问题。他直言自己离开硅谷的核心原因，就是厌倦了这种空洞的讨论。硅谷的AI圈已变成内卷的“老鼠赛跑”，满是金钱竞赛，却缺乏深层和长期的思考。这种集体主义经济视角的缺失，使得AI技术虽然聚合了数十亿人的数据输入，却无法有效服务数十亿人的需求。

学术渊源：从统计学看工业落地的价值

乔丹教授之所以能跳出AI迷思，源于其独特的学术背景。他自嘲是统计学家和认知科学家出身，这辈子从未读过一本专门的AI专著。他指出，“AI”这一术语是上世纪50年代约翰·麦卡锡等人提出的，旨在通过逻辑推理实现智能，但这些方法并未真正落地。真正推动工业进步的是60到80年代发展起来的机器学习，包括决策树、最近邻算法、逻辑回归、隐马尔可夫模型等核心方法，它们大多源自统计学和运筹学领域。

“真正推动工业进步的，是60到80年代发展起来的机器学习……其实都来自统计学、运筹学等领域。”

例如，亚马逊的云服务最初就是为了处理机器学习的算力负载而搭建的；我们日常接触的供应链、商业配送、交通调度系统，至今仍在依靠这些机器学习方法实现高效运转。乔丹教授正是从工业落地派的视角出发，看清了当下炒作的本质。许多人将能生成流畅文本的大语言模型视为解决所有问题的AI，却忘了机器学习真正的价值在于解决具体的、落地的社会问题。他最近发表的论文《AI的集体主义经济视角》，核心就是想把AI拉回“服务集体”的轨道上来，强调必须结合社会科学，尤其是经济学，来理解这个巨大的集体网络。

集体主义经济视角：博弈论与数学框架

乔丹教授提出的“集体主义”并非空洞口号，而是指AI技术本质上是聚合了数十亿人的数据输入，最终服务数十亿人的巨大集体网络。要理解这个网络，不能仅靠计算机科学，还需结合社会科学和经济学。在博弈论视角下，人与人之间既有合作也有竞争，我们需要将这些社会互动转化为可落地的数学框架，而非停留在口头批判。

“我们现在的AI技术，本质上是聚合了数十亿人的数据输入，最终要服务数十亿人。这本身就是一个巨大的集体网络。”

教授反复强调，他不是要批判AI，而是想让AI变得更好、更安全、更有价值。这需要把社会科学的思考转化为具体的、可操作的数学方法。然而，当前的AI研究者大多没有清晰目标，只是想当然地认为模仿大脑就能实现智能。硅谷的AI圈已沦为内卷的“老鼠赛跑”，满是金钱竞赛，缺乏深层思考。乔丹教授指出，这种缺乏经济思维的研发模式，导致技术无法真正服务于社会需求，反而加剧了资源浪费和社会不公。因此，构建可落地的数学框架，明确参与者诉求及合作竞争机制，是AI发展的关键。

第一步谬误：从私人秘书到宏观系统的错位

访谈中提到了一个经典的认知偏差——“第一步谬误”（First Step Fallacy），由德雷福斯提出，常与麦考德克效应联系在一起。其含义是：因为AI能生成流畅文本、解决编程问题等具体任务，就误以为离无所不能的通用智能仅差一步。乔丹教授指出，这完全是错觉。现在的AI系统本质上是大型统计盒子，只做输入到输出的映射，根本谈不上系统级思考。

“第一步谬误……简单说，就是因为AI能生成流畅的文本、解决编程问题这类具体任务，就觉得我们离无所不能的通用智能只差一步。”

例如，鼓吹大语言模型当私人秘书随时提建议，被教授视为糟糕的商业模式。人终究想自己思考，不需要全程干扰，仅需每日总结。反观医疗、交通、金融系统，这些流动着数十亿参与者数据的系统，虽有大量机器学习应用，却无人从经济视角分析参与者诉求及优化合作竞争。市场体系几千年前已出现，我们完全可用技术优化它，而非盯着私人秘书等小众场景。主持人提到伊利亚·苏茨克维尔认为多智能体系统可自动实现经济价值，但教授评价这不是合格的工程思维，如同上世纪四五十年代化学工程师仅靠混合化学品做实验，会导致爆炸和经济不可行。

工程思维的缺失：直觉代码与深层理论的断裂

乔丹教授对比了传统工程学科与当前AI研发。电气、化工、机械工程等领域拥有麦克斯韦方程、牛顿定律等核心理论支撑，既有动手实践的工程师，也有深度思考的理论家。然而，当前AI研发只有一群聪明的程序员靠直觉写代码、堆数据、拼算力，缺乏深层智力支撑，整个领域更像在写科幻小说，而非做严谨的工程研发。

“现在的AI研发也是如此……Facebook这类平台已经伤害了很多年轻人的心理健康，而新的AI技术还可能带来大规模的就业替代，却没人考虑这些现实伤害。”

教授指出，Facebook等平台已伤害年轻人心理健康，新AI技术可能带来大规模就业替代，但业界轻飘飘地称“旧工作消失，新工作产生”，这种态度完全不负责任。他批评当前研发缺乏像传统工程学科那样的理论基石，导致技术滥用风险增加。虽然教授不反对构建暂时无法完全理解的系统，但他强调必须将其置于更大的生态中思考：它在生态中做什么？缺什么？多个网络如何互动？需要何种透明度以保证系统有效运转？这种工程思维的缺失，是当前AI行业最大的隐患之一。

预测而非理解：经济学的核心思维

乔丹教授重申，他并不反对构建我们无法完全理解的系统。他以选择Airbnb为例，人的选择本身无法完全拆解，但只需知道选择具有可预测性，就能有效互动。这也是经济学的核心思维：不用理解每个个体的内部逻辑，只要能做定量预测，就能避免伤害、创造价值。

“你只需要知道，我的选择有一定的可预测性，就能和我有效互动即可。这也是经济学的核心思维，不用理解每个个体的内部逻辑，只要能做定量预测，就能避免伤害、创造价值。”

以银行为例，若AI拒绝贷款申请，用户需要的不是看神经网络电路如何拒绝，而是了解与自身情况相似的50人中，哪些人获贷及差异所在。这种基于最近邻算法的解释，才是普通人能理解、能操作的。因此，我们不需要强行拆解AI内部结构，而应在统计盒子周围搭建配套系统，理解其输入输出行为，明确约束条件。就像化学工程领域，虽许多现象无法完全解释，但工程师聚焦于理解输入输出规律并解决问题，而非钻牛角尖。神经网络的缩放特性虽好，但必须放入更大生态中思考其功能、缺失及互动方式。

AlphaFold案例：靶向AI的辉煌与局限

主持人提到AlphaFold被视为AI高光时刻，教授承认其为极其优秀的“靶向AI”，在蛋白质结构预测特定问题上表现极佳，但也暴露了基础模型的核心短板。教授团队曾用AlphaFold预测的2亿个蛋白质结构，验证蛋白质量子涨落是否与磷酸化（细胞内活跃状态指标）相关。

核心原因是训练数据中，有量子涨落的蛋白质样本极少（难结晶、研究少），模型未学到相关规律，也不会针对边缘问题给出误差棒。科学家恰恰最关注知识边缘问题，而基础模型在此处易出现偏差。为此，教授团队提出了预测驱动推理（Prediction-Powered Inference）方法，在2亿预测数据中加入少量真实Ground Truth数据，保证高检验效力并覆盖真实值。教授强调，科学家关注边缘，基础模型在此最易偏差，必须在模型周围搭建配套机制，如收集少量真实数据修正偏差，给出可信答案，而非无视偏差或仅批判架构。

理解的任务归属：科学家与模型的分工

关于AlphaFold，乔丹教授与谷歌的John Jumper有过深入交流。Jumper对“AlphaFold理解生物学”的说法极其反感，明确表示：AlphaFold不是整个细胞的模型，它只做两件事——预测和控制，理解是科学家的任务。

“Jumper明确说，AlphaFold不是整个细胞的模型，它只做两件事，预测和控制，理解是科学家的任务。也就是说，我们可以用它的2亿个预测结构进行实验、提出假设，但它永远不会替我们完成理解这个动作。”

乔丹教授完全认同这一观点，并反问：“为什么非要让AlphaFold理解呢？”他举了2000年左右亚马逊的例子：当时亚马逊用随机森林等机器学习算法做供应链建模，能精准预测印度洋货船延误，优化数十亿商品全球配送，服务上亿用户。没人能完全理解这个大盒子的内部逻辑，但这重要吗？一点都不重要，因为它完成了关键优化和预测，降低了不确定性，使工程系统高效运转。给这类系统贴上“理解”、“智能”标签，只是媒体博眼球的噱头，对研发和应用毫无实际意义。

总结：回归务实的集体工具

最后，乔丹教授的核心观点总结为：他从来不是反对AI，而是反对AI的错误方向。我们不应把AI当成有自我意识的智能体，不应追逐AGI这种公关话术，更不应脱离经济和社会视角，仅靠偷数据和堆算力做研发。AI的本质是一种预测工具，其真正价值在于整合数十亿人的集体输入，服务数十亿人的集体需求。

“AI的本质是一种预测工具，它的真正价值在于整合数十亿人的集体输入，服务数十亿人的集体需求。这需要我们结合统计学、经济学、社会科学，构建可落地的数学框架，搭建配套的保障系统。”

AI的未来，不该是科幻小说里的超级智能，而是能让普通人生活更美好的集体工具。这需要结合统计学、经济学、社会科学，构建可落地的数学框架，搭建配套的保障系统。乔丹教授希望整个行业能意识到这一点，从狂热炒作中冷静下来，回归务实、以人类为中心的发展路径。这或许就是他对行业最深刻的提醒：让技术回归服务社会的本质，而非陷入虚无缥缈的智能迷思。