想象一下,你现在是一位绝对顶尖的AI研究员。你在硅谷最核心的技术引擎里,比如Meta的AI研究部门FAIR整整干了十一年。在科技圈,这基本算是见证了一个时代了,确实可以说是活化石级别的资历。你一直身处技术的最前沿,甚至亲手做出了能用单张GPU就击败职业选手的Open Go——也就是那个Alpha Zero的复刻版。在这个领域里,你已经不是普通的玩家了,你其实是规则的制定者。

但是呢,突然有一天,你做出了一个在外人看来完全疯狂的决定:辞职去创业。你放弃了大厂的各种顶配资源,放弃了一切。而你创业的目标,竟然是去开发一个可能会抢走你自己饭碗的AI。这听起来确实极其反直觉,是吧?我最近深入读到了一份资料,是前Meta AI研究总监田渊栋博士的访谈记录。

当我看到他决定亲手终结自己原有的职业轨道时,我满脑子都是问号。所以,我们今天的这场深度探索就是要扒开这个决定背后的底层逻辑。这绝不仅仅是一个关于硅谷大佬跳槽或者创业的行业八卦,其实它标志着一个极其危险、或者说极具破坏性的转折点。

怎么个破坏法?就是说,AI正在跨越单纯的工具属性,开始具备自主科研的能力了。也就是业内现在常说的“AI for AI”——用AI来研究AI自己。没错,你想想,当我们普通人还在讨论怎么写好一段提示词让AI帮忙润色邮件的时候,最前沿的科学家已经真真切切地感受到:AI不仅能自己推导定理,甚至能自己改进自己的底层架构。

哇,这就有点吓人了。对,当机器跨越了这个门槛,人类在这个科研闭环里的位置就变得极其尴尬了。那个我们来还原一下这个跨越到底是怎么发生的?资料里提到,田渊栋在Meta一直待到了2025年底。他的研究方向极深,涵盖了强化学习、表征学习这些极其硬核的领域——都是极其需要数学直觉的方向。

但是促使他离开的,是一个非常具体的顿悟时刻。当时他正在和GPT(应该是5.1版本)合作写他在Meta的最后一篇论文,也就是差不多一年前的事情。在这个过程中,他突然意识到一件极其恐怖的事情:他发现他好像不需要手下的实习生了。听到这句估计要流汗了,不过确实以前的AI——哪怕是早期非常惊艳的那些代码智能体比如Codex或者早期的Claude也很强,能写很多代码。

是很强,但他们的角色更像是一个极其高效的、不知疲倦的初级打字员。你得把任务揉碎了喂给他,得把实验逻辑、整个框架还有你需要验证的想法清清楚楚地告诉他,然后他帮你把代码敲出来、把实验跑通。这本质上依然是执行层面的自动化。对,但田渊栋在写那篇论文的时候发现完全变了。

他可以直接和AI进行头脑风暴,AI不仅能聊天,竟然还能帮他推导极其复杂的数学公式,甚至能完成定理的证明。哇,也就是AI开始动脑子了?这感觉就像是一个米其林大厨一直把家里的微波炉当成加热剩菜的工具,结果有一天这个微波炉自己会做菜了。对,微波炉不仅完美加热了食物,还看了一眼你冰箱里有什么食材,自己发明出了一套全新的分子料理菜谱。

这个比喻非常精准,这就触及到了我们要聊的核心问题:科研的本质正在发生转移——从执行向构思跨越。你算算看,过去一个顶尖的研究员可能要花百分之八十的时间在写代码、调bug、配置那些恶心的基础设施上,真正的思考可能就占百分之二十。对,现在因为新一代智能体的成熟,那百分之八十的苦力活被AI完全接管了。

但这还不是最致命的。最致命的是,AI盯上了那剩下的百分之二十——机器现在开始侵入构思环节了!当AI能直接给出数学洞察的时候,传统研究员的价值坐标就彻底崩塌了啊。田渊栋自己都预测,在三到五年内像他过去那样按部就班解题的研究员大概率会被系统直接淘汰。这太夸张了,所以他才决定自己出来搞事情。

对,他创立了Recursive——一家专门用AI来改进AI本身的公司。“用魔法打败魔法”是吧?不过资料里提到,从一个纯粹的研究者变成创始人这本身也是一种降维打击式的身份转换,完全不一样的工作模式。做研究员的时候基础设施有大厂给你兜底儿,你的任务就是盯着黑板上的那道数学题把它解开就行了。

但是做创始人尤其是现在的AI创业者,田渊栋有一句话让我印象极其深刻:“没有问题是别人的问题。”确实你必须对一切负责。是的,而且有了这么强大的AI现在的创业已经不是过去硅谷那种老派的每周干七天、每天干十八个小时的纯体力拼搏了。拼体力已经没有意义了,它变成了一场极其残酷的创造力游戏。

现在的强AI其实就像是一个没有说明书的许愿机?对,体力劳动的时间长短早就不是壁垒了。真正的壁垒在于你能不能跳出既定的框架向这个系统提出最具破坏性、最能突破边界的好问题。到你能提出这种问题的时候,AI自我迭代的能力会展现出一种令人胆寒的威力。

说到自我迭代我一直试图去理解AI到底是怎么优化自己的?田渊栋之前写过一篇关于“grokking”的论文,也就是我们说的顿悟现象。对这是一篇非常重要的研究。我试着用人类的经验来理解一下这个概念啊你看对不对?这就好像是我在准备一场微积分期末考试,一开始我根本不懂什么是导数我只是死记硬背了一大堆公式去套题也就是俗称的做题家。

没错,但是当我在题海战术里做了比如说五千道题之后的某一个瞬间我的大脑突然咔嗒一下我真正理解了微积分背后的几何意义了以后再变题型我都会了。这就是动物吗?神经网络也是这么工作的呃你的直觉非常准,但神经网络内部发生的事情比人类大脑的这咔嗒一下要硬核得多。怎么个硬核法?

你看啊如果你给神经网络输入大量的结构化数学题在训练的早期阶段它确实只是在死记硬背学术上叫过拟合就是强行记住答案,把输入和输出强行绑定在一起。但如果你顶住算力消耗——也就是烧钱继续强制训练它不停的考它越过某一个数学上的临界点之后模型内部的网络权重会突然发生相变。

哎,相变?像水变成冰那种物理相变类似的概念它会抛弃原来庞大的死记硬背的记忆网络涌现出一种极其简洁、完全正确的内部表征。它从知其然瞬间跃迁到了知其所以然哇!然后它的泛化能力就会呈指数级飙升。难怪呀,那如果把这种开窍的能力直接用在底层的系统优化上这结果绝对是毁灭性的。

事实证明就是如此Recursive公司直接把他们的AI拉去参加了Nvidia的一个叫XC Bench的基准测试——我看到了,是底层算子优化的比赛。对结果他们直接拿了第一名把拥有顶尖专业GPU工程师的明星团队比如大破AI给按在地上摩擦了。而且最离谱的是当时他们甚至还没动用最强的模型,这确实离谱。

我原本以为啊底层算子优化这种事儿就像是你要把几千个形状奇奇怪怪的箱子严丝合缝的塞进一辆搬家卡车里。这是一个很好的空间比喻对吧?人类顶尖工程师凭借十几年的手感和经验知道哪些箱子该垫底、哪些该放边上。AI凭什么比人类更懂硬件的脾气?因为人类的经验在天文数字的组合面前是不堪一击的。

算子优化需要在极其庞杂的硬件搜索空间里寻找最高效的内存调用和并行计算方式,空间太大了极度庞大。人类工程师受限于大脑的算力你只能尝试几十种基于直觉的组合,但AI可以在几秒钟内模拟出几十万种装车方案然后在这个过程中触发你刚才说的顿悟机制。完全正确,它能找到一种极其反直觉但在数学上绝对完美的排列方式这是人类永远也猜不到的最优解。

呃如果你现在正在听我们这期深度探索想象一下这个场景啊:你在你最引以为傲的专业领域比如极其底层的系统架构上积累了整整十年的手感和经验算是行业老兵了。对,突然一个连实体都没有的AI跑过来几秒钟就把你的毕生绝学给秒杀了这简直是信仰崩塌啊!资料里提到一位DeepSeek的资深研究员他就专门写了篇长文字里行间全是这种存在主义危机。

我也看到那篇文章很让人感慨,他以前最大的乐趣就是看着自己手写的底层内核然后系统性能提升了那么百分之几。现在呢AI轻轻松松就能写出比他好十倍的代码他连看着数字跳动的那种激情都失去了。这场行业阵痛是避无可避免的,其实试图对抗这种趋势——啊就像在工业革命时期你非要用手摇纺织机去和蒸汽机比赛一样毫无意义。

我们不可能再退回到全手工写底层内核的时代了,田渊栋策略就非常聪明:他主张把人类的精力向更高维度的概念层级跃升。怎么个跃升法?就是不要去和AI比拼执行力,而是去寻找AI系统的弱点找到AI的边界和盲区然后引导它。在未来的经济体系里能够精准定位AI弱点的人才是真正不可替代的。

哎刚才聊了这么多AI的碾压局我现在必须要抛出一个质疑了:你说既然AI这么强大顿悟这么牛算力也在呈指数级增长那是不是只要给足了钱买足够的GPUAI不就能暴力破解宇宙里的一切奥秘了吗?为什么还需要人类去寻找什么盲区?我们直接把地球的控制权交出去不就好了吗?

啊!你这里预设了一个非常经典的陷阱。什么陷阱?你把无限的算力等同于无限的创造力了。事实并非如此啊!如果一条路本身就是一个死胡同你投入无限的算力只不过是让你更快地撞死在南墙上而已。呃这怎么理解?在纯数学领域比如资料里提到寻找雅可比猜想的反例或者Navier-Stokes方程的有限时间爆破,AI不是已经达到了AlphaGo的级别了吗?

请注意这些数学成就恰恰暴露了AI最大的软肋。怎么说?AI能在这几个领域取得成果是因为它开启了一万个智能体烧掉了上百美元的算力费在现有的数学框架内进行了海量的疯狂试错——暴力穷举嘛。对,这就好比在一座迷宫里AI虽然跑得极快但它只是在挨个试探每一条岔路。而像Navier-Stokes方程这种流体力学问题它的搜索空间几乎是无限的——就是路太多了试不过来。

是的,AI依靠纯暴力搜索虽然偶尔能撞大运撞出一个结果但这本质上依然是缺乏方向感的。也就是说AI就像是一辆马力拉满但是没有方向盘的跑车,只要给的油门足够大它确实能在迷宫里疯狂撞墙最后硬生生把墙撞开一条路出来。但这种方法极其低效甚至很多时候是无效的。

我看访谈里提到了一个非常绝妙的实验对比,哪一个?就是如果你让一组AI去解一道全新的开放性的难题前几个小时他们的进展神速瞬间把人类远远甩在身后。但是呢?跑了二十四个小时之后AI就会死死地卡在一个局部最优解里停滞不前。他把周围的墙都撞了一遍然后摊牌了告诉你此路不通,接下来就是见证奇迹的时刻了对。

接下来发生的事情才真正定义了人类:一个人类研究员走过来只看了五分钟——就看了五分钟AI这二十四小时的无效挣扎。对,然后轻描淡写的指出了一个完全不同的切入点他说:“你为什么不试试转换一下视角用另外一个数学框架来解呢?”然后AI顺着这个新方向一试瞬间就破局了。没错,人类这五分钟的灵光一现彻底击败了机器二十四个小时的暴力穷局啊!

这太不可思议了,可是为什么AI自己想不到换个视角呢?这就是核心痛点了因为当前所有的AI系统都严重缺乏一种能力叫做连续学习能力,还有新概念形成的能力吧?对,AI极度擅长在既定的规则或者现有的概念框架内进行排列组合。但是当面对一个完全开放的、甚至连评估标准都还不存在的全新研究领域时AI完全抓瞎了。

它无法自己发明一套全新的理论框架,就像你能把积木搭得很高但你没法凭空发明一种新积木。突破一个现有的阈值是一回事儿,那既然当前的AI模型在连续学习上存在这么明显的缺陷为什么整个硅谷不赶紧去解决它?是不是大家走进了什么死胡同?

田渊栋在访谈里提出了一个极其尖锐的观点他说:“整个行业目前都被困在了Transformer架构的陷阱里。”Transformer陷阱?大家不是都在用这个吗?对,大家都在死磕注意力机制和前馈神经网络这其实是一种极其严重的全行业路径依赖。这是一个非常可怕的局部最优解呀简直是个黑洞。

Transformer架构确实是这一轮AI爆发的绝对功臣,但它的成功引发了强烈的吸附效应:所有的芯片制造商比如英伟达都在为Transformer优化底层的矩阵乘法;所有的软件开发者都在写适配它的库。整个生态系统都被锁死了,对任何试图打破常规或者试图解决连续学习缺陷的新架构在初期都会因为跑得太慢、或者根本得不到算力支持而被无情地扼杀在摇篮里。

这就像是呃就像是整个城市的交通网络、加油站、维修厂全是为了跑得最快的马车而设计的。然后呢?这时候如果有人发明了第一辆内燃机汽车大家不仅不会觉得这东西有潜力反而会抱怨。抱怨什么?抱怨这辆破汽车连个能吃草的马槽都找不到跑得还没马快,于是直接把它扔进了垃圾堆。非常生动但历史总是惊人的相似。

田渊栋回忆起二零一二年到二零一六年期间他在Google Brain工作的场景,那时候风向是什么样的?当时整个行业的共识是搞机器视觉的只认卷积神经网络也就是Conv Nets;搞自然语言的呢只认循环神经网络RNNs。当时全行业都在为卷积网络定制芯片,谁能想到后来一统天下的Transformer最初被发明出来仅仅是为了修一个bug——为了解决RNN在处理超过一百步信息时会产生的遗忘问题。

当年谁也没预料到这玩意儿能扩展到今天千万级别、万亿级别的超大上下文窗口啊!所以打破共识是极其困难但也极其重要的。这让我想到资料里提到的另一个正在打破共识的例子——Muon优化器。对,我们都知道Adam优化器已经霸占了行业整整十年了被所有开发者视为理所当然的默认选项就像空气一样自然。但Muon硬是杀了出来,既然Adam是行业标配Muon一开始肯定被打压得很惨吧?

相当惨。Muon最初对分布式训练极其不友好在多张GPU上并行计算时效率极低,这就好比你的汽车连不上现有的高速公路网。如果按照现在这种内卷的逻辑它早就被抛弃了,但有人在单卡GPU上看到了它的底层潜力随后整个开源社区开始发力大家从底层硬件并行化着手去硬生生适配它。最终展现出了成为下一代主流的巨大潜力,这说明了什么?

当你所在的行业所有人都朝着同一个方向疯狂内卷的时候去寻找那些看似不起眼、甚至与现有基础设施不兼容的边缘痛点跳出框架去思考才是破局的关键。没错,非共识才是最大的价值所在。那么问题来了如果新架构真的到来或者说现有的AI继续顺着算力曲线飞速进化?未来一两年的科技圈会变成什么魔幻的景象?

呃田渊栋预测到明年市面上大量的科研论文将直接由AI来撰写,人类和AI联合攻关的项目会呈指数级爆发。等等但是?人类根本看不过来那么多论文啊!一天产生几万篇谁看得完?这就会催生一种荒诞但必然的套娃式阅读方式。套娃式阅读,人类不再阅读原版论文了而是依赖我们的AI系统去提取那些由其他AI写的论文的摘要。

然后呢?为了消化这些海量的摘要我们可能还需要一个更高层的AI来进行提取的提取,这画面太美了简直不敢看。也就是说以后我们做这种深度探索可能就是在读一个AI写的总结了另一个AI生成的报告的最终摘要,很有可能。而且在这个信息极度过载、注意力极其稀缺的时代要想证明你的AI比别人的厉害企业只能采取越来越极端的营销手段。

资料里好像提到小米对,小米甚至开启了所谓后训练运行过程的现场直播。大家不看论文了直接跑去直播间看AI的训练过程把科研硬生生变成了一场真人秀啊!营销只是表象,如果你想在未来一两年内寻找到最具商业价值、最能转化为真金白银的突破口田渊栋给出了一个极其清晰的藏宝图是什么?

在AI for Science的广阔领域里跳过纯数学、跳过普通的计算机应用直接瞄准材料设计。为什么是材料设计而不是我们经常在新闻里听到的那种什么AI研发抗癌新药之类的?药物研发的市场规模不是更大吗?这就涉及到了AI系统最核心的一个诉求:什么诉求?验证的迭代速度。

你看啊药物研发虽然价值连城但因为它涉及人体它必须经过极其漫长的临床试验和严苛的审批流程。就算AI今天发现了一种神药你也要等上好几年才能验证它到底有没有用,反馈闭环太长了。没错而材料设计则完全不同——这就是他提到DFT也就是密度泛函理论的原因吧?我提前查了一下这玩意儿相当于在计算机里直接模拟分子和电子的量子力学行为解释得非常准确。

有了DFT和高级物理仿真你完全可以在虚拟环境中让AI进行快速迭代,从而极大地缩短研发周期。这就是为什么材料设计成为了当前最具爆发潜力的领域之一。

高并发地测试几百种新电池材料的导电性、耐热性。哎,因为是纯虚拟的物理模拟,AI可以在几秒钟内完成验证。没错,只要仿真结果达标,你在实验室里把它合成出来,大概率就能直接应用在下一代手机或者电车上。它的试错成本极低,反馈周期极短。这正是AI指数级进化最依赖的高速游乐场。

哎,这恰恰完美印证了我们前面的推论:当AI拥有了不可思议的执行力和算力,但它却无法自己穷举所有方向,也无法自己设定现实世界的物理评估标准时。哎,人类的主动权就体现出来了,就在于定义问题和设计可验证的环境。

哎,提出高维度的问题,构建一个让AI能够不断自我验证和进化的沙盒,这就是人类在未来科研版图上的终极定位。哎呀,我们的这一趟深度思想探索即将到达尾声了。回顾杨东天博士这份极具前瞻性的分享,从他决定放弃大厂优渥的资源去开发可能替代自己的AI的那一刻起,游戏的规则其实就已经重写了。

AI不仅仅是一个只知道敲代码的实习生了,他正在通过内部表征的顿悟,试图掌握科研推导的全柄。哎,但是同时,他的阿喀琉斯之踵也无比清晰。他在连续学习上会陷入局部最优解;他在提出全新概念和跳出Transformer陷阱时依然极其笨拙。

是的,哎,所以无论你身处哪个行业,你是做底层的代码架构,还是做日常的商业决策,当AI把执行卷到极致,甚至卷到让你失去工作激情的时候,啊,请记住,你的核心竞争力只剩下了一件事儿。哪件事儿?

哎,站到迷宫的上方,找到AI撞墙的那个死胡同,然后轻描淡写的给他指出一个全新的方向。哎,这也引出了我们今天想留给你正在聆听的你最后一个思考题:在这个系统里,人类负责指出方向,AI负责暴力狂飙。

但是,如果有一天,AI的连续学习能力真的突破了瓶颈,那会发生什么?它开始不仅能解决问题,还能自己提出连人类都看不懂的极其深奥的绝妙问题时?我们该如何判断,这些由机器提出的问题,对人类社会究竟是有益的指引,还是仅仅只是一场冰冷逻辑的自我狂欢?

感谢你加入今天的深度思想探索,我们下次再见。