我其实，在被裁之前已经有 offer 了。因为我在公司里待了十年多了，所以也许这个正好是个时机，可以出来看看。你觉得 LLM 是正确的路线吗？我觉得 LLM 呢是一个很有意思的路线，但我不知道会不会是正确的路线。Scaling（规模扩展）是一个悲观的未来，对，因为 Scaling 说实在的，这个 topic 呢本身是一个很奇怪的一个 topic。
所以现在大语言模型最大的问题是什么？最大问题是不是说数据量需要很多，跟以前自动驾驶是一样的嘛？就是一开始进展非常快，大家会觉得哇，马上就能取代人了。但是越往后走呢，问题越大。为什么呢？是因为就是好的竞赛、好的数据越来越好，越来越难找，数据越来越少，那你的模型就训练不上去。
你是怎么看 RL 这条路线的？强化学习最大最大的好处呢，是它是主动学习的。它能对那个数据的分布产生很积极的影响，这是它最最最核心的地方。
learning才能让这个模型真的学会推理。如果你做SFT的话呢，这个模型可能就记忆了就是之前的那些推理的过程，但是它并没有产生泛化能力啊，在新的问题上可能泛化能力没有那么强。啊，就是特别是如果你做了大量的 SFT，啊，你可能这个模型的那个质量就可能会下降，嗯，啊，所以呃，这个其实是。呃，这个两个的区别啊，但是就是说强化学习它只是个范式嘛，就是说它不是说是有什么神秘东西在里面啊，因为它最终的目的还是改决改变改变权重，对吧？对，嗯。那么这跟SFT是一样的，只是说改变权重的方式不太一样。
所以其实最终也许存在一个方式可以统一那个 reinforcement learning 和SFT，对吧？统一这些东西，因为最终目的都是改变权重。那也许我有更好的方法来做这些问题啊，强化学习对对大家来说其实就是一种不同的数据采集的方式而已嗯对吧？它是通过边搜索边采集，然后把这数据放在一起，然后再去做训练啊。那么这样的方式呢，相当于是一个主动学习的方式啊跟 SFT 的方式是不一样的嗯所以我觉得强化学习最大最大的好处呢，是它是主动学习的。它能对那个数据的分布产生很积极的影响这是它最最最核心的地方嗯而不是说是呃，它的那个目标函数跟那个不一样或者说它的训练算法跟它不一样不是这样子。
我觉得最终还是看它的数据，最终采集的数据它的质量是跟那个 SFT 是不同的应该是这么样子所以它才能够解决一些比较难的问题吧。艾瑞卡卡巴西之前说的那些嗯这些东西呢其实像有些我也觉得挺好的呃，像关于A加还有十年这样的论断就是我们是进入一个decades而不是说进入一个啊比较立即就能获得AGI能力的这样一个时间嗯对，这个我觉得这个我是觉得相信的。像我自己之前也是用过GPT五然后帮我一起做一篇文章我最近一篇文章其实是我和GPT五通过self play算出做出来的对就是相当于我没有任何的学生然后我就每天跟GPT五去对话嗯，然后我说我有这样的问题要解决啊，然后啊我就说啊这个问题我们怎么formulate嗯啊然后他会给你formulation。
但是你会发现就是如果你自己没有domain knowledge这个formulation呢其实做出来了也是跟大家差不多的没有什么创新性，没有什么原创性嗯啊但是作为研究员就是有一个对这个问题有很深的理解或者说我知道这个 formulation 或者说它这个影响或者这个思考的方式是不对的，或者说它的那个 formulation 里面有致命的问题那么把它指出来之后然后跟他说那么GPT五就会在这方面更深入，然后最终得到一个比较好的结果嗯啊大概是这样子。
所以就说这种高层的human insights呃，human knowledge和就是对这个问题的独到见解啊这些东西是现在的模型是缺的。呃你必须有这些现有些东西之后才能让这个模型变得更强啊，所以你要说AGI没有这些东西其实应该不能说AGI嗯对呃所以还是永远都没有办法获得最top的这种insight哎，对，insight还是永远都是人来是的。
就是这个问题就是以前我也讲过了就是跟以前自动驾驶是一样的嘛，就是一开始进展非常快大家会觉得哇马上就能取代人了但是越往后走呢问题越大为什么呢？是因为就是好的insight，好的数据越来越好越来越难找数据越来越少那你的模型就训练不上去。然后人对数据的呃获取能力和人对数据的深度挖掘能力永远是超过计算机的现在是这样子，超过所有的模型。对同样的问题可能人只要一两个样本就能看到本质但是计算机的话或者说现在的那个大模型的话它需要啊，它可能需要比如说至少几百上千吧的样本才能大概感觉到一个轮廓啊。那么预训练可能是更需要更多的样本，那么在这种情况下就是如果样本数不够的话呢人永远是比啊现在的大模型要厉害的。
特别是对一些就是小领域的专家他们没有办法，他们甚至也自己也没有办法把自己学过样本吐出来给给计算机看嗯啊因为这些样本可能在他脑子里就是他的经验嘛，那这些经验很难去量化成一些一些句子。那么所以就是如果是这样的话那AI就只能永远是跟着人后面走啊，就是人通过某种比较好的就是处信息处理的方式获得一些 insights然后光给计算机光给用 AI让 AI 去啊在这个方向上去做得更好嗯目前是这样的一个状态。
所以我觉得那个这个也是跟我之前的一些论断也是比较接近的因为我以前也是接受采访我说 Scaling Law 是一个悲观的未来对，因为scaling说实在的这个这个topic呢本身呃是一个很奇怪的一个topic应该这么说嗯。因为如果在以前吧，大家跟跟大家说啊我加指数级的样本进去嗯然后或者指数级的计算能力进去之后我们的performance正在上升，然后上升的速度是线性的。那我觉得以前的machine learning scientist会觉得这些事情是trivial的呃，因为不管什么模型你都可以做出这样的呃论断嗯呃就是往里面塞数据然后就会有更好的啊，就会有更好的、更好、更好的结果啊这个都是这样子。
但是我觉得我们真正追求的是什么样的模型能够在这条路线上走得更有效率，更 efficient更快而不是说是满足于这这这个 law 是对的嗯。那因为这个 law 它给你通向的未来其实是一个比较悲观的未来就是说你需要需要用指数级的样本塞进去才能得到一个比较好的结果啊。如果是这样的话那么总有一天我们地球上所有的资源全部会被用完嗯，地球上所有的那个能源、所有的那个电力全部都会被用来那个训练大模型。在这种情况下我们是不是呃，我们是不是还要依赖于这样的这个这个能力去呃改变我们这个世界啊？这个世界很大的问题我觉得就是 at some point。嗯，应该说是就是可能大家可能会意识到啊计算量不是全部我们可能需要对模型有更深的理解啊，我觉得这个是而且这改变应该说应该会慢慢会发生嘛。
对这是我的一个我的一个想法对但是我们就需要一个更 efficient 的未来 develop intelligence啊是是是这个你觉得需要花很长的时间才会找到这个解法吗？嗯，我觉得大家也在努力吧对所以应该会花一些时间去做这些事情。那至少对于现在来说大语言模型它的能力是很强的呃，就算我们现在这个模型能力现在停滞不前它对于各行各业的各行各业的影响也是非常大的嗯对我觉得至少能够自动化很多一部很大一部分东西然后能让很多人的能力变得更强。
嗯，对我都觉得我家大语言模型已经远远超过以前的我哈哈呃所以这个让我觉得这上面有很多很多空间可以做嗯啊，所以这是我的一个很大的一个啊，很大的一个一个感慨吧。我觉得呃这个本身是一个新时代的到来了嗯所以就算大语言模型的进展不不够快的话就未来至少两到三年、三到五年这段时间之内我觉得又还有很多的，还有很多机会的嗯对。
所以你接下来还是想做前沿呃研究这一块还是想去尝试一下 application 这一块？就说当然最好是把量合起来。就是说如果我能够做一个前沿研究并且这个前沿研究是自动化的研究嗯那就很厉害了对吧？我已经感觉到就是我的研究的范式可能都会被自动化的这个啊，这个 pipeline 所所代替一部分嘛。你说是 A GIN吗？呃不一定是 agent但是 agent 肯定是一个很重要的因素嗯，就是说你用 agent 的话你可以帮你做很多事情。
嗯嗯比如说你也许不需要自己回邮件啦或者说你不需要自己去管理自己的那个那个代办事项对吧？To do list。啊，或者说你不需要自己去做一些繁琐的事情嗯啊这些东西都可以嗯用计算机来帮你做一些自动化啊就这个问题是不大的肯定是会发生的对呃但是更重要的是就是说AI能不能代替人的一些高级活动？啊，这个是一个问题嗯对人的一些比较高级的思路比较难的就是需要人的一些重要的就是insights的活动那些活动有多大程度上能够让AI帮忙去做做成了？有很多难的一些，就是科学问题对吧？对于AI能不能啊把这个事情做成嗯对现在现在就还不知道。
那么这样的话如果能做成的话那反过来也可以对我研究上影响对吧？那么研究上来说也许我会成为一个超级研究员然后加了很多AI之后我一方面能做更好的研究另一方面呢这些工具本身呢也可以用来造福别的东西嗯。啊，这个是如果是这样的话那肯定会很有意思嗯对你在就是被拉去救火喇嘛寺之前你手上在研究什么东西？那我们这边在做一些那个关于 reasoning 的一些研究对嗯主要是关于思维链对吧？
关于啊思维链的形态啊和训练的方式做了一些研究。其实我们在 Open 出来之前Open 是去年九月份出来的我们出来之前，其实我们就注意到呃非常长的思维链它会对呃整个模型的这个 scaling 产生影响。对如果一个问题你没有那么多、没有长思维链的话它的 CINL 是啊没有那么 favorable就是说你需要发很多很多样本才能获得一个比较好的结果啊。但是如果你有思维链的话啊你就很长的思维链你就会让这个模型的 CINL 的 curve 变得非常 nice，就是我可以用比如十分之一的样本获得啊更好的效果。十分的样本十分之一的那个啊parameter有更好的效果啊大概是这样子。
所以呃这个其实我们已经发现了，但是然后我们接下来就在这个思维链上就是做一些各种各样的变换或者说做各种各种各样的探索吧对吧？包括我们之后，我们最近做我们上去年年底做的那个连续思维链啊就是用连续空间来做隐空间推理啊，这个这篇文章现在是确实受到了不少的关注嗯嗯就是可能半年就大概有两百多个citation嘛就很多人愿意做follow up。啊做一些探索性工作，而且确实能看到一些进展嗯呃所以我觉得这些东西都是很有意思的对然后我们去年也做了叫Dual Former的这篇文章也是说一个比较早的提出来就是怎么样做混合思维模型对，怎么样就是长思维和短思维放在一起训练。然后发现这模型其实比单纯训练长思维、单纯训练短思维效果更好嗯啊对那现在其实这已经成为标配了对大家所有的思维模型都有这个长短思维那个在这样一个适应自适应的性质。所以应该说就是去年那些研究还是应该说比较跟得上时代的。
你你在菲尔还有什么遗憾吗？遗憾啊这个话很有意思啊我觉得遗憾呢，我觉得可能是这样就是啊我应该在FAIR应该做更多的这个是工程的工程工作应该做更多一点可能更好一点对呃，我我其实刚去FAIR的时候大概在前几年可能工程方工程工作做的比较多。对我之前的一些啊项目像围棋这些项目其实工程化啊都是自己比较多的啊做工程化的工作啊。就当时我其实还被批评说这个人过来是 researcher怎么天天做工程？当时是跟我这么说的，就是别人打别人打开屏幕篇平时平时平时文章我打开屏幕全是代码啊当时我被我这么被批评嗯对后来我就说好那如果研究科学家不能做工程的话那我就都看看代码看多看看那个文章。
对所以其实你会发现我在二零一五年到二零一八年这段时间之内就基本上工程比较多嗯，对然后到二零一八年之后到二零啊到现在其实研究比较多嗯啊大概是这样的一个一个状态。这当然是跟FAIR当时的一个啊那个这个指挥棒有关系嘛对吧？啊然后另外一方面就是我自己也有一些就是研究上的兴趣想要做一些更多的研究。啊那么就切过去了对但是现在你会发现其实现在在线这个时代工程工程能力强的人反而更受欢迎对吧？所以就很有意思啊，就是研究能力强的人就是也很受欢迎但是最好是工作能力跟研究能力都强。
啊这样是最好的那这个也太难了对对对对但是我觉得我可以做到一点就是所以我现在也在就是更多的做一些工程上的工作呃，是就是我们我可以把很多东西再 pick up 回来嗯对然后把这些工程的事情做好这个都是可以的。那么我觉得在FAIR做最大的收获呢应该说是二零一八年之后我应该在这段时间之内我会有很多的这个 research taste。就是对研究的一些品味和知道怎么做研究的一些一些方案他都能慢慢学会而且应该说就是这些品味在最近的几年的一些文章里面就慢慢体现出来。
嗯啊所以呃，应该说有品味之后呢其实这对向来的路呢应该说有很大的帮助。嗯嗯啊这个是很重要的对因为如果一个只做工程的人他有一个比较大的问题是呃，他可能会只做工程上的一些难的问题嗯但是并不知道这东西有什么用。嗯啊但是如果有研究的品味的话那意味着就是自己给自己设一条道路可以一直往前走嗯啊，那其实这个对于一个人人生来说是很大的好有非常好的好处。
是的嗯我还有一个问题非常好奇哈，就是因为你看现在就是各个公司AI的竞争这么激烈同时人才抢夺战也很激烈就包括Meta就新的那个Lab就花很多很多钱在一个人的身上对对对对。啊你觉得就是现在这个stage什么样的AI人才是最稀缺的？对，我觉得呃，这个完全看每个人的定位吧。嗯嗯首先一个就是我想纠正一个点就是说大家不要去想现在谁是最稀缺的。
因为有可能过个两年这个稀缺定义就发生变化对对吧？所以你想一样做了那么多年的冷板凳然后突然之间就拿特等奖。对对，所以我是觉得大家应该嗯大家应该想一想就是什么才是自己最想要做的事情而不是说是啊去做那些可能呃，公司喜欢的事情我觉得这个可能更重要因为这个已经就是它整个过程可能已经跟以前不一样了。因为对以前的情况来说是这样嗯就比如说市场发出信号这信号是说啊我们需要什么方向的人才然后这个信号可以通过大学的方式慢慢的往下传播对吧？比如说最近十年之内什么样的人才最吃香，然后这个信号传到大学大学会扩招对应的系。
然后扩招对应的那个老师一些学生就会去投报这个系，然后经过四年或者更长时间的那个培养之后呢这些学生啊最终满足了上岗要求。大概这样的过程那么以前这个循环是走得通的，因为整个逻辑、整个速度是比较比较比较应该说是比较慢的对吧？这个行业周期可能以比如说十年或者二十年的周期来在波动啊，所以这个过程是可以的。但是现在可能整个周期变得非常快嗯嗯等到你想要学市场上火热的那个技术之后全世界人都在学对吧？你你说你想到了别人想到了嗯，对吧？
这世上总是有总有学的比你快的然后总有学的比你好的总有往上上手把事情做成的啊，所以你很有可能会发现你学了半年一年之后啊啊你做不过别人你还是没有办法出头嗯啊那么这样的话市场发生变化说啊我现在也许明年就不是一个这个方面某个方面的能力最重要的一些时代了啊，可能换了别的东西。那么你这时候再去学就可能一直会跟着别人屁股后面走啊所以也许以后就大家会突然发现就是与其听从市场的号令还不如说我自己做自己想做的事情嗯，对然后一个做很开心然后另外就是说一旦这个东西被人发现了啊它的收益是很大的。
嗯，等于是这个这个当然是理想情况了对不？因为实际情况肯定是会两边要结合嗯你肯定会希望这个东西你自己判断在将来一段时间之内有没有用，再加上呃你自己的爱好嗯啊最后两个拼拼起来得到一个比较有意思的一个组合。那之后你可以在上面做花功夫嗯对大概是这样所以应该说呃，非常难去做判断嘛因为完全要看你自己的能力。
我感觉你还是一个非常有理想主义的人嗯哼然后我感觉整个菲尔的嗯之前也也上一次播客也跟你聊过嘛然后就感觉菲尔之前也是一个非常有理想主义的这样的一个团队。对但是你觉得就是在当下？我觉得市场有点扭曲了就是竞争特别激烈的时候你可能很多的文化、很多的信仰就会出现有一点的偏差。对嗯，你觉得就是在现在的这样的一个情况下还存在说会有比较理想化的 research lab 吗？
那当然比如说我们看到 maybe Elian Suskever 他的团队对，maybe 对 Mara 的团队被认为是比较有理想化主义的while他们的对面就是 Sam Altman然后非常的商业化、很激进。对你怎么去看这个平衡的？呃，我觉得首先是这样了一个是你不要把大厂当成铁板一块。嗯其实有很多的组然后很多组他们里面有 research team，嗯这些 team 本身也会有一些 research experience freedom是有的。
对，这个都是会存在就是说菲尔只是说一个非常
非常有名的地方，对，但是其实有很多地方，嗯，应该说他们没有像FAIR那么有名，但是呢，他们也有一个自由空间可以做research，这个都是有的。像就算在Meta内部，也有不少的组，他们有做research的空间。我有很多合作者在里面，其实他们也做一些research，所以这个问题我不觉得是个问题。就是说，就是他，就是也许就算fair，可能因为这次的原因或者因为原因导致，就是以后可能research做的就没有再那么research了，对吧？但是还是会有很多地方可以做。对，甚至你说做startup的时候，就是你也甚至有可能在有些地方，因为这个问题很前沿，那你在上面肯定会有些东西可以做。
因为我们在讨论research的时候，是指这个过程本身，嗯，就是找到一些新的那个solution for some hard problems，这叫research。叫research对吧？其实它是个search，那所以它不是说是一个抽象的概念嘛，对吧？所以，啊，我觉得有很多地方可以做，就是不是没有铁板一块说啊，大厂不能做了，小厂可以做，就是不是那么简单，是完全取决于哪个组、哪个人有什么样的资源、什么样的东西，然后这些人放在一起会怎么样产生化学反应，对吧？
然后可能今天可以做，明天不能做，或者说一段时间之内他有这个space，然后换一个其他时间就没有这个space。对，所以无数人都在思考这个问题，然后也许会在这段时间之内肯定出一篇新的工作，然后去影响整个领域。啊，所以应该说research永远是会继续进行的，啊，只是说它的形式可能会变成更像游击战这种形式。
就是并不是说有一些非常知名的那个research institute，对吧？他们会做研究、会说啊，我dedicate我们所有的时间和精力去做研究，可能不是这样。就是但是你会总会发现，有很多有理想的人、有理想的那么小的组织啊，在继续做他们想做的事情。嗯，啊大概是这样子一个过程，对，就是不是零和一嘛，就是有很多灰色、很多灰色的地方。
啊最后一个问题啊，就是你的下一步是什么？下步我刚才说了还没确定嘛，对吧？所以还在还在讨论中吧，还在讨论。因为现在离被裁就还没到一个一个礼拜，对吧？所以也会有一些那个考虑和想法吧。对对对对，刚才问的是就是啊，我想去做应用呢，还是说想去继续做我的一些科研研究。
对吧？那么我当然回答是最好两个听起来，嗯，我们能做一个办法能够赋能我的科研研究，同时本身也是能够做很多别的事情。这样的一个一个东西，对吧？有这样的机会存在吗？我不知道，但是一般来说是这样，就是我们先aim high。嗯，然后再去看，嗯，是这样子，对。
因为一般来说人会比较现实，说啊有这样的机会我就不用想了。但是其实应该是倒过来，你先想一个不可能实现的目标，然后再去想有什么东西可以fit to it。那这可能会让你有更好的方向可以走。嗯，对，好的，那就期待你接下来announce你的下一步动向了。OK，好，先这样子，对。
好的，那么以上呢就是我们对田渊栋的采访全部内容了。我们也期待他的下一步动向。我非常希望他能够找到满足前沿研究和工程应用两者平衡的新角色。我想这也是AI的前沿工程师们都在探寻的路。祝他好运。那你们认为这样的AI工作存在吗？欢迎大家给我们留言、转发和点赞，你们的支持是我们硅谷101做好深度科技和商业内容的最佳动力。那我们就下期视频再见了，拜。