Hello，大家好，欢迎来到投石问息。我们是 Creekstone Ventures，专注早期 AI 投资的美元基金。我们相信自进化 Agent 起点临近，更相信人性创造的光辉。在创造未来的路上，我们坚定 AI
Native，坚定破坏性创新，坚定和创业者站在一起。投石问西是我们的访谈发声栏目，我们交流最一线的创业者对未来的洞见，最前沿的研究者对下一代进化的探索，和有趣又深刻的同路人最真实的感悟，期待激发更多思考和链接，探索伟大。
非常感谢，呃，来到这一期的克里斯隆专访。就是在今天的 AI 圈，我们似乎已经习惯了这种暴力美学，用更多的算力、更庞大的数据、更黑盒的参数，在这片喧嚣中呢，我们发现有一位科科学家始终保持着一种近乎古典的冷静。他既是 Meta Lama 的这个核心架构背后的关键推手，也是那个执着于用数学去拆解黑盒。寻找
AI 逻辑本质的白盒诗人，呃，我们非常有荣幸今天请到呃前 Meta Fair 的资深首席研究员田渊栋老师，非常感谢田老师您的到来。
好，感谢啊，一豪啊，邀邀请我，嗯，对，我也进到这儿了，然后我们大家啊，讨论一些技术问题。嗯，哎，谢谢谢谢田老师，因为很多人了解您啊，因为 Open Go 啊，或者包括 Lama，但是其实我们读您的研究的文章啊，发现您在这个呃工程的宏大叙事下，其实一直有一颗想把 AI 变美、变透明、深度理解 AI 的这的心。
然后年前我们在硅谷也一起吃饭聊天，更是感觉意犹未尽。今天也很荣幸能够一起开开启这样一场呃有趣的旅程。嗯，我们就先快问快答的 warm up 一下，把这个呃气氛轻松活跃一下。对田老师，您的出生地是在哪里啊？对，我是上海人啊，我之前呃在上海出生吧，对，在上海长大，嗯。大概是呃，可能应该说十几岁一直在上海嘛，对，二十几岁一直在上海。
然后后来我就去北京有一些实习的机会吧，啊，包括去微软亚洲研究院啊那些机会，能让我看到更大的天地啊。然后就慢慢的萌生了要出国的念头嘛，啊，大概是这样的一个一个逻辑。对，然后零八年我去嗯那个卡内基梅隆大学啊读那个博士啊，待了五年。啊，然后在二三年啊一三年时候毕业啊，那毕业之后我先是去了那个无人车谷歌无人车啊，然后在无人车里面待了大概一年三个月啊，然后现在啊之后就出来就去那个 Meta。
啊，在 Meta 我待了近十一年的时间啊，应该说很长很长的时间啊，在之中间有很多的项目啊在做啊，就是包括一开始的一些围棋的项目啊，然后来用 AI 用强化学习来解决一些优化问题啊，然后打开大模型的黑箱，大模型的优化，大模型推理啊，然后啊一些 llama 的一些工作吧啊，强化学习一些工作，大概就这些嗯，哇，太厉害了田老师，那能不能了解一下您的 MBTI 跟星座？
啊，MBTI我可能是INTP还是INTJ，可能是J还是这，就最后那个不知道。对，呃，我觉得这个要看就是要跟谁比。如果跟非常P的人比，非常J的人比呢，我我我可能我可能我可能是P对。但是如果跟一般的比较P的人比，我有可能是J啊，所以大概是这样的一个一个状态吧。嗯，哦，但但您是I人，这个更享受。这个应该是
I 人嘛，但是这个数，这个应该是之前测很早以前有一些测，但是现在我也不知道了，嗯，因为确实个性在很多情况下有一些变化，嗯，对，因为 I 人的定义呢是说能够在独处中获得能量嘛，嗯，所以这个我觉得是蛮多的条件的，嗯，对，但是呢， I 人可以伪装成 E 人，嗯，就是就是可能最近应该说是在这个。
十几年的时间中，我们就慢慢掌握了怎么伪装成艺人的办法啊，对，所以其实很多时候跟别人聊天也挺开心的，所以也不是说是那个完全的挨人吧，呃，所以这个是很有意思的事情，因为我可能在。二零零八年之前应该是完全这个矮人，就是根本不想说话，就是可能是个非常内向的，或者说完全不愿意跟别人交流，交流比较比较就是比较少的一个人。
对，但是慢慢慢慢就是在这个学术的锻炼下，然后呃博士阶段的一些锻炼下呢，其实慢慢会变成一个比较易的人啊，或者说就看到一些跟别人聊天或者跟别人交流的一些乐趣啊，那这样的话才会沉浸进去啊，所以这个也是不错的，嗯。这太有趣了！您觉得在中国的环境，呃，包括这个学术科研环境，跟到美国的学术科研环境，对您的性格塑造上有有什么一些变化影响？
对，应该说有很大的影响吧。对我觉得那个中国的环境还是相对来说比较呃，就是说二元化比较严重吧。就是呃，很多时候是这样，就是作为一个好学生啊，不是大家从小都都是好学生，慢慢长，慢慢慢从小学到初中再到大学啊，这个过程中应该说。呃，大家其实是鼓励，或者说大家去有意无意的给大家贴标，给自己贴标签嘛，就说啊，好学生就应该不说话，好不应该好好把做题题目做了，然后把事情做完，然后不要声张，啊，就是就是这样的一个一个逻辑。
然后当时是有这种风气，说你在外面说很多话的那些人，可能都是吹牛的，或者说那些人是比较就是不太脚踏实地呀，对吧？不不太愿意，不太把事情做做不成的那些人，对对对。所以基本上是这样的一个两极分化的一个情况啊，对，所以你就会发现可能，呃，如果按照国内那套标准起来的话，就是很分得很清楚，要不就是你话很特别多，或者说你专门是 sell 的，要不就是说你就干活的工程师，对吧？
所以这两个是不一样。但是你去来美国之后呢，我觉得可能是啊，应该说有很大的区别，就是你会发现有些人他 I 和 E 都有，就是说你他愿意说话，然后同时他也愿意坐下来把事情做好。啊，所以这样的人其实应该说有很多的呃那个那个是，就是该干的什么干，就把这件事情做得很好啊。所以其实你会发现有很多的空间，其实是可能以前未曾设想的道路，对吧？
所以有这个未曾设想道路的话，那你为什么不走呢？就可能有一些有一些事情可以学习啊，可以可以可以发展啊。所以应该说人格在或者说这个人的这样的一个那个呃这个这个这个这个变化，那个大概应该说就来了美国之后，应该有很大的一些一些一些改变。啊，那这个改变其实很多时候还是比较积极的，嗯，所以我觉得还是对于我来说有很大的一个人生上的一个一个一个升级吧，啊，所以这个应该说是挺有意思的，嗯，就所以很早您就在体会
context 环境对对您的模型对您长期 L 的影响是吧？
哎，是的，是这个是非常重要的，因为我觉得这个中国的环境风格它就是那种 negative reward 特别多，对吧？你可能偶尔有一两个 positive reward，就是很开心的不得了，对。但是有大量 negative rewards，啊，但这个不是说就是让这个 model 能够很快的是
convert 到 something everyone looks very similar，就大概是这样子，因为这样的环境应该会不不太鼓励 exploration。
啊，是这样子，因为到处都是 negative reward，可能只有一条路是 positive reward，你往那边走了。呃，但是但是呃，如果是一个多元化的环境呢，可能不一样，因为有些时候你会发现各种的，各种有各种各样的 positive
reward。啊，然后很多时候你你会感到周围的人都会在鼓励你，或者说不会给你太多的那个负面信负面信息，就是让你就是没有那么焦虑，或者说啊，我今天又没做好什么事儿啊，不行，明天今天一定要做好。
啊，这样没焦虑的话，那大部分人会相未来相对来说有一个更加呃开放式的这个心态啊，做一些完全不一样的事情啊，我觉得这个是一个比较好的。啊，一个一个环境啊，其实硅谷也是这样的一个环境，有很多人其实你就觉得他们不知道害怕的，嗯，就是说他们有一些就是感觉上这个脑子里缺根筋的，就是说啊这个。就是中国人会说啊，这个事情不能，这个事情不能做，但是他们好像就不怕啊。
实际上就是说，好像就不怕死，还是不怕什么的啊，就是愿意做一些很夸张的、疯狂的事情。那总会有一些，大部分人可能失败了，那有一两个人很夸张做成功了，那么他们就成为那个 leader 啊。所以大概是这样的一个一个风格啊，所以其实是不一样。感谢田老师，我相信您这个分享其实对很多年轻的 researcher、年轻的创业者、年轻的在选择人生道路的人，呃，对他能提供很多的帮助和和非常重要的这个评价跟信息啊。
呃，另外也想了解一下，田老师您最喜欢的电影跟书籍是什么？书籍什么？当然了，我是应该应该说科幻还是看的比较多一点啊。对，当然我是一个我看小说也不少了啊。对，因为应该说从二零零五年到二零零六年开始，就是开始看一些网络小说吧。对，呃，我应该也算个资深的一个读者啊。之前看过不少的这样的一个那个大作吧，就是小说大作。
对，也挺好，我自己也会自己写，因为看多了之后也想自己写一些有意思的故事。嗯，对，应该说科幻上来说，我当然是就是《三体》还是一个非常震撼的啊一个作品。对我觉得就是说，《三体》特别是第二部读完之后，我会觉得就是这个世界发生了变化。我觉得在出出门的时候。这个整个世界是不一样的，就是你看起来好像你还是鸟，山是山，水水还是水，对吧？
然后，但是你就给我的感觉是完全不同的，所以大家就只有《三体》这本书对我产生这样的影响。对，就是觉得就是好像这个世界观被颠覆了，就是因为他给你的另外一个解释，这个解释呢让你觉得很有道理，但是这个解释跟你现实生活是完全重合的，嗯，所以这个是一个很大的一个一个触动，让我觉得嗯这不错，所以我当时的围棋的一个bot也是以三体第二部的那个。
那个名字来命名吧，叫黑暗森林，对吧？当然这个豹子本身不是很强啊，但是呃，之后我们做了一个更好的豹子叫 OpenGo 啊，可以啊战胜那个职业棋手啊，用单用单卡来战胜职业棋手啊，但是至少就是这给我的感觉是非常的非常美妙的，应该说是这样子啊，对，所以这个是我觉得一个非常能让我觉得很有。嗯，很有感觉的一一本一本小说吧。
对电影的话，其实我觉得影视作品，我可能动漫看的比较多一点啊，所以不是倒不是那个电影看太多啊，所以嗯，就是动漫对你影响最大的或者最喜欢的动漫呢？呃，动漫其实有不少，对，就不少嘛。就是像《攻壳机动队》，应该说是比较科幻，但是确实有很多的。就是想法和念头是非常有意思，嗯，是是这样子。对，还有一些一些应该说是比较老的，呃，那个动漫吧，对。
呃，像有一部应该你们知道叫那个反逆的鲁鲁修啊，就是说这是应该是挺早以前的那部了，但是应该说经典吧。嗯，希望非常非常那个非常建议大家去看一看啊。就是如果是二次元的人的话，我应该也算是老，也算是老二次元，但是我可能我不会讲太多的二次元东西，但是确实我会喜欢看一些东西，嗯，挺有挺有趣的。对，就是还是有很多很有叙事作品，就是里面的人物塑造和剧情的编排，应该说是非常有趣的，嗯，就是还是挺有意思的，很多东西也我也愿意去学。
嗯，对，这个跟您特别共鸣，反叛卢鲁修，包括
EVA，这也是对我影响非常大，攻壳机动队非常大的这个动漫的作品。最后一个非常小问题就是，呃，田老师，您觉得经历个什么事情？实际上您前面提到，比如说呃第二部的三体，但有什么事情是最改变您的个人世界观的？呃，一个小经历的话，主要是。我觉得其实也就是回到之前那个状态，就是说，就是怎么样把从 E I 人变成
E 人这样的一个一个一个一个状态，应该说是应该说改变我这个世界观的一个一个一个一个一个入入口吧，对吧？
因为我以前非常，然后呢很难去跟别人去交流，很多时候也不太愿意说话啊。但是这样的一个逻辑啊，因为是我是虽然我之前我也写过嘛，就是比如说我被老师说啊你要上来讲那个讲这个事情，你会发现我站在那边可能什么什么什么话都说不了。啊，对我会有这样一个紧张感，对，非常的紧张。但是就是等到就是在台上演讲了大概一次两次之后啊，觉得这个自己的东西很有意思，被大家欣赏了。
啊，有这个演讲的这个动力的和那个过程了之后，你慢慢就打开了这个这个这个心态啊，就会讲得很好。啊，就是这样的话呢，就是整个应该说这个人生从从这个这这个这样机会之后，你慢慢就往上走了一层，因为你知道怎么样才能表达自己，怎么样让自己的这个想法和意见被别人接受啊，被理解。方式呢，就可以让呃，这个应该说是接下来这个局面就打开了啊。
我觉得这应该是一个影响人生的事情，嗯，所以现在看起来就是这些事情还是很重要的啊。就是如果一直是一个。就是埋头苦干，但是不太愿意跟您交流的人呢，可能以后的上阶也不会太高啊，所以这个是不一样的。嗯，哇，这这个这个对很多这个年轻 researcher 我觉得也是一个非常好的这个一个提示啊。呃，那我们就正式进入访谈访谈的几个几个 part 里面。
第一部分实际上呃是想跟您探讨您的学术的研究的路径跟您的决策美学。其实第一第一个就是我们看到其实我们非常好奇您的这个整个研究路径的底层驱动力是什么。因为最早做过 computer vision，然后包括 robotic 的研究，后来到了这个呃深度强化学习，再到现在的 large language model，呃，就是在这条背后主线有没有一个贯穿始终的这种底层的好奇心主线，或者某某个思维的链路？
您能否跟我们分享一下？对，我觉得思维链路应该说比较明确吧，其实就是想要打开黑箱子，然后发现这个具体的底层机制。我觉得这个是一个最大的一个一个动力。嗯，对，但是这个动力呢，其实很多时候是隐藏在很多的那个项目里面的啊，因为你不可能说我是完全做这个，那做这个的话呢，肯定变成数学家了。如果变数学家的话呢，不一定有饭吃。
呃，当然这个可能不是对数学家的黑化，但是确实是一个现实啊，就是很多时候是这样，所以必须要找到一个就是现实世界的一个支点，就是。啊，你把怎么样把自己的这个想法和思路贯彻到这个现实世界的一些重要的那个这个项目里面去啊？这个是重要的一个一个东西。对，像当时我们当时在 Open Open Go 的时候呢，其实一个主要的动因，说我我看 Alpha Zero 那么厉害。
啊，他能左脚踩右脚踩上去，完全没有任何人类的，呃，棋谱啊，他是怎么做到的？有什么弱点啊？当时记者的想法，OK，我们要不重复现一下，看看有没有什么有意思的那个想法和那个那个那个逻辑啊？然后我就把整个工控程化的那个系统分分布系统给给做了一遍，然后把然后把这个做出来。啊，所以当时还是就是挺有趣的一个一个经历吧，对吧？
因为最终目的嘛是希望啊，我整个强化学习的一个系统，然后一个自对弈的一个系统，一个没有人类棋谱的系统是怎么样慢慢慢慢变强的啊？我觉得这个是一个很有意思的一个经历，所以这个本身也是一个就是不开源和呃和打开黑箱的一个一个精神啊所驱动的啊，就这个是一个重要的一个点啊。那么之后呢？很多的那个项目当然也是这样了，就是嗯，比如说我们怎么样去理解啊那个嗯那个，比如说呃，self-supervised
learning啊，自监督学习的它里面的特征和表这个表征是怎么学习出来的，对吧？
然后这个学学的过程什么样子？叫dynamics是什么样子？然后什么时候就是表征会啊会塌缩？什么时候表征不会塌缩啊？这些过程你怎么样去分析？啊，那么现在大语言模型也是一样，大语言模型很好，非常好。那那么这上面我们怎么样去啊发现，比如说 attention 这里面干什么什么事情啊，对吧？FFN layer 在里面做些什么事情啊，啊，对吧？
然后那个什么样的情况下会发生涌现这个现象啊？这个涌现是什么样的一个具体的一个动力学细节啊？这些东西都是这个为什么要做这个事情的原因啊？在这上面啊，我们可以在上面做一层这个应用层。应用层就说啊，如果我们知道呃，这个比如说这个 attention 啊，这个注意力是稀疏的，那么可以用稀疏做什么事儿啊？比如说我们可以拿来做。
啊，就是像我们之前做过 attention think
这方面的文章，就说就其实是用了，其实当时为什么要做这个，是因为当时要探查啊这个注意力的稀疏性啊，这稀疏性有了之后啊，那这稀疏性，那我们就是不是拿可以拿可以可以这个做些事儿，就我们可以把中间那些东西全部去掉啊，它这个系统还是能够做到运作的很好啊，还是还是能够那个 decoder decoder
非常好，就不会崩啊，所以这个其实是它上面的一些一些层一些层级啊。
对，然后比如对这个，比如说 long context 的一些分析，就是就会导致啊，我们是不是能够把 long context 变长，让这个模型句还是稳定的啊？所以这样的话，就有一些 interpolation 的文章能够做 long context。啊，大概是这样的一些一些逻辑吧。啊，对我基本上所有文章都是以这个方式来来来来来产生的啊，这样产生的。
像最近我们有篇那个 STEM 啊，就是呃叫那个加隐就是加 embedding layer 啊，就是做那个 neural network。那么这 embedding layer 当时怎么想出来的？当时这个 idea 是我当时给大家提的啊。主要原因是因为，就是说，当时我们看到了那个啊，Jama Jama 三人啊，这个好像很有意思啊，它的结构更加不一样啊。
当时我在想，就是你这个 embedding 沿着这个啊，这个啊，呃呃叫那个 residual layer 往上传，你每一层就会加东西进去，加东西进去，加东西进去。那么加入东西进去这一个东西，其实应该说是跟这一层当时在那个语义是有关系的啊。你越往上语义会越来越高，越来越复杂；越往下语义比较简单，对吧？
所以也就是说，你每一层加进去的那些东西呢，应该说是一个就是低维的一个啊一个一个向量啊。这个向量可能只在这个语义空间里面有效的啊。那么如果是这样的话呢，那我们是不是可以？啊，把这个你知道这个维度很低，但是你加上去这个维度很高，怎么办呢？你完全可以做降维吧，对吧？你就然后就说你可以把这个降维的维度放进一个
table 里面，这个 table 呢是我做那个 embedding 时候我单独去查出来的，把它放进去。
那么这样的话呢，可能可能这个会有更好的这个三那个 parameter efficiency，啊，就是你在每次 decode 的时候，你每个 token 进去了，你只要把这个 token 的里面拿出来就可以。啊，所以这个都是一些就是比较直观的思路吧，就通过这个方式，我可以看到啊，为什么要这么做啊？那么这么做，我们是不是有更好的那个逻辑啊？
能够能把它做出来啊？所以应该说，整个那个研究我都是以这个方向来来走，像 CocoNet 也是一样，CocoNet 当时我们做隐空间推理啊，他们逻辑是很简单，就是其实应该说是理论是我先想出来，就是先想啊，这个东西也许我这个 representation 它是。呃，它是叠加态啊，量子加态，然后在里面可以同时啊那个优化。
那么当时是有这样的想法，但是没没来去做做任何的什么理论，然后先让实习生做一些那个实验，那发现哎确实有效果，而且确实能够证明这里面确实叠加态啊。先发篇篇篇篇篇篇文章。白皮章之后啊，然后白皮章确实火了，然后之后再发一篇理论来解释它。其实这理论早就想好了啊，但是呃，但是就是之后再发嘛，那所以这篇理论本身也是大家也挺关注的啊。
所以就是基本上就是这个逻这个整个那个思考的逻辑都还是比较 principle 啊，是这样子。对，所以这个跟这个 skin law 呢是不太一样啊，因为 skin law 是一个比较暴力的方方式嘛，对吧？我也不不不讲了，我就画那个参数就行了，这也是可以做的啊。但是，呃，我觉得至少作为人类最后的尊严，你还是要对这个问题有比较好的了解。
嗯，哎，田老师正好，其实您您非常清晰的拆解了这套思考的路径。在这个过程中，包括研究的过程中，您在硅谷是否感到孤独？就是有这么多的算力人才投入在暴力求解的这个 scaling out 这个这这这个状态下的时候，在您追求白盒化、可解释性、呃原理性的解释过程中，不管是在算力还是人才资源上，和您自身的感受上，会感受孤独和资源受限吗？
呃，其实应该说没有那么呃，没有那么感受得到啊。对，因为因为我不说了，我听说我是个哀人，哀人什么意思呢？哀人就是说你从孤独中可以获得能量，对吧？这样的人是哀人。对，所以你不是说并不觉得，如果没人理我，我也并不是很在意啊，是这样的一个一个一个一个情况。所以，就很多时候，更多时候是，就是说你在这个隐居过程中，你会有自然会有一些自得其乐的感觉，就是会觉得啊很有意思，这个发现了，那个发现了，对，这是一个自我成就的一个过程啊，所以。
呃，没有那么想要这样的就是孤独的感觉。如果如果是我这个非常怕孤独的人，那可能会倒过来，就是会去追求热点，就是哎呀，这个东西别人都做了，我也得去做一下。那这样的话呢，就是研究可能会相对来说就没有章法啊。是这样的一个一个逻辑，但是就是 I 人的问题就是，如果我太过于
isolated，就是太过于孤孤独的话，很多事情就不用就不用想啊，别人都在做大模型，我也不管了，那那不行，因为毕竟还是要追一下热点，就是大趋势还是要走一走的，因为不可能完全不走，嗯，这样的话可能会被嗯被世界抛弃啊，这个也是一个很大的问题啊。
现在现在学术界有很很多的。很多人他发现啊，大语言模型来之后，他们那以前那套东西完全不能用了，或者完全没有意义了。那其实其实对将来的职业发展也不太好。是是，我觉得追一定程度上追求呃追逐热点，也是对群体智慧、对大趋势的尊重，也是对一种弱者思维的心这个心态。那在开发这个 OpenG 和 Llama 时候，呃，您遇到过怎样一些科学 VS 工程的一些权衡？
因为在 Transformer 其实快速进化过程中，很多问题是工程层面的问题。就解决包括甚至芯片内的通信，然后解决上层算子，然后它很多工程上，但在您的研究里面有非常第一性的，像您前面展示很多对数学理解、对层级、对是一个信息传播的这个底层理解，所以这里面是怎么平衡的？以及过程中你有没有呃说服自己和团队放弃一些方向？
其实很简单，一个方法是跟工程数学化嘛，就是这样子，就是说你完全可以把工程作为一个数学问题来解啊。其实之前我们用强化学习做了一些，呃，做了一些就是优化求解啊这样的一些问题。那么这一块其实我们有另外一个很大的一个方向，当时在做啊，我们怎么样去拓展那个那个。门的卡路搜索啊，对吧？这个蒙查搜索其实以前在游戏里面用过的啊。
那怎么样拓展蒙查搜索，让它能够处理更难的问题啊？就是然后怎么把这个解决解决方案用在一些比较实际的问题上，比如说做优化，做一些那个黑盒优化问题，做那个神经网络搜索。那么这个其实都是可以啊，都是可以做的啊。所以你把工程问题科学化、工程问题系统化和数学化之后。它反而就变成了一个，就是可以建模的数学问题啊，所以可以去做它啊，所以这个其实应该说是大模型之前啊的一些一些工作啊，大模型之后呢，当然就很多时候啊，因为工程工工期也比较紧吧，很多时候也是比较
hacky 的，对，所以你很难去做的非常细，很多时候就说啊，我用上用上了，然后能跑就行了啊，所以应该来说还是比较就可能有有些地方上更加工程化，只要有一个地方有有一些修上亮点的话，其实也就可以了啊。
非常精彩，非常精彩。我们也反复提及到这个呃所处的环境的问题，就是您觉得包括在在在CMU，然后在不同的这个研究的这个就从学学术环境再到呃这个企业的研究环境，在Meta菲尔的这种实战文化里面，其实它对您产生怎么样影响，并且在您的可能实践呀做研究的过程中，也都分别留下了些什么？对 Meta 还比原来说还是
Fair 还是一个比较好的地方嘛，就是说那个应该说是一个比较自由的，有可以自由探索的一个一个一个地方，然后让大家做一些很有意思的事情啊。
对，应该说没有太多的那个上面上层的干涉啊，我觉得这个是一个重要的一个。呃，一个一个环境啊，当然就是说，应该说大模型之后，二零二零二二年之后呢，就是环境有些变化啊，应该是说，就是因为毕竟大型来之后，它的问题就是以前呢，大家都能自己探索，因为相对来说大家占的资源也不多。啊！但是大模型来了之后呢，就有很大问题，就是说变成了一个抢占资源的一个游戏啊，因为一共就只有这么多卡，然后谁卡越多，越训练模型越好，对，所以这个会有很大的这个让大家有这个动力去做那个
politics 的 fighting。
啊，就会有一些政治斗争呢，会有一些那个呃，相互之间的一些一些些摩擦吧。啊，对，大概是这样子。那那就是，其实我当时可能二零二三年的时候也有也有一点想要走了，就是觉得那个呃，就是再待大厂其实意意义不大啦，或者说也也没有什么太大的那个。但是后来。正好正好有一波是那个推理模型啊起来了之后呢，我们又被重视了一点，所以就在公司里再待了一阵子，啊，也是这样的一个一个逻辑吧，啊就逻辑，但是最终还是走了啊，就所以我觉得其实大厂应该说现在还是。
一些比较不是特别好的地方嘛，因为有很多问题，像比如说去年我十月份开，十月、十一月底开始就有很多人来找我啊。那么找我你会发现，就是基本上找过我的人，他们现在都走了，嗯，就是这。真的是，就是都走了。你想，呃，我当时有谁找我？比如说 Traffic 又找我，那个人走了。然后，嗯嗯，那个比如说 Amazon，Amazon 其实给了我 offer，那个人那个 VP 也走，两边都走了。
Amazon 其实有 AGI 和那个一个 San Francisco Lab。对，你会发现两边的管管的人都走了，像戴维软也走了，对吧？然后那个 Rocket 也走了，啊，然后 Apple 那个 J G 也走了，他当时也找我，给我 offer，对，呃，X A I 的那个 Tony 吴找了我，然后给我 offer，然后他也走，嗯，对，然后今天你看到那个林俊阳。
我跟大家也跟林院士聊也也聊过吧，对，所以啊，所以其实我觉得，呃，那还有 Microsoft 的有有一些有些人，Microsoft 当时没走了，但是他已经并到了那个那个 Microsoft AI 的 group 里面去了。当时说的是啊，可以过来做 research 啊，我们不用做大模型，但是两个月之后啊，就发生了很大变化啊，所以我应该觉得就是现在大厂里面的这个变化应该说很大。
嗯，应该是有很多很多的一些问题啊，嗯，主要还是在于这个整个公司的节奏啊，那世界的节奏发生很大的变化啊。以前可能嗯一个VP啊坐镇，然后在这个里面可以做好多年，比如说两三年、三四年，慢慢慢慢做，把事情做好啊，这个是一个很稳的一个节奏啊。现在节奏不一样了，你可能坐上这个位置之后，你必须在三个月之内要有成果。
啊，或者说两个人要有成果，那这个过程是非常急的啊。这是非常急的话，那你就会有很多的压力啊。这个压力呢，会转化成一个对上面的压力，还对他那公那个 V P 自己的压力。会如果这个压力不不承受的话，或者根本做不做不出来，那这些人就得走啊。所以其实很多这个变化是非常快的啊。所以这个其实是很大的一个区别。哎，田老师，您提到这个问题特别好，就我们也把后面有两个小问题先提上来，大家肯定也很好奇。
就这个这个随着这么快速变化及快速变化背后还要果断的投入巨大资源这件事情，呃，他在这些大厂里面产生了怎么样的共性的，不管是结构组织呃人才的选择上的问题，而反过来看 Meta 本身它有它哪些特有的问题，包括 Yan Kun 之前带的这个这个这个团队大家所关注的问题和组织形式，到 Alexander 进来之后。
它产生哪些变化，在我们可讨论的范围内？呃，我们相信大家都非常好奇，就这里面您觉得有些什么 fundamental
的变化？嗯，对，我觉得应该说是，呃，一个主要的变化，当然就是说公司可能对于长期研究的部门没有那么支持了啊，就是因为确实长期研究它所需要的代价太大啊，然后呃，大家公司也可能付不起啊这个代价啊去做这个事情，或者说更更重要的是，就是大家都在你追我赶啊，如果一个大公司没有把自己百分之一百的那个精力花在大模型的那个提不上啊，那就会落后啊，那这个落后呢是很可怕的啊，因为之后的那个大家都可能觉得就是智能在加速发展，大家都是就是说指数级的上升，对吧？
那加速发展的话，那就问题可能是在于就是这加速发展会不会啊，就是导致你一旦落后了之后，你永远追不上。啊，是这样子。那么流失不上去，可能就是导致，就是也许你现在还是百亿、千亿美金的那个，比如说身家，然后过两年之后，你变成零，那个路边乞丐一样。啊，有这个是，有这个可能。那么有这样的焦虑，就会导致很多的那个可以解释我们这种情况发生嘛？
对吧？一个是要把所有的资源都放在追赶上。那研究就很难去呃，真正去花钱去去做啊，没有那么多耐心啊，这个是这个是一个啊。然后另外就是说，因为有这样的很大的这个 stake 啊，很大的这个筹码在上面，那就是就会有很多争斗啊，就是谁能够坐上来，能够把这个事情做成啊，就是因为大家的模式都是从一个探索型的模式慢慢变成了一个。
啊，就是一军事集团，或者说是一个就是非常的呃那个专注的一个出站公司，就是一个模式。那这样的模式是不一样的。那如果是这样的模式的话，你就会发现啊，为什么我们能不能，什么是能够做更好啊？就是而且大厂一个问题就是，他人太多。啊，所以导致这个信息传递的速度是不是很快的啊？像其实蓝猫
for，其实很多时候一点做的不够好的地方是，他们当时在啊传递信息的时候，我们很多时候这个信息呢是经过很多层的 VP 才能达到最上面那层，啊，那么每一层 VP 在传递信息的时候，就一定会抱着报喜不报忧的思想。
啊，对，我比如说我跟我老板说，我说啊，我现在做什么，那一定会挑好的说，对吧？坏的就可能不太说了。啊，那你每一层都滤掉一点坏的，你过来过来四五层之后，就听到听到坏消息。啊，永远听到的是好消息，而且啊，今天又是获得什么大成功。啊，但是这样其实也是导致了一个问题，就是上面的人听不见真真实的意见。啊，就是很很懵逼嘛，就是就是，然后会有一些非常那个啊，非常
aggressive 的这个进度要求啊，比如说啊，你们居然都做那么好了，那我们再往上走一点。
我是不是能做更好一点啊？那么这个压力压下去之后，那大家会觉得非常痛苦，因为一个是没有时间去真正做探索，另外一个是很多地方你本来要花时间好好修的，修不好了，我就直接 hack 掉啊，算了。对，所以这个也是一个啊，这个也是一个一个比较大的一个问题啊。那么长此以往，你要么就是牛皮就吹大，最后最后爆炸，那这个就是一个一个可能性，对吧？
要不就是说下面的人有这个胆子说不行，这个事情我做不了，我能我能不能把你啊，我能不能把你推回去 push back？呃，对，如果下面人有这个胆，愿意说这话，然后上面愿意听的话呢，那么这个组织还能维系啊。就是虽然说我们这个进度往后拖了一点，但是至少信息是交流是通畅的啊。但是如果下面人没有这个能力去去去把它 push back，那就只能通过各种。
太不大家见得光的方式去啊，去把这个事情做做出来，那么最后可能就可能会有问题啊，这个问题。对，因为说蓝猫 Four 是这个当时这个原因吧，但是你看最近的 Grok，Grok 其实也走了很多人啊，XAI，我听说也是同样的啊逻辑啊，就是一样的，就是哎呀那个老板马老板非常的 push。对，那下面的人会怎么想呢？
有些时候，如果有些事情没做好，或者说做的比较，呃，就是一点点做不好，一开始就有一些这个地方你需要修的，需要停下来歇一歇，不让你歇，然后让你继续做下一个更难的，啊，那时间长了之后呢，大家可能就开始有有一些地方就是有些short cut要走了。那么自然而然就会导致最后的失望啊，所以就应该说都是这样，并不是说是每个人的问题，因为整个机制是有问题。
如果上面压得太狠啊，或者说整个进度实在太快的话呢，最终还是会有这个组织上的一些问题。就不管你这跟这个人的强不强迫关系啊，完全是组织架构的问题。是非常精彩。您您觉得 Alexander Wang 来会能带来一些变化，能一定程度上缓解或 redirect 这个问题到到另外一个方向吗？呃，这么说吧，因为呃，他们相当于是重，相当于是 reset 了一下嘛，对不？
就是说啊，拉完 four 不是很成功，啊，怎么办？那我们再拉一个人过来，拉再拉很大一堆人过来，然后再做一遍，相当于这样。那么至少做一拉一堆人的过程中，再做一遍的过程中，其实还能一些有些时间，对吧？就是说我既然重新拉一个，是拉一个 team，这 team 可能要花时间建嘛，给些时间嘛，对吧？那这个时间上就看那个能不能在这时间段里把东西做做得比较好，啊，对。
那么至少我们就是目前我我觉得是那个他们还是买蓝牌的还是还是花很多的钱啊拉很多人进来对那有有了钱之后呢肯定还是会有一些人有这个能力去把这事情做成所以所以我觉得我目前还是对蓝 Meta 的呃那个模型还是持乐观态度吧，乐观态度当然了就是我也我说我说我利益相关的因为我也有一些买它股票嘛对吧所以我不不想说它的坏话啊呃确实是也不错的也不错嗯。
理解非常理解。我们 Richard 到您身上，其实呃田老师，我们在二三年见面的时候，其实就知道呃您对文学创作本身也非常有兴趣，而且不是一般的兴趣，您是实打实出过这个优秀的科幻小说，像《破晓之中》，对吧？这里面我我也看了他的这个很多总结和我还没有完整读完，但是我发现里面对很多肉身存续、意识永生啊，然后包括意识的独立。
呃，人类的这 humanity 的探讨，包括改造智能，其实有非常精彩的这个叙事，跌宕起伏的探讨。我记得，呃，就是在二三年的时候，我们讨论您对模型的这个方面性能还是。呃，这个嗤之以鼻的，就是稍微长一点的、复杂的剧情，其实它的模拟能力都很差。但是来到了二零二五年，来到二零二六年，呃，包括您也对智能本身有了更多的信心，所以在您看，在起点临近下，就人性的这个。
价值和延续的方向，呃，是往哪去的？以及在微观角度来说，再过几年，文学创作上可能发生什么样的一些演变？您作为一个创作者，可能有最真实的一个桥梁，连接科技，连接创作的一个桥梁。那听听您的一些畅想。对，我觉得人的价值呢，应该说是我的一些呃写写写的写作的一些核心吧，对吧？像第一部写完了，破晓钟写完了之后呢，第二部在构思的时候呢，因为第二部可能会变成一本就是社会实验的书。
就是说去做一些就是在这样的一个所思即所得的一个世界里面，在这样一个呃，就是你想到什么这件事情就能实现啊，然后重复劳动变成零这样的一些一个一个一个环境下啊，就是人的价值在哪里啊？我觉得其实其实我大概在二零二三年的时候，就是大模型刚出来的时候，其实已经想过这些问题了。其实我当时在知乎上有些有些 post。
就说那个时候，就是我觉得独一无二应该是最重要的啊！就什么叫独一无二最重要的呢？就是说你一个人跟跟其他人不同，然后你的目标和理想和追求都是不一样的。那么大家才会觉得你这个人是有价值的啊，所以这个是一个非常重要的一个一个一个一个一个点啊！而且现在其实你会发现，就是我们整个大模型的那个发展啊，整个AI的发展，其实越来越往这个方向去走了。
啊，就一年前我其实也讲过，昨天也讲过，说以后大家是一个休闲休闲社会，然后是一个所思即所得的这个言出法随的社会啊，大家都觉得这个科幻小说啊，但是现在你发现真的是这样了啊，AI
coding已经做得很好了啊，你跟他说什么，他就能把它做出来，你就不用不用写代码了，就是执行层面在被大极大的压缩。那么压缩之后，你会发现所有人都能做执行，然后所有人都能写出一些还不错的代码，能够用的，能够给自己的生活或者说一些那个呃具体的那个业务产生一些影响的啊。
我觉得这些呢已经已经发生了，发生了。对，所以基本上是你有个好的点子，别人也有好点子，大家都能实现，而不是说是我需要工程师把它做完啊。所以有这个。就是在这种情况下呢，其实我觉得一个人是人的判断是重要的啊，人的人的这个品味是重要的，然后人对这个目逼目的的一个持续性追求是重要的啊，这是重要的。因为你会觉得大家都能写啊，你大家都能写，并不是大家都能写得很好啊。
因为很多人是这样啊，我觉得这个东西玩玩一下，各种东西玩一下，就很你可能做一个就是一百个项目，这质量都不是很浅啊，但不是很深的，就是那些很深的人做的很深的，然后知道把一些难问题解决了，那些人最终他能够脱颖而出啊，他们大家会觉得啊，这个人有品位，然后这个人有就是坚持。能把事情做好啊，我觉得这样的是一个一个重要的一个一个一个一个逻辑啊，这个是一个对人的来说呃一些一个价值吧啊对。
那么我在二零二五年年底的时候也写过一些总结啊，二零二五年初写的总结，就是说当时说了一个叫费米费米线的概念，就是这个以前是物理上的一些一些东西吧，就是就在这根线下面电子是很多的啊，电在在线上的电子很少，指数级下指数下降。啊，所以其实说这个这根线呢，对于 AI 就是在社会人类社会上来说，其实就是这个
AI 的那个 AI 能力线，AI 能力线，对对，就是不能说斩杀线，就是 AI 能力线，就是这个能力线呢，就是说是啊，在这能力之下的那基本上这个人是没有价值的，因为它的价值是被 AI 覆盖，而且 AI 是无限供给的。
你认为 AI 无限供给？因为现在确实 AI 特别便宜啊。那么无限供给的话，那意思就是说你做的再多，那么 AI 也能做，对吧？所以你是没有价值。因为供给是无限的，那价值是零嘛？啊，价值就是零。那如果是你比 AI 强，能强很多的话呢？那你这个价值是非常少啊，非常贵的。为什么呢？是因为像你这样的人会越来越少。
啊，就是很少有人能够和 AI 结合做得很好啊，而且就是影响力越大的人其实越少啊，所以这样的这样导致就是再往上走那些人的价值非常非常大啊，所以大概是这样的一个一个情况啊，所以这根线会慢慢慢往上走，因为 AI 会越来越强。啊，所以我觉得大家还是想要做一些自己特别喜欢做的，这样或者是比较好的啊，因为这样的话，这些事情的商业会很高，那你最终能爬到比 AI 更强的那条路上啊。
如果你做一些自己不想做的事情呢，商业不是很高，那你其实也就被 AI 取代了，嗯。是大概是这样，我我感觉就是这件事情，呃，可能一切万难打不过的是热爱，而且热爱体现在就是对于细节和对于呃破坏性的创新和更优结果的无限追求这件事情，对吧？这可可能才是在 AI 这个新时代下能够存活或者能始终在这个基础水位线之上的这个法则。
对对对，是的，我觉得这个是一个重要的事情，就是大家可能会一窝蜂做一个事情，比如现在 A 代非常火，那每个人都在做 Open Crowd，啊，都要都要做这些东西，那就是你要想想，就是在这个方面就是有什么优势啊。比如说，你做 OpenCL 那个人，那个 Peter 对吧？你看他的 commit，然后每天几千个，也是非常可怕的一个一个速度啊！
他的效率是非常之高的啊！那么你觉得就是一个当然是，当然只有像他这样做一个对吧？那当然是就不可能说你跟大家比较速度啊。但是你还是要还是要想一想，就是在这个方向上有什么样的独一无二的点，这个点能够让大家觉得很有趣啊，没也没有人做过。我觉得这个是一个重要的一个一个点啊，一个点。嗯，对对，还有对文学作品来说了，就是我觉得文学作品永远是存在的，因为文学作品的动因是因为就是人想要表达。
或者人有一些经验，或者有一些就是出那个感动的瞬间啊，愿意写下来，然后愿意传递给别人。那么这个部分呢，应该说是 AI 无法取代的，因为因为就算 AI 写了一模一样的章节，但没有人来在那边给你感动啊，这个章节是没有意义的。啊，所以其实应该说这个这个部分应该说是任何文学作品的缘起啊，就是你为什么要写这部小说，你为什么写这个著作啊？
里面那些角色和你有什么关系啊？然后这些人为什么要做这样的事情，让你觉得这个这个人生是有意义的？那么这个东西立好了之后，那当然一些细节什么的你可以让 AI 来做啊，这个其实是不一样。但是我觉得作品应该本身还是不会消亡的。对，come back，田老师您讲的，我这个非常同意。我觉得从量子力学，然后从观测的效应来说，一个文学作品它是人类创造的，然后有真的人人类对它进行观测和甚至反馈。
它能产生的这种闭环，跟呃这整个这链条里面，不管是生产者本身，还是观测和评价者，如果是一个群体组织的AI，我相信在可能某个层面、某个抽象层级或某个不可观测的维度上，还是会产生非常fundamental的变化。就像现在有很多通过这个 agent 组织来 swarm 化来做一些社会性推演，我觉得它一定程度具有参考价值，但它永远无法，或者很长一段时间都无法真实的模拟。
这里面也有很多这个这个类似的情形情形。对对对，是的，就是这个其实是一个现在的那模型的一个问题，就是说你有很多的 AI 可以相互之间模仿，相互之间了解，相互之间攻击。对，但是呃有些时候是这样，就是这些 AI
的水平就在一个层次上啊，所以这层次上的东西可以做，那有些层次比较高的东西呢，他们辩那个辩论呢，或者说讨论不一定讨论得出来啊，所以有些时候你会觉得他们这个太极互啄，然后呢，就是你需要一个很高的 leader，或者说有一个看问题更深入的人啊，才能做下来把这事情做成。
啊，所以就是这个，其实是应该说一些 AI 一个局限性吧。嗯，是，其实这正好引出了下面的问题，就是智能本质跟呃您理解下的世界模型。就是很多人认为，其实现在的尤其 transformer 机制决定它还是一种极致的压缩，只是能压缩信息的，不管是维度，然后包括是在可能时间维度上不断的去 scale。那在这样的一个框架下，创造力和共情怎么被量化？
能否真正被数字化和参数化？这里面您是怎么理解？嗯，我觉得创造力本身呢，应该说是可以量化的。就是说，它有很多的地方，就比如说，那个你可以说两件事情合在一起变第三件事情啊，这个东西呢，很多时候呢，就是应该说没有那么难啊。就比如说，大家发现啊，这个呃，这个锤子可以锤木锤锤木头，那么可以锤，是不是可以锤铁钉呢？
也可以锤，对吧？非常简单的一个 transfer
可以过来的，对吧？啊，你拿一个漆漆漆墙壁可以漆的，你可以漆木小小木屋也可以漆啊，对吧？所以这种是非常基础的，呃，这样的一种创意、一种创新嘛，对吧？那么更高级的创新，可能就是在更加抽象、高级概念上你做一个迁移啊，做一些思路的一些改变和和理解。啊，我觉得是这样的一个一个一个逻辑啊，所以应该说是可以呃可以被量化，只是说呃不同层次上的创新呢，它的难度是不一样的啊，一些比较简单的创新，像大模型可以做了。
比较难创新呢，就是这个概念本身呢是比较新的，或者概念本身大模型没有完全理解，那它的那个 transfer，它的迁移的能力就很弱啊。我看过一篇文章嘛，像那个 Stanford 这边有一篇有一篇叫 AI Science 的 paper 嘛，就是说当时他们判断了，就是人类，嗯，人类的那个想法跟 AI 的想生成的想法哪个更新一点。
啊，对，很有意思的是，他的结论是 AI 想法被大家认为是更新一点。啊，这为什么不一样呢？是因为因为对 AI 来说，他对对他对这个问题的思考是无所顾忌的，可以瞎可以瞎搞，他可以任何把两个比较相似的概念放在一起，然后人一看，哎，没见过，嗯，是新的。但是，真的你在执行的时候，你会发现这两个东西虽然说是新的，但是他们合不起来啊！
他们并不存在一个本质的联系，让大家觉得嗯，确实可以做出一些新东西出来啊！所以我觉得是这样的一个问题啊！那人其实能看到啊，人对问题理解更深入，他能知道这两个物体的联系是什么，可以把它们连起来啊！所以呃，这个其实是应该说是AI的心跟人的心之间的不同的地方啊！所以你很难说谁比谁更有创新性啊！但只是说是创新性的这个侧重点是不同的。
哎，陈老师，您这您这个解释太深刻了，就是正好就是对 large language model 它的推理能力，它的所谓人类的 system two 上，如果它只是概率路径上的滑行、线性外推，它是不是缺乏了些 causal
层面的关键性指点？就像您讲，超越它的，比如说智力的抽象层级的一些关键性的。指点也好，还有一些可能是呃本身天然存在的一些因果关系，它由于这些东西缺失，或者是 simply 是参数化的不够强壮，导致它无效的链接也好。
那在这个上面，就是我们还有多大距离，还是说有可能存在说这一代的框架本身就就有很大问题？对这个，我觉得一个当然是这代框架也许是有效，只是数据够了就行了。你总是数据够才能行，但就所以我不能说这代框架无效啊。但是人其实可以在同样的数据下做出更深刻的理解，是啊，这个是的区别。对那个人可能说两到三个样本或者几个样本，特别是专家看一眼啊，这里有问题，不用想，我们换个地方做做。
所以其实这一方面应该说 AI 的能力是远远远远比呃远远落后于人的。明白，明白，明白。呃，这一对方向，您您极有发言权啊。就是像Le Cun经常一直在包括推广他的世界模型的这个概念本身，我相信在内部有很多影响力。呃，你也参与了非常多的这个相关研究。但这个模型，呃，它的框架设计和它对呃后续延展本身，能够解决我们前前面讨论的这个这个问题吗？
呃，我觉得其实应该说还没有到那个那个 level 吧，对吧？因为还是本质上来说还是梯度下降啊，还是梯度下训练嘛，对吧？他们用的那个 loss function 其实是我 2021 年有一篇 ICLR 的这个 best for over mention 谈的一一一个想法，就是当时我们去做了做一些分析嘛，那就是说一边一边是加了一个。
那个 projector，然后另另外一边那个有 sub gradient 啊，通过这个方式来训练它的这个 GPT model 啊，那这个 model 确实那个训练出来的结果也也还挺好的啊，不错，有很多有意思的那个结果啊，但是我我感觉上是我始终觉得就是如果你要达到人类 level。你可能整个的训练算法都要换掉啊，所以这个是我的一个一个一个想法啊。
但是确实也比较比较困难啊，那确实可以可以往下挖下去。嗯，明白明白，这非常有趣。正好我们再往前推一步，呃，看看 large language model 也好，或者我们的大模型的下一代。现在大家其实很多前沿概念就是 test time，本身 test time training，包括训推一体本身。对这件事情，呃，怎么理解？
包括它能否缓解不断臃肿的这个 KV Cache 的问题，然后包括线性循环的回归，呃，这里面您可能非常有发言权啊。就先先听听您深入浅出的理解本身，和您对这件事儿的这个这个期望。对，现在确实，continuous learning、test time training非常火啊，有很多很多文章在做啊，就是有很多方法，比如说我们在里面搞一个线性注意力啊，linear attention，对吧？
然后它本质上来说就是说，我把过去的历史压缩在一个那个固定长度的 vector 上面。然后这个 vector 或者说这个 matrix 它会随着时间变化一点迭代，然后迭代了的过程中，其实就隐含的把过去的历史给那个扔掉，然后把现在历史慢慢的融进来啊，然后这样这个方式呢，往往是 associated memory 方式。
啊，就比如说你下面一个 k，上面一个 v 传下来之后，k v transpose 啊塞进去，那么相当于是一个 associ memory 加进去之后，然后把原来的那个 s 或者说这个 matrix 的那个值慢慢 decay 掉啊，大概是这样的逻辑啊。就很多信息助力的方法是都这么做的啊，就包括 delta net 啊，包括一些其他的文章，都都是这么都这么做这些工作啊。
那我觉得这个是一个当然是这个是可以做的啊，它也是一个 thinking，它是个 memory，memory 是一个动态调节的一个 associ memory 这个过程。对啊，但我始终有个疑问了，就是我觉得这套方案呢，其实嗯不一定有太大的那个上界。为什么呢？因为人在思考的时候，人在这个接受知识的时候呢，很多时候他是从记忆突然之间变成一个通过顿悟的方式变成一个理解。
那么这个理解的意思是说，这个对于这些那些一件一件事情的这个具体的事件呢，可能会模糊自己的记忆。但留下来的东西呢，是对于这个问题大概的一个思路啊，就是就以前诸葛亮也说的嘛，就是事情要观其大概最好，你不要读书不求甚解啊，不求甚解什么意思？就是你不要把每一个细节都记记记出来，但是你要把大概的思路。啊，给给给给写下来。
那么这个大概其实应该说是从记忆到理解的这样的一个突变的过程啊。那么这个过程呢，就是我觉得很多的现在的先进助力模型应该没有办法建模到这个这一层。啊，所以可能他的问题会在于，就是他只能被记住以前的一些事实，啊，这个事实会随着时间变化慢慢流失掉，啊，所以他也记不全，啊，所以就很尴尬，是现在限定注意力一直在提，提了很多年了，对吧？
但是它没有办法代替全注意力啊，或者说四点钟的注意力来成为一个主流的方法，大家还在
debate。对一会儿说这个好，一会儿不好。对，应该说对对一些就是文章摘摘要总结方面的一些呃工作呢，应该说信息注意力比较好。但是如果你有一些比较复杂推理啊，多跳推理的这样的一些问题，就注意力就很难去信息注意力就很难去得到很高的分数啊，因为这个东西这些一些这些这个这些任务呢，它其实非常注重就是从这个点出发往前面一跳几步，然后把这些事实全部都抓出来。
这个部分呢，其实是应该说是非常挑这个呃学习的这个呃这个记忆容量的，嗯，所以这个很难。那么这个时候全注意力是很重要的，因为它把过去的黑白都保留了，所以你想拿什么东西都能拿出来啊。所以这个其实是完全吃任务，就就没有存在一个方法说能够在所有任务上都做得很好，好像没有。对，这是为什么现在可能不断 Long
Horizon 的这种 Agent 还是在原有的这个这个呃这个框架上去继续 Scale，然后在 Post Train 里面加更复杂、更长的链路进去。
对对对对对，还是会有一些对，嗯，明白。那那对啊，说 agent memory 嘛，就 memory 那个怎么玩啊，是个表达的问题，还没有办法有一个统一的意见，嗯。是的，在这里面硬件层面怎么考虑？就是在您设计未来新架构的时候，会不会考虑可能一些这个底层硬件的这个这个特性？而且我觉得我们在勾出一个另外一个变化是，呃，群雄逐鹿，呃，就是英伟达的绝对垄断的地位在接受更多的挑战。
我们不管是美国大厂还是国内大厂。其实大家都在，甚至昨天英伟达自己都通过收购的Graph在呃发布新的这个，尤其推理驱动的这种新的架构来说，呃，这个东西本身，如果我们预测性的去看，它会对训推一体也好，或者信息架构更友好。呃，对，我觉得应该是会的。像 Grok，据我所知嘛，他们可能是另外一种方案嘛，就是说他们把 S RAM 和呃和这个 Process 放一起了嘛，对吧？
就是说不通过 HBM 来做这事儿。对 SDRAM 那个 SDRAM 跟你的那个那个计算单元直接耦合在一起，然后很快啊。但是 SDRAM 本来就不是很大嘛，它本来就是很小的一个一个 memory 啊，所以就会有一些 cost
的问题。那快是快了，但是你比你可能做的很小很多部分，每一部分是训练跟就是或者说那个计算单元跟存储单元离得很近啊，就是各种各样的新的架构，然后看一下就是什么样的架构能提高这个 throughput，能降低 latency。
对，所以因为以后推理会越来越、越来越成为越来越大的那个计算的那个消耗，对吧？因为 A 站呢需要大量推理，这个很显然就是不管是 A 站也好，还是 reinforcement 也好，都是需要大量推理的。那么这个推理你需要很长的推理，然后需要很多很多推理，怎么样呢？推理的效率变得很高啊！现在这是一个比较大的一个一个问题啊！
所以我觉得英伟达做这样的事情是非常非常有道理的嘛。他当然希望自己把自己的命革掉了，不要等着别人把他的命革啊！对这个会对，因为现在在推理阶段，在 continuous learning呢遇到一些问题是，包括在推理阶段，如果做反向传播，其实它的成本也非常昂贵。对吧？这个对，所以现在的新的架构，这个有没有可能更 fundamental 从芯片设计的层面就去大幅优化这件事情？
比如说，放弃更大容量的 HBM，然后往往这个更更强的这种小型化的这个算力核心去去去偏导。嗯，对，这个我觉得是是应该是有有可能的吧，就是说，比如说，如果你每个计算能够 associated with a subset of memory 啊，就是这种，就是你看那个计算和内存的这个 locality 嘛，对吧？
你看这 locality 如果非常好的话，你完全可以这部分计算只只跟这部分内存地址是有有联系的，那你就可以这么做啊，就是关键是怎么解耦这个计算跟那个内存 I/O 的之间的那个那个那个结构。啊，这个是比较重要的，嗯，是非常精彩。您前面提到一个非常关键的关键词，就是就 memory 本身。我们知道，在
continuous learning 也好，在我们现在想去探索这个甚至 self evolve 这个 agent 来说，其实 memory 都非常重要。
但是 memory 现在呃，模型自身本身出现很多灾难灾难性遗忘。就是神经网络以及这个新知识往往会有很多这种，包括神经元重叠过高啊，然后激活函数过于单一，所以大家就在探索一些过程性的目标函数。呃，这里面就是您有什么一些新的洞察，或者说感兴趣的这个新的方向吗？呃，这种其实都是都在在在探索中嘛，就在在探索中。
对，有一些比较有意思的想法，比如说那个你怎么样训练的时候能够让那个强化学习变得更加有效率，对吧？像我们最近的一些文章，那个那个 the path not taken 这种这样的文章，对吧？怎么样怎么样去分析强化学的一些一些结构啊是什么？然后它对这个权重的改变是什么样子的？那么这个，因为 memory
其实不仅包括你这个 agent memory，就是 context window，也包括这个权重 memory，对，这个都是 memory 一部分。
你可以认为它是不同 level 的 memory，有的是慢的，有的是快的啊，就是其实都可以有这样的一些一些一些结构啊，对，怎么样去去去去去去做做做它，对。然后比如说你要用 test time 来做那个 discovery 啊，像斯坦福最有名那篇 paper 叫 T T T discovery，就是对吧？
对那篇文章是说我我们他所谓的就是啊就是 continuous learning，其实就是说我 continuously run reinforcement 啊，这就是 continuous learning，就是就这个这个没这个 continuous learning 这个名字其实应该说已经被 overloaded，很多地方都在用啊。
但是其实你训练完之后，你你可能会有一些问题，比如说这个这个模型非常 focus 在一个东西上面，它变成一个专才模型。他就是把这个事情做得很好，但是没有其他的这个 variation，也没有其他的想法啊。那样的话，这个模型是不是你你你你们像训训训训坏了？但是他最后其实这个问题比较解决得非常好。对这个东西，你怎么样能保证保证？
就是说你这个训练的过程中啊，你能保证它的 diversity，同时也能保证啊它的那个 creativity 啊，这个都是一些很难的问题。在这些问题解决之前，会不会模型的能力突变始终是一种 jack 的状态，是不断的这种锯齿状的进化？呃，对，应该是这样。就是我觉得，因为现在的架构像 Transformer 这架构已经用了很多年了啊，快十年了。
就是当然，也就是应该说，其中有无数人在进行修改啊，但是一直没有改特别好，还是用原来的 Transformer，就是加一下，可能再加些 regularization、normalization 啊，让它的变得稳定一点。之外好像没有什么变化啊，所以其实我觉得应该说，算法上要不就没变，要么就大变。就是这样的一个状态啊，对，所以很多时候还是有很多的那个综合的考虑，比如算法加数据，对吧？
然后算法加任务，加数据，然后看它有没有什么那个结果。这个非常精彩，非常精彩。我们听到过一些讨论，就是说，其实记忆在分层，大家在考虑参数空间是否可以一定程度的分层，分一些这个不同的分区，对吧？实现一些固化的这个参数来存。相当于存储一些固化记忆以及抽象出来的固化概念和逻辑，而呃有些传重是相对这个更柔软的，负责吸收一些这个
in context 所谓 in context learning 也好，in context information 也好，这个您实践里面有有怎么样的观察？
对对，我觉得这个是当然就是这些有可解释性的有很多文章在做这事儿，对吧？就比如说你看到前面几层啊，是就是负责就是比较简单的语义信息，把它把一句话变成把几个字变成一个词啊，然后把几个词变成一句话，它的语义是什么，对吧？对吧？然后那个然后慢慢慢慢得到一个变变过到一个比较高级的一个语义信息啊，很多就是。比较复杂的语义信息在中间的啊，就是这些，就就你如果做
editing 的话，你在中间去改一些东西啊，会比较有效果啊。
那再往上走的话呢，就是你怎么样把这个语义信息慢慢的变成下一个字啊，这样子一个一个逻辑啊，所以这个其实是应该说有很多的一个一个一些一些讨论吧，对。但这些一般来说比较局限在就是怎么 edit 这个 knowledge 啊，然后呃。没有，还没有想过，就是说我们怎么样把这个理解变成一个肯定是 learning 一个算法啊，好像还没有做到这一点。
对，但之后也许会有一个方向做这个事儿啊，对，相当于把以前的这个 interpretability 和 context 结合起来，然后变成一个有意思的方向。嗯，这个很有趣，这个很有趣。然后在 memory 的这个层面，其实我我都很清晰的记得，在二四年，尤其大家讲 long context，你明显看到
context window 在增加的过程中，就有很多声音认为，呃，有天如果有 rolling context 或无限 context 以后，记忆这个事儿就不存在了。
那显然我们不是这样的。然后，包括像二五年，其实我们投的 Memu 的公司，其实它也最早提出了，就就相对比较早的使用文件。去记忆去进行记忆存储，这个明显是 Agent 友好。我们并不是说这是一个最佳解决方案，但它很显著是 Agent friendly 的结果。到了那里面，哎，它的三层阶这个这个记忆设置，呃，想听听田老师您怎么第一性的理解？
呃，就是就对于一个 Agent 框架来说，Memory 的设计本身以及怎么帮助它更好去做这个 Self-evolve。啊，我觉得是，就是它有两个逻辑嘛，一个当然是现在我们最讨论、最讨论最火的 agent，对吧？因为我们当然是说 agent 是要实用化的，那你肯定不能乱改，对吧？所以我觉得像
OpenCrown 像这样的一个一个一个一个一个 bot 嘛，它的记忆就是那种两两层的嘛，一个就是说你做那个 I G，对吧？
你做那个 memory 取取回来，还有你就做些关键词匹配，然后比方拼起来，然后这样的话做一个 memory 啊，就是这样的话比较。这个我觉得也 reasonable，这样的话你可能两边都就是各有各的长处嘛，关键词匹配很快，对吧？然后但是那个 retrieval 那个然后要用白点来算这个可能比较慢啊，但是这个语义上来说它更加准确啊，所以这两个东西可以结合起来，然后看有没有有没有效果。
我觉得它的工程、工程能力、工程方案应该说是比较比较好的啊，就是两边都能兼顾啊，它可以让人觉得啊，这个模型、这个 AI agent 它还是比较。那个他应该说他他能够记出记想到你以前的很很早以前跟你说他说的事情，他他觉得这个这个 AI
真的非常有人性化啊，它给你这样的一个一个感觉啊，所以这个很有很有意思很有意思，对，就是还有就是比如把它变成变成变成变成变成 folder 啊，变成 file 啊，这个其实用其实它可以认为它是一个 call to use。
对吧？就是说，我在动态的组织这个 memory，让这个 memory 变得最对你对问题来说最有用啊。然后把这个 memory 放进 context 里面去做啊。对任何的一个就是 file file 这种 file structure 啊，或者说 hierarchical 啊，或者说是 trivial 这东西，我认为都是 tools 的一部分。
你现在 tools 可以比较自然的解决了啊。就是这 tools 可以让用 AI 来驱动，也可以让 rule-based system 来驱动啊，这个都是可以的。嗯，哇，对这个这个这个相信。发出去以后，其实对很多现在 A 阵创业者来说也是非常
inspiring。呃，另外一个问题就是，你怎么看待现在的这个这个 A 阵框架，包括像 Cloud Code 的框架，像出来了像 Open Open Cloud，其实它里面很多依赖 React 这样的这种模式，在单个 context 里面去做很多局部做修正，包括现在像 Ruff
循环这些东西，但是甚至有一个。
或更深的这种self evolve这个evolve的理解是这种跨session的持续进化。然后它能否我包括我们在Alpha Zero里面看到的一些这个，包括Alpha Evolve里面所提出来的这种呃更多的结合MCTS结结合这个蒙特卡洛的搜索和这个强化学习的结合这块，是不是您可能会更感兴趣的空间？呃，对，这肯定是可以，但是你肯定要前面做好嘛，对吧？
你才能做后面的，那肯定是这样子。对，对，因为如果你把东西都塞进去的话，然后你直接做强化学习的话，你问题是在这儿。就是你在没做强化学习之前，你的 context 已经非常非常长了，然后就非常慢。是啊，非常慢的话，整个 pipeline
就非常慢，对吧？一般都是，而且如果你从一个比较呃比较那个效果比较差的那个 baseline 出发，你你做强化学习，你花的时间和代价是远远高于从一个比较好的一个 baseline 出发来做这事儿啊，所以两边其实都要兼顾的。
OK OK，那这个今年很多产品都在讲 proactive 的概念。我相信 Open Cloud 设计里面 heartbeat 模式以及一些 context awareness 的这种 interaction，就都给用户带来了很强烈的感受，这种自主性和人感是吧？但是现在实际上它很多还是一种被动指令，只是一部分的被动指令来自于他自己对 context 的推演。
呃，对对对，模型层面本身有没有一些 agent 这种 intrinsic motivation？呃，包括算法，包括我们在 AlphaGo 里看到，就是它可能自自我设计过程性的这种目标。呃，这里面作作为您研究角度有什么样的些洞察？呃，应该是这样，就说这 prattiveness
呢有很多种类型，一种是装出来，就当你说的一样，装出来就是那个这个 system 本身有 heartbeat，有有有有 cron job，然后它定时的，就是到时候去 check 一下啊，有什么问，我不行，我现在得问一个问题，八点钟一定要问一个问题给给
user，然后自己去找一个问题问，然后问他，让，但是他觉得这个很有 prattiveness。
啊，所以大概是这样的一个一个逻辑吧。对，那么这个逻辑呢，大部分情况还是 work 的，因为确实，其实很多用户其实我我就需要有个人聘我一下就行了，我觉得很很好，非常非常非常有这个感觉。对，但这个问题可能不是个比较细碎的问题，不是一个真正深刻的问题。这个是个问题，这个是个比较大的问题，因为，呃，这个模型可能对这个问题理解不够深入，他就没法给你非常深刻的一个建议啊。
对，那么最终最终真的好的那个 prateness 呢，应该是模型对这个问题理解非常深入了，然后看到这儿自然有问题跳出来，就是然后我去问这个用户，这时候这个用户才会觉得哇，这个模型真的是非常强，他知道我在在在想什么。才知道这个地方要问，但但是有这个需求的人其实不多，确实是这样啊。所以呃，其实应该说，现在这个这种producting做法，我觉得已经挺好的了。
所以我不觉得呃，应该需要很大的改进嘛，对吧？你你这个是一个一个一这一个一这一点嘛，嗯，明白明白，呃。其田老师，您自己有没有用上 OpenCL？您会用 OpenCL 解决哪些一些场景？您有怎么样的一些 use case？在在以及就是说，呃，我们如果放眼今年的年底，甚至或者明年春节，如果再有可能出现一些新的框架，本身我们有基于现在的模型进展来说，有怎么样的一些一些这个展望吗？
呃，一个是我当然我其实装了两个小时吧，但是我后来决定放弃了。为什么呢？是我担心的，就是给他所有的那个 API key，他可能会可能会有一些不太好的事情会发生嘛。啊，这个这是我能感觉到的事儿，因为我觉得哎，那么多东西要都给他，我不是很担不是很担心，我不有点担心这事儿啊。后来确实你发现很多事儿，对吧？你会发现很多网上说啊，自己的自家 A P P 被人骗了，然后很多的信息都露出来了。
对，就说举个形象的比喻吧，就是说你 Open Cloud 或者说这样的一个 Agent System，它更像是就是说你培养一个小孩子，这小孩子呢能帮你做很多事儿啊，他他手上握有你所有的家里的那个权限啊，包括你家地址是什么都行。然后你这小孩子出来之后。然后他会被各种人花言巧语啊骗出来，啊，他可能跟你有个小啊小朋友乖乖过来啊，给你颗糖，你能不能猜地址告诉我啊？
能把密码告诉我什么？就是小孩子有的时候啊，可以他可以拒绝九十九次诱惑，有一次诱惑他没有拒绝成功，失败了，然后把数说出来之后呢，你家可能就被就遭窃啦。对吧？你家可能会被抢劫啊啊！所以大概是这样的一个，你可以认为它类比于这样的一个一个一个情况啊，就是这样的情况，就是所以其实基本上小你你相当于把让个小孩子掌握家里的所有密码，就相当于就是一个什么叫什么小孩持持持千金于于于闹市，对吧？
这种这种感觉是是被盯上啊！其实有很多人已经已经被盯上了啊，所以有很多是那个泄露会已经出已经出现了。啊，所以我我觉得就是还是要谨慎一点吧，谨慎一点。我我就是我可能会倾向于倾向于这样，就是你怎么样，我可以吸收 Open Cloud 的 code，我可以跟他看一下啊，这里面很多设计很有意思啊，可以可以学习。
你可以自己写嘛，对吧？因为现在 A I Agent 那么强，A I A I Code 那么强，你可以自己写代码，代码写完之后，你可以用自己的东西来做一些事情。那么这样的话，可用来可控。啊，然后我也知道他在写什么啊，那其实是一个比较好的一个逻辑啊。还有一个点是 Open Cloud 的问题是它的
Skill，那 Skill 是第三方写的，那么这 Skill 里面可以藏一些那个比较坏的事情，就是 Skill 其实应该说是给小朋友看的卡片，对吧？
跟他说你要做什么，那这个卡片里面肯定藏一些奇怪的东西，他看了之后会不会被骗过去了啊？所以大概是这样的一个逻辑吧，嗯，所以这些都要小心，都要小心。但是如果安全性，能保障的话，那确实是一个很好的工具。哇，这个非常非常精彩，包括您举的例子也特别特别精彩。就就像一本这个武林秘籍，对吧？这里面藏点奇奇怪怪的东西，让让小孩去。
是是，您您好像说每天早上九点去一个地方，然后把自己鸟穷吐出来，当然会会这么做啊，所以这个其实是很危险的事情。是是是，我们的最后一个 part 其实会回归人和组织，然后探讨这里面的一些呃这个特性。其实在前面我们有一些讨论，如果我们要加上一种色彩或者是性格的描述，呃，您怎么看 OpenAI、呃 Google，然后呃 Meta，然后 Anthropic？
呃，也许还有 X A I，就是如果只用一到两个词，它可能是色彩线的，可能是性格化的，你怎么评价这几个大厂？哎呀，这个很难，一时半很难讲吧。我觉得我建议是把这东西这个问题问给给那个给给给 model，让他去让他去学一下，这样可能会比较好一点。对，就每个周期他们都会画生写图啊，描述性的这个去描述自己，其实模型自己的描述都还不错的，都还是不错的。
对对。然后就是有没有一两件小事情非常有趣，然后可能大家拿出来作为笑谈的，就是在。在比如说，老坤在Alexander王入职，还在Overlap也好，或者是在最后一段时间里，有没有一些这个无伤大雅的趣事可以跟我们分享一下？呃，应该没有太大的趋势吧，我就暂时不讲了。暂时不说了，说不了。这个还是应该说还是比较，应该说应该说还是像内坤，还是最终还是决定出来了嘛，对吧？
他还是愿意追求自己的道路，我觉得这也很好。嗯，也是一个很好的一个事情。对，然后确实，嗯，这个可能是一个更好的资源配置吧，至少对 Meta 来说啊，对 Meta 来说，可能就是我不花很多钱。啊，给你们了，但是呃，你可以出来自己融资，那么这个自己融资相对来说更加 efficient，是啊，所以最后也没有 end up ugly，大家其实相对还是在一个这个呃相互适配，然后这个相互祝福的状态，是吗？
啊，我觉得应该是，我觉得应该是嘛，对吧？就是所以其实很多时候都是市场行为嘛，对吧？你比如说你被公司裁了，你也不会真的恨公司吧，对吧？你肯定还是有很多的事情可以商量的，可以讨论的。就是这个事情都是都是这样子。是，那另外就怎么看开开源？其实坦白说，俊阳我们关系也不错，时不时会喝酒去去聊。但是其实确实他离开，呃，我们是也有另外一个层面担心，就是全球开源生态。
呃，原本拉马一直在引领这开源生态，然后后来这个千问其实也做了很多非常好的，包括 DeepSeek 有很好的开源工作。但是随着 Meta 的一些变化本身，啊，不知道阿里还会有什么样的变化？你怎么看开源在持续的 AI 计划？进程中扮演的价值，或者是会不会？其实现在我们已经身处一个节点，就是开源的角色，或者开源能给社会性的福祉带来的东西，已经产生了一些这潜移默化的变化。
呃，我觉得开源应该是一种态度吧，就是它不一定是公司的策略啊，就是说公司在不同时期的策略是不一样的啊。Meta之前开源也是因为就是它是开源模型最好的，那么它通过这个方式来吸引很多人才，然后用这些人才来做下一代更好的模型。我觉得这个是一个很重要的一个一个一个一个过程。对吧？啊，对。但是如果公司的策略发生变化的话，那把开源换成闭源，这也无可厚非，因为这本来就是公司决定啊。
就是我觉得，当然就是我是觉得，呃，开源这个对整个社会是有好处的，因为这样的话能够让呃大家都能追上啊，能够有一个比较平等的或者说比较多样化的一个环境，然后大家一起建筑建设这个。啊，这个开就是整个大模型的这样的一个进步吧，啊，大概是这样的一个一个逻辑，我觉得比较好，因为。对于一个新生的技术来说，这个技术如果非常强的话，一个比较大、比较比较麻烦的未来呢，是有少部分人掌握这个技术，然后他不让大家人，大家大家去
access。
啊，那这样的话，这个世界就会比较糟糕啊。但现在目前看起来，这个事情没有发生啊。至少大家还是能够用到一些比较好的模型，然后呢，就是有很多家模型的厂商和开源的模型在给大家提供各种服务啊。我觉得这个其实能够让整个世界，或者至少那些愿意去接触大模型那些人啊，能够接触到更好的模型啊，能够一起一起一起进步，一起发展。
啊，我觉得这个应该说是对整个世界应该是个比较好的啊一个一个一个过程啊。那么开源模型在其中也要起到非常大的作用啊，我觉得这个比较好。对，啊，另外就是说，那个很多时候就是你在用模型的时候呢，嗯，也并不是说在乎这个模型一定是
Claude。啊，因为很多事情它是有天花板的啊，你这件事情做的就是他做的足够好了之后呢，没有人再关心他模型有多强了啊，所以开源其实应该说通过颈椎闭源呢，它其实给大家提供了这样的一个选择。
啊，有很多的比较简单的，比如代代码任务，也许可以用开源软件可以做了，开源 A O S S 模板就可以做了，也并不需要特别复杂的东西啊。所以，呃，应该说它你在很多层面上其实是缓解和那个一个缓解了这个大家都很慌嘛，然后能让大家那个以很比较小的代价去呃做出做这件事情。非常非常精彩。最后有几个小的爆点的小问题啊，都是非常发散性的这个问题了。
呃，在您的实践中有没有一些降临时刻是让您觉得 A G I 如此啊，离离我们如此之近，甚至给人一种恐惧感？有没有这样的 use case？恐惧感呢还不至于啊，但是呢，我确实觉得，比如说像最近，比如说我们用 Claude 和 Codex，你会觉得整个工作流不一样了嘛？就是说以前可能那个用 Cursor 写的代码，对吧？
但是现在感觉上就是根本不用打开 IDE，就直接在命令行下跟他说你要做什么啊，就是这个逻辑已经跟以前不一样了啊。这个过程就让我觉得哇，这个进步非常大啊！这个是一个很大的一个一个一个过程，因为这也就是在最近的两三个月啊，其实两个月之内啊，就是产生的啊，应该说是一个很大的一个一个一个一个变化啊，就是这个。
呃，真正就是这种，就是就是确确实感觉到，就是工作流的变化呢，其实很有意思一个一个感觉啊，这跟以前是感觉不一样，就是一个时候我坐在电脑电脑前面看，比如说李诗诗跟那个AI AlphaGo下棋，对吧？但这件事情跟跟我们关系不大，就电视机关或者说电脑一关，这件事情我们还是照旧生活。但是现在就是你觉得每天的工作流或者每天的思维方式跟以前是不一样的啊，这个其实应该是很大的一个变化啊。
就是我觉得以后可能会有越来越多这样的事情会发生啊，因为 AI 已经到了一个程度，就是可以真的啊给我们的这个呃工作流程产生大的影响。明白明白，呃，第二个问题是，尤其这两天发生，包括呃，Anthropic、OpenAI 和五角大楼的这个关系。如果您可以问这个 Sam Altman 一个灵魂拷问的问题，你会问什么？
呃，这个问题其实不太好回答。呃，就是我觉得，嗯，因为有有很多东西我也不是很清楚啊，所以我们暂时不用回答这个问题。OK，没问题，没问题。呃，另外一是呃，您个人的北极星是什么？您希望在退休的时候，如果未来有退休这个概念，就是呃，您希望这个大家对您的这个 title，或者您自己可以满满满意自己的一个 title，是伟大的工程师，还是发现宇宙法则的数学家，还是一个浪漫的诗人？