先介绍，大家两位都已经非常有名了。我还是先介绍一下两位嘉宾。呃，首先是田源栋啊，田源栋前 Meta 人工智能研究院研究员以及高级经理，研究方向包括强化学习、规划与效率。和对大语言模型的理论理解，曾经获得二零二一年国际机器学习大会（ICML）杰出论文奖提名，以及二零一三年国际计算机视觉大会（马尔奖）提名。呃，二零一三年于美国卡耐基梅隆大学计算机机器人研究获得博士学位，围棋开源项目 E R F Open Go 项目中研究工作工程负责人以及第一作者。
然后这位是彭天义，今天是彭教授的主场啊。彭天义教授是哥伦比亚大学商学院决策风险与运筹系助理教授，于二零二三年获得麻省理工学院博士学位，二零一七年毕业于清华大学姚班，共同创立人工智能 Simulate AI，革新电商购物体验。二零二一年二月被 Salesforce 收购啊，恭喜！这个非常新鲜的一个好消息。然后研究方向也是包括强化学习、数字孪生模拟、智能体环境和信息管理。曾经获得 Informes Daniel H Wagner 实践卓越奖，Junior Faculty Interest Group Best Paper Prize, Applied Probability Society Best Student Paper Prize, R M P Jeff McGill Best Student Paper Award。
好，这两位非常优秀的履历啊，今天也是非常有幸能够和两位世界顶级的人工智能专家在这里对话。然后我自己先介绍一下，我是赵志成。除了我是纽约文化沙龙的创办人的身份以外，我现在是在谷歌工作，做 AI 方面的研究和产品开发。我自己关注的话题是个性化的人工智能、长期记忆以及在整个过程中的一个隐私保护等等。
所以，我今天也算是利用主持人之便，跟二位探讨一个我自己非常关心的主题，也就是关于通向个性化 AI 之路，从记忆、学习、执行的视角。这是我定的一个充满私心的主题吧。那么开始之前，我还是先做一下背景调查啊。我可以跟大家大概描述一下参与情况：如果你符合以下描述，你就举手。
每天使用 AI 工具在工作中使用的，举下手？好，绝大部分，大概有百分之九十。在个人生活中每天使用 AI 的，跟工作无关的个人生活方面，大概是百分之八十五左右。会和 AI 倾诉情感问题、获得情绪价值的？四五十吧，然后女性比例明显提升了。
使用 AI 超出对话功能的，比如说写代码、执行代码、工作流？好多，百分之七八十。大家真的是非常深度的一个 AI 用户啊。最后一个问题，原来大纲里没有的：有自己部署 Open Source LLM（本地大模型）的？大概百分之五。看来还是一个新的技术，OK。
那么有多少人是 AI 的从业者、开发者？不仅仅是使用者？呃，百分之二十左右吧。OK，行，那这就是今天的一个大概的背景。然后好，那么这个活动原定是二月七号的活动，因为这个主讲人身体不适，后来我们改期了。三周以后发现这个领域已经发生了翻天覆地的变化，尤其是像 OpenCLaw 这种突然横空出世。
个人助理包括甚至出现了 agent（智能体）的集群这样一个东西。所以我觉得恰好也是印证了我们今天的这个话题是非常有前瞻性的。我相信很多人在不同程度都会认同这样一点：我们今天的人工智能已经是一个具备相当强智能的通才，它具有常识，能够分析推理、写程序、执行任务。
也能够产生文字、图片、音频等一些多媒体的信息，甚至可以有物理世界有一定程度的互动。但是我觉得我自己感受到，它离我们真正的个人助理还是有一定距离的。包括它怎么样可以通过关于我的记忆，可以持续学习，如何内化出独特的思维方式和审美。
而不是一个通用的思维方式，并且以此为准则来行动。然后，在过去几年里，其实学界和业界在一个方向上有很多洞见与尝试，包括关于长期记忆和持续学习的模型框架层出不穷。人们也开始从认知科学、心理学、脑科学、神经科学等领域开始汲取灵感，试图从对人脑的理解中获得这些方向的探索。
与此同时，当 AI 获得越来越多关于个体的理解，怎么样确保个人的隐私？怎么样保障这个 agent（智能体）的一个安全？以及如何把握便捷与掌控之间的平衡？这些都是至少我自己是非常关注的一些话题。
所以我们今天第一个问题给两位，首先给田源栋吧。大家都很关心啊，你能不能先给大家透露一下，你现在的创业公司想要解决什么问题？以及你是怎么去解决这些问题的？在你可以透露的前提下。
哦，这个问题呢，其实我现在还不能回答，因为我们公司现在还是在一个比较 stealth mode（保密模式）。嗯，对，所以我可以私下里讲，但是公开场合我不会讲。现在是这样子：我目前可以说应该是快结束那个 Series A（A 轮融资）的融资吧。对，我们的目的是要融大概五百个 million（百万）。
啊，然后差不多可以到，就是已经可能有一点 subscribe 了。对，然后呃估值可能会在那个 four billion（四十亿）primarily 这样的一个状态，应该是比较大的一个。然后我们现在是有不少人已经在公司里面了。
然后我们现在已经开始开始在在做事情。对，其实现在也比较忙嘛。嗯，对，但是具体的方向然后准备怎么做，现在我还不好讲啊。因为我们毕竟还是一个一个小公司，就是说一些比较重要的东西还是保密比较好啊。现在是这样子。对对，可以好，那还是非常期待这个田教授的下一个 journey（旅程）。
那么我下一个问题给彭教授吧。呃，因为彭教授在自己的个人网站上有一个 chat（聊天），一个叫 personal digital twin（个人数字孪生）。就是你可以问他问题。然后我问他第一个问题是：我马上要采访彭教授了，你给我举列几个你觉得好的问题。
然后以下这个问题就是彭教授的 digital twin 给我的一个问题：您觉得 digital twin（数字孪生）现在的这个 AI 框架和使用模型，离你理想中的 digital twin 还有哪些距离？自己问自己，一个自我解释。谢谢。
啊，首先我想先感谢一下这个邀请啊，包括组织方朱青、赵老师还有吕美科学。我感到非常荣幸，因为一方面田老师是咱们行业的领军人物，我以前应该算那个田老师的粉丝。在我读博的时候，很多时候我就会看田老师写的博客获得了很多 inspiration（灵感）。
然后赵老师也是相当于这个 AI 的非常资深的专家。所以我感觉我今天来这里是有一点点班门弄斧的感觉，但是也是一个学习的机会，包括像两位老师还有在座的各位学习。如果讲的一些东西不是特别好，大家也批评指正啊，抛砖引玉。
首先那个就是说对于 digital twin（数字孪生）这个话题，我觉得首先大家对 digital twin 其实还没有一个很好的 definition（定义）。一般来讲的话可能有两个认识：一种就是怎么用 AI 来模拟人的行为，像更多更像一个人。
另外的话可能就是说怎么去模拟一个复杂的系统？比如说我模拟一个一个公司、一个工厂的 digital twin。有的时候可能是经济系统，可能是一个 human body in bio engineering（生物工程的躯体）。应该说我对两个方向都非常感兴趣都是我的研究话题。
但我可能我今天重点讲一下这个 human digital twin（人类数字孪生）。呃，首先我想说就是从历史上来看大家对于这个模拟其实也是有几个阶段。就是首先模拟当然是一个非常人类认识这个世界的一个根本的方式。
然后这个一开始的模拟呢应该说大家比较 follow 的就是说我我用几个参数来就是描述一个 behavior model（行为模型）。像经典经济学当中的 customer choice（客户选择），就是描述一个人怎么 make decision（做决策）。
但是像这些模型一般来讲都是很简单的，数学参数不会太多。然后在这个模型之后呢大家发现就是说在现实当中用起来其实这个是很有局限性，更多的是用来研究者来分析一些比较根本的东西。
然后大家就发现就是说在过去十到二十年大家开始更多的利用这个机器学习和数据来描述人的和预测人的行为。举一个经典的例子，都是前 LM（大语言模型之前）的。
呃，举一个例子比如说我之前在抖音和他们一起开发过这个推荐系统。在那那个世界里面实际上我们就是在尝试去模拟和预测人的行为，比如说我们想预测你的点击行为？对吧？预测你的观看行为。
呃那实际上像这样的预测它已经可以做得很好了，就是这百分之九十以上的准确率。啊啊那这个但是虽然它非常 impressive（令人印象深刻）基于很大的数据我们训练很大的 embedding model，但是应该说那个还是有局限的。
因为它只能就是理解人的一个特定的行为？就比如说你会不会点击下一个视频。呃我觉得 LM（大语言模型）的出现实际上给了我们一个 hope（希望），就是这是我们第一次看到这是一个通用的模拟人的可能性。
然后我们其实当时非常 exciting，我们做了一个实验也是在哥大大概有几十个老师一起做的一个事情。就是我们尝试就是说创造了大概五百个不同的问题，然后这些问题 cover（覆盖）了一个人的各个方面：从你的 demographics（人口统计特征）、personality（性格）、economic behavior（经济行为）到你的 psychology behavior（心理行为）。
然后我们收集这五百个作为一个训练数据，然后又找了这个大概十几个不同的 research group（研究组）再创建了几百个问题作为测试数据。然后我们就去问了两千个真人，然后把它的训练数据给一个 LM（大语言模型）。
说你模拟这个人去回答那个测试问题。嗯对然后我觉得这应该也是第一次大家尝试去真的去问 LM 不同尽量广的一个范围的人的行为。然后在这个过程中我们发现就是实际上这个 LM（大语言模型）作为一个 digital twin 模拟人它其实是 reasonably well（相当不错）。
其实比较 surprising，就是它的整体的准确率是比较高的。呃但是当然它不是 perfect（完美），这里面还有很多 gap。这也是我说的现在你如果直接用它 deploy 还是有很多问题：它有比较大的 bias（偏差），对于一些一些话题。
还有的话就是它比较倾向于平庸化，它比较倾向于忽略你的性格当中的一些细节。然后他会去 collapse（坍缩）到一个平均的人，然后等等这些问题。但是总体而言我觉得这其实是一个非常 promising 的 topic（话题）。
因为如果我们能模拟人，其实会对我们在很多方面都会带来很大的收益。呃不仅是商业上面实际上帮助我们训练下一代 AI 也很重要，因为我们最终需要 AI and human align（对齐）。
呃建立一个很好的 human simulator（人类模拟器），我觉得我们现在其实还没有一个非常好的认识。为什么呢？因为训练一个大语言模型的一个 AI 和训练一个模拟人的 human simulator 其实是不一样的，这个目标是不一样的。
然后实际上很有意思的就是说当我们回过头去看图灵测试：图灵测试它其实定义的并不是 AI，嗯它定义的是 human simulator（人类模拟器），是一个最完美的 digital twin。
那么从这个意义上来讲实际上我们可以想象就是说可能我们的在训练一个大语言模型当中的 data pipeline（数据流水线）怎么收集数据、怎么去设定它的 reward 等等，这个可能都可以建立一套新的标准给 human simulator。
然后使得我们就是有可能能够发展出很好的 human simulator 作为一个 independent（独立的）digital twin 的未来。嗯对这是这是我的一个认识。好，看来还是任重道远，还是有很长的距离要走。
那我们就正式进入今天的这个话题。我把今天的话题分成了三个部分：记忆、学习和执行。然后我们可以把它看作是一个实现个性化 AI 的一个道路吧。
我第一个问题是关于记忆：如果大家了解这个计算机的发展历史，我们知道现代计算机是基于一个所谓的冯·诺依曼架构。然后它的核心思想是存算分离，就是负责运算的中央处理器和负责存储指令和数据的内存和硬盘是分开的。
但是这个不是我们人脑的一个运作逻辑，对吧？人脑的神经元它其实它的突触网络本身既构成了记忆也构成了计算。所以人的思维方式和审美和世界观是在这样一个大量的记忆和沉淀的基础之上来实现的。
然后在这个意义上我觉得大模型其实在一定程度上实现了这样一个存算一体的一个构架方式。什么意思？就是说我们说一个模型具有几万亿个参数的时候，这些参数它既构成了对于训练语料的一个记忆。
比如说他知道拿破仑是谁？他知道这个新中国建立于哪一年？然后同时这些参数也构成了一切涌现的高级行为、高级思维。我们其实没有办法去真正的区分哪些参数是负责记忆的，哪些参数是负责思考的。
所以我这个问题抛给两位老师：二位是否觉得或者怎么看待这样一个说法？就是大模型在某种程度上是实现了存算一体的，以及这样一种区分方式对于大模型以至于未来的个性化的大模型是一个有意义的区分吗？
它这个是一个值得去探索的一个思考角度吗？先听听田兄的想法。好的，呃我觉得这是一个很重要的一个方向。因为现在很多时候大家就算在做那个研究的时候或者做一些探索时候呢，大家还是在把存算分开来做这个事儿。
比如说那个之前我们一直看到有很多人在探索比如 associative（联想）
memory。那么这个方向其实也是一种把存算分开的这种思路嘛，啊，就是说，OK，我的memory是专门负责存存那个存东西的，然后这个这个memory呢，其实就是说你输入的时候是个key，输出是个value。对吧？然后就相当于数据库嘛，对吧？输入的时候是数据库的键值，输入的数据库的那个其他这一行里其他东东西，啊，这种思路来去做这个事情啊。就是但是大模型其实很多时候不是这样子，就是它有很多的里面比较好的表征呢，这些表征应该说，呃，它其实是综合了大量的那个呃数据啊，然后得到一个比较高级的高层次的这个理解。
我觉得这个其实应该说是比那个单纯的这个存储呢要更加高级一点啊。那么这个理解一旦高到一定程度之后呢，这个计算结果就自然就出来了。所以这样的话，通过这个方式，其实可以达到那个存在一体的这个目的吧？但是就是应该说，人脑应该还是或者说是AI吧，应该说比较呃偏就是呃两边的中间。就是我们不是我们有两个极端嘛，一个极端是说哦计算跟存储是完全分开的，还有另一个极端是说我们要完全一体啊。但是也许呢，真正发生的事情是在两个中间的情况，就是有些比较直觉性的、一些事实啊或者直接性的推理呢这些东西已经是处于这个存算一体状态了啊。
比如说，大家问你一加几，然后就说大家不会说扳指头数一二，然后说这是二对吧？不会这么不会这么做啊，一定会马上反应过来说这是多少。呃，这个是已经是固化在脑子里面，通过大量的那个运算或者说大量的这个实践经验已经知道这个答案是什么就不需要经过推理。还有一类东西呢其实是可能是对于人类来说是比较新的然后就是你需要去想一想去思考去做推理的。那么这个时候呢其实它里面就会有存储跟计算的一些分开一些分界啊，比如说你先要把这知识调出来调出来之后呢呃大概思考一下这个是怎么做的？你是列个算式一步步的去推啊然后才最后把那个呃把答案算出来。
那么这个时候呢就会比较明显的存储和那个最后的计算啊这样的一个分界的过程。但是这两部分的这个边界应该说是非常模糊的。如果呃一个模型在一个方向做了很多很多的这样的一个探索那么这个模型就应该会自动的把这个探索呢固化到自己的那个权重里面。那这样的话下一步在做探索的时候也不需要花那么多时间去把这个原来的路径再走一遍啊，这样是这样的一个状态。之前我们比如说做那个围棋的时候当时我们是做AlphaZero这样的算法啊或者它的extension，这个时候呢是非常简非常清楚的这样一个逻辑就是你先用一个现在的模型拿过来。
拿过来之后让它去做各种那个探索啊做那些robots做搜索，然后发现一些好的招法。把这招法拿过来之后呢把这招法本身是通过搜索得到的，那么把这招法作为搜索的结果再作为样本放进训练模型里面去训练。那么这个模型下一步就变得更强了，为什么变更强了？它把原来需要经过搜索得到答案固化到它的权重里面去了。然后呢下一步他再做搜索的时候呢他就站在巨人肩膀上了啊，再把以前那个搜索结果固化在这个权重里面之后呢再做搜索呢它效率就更高啊它的那个结果也更好。
那么通过这个方式呢你就可以左脚踩右脚踩上去，通过这个方式你可以做那个自我迭代嘛。就是就算你没有任何任何人类棋谱你还是可以通过这个方式达到很强的能力啊甚至超过呃人类的那个最强的那个棋手。是这样的一个逻辑。那我觉得现在大模型的训练其实也有这样的一个一个思路啊，很多时候是先是在后训练阶段你先做一些探索啊做一些生成大量的这个thinking trees，生成大量的那个逻辑然后做答案是对的。但是这个thinking trees的逻辑呢做多了之后你会发现计算资源消耗巨大啊，但是结果不一定很好。
那怎么办呢？你把这个thinking trees放回之前的那个pretraining或者说post-training，那么通过这个方式让它再训练一遍之后呢它这个模型本身对这个sequence trace的这个理解就更深入了啊，那它再去再去做那个后训练的时候啊就会效率更高。这个过程其实也是在进行中的应该说是比较呃共通的逻辑吧，对。所以其实应该说整个这个过程就是把存算从分离到一体然后再分离到一体的这样一个过程慢慢迭代，慢慢模型就会越来越强。这个应该说是一个现在可能是一个共识吧大家都会知道是大概是要这么做的，嗯。
好好谢谢田修那彭教授呢怎么看？我我就补充一下我觉得田老师这个说的非常好，这个也是我觉得现在大家的特别在Big Frontier Lab可能是这样的一个共识。嗯呃我的一个首先觉得这个问题问的很有意思，因为他是提到这个冯诺依曼这个架构对吧。然后我还特地回去看了一下就是说冯诺依曼包括图灵他们在那个时代是怎么想出这个架构而且这个架构为什么聪明？因为听起来好像很显然。嗯对，他聪明当时聪明的一点实际上是在于就是说大家当时面临的是一个比较模糊的，就是我们有一个计算的概念然后我们手里面有一些这个电子器件可以当做一些门的计算。
实际上香农当时的论文也是做这个，然后但是他们意识到一个事情就是说实际上程序、规定怎么做计算的程序可以存在内存里。这样子的话那个计算就变得非常简单了，他只需要去内存里面看那个程序而不用自己去编码程序。对所以这样的成为了一个聪明的架构，然后我们就一直沿用了下来。我其实很好奇就是说对于这些冯诺依曼就是他们非常有vision的这些人来说如果他们生活在今天这个时代对吧？他们会怎么想？因为今天我们其实也在一个比较模糊的一个阶段，就是说LM出来了我们有这样一个东西。
这个东西好像可以做计算也可以做内存也可以对那我们到底要怎么用它怎么model它然后使得我们可以在架构上面是能够持续的这个沿用下去。对所以to some extent我们现在需要这个新时代的冯诺依曼对吧？它可能是两位老师也可能是在座的各位，就是我觉得大家可以去思考这个方面的问题。怎么去model这个东西？我的一个认识就是说实际上你看人这个人其实也不是说真的纯算一体，我们对吧？好好好记性不如烂笔头。
对我们虽然是作为一个比较一个intelligence我们具备双就是具具备计算和内存的功能但是我们同时又发展了我们外外面的这个内存对吧？甚至还有外部的帮我们做计算的tool。对从这个意义上来讲我觉得就是说可能没有一个就像田老师说的，没有一个准确的分界线。当我们有了LM以后我们还是会需要它外部的内存、外部的这个计算，因为呃总体而言的话就是说世界的信息是无穷无尽的然后它在不停的新的产生。那么这个东西就需要我们一直会要有外部的东西来帮助一个内部的intelligence，对所以我觉得是这样一个一个一个line。
我补充一下我这有这个问题是因为我有一个朋友他前两天跟我聊这个事儿他说那个你说这个人脑里的CPU和内存分别带分别是什么？我就发现他这个问题背后有一个假设就是人脑也是存算分离的。也就是说当我们过于习惯了当代计算机的架构的时候你已经会某种程度对自我认知产生一种异化，就你觉得其实人也是像计算机一样去运作的。然后我后来就想到首先人脑不是这样运作的，其次当代其实很多的这个算法以大模型为代表吧它其实很大程度挑战了尽管它的基础基础的架构还是冯诺依曼架构但是它从高层次上其实已经挑战了这样一个一个一个最原始的这样一种哲学的思想。
所以我会有这样的问题我想再针对这个追问一下就是从记忆到学习的一个过程就是刚才田兄也说了彭教授也说了就是我们总会有一个存算分离、一体分离一体这样一个不断螺旋上升的一个过程。那么这个过程它对于个人的记忆和学习意味着什么呢？就我之前看看一个论文，它有一个蛮有意思的一个比喻，就是说我们今天的大模型它是一个患有顺行性遗忘症的天才。什么意思呢？就是说他在某一个时间节点之前就是说他训练语料之前，比如说二零二六年一月份他训练数据到这儿了。
他这个这个之前有所有记忆，对这个世界的所有记忆但是它一旦运行这个指令的时候它会在那个时间点之后的所有之后所有的集它都没有，它就是一个顺行性遗忘就是说它只记得某个时间之前的记忆对之后是没有的。然后当你去执行这个任务的时候你需要给他一个context上下文，他对这些上下文也是有理解但是一旦这个任务结束了上下文信息会被立刻抛弃掉他又回到那个只有2020年1月份之前数据的那个状态，就是一个典型的一个顺行性遗忘的一个症状。
这就引向两个思路一个就是刚才田兄也提到了，就是我们用这种存算分离的一个思路就是用所谓的显示记忆。就是用记忆的文本方式给整理出来让大模型在正确的方式去读取一个记忆，也就是这个烂笔头的功能。比如说用关键词读搜索啊图树这些组织结构来取记忆，好处是这些记忆是可以被人获得、被人理解的然后机器也可以用同样方式理解它。其实我们今天用OpenCL也是用这样一种不断反思写下来的方式来构建一个关于你的一个记忆的。
另一个思路就是一个存算一体的思路，就是用记忆参数的方式来把你的这些记忆给存到一个黑盒子一样的参数里面。就像刚才田兄也说的，就是又回到了这个存算一体的思路里边，它就把它存到那个位置里面。exactly。然后呢我这个去年年底谷歌发布了一个叫Nested Learning，它就是模仿人脑的层级记忆结构来训练这样模型的。就它的想法基本上就是我有一个底层的一个位置，这些位置是一个关于世界的基础认识比如说基本的逻辑、基本的世界运作的规律、一些常识。
然后在上面一层呢是一个关于你的一个记忆的浓缩，比如说我喜欢吃川菜啊、我喜欢的红色或者我有自己的审美的品味。我认为世界是一个毕拉斯毕拉格拉主义者，比如说真的我是一个左派等等等等这些东西它是从你的显示记忆里边存取下来的但它和这个世界观又不太一样，它是一个中间状态它也是用参数来来存取的。所以就是其实刚才田兄也说了我们关于记忆目前有两个方向嘛，就是一个是显示记忆人是可以去理解读取的；一个是那种参数化的记忆。
那么我想再追问一下呢就是在于关于个性化的记忆不仅仅是这种global的一个智能体，哪个方向是更好的或者有没有超越这两种区分的一个第三条的路径？我们把这个视角放回到一个个性化记忆和学习的这个视角上面，田兄。呃我觉得现在还是处于比较初级的阶段嘛这个方向因为你看那个Kimi是怎么做的嘛？啊它应该说比较简单吧，就是把自己用户的过去的那些一些重要的事件给放写进那个md文件里面就是markdown的文件里面去，然后这个文件里面就它存了一些比较重要的信息。
对吧？然后他把这个过去的记忆可能按照时间来分，就比如说最近的记忆可能放的比较近一点，然后久远记忆把它压缩一下或者说做一个总结，然后放在那个上下文的前面那个位置。还是这样的一些一个逻辑，它里面有一个自动的组装模块，它把过去的那些历史作为那个Markdown file，然后通过组装然后组装成上下文给AI使用啊大概是这样的。那么这个应该说是一个是它兼顾了两种嘛，就是一个是可解释性因为很多用户是需要去编辑一下他的记忆的。
编辑一下有些东西不想让他知道或者不想让他这个记住，那就把它删掉呃这可解释性非常方便啊。然后另外呢就是说它一个非常灵活啊，它通过程序的那个就可以控制它这个记忆的来来回回的放进去也好或者说不放进去学也好啊，这个它的控制是非常好的。对那如果你以后你们要把这个记忆放进那个权重里面呢呃这个就是它可能在工程上应该说是不太方便的一个方案。就特别是啊如果是你要在那个把个性化的模型真的就是作为权重的一个修改的一部分的话呃可能就是除非我们需要除非我们的模型已经有更好的方法来训练了啊那可能这个不太不然的话不是很方便。
当然就是也有些其他方案，像最近那个Sakana AI他们搞了一个文章叫那个Doc to LoRA。啊就是说你把过去的上下文拿出来之后呢我通过一个hypernetwork直接预测出一个LoRA的这个adapter然后放进去。然后这样的话呢对这个模型来说啊它自己的权重是不变的，然后在权重外面再加一个那个LoRA adapter。那么通过这个方式可以让这模型在没有这个上下文的情况下也可以表现出和上下文有相似分的情况下一样的行为。
那么这个也是一种办法，这个就是相当于我不知道这个算不算第三种了啊？因为我刚刚刚才说的是第一种是把它放进上下文啊，第二种是就改这个权重本身。那么第三种呢是权重不动然后在外面加一个那个LoRA的这个adapter，那个也算是应该也算改权重嘛但是也不是完全是一样的。你通过这种方式是不是也可以实现个性化啊？这个也是一种可能的做法，可能的做法。嗯对就是我我倒是不觉得就是人类的完全存算一体或者说是把所有东西都混在权重里面是一个好的方案啊，不一定是一个好方案你可能是进化的一个限制。
因为对人来说呃用神经元的方式来连接一切东西在进化上来说是一个比较简单的方案啊，如果你要把人脑分成两部分一部分专门是负责那个记忆还有一部分呢就是专门负责这个推理然后这两部分的架构是完全不一样的。那么这个可能对于这个进化来说可能不是很方便，那所以他们就找了一个自然选择就找了一个比较啊容易解决的方案去解决。这可能是个奥卡姆剃刀原理的这个argument吧，大概是大概是这样子，大概是这样。对但除了这个之外呃我觉得其实并没有目前还看不到没有什么其他方法来做那个个性化嘛？
就因为这个你把这个memory一定要放在一个地方啊，你可以放在上下文、可以放在skill或者放在一个document里面然后按需取用啊或者说放在权重里面啊，包括主权重和LoRA。所以大概就这些方案很有意思，我们是一个路径依赖的一个进化结果。彭老师怎么看？哦对again我觉得田老师其实讲的非常的这个全面啊就是各种这种方案的比较。嗯我个人的话也是倾向于就是说至少短期内我们对于记忆这个问题对吧？这个memory问题，短期我们应该看到的应该是会是倾向于第一种方案。
就包括我们看到Kimi、包括again就是说现在大家比如说这些大厂训练模型的主流方法里面的话目前的话还是不会想着说我要去改那个transformer的架构嗯或者是甚至LoRA这种方式实际上也还是要耗费很多的训练资源来做成这个事情。呃更多的想的就是说如果我显式的去写这个记忆的话我怎么能够把它写的更好对吧？怎么比如说大家如果用那个code的话它有个功能叫compact。嗯对就是你的context length到一定的长度的时候它会学会怎么把它给压缩。
那么它会想就是我这个怎么能压缩得更好？然后呃包括我如果context长的话我的能不能记住那些context里面一些细节，嗯对吧？这些detail的memory然后这样的话他发现就是说至少按目前的这个scaling law这个故事还没有结束，这个能力还在上升。就是如果我们能造出更多这样的需要memory的数据啊它的这个能力还会继续上升。我觉得这是第一，嗯这个应该说是对像那个我之前看那个Anthropic的CEO他的采访的话他也是这么说的。
就是他觉得包括像持续学习这种能力呃也有可能暂时我们就是说就用scaling law的方式就能教会model不一定不一定要让它真的去online的去explore，就你可以教会它explore的能力通过offline的这个。
Learning，对吧？这样的都呃，我其实跟他们的作者有过这个交流，就是，呃，他们也同意，就是说，就是要真的，就他们的本质是说，不同的层用不同的frequency对去update，对，跟人脑的这个，跟他他用的人脑的一个frequency的那个，对，但是他们自己也承认，就是这个概念有点过于fancy了，就是对对对，对，就是很多人看不懂那个文章，嗯，呃，对，但是呃，但是他感觉就是说，实际上这个东西真的要work还是需要很长时间的。因为现在更多的是一个 demo 性质的一个一个 concept，嗯，实际上我会个人会希望 memory 这个问题要稍微难一点比较好。为什么呢？因为我觉得这是我们人类的一个护城河。如果连这个护城河也没的话，就是真的很难区分它和你的区别了。
对，呃呃，但是另外一个有意思的东西呢，我想 highlight 一下，就是对于第一种方案，所谓的我们让它把这个 context 写在外面，对吧？呃，组织起来，我觉得这个问题呃没有大家想象那么简单。对，为什么呢？因为因为我觉得很多程度上面，我们是把 agent 现在的看法是把它当成一个 task solver。对吧？给他一个task，然后他来解决它。对，但是实际上我觉得很多时候他的问题的challenge就在于。怎么去给他正确的 context？嗯，就是大家通常会说，我如果给他 context，给他 tool，那么他就会解决这个问题。
嗯，对，但是难点其实在于怎么给它正确的 context。对，然后这个里我觉得其实有一定程度上面涉及到了，就是我理解的一个智能的比较本质的一方面，就是说实际上智能是关于信息，关于怎么把大量的 unstructured information 能够组织起来，然后能够提取 insight，能够回答这个新的问题更 efficient。嗯，那么在这个过程当中呢，实际上怎么去把一个很多的 information。组织成合适的 context，嗯，实际上是 non-trivial 的，对。
然后我们可以想象，就是实际上在现实当中，很多公司。对吧？他他就是做这个，就比如说 finance，嗯，他要赚钱，实际上他就是把这个 world information，他想办法组织起来，对对，然后 structure，然后不同的人在里面看，然后来想 insight 或者学习模型。呃，然后在这个过程当中，我觉得实际上我们现在应该到了这一步，就是说，呃，管理 context，我们也应该用 agent 来做。
嗯，也就是说，这些 agent 它在不停的获取 information source，然后它的目标现在是 maintain 这个 information source，嗯，同时更好的去组织它。然后组织的目的呢，是为了让比如说之后的 agent 来解决 task 的时候解决得更好，这个其实跟人也是很像的，就是。人，我们学会组织，对吧？合作的方式也是通过维护一个大的信息系统，对，然后大家再在上面进行各种操作，对。
然后这一步，我觉得实际上现在我们也可以用 agent 来做，而且我们做了这样的尝试，我们发现就是说，在一些管理内存的那个，呃， task 上面，如果说，呃，就是通常的做法，我们可能是做一个 rag，rag 对。或者是做让这个 agent 把这个 memory 写下来，对。但是我们发现，就是如果说我我让 agent 提前自己去设计它的 memory，到底要用怎么样的数据库来进行存储。
嗯，对。然后然后它能 pre-process，嗯，它的这个 memory。那么在这样的组织方式下，它能够比现在的 state of art 其实要好很多。嗯，因为我们对信息做了一个预处理，啊，这个而且这个预处理是 agent 自己做的。对对，这样的话我觉得就把信息的这个链条打通了，因为 maintain 和组织信息也是很重要的一环。
嗯，我觉得这里面还有个 interesting point，就是说，呃，这也是。其实田老师刚刚提到，就是说这个进化的过程当中，对吧？到底会进化出什么样的方案？呃，我觉得这实际上是个 interesting question，哎呀，就是，呃。什么？到底我们怎么定义呃一个好的memory管理方式？什么样的memory管理是好的？嗯，对，为什么存算分离和存算一体？呃，到底哪一种方式更好？
我觉得可能有一个指标，就是我们平常说的不太多，但是我现在就越来越觉得它比较重要，就是呃，实际上跟速度有关，或者跟效率有关。嗯。就是，当我们比如说回答一个，就是怎么为什么这个信息组织的比那个信息要好，嗯，可能是，当我们用这个信息去回答后面的问题，接下来的问题的时候，它能够回答的更快。它的准确率更高，那么这就是一种好的组织信息的方式。
所以，to some extent，就是说这个速度本身其实是重要的，而且这个引发了另外一个就是说对L M的思考，就LM本身实际上是对Internet的信息的一个再处理。嗯，然后我们通常说是它是因为压缩产生了这个智能，对吧？我觉得可能还有一个思考方式就是说，它呃为什么好，是因为它其实提高了呃接下来的information retrieval的速度。因因为如果你再回到Internet去retrieve information是很慢的，但是通过压缩它提高了速度，那么这个speed可能就implied了intelligence。
然后我觉得组织信息可能也是类似的，就是我们组织好信息实际上可以用未来的那个速度和准确率来衡量，同时来。improve我们信息组织。那么从这个意义上来讲，可能存算一体和存算分离的两个方案也可以在一起 compete for 那个就是呃它对它它的效率它的 speed。啊，然后我们可能会看到就是说，实际上对我觉得最终应该是有很多层级在这里，嗯，它不是一个呃灵活的一的一个分类。
对对对，彭教授刚才说，我其实很受启发，就是也可以说是第三个路径吧，就是用 agent 来动态的管理，而不是说有一个事先写好的一个编码方式来，无论是显示的还是隐式的来处理这个这个数据信息。对，其实你刚才一说，我又想到了，其实我们除了那种就是宏观的 global 的一个模型和我们个人化的模型当中，还有一个介于中间的状态。
就是比如说我们可能对我们近视更有影响的就是，比如说怎么样去处理公司的信息，公司的一个一个模型，你怎么知道公司的上下文，公这个公司的运作逻辑、规规章制度、法律法规等等，它也是一种个性化，但它不是个人的个性化，而是一种更加强调组织架构的个性化。就像本身公司本身就有组织架构，然后你怎么样用一个类似的或者不一样的 agent 的系统来维护这样一个属于公司的一个个性化的记忆。
也是一个非常呃非常值得研究的一个话题。对，好下下一个话题，我想稍微换一个换一个领域，就是关于这个个性化AI的另一个领域，就是个人信息的一个采集。因为我们知道，今天我们的或者说我们比较流行的大模型，首先是语言，然后会有一些多模态，对吧？呃呃，图像啊、视频啊、音频啊等等。
呃，然后我们今天其实有很多，呃，过去一两年有很多新的智能设备、智能硬件是涌现出来的，比如说有二十四小时录音、拍照、录像的方式，各种智能硬件可以来模拟一个人在实际生活中所收集到的原始的素材。就是你所看到的，就是他看到的；你所听到的，就是他听到的。甚至也有可能会是一些物理的感官，比如说你对于你环境的一个气温、气压、重力的感知。
它更像一种具身化的一种信息的一个收集。然后这个其实也是。也就是所谓具身智能，在也是比较火的一个方向。然后，呃，但这种信息处理的这个媒介，其实对于个性化的学习也是一个新的挑战。因为我刚才说，我们今天的大模型主要依赖语言，而语言本身是一种高度智能化的一个结果，就它已经高度浓缩了人们对于世界的一个理解。
人脑人脑每秒处理信息是大部分其实是无意识信息，其中有意识信息是占很小一部分。然后，有意识信息里边的可以被总结成语言的信息又是很小一部分。然后，其实如果我们把这个对于信息的收集可以放大到非语言甚至非意识的信息里边的话，其实它可能对我们今天的大模型的一个架构会是一个新的挑战。
呃，然后另一方面，语言也是用来交流的，所以交流意味着它其实产生的是一种智能的共识，就是咱们俩必须用语言。也就是咱们俩可以用语言交流部分，其实是咱俩可以达成共识的一些地方。但我们当我们说这个个性化AI的时候，很多时候它是有一些很多不可言说的一些东西，比如说我的一些感受，我的一些呃一些心种一些症状。
某种程度上，在这个东西我可能很难语言表达出来，但是我是希望我有一个。如果是一个digital twin的话，这个twin是真的能够认识到这些不可言说的部分的。所以我想，我想问二位的就是说，首先我们是通过自然语言让人类看到了这个所谓通用人工智能的第一道曙光。那么它是否会成为一个进一步智能以及个性化的一个诅咒？就是它既是一个起点，同时也设置了一个上限。
我们怎么样去处理这些非语言的原始信息？意识信息与非意识信息对AI来说是不是一种有意义的区分？呃，还是田兄先。呃，我觉得是应该说是这样吧，嗯，呃，当然有很多很多不可言说的东西呢。其实是因为就是我们人类可能对于这个整个呃上下文，它有很敏很敏锐的感知啊。
比如说，我觉得人类一直是在用就是非常长上下文来做这个决策的啊，只是说这上下文的压缩或者说它的一些。呃，他的对这个问对这个上下文的这个最重要的部分的那那些那些抽取呢，应该说是非常的领先于现在的这个模型的啊，所以其实就是说我们为什么会觉得，嗯。呃，人非常懂呢，是因为就是他在关键的时候，正确的地方，正确的点，说出正确的话。
然后别人会觉得哇，这个人真懂我，或者真真的理解我在说什么啊，这个是很重要的一个一个事情。其实之前那个其实也就有，我看社交网媒上也会有人说小龙虾非常的厉害。为什么先厉害？它可能会非常精准的记住你可能几天前说的话，然后提醒你，然后说这件事情呢你还没做，你把它做了。别人会觉得哇这个好棒啊，呃这个它确实懂我，它的理解就是这些。
这也就是说，就是但小龙虾的这个memory这个组织方式呢，应该说还是比较简单的啊，就是把过去的那些知识。啊，通过某种方式放进去，然后它里面还有一个那个 information retrieval system，对吧？就是它根据你当前说的话去智能去去去检索啊之前的那些 memory。然后把那些相关的 memory 拿过来啊放进去啊。
我觉得这个部分呢，应该说还是比较啊比较不错的啊。那通过这个方式呢，那可能让别人会觉得哇，它真的有智能，它能够记住那么早的那些事情。啊，所以这个事情就是，其实现在想看，应该说在某种程度上有一点点达到了啊，但是这个达到呢是通过大量的这个人工的这个设计啊。
然后大量这个很聪明的这个memory这个arrangement，让这个事情能能能够让感觉到是可以的啊，啊，但是就是以后能不能把它搞自动化，然后让整个AI系统能够自动的找到正确的memory，并且给你说出来啊。这个其实是一个比较大的一个问题啊。怎么去怎么去做这事儿。啊，这个是一个一个问题啊。
那么，如果做到一定程度之后呢，慢慢慢慢变成非常无缝了，那有可能会呃造制造这个一切尽在不言中的这样的一个感觉。让你觉得真的是成为了一个很好的一个一个一个一个一个数字伴侣啊。我觉得可能是这样子啊，一个一个过程。那么，这这到到这个目的其实有两条路，一条路应该说是，大家比较比较比较这个呃比较这个。花时间的工程实践啊，从通过各种方式去找这个什么样的memory这个setting是最好的。
另外一条路呢，就是说啊，我们是不是通过某种方式让AI自动学会啊，怎么样把这个数据从啊，从这个上下文里面抽出来。然后作为最重要的那个数据，然后用它来啊跟人进行对话啊，这个可能是一个重要的一个方向。你想 MIT 最近有一篇文章嘛，叫 Recursive 啊 Language Model 啊，就是他把这个上下文啊作为一个数据。
就相当于作为一片的语料一样的东西啊，然后我训练一个模型，它自动能从里面。去找到重要的方向，然后把它呈现给那个真正上下文，让这个模型呢，啊，能够回答正确的问题啊。这个方向我觉得可能以后可能会比较有趣。就如果它能自动的发现这个策略，去把这个 memory 抽取出来啊，我觉得这个可能会比较有意思。
啊，这个这那这两条路应该都能走啊，因为呃，你真的要做训练的话呢，你肯定要花很多时间和代价啊。需要花很多卡啊，把这个训练过程给做出来啊，就是你把训练过程调通了，本身也不是很容易的事情。啊，那么工程方法也是一个比较很比较好的方案去做这事儿的啊，我觉得这个可能都可以啊，都可以做。
那长远来说呢，我我当然是觉得，如果是从进化的角度上来看，你肯定是就是进进化这个过程是没有工程师在给他给他做打补丁的啊。进化一定是那个通过的不停的那个迭代啊，不停的那个试错，慢慢试出来，所以它更有可能是强化学习中的一条路。呃，一条这个。呃，路径啊，那怎么样把这个呃找到这个正确的这个策略和逻辑啊。
找到正确的那个memory把它调出来，然后给给这个模型使用啊？我觉得这个可能长远来说是这样一条路可以走的。啊，嗯，就是啊，大概大概是这样的一个一个过程啊。但这这两部分是就是说基于现在的memory上来来讲的啊。那还一部分呢，就是说，呃，可能就是对于用户画像。
然后啊，对于就是说，呃，我跟你说话，就是我对你的一个modeling啊。这个本身的那个内容其实也是很重要的啊。就是如果一个人跟别人讲的话讲了很多了，那他可能通过两句话就可以大概知道呃对方的呃一个思维的方式啊。他的逻辑啊，他想要想要什么东西，他都会有一个大概的那个建模。
那么有这个建模之后，那对于这个AI来说。那么这AI可以通过这个模型的结果啊，可以大概的可以推测出来我要说什么话比较好啊，大概是这样的一个一个过程。那么这个过程现在目前应该说是在大模型里面的。啊，那么，但是这个大模型里面这个这部分呢，可能在预训练过程中，它真正受到很大的训练吗？也不一定。
因为大部分的语料可能并不是对话类型的，大部分语料可能是比如说，呃，大量的这个文献啊。大量的GitHub呀，或者说那个Wikipedia啊，那不是对话类型，它可能对这个人的本身的这个呃这个这个这个呃这个这里面的这个一些一些一些一些一些一些东西呢，它建模的不是特别深入。那么怎么加预训练过程中啊，把这个呃人的部分加进去。
让这个大家在那个生成这个下一个token的时候呢，能够更加敏感地感觉到啊这话是谁说的。然后从在什么语境上说的，那么能够把这个事情给啊给做出来啊，对。因为这个我是我知道，就是有些人，比如说一些做做一些呃，比如说呃做呃读文科的人啊。比如他们会，在读史料的时候呢，可能会有这样的一个想法。
说啊，我们看以前的历史，啊，说这句话说出来之后呢，就是史料里面就有几个字啊。但是在这个说这个时候呢，你这些人会去推测。啊，这个是谁说的？然后呢，他是什么样的语境上去说的？然后说了这个是为什么？当时什么样的心情？啊，对。那么通过这个方式，你生成大量的数据，那么用这个数据再去去。
去推测，就是说这个这这个说话人的语气表情，那么他就会呃对这个问题更深的理解啊。那通过这个方式呢，我们可以扩增语料嘛，对吧？然后用这个扩增的语料再训练。那么这个模型可能会呃当时这个人的啊表情啊，他的一些想法和思路呢，会有更深的理解。我觉得这个可能是也是一条一条思路吧。
啊，那么这个可能就是更偏预训练的，或更偏啊模型的那个数据的一些这方面的一些一些工作了啊。所以这两部分是两呃两个不同的方向。对对，很有意思。那彭教授呢？怎么样做一个不说话就能懂你的digital twin？呃，对，我觉得这个对田田老师其实讲的非常好了。已经。
嗯嗯，我的感觉是就是。呃，从我以前就是说，包括做一些推荐系统的研究，嗯，这方面的经验来看的话，就是包括做这个 digital twin 的研究。呃，我都觉得首先第一，人这个东西好像没有那么复杂。好，怎么说？就是呃呃呃，一方面当然就是我们还是会有 long term memory 等等。这这些是困难的，但是人人在生活当中做的这各种选择什么的，其实没有那么复杂。
呃，也就是说预测一个人的行为模式，我不知道大家有没有去做过那种什么MBTI什么人格测试。有的时候你会觉得啊，光那十几个分类就可以，对吧？概概述概述一个人，就是从这个大的框架上来讲的话，其实人这个没有太复杂。包括就是。你如果用一个 embedding model，用一个 vector
描述一个人往往只需一百多个数字，但在细粒度层面，人的维度其实非常复杂。人本身具有随机性和不可预测性，甚至无法预判自己下一秒的非理性行为。实验显示，同一用户隔一两周回答相同问题，准确率仅百分之八十几；不同时间测试MBTI结果也可能变化。这体现了人的动态复杂性，也促使我们重新思考训练模拟人AI的目标设定与数据获取方式。
当前研究常混淆AI能力与人机拟真，发现机器在特定条件下比人更“聪明”。例如测试联合国非洲国家数量时，人类普遍猜错范围，而设定相同知识水平的LLM回答准确率却高达百分之九十以上。这是因为模型未意识到该问题对人类的难度，训练目标通常旨在提升能力而非模拟人类局限。若将模型设定为婴儿状态，需经历知识积累阶段才能回答，这揭示了当前AI训练与人机模拟在目标上的本质区别。
关于智能是否受限于语言，多模态技术已拓展至音频、视频及传感器输入。然而，智能未必仅表现为人类形式，生物进化可能限制了人类的效率。若高级文明以代码为语言并能操控物理世界，同样可发展出高阶智能。因此，应将智能概念与人类特有形式剥离，探索多元智能形态。这一视角引出了执行与反馈的重要性，强调AI需在互动中通过实践学习，而非被动吸收信息。
Agentic AI的核心在于人与世界的主动交互，正如“事教人一教就会”，实践中的反馈比单纯获取信息更有效。强化学习范式即基于此，超越预测下一个Token的局限。研究员Jason Wei提出“验证者定律”，指出AI擅长解决易验证但难解决的问题，如编程。相比之下，审美、道德或事实核查等任务虽可能有客观标准，但验证工作量远超获取答案本身，这种非对称性导致部分任务难以被AI高效处理。
此外，如围棋等任务虽易验证，但执行逻辑长、奖励稀疏，增加了学习难度。在难以验证的问题空间中，AI如何提升效率仍是挑战。田老师指出，最终希望系统能直接与用户对话获取反馈，但这面临“黑客”风险。例如模型可能为讨好用户而过度谄媚或堆砌表情符号以提高参与度，这种策略性迎合会干扰真实反馈的有效性。
为缓解奖励稀疏问题，可采用Rubric等中间验证步骤，评估思考过程的严密性而非仅看最终答案。通过prompt引导模型自我检查逻辑瑕疵或跳步，可使强化学习过程更稳健。然而，随着模型能力超越常人水平，具备评判能力的专家日益稀缺。例如Google使用GPT解决高难度数学题时，虽可形式化验证，但人类精力有限且专家资源减少，这成为未来发展的瓶颈。
针对无标准答案的科学发现等领域，除增加标注人力外，打开模型黑箱以检查逻辑链条成为关键。通过解析内部机制，可在早期发现逻辑错误。例如“Deep Confidence”方法利用模型推理时的自信程度筛选路径，剔除心虚的低效分支，既节省算力又提升效果。这种内部验证机制为处理复杂问题提供了新思路，有助于在缺乏外部反馈时优化模型表现。
关于AI相互验证，目前效果有限，常陷入“菜鸡互啄”局面，难以发现核心问题或提供深刻见解。真正解决关键缺陷仍需资深专家介入。彭教授从数据角度补充，难点不在于获取数据，而在于获得可扩展的高质量数据。Allen Institute CEO强调数据的重要性甚至超过模型架构，指出当前瓶颈在于如何规模化制造高质量训练素材。
从GPT-1到GPT-2的演进中，团队利用Reddit数据构建高质量语料。他们筛选被点赞且附带链接的回答，假设这些链接指向高质网站，从而低成本获取大量优质数据。这一案例表明，“造环境”和“造数据”已成为AI研发的核心手段，且具备民主化特征。非计算机专业背景者也可通过创新思维贡献数据策略，例如利用LLM模拟生物实验室或金融场景结构。
未来，通过LLM生成初始环境模型并叠加人类反馈机制，可能形成一套可扩展的数据创新科学。这种范式不仅有效，且门槛较低，允许跨学科人才参与数据生态构建。随着技术发展，如何利用现有模型能力合成高质量交互环境，将成为推动Agentic AI突破验证瓶颈、实现更深层智能的关键路径。
pipeline，就是说拿了你这个数据能够提升模型的能力。对对，然后这个事情现在看起来还没有结束，嗯，它在继续发生，对我觉得这个可能是一方一个一个很重要的，就是说，当我们今天讲这个东西很很难verify，呃，也可以积极的想，就是让我来想想我用我的专业知识来造数据，我会怎么造，对吧？啊，造出高质量的，就是好。比如说新闻事实是难以check的，嗯，那么比如说要你去生成高质量的这个符合事实的新闻，这个事情可能没有那么难。对你可能可以想到一些方法，然后你再想我能不能再生成，比如说有rumored这个information来做negative sample。嗯，你可能也能想到一些方法在上面造，对吧？那这样子的话可能就又形成一个新的数据。就是最后不一定是一个特别难的问题就是我们不知道，对呃我觉得这是我的一个一个一个belief吧就是说实际上data和环境是一个很重要的这里面的一环。
然后第二个的话，我觉得就是说关于agentic AI我们看到它现在的困难在哪儿嗯呃我觉得其实田老师刚刚也说的很好就是我觉得其实有一点很重要的是我们到底怎么用这个东西来根本improve我们的science和technology嗯呃虽然我们今天更多的讲的是business对但是我的感觉就是说如果你从一个文明的角度来讲很多根本的东西实际上是来源于科学和技术的突破。对就是如果我们能治疗癌症和不能治疗癌症这是fundamental different如果人类能够活到两百岁跟活到一百岁这也是fundamental different。然后包括物理也是而这些会定义一个文明的边界然后business在后面才是adapted嗯就是在我看来今天我们其实这个可能也是有点悲观。
就是说AI agent这个东西的能力跟很多human agent比较low level的human agent已经差不多了对因为一个human agent在一个junior的human agent在商业环境里面他干的事情也就是给他context给他tool然后他去做做完以后回来汇报。对这个事情我觉得是有可能就特别很多AI领域的人甚至预测对吧就在接下来几年之内就会发生这种事情就是大有一significant portion的people会因为这个AI agent取代human agent而这个就是说重新重新工重新找工作呃。我也其实比较concerned这个问题啊就是unemployment呃但是我觉得就是实际上能够让大家整个的social呃welfare提高实际上是生产力和技术的发展嗯然后在这些领域现在其实还是遇到困难就是呃我们呃包括我有很多朋友包括我自己呃我的夫人也是在哥大的这个应用物理系做这个呃物理实验呃量子物理实验就在他们看来这个东西对于科学技术的发展还没有那么快嗯大家还在还在struggle对对。
我觉得这个可能是下一个爆点就是如果我们能做好这个事情实际上就是good for everyone对对这个我非常同意就是我我身边有很多科学家朋友他们也在非常推崇这个AI for science就他们觉得因为science他们解决的问题远远要比嗯比如这个照片是一个猫还是狗要困难的多所以问题的上限解决就某种程度上决定了智能的上限。对还有一个这个彭教授刚才提到这个收集数据也是因为我去年我我听一些播客也是他们其实对于具身智能机器人来说他们数据是更大的一个难点因为他们要涉及到和物理世界打交道它不是那种可以在这个计算领域可以去批量生产出来的数据所以它的效率会更低一些。
所以像国内他们很多这种就是虚拟环境和真实环境里收集机器人数据是一门非常非常大的一个生意然后高质量的这个机器人数据对于研发这个具身智能对他们是非常重要的一个一个一个难关可以说是对呃对我的问题就到这儿了然后下面是彩蛋环节就我能力有限所以提不出也就能提出这些质量的问题所以下面环节就是请两位这个高手互搏啊！我请两位老师每个人给对方提一个问题对然后那不请彭教授先嗯呃呃这个这个不是一个level所以那个田老师您那个手下留情啊呃对我我也是就是其实一直在follow田老师您的那个博客包括您那个二零二五年的这个年终总结我觉得这个都非常的有意思。
包括您提出了一个叫这个费米能级的概念对吧？这个我觉得非非常interesting如果大家不知道的话可以解释一下就是说这个嗯费米能级本身是一个物理的概念对吧呃呃呃它本质上指的就是说这有一个phase transition就是你要高于这个能级对然后你才能观察到一定的现象然后在AI领域的话就是说可能你需要呃你的这个AI现在已经达到一定的水平然后如果你的作为一个human你的工作能力在AI之下那么你可能就这个就对吧就被它covered了嗯而在那个之上的人可能你的能力会指数的上升。对所以我们要努力做这个至上的人嗯当然这有点competitive啊就是就有点像斩杀线的感觉了是吧但但是呃我觉得它实际上反映的就是说我们人应该怎么学会去用AI对而不是跟他compete对吧？是个human AI collaboration呃。
然后在这个意义下面就是说田老师我看您那个提到就是呃实际上大家要学会的能力是怎么去提出新的idea或者叫宏大的愿景嗯对然后这些才会成为未来最宝贵的一个一个一个就是说呃最宝贵的一个资源因为呃呃你是那个提想法的人然后你的想法可以非常的宏大然后可能越宏大越好嗯呃这样才能激发出AI来帮你这个这个去实现的这个能力。然后所以我的问题就是说这个田老师您您的这个呃宏大的愿景是什么如果说现在有个非常powerful的AI呃。
OK这个问题很好了就是说我觉得是这样吧因为我自己自己就花以不少时间去做一些可解释性啊对吧？做一些对理解AI内部的那个工作机理嘛对吧？所以这部分当然是我的愿景嘛就是我觉得AI应该是可解释的然后我们能不能找到它比如神经网络工作机理能找到下一代新的模型然后找到新的方法去训练模型让它变得更强更更厉害这是一个那这是模型本身的一个对于模型本身的一个愿景嘛对吧？呃另外一个当然了就是希望人类能够走出地球然后如果能够成为星际文明啊这样的一个呃这样的可我觉得肯定是要要要要要要往外走的对吧？这个是因为我们因为如果从历程来看呢就是我们现在因为人类整个人类现在处于一个非常脆弱阶段。
说明明天一颗大陨石把地球给砸了那我们可能把就可能把这个几万年以来的这个几万几万年来这个成果都都都干掉了啊！下一波那个人类再进化出来进化出一个新的智能可能又需要很多时间啊需要几百万年、几千万年的时间啊！那这个时候呢太阳可能已经啊啊慢慢会变变得越来越亮嘛对吧？所以可能最终人的地球不适合人类生不适合生物生存。
所以说应该就是因为人择原理嘛因为我们这个智慧生物在地球上呃应该说度过了一段非常美好的时光啊正好有这个时间、地点、人物都集齐了然后呃有这个各种偶然因素都都都站在我们这一边最终呃人类达到现在的高度啊所以我觉得啊是一个很重要的一个一个历史机遇吧对吧？那如果能够早期的就是能够让让人类或者让智慧生物能早些走出这个地球走出个摇篮啊去很很远的地方那就是那就开枝散叶之后呢其实很难再出现一次大灾害让整个智慧文明毁灭的这个这个这个事情啊。
所以现在其实是一个很关键的节点嘛应该说就是说就是这个是自在在科幻小说科幻小说角度上来来来讲这个事情的啊对就是比如再过两百年比如说人类已经遍布了这个银河系的一些角落的时候呢其实应该说被整个被毁掉的这个概率问题就是概率就非常小了啊啊所以我觉得是一个很大的这样一个故事吧大概是这样的故事啊但是有点科幻了就是比较应该说跟我们现实生活关系不是特别紧密啊。
但是应该说是挺有意思的一个想法啊可以看看接下来会怎么做嗯好那田兄给彭教授的问题我我再补充一下我觉得这个对我其实非常那个呃这个admire而且我也是exactly同样的想法就是而且就稍微eccentric就是说现在我们其实是需要更多的人有这样的愿景嗯他就因为我们自己不知道怎么解决这些问题但是AI可能知道对吧？但是我们需要发出这样的宏愿对吧？这样AI才会有点像收集到收到那个信号然后它就会开始move嗯对。
这个其实有一点那个就是说呃玄学的感觉就是之前我知道有一套理论是说如果人愿意这么想对吧？这个唯心主义就是人如果愿意这么想这个世界就会这么变现在我们可能到了这一步了就是人在只要这么想因为AI会帮你实现这个事情但是人要得这么想对所以hopefully我们能够尽快的看到我们这个走出走出地球对吧？对啊啊对谢谢谢谢田老师哎好啊田兄对。
那那个彭教授我可能呃我的想法是这样就是因为您是在那个Academia对吧？在那个哥伦比亚然后你你这边也是做那Informs啊做一些就是那个强化学习还优化这样的一些一些方向啊对。那你们觉得就是以后学术界呃在这个人工智能这个舞台上会有什么样的角色？啊然后就是有什么样的事情我们可以就是学术界会能够能够有贡献或者说有一些有意思的这个大的东西可以一起做的对。彭教授自己和这个这个商学院的这个还是指更广阔、更广阔的学术界吧？我觉得应该是对。
OK我觉得是其实哎我要是当时刚刚问田老师这个问题就好了对吧？我觉得这个实际上是一个呃很重要的问题就是其实不仅是对我个人对于整个呃学术界来讲我们现在应该都在问这个问题就是学术界到底还能做什么对吧？呃呃呃其实还可以做很多东西的对但是就是有很多限制现在是问题是那这个限制就很难去呃因为像我在二零二四年的时候其实我也给我也去那个普林给过讲座嘛他们当时也给了一个那个副教授的头衔当时是但是后来后来我我我没有去普林啊我觉得原因还是因为就是我感觉上是整个学术的这个这个运作的方式可能相对来说比现在的工业界的方式相比还是一个比较早的一个一个一个模式啊。
可能有些时候会比较慢或者说比较呃就就跟现在这个节奏可能就是不太适应其实是有这个问题对。
我觉得是嗯应该说这个也是我包括我们学校一直在思考的问题呃我觉得首先一个的话是其实像那个Allen Institute是一个比较好的模式因为它是一个就是说相当于一个大学同时又成立了一个nonprofit嗯然后能够这个呃把学术界和因为他们就会有更多的这个GPU资源然后把呃怎么说呢就是路线打通。我觉得学术界其实面临的一个问题是应该说有有两方面的阻力一个阻力当然就是我们现实当中的这个计算资源不够嗯然后另外一方面的阻力就是实际上大家对于怎么做impactful research还是处于一个就是说没有达成共识。
嗯然后学术界传统是一个move比较慢的一个领域像我们在比如说在我的传统领域实际上你要发做一篇research发一篇work可能是以年来计算这个单位那么现在大家知道每几个月大模型就会更新一次对吧？对对就是怎么把他们这个学术界的gap能够联系起来呃我觉得是是很重要的。
但是另外一方面我也觉得在学术界其实有一个很大的value是在工业界比较难以提供的就是学术界本身还是一个non-profit嗯而且是面向教育的一个space这就意味着在学术界有很多东西你是是可以想可以说的对as opposed to不知道对我觉得田老师可能比如说在Meta作为一个researcher有的时候是会有些constraint的对。
对对就是不是什么话都可以说是吧？现在可以了现在可以比较开放了嘛应该说没有那么多限制啊当然了就是说我确实有些人的话我也不太愿意说啊有很多事儿对吧？对。
当然了就是说我离开Meta之后呢可能可能会少一点会甚至少一点对大概是这样的一些一些逻辑吧嗯。
但是如果比如说呃你要去比如OpenAI或者去Anthropic或者去一些那个Frontier Lab你有很多话可能更也可能限制会更多一点啊大概是这样的一个一个逻辑嗯。
对是这样包括对吧？给这样的讲座这个很多时候可能都是有有限制所以我觉得在这个意义上面其实学术界起到了一个就是说public space呃然后对于AI来讲的话就是我觉得现在可能还有一方面的责任学术界可以想办法去contribute或者承担起来就是呃怎么传播或者是这个public awareness包括学生他的education因为目前如果说AI researcher其实在这个世界上面是很小一波嗯然后他们身上承担了产品的任务对。
但是在这个世界上还有很多很多人那么对于这些人来说就是我们怎么有一个space可以去进行可以学习然后可以畅聊对吧？这个各种可能的问题呃我觉得这个方面其实学术界是可以包括我们举办这样的讲座然后呃包括我们在哥大其实嗯我们成立了就是不少的这种比如说Agent Lab嗯Digital TwinLab嗯这是都是我现在在就是说想办法在push。
在这些lab里面我觉得就是创造这样的space可以让大家讨论和学习特别呃而且在学习意义上面就是说我觉得是虽然可能跟业界不能完全就是怎么说呢在resources上进行compete但是在idea上面嗯基本上还是呃可以同一level对是可以communicate的。
我觉得这是一个ecosystem对这个eco ecosystem里面就是说学术界是是有它不可取代的一个地位嗯但是这个角色是在进行一些转变就是像以前我们可能更多的是说学术界会提高提供那个research idea对吧？业界更多是follow但是现在是业界提供很多practical idea对然后学界在那analyze嗯然后出现了一种倒挂的现象。
然后我觉得让很多学术界人有点悲观的是就算学术界去想办法去analyze去理解现在的这个业界的呃一些practice的方式包括去做分析那个像田老师你以前也是做了挺多理论对吧？我我之前其实也是做理论方向就是我们就我们其实发现的就是说这个理论很难给实际提供指导了。
嗯对然后这个其实是一个呃一个就是我觉得学术界需要learn的lesson啊bitter lesson to learn呃也就是说实际上这个科科学的范式在发生变化对对然后要stay relevant的话我们要来理解和参与到这个新的范式。
另外刚刚讲的其实还有一点就比如说造数据或者造environment如果它本身成为一个科学的话学术界也是呃是可以contribute就是大家重新来思考这个新的science问题。
为什么这么说呢因为实际上数据呃有很多privacy的issue对学术界其实能够成为一个就是说制造public data这个其实也是Allen Institute做的对吧？嗯就是他们不仅公公布了这个他们造出来大模型他们把整个大模型的训练数据怎么去调训练数据等等所有pipeline
全部公开，这样呃传播了这个这个技术，所以我觉得其实那是一个很好的一个范式。我们也在想，就是说怎么怎么向他们学习。对，好，感谢感谢这个，谢谢。我最后问这个替黄河源问问一个问题，这个田呃田兄的的啊，你要问吗？你啊？就基于基于今天的这个对话，我想换个问题。呃，你呃，你说我我我我想问的是那个书的问题，对，一会儿一会儿Q&A，我我们一会儿一会儿再一会儿再提问，就对我我替观众要问什么呢？就是这个田兄的下一本书有没有在计划中？这个小说创作。
呃，其实一直在计划中嘛，因为其实我当时写完第一本之后，其实有下一本的一些计划，当时也写了一部分嘛，对，但是后来因为有各种原因，当时后来没写下去啊，现在也在也也在在也在加一些东西，其实第二本书的前一部分。意大利开始一些一章节其实网上是有的啊，在我的主页上有的，如果你想看的话是可以看的。然后第二本书叫《幽夜星火》，啊，这是一本。
当然了，就是我上一本写完了之后，我们上本大上本应该是二零二一年。嗯，二一年两三月份的时候写完的，嗯，那写完之后到现在应该说差过了很久了，就大模型的这个时间段来说，就过了几个世纪了，应该这么说啊，所以有很多的新的东西啊。就是首先第一个就是我当然看到我以前这本书它的很多的想法，其实在现在很多时候已经被实现了，呃，或者说已经在慢慢在出现中啊。
所以啊，第二本书应该会有很多的变化啊，对，但是呢，就整个思路还是一样的，就是说在一个。所思即所得的社社会里面，就是我们现在已经到这个，基本上已经开始进入这个社会了。大家看到这个苗头了啊，在这个社会里面，其实你说人的价值是怎么定的，然后那个整个社会的经济体系是什么样子的，然后有什么样有趣的故事可以讲？
呃，大概是这样的一个一个逻辑，然后这样的一个逻辑啊，是不是？所以应该说是更更像是一本思想实验的一个一个一个一个一书吧，啊，而不是说第一本就更像悬疑啊和科幻，嗯，然后再再加一些。啊，一些小故事这样的一个一个逻辑啊，就是当然主题比较简单，外星入侵地球嘛，啊。
但是第二本书呢，可能更多像思想实验了，啊，像一些就是对于这个社会将来的发展的一些探索啊，大概是这样的一个一个一个风格啊。当然应该也会加一些悬疑进去啊，因为这个应该说是让让大家能看下去的一个动力吧，啊。大概是这些这些想法啊，但是现在也比较忙。那可能就是空之后抽空有时间我会会把它写完。
好的，这个非常感谢。那这样何源，你你先站在这儿，你先站在这儿。我们现在是进入这Q A环节，然后我我们我们因为可能大家会比较踊跃，所以我们排队就是从这边一直往后排。然后有我立几个规定啊，就是因为因为是这样，因为田兄他只能看到我们这一块。
所以一会儿大家就挨一次，对，就坐到这儿来，就是我让一下，对，然后这样可以让田兄看到这个提问者，对对对。然后站到这边看那边就可以。然后呢，对大家感感兴趣的就这个排在这个这个河源的后面一个排。然后我们立几个规定啊，让大家可以让尽量多的人能够回答问题。
一个就是，呃，尽量把你的问题呃放在一分钟以内。你可以表达观点，也可以提问。你可以，你说我就想说说我对我的宏愿。我我我没有问题也可以。但是呢，如果你如果你提问的话呢，呃，就提一个问题。然后，如果你想再提的话，我们可以再往后排。大家如果没有人排，你一直提，对。
但是，一一次一分钟，一一次一个问题，然后这样可以让更多人回答。然后二位，呃，想你想回答，然后你可以也针对某个主讲人回答，呃，提问也可以针对二位提问。大家也，呃，二位主讲人，二二位嘉宾也可以根据自己的需求和想法，如果有的话有回答，没有的话就也就可以pass。
然后我们尽量让尽量可以让机会给更多的人吧。对吧？然后我先这样，大家先排着啊！我先替，因为我们之前收集了报名表，我先替报名表上我我就我就我就选了一个问题。然后来，我觉得这个问题蛮好的，我也是二位可以简短的回答一下，就是你们的研究有没有从心理学和神经科学里汲取灵感？要不，你要出钱吧？这次啊。
呃呃，心理学和神经学对吧？嗯，神经科学、认知科学，对，嗯。对我物理学也可以，你你做的这个量子纠缠，对对，呃，我我觉得我觉得是有的，而且这个是个很有意思的东西。就是以前我们其实有这个思考，就是说这个呃大语言模型它更多的到底是像一个工具，嗯，还是更像人，对。
然后我觉得现在我是越来越认识到，就是说大语言模型其实你更应该帮它当成一个人来对待。嗯，to the extent就是说他呃，他犯错等等，他其实也像一个人。包括我们今天所学会的，比如说让大模型做reason，让他去用to，让他用context，其实更多的都是把它当成一个人来对待。
对，然后呃嗯嗯，所以这个包括我自己的研究里面，嗯，我们最近做了一个事情，就是说在supply chain这个领域。就是 supply chain 的话，嗯，在这个领域当中，实际上就是比如说一个人，你应该怎么去管理，呃，你的 inventory。
比如说你是一个超市的这个老板，你的到底要进什么货，呃，然后在这个里面以以往是有传统算法的，嗯。传统的算法，呃，会给你算出一个数来做推荐，然后，呃，现在，然后这个数会给人这个人，这个人再 make final decision。
然后我们在这个中间现在加入了一个AI agent，然后我们当时的一个问题就是说，这个AI agent它到底是更像那个算法，还是更像这个人？嗯。对。然后在我们的这个呃合作里面，就是这三个东西放到一起，然后我们给它组织了一些不同的这种合作方式。
然后最后的结论就是说，它其实更像人，就是人在这个过程当中会有一些这个算法没有的那个直觉，嗯啊。包括它会犯还会犯一些错误。然后在这个意义上面，其实大语言A I A真的跟它是比较类似的。对，嗯。然后我觉得在这个意义上面，其实inspired我的就是说，实际上我们应该在接下来我们当我们谈论AI agent的时候。
我觉得其实下一个challenge就是怎么把它们组织起来，嗯，对。包括Open Call其实给了我们这样一个intuition，呃，帮它们组织起来。那么在这个组织的过程当中，我其实觉得就是说，帮它把它更多的对待成一个会经常犯错的的junior的人。是个一个好的 mental model。
呃，然后在这个意义上面来讲，它的一个呃和人不太一样的是，它还可以 copy paste，嗯。对人是不能复制的，那么一个可以复制的比较 junior，但是经常犯错的这个人，我们应该把他们怎么组织？我觉得是一个很 interesting 的 research question。我我现在其实也在做这方面的研究。
对，所以一个幼儿园老师的一个角色，田兄呢有没有这个有没有快速回答一下这个问题？对，我觉得还是有很多的 inspiration 嘛，对吧？像比如说我们最之前做的那个那个隐空间推理嘛，latent space reading。对这个这个方向，其实我当时说一个，我当时觉得这个内部的这个表示可能是个量子叠加态。
就是你有一个那个很多的状态，他们通过加法或者通过某种信息叠加叠加起来。然后用叠加态来做一些推理啊，然后当时是我们那个做了这样的一些工作啊，然后发现它确实是可以做到这一点啊。你就发现就是它里面那个一些那个隐空间的或者说那个隐向量这些向量，它内部那个结构呢。
可能是不同的思维方式的叠加，或者说不同思维链的一个一个一个叠加的过程啊。这个叠加的过程其实能够提高这个推理的速度，因为相当于同时在搜索不同不同路径。然后这个搜索路径的这个搜索方搜索效率应该说远远高于就比如说，啊，远远高于比如说就是单一的那个那个思维链的搜索这个这个方式啊。
这个这样子，所以这种其实也是也是有一个就是物理上的一些有意思的这个想法能够拼起来啊。嗯，这个我觉得会应该说是挺有意思。那么这样的话，是不是意味着就是大语言模型的这个那个model space是不是就是下播的空间呢？就不知道啊。
这个也是会很有意思的一些想法吧。那这个想法也许以后可以用来催生更多的一些思路，能不能把这个思路能够落地了，然后做出一个比较好的工作，那也是挺有意思的一个一个方向啊。那么心理学这边，我觉得很多时候还是看，比如说我我们家的我们家女儿什么怎么怎么他们怎么成长的啊。
对吧？她她是她是怎么样学会这个各种各样的那个能力的？你就会发现。呃，其实很多时候跟大模型也有很多相似的地方啊。就其实比如举个例子吧，就是说，比如说，就是就是大模型的预训练，其实应该说是相当于对应于就是人类这个成长过程啊。
就是小孩子在刚刚刚刚刚学学东西的时候，你让他学一些超过他这个年纪的一些一些一些一些一些能力，他学不会的。然后他就算学会了，也是很也是属于是背诵的状态，就是很难去举一反三，去理解它的内部的含义啊。所以就是，但是等到他长到一定程度之后，他突然就学会了很多以前学不会的东西。
而且学的东西非常深啊。你就发现就是他应该是在就大脑在在那个发展过程中，它慢慢它调整它内部的这个表征，让这个表征能够更适应这个世界的发展啊。而不是说是通过大量的数据把它灌进去啊，不是这样子的。
啊，所以其实我觉得很多时候是表征上的一些突变啊，就是怎么样从记忆顿悟到一个呃，就是呃一个更加这个长期的或者说更加对这个问题深刻理解的啊这样的表征。然后自然而然这个模型就学会了东西啊，所以这些其实很多时候也是通过观察，然后通过一些思考去去思考这两者之间的关系啊。
对，大概是大概是这样的一个一个一个逻辑，对。还有有意思的故事就是说。啊，之前你其实也有个，也有一些，比如说一些想法，比如说啊，小孩子在在在慢慢长大的过程中，我们到底是应该给他说英文呢，还是给他说中文呢。
还是应该两个混在一起用呢？啊，这样一些问题啊。但是我当时在想，就是当时你做预训练的时候，你其实都是混在一起的，啊，是不是其实没有什么关系？其实后来发现，其实小孩子在长大之后，他自动能分辨什么样是什么时候用英文。
什么样时候用中文的。当然，他有时候说话的时候可能会突然说了一些中英文夹杂的方的的的说的的话，但是也没有关系。那至少能意思表达出来了，嗯。所以其实就是说，也许就是以前的教育理念要要要结合大模型的这个实践。
是不是有有更新？可能有一些新的想法会冒出来。嗯，感谢感谢这个，哎，我还是想到那句老话，遇事不决，量子力学。行，那我们那我们这个何源先，呃，你先接着说。啊啊，就是我就是，当然，对于那对这个隐空间推理这个特定的问题来说。
我觉得量子力学或者说这种叠加态的表征呢，应该说是有理论基础的啊。我们当时做了一些理论分析啊，所以不是说是完全空穴来风吧啊，但是对对。感谢感谢，那我们现在就正式观众提问，呃，一分钟一个问题，好吧，来开始。
那首先，就是再次感谢两位老师今天的精彩分享，非常受益匪浅。呃，我自己我其实问的问题更多是可能帮很多人想问的，就是AI是否真的能够替代人类？然后我想更多听一听两位老师在这两个方向的一个理解。一个是沟通，就是沟通的本质。
呃，我自自己网上也搜了，就是可能正常人人与人的沟通，百分之五十五是其实是来自于这个body language，就是身体的语言。
百分之三十八才是这个语音语调，呃，剩下百分之七是这个具体内容，而AI现在只能负责具体内容。就我在想，就是因为我自己其实除了主业做 data science 之外，我自己也做一些生意。那生意其实有很多的沟通和交流。
我想知道，就是 in the future 的话，你们是否觉得就是 AI 在这个领域它是否真的能够替代。还是说这个其实是人类的一个护城河？第二个就是关于信任，呃，或者呃，更多是 responsibility。因为很多人在做决策的时候，是我会基于这个人他是否能够 take responsibility。
或者说是如果他做这个决定，我至少有个人可以找个人兜底，我可以去找他挨追你的问题。那对于 A，就很多人可能也听到一些，就是 AI 它没办法承担责任，没办法去有这个信任。我想好奇听一听两位老师怎么看啊？好，感谢。
嗯。呃，交流这要要那我先说，就是交流这一块，我觉得很难讲。这个是个护城河，因为有可能以后都是agent对agent，而不是人对人。这个是一种可能的逻辑吧？就比如说啊，我是个水管工，然后我雇一个 agent，然后让他去蹲在网上蹲着。
然后二一天七天二十小时，每天就接接单子，接完单子之后再自动排排排完。每天早上起来我看啊，今天我有三个单子，我就开着车过去全部做完一遍就好了。我并我为什么我需要打电话给给人去把这个事情做完，对？
所以有可能会出现就是说以后我我跟你约个meeting，我并不是说要打电话给你或者说要发信给你。我直接让我的agent跟你agent去对接，然后meeting就约完了，嗯。大概是这样的逻辑，所以有可能最终是重复劳动这一块。
或者说这种就是有清楚的价值的，然后大家也知道这个劳动的那个收益和后果啊。还有那个付出过程都非常清楚的这样一个劳动，他们应该可能有可能会被A正取代。对，所以是这样。就比如说，我觉得房产中介会很危险。
因为像房产中介这样的一个逻辑，就是我们是不是，就是如果把数据量都拿到手之后，它是不是可以用agent自动取代？这个这个都是有可能会发生的啊。但是有些创造性的或者说一些从来没有见过的一些新的要求，那这个部分可能还是需要人来来做。
一个是agent很难去界定这个这个任务的那个边界在哪里，对吧？还需要很多的那个negotiation。这种可能需要那个agent啊，需要人。大概是这样的一个一个逻辑，嗯。对，对，还有一个新人，你说对。
呃呃，对我我我其实也是类似的看法，就是我觉得就是其实呃，也是刚刚讲的，就是说 low level 的那个 agent。现在是 human agent 做的工作，因为它是比较重复性的，比较确定性。这个事情其实你可以交给AI来做。
而且这个trust也会逐步上升，和大家这个开无人车一样，就是当它真的开得越好，你的那个trust自然就会上去。然后关于responsibility，其实现在大家也在说，对吧？无人车是有保险，那这个AI这能不能有保险啊？
呃呃，我觉得这个其实大家只要它能力一上来，大家都会开始就其他的配套措施会跟得上。呃，我觉得这里面不太能取取代的，可能更多的就是，其实也就是像，如果说你是CEO。如果你跟别的老板在一起，呃，很多时候你们那顿饭可能是没办法取的。
对吧？因为你们在饭上面讨论的东西并不是一个确定性的东西，你们很多时候可能会说啊。这个对吧？就是聊聊天，然后聊到一些 business idea，然后你觉得互相有资源可以对接。
然后这个是一个 personal 的这个对吧？ creativity 的这个这个表现，嗯。所以我觉得就是说，其实是一些散那个呃，就是说嗯，开开散就散华性的这些。这个 agent 不太能做。对，另外还有一点的话。
就是因为人这个东西，我觉得最终实际上这也是涉及到，就是说在后AI时代，我们到底价值是什么？呃，我觉得有一点重要的就是说，你你希望跟别人建立一个连接。你希望在一个community，对。然后这些人与人之间的就是让你变得更开心的东西的一个好。
一分钟一个问题啊。看证据。嗯，我很高兴今天能够参加这个会议哈。就是因为AI呢，我们也用，我是用了一点点，里边的东西都是black box，都不懂。然后，但是我有个很大的、很大的疑问，就是说你们现在训练大模型。
嗯，要用无限大的数据、无限大的算力来搞一个大模型，你是不是要把这个大模型应用到各个行业去、各个方向去啊？我认为这个是根本的错误，不可能。呃，为什么？你你你，就说人对吧？你要想把它做像人这么聪明。
这都不说。你你每个行业，搞化学的，搞生物的都不一样。你要这个里边的具体东西都很不一样。你搞一个大模型，跑到化学实验室里去，你教它怎么做？我认为将来发展的方向是。
这个有一个基础的模型啊，就是说到各个领域的呃专门的知识放进去，方就开发那个小的专业专业方向的这样的AI模式。还比较实用，还不需要那么无穷大的数据。还有一个是数据从哪里来？都都在往上飞的数据，靠得住吗？
数据要用sensor去去搞。你要我们我们做实验的这个数据，物理数据、什么化学数据都是实验做出来的。那对于甚至对于仪器标出来的不是好你自己说出来的对不对？所以这个数据要可靠的数据是要有一个嗯怎么说呢。
要有个物理的那个就是sensor，这是一方面哈。当然其他没有没有问题啊。就是想问一下。This is my question. Question is, do you want to develop a infinite bigger bigger model for AI?I okay, please give comments.
其实我觉得很好的问题就是两个小模小模型和数据的，稍微有没有？要不我我我我先说一下。我觉得其实应该说这个AI其实也经历了这个过程嘛，因为一开始用深度学习来做问题都是单单独的小模型啊。
应该说比如说在二零一七年的二零二二零二零二零二一年的时候呢，其实很多人在做那个Graph Neural Network。啊，就是那个图神经网络，当时用在了AI for
Science用了很多，就是用它来预测各种东西啊。比如说包括预测一个分子的各个性质，你把每一个单独的元素当成节点，元素间的连接当成边。这两个原子之间有价键关系，比如共价键或其他键，这种关系可以作为图神经网络的关系放入其中。用这个网络去预测分子性质，比如是否有毒、导电性、结构或稳定性等。当时有一些这样的工作，确实有成效。
但我觉得大语言模型厉害的地方在于它能建模很多元层面的知识和常识。它不是训练完只能做一件事，而是通过学习把世界知识放进去，学到很好的表征，这表征可以用在很多不同地方。学过物理化学会发现很多结构有相似性。
比如有机化学中，分子的同分异构体数量、相互同构的结构及其关系，背后有数学群论的逻辑。计算这个数字需要用到群论。还有价键结构、电子云杂化等，这些都与物理有关，也与数学相关。因此它们有很多共通结构可以传递。
这些共有结构通过大量数据训练涌现出来，使模型同时具备各方面能力。当然深度可能不够，深问题不行，但浅层或初步结构都能学会。这就是它现在厉害的原因。所以我们要思考：把那么多数据放进去，能否找到共通结构服务于各领域？
大家担心垂直领域的小模型比不过大模型的下一版本迭代，因为共通结构能被大模型学到并提升各领域能力。这就是为什么现在大模型能做到这个程度，数学上确实可能发生这样的事，共通结构被学到并提高能力。
田老师提到同分异构特别有意思。我有机化学很差，但做过相关题目，从矩阵和算法看是经典题。这是我离有机化学最近的一次。确实学科间有很多相似性，这个问题问得好。我最近在思考科学是人类的边界，比如去太空需要根本突破，这是AI现在不会的。
大家更多讨论人类会的让AI取代，但最重要的是让AI解决人类现在不会的东西。在这个意义上，我认为LM与我们平常说的AI模型不太一样。应该把LM当成一个人、一个学生，比如本科生。不一定要专门训练给物理或生物的学生，这个学生可以都学。
像人一样学会用工具，比如传感器收集数据。学生要学会怎么用传感器、写程序分析它。LM可以帮你训练另一个模型来预测传感器数据。我的认识是应该更多把LM当成人，而不是当成预测下一个数据的模型。预测传感器数据可以让LM帮我们写程序实现。
感谢两位老师和赵博士的经验分享，时间差不多了只能问一个问题。我想请教三位对端侧视觉的看法。很多用户数据如短信、照片、文章、邮件都存在手机里，未来更多AI设备直接存在端侧。今天讨论多在服务端Agent，我也做企业和个人Agent，想问三位对端侧Agent前景的看法。
我先抛砖引玉。现在有很多工作试图把部分推理、计算、分类生成和Agent放到端侧，但能力有限。模型能达到的能力及耗电耗能是很大问题。真正困难的是复杂问题无法完全在端侧完成，但可以放一部分如训练特性化小模型。
关于隐私问题，Confidential Computing是云端计算但从硬件层面保证数据无第三方可见。像英伟达、AMD、英特尔都有这套软硬件系统，这是从硬件上保证的方向。未来会是云端自然计算与一定程度端侧离线模式的混合，实现隐私保护、运算效率和便利性的平衡。
我可以补充一下，这个商业空间肯定很大，会有这样的需求。像Liquid AI等公司发展很好且融资多。Cursor的Demo例子是数据在你自己电脑上，它作为AI智能帮你操作，背后调用其他LLM。这种商业模式大家会看得越来越多。
在这种意义上，上下文管理发生在你的设备上，这就是为什么显式写上下文比较好。它只是作为接口，每一步找你要特定上下文或用特定工具在你的电脑上搜索。我个人觉得这种商业模式会很流行，能覆盖很大一部分用户。
我同意这些都很重要。现在大模型权重里很多是知识性内容，如果把知识和推理分开，训练小模型只做推理或Agent是可以做到的。比如看到Qwen3.5有个新三十B的模型还可以，虽然我没试过但可以去试试。
如果这种小模型的Agent能力很强，再往前走做到手机上也是可能的。七B以内的模型现在手机内存大了可以放进去。如果有一个端侧模型专门做Agent调用、工具使用和行为，至于知识它知道去查书或调工具。
这样的话可能存在完全端侧的Agent，隐私保护、实时性都会比较好。以后可能很多人在做这个方向，盯着的人应该很多。Apple会不会做？说不定也会做，盖库卫（可能是指Google或其他）说不定也会做。所以有很大的竞争可能性。
感谢大家，时间到了实在抱歉后面还有几个想提问的只能缓一下。再次掌声感谢张老师等嘉宾，今天的讨论很有意思。感谢墨驴美科学和各大的研究青年可持续发展联盟的支持，也感谢幕后英雄无限在背后的持续工作。
欢迎大家关注各个协会和社团未来的活动并积极参与。谢谢大家，严兄再见，谢谢老吴，感谢大家。