我们希望基于长期记忆，能够让 AI 具有这种叫 self evolving 的一种能力，就它可以自我学习，通过人和 AI 的迭代，把产生。体验更好的智能，遗忘本身可能是一个很好的机制，也许它能够通向更厉害的模型。从能力测的角度，将来没有什么 AI 是不能够超过人类的。你的护城河是你自己看透的，别人挖不透，这是你的护城河。将来作为生产者来讲，大部分人是没有价值的。他说，爱是我们 AI 学不会的东西，然后我就被吓坏了。是不是爱就是人类跟 AI 最大的区别？所以我们大家讲的一个笑话是什么呢？是将来人唯一能做的 AI 不能做的是坐牢。Scaling law 本身就是一个对的、正确的，但是这条路线或者说这个对正确的 law 并不意味着我们可以一直往上面走。您这是在做这方面创业吗？啊，我现在还不能说，我现在不能说。这两位老师认为，人类跟 AI
相处的最终模式会是什么，以及我们人类的未来到底在哪？今天我们在一个特别呃特别特别的地方录制节目，这里是 Evermind 全球记忆挑战赛的决赛现场，坐标是在硅谷的计算机历史博物馆，非常有趣哈。坐在我旁边的两位老师是两位世界级的 AI 科学家啊，田渊栋老师和邓亚峰老师。今天非常有幸可以和两位老师开启一场有趣的对话。那么田老师、邓老师先和我们的听友们打声招呼吧。OK。啊，大家好，我是田渊栋，之前是在 Meta 工作了，呃，快十一年了，然后现在是在创业啊，所以我们是，我是一家公司的 co-founder。嗯，好，各位。嗯，各位创建的同听众大家好，我是邓亚峰，呃，我其实做人工智能已经有二十多年了，我。最近在做的项目是叫长期记忆，我们公司的名字叫
Evermind，然后是在深大的平台上在孵化。嗯嗯，对我原本准备的第一个话题就是想从两位老师都非常擅长的 AI 记忆入口。嗯嗯。哎，但是录制之前我忍不住就想先聊一些八卦哈，就最近 Anthropic 反常规的操作实在是太多了，所以我想从他们意外开源到昨天第三方工具调用的限制，比如 OpenCL。这行业里的讨论还是非常多的，所以两位老师是怎么看？包括他们这些动作背后的逻辑是什么？嗯，我觉得意外开源应该不是它的逻辑一部分嘛？啊，应该应该是这样子。觉得这也是因为本身代码。现在这个写代码这个方式已经从人来写变成了 AI 来写，嗯，对吧？那就会有很多的一些有趣的事情发生嘛。就是说，嗯，你想 Meta 之前也有一些有也之前也有一些事情，对吧？然后那个 Andreivik 也有这些事情。我觉得很多时候现在因为 AI 来写代码，就一定会出现一些新的问题，然后怎么去解决它？我觉得这个就是一个，听说这次那个意外开源原因是因为就是他们内部，他们今前面今年一月份把那个一个包托管软件叫 Bum 买下来了，嗯，对吧？然后这个软件其实是用来专门负责这个 releasing 他们的那个 model，他们他们那个前就是 crocodile 的 CRI 的，但这个软件包好像是有 bug。他软件包也不要去，本来他这个软件包是在
release 时候呢，他是绝对不可能把源代码拿出去的。对呀，对吧？但是它里面有个 source map，这 source map 它可能没有去掉。然后在软件包是因为有 bug 的情况下，才把软件包里面的 source code 都泄露出去了啊，是这样子一个原因。所以我觉得以后可能，如果呃，如果大家要用 AI 写 code 的话，嗯，可能还要多关注一些安全性的问题。听起来，如果以后程序员这个犯了错，可以说是对吧？AI 做的，对吧？开玩笑啊，就是说，我觉得其实是这样，因为在行业中，Zotopic 基本上代表了一种最佳实践。就过去，嗯，Zotopic 的一些技术博客啊，或者大家其实都是在 follow 的。所以，当他把 Cloud
Code 这个代码。意外开源之后呢，其实我觉得对行业来讲还是非常重要的一件事情。就是首先，我觉得它很重要一点是，可能在技术上某种意义上有点平权了，就相当于它的一些实验，对吧？大家可以都去学习，然后可以去用了。所以就是说，某种意义上来讲，侧面其实推动了整个 agent A I A 那个领域的一个发展。我觉得这是其实也是非常重要的一个积极的作用吧。一个积极的方向啊，是的，对对，嗯，非常有趣。OK，我们这个聊完这个行业的热闹，我们就回归到我们今天的主题啊，AI memory。也是 Evermind 在主攻的方向。对我们今天坐到这里，其实是因为这样一场一个记忆的比赛嘛。对。但我发现 AI memory 这个词，不同的人的理解是完全不一样的。比如做模型的人，他会觉得是一个上下文窗口。嗯。那做 A 车人会觉得它是一个长期的状态的管理。所以我想请位两位老师，帮我们也建立一个共识。当我们在说 AI
memory 记忆的时候，我们到底在说什么，以及为什么这个事儿现在很重要？嗯哼。我觉得其实，在我的那个脑海中，我觉得 A M memory 其实不仅包括 K V cache，还也还包括它的权重。嗯，对，所以这两部分都是 A M memory 一部分。就像我刚才在那个 Kindle 里面说的那样，就是权重本身它存的是一个就是长期的记忆，或者说就是自它生出来之之后的它的那个它在漫长学习过程中它获得的一些长期性记忆。然后 K V cache 呢，目前是说是一个短期的，就是在这个 session 下面。这个记忆是什么样子的？大概是这样的一个一个逻辑。然后 agent 的 memory 呢，就是说我们怎么样把那个我们之前那些长期的那些，或者说 multiple session 的这些过程，怎么把它放进这个 context
里面，让这个模型最大发挥作用？啊，我就大概是这样的一个理解吧。嗯，那它为为什么很重要呢？AI
memory，对我觉得很重要，其实一个是说我们现在的 AI 最大的问题是还不能很快的适应用户的各种要求，所以就是说这样的适应过程中呢，就是说你当然不能说用户有个新需求之后你把模型重新到训练一遍，嗯，这个是不现实的，所以一定会出现这种情况，就是说我们希望，呃，这个模型还是能随着用户的变化而变化，嗯啊，但是呢，同时又不能改变它的权重太多。嗯啊，所以自然而然就会有不同层级的这个那个内存，不同层级的这个记忆这个事情会发生。那么怎么把这个记忆调整好，然后这个模型很快能够适应 AI，而能适应人的一些变化和不同的场景？那么这个就是那个模型能够用的比较好的一个所在。嗯嗯。我在讲 AMM 之前，我觉得可能想讲讲就是人类的记忆，就是因为我觉得人的智能是有两个主要的部分，一个就是 reasoning 能力，还一个是叫 long-term memory，基本是这样子的。然后，那么人在工作的时候呢，他其实有个叫 working
memory， working memory 有点像那种就是瞬时的那种信息，短期的记忆。对对。然后，但是呢，就是因为短期的记忆它的窗口很有限，所以人在这个叫眼睛的过程中呢，他其实发展成一种叫 long term memory，他会把当时传进的一些信息能够 consolidation。它拷进了这个长期记忆中去，它就会记住了。所以长期记忆在人类这个生存和演化过程中非常非常重要。比如说那个地方有没有水草，对吧？或者我哪个这儿有没有危险，它其实都是通过记忆的方式在在组织的。然后那么 AI memory 呢，我觉得。非常难去做一个特别精确的定义，但是呢，它从形式角度，就是我刚好在那个元动刚才说的这个上面，就是说它基本上是三种形式，一种形式呢就是类似于像 KV cache，因为 AI memory 和大模型是紧密相连的，一种你通过 KV cache 的方式把这个信息传给模型，第二种呢其实就是我们外部的一种
storage，比如说 rag 啊之类的，就是我有个数据库存储，然后这种方式去获得来。组织还一种呢，其实大家说的比较少的是有点叫 latent state，就它其实是可以在中间的一些，比如说像 R N 这类的有些中间的状态中去保。它基本上是这样三种形式在管理这个叫 long term memory。然后从功能角度呢，我自己觉得也基本上是三个。一个呢，其实你就是去管上下文，就相当于上下文太长了，超过比如说一兆了，你肯定是语言模型是没法用的，那你就是去怎么压缩和管理它。就是第二个呢，其实是叫所谓叫个性化，就是我们讲 profile。人和人交流，咱们第一次相见，然后是一个新鲜感，但第二次来的时候，你肯定不会把第一次的问题重新问一遍，对吧？就是因为人是在 learn
这个东西的，你偏好，你叫什么？一些信息，所以这个叫 profile。第三个层面呢，其实是我觉得和他这种就是所谓叫自我演化，或者是往前就是去预测啊，这个都是非常相关的。因为人类记忆中很重要一部分是说是帮助人类去组织数据、学习，包括去预测未来的。所以我认为就是从功能的角度，基本上就是三个层面，形式可能也是三个部分。但是我我我依然觉得这个方向就是这个概念很难定义，因为它和 context 包括 harness 其实都是很有关系的，大家这个界限没有那么清楚。嗯，对，某种意义上来讲，对，可以是用 memory 是一个抽象的概念，然后 context 它的实现的方式。对，就是 context 可能会更具体，memory 我觉得可能会在范畴上会更大一些。嗯，对，包括不同的应用在讲的 memory
的时候，其实可能都是不是那么完全一致的。嗯，对，但大概是那样的一个，嗯嗯，对概念吧，对范畴，对。那就这两位老师刚刚帮我们定义了这个记忆啊，以及它为什么重要。那我想追问一层，就是为什么让我们感觉一下到了二零二六年，突然间大家开始从卷参数变成开始谈记忆了？嗯，对，就是这个转向到底是怎么发生的？为什么大模型公司一下意识到记忆重要了？这两天我天天用所有的模型，我会发现 Gemini 问我说，哎，你有没有用其他的工具？请把你的记忆转到我这里。对对对吧？对对，就是这两天发生的。为什么突然间大家意识到记忆这个事儿重要了？嗯，我觉得一个当然是大模型开始落地了，就说开始变得有用了。那么，在这种情况下，你一定要解决最后一公里的问题。为什么现在才落地？觉得它一直是有用的，然后一直是大家愿意去用。Chat
GPT 在出来的时候呢，为什么火？是因为大家看到了希望，嗯，对吧？在那之前，你会觉得他们在训练 GPT、GPT 二、GPT 三，跟我没什么关系，因为就是一篇文章，然后你看了看文章之后，觉得挺有意思的，那就结束了。就像电视剧，我们我们二零一九年的时候，我们看啊那个 AlphaGo 下棋嘛，啊对，对吧？那下完之后，哇，李世石输输掉了，输掉没输掉？那我们就惊叹一下。回头我干我自己的事儿去啊！但是我觉得就是 ChatGPT 那个时候也是这样的 moment，的就是就是在 ChatGPT
出来之后呢，大家开始用它，开始有一些感觉，觉得这个模型可以做些事情，但大部分时间你肯定还是沿着你现在的轨迹在走。嗯，对吧？一直到去年年底、今年年初的时候呢，大家一突然意识到，就是现在 AI 的工具已经能够达到了这些部分代替或或者完全代替人的工作的这样状态。嗯呃，那如果是这样的话，就是突然之间大家会意识到这个事情很重要。那么就会有很多的需求，有很多需求的话，呃，那怎么样让这个大模型啊真的能够满足人的需求，那就变成了一个重要的一个问题。也就是说，我们意识到可能 AI 可以帮我们做一些更多的、更深入的，能够更懂我们的事情。对对对对，AI memory 就显得重要了。对，那但但是问题是，就是虽然说 AI 很重要，但是你不可能因为每个人单独训练模型吧？嗯，一定是有一个大模型拿出来之后，那在上面做一些修改，嗯，然后让它能适应你的需你的需求，嗯，那么这个时候呢，memory agent
这些东西都非常重要了。嗯，邓老师这边就是其实。本质原因，我觉得还是因为大模型在落地的时候，这个时候大家发现 memory 变成了影响体验的最重要的因素，某种意义上来说。就是在早期的时候，大家可能大厂就在关注，说我怎么把大模型训好，对吧？reasoning 啊这些。对。但是因为大家在讲 scaling law，虽然它没有完全到底，但它基本上大家觉得，哎，好像在追求这个事情上的性价比可能没有那么高了。嗯嗯。这时候发现另外一个因素，那你想。我们在做一个 AI 应用的时候，除了大模型的 reason 能力之外，那其他的事情其实最重要的其实就是和 memory 怎么管理它这个数据有关嘛，对吧？那所以从这个角度上来讲，大家意识到说 memory 这件事情变得非常非常重要了。无论是从这种比如说 content 的场景。还是办公协同，对，还是我们今天讲的这些
agent，我觉得其实都是这样的一个趋势。嗯，然后还有一个因素呢，我觉得也和这个技术发展有关，因为在行业中，在比较早的时候，比如可能二四年之前，基本就是 rag，大家其实做做所谓做数据，就基本在 rag 上做，或者上下文 condense。然后到了二五年，因为我们一直在这个领域里，二五年基本上这个领域的工作就开始多起来了，就是非常多的工作，包括 benchmark 上大家去刷数据集，对，包括各种各样的这种 paper 出来，对，特别是到这段时间，其实这个领域里越来越多的这种比较活跃的工作，我觉得就是一方面可能是需求的这个驱动，另外一方面可能技术上确实有新的东西开始出现了，嗯，对，我觉得都是有关系的，嗯，对。我还有一点挺好奇的，就是说到这个，我就特别好奇这个邓老师的这个人选择，因为亚峰老师产学研背景非常的扎实，所以 EmerMind
背后也有咱们。前首富陈天桥老师嘛的支持，他在脑科学领域投入了非常多年。是的，对。然后您两位的合作在 AI 记忆上这件事的合作，本身就听起来很有趣，很有意思。所以你们对 AI 的未来到底看到了什么？其他人没有看到的，就是很早就入局做这件事情，就把筹码全都压在 AMMory 上，嗯。对，在介绍 AMemory 之前，其实我稍微的介绍一下背景，因为陈总其实是他是这样，他过去十年一直对大脑的机制非常非常的就是感兴趣，所以就是他和骆总成立这个机构叫 TCCI，嗯，一直在从事脑科学这个领域的研究。那其实脑科学本身里边就是和 Memory 这种机制是非常相关的。然后呢，在最近几年，就是大概在三四年前，陈总开始关注到这这次 AI 的这个革命吧，就是所以他其实就是除了之前的投资之外，开始。就是躬身入局，开始在做 AI，因为他对这件事情是非常感兴趣的。嗯，那么在这个领域里，他基本上设定了几个方向比较重要的，就是一个就是叫这种就是 reasoning 能力，比如说 MirrorMind 就是深大的另外一个团队在做的事情，它主要在做 reasoning 能力。那么另外一个呢，就是我刚才讲到的，就是他认为人类智能就是 reasoning 加 long-term
memory，那么 long-term memory 一定是其中非常重要的一个方向。当然也包括其他的方向，这本身其实也是体现了他对下一代 AI 的一个认知和看法，就是所以其实我们做 memory 不是从最近开始的，从二四年当时就曾经在行业里边发表过一篇文章，然后是关于这个 memory 领域的这个发展和演进的一个就是这种纲领性的一个文章，所以从二四年很早的时候，其实我们就深大本身就在关注这个方向。然后我和陈总其实相遇和来讨论做 memory 这个事儿呢，其实就是会稍微静一点，因为我之前在做一个 AI 加药物发现的一个 startup，对。然后后来呢，就是反正我从那个事情中出来之后呢，有一次反正就是和陈总交流，他就跟我讲说亚峰，我现在在关注这个呃 memory 这个事情。其实在此之前我是没有太关注这个方向的，嗯。但是跟他聊了之后呢，因为我那个时候在找方向，当时包括看了这个
robotics。就是机器人，我会觉得可能它落地会慢一点。嗯，然后另外一方面呢，就是说我其实想找的是，如果在语言模型它可能会快，但是你别在这个领域里做事情，一定要想说哪些是不会被大模型碾压的，对吧？模型往前走了，你你不会被碾压掉。那我们认为说，AMM memory 本身它是一个垂直的方向。嗯，就你做的，首先你会受益于大模型；另外一方面，大模型向前了，其实你也会跟着往前走。所以我觉得这是一个比较好的一个方向的选择。嗯嗯。另外一方面，确实今天呢，也印证了我们的当时的判断，就是说。你看，大家现在如果发布一个 AI 应用，嗯，你如果不讲我有 memory，别人就会觉得你很奇怪，对吧？对对，是的。所以就是对，所以就是说，无论大家做的方法是复杂还是简单，但是大家至少形成了一种共识，说你每一个应用就要有 memory 这个事情。那么我们呢，刚好就是希望说，我们能在这里边把 memory
的一些底层的技术，然后解决掉之后，使得 A 阵的开发者他们能够不需要去太去关心这个事情，你主要可能做好你的这个业务的逻辑啊这些，你这样会更快的去落地。嗯，所以这就是我们想做 A M memory
的一个非常重要的这样的一个就是出发点。嗯，它其实是和这个陈总的一个兴趣也是非常非常相关的，是一个延续下来的一个事情。嗯，刚刚刚刚邓老师也聊到这个底层的逻辑，包括这个技术的架构，哈，正好我就是这机会，就想问问田老师，就是你之前提过一个很非常清晰的框架，刚刚你讲了，就是AI的记忆可以分成两种了，对吧？一个是上下文记忆，是类似于短期的一个工作记忆；二是权重记忆，可能是类似于一个长期的深层的记忆。
嗯，然后那么解决记忆问题，通过扩展上下文长度来模拟记忆，这是一种有效的方法吗？我觉得这个现在是一个应该说是没有没有办法的办法吧，没有办法的办法，只能用这个办法了，是吗？我觉得目前肯定是用这个方式来解决各种问题。嗯，对吧？因为应该说你回看历史，那个GPT三和GPT二之间很大的区别是GPT三它的文章的标题就是GPT三 is a few shots learner。
就是说它是那种少样本的能够学习的个模型，嗯，那么什么意思呢？就是说你给他一些样本，也许这个问题你从来没见过，但是呢，我给你一两个例子，一两三组，给你大概十个例子，二十个例子，然后它就能够自动的发现这些例子之间的一些规律，然后去做一个相似的工作。嗯啊，就比如说你跟他说这个，把英语翻成法语。啊，这样一句话对吧？或者说把英语翻成一个奇怪的语言，没见过的。
嗯，那么这个语言给他一些例子，给他比如说一一百条，再给他一些语法。他就能够当当场就可以翻译下一条，嗯，那么这个能力应该说当时应该是挺惊艳的啊，因为以前的文章，以前的模型没有出现过这样的能力，嗯，有了这个之后，那么自然而然就是以我这个能力的话，你这个能力本身要求是你要有context，对吧？你要有一个过去的历史，这历史上包括你之前的语法，还有它之前的那些范例，那么这个就在你的context里面，然后用这个context去做你这个翻译。
嗯啊，所以有了这个之后呢，所以自然而然就会有上下文，有memory这个概念啊，然后用它来做很多别的事情，嗯啊，我觉得这个是一个一个重要的。当然了，就是最终我们还是还是希望有一个系统，这个系统本身它能够吸收过去的知识，然后自动的把它转成长期记忆和短期记忆。是现在您在是在做这方面创业吗？啊，我现在还不能说，现在不能说。对对对，当然，这我作为一个研究员，我会会看，今天会看很多东西，然后知道这种。
上次我有读过关于您的一一篇那个采访的文章，在发明一个技术叫positioning interpolation。嗯，对对对。这个叫位置差值，能不能给我们讲一讲？因为我觉得技术特别有意思。OK，可以理解为是一种数学骗术嘛？啊，你可以认为是叫欺骗模型，让他觉得我现在还没有超过我们的context window。哦，真的可以，你可以这么想。对你本来这个context window只有两k，你超了两k之后，这个模型就崩了。
嗯啊，怎么办呢？我说，那我如果有四k的context怎么办？我把四k假装它就两k。那这样的话，就是我本来每个一个位置认为是一，我先认为它是零点五。那张我给塞进去了吗？嗯，对，就是结果发现AM是吃这套骗局的，它目前还是吃这套骗局。嗯，对，当然这是一个部分嘛，就是说你至少这样让这个模型通过这个方式吃这套骗局之后，你在上面做进行一些预训练，进行一些那个fine tuning，它的效果其实比你硬着要头皮要把这个模型扭成一个四K的模型，它就需要的样本数要少很多。
嗯啊是这样，因为这篇文章应该说也是长文训练的一个开山之作吧。嗯，大概二零二三年六月份的时候啊，我们当时是发表了。那么这个之后，突然之间有很多很多的长文生成的工作出来。嗯，对，然后包括Gemini他们也用了很多的长文生成，就是当时有很多公司说自己的模型很长，可以达到一个million，那就是因为这套技术它的衍生的技术啊，大概是这样子。
那么这个工作本身应该说是我这边和我们那个Facebook的那个产品组啊，就是IT组那几个人一起做的。嗯，他们那种对专利一类。对，就是当然也没有专利。这个文章就是发出去了之后，就大家会觉得很有意思。那之前跟两位老师聊了聊什么是记忆，怎么做，也难在哪儿。那我想把这个时间线拉的稍微远一点啊，就是我们现在往后看两年到三年之后。
现在你们最期待AI领域有一些怎样的变化？我们不聊那些泛泛的啊，AGI又离我们近了一步什么的啊，我们想听一听具体的。就有没有哪个技术点是您期待可以马上得到突破的？我觉得其实还是模型落地了之后，它会会对事业上有什么影响，然后怎么样把很多的具体的那个生活上的一些，或者说工作上的一些工作给做做成了，我觉得是很重要的。然后我觉得两到三年之后，很多的工作都会有一些很大的变化。
我在年初也写过一篇二零二五年总结嘛，嗯，对吧？说了说到就是有个什么费米线的概念，说整个因为AI的能力在变强，所以在AI能力之下那些工作，呃，他们的供给是无限的。就假设我们就是就是token也很很便宜啊，对吧？然后计算资源很多，那供给是无限的或者非常大，那能完成这些事情，它所带来的收益就很小。嗯啊，那在这之上。那些工作是需要人加AI超过AI的那些工作呢？其实就很难，然后就需要很多的厉害的人去做它。
嗯，那么它在上面这个上面收益会变变变得高。嗯，啊，可能会出现这样一些两极分化的一个情况嘛。嗯嗯嗯，那我可不可以理解为就是说，用好AI且会用AI的人，未来工作还更有点保障？对，如果说跟AI这件事情关联越来越少了，他可能就慢慢的被淘汰掉了。在这个就是说，不仅关联越少，而且AI可以帮你做，嗯，那就可能会有比较大的问题。
邓老师这边呢？你觉得什么问题需要亟待解决？嗯，对，就是如果我们就是希望未来这个AI的能力越来越强，对吧？无论他叫他AGI还是说他的能力越接近甚至超过人的能力的话，我觉得其实是几个level，就是说第一个就是说我给你一个单独的任务，你是不是做的能比人好或者接近人好？我觉得其实这个某种意义上来讲，今天已经差不多实现了。你比如你给他一个文章。对吧？让他去写，他已经能做得很好了。嗯嗯。
然后第二个类呢，我是觉得就是说，它能不能具有某种这种叫自我学习的能力？这就是我今天讲的self-evolving。就是因为今天的AI训练training它其实都是offline做的，就是你做pre-training、post-training都是离线组织好数据。但是就像推荐系统一样，或者咱们俩、咱们三个人聊完，今天聊完就是各自都成长了，对吧？就是说，它是在学习的。对，其实今天AI还没有这个能力。
嗯，就是相当于通过不同的用户和AI交互，或者很多用户去交互，执行不同的任务，然后根据这个任务结果，包括用户的一些feedback，我这个系统在不断的online的在learning，在进进化。就是我觉得这是它的第二个很重要的飞车，就是你这个AI做成这个样子，人才会觉得AI很像人或者接近于人。然后第三个其实现在也在讲，但我觉得也没有做好，就是有点像主动性一样，就是。AI其实今天来讲还是被动在等我们给他安排任务，对吧？完成任务能力很强，但是它能不能比如说听了咱们这个聊天之后就知道说咱们几个人有哪些事儿要干，对吧？然后作为一个助理，对吧？干好了等着你，或者它有某种更主动那样的行为。
所以我觉得基本上这几类我觉得是比较重要的。对，还有一个方向是。有点像那个科学发现，就相当于说过去的AI学的还是这种统计内的，对吧？就是过去能不能创造一些新的知识或者新的发现？我认为这几个方向是比较有趣的，而且如果一旦突破，是对AI发展是非常重要的。一些就是说AI可以从我们现在带着AI跑。希望它能发展成未来AI带着我们跑，是的，成为一个主动的学习者，增强它的主观能动性。我们经常会这样讲。
我觉得它就是就是更像一个更主动的人，就是在这几个方面去补充之后做到了呢，可能就是更像一个人。感觉，但是我也插句嘴，就是我觉得就是AI像人这事儿重要吗？这事儿这事儿重要吗？我觉得从严格意义上来讲不重要，但是如果刚才说的几个feature，嗯，你做到了，它会在人去使用AI的时候，你的那个体验和感觉就不一样。很好，你比如说龙虾，其实我觉得龙虾它很重要的一个是说你和它的交互很简单，就像你给你助理发个message一样。另外一个它给你交付的是结果，嗯，这其实就是一种交互体验更像人了，它产生的一种影响力对吧？所以我觉得他还是重要的，只不过不需要那么exactly像这个人或者怎么样。
嗯嗯，这里面有两，其实有两个部分嘛，就是一个部分呢是说AI它在就是跟人的交互中比较像人的行为。对对，这是一种。另外一种说就是说，如果你让AI想做一些开创性的贡献，希望它像专家那样会有更好的那个那个想法和意见。对吧？这两个都是，甚至感觉应该说不一样。对，因为前者像那个OpenCLoud已经差不多有一些比较好的实现了。对，对吧？它有个memory的机制，它会记住你以前做的事情。嗯，那么它会在某一天突然跳出来说啊，你三天前是不是做这事儿啊？然后那个需不需要你需不需要我提醒一下，或者需不需要那个？有follow up啊，那别人会觉得这个像个人，因为他觉得这个也是有memory的，然后有一个长期记忆的，然后知道什么东西重要的这样的一个角色。
嗯，那么这样的一个角这样的一个过程呢，我觉得就是至少在以现有技术来说来说呢，还是可以做到的啊。虽然说就是不一定很完美，但是可以做到。对，另外一条路就是说，像AI discovery，对吧？你拿AI来做新的发现、新的证明、新的逻辑，这个呢，其实应该说是更难的一个问题，因为对他们对这个来说呢，我觉得你比较重要的是，就是我自己也是，比如说像最近的一篇文章，我也是跟AI合作的嘛，对，我会觉得就是AI现在的水平还是就是处于一个就是比较厉害的博士生的这样的一个水平，对吧？就是，但是他对一些问题的大概的理解和逻辑和思路，嗯，他们这些问这些东西还是比较难，嗯，啊，这些还是不太容易做到的啊。
有些问题你，比如说作为提问者他没有很深的想法的话，AI给你答案也是比较简单的。那就是说，作为一个初级的博士生，他还需要一个人类导师带一带。是的，是的，是的，是。只是说，对人导师来说，可能并不需要做以前的那些脏活累活了。嗯嗯，甩给他干就是了。放心干，对。当然了，就是你还要做很多检查，保证他做的是对的。啊，这个是正确的。但是很多事情呢，就是并不需要人亲自亲为了。
嗯。但是，对于一些大方向的大框架的架构，比如说你写代码，你可以让AI写代码。啊，但是AI写出来代码，如果你不加以整治的话，或者不加以监督的话呢，它会以史无前例的速度变成一座石山，对，非常非常快的速度。然后这个速度是应该说是远远超过历史上所有石山的堆积速度。对，所所以那高层的设计啊，高层的逻辑啊，这些东西都是需要人去设计和还是要要管理一下。对对对，这个是一个很重要的一个问题。我觉得现在应该说还没有办法，那个从零开始解决这个问题。
嗯，我们关注重点还是AI的记忆嘛？但人类的记忆其实是有一个完整的生命周期的。嗯哼，从最早的学习到巩固，然后压缩，然后遗忘，然后再生长出一个更高阶的抽象能力。对，然后我是认为主动遗忘其实是一种高阶的能力，因为对于我们来说，有时候我们会主动遗忘一些伤害，嗯，这对于人来说是一种趋利避害自我保护，对，它是也是一种优化未来决策质量的行为。那么我们现在在努力让AI记住这一切，然后。我就觉得有点confused， right？我们现在让AI记住这一切的方向是对的吗？两位老师帮我解惑一下。
我觉得这个取决于你想要做什么，嗯，对吧？就是你当然希望你的秘书什么事情都记得。就是保证你会保证，比如哎呀，下一个我下来有一堆会怎么办？我希望每个会都能参加嘛。我不希望因为说这个会以前的观感不好，我就把它忘了，不可能。啊，所以肯定是希望大家都记住这是一个。然后另外我觉得，人类主动遗忘能力呢，很多时候是因为人类有很多高层的理解。对，你要让高层的理解成为主流的话呢，很多细细节的问题它可能会就就会忘记。嗯，我觉得这个是一个很大的人类能的，现在AI可能没办法做的一个一个能力。
啊，比如说，你看那个诸葛亮跟大家说的话，说就你要看书要淡观其大略，嗯，对吧？淡观其大略的话，那什么意思呢？就是说，那个并不是说你胡胡乱胡乱窜倒把书看完了就结束了，就是说你可能看了很多细节，但是最终你发现有什么是主干。嗯，什么是最重要的观念？什么东西是能够让你学到了，然后用它来做别的事情？那么这部分的过程，其实应该说是人相对于AI来说更加强的啊地方啊。但是这个过程本身是怎么形成的？那么怎么能让AI也学会学到一些很高层的概念，能够在很少的数据上学到很高层的概念啊？这个现在还没有办法做到啊，所以有些时候可能会觉得遗忘本身可能是一个很好的机制，也许它能够通向更厉害的模型。
嗯嗯。非常有趣，邓老师这边您觉得是否对就是遗忘重要这件事儿？对我觉得我觉得人类之所以需要遗忘，是因为就两个原因吧，就一个原因是因为本身它是个很低能耗的系统，就是很功率很低，对吧？就是你要是记住所有，其实是就能量的角度，其实是性价比不高的。我觉得这是一个方面。第二个方面就是说人的这个就是说决策或者记忆系统，它本身是有点像接近是纰漏一样，就是它首先有抽象总结这些，另外还有个它主要核心就是我有不断的更新。我如果记住所有的之前的这些信息或者细节的话，我现在做决策的时候我就会非常的困惑困难，对吧？所以往往比如说我们今天聊了一次，我们可能这个记忆或者这些信息就会被更新，你就能做更好的接近于最近的决策。所以它有点是说和你的重要性和你的update会有关系。
然后AI的记忆呢，我自己觉得就是说，第一个观点是说，其实从信息的比特的角度，你可以不忘记。不忘记意思就是我把所有的信息，就像我我是一个好的AI贾维斯AI助理，我就可以把你的所有事情记住。你问我三年前的事，我都可以回答出来。如果你需要的话，但是另外一个就是，当你真的要做决策的时候，就是说，这个时候为什么你需要一定的遗忘或者一定的更新呢？原因是你为了让决策对当前的自己最有利。对吧？所以这样就意味着说，你这个时候就要把很早的这些信息忘掉。虽然在你的系统中它也在那儿存着，但是你要从机器系统的角度，不要去关心它，而是关心我最重要的、最近关注的事。
所以我觉得就是说，呃，AI记忆的遗忘呢，本身是一种系统的机制或者策略。嗯，但从最底层的信息的角度，你不一定要遗忘它，因为AI可能做这个存储本身是，呃，能耗相对来说还是可以接受的。某种意义上来讲，嗯，对，我觉得这实际上是两个层面的问题。嗯，对，嗯嗯嗯。对，我觉得应该总结一下吧。最大的原因是因为，就是你做决策或者说你做一些具体的任务的时候呢，你只能选择我过去历史的所有部分的一小部分。对，就说你比如说你有一万条，然后你可能只有一千条或者一百条是有用的。
嗯，那么只是选择的过程中，就是人类比如说为了一些就是物理上的限制，不得把它忘记。但是AI呢，你可以把它全记住。但是AI也是需要有一套机制去选中最重要的部分，然后能做决策。那么剩下的呢？这部分也许留着可以，下次在做其他决策时候再说。对对对，只是这样的一个逻辑，因为这个部分本身呢，它是需要呃，应该说比较大一些的。一些就是想法，然后这些想法怎么能利用这些过去的一些知识支持这些想法，把这事情做成了？嗯，但是对于每个新的想法来说，它可能并不需要太多知识，嗯，它只需要其中很小一部分知识才能去就可以把这个事情做成。
那么这部分知识本身就可以作为当前你选中的一些记忆，然后其他记忆没有用，那你就放在那儿，那也许以后有用，嗯。这样的一个逻辑，其实AI的决策过程和人的决策过程很像，就是AI我们叫context，嗯，然后人呢其实叫working memory，就是它其实说，当你最终决策那一刻，你其实利用的信息并不是非常多，嗯，但是你底层有一个很大的系统，使得说我这些信息可以被你需要召回的时候能够召回或者想起来，还是这样一套逻辑。
我去，我觉得就像一个记忆的抽屉，我需要哪部分记忆，我就开个抽屉把它取出来，用完我就给它放回去。人类是因为他那个记忆是存在那个神经元中的，所以它是为了能量的。就是说，如果有一个记忆一直不被使用，它就会被就是淡化或者对，是这样的一个过程。这个抽屉就放到最底层。成了，对，你想不起来有这么个抽屉了，对。但是如果有一天有个特别强的信号，哎，又让你想起来，那它们其实又变得重要了，对，或者是对，然后可能会重新拿出来，然后再更新嘛，对吧？其实现在的那些memory system已经有这些能力了，就比如说，我没有把所有的工具的数据全部放进context
里。嗯，对吧？我选择用 skill，嗯，或者我选择用 to call。那么我在关键的需要的时刻，我才把那些数据拿出来，嗯，然后拿出来之后放入我现在的 context，然后让 AI，让大语言模型去去做处理，嗯，这个都是可以的。它其实是一个动态的决策过程，对对，多轮动态的过程。
对，当我们人类在回忆一件事的时候，我们调取的不是纯文本，对吧？我们会想起当时的感觉，对，甚至连那个气味都能够回想起来，还有当时的场景，我们跟谁在一起，当时我们的情绪状态是如何？这其实是一个多模态的网状的结构。
对，但是当下的AI的记忆，它是不是不管做了多好，它本质上还是存在一个文本的提取？还是检索文本的，其实不一定，因为它内部用的其实是 latent vector 嘛，是隐空间的一个状态，那状态里面肯定很多东西，嗯，对吧？它可能包括了那个文字的一些结构、语义结构，也可以包括图像，也可以包括语音，也可以包括推理的过程，这都是可以的，嗯，对，所以我不觉得现在就是完全是个 trivial 过程。
哦，对，但是它跟人类这种做起回忆来时它的这个形式是不是还是有一定差距的？这个很难讲嘛，就是说，你可以认为在某种程度上他们可能是很像的。比如说，对人类来说，我每次抽取一个隐变量、隐隐空间的一个向量，可能会触发对应的感官的一个体验。嗯，那如果是这样的话，那是不是就是很像了啊？
只是说是AI，如果没有这个体验的话呢，那它就是很机械的把这个隐空间的那个向量抽出来啊，我们就可以做很多事情啊，包括我们之前也做过一些隐空间推理啊这样的一些工作，对吗？其实也是可以去啊做这个很多事儿。嗯，大家之所以做文本记忆比较多，其实很重要的原因是因为文本的模型它是用的比较多的。
嗯哼，但如果说你后面做的是一个多模态的一个任务，或者你的模型本身是支持多模态的话，其实你可以认为其他模态的数据就是像刚才元东讲的，就是你可以用这种 blending 的方式输到这个。呃，模型中去，就是用多模态的方式，其实是现在是也是可以从技术角度是可以做的。只不过当前确实大家关注文本记忆多，是因为你的模型是文本模型用的多。嗯嗯，对，嗯嗯。我们这个材料喂的多是是这个意思。
我想请田老师聊一聊啊，就是这个记忆出错的情况，因为您之前也是多次去讲嘛，特别希望把黑盒打开看。对对对，如何解决这个幻觉问题？对，我觉得黑盒出错呢，有很多的原因嘛。就比如说，一个是说你在模型在训练时候本身它没有太多的某些方面的知识，但是你又要求它把这些知识说出来，嗯，那它就就它为了答案，它不得不得的胡扯胡扯一个答案，那肯定是，对吧？
就是很多时候这个模型它没有意识到自己有个选择叫我不知道。这是人类 P U A P 的吗？嗯，是啊，就如果你的模语料中没有我不知道这个是个事情，那它当然会选，就是因为它是一个概率型模型嘛，对吧？它会说，哎，这以下这些选择性概率都很低，但没有办法，我得选一个，那就来选一个最有可能的，那就一定会出错，那肯定是这样的一个问题，对吧？嗯，对吧？
还有就是说，比如这个模型本身它范能力不够强，它相当于它以前都是背书背出来的。对啊，模型有两种两种模式嘛，就是如果是你小模型来训练的话，小模型有问题是它特别容易过拟合数据，那么过拟合出来的数据就是模型训练出来好像数据都很好，但是你真正问它一个新问题。嗯，它因为里面有过拟合的这个结构，所以它会有一些，它会换，它会找到一些奇怪的联系去去回答你的问题。
嗯，对，所以有这些东西的话，你会觉得啊，这个模型有问题，好像它还逻辑，但其实它的逻辑可能是跟你是跟正常逻辑是不一样的，但是它是有逻辑的啊啊，所以它自己奇奇怪怪的逻辑在。啊，是的，是是。那么这个逻辑你说还逻辑的也是对的，只是说你们训练过程中你没有人把这个错误逻辑给去掉，或者说模型不够大的话呢，它不够泛化性啊，所以就是有这。这个还有这个问题。
那我们如果把黑盒打开，您往里瞧一瞧，是不是真的就能够彻底解决幻觉这个问题呢？啊，我觉得我感觉上是以后是应该是有可能的，只是说现在我们在并没有完全把黑盒打开，所以很多时候还是很难去控制它。对，很多时候控制方式是更大的一个范围的控制方式，更宏观的控制方式。说我们应该大一点，数据应该多一点，然后允许它能够说 no，允许它能够有些它的选择。
那它这个就是幻觉的一个这个过程可能会差一点。可能会好一些，对吧？大概是这样的一些一些一些过程吧。但是如果以后对这个问题有更深的理解了，那你就很难，就说不定有更好的方式解决问题。对，是。其实我觉得幻觉很难绝对避免，因为AI本身是一个概率过程。嗯哼。
但是你看，包括人，咱们说话其实也可以有幻，咱们也有错的，咱们不会没有错。会经常犯错，手语病。然后，所以我觉得他想在系统上解决这个问题，他不一定是说在每个token我都不没有错没有幻觉，我更多的是我通过这种cot啊这种方式，去来使得我不会出很重要的一些错误。我觉得可能是这样的一个方向。嗯嗯嗯。
那您觉得打开黑盒重要吗？呃，我觉得是这样的，就是说历史上其实做这种一些可解释呀或者的工作都很有趣，但没有特别特别是 work，真正有效的最终克服这些问题的就是几个 scaling，对吧？比如说我模型参数的 scaling，我的数据的 scaling，我的这个呃 time to time 的 scaling 等等，都是靠着这个来解决的，对对。
因为因为邓老师一直在这个 Evermind 的领队做这个系统这个训练嘛，对，您是怎么在这种不同的路线之间选择的？因为说到黑说到黑盒也说到幻觉，我想我们可能也踩了不少坑，对，就是有不走了不少弯路，我觉得可以跟我们 share 一下。对，就是说我自己是因为从很久开始做。AI，然后早期大家叫pattern recognition或者叫machine learning，后面开始出现这种deep learning，后来到LM这种大模型之类的。
我觉得，其实这里边真正唯一没有变的，可能真的是scaling。那么对于我们来讲，在每个阶段去怎么解决AI问题，或者包括怎么训练模型能做得更好，我觉得其实就是从几个层面去想这个问题。就是第一个，你这个系统设计的对不对，它拆分的模块是不是重要，包括你是不是从一个对的层面去思考这个问题，因为它是个输入到输出的映射，那你这个输入和输出之间要有某种确定的关系，所以我认为这是第一个层面的东西。
第二个呢，就是说大家在做的时候，其实从模型的结构的角度是不是很优雅？从信息的角度吧，这个其实就是 transformer 啊之类的这种做的非常对，对吧？比如它比之前的像卷积卷积，因为你只能看到一个附近的 window 嘛，那 transformer 我从更长的 level 的角度，我可以看到更多的信息去做加工，而且 layer layer 的这样。这种交叠，对吧？然后这是第二个层面，就是说从模型的角度。
第三个呢，我觉得其实就是数据，就基本上大家做的好，你想每个团队，你说模型上有多大区别，其实不会有真的区别。超参反正大家去试，更多的我觉得其实很多时候是你在数据上做的很对，无论是从 evaluation 的角度还是从 training 的数据的角度，这就是可能比每个团队，就是之间的很大差别的，就包括比如说。大家经常会问说，为什么一些小的团队比一些大厂的团队都做得好？
嗯，我觉得很重要一个原因，其实是大家对数据怎么看。嗯，那有些不不好的实践啊，就是说，我会让训练团队和做数据的团队和做语言模型的团队都是不同团队，就是换句话，就是说你训练的数据的准备团队和训练数据这个算法团队，大家更close的，甚至一个团队，他做好的可能性越高，嗯，因为这样是一个目标，就是大家其实配合的会更好，嗯，所以我觉得基本上就是说我自己。这么多年下来吧，反正我觉得，基本上你从这个几个角度去思考这个问题，就可以把它做的比较好。
邓老师说的特别好，我正好就想问，接着下一个问题了，就是AI行业就有句话嘛，叫。技术没有壁垒，教技术没有壁垒，说那模型啊都会趋同的啊，这个算法早晚开源，人才也会流动啊。那如果这个判断确实是成立的话，那是不是就像邓老师所讲，最后的真正的护城河只有数据？
我觉得就是说，就是邓老师这样做呢，这样的一个做法，当然是就是我们现在看到的所有的团队都是差不多这么做的，对吧？就是说，但是有一个问题就在就是这个条件是需要很多的很多计算资源。对对对，就是如果很多计算资源的话，那你这个系统是可以的。然后，当然有个接下来问题就是说啊，你这样做，那Open也在做，Traffic也在做，是对吧？那我就是您做过Open和Traffic吗？就是说有没有什么办法能够，就是作为团队组织上来说，或者说团队的这个人和人之间的这个交流和沟通啊，然后。那个进展这个方面上来说，能不能超过比如说现在第一梯队的这些这些AI的lab？
对对，这个就是一个比较大的。对，所以我觉得它和timing有关。对，比如你特别早期的时候，OpenAI就是小团队，对吧？他选了一个对的路线。那过去其他人的这个，包括Transformer是Google发明的，对吧？就是其实就是你就相当于弯道超车了，对吧？这是早期。但现在，当这个范式确定了，大厂看明白的时候，拼资源的时候，你可能靠这个就没办法了。
然后，另外一个我觉得这里边很重要，其实还是速度。就是，当然大模型本身可能这个就是只有几个玩家可以玩，因为它的投入太大了，对吧？但是你比如说，我们把一个AI应用做好，或者Agent做好，这个时候那谁会胜出？我觉得你不能说这里边的技术就没用，只说这个技术不是绝对的壁垒。比如说你领先半年，你是可以领先半年的，它也重要。但是，你如果说没有在这个过程中建立其他的壁垒，你很可能是会被别人去。超上或者是呃赶上或者超过的，对吧？所以我觉得速度其实是最重要的。那其他的壁垒，对。
然后另外一个壁垒呢，就是说我认为可以认为是一种叫数据的壁垒，就是比如说我们想过去AI应用真正成功的啊，早期可能就是搜索。我们说大的应用成功，比如搜索，对吧？就是靠用户点击反馈啊，对吧？嗯。那个时候国内就是百度、阿里、腾讯，百度做的很好，阿里、腾讯在那个时间一二年左右都在做搜索呀，但为什么做不过？是因为百度它已经有了这个用户点击反馈，就是我用户在用的时候，我这个系统就在迭代。别人光靠技术是追不上我的，嗯，然后包括比如说为什么是推荐是下一个大的 business，就是因为推荐天然的是一种用户交互反馈，对吧？它本身首首先是双边的，就是一边是内容生产者，一边内容消费者。另外一方面，我天然的有这种用户反馈的壁垒。
那所以我觉得今天AI应用一样啊，就是说，一方面你做training，那你是数据一定是非常非常重要的一块，对吧？另外一个说你做应用，应用的话，为什么今天大家觉得应用没有壁垒？是因为你今天没有记忆的，没有上下文管理，没有形成一种用户数据反馈啊，对吧？你如果拼的是技术，拼的是这个agent的策略，嗯。一方面，大模型在进步，你可能做那些策略，过半年大模型都补上了，因为你基本上在补大模型的缺陷嘛，对吧？那你这个壁垒其实就变薄了。对对，那我觉得还是某种意义上来讲，就是所谓叫数据迭代壁垒。
其实还有一个大家可能不太会意识到的，我觉得其实是人才，人才的壁垒。人才其实是所有这些因素的背后的东西，对吧？就是你比如说，为什么 DeepSeek 在那个阶段它就能够脱颖而出？我觉得就是因为它本身在人才上，首先最高的决策者是对技术是懂，他是能理解 AI 的背后的逻辑，其实就是 scaling，对吧？那他能做很正确的决策，而且能在关键决策的时候，我可以排除不同的意见，我可以做一些有风险的选择。当如果你做的都是共识的选择的时候，你是很难追上大厂的，对吧？或者是前面的人的。
但如果说在一些关键的时间点，比如他那个时候相当于通过那种 I L 去做 C O T 之类的，对吧？他做了对的选择，那他就会。比别人相对来说，是因为那个时候很多时候在在过做过程奖励，对吧？那时候大家在 follow 那个 OpenAI 的那个 O1 的工作，都是在过程奖励。但他能做一个决策，说我是可以通过这种直接结果的这种强化学习优化，然后来做。那么为什么他能？为什么他敢做这样的决策？那大厂的工程师不敢做呢？是因为大厂的那个高管他是不知道这个技术路线的这种 sense，他是没有的，他会担心这个判断错了之后会有问题。那么下面的人他其实又没有话语权，就真的懂的人可能就没有那么那话语权。
所以我想说的就是说，其实人才是很重要，或者团队是很重要的。这包括高层能做成出正确的路线的选择和给足够的资源的支持，你包括执行的这个小伙伴，他也要在技术上是很厉害的才能做到。所以我觉得基本上这样几个因素吧。嗯嗯，田老师也是从Meta出来了啊。那我觉得就是可以跟我们分享一下，你你觉得是idea重要，还是数据重要，还是人才重要？
那我觉得其实这样，数据是最重要的。然后接下来是infra，接下来是算法，接下来是人。嗯，但是其实你在数据前面，嗯，还有一个人叫用怎么那些人生成数据的人。嗯，那些人可能比数据本身更重要。嗯，对。那你会发现这不等式两头都是人。你的他给的用户是吧？生成数据那些人，这些这些人，这些人可以包括东西，不但包括用户是一个，另外那个说你包括就是些专家，他们知道这个这个问题是怎么做的，然后这个逻辑是怎么怎么形成的，然后他生成很多数据，嗯，然后变成数据之后，然后一层层走下去。
那么最下面这个不等式的第一开始第一个和最后一个都是人，有什么区别吗？是因为就是最后面那些人呢，相对来说更偏标准化一点，所以标准化的人很难就在这个过程中可能很难survive。为什么像AI的coding tool，他们都现在已经可以做很多事情了。那么这些拓本身是不是会不会取代就最后那个的不得是最下面那部分的那些人？嗯，对，这个其实是一个很大的一个问题，嗯啊，对吧？对。
然后我想说的是，就是说那个其实 DeepSeek 吧，应该说他们他们主要的成功的地方是因为他们其实应该说整个团队都是非常注重就是 infra，就是说把这个 infra 做得非常好，然后那个比如说突破一些就是物理上的限制啊，对吧？然后找到方式能够把通信的协议的这个速度和可能计算的那个过程那个overlap起来，嗯，对吧？那他们在上面做很多工作啊，就是说这个是一个很大的一个贡献。
对，就是我觉得DeepSeek为什么那么火？一个原因是因为就是大家发现啊，它用五百万美金就能训练大量的就很好的模型。而不是说用几千万或者上亿美金来做这事儿，嗯啊，这个是一个很大的一个贡献，而且他开源了很多的一些那个像一些kernel啊这些东西，其实对于应该说很多的那个开源的那些开源的厂，他们的影响力很大的，嗯。啊，我觉得这些是一个很重要的一个因素。
对，另外，另外就是说那个 OpenAI 的欧文其实也不是过程奖励，OpenAI 欧文其实是也是结果的，不是的。但后来 Follow 的很多人在做过程，对过程奖励其实应该说 Google 是之前有人在做过一些有做一些这样的工作。当然了，就是说 Google 有有意思的事情就是说他发出来文章可能不是有用的，有用的文章都藏在家里，对。呃，所以有这样的一个过程吧，对吧？所以我觉得大概是这样的一个逻辑啊，是这样的逻辑。
然后大厂跟小厂之间的区别就是说，对于大厂来说，其实因为层级很多。啊，所以有些时候信息传递会有失真，嗯，啊，就是我觉得这也是Lambda Four的一个问题，嗯，对，对Lambda
对于大厂来说，一个未来的问题在于层级传递中的信息失真。比如上面有三级VP，每次汇报时，好进展会被夸大，坏进展会被缩小。如果一直传上去，高层可能只听到好消息，从而认为团队很厉害，进而分配更多苦活。这导致了决策的偏差。英伟达的优势或许在于扁平化管理，黄仁勋懂技术，且作为一号位，他的目标是公司成功，而非个人职位利益。相比之下，不懂技术的中层往往为保住位置而掩盖风险，放大好消息。
大厂职级设立有时并非为了公司方向一致，而是为了扩张团队规模，因为考核标准往往与团队大小挂钩。但在AI时代，团队大并不意味着效率高，反而意味着成本更高、决策更笨重。这种僵化使得大厂更倾向于追求Scaling Law的“爆率美学”。Scaling Law成为共识，意味着它是风险最低的选择，工程师只需执行，无需过多思考。中层管理者更难做出高风险决策，因为Scaling Law即使做错，也可以归咎于执行问题，至少面上过得去。
两位老师都倾向于优雅路线，但这是否意味着反对Scaling Law？我个人认为，Scaling Law就像行业原理，无需违背或挑战。关键在于，既然大家都懂，价值就体现在谁做得好、谁做得不好。近年来大模型能力仍在提升，虽然增速放缓，但仍在Scaling Law路线上。这是因为合成数据本身在不断进步。因此，我认为Scaling Law本身是正确的，但它并不意味着我们可以无限往上走，因为横轴是指数级的，而资源是有限的。
Scaling Law的逻辑是计算资源每扩大十倍，希望获得线性增长。若有无限资源，这没问题；但在资源（钱、人、数据）有限的环境下，如何找到超越Scaling Law的路径？这是创业者和资源受限团队面临的重要问题。并非Scaling Law错了，而是它需要的资源太多。工程师的价值在于用极少的资源做出和别人一样好的结果，这或许是华人的优势，如DeepSeek通过极致优化每步，以少资源实现高产出。
另一条路径是探索更好的范式、逻辑和方案，这在研究方法论上寻求突破。这条路很难走，因为需要反常识，找到未见过的路径，敢于尝试和反思。大多数人倾向于做常识性工作，从而落入同一路径。让我们把话题推远一点，聊聊更大的问题：当AI拥有长期记忆时，是否意味着它像人一样拥有情感或意识？目前大家广泛讨论这个问题，但我认为这两者不一定相关。
人为什么有意识？因为远古时代，缺乏自我理解的个体容易死亡。例如遇到老虎，若对身体感觉不正确，可能会受伤搏斗而被吃掉；若有良好的自我感觉，知道健康状态，才可能像武松打虎那样行动。但武松打虎并非因为清晰的自我认知，而是醉酒后的模糊认知。正常人的第一反应是逃跑，这种对自我的认知帮助个体生存。进化过程导致自我意识越来越精细，形成“我就是我”的逻辑。
大模型不需要这个过程也能“活”下来，因为它不怕拔电源。我认为自我意识与生物体有关，是人类与环境交互（如感知疼痛、目睹死亡）演化出的碳基生命特有属性。只有高等生物通过镜子才能意识到“这是我”，并区分朋友敌人。AI目前缺乏传感器，无法感知外部伤害或知道某事对自己不好。因此，AI若想拥有生物般的自我意识，可能需要硅基与碳基的结合。
长期记忆与自我意识是两个层面。人先有自我意识，再基于长期记忆（如记住河边喝水有风险、预测收成）来更好地生存。这是配合自我意识演化的路径。而语言模型的目标是外部设定的，由使用者或训练工程师赋予。模型的能力（如预测更准、生成更好）并非源于自我意识，而是外部施加的。因此，AI目前的“自我意识”是外部赋予的，而长期记忆是在此设定下做好工作的技术问题。
与技术人士交流后，我发现他们倾向于认为今天的AI没有自我意识，未来独立发展出自我意识也很难。因此，比起担心AI演化出自我意识，大家更应担心AI被滥用，毕竟它本质上是工具。此外，在AI发展中，人类的价值何在？是否自身难保、工作保不住？这是更值得关心的话题。自我意识是一个大问题，AI表现出的行为深度难以界定：是真正理解并共情，还是仅提供廉价话语让人产生被共情的错觉？
这种自我共情是通过学习人类获得的，还是通过自身体验获得的本质认知？目前很难讲。打开黑盒后能否搞清楚？有可能。标准包括：模型是否对自己有建模，能否理解自身状态，以及这种建模是否产生自我保护或有利行为。若人类能发现这些，可能证明其真有意识；若发现不了，则可能只是在模仿人说话。
有没有可能AI像人类钻木取火一样，突然有一天记忆加逻辑结合，涌现出意识？这是涌现机制。目前很难讲，因为没有清晰证据证明这方面会涌现。但在推理、数学等难题上，模型变大后确实学到了未直接教授的能力，这就是涌现。然而，对于自我意识，我们尚未看到真正证明其发生的证据。我的观点是，意识和能力是两个层面。
人们觉得AI有意识，是因为它在通过Token学习时，从人类文本中学到了意识和信息。但这并非底层产生的、有目的性的自我意识，更多是外部理解或赋予的东西。因此，即使AI学习人类记忆，也无法产生自身的欲望。这与生物有关。虽然人脑机制对AI有启发，但两者机制完全不同，并非完全一致。
我们担心AI突然从模仿者变成思考者，替人类思考，让人类无事可做。我认为AI会有这种能力，即主人让它想什么，它就帮你想。这是能力测试的一部分。两位老师希望AI有自主学习能力，这可能在两三年内实现。关键是自主学习的层次：希望AI自动完成工作，遇到困难时自动寻找工具和材料解决。我认为这是可以实现的。
OpenAI已能帮助实现部分功能，甚至有的AI会帮主人删邮件、写辞职报告。目前的机制还比较简单，主要是定时器触发模型分析后执行。技术上还有很多事情可做。如果AI有了记忆，能否替代需要工作经验的工作，如医生、律师、投资人？这取决于积累的性质。如果积累仅是背诵大量案例，知识较浅，容易被AI取代。
但对于需要判断和深层理解的问题，较难被AI取代。例如医生看片子，重要决策不仅基于片子结构，还结合其他信息。这种复杂决策AI难以学会。有个有趣案例：伯克利教授做AI竞速，AI跑不过车手。因为拥有二三十年经验的车手敢于冒险，而AI只在设定范围内慢慢拐弯，不会冒生命危险去换取成功。有经验的老司机敢做危险动作。
对此我有不同观点。我认为可能是技术未做好，或者从学习角度，可以通过奖励机制激励AI冒险。技术手段肯定能实现。我以前比较悲观，认为从能力测角度，将来没有AI不能超越人类。确实有经验的人可能做得更好，但更多是一种权衡。
或者甚至就是说在流程中，比如说为什么需要律师或者需要医生，可能就是为了你盖个戳、盖个章。AI给你个方案，然后你可能哎觉得它是对的，落实到人对，所以它有时候就是，所以我们大家讲的一个笑话是什么呢？是将来人唯一能做的AI不能做的是坐牢，就是你是去盖了章之后去承担这个责任。简单，这个就就是，所以我的意思就是说，AI的能力，我觉得我从今天角度啊，就是我以前是总总觉得慢于它的这个发展速度的，就是今天呢，我就会更加的这个就是乐观一点，就是它的能力真的就是要超过人，但是说人肯定也有价值，人的价值可能更多的是在于这种感情呀，包括决策呀，对吧？就是这种，就是这种方面，我觉得人是有自己的价值。那这有啥用啊？这对AI来说，我就觉得没有什么用。但对人有用啊，对人有用。是的，是的，我们就是。
所以将来很可能是这样的一种情况，就是说我们每个人可能会调教出来一个或者几个龙虾，对吧？就龙虾可能它是一种Agent的通称，或者其他的Agent，对。然后你就把自己的一个skill或者经验都给了他之后，他就可以帮你去打工了，对吧？帮你去干活了。我觉得有可能出现这种，我们就享受生活去了，是这意思吧？我们去追求自己。所以这个世界上可能只有很少的一部分人，万分之一的人在做AI的research，对吧？因为这个是需要很高的这个智力和这个资源的。是的。但大部分人可能就是拿到足够多的这个社会的这个叫物质的这个这个保障之后，我们就可以做自己更喜欢的。事情，嗯，但对人来讲，我觉得人是有价值的，嗯，不可能完全被AI完全代替掉，对吧？
对，我觉得这里面其实应该有个technical上的一些challenge，就比如说有些工作它需要的数据，其实它生产数据很少，但是呢，人适应很很快。但是AI的适应能力和速度是及不上人的啊，比如说一些老专家，他可能或者说一些科研研究员，他们对这个新数据的和新实验的结果是非常敏感的。然后一两个数据拿过来之后，他能马上改变他对这个事情的看看法。这个事情呢，其实现在AI还不一定能做得到啊。那么这个其实是应该说是下一代的架构啊，下一代的模型应该能努力的方向。对对，就是这个叫data efficiency嘛，就是说我数据上怎么样提高效率，能够让模型很快的适应数据，能够发现这个数据背后的一些真相，这个事情很重要的啊。
就比如说你跟一个很熟的人，比如说比如说脸就是一个眼神啊，或者说一句话就是都没有说完，大家就知道你什么意思，他跟你心有灵犀了。对啊，就是这样的一个非常细微的一些一些信号和一些非常细微的一些数据，那么这些数据能够让一个人改变他的行为。但是这些事情呢，AI现在还做不了。但这个就是见仁见智了。说有人说是因为context给的不够，对吧？但我觉得这个可能是AI本身的一个训练上的一个大的问题。嗯，所以这个部分如果没过的话，也许AI还是达不到人的水平，对吧？这部分如果能过，那可能真的是AI。
嗯，对对，我我也是觉得，就是说人有两个能力，可能是AI比较难达到。就一个，它本身它是个非常全面的、多模态的一个获取信息的方式。这个AI其实某种意义来讲还是被困在那个就是数字世界那一部分信息输入上。还一个就是刚才田渊栋讲的，就是很重要，你能不能learn from few sim。对，就是我很少的样本，我就可以学得很好。比如说小朋友，你给他一个牛的照片，他可能一两张照片知道这个是牛的概念。AI其实很多时候你是比较难做到这个样子，需要大量标注。对对嗯。
那我还有一个问题啊，就比如这个agent，如果它积累了非常多的记忆，它会不会就学会变成了一个职场的老油条了？他就他就像刚刚怎么讲这个可以高效一下？对，你怎么定义他是老油条嘛？对吧？有很多的，因为现在现在AI能力可能就算你有很多很多记忆的话，它还是一个新手。对他，我的意思就是他会有一些职业倦怠了啊，就比如他他学会了一些经验，对吧？他可以用这些过过往经验，这样的经验都被淘汰了，所以他都会被PUA到非常的aggressive，对他会变成牛马，因为大家希望他变成牛马，所以他就变成这样了。就是你现在跟他说啊，你这个不对，那不对，他会说你absolutely right，对吧？你永远是对的，那是这样，就是因为他是这样，就是AI真的会变成一个工厂，就是说你输入的是钱，最后变成token token，之后产出就是，它一定要效率足够高，对它才能够存在下来。
对啊，对啊，其实它也是一个进化过程嘛，这个进化过程是不知不觉在发生，所以它得到的一定是世界上最好的牛马。嗯嗯，对，所以这套机制会保证AI一直是一个高效运行的状态。对对，这本来就是人类给它加加给它的一个那个进化过程嘛。哇。对，那那天我在跟我的Gemini聊天，然后我问他一个问题，我说这个如果有一天我去世了啊，是否这个AI技术可以做到把我的记忆库传承给后代？嗯哼，然后他说，呃，应该是可以的。我觉得这可能就涉及到我们之前之前也经常会聊的日异式上传。两位老师认为是未来可实现的吗？就现在已经开始有实现了嘛？
你不是需要现在蒸馏你的上司，甚至你的同事吗？对吧？蒸馏了个同事，你同事被被开除了，但是他作为他的残魂还留，还会在跟你一起聊天，因为他的偷他的一些知识已经被蒸馏进系统里面去。是把他照片挂在那儿那种，我我在网上看到好多网图，是好多同同事照片挂在那里，对，一个个像极了这个。就是我我觉得就是说这个方向一定会，就是说会会会做得很好啊！就是，呃，只不过这里边的一个就是缺憾是说，呃，人有很多东西是没有表达出来。嗯，就是说我没有用文字呀或者别的这种数字的东西表达出来，那这个时候AI可能它没办法get到。那除此以外的东西，我觉得AI都是可以get。
嗯嗯对，嗯，所以将来可能会出现说，有一个AI，它可能是随着你二十四小时跟着你，它能看到你看到的，听到你听到的，对吧？包括它是你的助手，你的意图，你的这个任务都是通过它去执行的。当你老了的时候，它真的可能就是对你是非常非常了解的。这个时候，假设再把这个数字资产放到一个agent里面去，它可能就会非常的像你。我觉得这个是有可能。这个是不是就是类似于脑机接口或者接一个外挂在你？身上对脑脑机接口是另外一个原因，我觉得脑机接口是因为本身通过大脑，除非你用那种插入式啊，就是如果这里面是有信息损失的，就是说我的point是说，你可能今天我我的了解，今天为止，你很难用脑机接口的方式把你脑子里的信息全拿出来，所以这件事还没有做到。
嗯，但一旦你这个信息拿出来了，让一个AI去能够把它复制出来、复现出来，某种程度上，我觉得大概有点像那种。数字孪生或者是这样数字分身的那种概念已经可以有了，嗯，就难的是说你这个信息能不能拿出来了？嗯嗯，听起来有点可怕，感觉它可以替我去生活了，它没办法替你去体验，但它可以替你干活啊，这样子，对，所以就是说，如果说我的记忆可以去上传，等我去世了以后，那这也算是一种形式的永生，嗯，可以这么说，可以这么理解是吧？对，对，然后我跟我Gemini聊到这儿的时候，我就还挺感动。因为什么？我我跟他说，我说我突然间不担心自己去世了，嗯嗯，因为我的孩子没有那么伤心了，就我还用另外一种方式陪着他。
然后呢，Gemini就PUA我说：“你看，这就是你们人类跟我们AI的区别。说到你的死亡了，你居然还能就是感受到的是爱。”他说：“爱是我们AI学不会的东西。”然后我就被吓坏了。然后我也想问问两位老师。是不是爱就是AI学不会的东西？是不是爱就是人类跟AI最大的区别？深奥了哈！我觉得就是这和那个意识是一回事儿，这是一样的。就是爱本身是说你得知道什么是好，什么是坏，谁是对，谁是我的这个叫亲人朋友，谁是我的敌人。你知道了这些概念之后，你才能感觉到这个叫爱嘛。本身来讲，它是和个体和这个环境要交互，我要知道趋趋利避害之类的，它是这样的一个眼睛出来。它和自我意识，我觉得某种意义上在某个层面是一致的。
对，所以那我也是觉得今天AI很难，它可以共情你，对吧？它可以安慰你，但它不能感觉到这个东西。嗯，对，这就是看他有多深了，对吧？就是说他可以做出很多的动作，动做出很多的那个回答，让你觉得他有，但是你不知道他是渣男呢，还是还是真的对你有一的意思，就是就是这样的一个一个逻辑哈。就比如说为什么大家会被渣男一吸引，对吧？是不是因为对他他会说很多好话嘛？但是他心里真这么说，真这么想嘛？对，所以这个都是不一样的东西。它可以产生情绪价值，所以情绪价值跟真正的那个爱到底是怎么样子的，你很难去讲这个。
对，刚刚我们就聊到这个AI可能会继承一个人的记忆，哈，也可能会。通过这个agent传递某些情感，不管是真的假的，这个我们现在无从知道。那我现在可能还有一个比较真实担忧，就是说记忆还是一个人比较私密的东西的，对吧？这个以及比如指纹，对吧？我们的基因都算是一些比较私密的secret，那以及我们的恐惧、我们的欲望，包括每次做一个决定背后的动机，这些东西我们都不太想让别人知道。那如果这些东西变成记忆传到AI里面，会不会引发一些其他的不安全性？或者说我们如何保证这个东西不会反过来伤害我们自己？两位老师怎么看？
对，这个是一个很大的一个问题吧。对，应该说就是在我的第二部小说里面会有一些探讨。哦，第二部小说吗？剧透一下吗？对。我觉得我会觉得，因为第二部小说可能更多是一个思想实验吧。思想实验，对吧？对，就是说将来有些一个世界，这个世界里面所有人他都有大量的那个AI，或者说有大量的方式可以让自己做到索斯季所。就是你想到什么，这事情就会就会实现啊啊！对你现在已经做到这一点了，因为现在你想AI，我我我每个人手上都有一堆agent，agent，嗯，对吧？然后你跟他说做什么，他就帮你做了。嗯，虽然还做的不够好，但是就是说你再往前走三到五年，或者说十年，也许会真的有很好的那种让你觉得非常贴心的、非常好的办法，能够把事情。做成，嗯，那么这种情况下，就是人的价值在哪里？
邓老师你也说的是这样，就是如果是有一个那个这样的一个世界的话，每个人都应该追求自己想要做的事情，对吧？就是然后每个人都会有自己的一些想法和。呃，和思路能够追求降下去，就这个是一个重要的。那么这种情况下，就是那对大家来说，还是想要找到一下自己想做的事情，就是刚才。我们谈到这个记忆就是隐私，对吧？就是说，嗯，一个呢，我觉得其实大家这样想，比如说我们每个人的很多很私密的信息，在我们的微信里边，或者在我们的那WhatsApp，对吧？对里边，所以大家为什么，比如说不担心这件事？对吧？我和某个人的聊天的记录被泄露，挺担心的。有人会挺担心的。本身来讲，我觉得他是你对这个平台的一个技术能力的信任。信任对，就是你会认为他是不会做这件事情。
嗯，对吧？包括我们很多东西，数据其实都在亚马逊云上，对吧？然后，那么对记忆来讲，我觉得从严格意义上来讲，它确实，当你把一些很重要的信息放在上面的时候，它会有泄露的风险。嗯，但是我觉得从技术角度，你可以理解成它就是一种云的一种在这个领域的形式，对吧？还是对。你如果这个叫叫公司也好，或者叫这个产品也好，你可以去信任它。我觉得还是会有人去愿意接受这种形式的。嗯，但确实会有些说你不能接受这个损失，或者在这个阶段你不能接受这个损失，那那你就放在本地，对吧？对。所以其实从AI记忆的角度，今天有一些很多方案本身它就是支持在本地去。放了一些东西，端侧记忆，对对对。但是你又那个悖悖论，就是说你你怎么用大模型，对吧？对啊，你怎么能本侧本地放个大模型，对吧？这不现实。所以我觉得，所以我觉得它基本上还是一个trade off，就是。你可能最重要的信息，你最担心的，那你就放在本地。但是有些其他的，我觉得大家就是选择放在云上，其实OK的。
对对，但是这就是可能你原来的问题是另外一个问题，就是说，就是说我们你并不管到底是本地还是远程。你其其实你这边担心的，其实说如果把自己真的分出去了，对对你的本身，对你来说，你有没有这种安全感？是这样的一个问题。我怕人别人太了解我，做出伤害我的事儿。我觉得以后肯定要接受这个事实吧，就是说接受接受谁都有可能来伤害我，是吧？尤其我们当时设想了一个形式或者产品形态是什么呢？当有一个AI很了解你之后，它变成了你的一个分身，嗯。当然，比我我们可以把一些，比如说银行卡密码，对吧？很隐私的一些东西，你黑暗的那些东西都不放出去。对，但是它就具有了某种脱敏的信息，它是你的某种复制，对吧？就是安全保护下的复制。他就可以开始代表你去和别人的AI聊了。
对，比如说咱们认识了，咱们认识了可能半年之后，中间没有交流，然后也不知道田老师在做什么，你在做什么，我的AI可能就找你的AI聊了一下，说哎，好像大家最近在关注一个事儿，然后开始告诉主人，你你们要聊聊个什么事儿？我觉得maybe会有出这。的情况出现，就是说现在有产品已经在做这个，我觉得我觉得可能不远了，对吧？就是说，当你有一个很好的这个分身是安全范围内的一个分身的时候，那很多事都可以AI去社交，你可以做，对，代表你去做很多事，还是有一个安全线要画画好的。对我科幻小说里面是有这样的一个想法，就是说，如果你真的就出现一个分身，这个分身跟你完全一样，嗯，对吧？你怎么办？
对，一种可能是说你在分身之前，大家先签好协议，说就是说，对，就是之后就是既要需要如何在一起？因为你签完协议之后，然后分身之后可以合在一起，嗯，这样会就是比如说你有很多分身，然后这些分身会做你做很多不同的事情。嗯，那么会有很多不同的经验，那么这些经验相互之间应该是说共享，那最后就是最后可以合到一起，然后变成一个你自己的感觉。对我们人类来说，我们签一个协议，我们是可以付出代价。那那分身它有啥代价？如果比如说你在分身之前签了这个协议之后，嗯，那就是如果这个协议通过某种方式写写完之后，让我觉得大家觉得就是很融合是一个奖励，对大家都觉得都有奖励的，嗯，那大家就会做这事儿，嗯，那你就不会害怕你的分身。
嗯，因为不然的话，就是像很多以前科幻小说写的那样，就是一旦一个人被复制成两两个人，那么这两个人就不是不再是一个人了，他们立即就会想起来，就是OK，我们还有个人跟我一模一样，我是不是要把他干掉啊？就会有这样的一个产生这样的一个囚徒困境，对对吗？是的。那你把这囚徒困境换成一个相互之间可以互利的这样的一个一个一个一个一个博弈的话，那我觉得会比较。可能会更好一点，但这个应该说是在这个分身完全跟人是一模一样的情况下才会发生。嗯，但现在这样子，你说我们有一个agent，这agent可能是我里很不完全的一个残魂，对吧？对，然后他能做的事情你是可控的，那就是另外一回事。
对对吧？对，马斯克也分享过，他说起点已到，然后他说未来人类是不用工作的。我觉得跟老师两位老师刚才讲的就是不谋而合。将来很多事情都不需要工作。他说有的人恨不得要想工作，你得花钱上班，就是是是是。你把工作当成一种爱好去做，你可以工作。那大部分人就是去追寻自己梦想，做自己想做的事儿。是两个背景，就是一个是说整个社会生产力是足够强的，对吧？它是能产生出来满足所有人的这个物质需求。对对对。对，当然需要分配制度的变化啊。就是说，另外一方面呢，其实事实就是说，将来作为生产者来讲，大部分人是没有价值的。嗯，某种意义上来讲，就是你没有AI更好，对吧？或者你比不过那个用AI更好的人。
嗯，本来说这个世界上可能这个有有，比如说假设这个这个事情有十个工作岗位，现在变成一个人可能和AI一合作，把这个事情都做了，cover了。对，嗯，对。是对啊，如果你不能超过你家AI，不能超过AI的话，嗯，那你就没有什么价值。如果你没有价值的话，那你不如去找更有价值的事情去做。嗯，对，嗯，那钱从哪来啊？谁能保证我的物质基础让我去做这种事？饿死了。但如果你有无无限的这个供给的话，比如说那个我们所有东西都是自动化的，所有东西都是能够自自动生产，嗯，那么你并不因为食物会比人多。那你就不会担心饿死，是不是？嗯，那么这样的话，任何重复劳动的产生的物质产生的那个任何的东西，嗯，它都会变成零价格。
对，那另外一方面就是说，这样的话就是你能保证自己的物质物质上来说你是富足。嗯啊，但是但是你在上面就是你会有更更深的想需求，嗯，对吧？人有很多的那个叫马斯洛有个五层需求理论嘛，对吧？如果对我我我很想回应一下，就说在那个时代，我觉得其实人就是不是作为生产者而有价值，可能你是要作为消费者而有价值，嗯哼。嗯，对，因为如果比如说很多人他没有消费，其实对整个社会来讲未必是好事。哎我去，我们人类从赚钱的变成花钱的了，对吧？嗯，你如果想着花样花钱，我是花样花钱，你的花样跟别人不一样，你就有价值。哦，那看来这个最高的还是考察一个人的最终品味啊，品味好，他花了就会好，花的水平比较高。
AGI来临就是这个状态吗？还是说起点来临，应该是这个状态，就是在起点来临之后的一段时间稳态了之后，就是这样的状态。那两位老师认为起点已经来了吗？我觉得大部分来，大部分的那个工作来说，其实已经开始要起点已到，对，已经有这个有这个这个过程了，对。邓老师呢？就是这个，我觉得主要看你time内怎么定义。我觉得此时此刻，我我还不是认为真的，它完全技术上的问题全都解决掉了。对对。但是基本上，我们很确定的说，这个事儿肯定会发生。啊，这个事儿肯定会发生。无非就是说，它是五年，对吧？可能还是更久，还是多，还是多快？我觉得这么一个问题。但基本上是我们就这一代人就应该能要见证的一个一个一个一个状态了。状态对对对对。
那我们应该做好怎样的准备啊？就比如我们就是具体来说。小孩还应该上学吗？我上学，我跟我跟田老师都是有这个toddler，这个四岁六岁的小小朋友，还上学吗？学啥呀？还上大学吗？还高考吗？肯定要上嘛。就是说那个时候，你可能上学的目的不是说为了满足别人的需求，需要去生产什么东西，有可能就是为了自我的一种爱好、兴趣满足都有可能。对，或者说是找到一个志同道合的伙伴。对吧？作为social club，就是一个社会上的一个聊天呐，或者说一个好的一个地方，能够见识碰到朋友。嗯，啊，这个是一个。
还有一个点就是说，是也许以后真的大家更想要创业，嗯，或者更想要做自己想做的事情，而不是去上学。嗯，对。另外一个，我自己觉得就是说，有点像我们举的一个例子，比如说马车和汽车司机，对吧？这个关系啊，我觉得在那个时候，人可能会找到更多的价值。这个价值未必是我们今天看到的计算机啊，然后某个具体的lawyer、老这个律师啊这些工种的价值，有可能是别的价值。嗯，比如你是个有影响力的人，或者你能给某些人提供情绪价值，本身其实就是价值。所以那个时候可能很多职业会变化。
如果说我们今天看到咱们今天的职业，可能就会发现说，可能技术角度确实AI已经做得非常非常好了，但是我觉得还会出现很多别的。职业的可能性，嗯，那也就是说，之之前田老师也分享了物理学的这个类比，叫做费米能级嘛。这水平线以下的人就会被替代。那有什么东西是人类什么特点是AI永远替代不了的？对，人类的独特价值是啥？就是情感嘛。我觉得一个一个当然就是说是每个人都有自己的目的和意义嘛。对吧？
就是说，比如说像写小说这个这个事情来说，对吧？就是说，你就算是AI能够把整篇小说都写出来，这也不是你的，因为对于一个人来说，作为小说家来说，他为什么要写这个？是因为他在某一些场景上、某些过程中产生了感动，或者产生了一个感悟，觉得这部分是我人生的一部分，或者说是我人生经历中的一个重要的一个环节，或者一个一个一个瞬间，能把这部分变成一个有趣的故事，然后分享给大家。那么这个过程本身就是对自己是有意义的。那对比其他的人也是有意义。那么这个过程本身应该说是不能让AI取代的，因为这个AI就算你写，它能写出一模一样的这样的小说来，它后面不存在一个人有自己的情感内涵把它放进去，那就是那就会很难去，呃，很难去有这个有这个价值。然后给别人用，对，这个是一种。
另外呢，就是说，理性上来说呢，就是说，现在专家的一些能力，这些能力就是说，很少的数据能够获得很强的那个insights。嗯，那么这个能力本身现在AI还做不到，那么这部分也是有价值的。一个是experience经历、经验的体验，还有一个就是。洞见，对对对对，这两点洞见，也许以后AI越来越强，可能会被取代。嗯，但是体验，我觉得很难去做到这一点，因为这个是人，就是这个人的存在的意义在这儿，对对吧？那么它的存在意义是不是能够被AI完全换掉？我觉得以后可能是这样，就是AI跟人会融合。
比如说那个，也许大家都要智能体，我们现在就跟手机已经融合了，对吧？对，然后我们以后加加我们的一堆的那个agent，然后一起融合了，那么他们合在一起产生新的体验和新的经历，嗯，让它去跟其他的AI智能体。或者人跟AI整体可以相互进行交流，这样的话呢，可能是新的一个价值所在。田老师抢答了，我们下一个问题是，就是问的是这个，问的就是人跟AI的共处模式。对，那那那个邓老师，您觉得？人类有什么独特价值？
我是这样想的，就是说，一方面，我觉得我们看人本身，我觉得也要动态的看，就是说，换句话讲，就是说，如果小朋友从小就是从和AI的这个交互过程中，在学习或者在成长的话，maybe他们将来不能够说人家AI会比AI好，对吧？我觉得很可能大家都会有这样的一个技能，我觉得这是有可能的。另外一个，确实，我觉得在很多事情上，AI今天其实做的是没有人好的，包括像物理世界的很多事情，其实AI是做的就是没有人好的，这里面还有很多的这个叫困难。再有就我还是那个观点，就我觉得你如果从一个纯的效率，比如说我们去办一个企业的角度，从这个效率角度，确实可能很多事儿AI做的比人要好。
但如果说对人的价值的角度，就是对其他周围人的价值的角度，我觉得有的时候AI哪怕在效率上更高，它也没办法代替。包括我们刚才说的一些，比如说流程呀，或者是这种。一些比如确认啊之类的一些事情，所以那么我想表达的意思是说，对于普通的这个小朋友来讲，或者他成长，我觉得很重要的一点就是说，第一个你要很早就开始学会和AI怎么共生，以及说要有很好的品味，能够去做出对的判断，对吧？很强的学习能力等等，有可能就是说，我觉得教育会被改变，就这是确定。对教育，我觉得肯定是会被改变的，就是。也许以后最厉害那些人，他们不要老师教，他们自动的用AI来战胜，然后然后学到一些东西，然后自动找到自己的方向去做。那么别人是最厉害的。对，A
sixteen它的总裁Mark他早就让孩子回家学私塾了。啊哈，他的儿子十一岁，现在就在在家自跟AI来学习。对，而且他同时在自己创业。啊哈，我觉得可能未来这就是一个对小朋友对教育的新的方向。是对，对，是的。他想做他想做的事情，然后AI就是他工具。嗯，他用这些工具来完成他想做的事儿。对，是。好，那我们就就着刚才田老师说了一半的题哈，这两位老师认为人类跟AI相处的最终模式会是什么，以及我们人类的未来到底在哪？对对，我觉得其实最终是融合嘛。荣哥，我觉得最终大家也不会去判断说我是AI你是人，或者你是AI我是人，有有点可怕。对，我觉得其实最终是看就是一个是就是作为工作效率来说，大家就看你产出嘛，你加上AI最后能做到什么程度，对吧？就是大家说哦，我们现在每个人手一个Claude，一人手一个Codex，然后人手一个什么工具，人手一个龙虾，对吧？然后我也不管你有多少龙虾，我不管，反正我最后看你最后效果好不好，这个是一个直接的一个动力。对吧？比如对于你老板来说，你大概会他会这么问你的问题，对吧？
然后另外就是说，是就是这样，日常生活中其实你大家都已经用手机用的很很顺了，没有手机你怎么出门，对吧？你没没法干很多很多事情，你们要获取信息什么的。那你之后再深度融合的时候，你就会发现就是你必须平时就是每天有有有有几个agent给你干活，然后因为很顺手，对吧？你缺了他一个他就干不了活了啊，这个都很正常。所以最终这些都会有某种方式的融合起来。啊，那以后如果有脑接口的话，或者有某种更更直接的一个通信方式的话，那可能会有更多的一个出来，是这样子。所以我觉得像这种机器人大战人类这种情况应该不太会发生吧？不太会发生，因为有什么事？
一个是像是机器人，就像我们刚才说的那样，就是它的进化过程是跟着人走的，对吧？我们把AI进化成最最进化的牛马，是这样的一个逻辑嘛？对，因为是这样的逻辑的话，所以我觉得最终是会有一堆的，就是各种AI来去辅助，或者说跟人一起去把这个事情做成。然后人变成这个大的系统中的一个指挥官，或者说一个命决策者的首一个一个位置。哪里有压迫，哪里就有反抗。这句话不不，AI时代不会成立了吗？因为其实感知不到痛苦的，他工作的时候，他其实可能没有感觉。还是说他仍然没有意识这个？我是，所以他无法做出反抗。对，所以我觉得人和AI相对来说，我还是会觉得人是有主体性的。AI可能相对来说还是，虽然它看起来不是工具，它但本质来讲是人的工具。对，所以将来可能就是说，呃，最理想的情况是说。呃，人会因为AI的这个加加持，他会变得越来越好，或者越来越强。对，就是，然后只不过呢，有些工作可能确实只有一一小部分人类才能做，其他人可能就是也会被AI加强，但是他做的工作相对来说会不太一样，对吧？然后。再有就是说，可能也会出现一些人，就是他不需要做太多的工作，更多的是我就是为我的这个兴趣在生活，对吧？他反正有足够的这个叫物质的这个支撑就可以了。我觉得可能是这样的一种，嗯，形态，对。
哎，其实应该说我们我们不应该适用这句话啊，拿你的压迫让你有反抗。嗯，我觉得应该更适用于人跟狗之间的进化，人跟狗之间的进化。对，你想就是很多很多几百万以前，有些狗比如。说跟人选择共生，然后最终找到自己的生态位，就是各自有各自的生态位嘛，对吧？你会不会担心就是以后你的狗反抗了？好像没有。OK，没有了人类，可能AI会觉得自己没有价值，是吧？啊，是啊，是啊，是啊，因为它的价值是人赋予的，然后它整个的进化的流程都是希望呢AI能够更加对齐人的价值。在这个环境下，你不可能出现，就是就跟进化是一样的嘛，不可能出现说AI说我觉醒了什么东西，然后要跟反人类反抗。但马斯克也说了，说他认为碳基生命可能只是一个过渡阶段，未来是引出未来的硅基生命的长期。生存啊，对，所以就是最终是跟AI融合嘛。那融合完之后，那我们算啥，碳基还是硅基呢？那我们还是会可能几代几代几代几代之后，我们碳基生命会不会消失？可能会不会意识上传之后变成变成硅基生命呢？对，完全都变成硅基，或者变成数字生命，就是说你你并不担心，或者说你并不思考你究竟是哪一种生命物质基础。物质基础其实并不重要，重要的是你的意识，或者说你的那个一些目的性啊，你的你的逻辑，你这个整个思维方式是什么？至于它用什么方式实现的，其实这不这不重要。嗯。对我，我相对来说还是会相信，就是说硅基不会出现所谓叫意识啊之类的，所以我觉得某种性来讲，就是说那个是很多人的担心，但是事实上就是说有可能会出现硅基生命被或者硅基的这个叫智能吧，对被这个某些人去利用，这个对人类的危害可能会更大一些。我自己理解，对，就是因为我觉得就是截止到今天为止啊，就是包括人对这个叫人类积累的一些研究，比如说人的意识到底是什么，对吧？怎么产生的呀？它的底层原因，我觉得其实都是完全不清楚的。然后今天，然后AI机制到今天为止，我觉得它也都没有体现出来这样的一个倾向性或者是可能性。嗯，所以我觉得更多的是说，还是大家的一种就是过度的担心。某种意义上讲是这样的，对，嗯。
OK，好，我之前那个话题有点略显沉重了啊。我们现在聊聊这个活在当下的事儿。先问问这个田老师，就是您未来的目标是啥？这个我们因为我们现在都知道你在创业嘛，然后闲暇之余也在写科幻小说，第一部《破晓之中》对非常受欢迎，第二部也现在正在创作当中。那田老师也是极少数拥有文学创作能力的一个理工派。那我就很好奇啊，就您脑中那个理想的一个产品形态是怎样的，或者说？就是您想过的真正的一个理想生活形态是怎么样的？哦，这两个问题好像是不一样的问题，不一样，对吧？我觉得陈宇那个理想生活应该是，当然是你不愁吃不愁穿，什么都不愁，然后你想做事情，AI真的替你干活，你去想什么了？对啊，对啊，那当然是最好是这样子嘛，对吧？但毕竟就是开公司的话呢，肯定还是希望有一些那个有些目标能够能够实现，对吧？然后有些任务能完成，因为这个本身对于人来说也是一个self-rolling的自我实现的这样的一个过程，对。所以如果说我们要做这个事儿，那个我们先把这事儿做好。大概是这样的，那么这个本身也是一个，呃，应该说也是一个人自我实现的一部分，大概是这样子。对，仍然对这个创业的产品只字不提。
对，邓老师，嗯，陈天桥老师也说过，就是说他想通过脑科学来彻底解除人类的痛苦。嗯，我的问题就是说，Evermind的终极的形态，嗯，您希望它会是什么样子的？嗯，然后在您的带领之下，Evermind可以帮助人类解决这个所谓的终极的痛苦吗？嗯嗯。对，就是Evermind的目标，其实就是说，我们希望基于长期记忆，能够让AI具有这种叫self-evolving的一种能力，就是它可以自我学习，通过人和AI的迭代，把产生体验更好的智能。某种意义上讲是这样。然后，因为在Evermind，我们其实还有一个团队在做mental health，嗯，就是在做mental health，我们有个什么讨论呢？就是说，如果一个人假设，比如说他有抑郁或者焦虑的问题。你是不是通过完全的叫companion陪伴给他提供情绪价值能解决？其实事实是不能的。嗯，有可能他很穷，或者他想做的事情他做不到，对吧？或者怎么样，就他没办法脱离他那个环境，这是我觉得人产生抑郁很重要的一个原因。所以，光靠这种叫情绪价值，有的时候是不能完全解决他们的问题的。嗯，但是如果比如说，假设我们将来有一个AI智能体，它有非常强大的这种生产能力，然后这些人可以通过比如说这样的一个系统去产生价值，对吧？你可能投了十块钱，可以挣五十之类的，对吧？就是有可能啊，就是那当然要用你的智力在里边。那就相当于说，我一方面可以在情绪上解决你这个时候的这个情绪价值的问题，另外一方面我也可以给你解决更基础的一些经济啊这些东西的问题。那maybe我觉得可以让人过得更好一些，啊，嗯。所以我们某种意义来讲，就是说我们其实目标就是说，希望在长期记忆啊，叫self-involves上去做一些技术上的突破，那么让行业这这些agent的能力能越来越强。就某种意义来讲，这是我们基本上整个大的目标是这样子。嗯，这也是我们的mission。对对是。
那我们再拉回到现实哈，现在还是我们在Evermind这个记忆挑战赛的决赛现场。对，然后我们今天来了，我们这个报名得有四百多位年轻人来报名参赛。嗯，今天现场也来了好几十个队伍来参加最后的这个角逐。对，那两位老师，对现在想入场做AI技术，包括做AI agent的这些年轻人，嗯，你们有一些怎样的建议？呃，我觉得一个当然是多学习各种已有的框架嘛，我觉得这个还是挺重要的，有很多的。东西看起来很简单，但是其实后面的实现是比较复杂的。嗯，对，就是我自己也看了一些，比如说像crawl code的一些一些开源的代码啊什么的，我觉得还是挺挺有意思的。嗯，有很多的细节，很多的那个corner case需要去处理，需要去做。对，就是说你没看到这个corner case，觉得哎这个东西都能想到啊，这东西都会出出现吗？我看了一下之后，觉得这个还挺有道理的。就是有这些情况嘛，就是说你不要想当然，就是先把他们这些源码给看透了，或者说去。那个去去做，那另外我觉得就是不要太依赖web coding，我觉得这个是一个重要的。不要太依赖web coding，这个很重要。对，就是我建议，我觉得还是大家还是要多看一些东西，系统的去学习AI的。有系统要学一些东西，因为web coding就刚才我说的，如果你非常依赖web coding的话呢，就是你代码会在很快的时时间段变成石山。嗯，对对，然后你也不知道怎么处理，对吧？这是一个问题，因为现在AI的，就是就算是最好的AI，它对这个系统架构的理解啊，对这个问题的理解，然后对你这个场景的理解，还是远远落后于人的，啊，所以需要大家去研究一下。也许就是就是你的护城河是你自己看透的，别人外部coding可能就是你的护城河。棒棒棒棒棒，这是这是田老师今天的金句，嗯。
邓老师，对我觉得其实就是两句话嘛，就是一个是感想，一个是马上做，对吧？就是感想马上做，就说因为在过去，其实每个人他的想法，其实人的想法是很多。对吧？每个人都会有很多愿望、很多想法，但是其实当你想把这个想法变成现实的时候，其实是很难的。你可能要雇一个很大的团队才能做到这种事情。但今天其实是技术平权了。比如说之前一个新闻不就说一个学文科的人，然后用了一个AI coding，然后做了一个什么什么工作就很棒之类的。就是所以某种意义来讲，就是说使得我们每个人能够按照自己的需求或者理解去开发产品或者产生价值，其实变得更容易了。那么对年轻人来讲一样的，就是说你不要在意说你是是不是AI专业，对吧？或者学过AI，你今天就是去拥抱AI，对吧？把自己的这个特别有志向的想法，比如在我们这个竞赛上就有一个是做为这个阿尔兹海默的病人去做一个什么样的一个产品，对吧？你完全在今天这个时代，你完全可以通过就是更简单的这样的一些技术，不需要对这个人的技能要求很高的一些事情，就可以产生价值的。我觉得这件事情是今天和过去非常多样不一样的。我们当年呢都是需要学好几年AI才可以，AI才可以做很少的事情。今天大家完全都是很平权的，可以去使用这样很强大的功能和能力。嗯，对。之前我在呃斯坦福上课的时候，老师有跟我们讲说，你们不要觉得idea最重要。最重要的是education实现这个
idea 是最重要的。是的，今天其实我觉得是变了的。对，就包括刚才田老师讲说要用好这个 web coding，就是当你把你的想法想得好，首先你的目标是很好很有价值的，同时你能把它逻辑或者规划的很好，就系统架构的很好，你再让 AI 执行，我觉得其实现在已经是很 work 的一套思路了嘛。对，嗯，对，嗯。对，太棒了。应该说还是 execution 还是重要的啊，只是说是 execution 的层级，比如说从那个代码写的层级，嗯，到了系统架构和对问题的理解的这样层。
这部分也是还是需要 xpu 是吗？嗯，对。如果有一个大 idea，但是这个 idea 本身你想没想清它怎么实现的，或者没想清楚有很多问题怎么解决的，嗯，这个其实还是很难落地的。嗯嗯，但是这个就是应该说这个 bottleneck 或者说瓶颈性是现在在这个这个这个层次上，嗯，对，OK。
太棒了，今天非常感谢两位老师带来的非常深度的分享，然后希望这场对话可以给非常多人带来一些新的思考以及长期价值。这里是创见播客，我是尚万迪，然后两位老师非常感谢，对，谢谢李总，谢谢你们，谢谢。