活动背景与嘉宾介绍

本次对话由牛顿猫沙龙创始人赵日成主持，特邀前Meta AI研究员田渊栋与哥伦比亚大学助理教授彭天翼，共同探讨通往个性化AI的道路。活动历经波折得以举办，感谢全球青年发展协会及总导演竹茜的辛勤付出。田渊栋拥有卡耐基梅隆大学机器人学博士学位，曾任Meta高级经理，研究方向涵盖强化学习与大语言模型理论，曾获ICML杰出论文奖提名。他目前处于创业公司的“隐身模式”（Stealth Mode），正在推进Series A融资，估值预计达到40亿美元前轮状态。尽管具体业务方向保密，但田渊栋透露团队规模已初具雏形，正致力于解决AI领域的关键问题。

彭天翼毕业于清华大学姚班及麻省理工学院，研究方向包括强化学习与数字孪生模拟。他共同创立的Simulate AI公司近期被Salesforce收购，展现了其在AI应用层面的商业价值。彭天翼在哥伦比亚大学商学院任教，曾获得Informs等多项学术大奖。他个人网站上部署的“Personal Digital Twin”（数字孪生体）允许用户与其进行交互，这成为本次对话的重要切入点。两位嘉宾的履历均体现了在学术界与工业界的双重顶尖实力，为探讨AI前沿技术提供了深厚背景。

观众画像与个性化AI的现状挑战

主持人赵日成首先对现场及线上观众的AI使用习惯进行了调研，揭示了当前用户与AI互动的深度。数据显示，约90%的观众每天在工作场景中使用AI工具，而85%在个人生活中也有使用习惯。更值得注意的是，约70%-80%的用户已超越简单的对话功能，涉足写代码、执行工作流等深度应用。然而，仅有5%的用户选择本地部署开源模型（如OpenCL），表明大多数用户仍依赖云端服务。此外，约50%的观众曾向AI倾诉情感问题以获取情绪价值，且女性用户比例明显更高。

尽管大模型已具备常识、推理及多模态生成能力，被视为“通才”，但距离真正的个人助理仍有显著差距。核心痛点在于：AI缺乏基于“关于我”的持续记忆，无法内化独特的思维方式与审美；同时，随着AI Agent权力的扩大，隐私保护、Agent安全以及便捷性与掌控权的平衡成为亟待解决的社会与技术议题。赵日成指出，学界正从认知科学、心理学汲取灵感构建长期记忆框架，而业界则需应对数据爆发带来的伦理挑战。

数字孪生模拟：从行为预测到通用人类模拟器

彭天翼教授首先回应了关于“Personal Digital Twin”与理想状态差距的问题。他指出，数字孪生通常分为两类：一是模拟复杂系统（如工厂、经济），二是人类数字孪生。在大型语言模型出现前，行为模拟主要依赖简单的数学参数（如经典经济学中的消费者选择模型），虽便于理论分析，但在现实预测中局限性极大。随后十年，基于大数据的机器学习（如抖音推荐系统）将点击率预测准确率提升至90%以上，但这类模型仅能理解特定行为片段。

大语言模型的涌现提供了通用人类模拟的可能性。彭天翼团队进行了一项开创性实验：收集500个涵盖人口统计、性格、经济及心理行为的问题作为训练数据，并邀请十几个研究组创建数百个测试问题。实验结果显示，大语言模型在模拟人类回答时整体准确率较高且令人惊讶。然而，当前框架仍存在明显缺陷：模型存在较大偏见，倾向于将个体特征“平庸化”，忽略性格细节并坍缩至平均人设。彭天翼强调，图灵测试本质上定义的是最完美的“人类模拟器”而非AI本身。因此，未来需建立独立于通用大模型训练标准之外的新范式，以发展出真正精准、独立的数字孪生体。

存算一体架构：大模型记忆与思维的融合机制

对话进入核心议题“记忆”。主持人赵日成对比了冯·诺依曼架构（存算分离）与人脑运作逻辑。人脑中，突触网络既构成记忆也参与计算；而大模型通过万亿级参数实现了某种程度的“存算一体”。这些参数既存储了事实性知识（如拿破仑是谁、新中国建立年份），也涌现出高级思维与推理能力。目前无法严格区分哪些参数负责记忆，哪些负责思考。这种架构是否对个性化AI有意义？

田渊栋认为这是一个极具探索价值的方向。尽管当前研究多沿用存算分离思路（如外挂知识库），但大模型内在的融合特性暗示了新的可能性。个性化AI的核心在于让模型内化用户的独特记忆与偏好，而非仅通过外部检索获取信息。若能在参数层面实现用户特定记忆的固化与思维模式的微调，将极大提升AI的个性化程度。然而，这也带来了技术挑战：如何在保持模型通用能力的同时，安全、高效地注入个性化数据而不发生灾难性遗忘或隐私泄露。这一区分不仅关乎技术实现，更触及AI如何从“通用工具”进化为“专属伙伴”的本质问题。

从冯诺依曼到存算一体：大模型的学习逻辑

田渊栋指出，传统的数据库式记忆采用键值对（Key-Value）的分离存储思路，而大模型则通过综合大量数据形成高层次理解，这种理解一旦达到一定深度，计算结果便自然涌现，从而实现某种程度的存算一体。他引用了人类认知的两个极端来类比：对于“1+1=2”这类直觉性事实，大脑已将其固化，无需推理即可瞬间反应；而对于新任务，则需要先调取知识（存储），再进行逻辑推导（计算）。这种边界模糊的分离与融合过程，正是模型进化的核心。在AlphaZero等强化学习算法中，通过搜索得到的优质招法被固化进模型权重，使下一次搜索站在“巨人肩膀”上，效率与结果显著提升。这种自我迭代机制证明了将探索过程转化为内在权重的有效性。

“这个理解一旦高到一定程度之后呢，这个计算结果就自然就出来了啊。所以这样的话，通过这个方式，其实可以达到那个存算一体的这个目的吧。”

彭天翼补充道，冯诺依曼架构的聪明之处在于将程序存储在内存中，使计算变得简单通用。然而面对大模型时代，我们需要新的架构思维。他认为人类并非纯存算一体，而是发展出了外部记忆工具（如笔头）和外部计算工具。鉴于世界信息的无穷无尽，内部智能体必须依赖外部存储与计算辅助。因此，存算分离与一体的螺旋上升过程是必然趋势，而非非此即彼的选择。这种观点挑战了将人脑简单类比为计算机的异化认知，强调了在高层次上对原始哲学思想的突破。

顺行性遗忘与显式记忆的必要性

田渊栋提出了一个形象的比喻：当前的大模型如同患有顺行性遗忘症的天才。它在训练截止日期（如2026年1月）前的数据拥有完整记忆，但运行指令时无法保留之后的上下文信息。任务结束后，上下文被立即抛弃，模型回归初始状态。这种特性引出了两种记忆存储思路：一是显式记忆，即通过文本、Markdown文件等结构化方式整理记忆，供模型检索。这种方式具有极高的可解释性和灵活性，用户可直接编辑或删除记忆片段（如Claude的Compact功能），且机器易于理解。二是参数化记忆，即将信息直接存入模型权重这一“黑盒子”中。

“我们今天的大模型它是一个患有顺行性遗忘症的天才……它一旦运行这个指令的时候，它会在那个时间点之后的所有集它都没有。”

Google提出的Nested Learning（嵌套学习）模仿人脑层级记忆结构，底层存储世界常识与逻辑规律，上层则通过参数化方式浓缩个人偏好（如口味、审美）。这种中间状态试图结合显式记忆的可控性与参数化记忆的便捷性。然而，田渊栋认为目前仍处于初级阶段，显式记忆方案（如Context Window管理）在短期内更具优势。因为修改Transformer架构或训练LoRA适配器需要消耗巨大资源，而通过优化上下文压缩算法（如保留关键论点与数据），利用现有的Scaling Law提升记忆能力，是更务实的路径。这种对外部显式存储的依赖，反映了在信息爆炸时代维持智能体持续性的现实需求。

个性化记忆的三种实现路径与进化局限

针对个性化记忆，田渊栋梳理了当前主流的三条技术路径。第一种是上下文注入法：如Kimi等模型将用户重要事件写入Markdown文件，通过自动组装模块按时间远近或重要性压缩后放入上下文。这种方式兼顾了可解释性与灵活性，用户可随时编辑记忆内容，且无需重新训练模型。第二种是权重直接修改法：直接将个性化信息融入主模型权重，但这在工程上极不方便，且容易破坏原有知识分布。第三种是LoRA适配器法：如Saqana AI提出的“Doc to LoRa”，通过Hypernetwork将上下文预测为LoRA适配器，在不改变主权重的情况下实现个性化行为模拟。这种方式虽属“改权重”范畴，但保持了模型的模块化与可插拔性。

“如果你要把人脑分成两部分，一部分专门是负责那个记忆，还有一部分呢就是就是专门负责这个推理……自然选择就找了一个比较啊容易解决的方案。”

田渊栋进一步从进化角度分析，认为人类大脑的神经元连接一切的方式是进化的妥协结果。若要将记忆与推理完全分离，需构建完全不同的架构，这在生物进化中难以实现。因此，目前的个性化方案多依赖于路径依赖。彭天翼也倾向于短期内的显式记忆方案，认为在Scaling Law故事未结束前，优化上下文管理比激进修改架构更可行。尽管LoRA等适配器方案提供了折中思路，但显式记忆的可控性与低成本优势使其成为当前个性化AI落地的主流选择。未来是否会出现超越这两种区分的“第三条路径”，仍有待技术突破与架构创新。

持续学习与记忆管理的本质挑战

关于AI的持续学习能力，业界存在不同观点。Anthropic CEO认为通过Scaling Law即可教会模型探索能力，无需真正的在线探索；而Nasty Learning等研究则提出不同层应以不同频率更新以模拟人脑。然而，这些概念目前多处于Demo性质的阶段，真正落地需要长时间验证。记忆问题是人类智能的护城河，若AI能轻易跨越此界限，人机区别将变得模糊。因此，记忆管理不应仅被视为简单的存储问题，而是智能的核心体现。

“我觉得这里有一个...Nasty Learning对吧？这样的都呃，我其实跟他们的作者有过这个交流...”

从任务求解到上下文管理的范式转移

传统Agent被视为Task Solver（任务求解器），其核心难点不在于解决问题本身，而在于如何提供正确的Context。智能的本质在于对大量非结构化信息进行组织、提取洞察并高效回答新问题。管理上下文应交由Agent动态完成，而非静态配置。例如在金融领域，通过组织世界信息以获取洞察；同理，Agent应主动维护和组织信息来源。实验表明，让Agent自主设计数据库结构并进行预处理，其效果优于传统的RAG或简单记忆写入方式。这种端到端的信息链条打通，使得后续任务解决更加高效。

“难点其实在于怎么给他正确的 context... 实际上智能是关于信息，关于怎么把大量的 unstructured information 能够组织起来...”

评估记忆组织的效率指标：速度与准确率

判断一种Memory管理方式优劣的关键指标是速度。当使用组织良好的信息回答后续问题时，若响应更快且准确率更高，则说明该组织结构更优。这一逻辑延伸至LLM本身：LLM对互联网信息的压缩处理，本质上是提高了后续信息检索的速度。由于直接访问原始网络数据效率低下，压缩带来的速度提升隐含了智能。因此，“存算一体”与“存算分离”并非绝对对立，而是可以在效率维度上进行竞争。最终形态可能是多层级的混合架构，而非单一的灵活分类。

“速度本身其实是重要的... 它提高了接下来的information retrieval的速度，那么这个speed可能就implied了intelligence...”

组织化个性化：公司级记忆系统的构建

除了个人层面的个性化，组织架构的个性化同样重要。处理公司信息、规章制度及法律法规等上下文，构成了另一种形式的“公司级数字孪生”。这需要Agent系统来维护属于公司的个性化记忆，理解其运作逻辑。这种介于宏观通用模型与个人化模型之间的中间状态，强调了基于组织架构的个性化需求。如何构建一个能动态适应公司语境、维护组织记忆的Agent系统，是极具研究价值的方向。这要求AI不仅理解语言，更要理解背后的组织逻辑与规则约束。

“公司本身就有组织架构... 你怎么样用一个类似的或者不一样的 agent的系统来维护这样一个属于公司的一个个性化的记忆...”

非语言信息：具身智能与数字孪生的新挑战

当前大模型主要依赖高度浓缩的语言信息，但人类感知包含大量无意识及非语言数据（如视觉、听觉、物理感官）。具身智能设备可采集这些原始素材，但这给个性化学习带来挑战：语言代表共识，而个性化往往包含不可言说的感受。若数字孪生要真正理解用户，必须处理这些非语言、非意识的信息。目前AI难以捕捉细微的情绪与语境，因为人类擅长在长上下文中精准提取关键信息并做出反应。现有系统多依赖人工设计的记忆检索，尚未实现全自动化的精准匹配。

“语言也是用来交流的... 但当我们说这个个性化AI的时候，很多时候它是有一些很多不可言说的东西...”

自动化记忆抽取与用户建模路径

实现“不言自明”的数字伴侣有两条路径：一是工程实践优化记忆设置，二是让AI自动学习从上下文中抽取关键数据。MIT提出的Recursive Language Model尝试将上下文作为语料训练模型，使其自动发现重要信息并呈现。长远来看，进化路径更倾向于强化学习式的迭代试错。此外，用户建模（User Modeling）同样关键。通过对话推测对方的思维方式与逻辑，需将此类数据加入预训练。例如，通过分析史料中人物的语气、表情及语境生成扩增语料，可增强模型对说话人意图的深度理解。

“如果它能自动的发现这个策略，去把这个 memory抽取出来啊... 让这个模型可能对呃当时这个人的啊表情啊，他的一些想法和思路呢，会有更深的理解...”

用户画像的简化与预测复杂性

彭天翼指出，从推荐系统经验来看，人的行为模式并未想象中复杂。通过少量分类（如MBTI）或Embedding压缩，即可概述一个人的基本框架。虽然长期记忆等细节困难重重，但预测行为模式的核心逻辑相对清晰。这意味着构建数字孪生时，无需过度追求微观层面的无限复杂性，而应聚焦于核心行为模式的精准捕捉与预测。这种简化视角有助于降低系统构建难度，同时保持对用户意图的有效理解。未来的重点在于如何高效地将这些简化模型与复杂的上下文记忆相结合，以实现既精准又高效的个性化服务。

“人这个东西好像没有那么复杂... 光那十几个分类就可以，对吧？概述一个人...”

人类模拟的维度陷阱与非理性本质

在尝试用数字描述一个人时，往往一百多个参数就能构建出不错的画像，但这掩盖了人类思维在细粒度层面的极度复杂性。人本身具有不可预测性和随机性，甚至个体都无法准确预判自己下一秒的非理性行为。为了量化这种不稳定性，研究者曾对同一用户在不同时间间隔（如隔一两周）进行重复提问测试。结果显示，用户在两次回答中的准确率仅为80%以上（约百分之八十几），甚至低于其自我认知的准确性。这种跨时间的MBTI测试结果不一致性进一步证实了人类状态的动态变化，使得训练一个完全模拟人的AI变得异常困难。

“同一个问题问这个用户，比如说隔一两周问一次。他这个回答就是呃，他自己的准确率就只有百分之八十几了... 甚至的结果都不一样。”

此外，当前AI研究与“模拟人”的概念常被混淆。研究发现，DG（数字孪生/代理）的训练目标往往比人更“聪明”。在一个关于联合国非洲成员国数量的测试中，95%的人类受访者无法猜出正确范围（约54-56个），但当AI被设定为具备该人类的知识水平时，其回答准确率却高达90%以上。这是因为AI缺乏对人类认知局限性的“共情”，它并未意识到该知识对人是难以获取的。这种差异源于训练目标的不同：人类模型若处于“婴儿状态”，应无法回答任何复杂问题，直到积累足够知识后才具备反应能力。哥大研究者模拟学生作业反馈时也发现，AI过于聪明反而难以设计贴合人类认知曲线的课程与试卷。

语言作为智能载体的局限性与文明形态猜想

语言是否构成了智能的诅咒？尽管多模态技术（音频、视频、传感器）正在发展，但语言仍是当前智能交互的主要载体。然而，从哲学视角看，人并非唯一的智能方式，甚至可能受限于生物进化而非最高效的智能形态。设想一个高级文明仅通过代码进行交流，若其代码能操控物理世界交互，完全可能发展出高阶智能。这表明科学技术的发展不一定受限于自然语言。因此，应将“智能”与“人类模拟”分开看待：前者追求通用能力，后者仅是特定应用场景。这种区分有助于我们跳出“拟人化”的思维定势，探索更本质的智能架构。

执行与反馈：验证者定律与非对称性难题

Agentic AI的核心在于“能动性”，即通过与世界互动而非被动吸收信息来学习。“人教人教不会，事教人一教就会”深刻揭示了实践反馈的重要性。Jason Wei提出的“验证者定律”（Verifier's Law）指出，AI擅长解决那些容易验证但难以求解的问题。例如编程任务可通过输入输出样本快速验证代码正确性；而审美、道德伦理等问题则缺乏客观目标函数。即使存在标准，如新闻报道的事实核查，验证工作量远高于获取答案的工作量。此外，围棋等任务虽易最终验证（下完一盘才知胜负），但执行逻辑过长且奖励稀疏（Sparsity of Reward），导致强化学习难以收敛。这些验证的非对称性构成了AI发展的主要瓶颈。

缓解验证难题的策略：中间过程奖励与黑箱打开

针对难以直接验证的问题，研究者尝试通过细化反馈信号来缓解奖励稀疏问题。例如引入Rubric（评估量表），对模型思考过程的严密性、逻辑跳跃等进行中间步骤评分，使奖励变得密集。然而，随着模型能力超越常人水平，具备评判能力的专家日益稀缺。Google曾利用GPT Pro解决高难度数学题并采用形式化符号验证，但人类专家参与验证的成本极高且人数有限。对于科学发现等无标准答案领域，打开模型黑箱以检查逻辑链条成为关键。研究如“Deep Confidence”发现，若模型在推理过程中表现出低自信（心虚），该路径最终答案多为错误；剔除这些低置信度路径不仅能节省计算成本，还能提升整体效果。尽管AI可相互验证（Peer Review），但往往陷入“菜鸡互啄”，缺乏资深专家式的一针见血的批判能力，因此人类专家的深度介入仍不可或缺。

数据创新：从Reddit挖掘到环境模拟的范式转移

在AI发展的下一阶段，数据的重要性被置于算法之上。Allen Institute CEO Ali Farhadi指出，其内部排名中数据位列第一和第二位（重复强调）。从GPT-1到GPT-2的演进中，数据获取曾是最大瓶颈。OpenAI通过挖掘Reddit平台解决此问题：筛选点赞数高且附带高质量链接的回答，间接获取了互联网上的优质数据。这一案例表明，造环境（Environment Creation）与造数据同等重要。当前趋势是利用LLM模拟复杂环境（如生物实验室运作、金融公司任务流程），生成第一版结构化数据，再叠加人类反馈进行迭代。数据创新具有民主化特征，无需深厚CS背景即可通过跨界思维（如生物学、金融学知识）贡献高质量数据方案。这种“左脚踩右脚”的数据自举模式，正成为突破高质量、可扩展数据瓶颈的核心路径。

数据合成与具身智能的瓶颈

在提升模型能力的Pipeline中，高质量数据的构建正成为核心环节。面对新闻事实难以验证的难题，研究者可以通过专业知识生成符合事实的新闻作为正样本，同时构造包含谣言信息的负样本来增强模型的鲁棒性。这种主动造数据的思路表明，通过精心设计的合成策略，原本看似不可解的数据难题可能转化为可控的工程问题。数据与环境在智能进化中占据关键地位，尤其是对于涉及物理世界的具身智能而言。

“实际上data和环境是一个很重要的这里面的一环。”

与纯计算领域不同，机器人数据收集面临巨大挑战。由于需要与现实物理世界交互，这类数据无法像文本或图像那样在计算领域批量生产，导致效率极低。因此，构建虚拟与真实环境中的数据收集体系已成为一门庞大的生意。高质量的机器人数据是研发具身智能必须跨越的难关，其稀缺性直接制约了该领域的发展速度。

从商业应用到文明边界的跃迁

尽管当前AI Agent的应用多聚焦于商业场景，但其根本价值在于推动科学与技术突破。田渊栋指出，能否治疗癌症或人类寿命的延长是根本性的差异（Fundamental Different），这些科学突破定义了文明的边界，而商业应用只是后续的适应层。目前AI Agent的能力尚处于较低水平，主要替代的是初级人类代理的工作（如提供上下文、使用工具并汇报）。虽然预测显示未来几年将有大量岗位被取代，引发对失业的担忧，但生产力与技术发展才是提升社会福利的根本动力。

“如果你从一个文明的角度来讲，很多根本的东西实际上是来源于科学和技术的突破。”

学术界朋友推崇AI for Science，因为解决比“识别猫狗”更困难的科学问题，决定了智能的上限。然而，目前AI在推动基础科学发展方面仍面临困难，这被视为下一个爆发点。若能在此领域取得突破，将对全人类有益。具身智能作为连接数字与物理世界的桥梁，其数据获取的低效性使得它成为当前研发中的关键瓶颈。

费米能级与宏大愿景的互动

彭天翼引入物理学中的“费米能级”概念来比喻人机协作的临界点：当AI能力超过人类工作水平时，处于该能级以下的人将被覆盖；而高于此阈值的人，其能力将呈指数上升。这并非鼓励竞争，而是强调人机协作（Human-AI Collaboration）的重要性——人类应专注于提出宏大愿景和新想法，以此激发AI的实现能力。

“如果人愿意这么想……现在我们可能到了这一步了，就是人在只要这么想，因为AI会帮你实现那个事情。”

田渊栋的宏大愿景包含两方面：一是可解释性AI，即理解神经网络机理以设计下一代更强模型；二是推动人类成为星际文明。从人择原理看，地球环境脆弱且短暂（如陨石撞击或太阳变亮），早期走出摇篮、在银河系开枝散叶能极大降低文明毁灭的概率。这种看似科幻的愿景，实则是利用AI作为信号接收器，通过人类的“唯心”构想驱动技术向长远目标演进。

学术界的角色重构与公共空间价值

学术界在AI时代面临节奏滞后的困境：传统研究以年为单位，而大模型每几个月更新一次。尽管存在计算资源不足和范式转换的阻力（理论难以指导实践），学术界仍具有不可替代的价值。首先，作为非营利教育机构，学术圈能提供比工业界更开放的讨论空间，不受商业机密或公关限制。

“学术界本身还是一个non-profit……意味着在学术界有很多东西你是是可以想可以说的。”

其次，学术界正从“提供idea”转向分析业界实践。虽然这种角色倒挂让部分学者感到悲观，但学术界可通过建立如Agent Lab、Digital Twin Lab等公共空间，承担公众意识传播与教育的责任。此外，针对数据隐私问题，学术界可借鉴Allen Institute模式，致力于构建和公开公共数据集（Public Data）。通过重新定义“造数据”为科学问题，学术界能在新的研究范式中保持相关性并做出贡献。

田渊栋的新书构想：从科幻悬疑到社会思想实验

在对话尾声，主持人询问田渊栋关于第二本书的计划。他透露新书名为《优夜星火》，虽然第一本完成于2021年3月，但大模型技术的爆发让许多旧想法得以实现或面临重构。与第一本偏向悬疑和科幻故事不同，第二本书更倾向于思想实验。其核心逻辑设定在一个“所思即所得”的社会中，探讨在这种技术背景下人的价值如何定义以及社会经济体系的变化。尽管主题涉及外星入侵，但重点在于对社会未来发展的探索，同时保留悬疑元素以维持可读性。目前田渊栋仍在忙碌中抽空完善这一构思，旨在通过故事呈现对技术介入人类生活后的深层思考。

彭天翼的视角：将AI视为“会犯错的初级员工”进行组织

针对研究是否汲取心理学和神经科学灵感的问题，彭天翼指出，越来越多的观点倾向于将大语言模型当作一个人来对待。他在供应链领域的研究中引入AI Agent，发现其决策过程更像人类而非传统算法：它会表现出直觉甚至犯错。因此，他提出下一个挑战是如何组织这些AI Agent。他认为应将AI视为一个经常犯错的初级员工（Junior），其独特优势在于可以“复制粘贴”。这种心智模型促使研究者思考如何像管理人类团队一样，通过协作机制来弥补AI的错误并发挥其效率。这一观点也呼应了Open Call等框架在协调多Agent协作中的直觉。

田渊栋的洞察：隐空间推理与人类认知的“顿悟”类比

田渊栋从物理和认知角度分享了灵感来源。他提到之前的隐空间推理（Latent Space Reasoning）工作，认为模型内部的表示可能类似量子叠加态。不同的思维链或思维方式在隐向量中以叠加形式存在，这种并行搜索机制显著提高了推理效率。此外，他通过观察女儿的成长发现，人类学习并非单纯的数据灌输，而是随着大脑发育产生表征上的突变。就像孩子从死记硬背到突然理解复杂概念一样，AI预训练也经历了类似过程。他举例指出，即使混用中英文输入，孩子也能自动分辨语境，这暗示了表征适应世界发展而非单纯记忆的重要性。这种从记忆到顿悟的跃迁，为理解AI内部机制提供了心理学参照。

Q&A环节：人机沟通本质与专用小模型之争

在观众提问中，关于AI是否替代人类的问题引发热议。一位提问者指出人际沟通中55%是肢体语言，38%是语调，仅7%是内容。田渊栋认为未来可能出现Agent对Agent的直接对接（如水管工通过AI接单），重复性劳动将被取代，但创造性、需协商的任务仍需人类。彭天翼补充称，随着能力增强，信任度会自然上升（如无人车），且人类在饭局等非确定性场景中的社交连接与创意碰撞是AI难以替代的护城河。另一位观众质疑通用大模型在垂直领域（如化学）的数据可靠性，主张使用传感器获取物理数据并开发专用小模型。彭天翼回应称AI发展经历了从单任务小模型到通用模型的周期，虽然专用领域数据确实需要物理传感器校准，但当前趋势仍是构建基础模型以容纳各领域知识。

大模型的通用表征能力与科学预测

田渊栋指出，虽然图神经网络（GNN）在分子性质预测等特定科学任务中已有成效——例如将原子视为节点、化学键作为边来预测毒性或导电性，但大语言模型（LLM）的核心优势在于其对meta level knowledge和commonsense的建模能力。通过海量数据训练，LLM能够学到一种通用的表征结构，这种结构具有跨学科的相似性。例如，化学中的同分异构体计算涉及群论逻辑，而分子结构又与物理电子云杂化相关。这些跨领域的共通数学和逻辑结构在训练过程中涌现，使得模型无需针对每个垂直领域单独微调即可具备初步能力。

“它学到了一个很好的表征，这个表征其实可以用在很多不同的地方……它们有很多结构是有相似性，它们之间可以传递的。”

这种通用性的提升引发了行业对垂直领域小模型未来的担忧。由于大模型能捕捉到深层的共通结构，其下一版本迭代可能在各个垂直领域的能力上全面超越当前的小模型。这意味着大模型存在“吞噬一切”的可能性，因为其在数学结构上学习到的通用规律能够直接服务于不同领域，从而在成本与效果之间形成巨大优势。尽管目前LLM在处理极深奥的专业问题时可能仍显不足，但在浅层或初步的结构理解上已展现出强大的泛化潜力。

重新定义LLM：从预测工具到“学生”角色

彭天翼补充了一个关于同分异构体的有趣案例，指出尽管他有机化学基础薄弱，但通过算法和举证角度解题让他感受到学科间的紧密联系。他强调，AI在科学领域的真正价值不应仅局限于替代人类已掌握的知识，而应聚焦于解决人类目前不会的根本性问题。为此，他提出应将LLM视为一个“本科生”学生，而非单纯的下一个token预测器。这个“学生”不需要专门训练物理或生物分支，而是通过广泛学习掌握通用工具的使用能力。

在这种认知下，LLM的核心技能转变为如何调用传感器（sensor）收集数据、编写程序进行分析。例如，LLM可以辅助训练另一个专门用于预测传感器数据的模型。这种视角的转变意味着Context Management（上下文管理）应发生在用户自己的设备上。LLM作为接口，根据需求在本地搜索特定上下文或调用工具，而复杂的推理和知识检索则通过后端API完成。这种模式不仅提升了交互的灵活性，也更好地适应了端侧数据隐私保护的需求。

端侧Agent的商业模式与硬件挑战

关于On-device Vision和端侧Agent的前景，三位嘉宾认为未来将是Confidential Computing（机密计算）云端与离线端侧的混合模式。虽然目前将推理、生成和Agent逻辑完全移至端侧面临模型能力有限及能耗过高的挑战，但特定场景下的本地化处理具有巨大商业空间。例如，Liquid AI等公司的发展证明了端侧AI的潜力；而Cursor等产品展示了在本地设备上管理上下文、通过Agent调用云端资源的商业可行性。这种模式下，数据保留在用户设备中，仅将必要的工具调用请求发送至云端。

田渊栋进一步分析指出，若能将知识性内容与推理性内容分离，训练专门用于Agent调用的小型推理模型（如3B参数量的Qwen系列），则有望实现完全在手机上运行的Agent。这类模型专注于工具调用和行为决策，而将知识查询外包给云端或本地数据库。

模型/技术方向 参数量级估算 主要功能定位 部署环境建议
通用大语言模型 (LLM) >30B+ 知识存储、复杂推理、通用对话 服务器端 (Server-side)
专用Agent小模型 ~3B - 7B 工具调用、行为决策、上下文管理 端侧 (On-device)
图神经网络 (GNN) - 分子性质预测、结构化数据建模 服务器/高性能计算

尽管Apple等巨头可能介入这一领域，竞争将十分激烈。然而，隐私保护、实时响应和低延迟是端侧Agent的核心优势。通过硬件层面的机密计算（如NVIDIA、AMD提供的技术支持），可以在云端实现数据不可见的加密运算，从而在隐私安全与计算效率之间取得最佳平衡。这种混合架构被视为解决个人AI助手数据主权问题的关键路径。