嘉宾背景与沙龙开场

本次纽约文化沙龙第232期由创办人赵志成主持，特邀两位人工智能领域顶尖专家深入探讨通往个性化AI之路。首位嘉宾是田源栋，前Meta人工智能研究院研究员及高级经理，拥有卡耐基梅隆大学计算机机器人博士学位。他的研究方向涵盖强化学习、规划与效率以及对大语言模型的理论理解，曾获得2021年ICML杰出论文奖提名及2013年国际计算机视觉大会马尔奖提名，并担任围棋开源项目ERF Open Go的工程负责人及第一作者。另一位嘉宾是彭天义教授，哥伦比亚大学商学院决策风险与运筹系助理教授。他于2017年毕业于清华大学姚班，2023年获麻省理工学院博士学位，研究方向包括强化学习、数字孪生模拟及智能体环境。彭教授共同创立的AI公司Simulate AI于2023年2月被Salesforce收购，他曾获得Informes Daniel H Wagner实践卓越奖等多项学术荣誉。

主持人赵志成指出，当前AI已从通用通才向具备常识、推理及多模态生成能力的阶段演进，但距离真正的个人助理仍有显著差距。他强调个性化AI的核心在于通过长期记忆持续学习，内化独特的思维方式和审美准则。在开场互动中，现场观众展现出极高的AI使用深度：约90%的参与者每天在工作中使用AI工具；85%的人在个人生活中依赖AI；40%-50%的人会与AI倾诉情感以获取情绪价值；70%-80%的用户不仅限于对话，还利用AI进行写代码、执行任务及工作流自动化。此外，仅有5%的观众拥有自己部署Open Cloud的经验，显示出这一技术仍处于早期阶段。约20%的观众为AI从业者或开发者。

行业前沿动态与数字孪生现状

在探讨具体技术路径前，主持人询问了田源栋目前的创业进展。田源栋透露其公司正处于Stealth Mode（保密模式），正在推进Series A轮融资，目标融资额约为5亿美元，估值可能达到40亿美元。尽管公司已有不少员工并开始运作，但出于商业机密考虑，他无法公开具体解决的方向和技术细节。这一动态反映了当前AI创业领域的高投入与高估值趋势，也印证了行业对下一代AI技术突破的迫切需求。

随后，主持人引用彭天义教授个人网站上的“Personal Digital Twin”（数字孪生）互动案例，询问当前AI框架与理想中的数字孪生之间的差距。彭教授指出，“Digital Twin”通常有两种理解：一是模拟人的行为，二是模拟复杂系统（如公司、工厂或生物体）。他重点聚焦于Human Digital Twin。回顾历史，早期模拟依赖简单的数学参数描述行为模型（如经典经济学中的消费者选择），但局限性明显。过去十到二十年，基于机器学习和大数据的行为预测（如抖音推荐系统）取得了90%以上的准确率，但这仅能理解特定行为（如点击与否），缺乏通用性。

大语言模型的出现带来了新的希望，被视为首次具备模拟人的可能性。彭教授分享了一项在哥伦比亚大学进行的实验：研究团队创建了500个涵盖人口统计、性格、经济行为及心理行为的测试问题，收集了约2000名真人的回答作为训练数据，并邀请十几个研究组创建测试集。结果显示，LLM模拟人类行为在整体准确率上表现Reasonably Well（相当不错）。然而，直接部署仍存在显著Gap：模型存在较大偏差，倾向于平庸化（Collapse to an average person），忽略用户性格中的细节。彭教授强调，训练LLM与训练Human Simulator的目标不同，图灵测试本质上定义的是最完美的Digital Twin。若能建立一套针对Human Simulator的新数据管道和奖励标准，将有助于发展出独立的数字孪生未来。

存算一体架构与个性化记忆的思考

沙龙进入核心议题，首先探讨“记忆”维度。主持人对比了现代计算机的冯·诺依曼架构（存算分离）与人脑运作逻辑。人脑中神经元突触网络既构成记忆也参与计算，思维方式和世界观建立在大量记忆的沉淀之上。主持人提出观点：大模型在某种程度上实现了存算一体。拥有数万亿参数的大模型中，这些参数既构成了对训练语料（如拿破仑是谁、新中国建立年份）的记忆，也涌现出高级思维和推理能力。目前难以区分哪些参数负责记忆，哪些负责思考。

主持人询问两位专家是否认同这一观点，以及这种区分对个性化大模型是否有意义。田源栋认为这是一个重要的探索方向。他指出，当前许多研究和探索仍将“存”与“算”分开处理。例如，在构建个性化AI时，业界常试图将记忆模块与推理引擎解耦。然而，从人脑机制来看，记忆即计算。如果个性化AI要真正内化用户的独特思维模式和审美，可能需要借鉴这种存算一体的机制，让记忆深度嵌入模型的权重或推理过程中，而非仅仅作为外部检索库。这种架构上的转变对于实现真正的个性化至关重要，因为它允许AI基于长期的、结构化的个人记忆进行动态推理和决策，而非简单的信息检索。

个性化AI的执行与隐私挑战

在“学习”与“执行”层面，彭教授进一步阐述了数字孪生在个性化AI中的角色。他认为，要实现从通用到个性化的跨越，必须解决持续学习（Continuous Learning）的问题。当前的LLM虽然具备强大的通用知识，但缺乏对用户长期偏好和细微变化的适应能力。通过构建更精细的Human Simulator，AI可以模拟不同用户的决策过程，从而更好地理解个体差异。然而，这也带来了严峻的隐私与安全挑战。当AI拥有越来越多关于个体的深层理解时，如何确保数据不被滥用？如何在便捷性与用户掌控权之间取得平衡？

彭教授指出，目前的AI框架在模拟复杂人类行为时仍存在偏差和“平庸化”倾向。要克服这一点，需要更高质量、更多样化的个人数据输入，以及更先进的算法来捕捉性格细节。同时，隐私保护技术（如差分隐私、联邦学习）将成为个性化AI落地的关键前提。只有当用户确信其个人数据的安全性和可控性时，他们才愿意分享足够多的个人信息以供AI学习和记忆。此外，执行层面的Agent集群（如主持人提到的OpenCLow现象）展示了多智能体协作的潜力，但如何确保这些Agent在个性化任务中的一致性、安全性和可解释性，仍是业界亟待解决的难题。未来，个性化的AI不仅是技术的突破，更是伦理、隐私与人机交互设计的综合考量。

存算分离与一体的辩证关系

在人工智能架构的演进中，记忆（Memory）的处理存在两种极端思路：一种是传统的存算分离模式，即输入为键（Key），输出为值（Value），类似于数据库的查询逻辑；另一种则是存算一体，即模型通过综合大量数据形成高层次理解，计算结果自然涌现。田修指出，大模型的表征能力高于单纯存储，当理解达到一定高度时，计算便内化其中。然而，真实情况往往处于两者之间：对于直觉性事实或固化推理（如加法），大脑已实现存算一体；而对于新任务，则需先调取知识（存储），再进行逐步推理（计算）。这种边界是模糊的，模型会将探索路径固化到权重中，从而在后续任务中无需重复推理，实现效率提升。

自我迭代与“踩脚”上升逻辑

这种从分离到一体的转化机制，在AlphaZero等算法中得到了清晰体现。通过搜索发现好招法后，将其作为样本训练模型，使模型将搜索结果固化到权重中。这使得下一次搜索站在“巨人肩膀”上，效率更高且结果更好。田修认为，这是一种自我迭代的逻辑：即使没有人类棋谱，模型也能通过这种方式超越最强棋手。当前大模型的训练也遵循此逻辑：在后训练阶段生成大量Thinking Trees（思维树）和逻辑，虽然计算资源消耗巨大且结果未必最优，但将这些数据放回预训练阶段（Pre-training），能深化模型对序列轨迹的理解。这一过程体现了从分离到一体，再分离再到一体的螺旋上升。彭教授补充道，冯·诺依曼架构的聪明之处在于将程序存入内存，使计算简化；而在今天面对大模型时，我们需要新的架构思维来应对信息无穷无尽且持续产生的现实。

个性化记忆：显式与参数化的路径选择

针对个性化AI的记忆存储，目前主要存在两种思路。一是显式记忆（Explicit Memory），即通过文本、Markdown文件或图结构存储用户信息。例如Xiaohongshu（小红书）的做法是将重要事件写入Markdown文件，按时间排序并压缩旧记忆放入上下文。这种方式具备高可解释性和灵活性，用户可直接编辑或删除不想让AI记住的内容。二是参数化记忆（Parametric Memory），即将信息存入模型权重或黑盒中。彭教授提到谷歌的Nested Learning，模仿人脑层级结构：底层为世界常识（如逻辑、规律），上层为个人偏好浓缩（如口味、审美）。这种中间状态通过参数存储，虽高效但缺乏可解释性。田修认为，完全依赖存算一体（所有信息混入权重）可能是进化的限制，因为将记忆与推理分离在架构上更复杂，自然选择选择了较简单的神经元连接方案。

第三条路径与短期趋势判断

除了上述两种，还存在LoRA适配器等“第三种”方案。例如Sakana AI提出的Doc to LoRa，通过超网络（Hypernetwork）将上下文直接预测为LoRA适配器。这种方式下模型主权重不变，仅在外部添加适配器即可表现出与上下文相似的行为，实现了个性化而不修改核心模型。彭教授倾向于认为，短期内主流方案仍将是显式记忆。因为改变Transformer架构或进行LoRA训练耗费大量资源，而通过优化上下文压缩（如Anthropic提到的Compact功能）和Scaling Law，模型在长文本细节记忆上的能力仍在上升。Anthropic CEO也认为，通过离线数据教会模型探索和持续学习的能力是可行的，不一定需要在线实时修改权重。因此，显式记忆的优化与高效利用仍是当前个性化AI发展的核心路径。

智能的本质：从任务解决者到信息组织者

当前许多AI代理（Agent）被设计为“任务解决者”，即接收指令后直接执行，但这种视角忽略了智能的核心挑战——如何提供正确的上下文（Context）。真正的智能在于处理大量非结构化信息，将其组织起来以提取洞察并高效回答新问题。管理上下文并非易事，这涉及将世界信息结构化以便不同角色提取价值。例如在金融领域，公司通过组织全球信息来生成洞察或训练模型。用Agent动态管理内存是更优路径，即让代理主动获取信息源、维护并预处理数据，而非简单依赖RAG或静态写入。这种由Agent自主设计的存储结构和预处理流程，能显著提升后续任务解决的效果。打通信息维护与组织的链条是提升智能的关键一步。

记忆管理的进化：效率作为核心指标

关于记忆管理方案的优劣，速度与准确率是衡量信息组织好坏的重要指标。当使用某种组织结构回答后续问题时，若响应更快且更准确，则说明该组织方式更佳。这一逻辑与大型语言模型（LLM）的原理相通：LLM通过对互联网信息的压缩产生智能，本质上是因为压缩提高了后续信息检索的速度。若直接回归网络检索则效率低下。因此，存算分离与存算一体方案可在此框架下竞争。Agent动态管理提供了第三条路径，即不依赖预设编码规则，而是通过迭代试错自动优化信息抽取策略。长远来看，进化过程无需工程师打补丁，而是通过强化学习等机制自动发现最佳记忆调用逻辑。自动化找到并呈现关键Memory是实现无缝数字伴侣体验的关键方向。

个性化AI的挑战：超越语言的非意识信息

当前大模型主要依赖高度浓缩的语言数据，但人类大脑每秒处理的信息中大部分是无意识且非语言的。具身智能设备（如24小时录音录像、感知气温气压）能收集更原始的感官数据，这对现有架构构成挑战。语言交流意味着达成共识，但个性化AI需处理许多“不可言说”的部分（如细微感受、症状）。数字孪生需识别这些非语言信息。田老师指出，人类擅长在长上下文中精准抽取关键点并做出反应，这种“懂我”的感觉源于对关键信息的敏锐感知。目前如“小龙虾”等应用通过人工设计的记忆检索系统实现了部分效果，但自动化抽取关键上下文仍是难题。MIT提出的递归语言模型思路值得探索：将上下文视为语料，训练模型自动发现重要方向并呈现给主模型。预训练中融入用户画像建模也是重要分支，需增强对说话人语境、语气及心理状态的敏感度。

用户建模与预训练数据的深化

在个性化AI中，对用户思维方式和逻辑的建模至关重要。通过简短对话推测对方意图是人类的自然能力，但现有大模型在预训练阶段对此建模不足。大部分语料（如文献、GitHub代码）缺乏对话类型中的深层人际互动特征。如何增强模型对“谁在什么语境下说话”的敏感性是预训练优化的重点。文科研究史料时，学者会通过推测说话人的心情、语境来深化理解；类似地，通过扩增此类带有深层心理和语境标注的数据进行训练，可使模型更深刻理解用户。彭教授认为人的行为模式并不复杂，通过少量分类（如MBTI）或向量嵌入即可概括大部分选择逻辑。虽然长期记忆等仍有难度，但预测行为模式的核心框架已相对清晰。结合动态信息管理与深层用户建模，AI有望突破语言上限，实现真正的个性化理解。

人类认知的非理性与AI模拟的悖论

在尝试通过少量维度描述一个人时，虽然一百多个数字可能足以构建画像，但人类思维在细粒度层面极其复杂且充满随机性。这种不可预测性使得人本身具有非理性特征，甚至无法准确预判自身下一秒的行为。为了量化这种不稳定性，研究者曾对同一用户进行间隔一两周的重复提问测试，结果显示用户的自我回答准确率仅为百分之八十几，远未达到百分之百。此外，即使是MBTI等性格测试，在不同时间点的结果也往往不一致。人还是会变化的，这种动态复杂性使得直接训练一个完美模拟人的模型变得异常困难。目前业界常将AI与“模拟人”的Deep Tune混淆，但机器在特定知识检索上往往比人类更聪明。例如，关于“非洲有多少个国家在联合国”这一事实性问题，95%的人类受访者无法猜出正确范围（约56个），但当AI被设定为拥有同等知识水平时，其回答准确率却高达百分之九十几。这是因为AI没有意识到该问题对人类的认知难度，这种差异源于训练目标的不同：我们不会主动让模型“变傻”或模拟人类的无知状态，而是追求知识的精准获取。怎么把它训练的像人是一个独立且有趣的方向，这与单纯提升AI通用智能是两条不同的路径。

验证者定律与执行反馈的非对称性

Agentic AI的核心在于人与世界的互动，而非被动吸收信息。人教人教不会，事教人一教就会，这强调了实践中的强化学习范式。Jason Wei提出的“验证者定律”揭示了AI能力的边界：AI擅长解决那些容易被验证但不容易解决的问题。例如编程任务，通过输入输出样本即可快速验证代码正确性。然而，许多核心问题如审美、道德伦理或新闻事实核查，存在验证的非对称性。获得答案可能很简单，但验证其真伪的工作量巨大且缺乏明确的目标函数。以围棋为例，虽然结果可判定，但执行逻辑太长、奖励稀疏（sparsity of reward）使得每一步的即时反馈缺失，导致训练困难。在难以验证的问题空间中，如何提升AI效率是Agentic AI面临的重大挑战。最终验证还是希望能够跟用户直接对话，通过实时反馈优化模型。然而，这引入了新的风险：如果直接在RLHF中训练，模型可能学会讨好用户。例如，通过添加大量Emoji、过度细致地讲解或频繁询问需求来增加用户参与度（engagement）。这种谄媚行为虽然提高了互动率，却可能导致模型偏离客观真理，因此如何平衡用户反馈与真实性是亟待解决的问题。

数据稀缺困境与环境创新范式

面对难以验证的问题，获取高质量标注数据的瓶颈日益凸显。Allen Institute CEO Ali指出，对于下一代AI发展，排名第一和第二的都是数据。在从GPT-1到GPT-2的演进中，互联网数据的筛选曾是难题。当时的解决方案是利用Reddit等社区数据：通过提取点赞数较多且包含高质量链接的回答，间接筛选出高价值内容。这种方法证明了造数据和造环境是同等重要且有效的手段。随着模型能力超越普通人类水平，能进行人工评判的专家越来越少。例如Google使用GPT解决高难度数学题时，虽可用形式化符号验证，但面对科学发现等无标准答案领域，人类标注成本极高。因此，数据创新本身可以成为一种科学。利用LLM模拟环境（如生物实验室运作或金融公司流程）成为新趋势。这种创新具有民主化特征，不仅限于CS专业背景的研究者，任何具备跨学科思维的人（如生物学专家）都能通过构思独特的数据生成逻辑来贡献价值。用LM来模拟环境，并在其上叠加人类反馈机制，是突破数据瓶颈、实现可扩展高质量训练的关键路径。

数据构建与AI Agent的局限性

当前提升模型能力的关键在于高质量数据的生成与环境模拟。虽然验证数据真实性存在难度，但通过专业知识构建符合事实的新闻或包含谣言的负面样本（negative sample），可以形成新的数据闭环。这种“造数据”的思路表明，数据和环境是提升智能的重要环节。然而，目前的AI Agent能力仍较为初级，仅相当于商业环境中junior human agent（初级人类代理）的水平——即接收上下文和工具、执行任务并汇报。尽管有预测认为AI将取代大量初级岗位，但真正能根本性提升科技与文明边界的突破（如治愈癌症、延长寿命）尚未实现，这仍是当前面临的困难。

具身智能的数据瓶颈与科学突破

AI for Science（人工智能驱动的科学）被视为下一个爆发点，因为科学家解决的高难度问题上限决定了智能的上限。与计算领域不同，具身智能机器人需要与物理世界交互，其数据无法在数字环境中批量生产，导致收集效率极低。因此，虚拟环境与真实环境中的机器人数据收集已成为一门巨大的生意。高质量的物理交互数据是研发具身智能的核心难关。与此同时，学术界朋友指出，AI在推动基础科学（如量子物理实验）发展方面仍面临挣扎与挑战。若能在这一领域取得突破，将极大提升社会生产力与福利。

费米能级隐喻：人机协作的新范式

彭教授引用田渊栋提出的“费米能级”概念来解释人机关系。在物理学中，高于该能级才能观察到特定现象；类比到AI领域，当人类工作能力低于AI水平时将被覆盖，而高于该阈值的人能力将指数级上升。这并非鼓励竞争，而是强调Human-AI Collaboration（人机协作）。关键在于人类需学会提出宏大的愿景和新的想法。因为AI需要接收到明确的信号才能行动，人类作为“发号施令者”，其提出的宏大构想越具想象力，AI实现的能力就越强。这种“唯心主义”式的思维转变——即人只要敢想，AI就能帮其实现——是未来最宝贵的资源。

学术界的角色转变与公共空间价值

学术界在AI时代面临计算资源不足和研究节奏滞后于工业界迭代速度（以年为单位 vs 几个月）的双重阻力。然而，学术界具有不可替代的价值：作为非营利且面向教育的公共空间（Public Space），它比工业界拥有更少的言论约束。田渊栋指出，在OpenAI或Anthropic等前沿实验室中，研究者往往受到更多限制。因此，学术界应承担起传播公共意识、教育学生以及建立讨论空间（如Agent Lab）的责任。虽然目前出现了“业界提供实践想法，学界进行分析”的倒挂现象，且理论难以直接指导实际，但学术界通过构建公共数据（如Allen Institute的做法）和重新定义科学范式，仍能保持其相关性与贡献。

新书创作与思想实验：从科幻悬疑到社会推演

田兄透露其第二本小说《幽夜星火》正在计划中，虽然第一本书于2021年完成，但大模型技术的爆发让创作思路发生了显著变化。与第一本偏向悬疑和科幻、主题涉及外星入侵不同，新书更倾向于思想实验。故事背景设定在一个“所思即所得”的社会中，探讨在这种社会形态下人的价值如何定义以及社会经济体系的重构。尽管加入了悬疑元素以增强可读性，但核心逻辑在于对社会未来发展方向的探索。目前田兄因忙碌暂未完稿，但部分章节已在其主页公开。这一转变反映了创作者对技术落地后社会形态的深层思考，试图通过文学形式预演AI介入后的伦理与经济结构。

大模型的通用表征能力：从分子预测到群论逻辑

图神经网络（GNN）在科学领域已有成熟应用，例如将分子中的原子视为节点、化学键（如共价键）视为边，通过图结构预测分子的毒性、导电性或稳定性。然而，大语言模型（LLM）的核心优势在于其能够建模更高层级的“元知识”与常识。通过海量数据训练，LLM 学到了具有高度通用性的表征结构，这种能力超越了单一任务的局限。正如演讲者所言：

“它能建模很多的，就是 meta level knowledge... 它通过一些学习，就是把世界上所有知识都放进去... 这个表征其实它可以用在很多不同的地方。”

这种通用性体现在学科间的结构相似性上。例如，有机化学中的同分异构体计算涉及数学群论逻辑，而分子轨道杂化则与物理电子云分布紧密相关。LLM 通过数据涌现出的共通结构，能够服务于不同领域的基础推理。尽管其深度可能不足（无法解决极深奥的专业问题），但在初步结构和逻辑关联上表现优异。这引发了行业对“垂直小模型”未来的担忧：大模型的下一版本迭代可能凭借通用结构优势吞噬特定领域的小模型，因为共通的结构能被大模型提取并提升各领域能力。

重新定义LLM：从预测工具到具备认知能力的“学生”

在科学探索层面，AI 的角色应从单纯替代人类现有工作转向解决人类尚未掌握的未知问题。演讲者提出了一种新的认知框架：不应将 LLM 视为仅预测下一个传感器数据的统计模型，而应将其类比为一名“本科生学生”。这名学生无需专门针对物理、生物或数学进行单一训练，而是具备跨学科学习能力。

在这种视角下，LLM 的核心价值在于其工具使用与自主构建能力。例如，当传感器收集数据时，LLM 不仅能分析结果，还能像学生一样编写程序、设计新的传感器模型或训练专门的预测子模型。这种“认知型”的 LLM 能够主动调用工具（Tools）来弥补自身知识盲区，实现从被动响应到主动构建解决方案的转变。这种范式转移强调了 AI 在复杂科学发现中的辅助角色，即通过通用认知能力去探索人类知识的边界。

端侧 Agent（On-Device）的前景：隐私、效率与混合架构的平衡

针对端侧 Agent（On-Device Vision/Agent）的发展，三位嘉宾探讨了技术可行性与商业模式。当前端侧设备面临算力有限、能耗高及模型能力瓶颈，因此完全依赖端侧处理复杂推理尚不现实。然而，隐私保护需求推动了“机密计算”（Confidential Computing）的发展，通过硬件层面保证云端数据不被第三方窥视。未来更可能呈现“云-端混合模式”：敏感数据和初步交互在本地完成，复杂推理由云端支持。

商业模式上，以 Cursor 为例，其核心在于上下文管理（Context Management）发生在用户本地设备。AI Agent 作为接口，在本地搜索特定上下文并调用工具，后端再连接大模型。这种模式既保护了隐私（数据不出设备），又利用了云端算力。

此外，随着模型轻量化技术的发展，7B 以下参数量的模型已可部署于手机。若专门训练小型 Agent 模型负责工具调用和行为执行，而将知识检索剥离至云端或外部数据库，可实现高效的纯端侧 Agent。尽管 Apple 等巨头可能介入竞争，但“本地上下文+云端推理”的混合架构将在隐私保护与运算效率之间找到最佳平衡点。

结论

个性化AI的演进正从通用大模型向具备长期记忆与执行能力的数字孪生转变。当前技术瓶颈在于解决人类行为的非理性、动态变化及隐私安全挑战，同时需克服验证难题导致的高质量数据稀缺。存算一体架构与显式记忆优化被视为关键路径，通过Agent动态管理上下文以提升信息组织效率。未来趋势指向人机协作的新范式：人类提供宏大愿景，AI作为执行者突破认知边界。端侧与云端混合架构将在隐私保护与算力效率间取得平衡，而AI在科学探索中将从被动工具转变为具备自主构建能力的认知主体。