演讲者背景与核心议题
本次演讲由 Meta 研究科学家总监田元博士（Dr. Yuan Tian）主讲，他目前领导着 Llama 推理团队，并在 Fair 工作十年后加入 Meta Gen 团队。田元博士指出，尽管大语言模型（LLM）应用广泛，但在推理与规划领域仍存在显著短板。他提到：“语言模型在规划问题上表现不佳，尤其是涉及复杂约束的场景。”为了阐明这一观点，他选取了旅行规划（Travel Planning）作为典型案例，该任务要求模型根据用户请求、预算限制及常识约束生成完整的行程轨迹。
田元博士强调，虽然人们通常认为 LLM 能收集信息并生成计划，但实际效果远未达标。他指出：“我们团队去年发表的一篇论文显示，即使是当时的最佳模型 GPT-4 Turbo，在旅行规划任务上的最终通过率也仅为 0.6%。”这意味着模型生成的轨迹几乎完全无法同时满足人类和常识的所有约束条件。即便在允许模型访问真实工具（Ground Truth Tools）且无需其提取背景信息的情况下，最终通过率也仅提升至 4.4%，这依然是一个极低的数值，揭示了 LLM 在纯端到端规划任务中的根本性缺陷。
主流模型在复杂规划中的性能衰减
随着模型规模的扩大，许多研究者寄希望于通过增加数据量和算力来突破瓶颈，但实验数据表明，随着问题复杂度的增加，主流大模型的规划性能呈现断崖式下跌。田元博士展示了多个基准测试的结果，证明这种衰减并非个别现象，而是普遍存在于当前最先进的模型中。例如，OpenAI 的 o1-preview 模型虽然相比早期模型有所进步，但在复杂规划任务上的最终通过率仅为 15%，远未达到理想水平。更严重的是，当问题规模扩大时，性能往往直接归零。
“当问题变得复杂时，你仍然会看到问题存在，这并非模型通过测试时计算量就能解决的。”
为了量化这一现象，下表汇总了不同模型在旅行规划及相关基准测试中的表现数据：
| 模型/基准 | 测试场景/条件 | 最终通过率 (Final Pass Rate) | 备注 |
|---|---|---|---|
| GPT-4 Turbo | 旅行规划（无工具辅助） | 0.6% | 早期最佳模型表现 |
| GPT-4 Turbo | 旅行规划（有工具辅助） | 4.4% | 提供背景信息，仅要求规划 |
| o1-preview | 旅行规划 | 15% | 性能略有提升，但仍不理想 |
| Gemini 1.5 | 规划任务（规模扩大） | 0% | 性能随规模增加降至零 |
| o1-preview | PlanBench (ASU) | 表现不佳 | 在更复杂的计划中失效 |
| DS 模型 | GSM Infinite 基准 | 性能衰减 | 所有 SOTA 模型均出现类似衰减 |
田元博士指出，Gemini 1.5 在规模扩大时性能降至零，以及 ASU 的 PlanBench 基准测试中 o1-preview 的失败，都证实了单纯依靠模型内部参数扩展无法解决复杂的符号规划问题。此外，GSM Infinite 论文也显示，包括 DS 模型在内的所有 SOTA 模型在面对复杂问题时均出现性能衰减，这进一步支持了需要新框架的结论。
解决方案探索：从扩展定律到神经符号统一
面对上述挑战，田元博士提出了三种潜在的解决路径，并重点探讨了后两种更具可行性的方向。第一种路径是传统的缩放定律（Scaling Laws），即通过投入更多的数据和计算资源来训练模型。然而，这种方法成本高昂，且在推理规划领域的效果尚不明确。第二种路径是测试时扩展（Test-time Scaling），即利用 LLM 结合外部工具（Tool Use）或思维链（Chain of Thought, CoT）来增强推理能力。田元博士表示：“我们希望通过使用工具和思维链，实现比单独使用 LLM 更好的解决方案。”这种方法允许模型在运行时调用外部资源，从而弥补内部知识的不足。
第三种路径则是田元博士团队正在进行的理论探索：神经与符号决策的统一框架。他简要介绍了近期的一项理论研究，旨在将符号结构从神经网络表示中统一起来。研究发现，在使用梯度下降训练神经网络的过程中，符号结构会自然涌现。这种统一框架有望在未来成为主流，尽管目前仍处于初步阶段。田元博士总结道：“我们试图将符号结构与神经网络表示在同一框架下统一，虽然这很基础，但希望未来能成为主流。”这一方向不仅关注性能提升，更致力于从理论上理解模型如何处理符号逻辑，为下一代 AI 系统奠定坚实基础。
神经符号决策框架：旅行规划案例与工具调用
在构建统一的神经与符号决策框架时，旅行规划问题被选为典型示例。传统的做法是让大语言模型直接回答用户请求，但该方法存在不确定性。新的流程首先利用大模型将用户的自然语言请求翻译为符号形式，以准确捕捉用户意图。随后，结合来自外部世界的航班和酒店信息，将这些符号化需求与数据整合为一个大型优化问题。为了解决这一问题，系统采用混合整数规划（Mixer Interlinear programming）这一确定性软件工具进行求解。
"you start from the user request and you first use l model to translate that into a symbolic form"
该流程的核心优势在于能够保证解的正确性，同时保持较高的处理速度。通过整个管道处理，用户可以在两到三秒内获得经过验证的正确答案。这种速度在考虑到模型翻译准确性的前提下是完全可以接受的。演示结果显示，人类标注员对结果持非常积极的态度。此外，为了提升交互质量，系统还设计了让代理主动澄清缺失细节的机制，通过多轮对话确保对需求的理解无误，这直接推动了后续关于多轮对话构建的研究工作。
代理宪法与多轮对话评估标准
为了实现代理与人类更有效的互动，研究团队提出了代理宪法（Agent Constitution）的概念。代理的评估基于一系列标准，这些标准分为客观和主观两类。客观标准包括代理最终给出的答案是否准确，以及代理在提出解决方案之前，是否高效地询问了所有必要的问题。主观标准则涉及代理的主动性，即代理是否针对特定用户提出了正确的问题，以及其回答的可信度。
为了优化代理在这些标准上的表现，团队采用了直觉DPO（Direct Preference Optimization）和拒绝采样（Reject Sampling）两种训练方式。实验表明，经过这种训练后的模型在多轮访问（multiple access）场景下的表现，显著优于未经过此类训练的原始70B模型。这种训练方法不仅提升了代理的准确性，还增强了其在复杂交互中的主动澄清能力，从而构建出更加智能和可靠的决策代理。
搜索增强模型：从A*轨迹构建思维链
在解决复杂规划问题时，研究团队引入了思维链（Chain of Thoughts, CoT）的构建方法，具体体现在论文《A Search forer》中。该方法利用现有符号求解器的执行轨迹来构建思维链。以迷宫导航为例，目标是找到起点到终点的最短路径。传统的符号搜索算法（如A算法）会维护一个优先表，不断探索下一个状态，直到找到目标路径，并保证最优轨迹*。
"we construct the trace by basically like a dump all the AAR search procedure"
具体构建过程如下：首先输入问题描述的提示词，然后转储A*搜索的全过程作为轨迹。每当A算法在搜索空间中创建新节点时，就在轨迹中添加一个创建（crate）标记；每当关闭一个节点时，添加一个关闭（close）标记。最后，当找到目标时，输出包含实际最优轨迹的计划（plan）。这种搜索增强模型（Search Augmented Model）*与仅输出最终解决方案的模型不同，它显式地包含了搜索过程的中间步骤，从而提供了更丰富的推理依据。
效率对比与微调优化
搜索增强模型在数据效率和参数效率上展现出显著优势。实验数据显示，如果使用仅输出解决方案的模型，需要约100万样本才能达到接近100%的准确率。相比之下，使用搜索增强模型，仅需1/10的数据量和1/10的参数规模，即可达到相似的性能水平。这种样本效率和参数效率的提升，使得模型在处理如推箱子（Sokoban）等需要精细规划（如避免箱子被卡死需回溯）的任务时更加高效。
| 模型类型 | 所需样本量 | 参数规模 | 准确率表现 | 效率评价 |
|---|---|---|---|---|
| 仅解决方案模型 (Solution Only) | ~1,000,000 | 基准 (1x) | ~100% | 低 (高数据/参数需求) |
| 搜索增强模型 (Search Augmented) | ~100,000 | 基准 (0.1x) | ~100% | 高 (10倍数据/参数节省) |
在此基础上，研究团队进一步对搜索增强模型进行微调（Fine-tuning）。通过模仿学习（Imitation Learning）训练后，模型能够生成更短的轨迹，同时依然保证输出最优计划。这种优化不仅减少了计算开销，还提高了模型的实用性，证明了结合符号搜索轨迹的神经模型在复杂规划任务中的巨大潜力。
搜索增强训练缩短推理轨迹并提升性能
该研究针对目标明确但路径未知的强化学习任务，采用搜索形式让智能体探索解决方案。通过引入直觉引导的强化学习（PO man版本），模型最终生成的搜索轨迹比原始A搜索更短。数值分析显示，缩减轨迹与原始A轨迹的比率持续上升，证实了轨迹缩短的有效性。更关键的是，微调后的性能也随之提升，达到最优解的比例在每次迭代中逐渐增加**。经过三轮迭代，仅含45个参数的最小模型，其表现已能与拥有700个参数且使用更大数据集的更大规模模型相媲美。这一发现表明，在推理数据上进行测试时和训练时均存在缩放定律（scaling law），能显著改善推理任务性能。
"this is actually very interesting and uh I believe that this is one of the very few papers at the beginning to show there's actually scen law uh on test time and also on the training on the uh on the like a reasoning data that can substantially improve uh the performance of the reading tasks"
泛化能力与潜在空间搜索的探索
在泛化性方面，虽然当前论文主要基于迷宫（maze）环境训练，泛化性有限，但后续研究展示了向不同尺寸迷宫及数学问题（math problems）泛化的潜力。由于搜索原理本质相同，研究者探讨了将搜索轨迹转化为具有语义的语言表示，或转换为潜在令牌（latent tokens）的可能性。这种潜在表示可能更高效，允许在潜在空间中进行降维搜索。对于具身智能（Embodied AI），研究者提出可将环境状态渲染为图像，将搜索轨迹作为视觉通道堆叠，从而简化规划过程，尽管这带来了长上下文处理的挑战，但可通过VQV等技术进行压缩。
"we can also like try this ideas to for example Mass problems and it can also generalize and give you better Solutions on mass problems"
Dual-Forer模型：双模式切换与深度思考机制
后续提出的Dual-Forer论文旨在缩短训练用的轨迹长度，通过随机丢弃令牌（如所有代价或整个轨迹），混合训练纯解决方案数据和搜索增强数据。该模型具备自动在快速模式（直接给出答案）和慢速模式（链式思维后给出答案）间切换的能力。切换机制极为简单：仅通过固定第一个生成的令牌为“搜索开始令牌”或“计划令牌”，模型即可表现出截然不同的行为模式。有趣的是，这种双模式模型在各自专用模式下均优于单一模式模型，且行为类似于DeepSeek的同步机制，通过特定符号结构（如空格或换行）控制思考序列的长度，这是模型从训练数据结构中习得的副作用。
| 模型特性/模式 | 快速模式 (Fast Mode) | 慢速模式 (Slow Mode) | Dual-Forer 双模式模型 |
|---|---|---|---|
| 输出形式 | 直接给出答案 | 链式思维 (CoT) + 答案 | 自动切换上述两种 |
| 切换机制 | 固定首个令牌为搜索/计划令牌 | 固定首个令牌为搜索/计划令牌 | 基于首个令牌动态决定 |
| 性能表现 | 基准性能 | 基准性能 | 优于单一快速或慢速专用模型 |
| 训练数据 | 纯解决方案数据 | 搜索增强数据 | 混合解决方案与搜索增强数据 |
"you can you can find you can directly you can have a model that can do both at the same time and at the same time it actually work better for dedicated models on either modes"
离散Token微调引发的序列长度异常缩短
在针对基础模型（非Mass特定模型）进行的微调实验中，研究人员观察到一种令人惊讶的行为模式：当随机丢弃部分句子并用于微调时，生成的序列长度显著缩短，但答案依然正确。这种在相同时间内完成推理且保持合理性的现象，揭示了模型在Token空间处理上的潜在特性。尽管基础模型的性能提升幅度有限，但双重形式训练（Dual Formal Training）确实带来了性能的小幅增长。这一发现为后续探索更高效的推理空间奠定了基础，表明缩短推理路径并不必然损害准确性，反而可能是一种更优的优化方向。
从离散到连续：Coconut论文的核心构想
为了突破离散Token的限制，研究团队提出了Coconut框架，旨在用连续向量（Continuous Vectors）替代传统的离散Token进行思维链（Chain of Thought）构建。该方法的训练过程采用课程学习（Curriculum Learning）策略：从Stage 0开始，逐步将每一步的离散句子替换为连续向量，直到收敛后再进入下一阶段，直至完成所有阶段的训练。这种渐进式的替换机制使得模型能够平滑地过渡到连续空间。传统思维链依赖离散Token作为中间思考阶段，而连续思维链则试图通过连续表示来捕捉更丰富的语义信息，从而可能展现出传统方法无法预期的新特性，如更短的推理链条和更高的效率。
合成图推理任务中的性能对比与案例
在合成数据测试中，研究构建了一个包含起始节点和结束节点的有向图，任务是通过推理判断是否存在从起点到终点的路径。例如，判断节点"Alex"是否连接到"Grumpus"。传统思维链在面对复杂图结构时，容易在早期陷入局部最优解（Local Minima），导致错误地假设存在一条通往错误终点的路径，甚至幻觉出并不存在的边。相比之下，连续思维链模型在初期可能给出较短的路径，但随着推理步骤增加，它能突然识别出正确的两跳路径。这种差异表明，连续表示能够更准确地评估节点间的连通性，避免早期错误导致的连锁反应。
连续空间中的隐式价值函数与搜索效率
深入分析连续思维链的内部机制发现，模型在每一步的Softmax输出中隐式编码了价值函数。例如，对于死胡同节点，其对应的概率值极低，而通向有效路径的节点则具有高概率。这种机制使得模型无需进行传统的广度优先搜索（BFS），而是通过连续向量的概率分布直接评估所有可能路径。当模型生成连续向量后，可以通过解码预测下一步节点，其概率分布直接反映了该节点通向最终目标的可能性。连续表示实际上编码了所有可能的路径，使得搜索过程能够高效地遍历不同分支，直到命中正确答案。这种隐式的并行搜索能力是连续思维链相比离散方法的一大优势，它允许模型在连续空间中同时评估多条路径，从而提高了推理的准确性和效率。
连续空间中的多跳搜索与概率解码机制
在连续空间中，模型不再进行离散的分支剪枝，而是让多种可能性以叠加态的形式共存，直到找到正确路径才进行解码。这种机制通过特定的 Tokenizer 将输入分解，并在最后两层计算概率分布。当模型消耗掉两个连续通道的“思维”以及结束符（EOT）后，它通过插入可能的结果并检查概率来预测下一个 token。如果观察到两个 's' 符号，意味着模型执行了两跳搜索，此时概率涵盖了所有可能的结果。这种设计并非偶然，而是因为在训练过程中，每个 's' 被明确设计为代表一次跳跃（Hop）。这种结构化的训练方式使得模型能够自动学习到路径的连通性，而非仅仅依赖离散的 token 链。
隐式价值函数与量子叠加态的理论解释
研究人员推测，这种连续空间中的表现可能编码了某种隐式的价值函数（Value Function），尽管目前尚不清楚其具体来源。一种可能的解释是，潜在空间编码了图的叠加态结构，类似于量子系统中的状态。在量子力学中，离散化相当于测量，而如果不进行测量，仅利用叠加态进行计算，系统可以同时包含所有可能的路径。一旦到达目的地，再进行解码，这种非测量性的计算可能比离散的 token 思维链更高效。虽然目前缺乏确凿证据，但这种量子类比为理解模型如何在连续空间中处理复杂路径提供了新的视角，暗示模型可能通过保持状态的叠加来避免早期错误路径的锁定。
合成数据与真实基准的性能对比分析
在合成数据集 Graphs QA 上，该方法展现出显著优势。随着思维链长度的增加，模型性能持续提升，而传统的离散思维链（CoT）则容易出现错误路径和幻觉。然而，在真实数据集 GSM8K 上，由于使用了连续源（Continuous Source），虽然 token 数量较少，但准确率略低于标准的离散 CoT，不过仍优于所有非思维链方法。相比之下，在 Cross QA 等任务中，离散 CoT 因大量幻觉和死胡同而表现糟糕，而连续方法则表现良好。尽管该方法在合成数据上表现优异，但仍存在局限性，例如 Latent tokens 缺乏可解释性，且对真实数据的泛化能力有待提升。后续研究如 Token-Assorted CoT 正在尝试混合连续与离散 token 以优化训练效果。
| 数据集/任务类型 | 方法对比 | 性能表现描述 | 关键观察点 |
|---|---|---|---|
| Graphs QA (合成) | 连续思维链 vs 离散 CoT | 连续方法随思维长度增加性能提升，离散 CoT 出现错误路径 | 连续方法在图连通性判断上优势明显 |
| GSM8K (真实) | 连续思维链 vs 标准 CoT | 连续方法准确率略低于标准 CoT，但优于非思维链方法 | 连续源导致 token 数减少，精度轻微下降 |
| Cross QA (真实) | 连续思维链 vs 离散 CoT | 离散 CoT 因幻觉和死胡同表现差，连续方法表现良好 | 离散方法易陷入局部最优或幻觉 |
“Basically if you have two SS means that you actually do a two hop search then this probability actually contain all the possible outcomes.”
“We don't know yet it look like it's actually incode a value function but uh it's the value function yeah it's interesting.”
“Our approach is getting very well it's doing things very well okay so of course there's a there's a a lot of there's some weakness of this paper so first of all the L tokens are not interpretable.”
基于VQE的CT压缩与性能提升
演讲者介绍了一种通过变分量子编码器（VQE）将连续轨迹（Continuous Trajectories, CT）压缩为潜在离散标记（latent discrete tokens）的方法。这一过程首先将CT切分为多个块（chunks），随后利用编码器将每个块映射为潜在向量，并用这些潜在标记替换原始的CT标记。这种序列压缩策略不仅缩短了输入长度，还意外地提升了模型性能。实验结果显示，该方法在多个Mass问题上优于直接使用CT的方法，绝对性能提升约为4%至5%。值得注意的是，这些结果基于基础模型（base models），若进行微调（fine-tuning），性能预期会更高。
"with this shorter sequence and also the sequence that contain latent tokens uh our approach actually give you better performance uh than other approaches including CT"
下表展示了不同模型在压缩后的CT长度及性能对比数据：
| 模型类型 | 原始CT长度 (平均) | 压缩后CT长度 (平均) | 长度下降比例 | 性能提升 (绝对值) |
|---|---|---|---|---|
| 基础模型 (Base Models) | 未提供具体数值 | 未提供具体数值 | ~17% | 4% - 5% |
自回归替换训练策略
为了训练这种混合标记序列，演讲者提出了一种简单但高效的自回归替换（autoregressive replacement）训练策略。该方法并非一次性将所有CT块替换为潜在标记，而是随机选择CT中的某个位置，将该位置之后的所有CT块替换为潜在标记，而该位置之前的部分保持为文本标记。这种混合策略（mixture strategy）结合了直接替换和逐步替换的优点，既避免了直接全部替换导致的模型适应困难，又克服了逐块替换带来的训练缓慢问题。
实验对比表明，混合策略在训练效率和最终性能上均优于朴素替换方案。朴素替换（naive replacement）虽然简单，但模型难以快速适应；而逐个替换（coconut replace）虽然稳定，但训练速度过慢。混合策略通过平衡这两者，实现了最佳的性能表现，并很好地融入了现有的自回归训练流水线中。
"our mixture uh strategy is actually very efficient uh and it's very it also leads you the best performance"
符号结构与神经网络的统一趋势
演讲的第二部分探讨了符号结构（symbolic structures）与神经网络结构（neural network structures）的统一可能性。传统观点认为两者是互斥的，但近期研究表明，符号结构可能从深度学习训练中涌现。通过分析深度模型的解，研究者发现其内部包含清晰的符号结构，这支持了“符号与神经决策统一框架”的标题主张。这一发现挑战了关于大语言模型（LLM）如何表示知识的两种主流观点：一是参数规模驱动论，认为随着参数增加，模型会涌现出各种能力；二是检索记忆论，认为模型仅是在机械地检索训练数据。
"it's possible that you actually can see symbolic structures emerged from the deep learning trainings"
苹果公司的最新研究为“检索记忆论”提供了证据：当在阅读任务提示中添加无关句子时，所有语言模型的性能都会大幅下降，这表明模型缺乏鲁棒性，可能仍依赖于字面记忆。为了深入理解这一黑盒，演讲者使用了一个简单的模数加法（modular addition）任务作为案例。在该任务中，模型需要预测两个数字A和B在模D下的和C。如果仅训练神经网络，模型倾向于记忆加法表并通过检索获取答案，而非学习真正的数学表示。这种对基础推理任务的观察，为进一步探索符号与神经的统一提供了切入点。
傅里叶基表征与加法运算的直觉验证
在神经网络处理符号运算（如加法）的研究中，傅里叶基（Fourier Basis）表征是一个核心概念。研究表明，模型在表征空间中往往利用正弦（sin）和余弦（cos）函数进行运算，这种通过三角函数进行加法操作的现象已被多篇论文支持。例如，2024年发表的一项研究也证实了这一点，尽管这看似违反直觉，因为人们通常认为不同的表征方式难以直接对应。为了验证这一现象，研究者构建了一个极简的实验设置：使用一个两层神经网络，底层权重处理输入表征A和B，顶层权重输出C的表征。损失函数设计为最小化网络输出与真实解C在傅里叶空间中的距离。这种极简架构使得解的结构能够被清晰可视化，从而揭示神经网络内部的学习机制。
"people usually think this is kind of intuitive right so it seems like it can use a different representation to do that"
隐藏层节点的结构化分布特征
通过对训练好的网络进行可视化分析，研究者发现了解空间中存在显著的全局结构。实验设定隐藏层节点数为20，横轴为隐藏节点索引，纵轴为权重在傅里叶基下的频率分布。结果显示，每个频率分量并非由单一神经元独立表示，而是由多个神经元共同覆盖。具体而言，存在两种主要的解结构：一种是"六解（Six Solutions）"，即每个频率由6个不同的神经元表示；另一种是"四解（Four Solutions）"，即每个频率由4个神经元表示，呈现出平坦的傅里叶基特征。这种结构表明，神经网络倾向于通过组合少量神经元的特定频率响应来构建复杂的运算逻辑，而非随机分布。
| 实验维度 | 隐藏层节点数 | 主要解结构类型 | 频率覆盖神经元数 | 备注 |
|---|---|---|---|---|
| 基础实验 | 20 | 六解 / 四解 | 6 / 4 | 每个频率由固定数量神经元覆盖 |
| 中等规模 | D=7 | 六解 / 四解 | 6 / 4 | 行为与基础实验一致 |
| 中等规模 | D=33 | 六解 / 四解 | 6 / 4 | 保持相同的解结构模式 |
| 大规模 | D=127 | 六解 / 四解 | 6 / 4 | 即使节点数达512，每频率仍仅由4-6个神经元表示 |
解空间的半环结构与可分解性
为了从理论上解释上述现象，研究者提出了半环结构（Semi-ring Structure）的数学框架。通过将权重分解为特定形式，并证明其满足半环的加法和乘法规则，研究者发现：如果两个部分解分别满足损失函数的不同项，那么通过半环乘法结合这两个部分解，即可得到满足整体损失函数的全局最优解。这种构造方法允许显式地构建解，包括前述的六解、四解以及对应完美记忆整个加法表的D解。然而，梯度下降（Gradient Descent）在训练过程中倾向于选择低阶解（如四解或六解），而非高阶的完美记忆解。这表明，梯度下降的归纳偏置天然偏好结构更简单、可分解性更强的解。
"if you have a partial solution that satisfy like one of the terms of the loss functions... if you multiply these two together... this solution will basically stify both of the constraints"
经验解与理论构造的一致性验证
进一步的验证表明，通过梯度下降获得的经验解不仅符合理论预测的结构，还具有高度的可分解性（Factorizability）。研究者检查了所有实验得到的梯度下降解，确认它们确实属于六解或四解类别，并且可以分解为更小子结构的乘积与和。这种分解误差非常小，证明经验解严格遵循理论推导的半环运算规则。这意味着，神经网络在训练过程中并非盲目搜索，而是沿着理论构造的路径，将简单的局部解组合成复杂的整体解。这一发现揭示了符号运算在神经网络中的内在几何结构，即解空间由低阶基本单元通过代数运算生成，为理解神经网络的泛化能力和符号推理机制提供了新的理论视角。
"the GRE Solutions... are basically solutions that is composed from smaller order Solutions using the ring multiplication and the ring addition"
梯度下降与模块化结构的内在联系
演讲者指出，当前的优化方法（如梯度下降）可能并非构建解决方案的唯一途径，未来或许存在新的算法操作，能够直接构造出类似梯度下降所能达到的解，且这些解具有明确的符号表示。这一观点暗示，神经网络内部可能隐藏着可被解析的符号结构，而不仅仅是黑盒。通过打开新网络的“黑箱”，我们有望进入一个更透明的训练阶段，真正理解模型内部的运作机制，而非仅仅祈祷机器给出正确结果。这种从“祈祷”到“理解”的转变，代表了AI训练范式的潜在演进方向，即通过新网络优化方法，使模型表示变得极具价值且可解释。
预训练大模型中的数学能力涌现
在问答环节，有听众质疑：在仅使用加法任务数据训练的特定结构中观察到的现象，是否也存在于包含语言学任务在内的复杂预训练大语言模型（LLM）中？演讲者回应称，相关研究（如针对Llama模型的论文）确实检查了预训练模型，发现语言模型同样利用特定特征来计算加法任务，这表明模块化行为并非孤立现象，而是广泛存在于多任务预训练环境中。尽管具体细节需查阅相关论文，但核心结论是：预训练数据的多任务混合并未消除这种特定的计算结构偏好，反而可能强化了模型对特定数学逻辑的提取能力。
权重衰减与解空间的连通性
针对“为何梯度下降偏爱模块化分解结构”的问题，演讲者解释了其理论依据。首先，目标函数的全局解之间存在连通性，例如在半环结构下，若$Z$是全局解，则$Z$乘以某个常数也是全局解，这些解通过零损失路径相连。权重衰减（Weight Decay）正则化倾向于选择更简单的解，从而在连通的解空间中引导模型收敛到低复杂度的模块化结构。这一机制不仅适用于SGD，Adam优化器结合动量同样表现出对低复杂度解的偏好。虽然理论分析主要关注最优解后的状态而非动态过程，但实验均基于Adam，证实了该现象的鲁棒性。权重衰减通过惩罚复杂参数，间接促进了符号化、模块化表示的涌现，为理解黑盒模型的内部逻辑提供了数学层面的解释。