大模型在复杂约束下的决策困境
Meta AI 研究员 Yuandong Tian 指出，尽管大语言模型（LLM）自 2022-2023 年以来在内容生成、摘要和代理任务中表现卓越，但在需要严格遵循多重约束的决策场景中仍存在显著短板。他提到，大模型往往难以同时满足预算、时间、偏好等多重限制条件，容易顾此失彼。例如，在旅行规划任务中，模型通常倾向于优化单一约束而忽略其他关键因素，导致生成的方案在实际应用中不可行。这种局限性不仅影响用户体验，也阻碍了 AI 在更可靠场景中的应用。
旅行规划基准测试：数据揭示性能瓶颈
为了量化这一问题，研究团队与俄亥俄州立大学合作构建了旅行规划基准测试（Travel Planner Benchmark）。该任务要求模型在给定预算、天数、地点偏好等条件下生成最优行程。实验结果显示，即使是当前最先进的模型，其表现也远低于人类水平。具体数据如下：
| 模型/方法 | 准确率 | 备注 |
|---|---|---|
| GPT-4 Turbo (端到端调用 API) | 0.6% | 模型自行调用工具并规划，表现极差 |
| GPT-4 Turbo (Ground Truth 辅助) | 4.4% | 提供所有必要信息供模型规划，表现仍低 |
"Surprisingly, if you want to use LLM model to do that, it actually gives you pretty bad performance."
在端到端测试中，GPT-4 Turbo 的准确率仅为 0.6%，几乎无法生成有效方案。即便在提供所有地面真值（Ground Truth）信息的辅助下，准确率也仅提升至 4.4%。这表明，大模型在复杂逻辑推理和约束满足问题上存在根本性缺陷，单纯依赖模型内部能力难以解决此类问题。
井字棋案例：逻辑推理的直观失败
除了旅行规划，简单的逻辑游戏也暴露了大模型的弱点。以井字棋（Tic-Tac-Toe）为例，这是一个规则简单、状态空间有限的游戏。然而，当使用基于大语言模型的代理（LLM Agent）进行对弈时，模型常犯低级错误。例如，模型可能误判局势，将平局视为胜利，或未能识别对手的致命威胁。在另一个案例中，模型试图在左侧阻挡对手，却忽略了对手在中间列的获胜路径。
"It's very clear that still the LLM model cannot do things very well."
这些案例表明，大模型缺乏对空间逻辑和即时后果的精确推理能力。即使是最简单的博弈场景，模型也难以保持逻辑一致性。这进一步证实了，仅靠增加模型规模或优化训练数据，无法根本解决此类逻辑推理问题，需要引入更结构化的方法。
解决方案：结合传统符号决策与深度学习
针对上述局限，Yuandong Tian 提出了三种改进方向。首先，利用现有求解器（Solvers）生成高质量数据来训练模型，使其学习更优的决策模式。其次，构建端到端可微分的系统，将传统求解器与深度学习模型结合，使系统能够同时满足所有约束条件。最后，探索其他混合架构，以提升 AI 在复杂决策场景中的可靠性与效率。这些方法旨在弥补大模型在逻辑推理上的不足，实现更强大的智能系统。
传统求解器与Transformer的融合思路
在迷宫导航等符号决策任务中，传统方法通常摒弃强化学习，转而将问题转化为符号形式并调用求解器（如A算法）。求解器能自动输出最优路径，无需复杂的强化学习知识。然而，Transformer在此类任务上表现不佳。我们的研究提出了一种新方法，利用求解器产生的轨迹（Trajectory）或搜索动态（Search Dynamics）来显著提升Transformer的性能，同时大幅减少数据使用量*。通过让深度模型模拟并拟合求解器的解析解，可以获得更优的解决方案。正如演讲者所述：> "we can actually find some analytical structure of the Sol solution and we can use deep models to uh simulate and also to uh to basically fit this analytical solution so that it will give you a better solution"。
搜索动态与模型架构对比
以推箱子任务为例，目标是将箱子推至目的地，但无法拉动，且一旦陷入角落则失败。求解器通过状态扩展和回溯找到最优路径，这一过程即为搜索动态。我们训练两种Transformer模型： 1. 仅解决方案模型（Solution Only Models）：仅输入环境描述（Prompt），直接预测最优计划，无中间Token。 2. 搜索增强模型（Search Augmented Models）：先预测搜索轨迹，再结合轨迹预测最终计划。
模型采用编码器-解码器结构，编码器处理环境描述，自回归解码器递归生成计划。虽然搜索增强模型生成的Token序列更长（因为轨迹生成耗时），但其训练方式引入了中间推理步骤，从而提升了模型的泛化能力。演讲者指出：> "the trace uh for this entire search and the final Optimum uh trajectories right so that's basically the the idea and then uh you can basically train a model called search augmented models"。
数据效率与性能对比实验
实验对比了不同参数规模和训练数据量下的模型表现。结果显示，搜索增强模型在数据效率和参数效率上均显著优于基线模型。具体数据对比如下：
| 模型类型 | 参数量 | 训练序列数量 | 30x30 迷宫任务成功率 | 备注 |
|---|---|---|---|---|
| 仅解决方案模型 (Baseline) | 175 Million | 1 Million | ~100% | 初期性能极差，需大量数据 |
| 搜索增强模型 (Proposed) | 15 Million | 远少于1 Million | 高性能 | 数据效率极高，小数据即优 |
基线模型（1.75亿参数）在训练序列达到100万时才能接近100%的成功率，且初期性能很差。相比之下，搜索增强模型仅用1500万参数，在极少量训练序列下即可实现高性能。这表明引入求解器的搜索轨迹作为监督信号，能有效引导模型学习更优的决策逻辑，避免了从零开始探索低效路径的问题。演讲者总结道：> "our search Orting model is much more data efficient and also parameter efficient here"。
搜索增强模型的少样本效率与参数鲁棒性
该研究首先展示了一种基于搜索增强（Search-Augmented）的模型行为，其核心优势在于数据效率与参数效率的双重提升。实验表明，即使在数据量较少的情况下，模型也能从初始状态开始逐步优化，且随着数据量的增加，性能呈现显著上升趋势。值得注意的是，模型的性能表现对参数规模并不敏感，即使拥有大量参数，模型依然能保持合理的性能水平，这使其成为一种比传统“思维链”（Chain of Thought）更先进的变体。
在训练策略上，研究团队采用了由特定启发式算法（Heuristic）生成的轨迹（Trajectory）进行训练。这里的关键在于，启发式规则（Heuristic）是固定的，而非由Transformer从规划过程中学习或创建。这种设计确保了训练数据的确定性，尽管实验发现改变启发式规则对最终性能影响不大，但固定规则简化了训练流程。正如演讲者所述：
"it basically starting from here and then of course the model will become better uh when uh the uh when the data and they become like a larger right so that's a that's an interesting uh Behavior here right so uh it's and also it doesn't really matter like what are how many parameters we have so you have like a large parameters and still performance are reasonable good uh"
与仅依赖搜索的模型相比，这种搜索增强模型在数据利用效率和参数利用效率上均表现更优。它通过引入外部搜索机制，弥补了纯语言模型在逻辑推理上的不足，从而在少样本场景下实现了更稳定的规划能力。
注意力机制与上下文窗口的权衡
在技术实现层面，Transformer模型在执行轨迹展开（Trace Rollout）时，其注意力机制能够覆盖整个轨迹序列。这意味着模型可以访问从开始到当前的所有中间步骤，从而做出更全局的决策。然而，这也带来了计算成本的考量。演讲者指出，如果模型参数较大且上下文窗口（Context Window）巨大，计算时间将显著增加，这是该方法的一个主要缺点。
关于上下文窗口的具体设置，实验中使用的是标准窗口，但理论上可以扩展至三倍或更多。然而，过大的窗口并未带来线性性能提升，反而增加了计算负担。因此，研究团队在性能与效率之间找到了一个平衡点。对于Inon任务（一种特定的规划任务），实验结果显示，小模型配合搜索增强技术能够获得比纯搜索模型更好的性能曲线。这表明，搜索增强机制在小模型上同样有效，甚至能弥补小模型在逻辑推理上的短板，使其性能超越仅依赖搜索的基线模型。
微调阶段：从可行解到最优解的进化
为了超越单纯的模仿学习，研究进入了第二阶段：微调（Fine-tuning）。此阶段的目标不仅是保持模型输出最优规划的能力，还要缩短生成轨迹的长度，即提高搜索效率。通过引入奖励函数，模型被鼓励生成更短的轨迹，这种改进后的模型被称为搜索形式模型（Search Former）。与基于模仿学习的搜索增强模型相比，搜索形式模型能够产生更高效的规划路径。
微调过程采用多轮迭代策略，类似于自我博弈（Self-Play）或专家演示机制。具体流程如下： 1. 使用当前的搜索模型生成自动轨迹及其对应的规划。 2. 筛选出那些规划最优但轨迹短于基线的样本。 3. 利用这些精选数据重新训练或微调搜索形式模型。
由于搜索增强模型基于非确定性的A算法，每次生成的轨迹虽不同但均导向最优解。通过调整生成温度（Temperature），可以产生多样化的轨迹。研究团队从中挑选出长度更短且保持最优性的轨迹，用于下一轮训练。经过多步训练，测试任务的平均序列长度显著缩短*，表明模型学会了更紧凑的算法逻辑。
性能数据与效率指标量化
为了量化微调的效果，研究定义了改进长度比率（Improved Length Ratio, ILR）。该指标计算当前搜索动态长度（以Token数计）与A算法动态长度之比。若比率大于1，说明模型生成的轨迹比传统A算法更长；随着训练进行，该比率逐渐增大，意味着模型生成的轨迹相对于A*基准变得更短、更高效。
以下是微调过程中关键性能指标的变化数据：
| 训练步骤 | 解决案例比例 (Solved) | 最优规划比例 (Optimal) | 平均轨迹长度趋势 |
|---|---|---|---|
| 初始状态 | 较低 | 较低 | 基准长度 |
| 第1步微调 | 上升 | 轻微上升 | 缩短 |
| 第2步微调 | 进一步上升 | 继续上升 | 进一步缩短 |
| 第3步微调 | 接近基线模型水平 | 接近基线模型水平 | 显著缩短 |
数据显示，经过三步微调后，解决案例的比例（Solved）和最优规划比例（Optimal）均稳步提升。尽管Transformer模型无法保证100%的最优性（因为存在概率性），但只要解是可微分的，就可以通过微调进一步优化。最终，搜索形式模型的性能与纯搜索模型相当，甚至在轨迹长度上更具优势。这表明，通过结合搜索增强与迭代微调，模型不仅学会了如何找到解，还学会了如何更高效地找到解，实现了从“可行”到“高效最优”的跨越。
"we can basically do this search former in multiple itations right so for every situation we are doing called X expert situation so we use the current sear model to generate Auto traces and also their plans and pick those traces and plan in which the plans are optimal but the traces are shorter than uh than basically the baselines right"
"after several step of training the average sequence length uh per test Task actually get shrinked right so more and more and more so that's that's actually good so this mean that it actually find some algorithms that is shorter in term of is in term of the trajectories uh in order to get the optimum plan right"
路径规划中的失败模式与启发式权衡
在路径规划的研究中，当缩短路径长度时，系统可能会出现性能轻微下降的情况。通过对失败案例的深入分析，研究者发现错误往往源于变换模型对规格说明的记忆偏差。例如，模型可能错误地将“墙”识别为可穿越路径，或者将不可食用的物品误判为可通行区域。这种表示层面的混淆导致规划结果偏离预期。
"in some cases the reason why it goes wrong is that the transform seem to misremember some of the per specifications right say oh here is actually a war but actually find a p across the wall"
此外，当模型错误判断障碍物的性质（如将不可穿越的墙视为可通行）时，它可能会生成看似更短但实际不可行的路径。这种启发式缩短虽然旨在优化路径长度，但缺乏对最终计划最优性的严格保证。由于A算法的可接纳性（admissibility）在此类启发式下无法得到保证，因此虽然规划效率提升，但未来可能存在更优解的可能性也随之增加。研究者指出，目前的目标是让路径尽可能短，但并不保证绝对最优*，这是一种在速度与最优性之间的权衡。
工业级非线性约束优化的挑战
在工业界，许多问题涉及非线性目标函数与组合约束的复杂结合。例如，在大型模型训练中，需要将K个表分配到N个GPU上，每个GPU有内存容量限制，且表不可分割。这种问题属于组合优化范畴，同时目标函数（如延迟）是非线性的，由神经网络估计。
传统的进化算法虽然能处理非线性，但计算速度极慢，难以满足实时性要求。而现有的商业求解器（如Gurobi、CPLEX）主要针对线性或特定形式的非线性问题优化，对于由神经网络估计的非线性成本函数，传统方法难以直接应用。这类问题广泛存在于自动驾驶、机器人控制等领域，需要同时处理线性、非线性、整数和二进制约束。
结合求解器与深度学习的创新方案
针对上述挑战，研究者提出了一种结合求解器（Solvers）与深度学习模型的新方法。该方法的核心在于处理二进制约束（如表是否放入某GPU）和容量约束（内存不超标），同时应对由神经网络估计的非线性目标函数。
"if this loss function is linear then you can actually call existing sers... but if the area is actually estimated by new network then what can we do"
传统求解器在目标函数具有解析形式（如对数、指数函数）时，可通过分支定界法设置上下界进行优化。然而，当成本函数由神经网络估算时，这种解析性质消失。研究者在NeurIPS相关工作中提出了一种新策略，旨在保留求解器的搜索能力，同时利用深度学习模型处理复杂的非线性评估。这种方法试图在保持可行性的前提下，通过启发式引导加速求解过程，从而在工业级复杂约束优化问题中取得平衡。
非线性优化中的代理成本预测机制
在复杂的优化问题中，目标函数 $f$ 通常是非线性的，我们需要在定义域 $X$ 中寻找最优解，同时满足由问题规格 $Y$（如内存容量、DPU数量等硬件约束）定义的约束条件。直接求解这类非线性问题极具挑战性，因此该方法提出了一种核心策略：预测一个代理成本函数 $C$，该函数依赖于问题规格 $Y$。通过引入这个代理成本，原本非线性的优化问题被转化为线性问题，从而可以利用现有的线性求解器进行高效求解。
"you want to find a surrogate cost C so that the solution you obtain from the surrogate optimization also minimize original proven"
这一过程的关键在于，虽然精确预测最优解所在的单纯形面（polytope surface）可能非常困难，但预测大致的方向是可行的。系统并不要求神经网络直接输出最终的最优解 $X$，而是预测一个能引导求解器走向最优区域的系数 $C$。求解器随后负责处理剩余的复杂计算，确保最终解不仅满足约束条件，还能最小化原始的目标函数。这种分工使得求解器保证了解的可行性，而神经网络则提供了优化的方向指引。
零阶优化与反向传播的融合
为了实现代理成本 $C$ 的学习，系统采用了一种称为 "Circle Zero" 的方法。在这种模式下，没有使用传统的神经网络，而是将函数 $f$ 视为平滑函数，在遇到新的优化问题时即时进行学习。具体流程是：将当前的代理成本 $C$ 发送给服务器，服务器运行求解器得到解 $X$，然后将 $X$ 代入目标函数计算损失。为了更新 $C$，系统需要计算梯度。
"you can basically do this intuitively on the Fly and then you automatically get a coefficient C that will lead to a solution that minimize objectives"
尽管求解器通常不可微，但通过一些技巧（如有限差分或特定的单路径近似），可以实现端到端的反向传播。这意味着即使求解器本身不是神经网络，也可以将其视为一个可微模块，从而计算出关于系数 $C$ 的梯度。这种方法允许系统在在线（on-the-fly）过程中自动调整系数 $C$，使得生成的解能够最小化非线性的目标函数。这种零阶优化的优势在于其灵活性，无需预先训练模型，即可适应全新的优化问题。
引入神经网络以实现跨问题泛化
虽然 "Circle Zero" 方法有效，但每次遇到新问题都需要重新进行反向传播训练，效率较低。为了解决这个问题，引入了 CLE prior（基于先验的神经网络）。其核心思想是假设代理成本 $C$ 实际上是由一个神经网络生成的，该网络的参数为 $\alpha$。通过在一个包含100个已知问题的数据集上训练这个神经网络，模型可以学习到从问题规格 $Y$ 到代理成本 $C$ 的映射关系。
"if we already have a new network and we can actually train this neur in for example 100 problem that we already know so that the neur actually have a coefficient have a parameter CA that can correctly predict"
训练完成后，模型获得了泛化能力。当面对一个从未见过的新问题 $Y_{test}$ 时，神经网络可以直接利用训练好的参数 $\alpha$ 预测出一个合理的初始代理成本 $C_0$。这种方法的优势在于无需知道每个问题的最优解，只需在训练过程中让模型自动发现最优解的规律。预测出的 $C_0$ 可以直接输入求解器，得到一个高质量的初始解，从而避免了从零开始训练的开销。
混合优化策略与可行性保证
最终方案结合了上述两种方法，称为 Circle Hybrid。首先，利用训练好的神经网络为新问题预测初始系数 $C_0$；随后，在此基础上继续进行 "Circle Zero" 式的反向传播优化，以进一步微调系数，使目标函数更小。这种混合策略既利用了神经网络的泛化能力，又保留了在线优化的精确性。
关于可行性，该方法有严格的理论保证：任何从求解器输出的解都必然满足约束条件。相比之下，如果直接让神经网络预测解 $X$，由于约束条件的复杂性，很难保证解的可行性，且需要大量标注数据来明确边界。而通过预测代理成本 $C$，我们实际上是在预测一个粗略的方向，求解器则负责将这个方向修正为精确的最优解。这种架构巧妙地分离了"方向预测"与"约束满足"两个任务，提高了整体系统的鲁棒性和效率。
组合优化中的三种推理范式与权衡
在解决组合优化（CO）问题时，研究提出了三种基于离线数据训练的推理策略，旨在平衡求解质量与部署速度。首先是 Circle Zero，该方法无需任何离线训练数据，仅通过在线传播直接求解单个问题，虽然保证了解的质量，但效率较低。其次是 Circle Prior，这是一种“一次预测”（one-shot）方法，利用离线训练好的模型参数直接预测组合变量 C，随后调用一次求解器即可得到结果，其核心优势在于极低的部署延迟。最后是 Circle Hybrid，它结合了前两者的优点，先在离线阶段进行训练，然后在推理阶段进行少量迭代的微调，从而在求解精度和响应速度之间取得平衡。
"Circle Hybrid and also the Circle Zero they actually have pretty small loss compared to other approaches right especially when we deal with like larger settings."
这种分类不仅适用于理论模型，更针对工业界实际痛点。例如，在需要快速将数据表分配到不同 GPU 的场景中，决策延迟必须控制在毫秒级，否则长时间的计算开销将抵消优化带来的收益。Circle Prior 虽然因缺乏微调而损失略高，但其速度优势使其在时间敏感型任务中极具价值，而 Circle Hybrid 则允许用户通过调整迭代次数来动态调整速度与精度的平衡点。
表分配问题（Table Shedding）的基准测试数据
为了验证上述方法的有效性，研究团队与生产团队合作，在真实的表分配问题（Table Shedding）上进行了基准测试。该问题涉及将多个数据表分配到不同的 GPU 资源上，以最小化通信开销并最大化吞吐量。实验中，研究将 Circle 系列方法与 Big G（作为基线）以及基于强化学习的方法 DreamShot 进行了对比。测试规模从左至右逐渐增大，涉及从少量到 16x60 张表的复杂场景。
下表展示了不同方法在求解损失（Solution Loss，越低越好）和部署时间（Deployment Time，越低越好）上的具体性能数据：
| 方法 | 小规模表分配 (Loss) | 小规模表分配 (Time ms) | 大规模表分配 (16x60) (Loss) | 大规模表分配 (16x60) (Time ms) | 备注 |
|---|---|---|---|---|---|
| Big G (Baseline) | 较高 | 较慢 | 较高 | 较慢 | 传统基线方法 |
| DreamShot (RL) | 中等 | 较快 | 中等 | 较快 | 基于强化学习的一次性预测 |
| Circle Zero | 低 | 慢 | 低 | 慢 | 无离线训练，纯在线传播 |
| Circle Prior | 中等偏高 | 极快 (毫秒级) | 中等偏高 | 极快 (毫秒级) | 离线训练，一次性预测 |
| Circle Hybrid | 低 | 中等 | 低 | 中等 | 离线训练+在线微调 |
数据显示，在大规模设置下，Circle Zero 和 Circle Hybrid 均能实现较低的损失值，证明其求解质量优于基线。然而，Circle Prior 和 DreamShot 在部署时间上表现优异，均在毫秒级别完成决策，这对于需要实时移动数据表的关键任务至关重要。通过减少 Circle Hybrid 的迭代次数，用户可以在保持接近 Circle Zero 的解质量的同时，显著降低部署时间，实现速度与精度的最佳折衷。
纳米光子器件设计的复杂约束与优化
除了组合优化，Circle 方法还应用于纳米光子器件设计这一极具挑战性的领域。目标是在一个极小的空间（约 100 纳米 x 100 纳米）内设计材料图案，以控制光的传播路径。例如，设计光束分离器（Beam Splitter），使入射光分为两束；或设计波分复用器（Wavelength Division Multiplexer），根据波长将光引导至不同输出端口。由于器件尺寸仅为纳米级（10^-9 米），传统的棱镜等光学元件体积过大，无法适用，因此必须设计更复杂的微观结构。
该设计面临严格的制造约束：图案不能任意放置，每个特征必须大于最小可制造尺寸（即“最小刷子”直径）。此外，目标函数极其复杂，需要模拟电磁波传播，计算不同频率下的能量分布，并最小化复杂的损失函数。例如，对于波分复用器，需要确保特定波长的光能量主要出现在预期的输出端口，而其他波长的光被抑制。Circle 方法通过结合离线数据训练和在线推理，能够高效地在这个高维、非凸且受约束的设计空间中寻找最优图案，展示了其在物理仿真驱动设计中的强大潜力。
线性约束下的非凸优化与可行性保证
在工业级应用的设计优化中，核心挑战在于如何同时满足严格的制造约束与性能目标。设计目标通常通过最大化或最小化损失函数来实现，但解必须满足特定的物理约束，例如在设备中必须使用特定的“刷图案”（brush pattern）。可行性解是指该解必须是这些刷图案的并集，这意味着它必须能够被实际机器制造出来。当这些约束被正确表述时，它们构成了线性约束，但整体问题依然属于非凸优化范畴。在这种设定下，我们需要同时衡量两个关键指标：解的损失（solution loss）和部署运行时间（deployment run time）。只要解满足可行性约束，即被视为有效解。
"Your design goal is met and that's the basically the loss functions and feasible solution is actually you to satisfy some constraint that it has to be the union of the brush pattern."
为了解决这一问题，研究提出了多种 Circle 变体，包括 Circle Prior、Circle Zero 和 Circle Hybrid。实验表明，Circle Zero 和 Circle Hybrid 在复杂的设计问题中表现优异，能够实现零损失或极低的损失值。相比之下，Circle Prior 虽然能提供即时预测，但在处理复杂约束时的灵活性不如 Hybrid 版本。这种设计思路确保了在优化过程中，生成的解始终符合物理制造的可行性要求，从而避免了传统黑盒优化中常见的“不可制造”陷阱。
性能对比：速度、收敛性与基线分析
在部署运行时间和收敛速度方面，不同的 Circle 变体展现出明显的权衡。Circle Prior 由于直接给出预测，因此速度最快，但缺乏对复杂约束的精细调整能力。Circle Hybrid 虽然速度稍慢，但仍快于现有的基线方法，并且在最终结果的损失值上表现良好。通过绘制曲线可以发现，Circle Hybrid 的曲线更加平滑，且下降速度非常快，收敛效率甚至高于原始的 Prop 方法。这表明 Hybrid 方法在保持可行性的同时，能够更高效地逼近最优解。
| 方法 | 损失值表现 | 部署运行时间 | 收敛特性 |
|---|---|---|---|
| Circle Prior | 信息不足 | 最快（即时预测） | 信息不足 |
| Circle Zero | 零损失（部分问题） | 信息不足 | 收敛较快 |
| Circle Hybrid | 极低损失 | 较快（优于基线） | 曲线平滑，收敛迅速 |
| 原始 Prop | 较高损失 | 较慢 | 收敛较慢 |
此外，关于基线选择，研究指出除了通用的 Pass-through 基线外，还可以咨询领域专家以获取更特定的领域基线。然而，现有的对比数据主要基于通用基线，这可能在一定程度上低估了新方法的实际优势。尽管如此，Circle Hybrid 在收敛速度和最终解的质量之间取得了良好的平衡，证明了其在处理工业级复杂设计问题时的有效性。
代理模型与 LENSER 在组合优化中的应用
尽管 Circle 方法有效，但其局限性在于需要目标函数的连续梯度以进行反向传播，且求解器本身必须是可微的。此外，求解器的调用可能非常耗时（有时需数分钟），导致训练过程缓慢。为了解决这一问题，研究提出了使用顶层代理模型（Surrogate Model）的思路，即引入一个可微的模型 M 来近似复杂的函数组合 F composed with G。这种方法允许通过 M 进行反向传播，从而绕过直接调用缓慢的求解器。
在投资组合优化（Portfolio Optimization）这一真实案例中，目标函数是非二次的，旨在最大化收益并控制风险，同时满足资产总和等于总资金的约束。传统方法中，求解器的调用成本极高。而 LENSER 方法通过引入代理模型 M，显著减少了函数调用的次数。代理模型 M 通过对空间进行采样并匹配函数形状来构建，随后利用现有数据迭代优化 M 的参数，进而学习代理变量。
"With LENSER, because we have a surrogate cost M, and that M actually can give you a good estimate of f composed with G, it can replace the function call the solver call during the training."
实验结果显示，LENSER 在更少的函数调用次数下实现了合理的性能表现。这是因为代理模型 M 在许多情况下可以替代训练过程中昂贵的求解器调用。这种方法不仅解决了梯度不可用和求解器速度慢的问题，还为处理高阶项（如三阶或一阶项）的复杂损失函数提供了可行的解决方案，展示了深度学习与传统符号决策结合的巨大潜力。
从单一解到多样化解的范式转变
在传统的优化问题中，我们往往只关注寻找一个最优解，但在许多实际设计场景中，多样性（Diversity） 成为核心需求。例如在游戏关卡设计或地图生成中，用户不仅需要可玩性高的方案，还需要覆盖不同空间区域的多种方案，以避免重复体验。这种需求引入了三个同时优化的组件：个体损失（Individual Loss）、群体损失（Group Loss） 以及非线性目标。个体损失对应于单个设计的性能优化，而群体损失则确保生成的多个解 collectively 最小化某种全局指标。这种多目标优化使得问题变得更为复杂，因为我们需要在满足硬性约束的同时，兼顾解的多样性和整体质量。
"Sometimes you actually want many solutions... each of them cover a different portion of the space and you want diverse Solutions."
为了解决这一问题，我们引入了生成模型（Generative Models），如扩散模型（Diffusion Models），替代传统的仅通过神经网络预测或优化潜在空间的方法。生成模型能够在潜在空间中直接生成初始解，这些解随后通过软件（Solver）进行验证和优化。这种方法不仅保留了传统符号求解器的约束满足能力，还利用生成模型的多样性优势，实现了解空间的广泛覆盖。通过这种方式，我们可以生成既满足所有原子约束，又在视觉上或功能上具有显著差异的设计方案。
基于生成模型与求解器协同的设计框架
该框架的核心在于生成模型与符号求解器的协同工作。生成模型负责在潜在空间中产生多样化的初始设计，这些设计随后被输入到软件求解器中。求解器不仅验证设计的可行性，还通过反向传播（Backpropagation）将性能反馈回生成模型，从而优化生成器的参数。这种机制确保了生成的解不仅是多样的，而且是可行（Feasible）的。因为所有生成的解都必须通过求解器的验证，所以任何不可行的设计都会被过滤或修正。
在具体应用中，我们以《魔兽争霸》（Warcraft）地图生成为例。目标是在保持地图可玩性（Passability）的前提下，生成多样化的地图。这里的关键挑战在于，约束条件本身可能是活跃或非活跃的，不同的地图可能激活不同的约束集。然而，我们的方法假设所有原子约束都是固定的，通过生成模型探索不同的约束激活模式，从而实现多样性。这种方法的优势在于，它不依赖于特定的网络结构，而是适用于任意序列（Arbitrary Sequences）和任意网络组合，提供了极大的灵活性。
"The good thing about the generation is that the generation can actually give you solutions that is guaranteed to be feasible because everything that is generated is going through the solver."
实验评估与性能对比
为了验证该方法的有效性，我们在三个不同领域进行了测试，并对比了仅使用生成模型（Gen-only）与结合符号求解器（Gen+MP）的效果。实验结果显示，仅使用生成模型往往无法保证解的多样性，甚至可能产生重复或无效的解。相比之下，我们的方法在唯一性（Uniqueness）、覆盖率（Coverage）和解损失（Solution Loss）三个指标上均表现优异。
以下是不同方法在地图生成任务中的性能对比数据：
| 方法 | 唯一性 (Uniqueness) | 覆盖率 (Coverage) | 解损失 (Solution Loss) | 计算速度 (相对) |
|---|---|---|---|---|
| Gen-only | 低 (易重复) | 低 (分布集中) | 高 (常违反约束) | 快 |
| Gen+MP (本文方法) | 高 (显著差异) | 高 (广泛覆盖) | 低 (满足约束) | 中等 |
| Pure Symbolic (SAT) | 中 | 中 | 低 | 极慢 (10-100x) |
从表中可以看出，Gen+MP 方法在保持低解损失的同时，显著提升了唯一性和覆盖率。虽然纯符号求解器（如 SAT 求解器）在满足约束方面表现完美，但其计算速度极慢，通常比神经网络慢 10 到 100 倍。而 Gen-only 方法虽然速度快，但缺乏约束满足能力，导致解的质量低下。我们的方法通过结合两者的优势，实现了速度与质量的平衡。
线性偏微分方程求解中的模型替代
在最后一个部分，我们探讨了将生成模型应用于线性偏微分方程（Linear PDEs）求解的场景。这是一个与天线组合作的研究项目，旨在利用深度学习加速科学计算。传统上，PDE 求解依赖于数值方法，计算成本高且难以处理高维问题。我们尝试用神经网络替代部分求解步骤，特别是在处理线性 PDE 时，神经网络能够捕捉复杂的边界条件和源项分布。
这一实验表明，深度学习可以与传统符号方法无缝集成，用于解决复杂的科学问题。通过训练神经网络预测 PDE 的解，我们可以大幅减少计算时间，同时保持较高的精度。这种方法不仅适用于 PDE 求解，还为其他领域的符号决策与深度学习结合提供了新的思路。未来的工作将进一步探索如何优化这种混合架构，以应对更复杂的非线性问题和大规模数据集。
"L program is much faster right... and cority may be very slow 10 times 100 times slower right."
综上所述，通过结合生成模型的多样性优势与符号求解器的约束满足能力，我们能够在多个领域实现高效、多样化的设计生成。这种方法不仅提升了设计质量，还扩展了传统优化方法的适用范围，为复杂系统设计提供了新的解决方案。
天线设计中的逆向工程难题与仿真瓶颈
天线设计本质上是一个逆向工程问题，其核心目标是根据特定的频率响应要求，反推出最优的物理结构。以双频吸收天线为例，设计者需要确保天线在 2.4 GHz 和 5 GHz 两个特定频段实现强吸收，这表现为频率响应曲线上的两个深谷。传统的解决路径依赖于正向仿真映射：即通过 CST 或 HFSS 等数值仿真器，输入设计参数并计算对应的频率响应。然而，这种方法的致命缺陷在于计算成本极高。对于复杂的设计问题，单次仿真可能需要数分钟甚至数小时，导致在搜索最优设计空间时效率极其低下。
"simulation is slow so you have to go through like numerical simulation... maybe one minutes two minutes or for complicated design problem it might take like given hours"
这种缓慢的迭代过程使得直接通过仿真进行优化变得不可行，因此需要寻找一种能够绕过昂贵仿真、直接预测性能的理论结构或代理模型，从而加速设计流程。
基于线性PDE理论的结构化预测模型
为了解决仿真慢的问题，研究团队推导了线性偏微分方程（PDE）映射的理论结构。理论证明，对于线性系统，任何物理量的傅里叶变换之比都可以表示为有理多项式结构（两个多项式的除法）。根据代数基本定理，这种有理多项式可以分解为零点（zeros）和极点（poles）的乘积形式。在天线设计中，散射参数 $S_{11}$ 可以表示为阻抗的二次型，而阻抗本身又是电压与电流之比，这些量均符合线性组合与商的结构条件。因此，对 $S_{11}$ 取对数后，可以将其分解为零点、极点及其对应的系数。
这一理论突破使得我们可以使用神经网络直接预测这些零点、极点和系数，而不是直接预测复杂的频率响应曲线。通过这种结构化分解，模型自动继承了物理系统的平滑性和理论约束，从而避免了传统黑盒模型可能产生的非物理波动。这种方法不仅消除了对实时仿真的依赖，还为后续的高效设计提供了数学基础。
Transformer架构与CDP模型的性能验证
在具体实现上，团队采用 Transformer 架构 将天线设计的图像表示直接映射为零点、极点和系数。为了训练该模型，他们利用商业仿真器生成了包含 48,000 个样本的数据集，建立了从设计到 $S_{11}$ 的映射关系。训练后的模型被称为 CDP 模型（基于零点/极点分解的模型）。与直接使用任意神经网络预测频率响应不同，CDP 模型生成的响应曲线更加平滑，因为它遵循了线性 PDE 的理论结构，避免了传统方法中常见的非物理“驼峰”现象。
在性能评估方面，研究进行了静态和动态两种测试。静态测试关注测试集上的损失值，动态测试则利用模型结合强化学习搜索最优设计。结果显示，Transformer 架构显著降低了损失，而 CDP 架构相比原始架构（Raw）具有明显的性能优势。以下是静态评估中的关键性能对比数据：
| 模型架构 | 评估类型 | 关键指标/表现描述 |
|---|---|---|
| Raw Architecture | Static | 基准损失值，存在非物理波动 |
| CDP Architecture | Static | 损失显著降低，频率响应平滑 |
| Transformer + CDP | Static | 最优损失表现，结合结构约束 |
此外，动态评估表明，利用 CDP 模型作为代理模型结合强化学习搜索，能够更有效地找到在实际实践中表现良好的设计，验证了该方法在加速天线设计流程中的有效性。
深度模型在符号决策中的表现优势
在讨论循环依赖（CDP）模型与传统模型（RO模型）的对比时，研究数据揭示了一个显著的性能差异。通过实验验证，CDP模型在任意前三个设计方案中的成功率远高于RO模型。这一结果证明了将深度模型引入符号决策流程的有效性，特别是在处理复杂设计空间时，深度模型能够更准确地捕捉潜在的模式和约束，从而提升整体决策质量。这种性能优势并非偶然，而是源于深度模型对高维非线性关系的强大拟合能力，使其在处理传统规则引擎难以覆盖的边界情况时表现更为稳健。
LLM与视觉语言模型对建模工作的简化
针对“此类工作是否仍需大量领域专家建模”的疑问，演讲者指出，大型语言模型（LLM）和大型视觉语言模型（VLM）的出现显著简化了这一过程。传统方法依赖专家手动构建复杂的数学模型和约束条件，而LLM可以通过自然语言理解问题描述，自动生成或辅助生成相应的符号表示。这种转变不仅降低了技术门槛，还加速了从问题定义到模型求解的迭代周期。正如演讲者所言：
"One of the advantages of using LLMs and large Vision language models is the opportunity to streamline significantly that aspect."
这意味着，领域知识的编码工作部分转移给了预训练模型，专家的角色从“建模者”转变为“验证者”和“引导者”，从而大幅提升了开发效率。
求解器（Solver）的角色与未来替代路径
关于“AR（自动推理/自动重构）在哪里”以及“为何不直接用模型替代求解器”的问题，演讲者澄清了当前架构中求解器的必要性。虽然理论上可以用模型替换求解器，但当前模型尚无法提供精确解，尤其是在处理需要严格数学保证的问题时。因此，保留求解器作为最终验证和精确计算的核心组件是必要的。此外，长期来看，直接替换求解器可能面临巨大的时间成本和技术挑战。一种可行的路径是利用求解器生成的数据来训练模型，使模型逐渐学会近似求解器的行为。
演讲者进一步指出：
"In the long run, if you can understand what's going on in Transformer training, then we might be able to understand what it can do and cannot do, and find efficient... a more deeper integration."
这表明，未来的方向不是简单替换，而是通过深入理解Transformer的训练机制，实现深度模型与符号求解器的更深层次集成，从而在保持精确性的同时，利用模型的泛化能力加速决策过程。