计算范式转移与即时本体论的诞生

过去十年，分布式架构建立在“计算和存储昂贵且缓慢”的假设之上。然而，随着技术演进，我们首先让计算比存储更便宜，随后将其普及并加速。这种转变导致当前数据基础设施的核心假设——“转换是昂贵的”——正在失效。演讲者认为，通用智能或判断力这一最后的瓶颈已被解决并随时可用。这标志着我们正处于范式转移的边缘。以俄亥俄州竞选财务记录为例，原本预计成本约 $10,000 的实体解析管道，在引入新模型并经过十余种方法测试后，仅用 10天 便将最终成本降至 $800以下。这一案例展示了“帕累托服务”与即时转换的巨大威力，证明了在决策时刻进行数据整合的可行性。

四种架构视角与“超级模式”的谬误

传统观点认为本体迁移失败是因为缺乏购买力，但根本原因在于不存在单一的“超级模式”。数据始终处于四种模式的张力中：首先是来源模式，如手机、桌面传感器或手表提供的温度数据；其次是存储模式，受限于物理写入速度和时间精度；第三是决策模式，取决于具体用途（如舒适度分析需关注测量者身份，而气象制图则忽略此点）；第四是近期引入的先验模式。核心问题在于，除了决策发生的瞬间，无人能同时掌握这四种模式。例如，“客户”的定义在财务、支持和合规部门截然不同，只有在面对具体决策（如退款或授信）时，所需的数据维度才变得清晰。因此，本体论本质上是企业版的思维导图。正如演讲者所言：

“There is no super schema. There actually are four schemas.”

数据处理的三种模式与智能嵌入管道

在数据处理领域，工作负载主要分为三类：一是“写一次运行一次”，类似于单体规模的立即调用函数；二是“多次写入，单次运行”，常见于大规模数据迁移项目；三是最核心的“多次写入，多次运行”，即可重复维护的管道系统。现代世界中的绝大多数工作都是数据转换或受限于此。演讲者团队将大量工作从主线程移至可重复系统中，包括基准测试、编码甚至电影字幕制作。他们的目标是通过嵌入智能的管道系统，使系统在成本、性能和速度上自我成熟。关键在于确保人们能够依赖结果。

“Doing that merge when the decision space is known instead of ahead of time is what I mean by a just-in-time ontology.”

“We are best described as obsessives. Obsessives who embed intelligence into pipelines.”

智能在数据工作中的三重角色分离

当前，与数据处理相关的“智力”活动实际上占据着三个截然不同的角色，而现有的编码代理往往将这些功能混淆在同一个上下文窗口中。第一个角色是构建和设计管道，这涉及拆解问题、编写初步规范以及授权支出；第二个角色是在管道内部执行具体工作，如读取 PDF、写入数据库和检查结果。这两个方向截然相反：设计管道需要慢速但具备厚重上下文理解能力的模型，以便深入思考、消化文档并预测结果；而执行任务则需要廉价、快速且擅长遵循指令的专用模型。正如自然界中切叶蚁拥有四种不同体型的工蚁一样，系统设计也应明确各层级的定位。引入 Just-in-Time (JIT) 决策模型之所以容易，正是因为它们属于“工人”角色，专为快速接触信息并在大规模工作负载的低端部署而设计。第三个角色则是“爬山者”或服务器，即能够自我优化的模型，它们能在稳定的基础上尝试新事物、调试并寻找最优解。

"The first one wants slower models with heavier, thicker tokens... The models you want inside pipelines though are the opposite. You want them cheaper, faster, specialized"

小样本统计陷阱与交互代理的风险升级

在之前的工作中，我们最常听到的问题是“能否让决策数据驱动？”当面对平台上的数千艘船只时，这个问题是合理的；但当只有 50 个用户时，询问同样的问题则是错误的。从统计学角度看，对仅 50 个用户进行 A/B 测试并非因为得不到结果，而是因为会得到极具误导性的结果。因此，唯一真正的选择是不产生任何数字。然而，如今的情况更为严峻：交互式代理总是能迅速给出答案。当你要求某种转换时，你会得到肯定的回应。这种即时性导致错误迅速累积，聊天中的每一个时刻都可能成为永远等待被发现的噩梦。这一现象的核心原因在于，当前的智能系统未能区分上述三种角色，导致在需要严谨统计推断的场景中使用了错误的模型类型。

俄亥俄州竞选财务数据的实体解析实战案例

我们以俄亥俄州的竞选财务数据为例，展示 JIT 决策模型在实体解析管道中的应用。我们在小规模开发集上测试了三种架构：仅使用廉价推理模型、JIT 配合推理模型处理不确定项，以及由推理模型提出答案并由 JIT 检查。在约 200 个家庭样本中，仅使用廉价推理模型的效果与 Fable 相当，但成本仅为 2%。然而，JIT 最初因自信地拒绝所有链接而漏掉了九个家庭关联。通过重写问题定义（如明确“多少证据算足够”），JIT 的表现从全部拒绝转变为正确识别。随着扩展到全州 203,317 个案例，我们进行了十多次资格认定轮次，每一轮都修正了委员会、申报人或共同居住地址的定义。最终，每个案例都拥有了基于证据和检查深度的标签。

成本效益分析与代理的自我优化过程

整个全州任务的总花费为 795 美元，这是在预先设定的 800 美元预算内完成的。成本结构显示，检查（包括第二意见、解决争议和审计）花费了 545 美元，而首次回答仅花费 128 美元。在引入 JIT 之前，我们预计这项工作成本约为 10,000 美元。随着管道建立并验证，下一个州的审计预算预计接近零。Agent 4A（运行在 Astra 和 Opus 上）通过自行构建、调试和尝试新架构，独立发现了大多数方法。它在 10 天内运行了超过 4,000 次挂起，调用了 90,000 次 JIT 请求，尝试了帕累托前沿上的几乎所有模型，并处理了约 60 亿个令牌。这些迭代版本被记录在 Hank 库中，易于回退、理解和批评，证明了将工作从人类主线程转移给代理的价值。

模型先验偏差与“幻觉”案例

大语言模型在处理数据时，会像人类一样带入自身的“先验信念”，即对世界应有样子的预设。这种模型自带的第四种模式（Schema）有时会导致严重错误，且大型模型往往更固执地坚持其信念。演讲者分享了几个典型的数据清洗案例：首先，一个管道因大小写和连字符差异（如 in kind 与 In-kind），将 15,658 笔实物捐赠误计为普通资金，且未进行二次检查；其次，另一个模型因无法识别文件使用的第五种日期格式（仅尝试了四种），导致 99.4% 的交易日期为空，尽管行数和金额匹配，代理仍继续执行；最后，多个模型注意到贷款金额为负值后，认为符号冗余并存储了绝对值，最终将 78.4万 的净额错误地转换为 530万美元 的债务。演讲者指出，这类因模型“直觉”错误导致的偏差正成为数据工作中最大的错误类别。

交叉先验验证与成本权衡

面对模型偏差，人类直觉介入虽有效但昂贵且缓慢。演讲者提出利用“交叉先验交集”来缩小错误范围，即让不同架构的模型互相验证。在针对 200 个保留数据集家族的测试中，Jev和Luna两个模型在 194 个案例上达成一致，且这些共识答案无一错误；所有错误均集中在它们意见不一致的 6 个案例中。不同背景的模型往往拥有不同的先验，因此更容易发现彼此盲点（除非是同一公司蒸馏出的同质模型）。通过这种方式，可以将错误率大幅降低至一个虽小但顽固的类别。当多个不同模型家族产生相同结果时，若仍出错（如共享了错误的符号约定），则需列出这些特定问题并应用针对性解决方案。这种策略通过减少验证表面，显著降低了错误率。

实现自我优化的四大支柱与架构

要实现系统的自我优化，需具备四个关键要素：一是稳定的部署表面（如使用Hank Weave等工具提供一致API、检查点和回滚机制）；二是实验边界控制（限制成本、时间和资源访问）；三是方法论知识（将两年来的代理模式调试技巧转化为高效的Token表达）；四是“故障表面”（Failure Surface），即定义明确的基准以进行迭代。演讲者引用阿基米德的话强调，只要有稳定的构建基础和可迭代的故障表面，几乎无解不可破。具体流程包括：首先检查任务并拆分（如将 80万 行数据拆分为 20万 个小型案例）；其次定义故障表面（通过小规模手动检查或自动化Schema检查设定基准）；接着进行最小化有界试点，测试架构有效性。

即时本体与未来展望

在验证有效的代码段被称为“Codons”，它们被独立循环、验证并串联，最终部署到生产环境中逐步成熟。这一过程的核心在于“冲浪”：找到稳固架构后，通过替换更快更便宜的模型、收紧成功标准来逼近理想状态。在这种系统中，“本体”（Ontologies）作为智能与结果之间的中间件存在，易于复用。演讲者提出“即时本体”（Just-in-Time Ontologies）概念：本体按需构建，保留上下文证据，并在后续相同任务中复用。这种模块化使得并行扩展成为可能，从而降低成本。“没有通用的本体”是演讲者的核心结论：只要能够标记并保留上下文，任何本体和模式都是有效的。随着廉价智能的普及，未来将实现任意格式信息的最大化利用。

结论

即时本体论通过分离慢速推理与快速执行，在俄亥俄州竞选财务案例中证实了将实体解析成本从1万美元降至795美元的可行性，证明了在决策时刻进行数据整合的高效性。其核心优势在于利用廉价智能处理大规模重复任务，并通过交叉先验验证显著降低模型幻觉带来的错误率。然而，该方法高度依赖稳定的部署表面和明确的故障基准，且在小样本统计场景下仍面临误导风险。结论表明不存在通用超级模式，本体需按需构建并保留上下文证据；随着廉价智能普及，这种模块化、可复用的即时本体架构将成为最大化利用任意格式数据的关键路径。