[音乐]
大家好,很高兴向大家介绍 Exa 的一项最新功能:版本控制搜索。我是 Ryan,Exa 的前端部署工程师。由于时间有限,今天我将简要概述两件事:首先解释什么是 Exa 以及代理式网络搜索的概念;其次讲解如何利用该功能对金融模型进行回溯测试。理解这些概念有助于大家认识其价值,从而更好地使用它来完成后续任务。
为了了解在座各位的情况,请问有多少人之前听说过或用过 Exa?看来有不少人。再问下,大家以前是否都用过 Google 进行工作或个人的搜索?相信大多数人都有类似经历。那么最后,有多少人现在已经不再主要使用 Google 进行搜索了?而是转向 ChatGPT、Claude,甚至是更前沿的 Instinct 或 Muse?看来大多数人都是如此。
我们将把这些趋势联系起来。如今许多人不再使用桌面搜索,而是让代理(Agent)代为执行,这反映了市场的广泛趋势。代理擅长理解搜索需求,因为它们可以反复尝试而不知疲倦,且非常配合、工作努力。当用户提出目标时,代理会执行多次不同的搜索以满足需求。
此外,代理的搜索方式与人类不同。人类通常输入几个关键词后便期待获得最佳结果,若未果可能会尝试新查询然后放弃。而代理则非常详尽地描述搜索需求,并在回应前执行多次搜索以全面理解相关领域。这意味着代理在单个任务上会进行更多的搜索操作。
总体而言,现在大多数人将使用代理来协调他们的搜索任务,而这正是 Exa 发挥作用的地方。当 Cursor 等系统需要检索最新文档以辅助编码代理完成轨迹时,或者在与 Gamma 交互希望获取特定 SEC 数据(如苹果2018年的数据)以完善演示文稿时,Exa 都会被调用。
Exa 拥有自己的爬取基础设施、数据库、嵌入模型和检索架构,能够精准获取代理所需的回答信息。除了大型科技公司外,我们在金融领域也服务许多典型用户:对冲基金、资产管理公司、主权财富基金和风险投资机构。这些机构都需要最新信息以支持决策,例如对冲基金经理通过交易获取阿尔法收益,或保险公司评估对手方风险。
对于风投机构而言,他们需要第一时间发现最具潜力的初创公司,而这些信息往往不在结构化数据集中。因此他们来到 Exa 寻找支持。那么,为什么选择 Exa?因为我们是一家专注于搜索市场及代理搜索方式的实验室,对此问题高度聚焦。接下来我将介绍三个核心原则,并过渡到版本控制部分。
首先是质量。确保代理在执行工具调用和检索时能获得所需信息至关重要,因为较少的工具调用能降低推理成本并提高任务成功率。我们高度重视质量领域,最近发布了一个新基准测试,旨在更准确地评估搜索工具的性能,将其与推理模型的影响分离开来。
其次是成本。这不仅涉及单次调用的费用,更在于代理执行多次搜索时的总体影响。我们关注的是完成整个任务轨迹的价值以及对总成本的影响,而非单一工具调用的价格。为此,我们开发了动态高亮功能:不再仅返回完整页面或单一页面的片段,而是针对所有搜索结果提取最精准的文本块。
实际上,使用更少的 Token 就能获得比完整页面文本高出得多的质量结果。我们有一篇关于此的博客文章,非常有趣,但基本来说这意味着你将在下游节省大量资金,因为用于代理完成其轨迹推理的输入 Token 会大幅减少。最后一点是关于延迟,由于我们拥有自己的基础设施,我们可以实现极低的搜索延迟。
我想简要谈谈另一个极端的情况,即非常耗时的深度研究。我们最近发布了 ExaAgent Ultra(大概几周前),它在许多关于超长运行搜索的基准测试中处于领先地位。这是因为我们在后台做了很多事情。显然我们拥有搜索框架,但我们也可以对它与代理交互以执行这些超长运行研究任务的方式进行优化。强烈建议你去看看这些东西。
这只是一个过渡,旨在说明“Exa 确实非常关注这个领域,我认为他们的搜索功能会很棒”。为了引出接下来有趣的部分——也就是本次演讲的主题:版本控制。最近我们发布了 ExaSnapshot,它包含超过 4000 亿个网页快照,你可以按日期搜索它们。这在金融服务行业非常有趣,我们稍后会深入探讨这一点,但首先我要简单谈谈这基本意味着什么。
我们是搜索公司,因此我们不断在互联网上搜索最新信息以添加到我们的索引中。每次这样做时,我们都会检查其新鲜度。因为最终你希望在搜索点拥有最新的实时更新信息。但由于我们进行了所有这些检查,这意味着我们可以捕获我们在检查时那些 URL 的版本历史记录。你可以通过两种方式访问它:第一种是“我知道我想找到的 URL,以及它在某个给定日期或之前的状态”。
你可以给我们一个 URL 并说:“这是我想要的日期,我要它在该日期或之前的状态,就像我在那个时间点请求它一样呈现给我。”第二种更令人兴奋的概念是版本搜索。即“如果我以前执行过该搜索,结果会怎样?”你只能获得在该时间点或之前会被提供的搜索结果。这具有非常有趣的含义,我在这里做一个很小的例子说明。
OpenAI 最近(截至10月1日左右),在左侧你会看到作为10月1日的快照搜索结果。而在右侧是几天前我制作这张幻灯片时的实时搜索。但在十月初,有一些讨论称 OpenAI 的年化运行率约为700亿美元左右。这导致市场以某些方式预测其估值的位置和程度。
随后,Axios 最初报道了这一消息,最近又有其他出版物报道称:“实际上,由于会计原因,它更接近500亿美元。”原来他们在计算总收入时,部分收入来自云提供商。从技术上讲,正确的会计处理方式应该是供应商转付,因此净年化收入更准确。这也是其他一些玩家报告的方式等。基本上,这意味着净年化运行率从700亿美元下调至500亿美元左右。
这只是你们中的一些人可能会觉得有趣也可能不会的财务细节。但版本搜索的意义在于:“假设你旨在创建一个产品、解决方案或代理,其任务是发现这类信息。”你现在可以回溯并思考:“在所有人弄清楚之前,在市场以及某些金融分析师发表抨击特定事物的文章且众所周知之前,互联网上存在什么信息?”
是否有 SEC 文件会在会计附注中揭示这一点?或者是否有一些来自其他供应商的报道,虽然你可能认为其声誉较低,但实际上能够找到这类信息,也许你应该以不同的眼光看待它们?你可以潜在地在市场其余部分发现这些情况之前追踪这些事情。但最重要的是,你不仅可以回测验证这一点:你可以调整设置模型的方式,也可以调整代理的设置。
“它能否发现这种差异?”更重要的是,“它能否以可泛化的方式找到这种差异?”让我们创建一组50个样本集,看它是否能在此表现,并在保留集中进行检查,然后说:“我认为我的模型现在在发现这类特征方面会相当不错。”这是网络搜索空间中一种新的、可以回测的特性。
这是一个小图示,旨在激发这种想法:在你使用任何现有搜索产品进行的实时搜索中,因为是实时的,所以它包含所有信息。在这个特定的小例子中,我们试图预测公司是否被收购。在这种情况下,如果你进行实时搜索,你会发现交易已经宣布,因为它发生了并到处发布。你可以说:“嘿,我正在训练一个能够预测公司是否被收购的模型。”
因此,我将回溯到公告前1天、7天和一个月,看看我能否预测它。你可以建立一组这样的公司,基本上训练你的模型或试图进行此预测的任何系统,看看它是否能够可靠地预测这一特定特征。接下来我将花一点时间谈谈目前不同的系统是如何进行回测的。
配合快照功能,这里主要有三种原型。第一种是像传统模型那样运作,可能是机器学习,甚至更简单如决策树等。其核心目标是从版本化网络中收集非结构化数据,转化为结构化的信息集。例如软件价格、情感分析或特定网站的条款与条件等。无论驱动模型的是什么,并非所有信息都持续可用。比如软件价格页面未必以版本化方式存储以便可靠访问;或者情感分析需明确信号发布的时间点,从而获取可靠的信号集并转化为模型输入进行预测。这属于基础范畴,有些人仅利用此方式丰富现有模型无法获取的数据,即“现状加一”。
更有趣的领域在于接下来的两个方面。首先是增加代理式功能的概念,即现有模型表现良好但希望加入一两个代理特性以提升性能。例如负面媒体扫描,这需要主动在网络中搜索所有相关信息,可能以多轨迹探索的代理方式进行,随后将结果整合为结构化数据。另一个例子是股票研究,旨在遍历全量公司并提取估计收入、员工人数等关键特征。这些代理式搜索在预测生命周期中用于收集信息,再输入传统模型;同时可利用快照功能对特定特征进行回溯测试。
通过回溯测试,可以模拟过去某个时间点(如一个月前或四个月前)进行负面媒体扫描的结果,并与当前实际表现对比。这特别契合金融服务客户的需求:不再仅凭信念认为搜索更优,而是能通过回溯测试验证其相对于现有流程的优势。这代表了“一步进化”。而在最右侧则指向未来,一些初创公司正在探索由代理全权管理模拟或预测的空间。中间是执行预测的机器学习模型,右侧则是负责搜索内部知识、访问数据流或调用工具以接入网络的代理。
这种架构无需构建试图代表全网访问的内部语料库,而是确保能控制特征输入,防止未来信息直接泄露至模型中。例如在预测公司收购时,需确保代理不会仅因一次网络搜索发现被收购信息就实现100%准确率预测。昨日我们举办了关于快照的扩展研讨会,约百人参与并复现了公司收购预测的案例。其中一个得分较高的特征涉及:过去一年内是否有投资者或大股东公开呼吁整体出售公司;另一个特征是该公司股价在过去五年中是否曾低于高点至少60%。
最后一个有趣特征是公司名为“Dominion”。对于熟悉回溯测试的人来说,这看似过拟合。若代理在实时数据集上训练,可能仅对训练数据过拟合。但快照的价值在于:不仅能回溯测试这些特征,还能设置评估和基准测试框架以检测此类问题并验证泛化能力。若依赖生产环境的实时测试,仅能随时间调整特征描述并与现实对比,往往需等待数月才能判断模型是具备预测力还是存在不同形式的过拟合。而快照允许描述这些复杂特征并快速验证。
这些功能或许可以想象成试图用某种非语义搜索来重现,但在现有的 Exa 语义搜索世界中,你可以尽情发挥创意。例如,你可以设定这样的查询:“嘿,我想看看是否有任何负面媒体报道那些在风险投资基金中运营、且曾在 AI 工程师播客上发言并对此发表过负面言论的知名副总裁。”你可以对这些具有预测价值的功能进行深度挖掘,因为 Exa 搜索的核心优势正在于此。随后你可以对其进行回溯测试,以验证其实际表现是否有效。
接下来我简要回顾一下重点。首先我们讨论的是使用 Exa,因为它能在所有延迟级别提供高质量、具有成本效益且准确的网页搜索。我们有很多关于此的博客文章,因此鼓励尚未尝试过 Exa 的用户去试一试。首要任务是确认:“我是否真的认为这能为我的模型带来益处?”其次,如我们之前所述,利用 Exa 快照功能对这些金融模型或风险预测模型进行回溯测试。通过结合这些网页搜索特性,你可以观察:“嘿,将其加入是否真的能为你的准确流程增加价值?”非常感谢。