背景：Arca的AI原生财富管理与融资进展
在纽约举办的AI Engineer活动中，我们与Aman Singh进行了深入交流。Singh是Arca的首席AI工程师，而Arca是一家提供财富管理服务的“AI原生”公司。在这次对话中，我们了解到一个核心现象：虽然Agent（智能体）在公司内部承担了大部分后台工作，但公司设置了严格的护栏机制，确保最终决策权始终掌握在人类顾问手中。Singh用一句精辟的话概括了这种关系：“Agent更多地是在提示（prompt）人，而不是人在提示Agent。”这表明AI的角色是引导流程，而非完全替代人类判断。
Arca在近期完成了一轮由General Catalyst领投、Index Ventures和Venrock参与的融资，金额高达$48.5 Million。这一资金支持反映了市场对其AI原生模式的认可。Singh在AIE演讲中指出，金融服务中的AI应用通常涉及长周期（long-horizon）工作。这里的“长”并非指单次运行时间极长，而是指任务跨度大、流程复杂。Singh提到：“Arca的Agent任务最长可达十天。这是一个非常断断续续的过程，中间有许多参与者、许多决策点和许多交接环节。”这种复杂性要求系统具备极强的状态保持能力。
“Agents prompt people more than people prompt agents.”
为了应对这种长周期、多交互的工作流，Arca开发了一套内部记忆系统。Singh解释道：“我们为每个客户都建立了持久化的记忆存储。”这套系统负责追踪多重信息维度：“到目前为止发生了什么？接下来要跟踪什么？未来几天内需要立即执行的事项是什么？长期目标又是什么？”此外，系统还明确记录了“哪个个体负责哪项行动”。所有这些状态信息都由Agent贡献并维护在记忆系统中，确保长周期任务不会因中断而丢失上下文。
模型选择与自定义Harness架构
在底层技术栈上，Arca使用了来自前沿实验室的模型，包括Anthropic和OpenAI的产品。其中，Claude是其主要的基础模型提供商。然而，Arca并没有直接依赖这些模型的API调用，而是构建了自己的“Harness”（调度/执行框架）。这个自定义的Harness能够根据公司内部基准测试的结果，自动为特定任务选择最合适的模型。
Singh强调拥有自主Harness的重要性：“通过拥有自己的Harness，而不是使用托管的Agent Harness，Arca保留了在需要时更换模型提供商的灵活性。”这种架构解耦了应用逻辑与底层模型依赖，使得公司可以根据成本、性能或合规要求动态调整技术选型。这种自主权对于一家处理敏感金融数据的公司来说至关重要，因为它避免了被单一供应商锁定的风险。
“We have built its own harness, which automatically selects the best model to use for a particular task, based on the company’s internal benchmarks.”
这种自主架构还允许Arca对模型进行更精细的控制。例如，在处理不同复杂度的金融分析任务时，Harness可以决定是使用轻量级模型进行快速数据提取，还是调用强大的推理模型进行深入分析。这种灵活性不仅提升了效率，还增强了系统的鲁棒性。
长周期任务中的记忆与状态管理
针对金融工作中常见的“断断续续”特性，Arca的记忆系统设计旨在解决上下文丢失的问题。Singh详细描述了记忆系统追踪的四个关键维度：
- 历史状态：“到目前为止发生了什么？”——记录已完成的步骤和当前进度。
- 短期计划：“未来几天内需要立即执行的事项是什么？”——确保紧迫任务不被遗漏。
- 长期目标：“接下来要跟踪什么？长期来看需要关注哪些指标？”——维持战略方向的一致性。
- 责任归属：“哪个个体负责哪项行动？”——明确人类顾问与Agent的职责边界。
这种细粒度的状态管理使得长达十天的任务能够平滑过渡。Agent在每次交互后都会更新记忆，确保下一次启动时能无缝衔接之前的工作流。Singh指出：“所有这些都被我们的Agent贡献到记忆系统中进行追踪。”这种设计不仅提高了自动化效率，还增强了人类顾问对任务进度的掌控感。
“What has happened so far? What are we tracking for next? What needs to happen immediately in the next couple of days [and] what are we tracking for the long term? Which individual is responsible for which action?”
通过这种记忆机制，Arca成功地将非结构化的长周期工作转化为可追踪、可管理的结构化流程。这不仅降低了人为疏忽的风险，还使得Agent能够作为可靠的助手，持续推动任务向前发展。
安全护栏与人类最终决策权
在金融服务领域，安全性是重中之重。Singh明确表示：“虽然Agent完成了大部分工作，但其角色仅限于分析和提出解决方案。”交易执行和任何资金移动必须由人类顾问处理。这种设计确保了高风险操作始终处于人类的监督之下。
Arca的安全限制是完全确定性的（fully deterministic）。Singh解释道：“这些安全机制将决策权从Agent手中剥离。”这意味着，无论Agent的分析多么精准，它都无法直接执行涉及资金变动的操作。只有那些不涉及客户风险的工具和任务，Agent才能自主执行。
此外，Arca还针对已知的AI安全问题进行了验证检查，例如提示注入（prompt injection）。Singh提到：“我们还运行针对已知AI安全问题的验证检查。”这种多层防御机制确保了Agent在复杂交互中的行为可控。
“All of our safety restrictions are fully deterministic. And they take the decision making off the agent's hands.”
这种“人类在环（Human-in-the-loop）”的设计不仅符合金融行业的合规要求，也建立了客户对AI系统的信任。通过明确界定Agent的能力边界，Arca在利用AI效率的同时，最大限度地降低了潜在风险。
代码沙箱与数据访问控制
为了平衡Agent的灵活性与安全性，Arca采用了独特的数据处理方式。Singh指出：“我们的Agent本身并没有被沙箱化（sandboxed），但它使用沙箱进行计算。”更进一步，公司采取了额外措施来保护敏感数据。
Singh解释道：“我们构建了系统，使沙箱内的代码能够安全地访问我们的数据。”具体机制是：Agent编写的代码会被转换为一种严格预期的格式。随后，原始代码被丢弃（throw away），并在该格式上安装护栏后，再将其传递到后端。这种设计允许Agent使用代码来查询、聚合和处理数据以生成财务计划，但通过格式转换和护栏机制，确保了代码本身无法直接访问敏感数据或执行恶意操作。
“We've built systems to make it safe for code inside of that sandbox to access our data... throw away the code, and you install guardrails on that format before it reaches your back end.”
这种“代码即数据”的处理方式，既保留了Agent处理复杂逻辑的能力，又通过严格的格式约束消除了代码执行层面的安全隐患。Singh强调：“我们允许Agent使用代码来查询我们的数据，这意味着它们可以聚合、处理数据……以生成诸如财务计划之类的输出。”
基于反馈的持续优化机制
Arca不仅关注单次任务的安全性，还致力于通过人类反馈来不断优化Agent系统。Singh介绍了一种独特的改进流程：利用人类顾问的反馈和Agent的执行轨迹（traces）来提升Harness的性能。
具体而言，Arca使用一个“元Agent（meta-agent）”来分析这些数据。这个元Agent负责审查顾问的反馈和Agent的工作记录，并据此提出对Harness的调整建议。这种机制形成了一个闭环：人类顾问的隐性知识被转化为显性的优化指令，进而提升Agent的整体表现。
“A 'meta-agent' is used to analyze all this data and suggest changes to the harness.”
这种基于反馈的迭代方式，使得Arca的系统能够随着使用时间的推移而不断进化。它不仅依赖于预设的规则，还吸收了人类专家的实际操作经验，从而更好地适应复杂的金融场景。
结论
Arca的实践表明，在金融服务领域引入AI Agent并非简单的自动化替代，而是一种“人类主导、Agent辅助”的新型协作模式。通过构建长周期记忆系统、自定义模型调度Harness以及严格的安全护栏，Arca成功解决了金融任务中上下文保持、灵活性和安全性三大核心挑战。其核心理念“Agent提示人而非人被提示”，强调了AI在引导流程、提供分析建议方面的价值，而将最终决策权牢牢掌握在人类顾问手中。这种架构不仅提升了服务效率，还通过确定性安全限制和代码沙箱机制确保了合规性。未来，随着元Agent等自我优化技术的成熟，这种人机协作模式有望在更多高风险、长周期的专业领域得到推广。