当 GPT 5.3 Codex Spark 在 Cerebras 上实现每秒一千个 token 的生成速度时,推理过程不再成为瓶颈,网络传输成为了新的瓶颈。解决方案是采用 WebSocket 模式:用持久连接取代基于 HTTP 的服务端发送事件(SSE),以承载有状态的上下文,使得每一轮交互只需返回工具调用的结果,而无需重新发送所有数据。同样的压力也影响着上下文的构建,因为上下文需要在大小、灵活性和可缓存性之间取得平衡。
工具可以被标记为“延迟加载”,这样它们就不会进入上下文窗口,而是在模型真正需要时通过工具搜索呈现。可用技能列表被限制在上下文窗口的 2% 以内,随着列表增长超出该比例,描述会被截断。沙箱环境是 Harness 发挥价值的关键所在。文件编辑通过模型训练时接触过的“应用补丁”工具进行,其他所有操作则通过 Shell 进行,模型本能地使用 ripgrep 等工具驱动这一切,且所有操作都在沙箱中进行:macOS 上使用 Seatbelt,Linux 上使用 Bubblewrap,而 Windows 上则是团队自行构建的自定义开源沙箱。
权限疲劳往往迫使人们寻求完全访问权限,但这正是其安全团队所反对的。因此,现在当需要提升权限时,系统会启动一个具有只读权限且无法生成其他进程的自动审查子代理,根据操作记录和用户授权的明确程度来评估该操作。用户要求删除文件与用户从未提及却删除 .git 文件夹,这两者在语义上有显著差异。对于长周期目标,系统通过注入延续提示词,直到模型调用“更新目标”工具,这也解释了为什么具体、可验证的目标优于长篇大论。
Dominik Kundel 的总结观点是,Harness 采用 Apache 2 许可证,并使用 Rust 语言编写。由于大多数独特功能都体现在响应 API 中,因此你可以借鉴其中的任何部分。
演讲者信息: - https://x.com/dkundel - https://linkedin.com/in/dkundel - https://github.com/openai/codex