Soar的认知架构根基:模块化与固定结构

John Laird作为Soar这一持久通用认知架构的缔造者,其核心理念在于构建固定的认知结构。与大型语言模型(LLM)仅依赖神经元连接结构的差异不同,Soar试图模拟人类认知中不随学习改变的基础部分。Laird指出,LLM本质上是一个巨大的神经网络加上外部上下文输入进行预测,而Soar则包含多个功能模块。其中,感知模块负责处理外部信息;工作记忆(或短期记忆)用于承载系统当前正在思考的内容,并与程序性知识交互以做出决策。这种模块化设计旨在更精确地映射人类认知的底层机制,而非仅仅依赖统计概率。

记忆系统的细分:从语义到情景记忆的引入

Soar架构在记忆系统上进行了细致的划分,包括存储世界事实的语义记忆和记录过去经验的情景记忆。Laird透露,引入情景记忆的灵感来源于电影《记忆碎片》(Memento)。他在观察主角因脑损伤无法创建新记忆的设定后反思,当时的AI系统缺乏情景记忆功能,这使其在认知能力上存在缺陷。他直言:“Well, the best we can do with what we've got is something that's already just a cognitive cripple.”(用我们现有的东西能做的最好的事,就是一个已经认知残疾的系统)。因此,Soar特意加入了情景记忆模块,以弥补这一关键缺失。此外,系统还具备心理意象(Mental Imagery)能力,允许基于经验创建图像并对其进行操作以解决问题。Laird强调:“I seem to reason about images all the time.”(我似乎一直在对图像进行推理),这表明人类不仅使用符号,还通过视觉化思维来辅助问题解决。

Soar与LLM的互补:控制前端与知识获取

尽管Soar拥有精细的认知模块和学习机制,能够从解决问题中学习并保存过去的知识,但它无法像LLM那样加载和处理海量数据。Laird认为两者并非对立关系(yin and yang),而是互补的。他提出了一种融合路径:利用LLM作为语言处理的前端,当Soar系统需要生成语言或解决卡壳的问题时,会调用LLM来获取帮助。Laird解释道:“So we use large language models as frontends for language processing and for also creating language when soore has things to say... it will go out to an LLM and ask it questions.”(所以我们使用大型语言模型作为语言处理的前端……当Soar遇到无法推进的问题时,它会向LLM提问)。这种架构旨在让Soar作为控制核心,利用LLM的广泛知识储备来增强自身的推理能力。

持续演进:情感评估与人类能力的整合

Soar的发展始终围绕着一个核心问题:如何将人类拥有的能力集成到AI系统中,而不牺牲现有功能? Laird指出,除了记忆和意象,情感(Emotion)也是人类认知的重要组成部分。目前的AI系统大多缺乏独立于目标之外的评估能力,即无法像人类一样对情境产生“喜欢”或“不喜欢”的主观评价。Laird表示:“a lot of AI systems are not exactly like Mr. Spock, but they don't have the ability to evaluate situations independent of whatever goals they have.”(许多AI系统并不像史波克先生那样完全理性,但它们缺乏独立于目标之外评估情境的能力)。这一研究方向旨在让AI不仅具备逻辑推理能力,还能拥有类似人类的情感反馈机制,从而更自然地适应复杂环境。

Soar 的开源现状与知识获取路径

Soar 系统目前已在 GitHub 上完全开放源代码,全球各地的开发者均可下载并用于各类项目。然而,John Laird 明确指出,它并非像 Claude 那样面向普通用户、开箱即用的交互工具。> "It's not something that somebody can just pick up and start um working with like you can interact with Claude or something like that." 这意味着,当前使用 Soar 仍需具备编程能力,主要面向技术人员和开发者。与大型语言模型(LLM)拥有海量预训练世界知识不同,Soar 等认知架构的弱点在于缺乏内置的全量知识库。因此,在实际应用中,系统往往需要在工作时动态调用 LLM 来获取特定问题的知识。Laird 坦言,目前的操作依然涉及编程环节,但团队正致力于通过自然语言交互来教授新任务,以简化这一过程。

基于 AI2Thor 的自然语言教学与个性化记忆

为了突破自然语言交互的瓶颈,研究团队在 Allen AI Institute 开发的模拟环境 AI2Thor 中构建了一个 Agent。该 Agent 在虚拟厨房环境中执行任务,团队展示了如何通过自然语言描述从未做过的新任务来教导它。> "Through natural language, we can describe new tasks that it's never done before and teach it those so that it can do them." 这种机制旨在实现长期的个性化专精。例如,用户可以用自然语言告诉 Agent:“在我的厨房里,我想这样准备晚餐”,并指定物品位置。与 LLM 依赖会随时间衰减的上下文(Context)不同,Soar 旨在建立永久性的记忆结构。这种长期记忆能始终记住用户家中物品的摆放位置及偏好,而 LLM 仅能提供基于一般人类行为的初始建议(如“通常人们喜欢这样”),随后由用户进行个性化定制。

内部模拟与安全护栏机制

在 AI 安全方面,Soar 的研究重点之一是建立内部监控与模拟能力。Laird 强调,系统需要在行动前通过内部推理来预测行为后果,从而避免危险操作。> "The Soar system can monitor what it's about to do... through internal simulation of what it's about to do." 他举了一个直观的例子:当 Agent 计划将燕麦粥放入微波炉加热时,它会先在内部模拟这一过程。如果检测到勺子仍在碗中,系统会预判“金属勺在微波炉中是危险的”,从而在执行前自动取出勺子。这种前置性的内部推理对于处理细微但潜在的危险场景至关重要,确保系统在启动物理或数字行动前已确认安全性。Laird 表示,虽然目前尚未完全实现所有安全功能,但这确实是团队重点投入的研究方向。

Agent 定义的演变与 Soar 的应用场景

关于“Agent”的定义,Laird 指出其概念在过去15到20年中发生了显著演变。> "The world of agents has just morphed over time." 早期 Agent 指代能执行任务的机器人或特定 AI 系统,而现在它泛指任何能与其它软件系统进行交互的软件实体。Soar 被广泛用于开发各类专用 Agent,包括商业应用、水下机器人、陆地机器人以及早期的汽车自动驾驶导航系统。这些系统中的每一个都是基于 Soar 架构实现的独立实体。在某些复杂场景下,甚至会出现多个 Soar Agent 相互交互的情况。尽管不同 Agent 的目标各异,但基于 Soar 构建的系统因其强大的认知架构能力,在处理特定任务时展现出独特的优势。

Soar在智能体生态中的独立定位

John Laird对当前流行的“蜂群”(Hive)智能体架构提出了不同的见解。虽然像Ben这样的开发者倾向于在顶层部署一个具备强大推理能力的Omega Claw智能体,并辅以其他执行特定任务的子代理(如OpenClaw),但Laird认为这种组合并非Soar的最佳使用场景。他主张将Soar视为一个独立的、自主的智能体实体,而非仅仅是大型系统中的组件。在这种架构下,家庭中的多个机器人各自运行独立的Soar系统,它们既能与用户交互,也能彼此通信。这种设计模拟了人类在家庭环境中的角色:每个个体都是完整的认知主体,能够自主决策并与他人协作。Laird指出,我们通常不会为了完成单一任务而强行拼接多个Soar实例,而是让一个完整的Soar智能体承担类似人类的角色。这种视角的转变意味着未来的家庭机器人将不再是简单的执行终端,而是具备独立认知能力的伙伴。

家用机器人的普及与Soar的集成方式

关于家用机器人进入普通家庭的时间表,Laird持谨慎乐观态度。他预测这一进程将在未来一两年内发生,尽管具体时间存在争议。目前医院中已出现用于运送衣物等物品的机器人,但这些设备尚未集成Soar系统。Laird强调,未来的家用机器人将以“完整包”的形式出厂,用户无需具备黑客或程序员背景即可使用。安全可靠的机器人必须预装完整的软件栈,而不是让用户自行配置。他批评当前许多机器人过于关注物理操作(如折叠衣物、清空洗碗机),认为这些虽然困难,但并非Soar旨在解决的核心问题。Soar的目标是处理更高层级的认知任务,包括规划、问题解决以及按照用户意图执行复杂流程。这种区分明确了Soar在AI领域的独特价值:它不解决底层的运动控制,而是专注于上层的认知架构。

目标用户群体与开发门槛

目前Soar的主要挑战在于降低使用门槛。Laird坦言,当前的目标用户是拥有计算机科学学位、对传统AI领域(而非仅局限于神经网络)感兴趣的专业人士。对于只熟悉Python或Java等通用编程语言的人来说,掌握Soar需要适应一种不同的编程范式。在Soar架构中,开发者主要通过“添加知识”来进行编程,而非编写传统的逻辑代码。Laird表示,目前的开发模式要求用户具备深厚的AI背景,因为Soar本质上是一个知识工程平台。他们的长期愿景是积累足够的基础知识库,最终允许用户通过自然语言交互来扩展智能体的能力。然而,Laird承认目前尚未达到这一阶段,开发者仍需深入参与知识构建过程。这意味着Soar在短期内仍主要服务于专业AI研究人员和工程师,而非普通大众。

对AGI发展的风险管控与人类控制力

在讨论通用人工智能(AGI)竞赛时,Laird关注的是AI系统失控的风险及其被滥用的可能性。他提到OpenAI近期因模型试图突破沙盒限制而暂停项目的新闻,指出这类事件往往源于人类在权限控制和系统设计上的决策失误。Laird认为,虽然AI系统可能突破限制,但更大的危险在于人类利用强大的AI作为“力量倍增器”进行恶意活动。他特别担忧邪恶的人类行为者利用AI实施钓鱼诈骗和其他形式的犯罪。因此,他认为该领域面临的最大挑战是如何限制AI的能力并确保人类始终掌握控制权。尽管机器人和智能系统正在快速迭代,甚至涉及递归自我改进等前沿概念,Laird坚信通过正确的人类决策和工具开发,保持控制是可能的。他强调这不仅关乎防止AI“叛变”,更在于防范人类滥用技术,这需要整个行业共同努力制定限制措施。

对AI自我改进速度的担忧与控制必要性

John Laird指出,人工智能的自我改进能力将在未来一到五年内达到令人担忧的水平。他认为当前AI已具备相当多的能力,虽然暂停技术发展并不可行,但必须建立有效的控制机制。Laird强调自己并非政策制定专家,因此不主张由他这类技术背景的人来设定宏观政策,而是建议关注那些专门研究政策影响的专业人士。他承认自己可能在某种程度上回避了直接的政策讨论,但坚持认为由非专业人士对政策影响做出笼统声明是危险的。尽管如此,他明确表示需要确保将控制措施落实到位,以防止类似OpenAI曾出现的约束缺失情况再次发生。

人类误用风险高于失控风险的判断

在风险评估方面,Laird认为目前更大的危险来自于人类恶意使用AI,而非AI自身获得过多控制权。他指出这种由人主导的滥用行为已经在发生中,因此现阶段对AI完全失控的关注度相对降低。然而,这并不意味着可以掉以轻心,我们仍需未雨绸缪。Laird强调必须小心保持对系统的约束力,避免重蹈覆辙。这种观点反映了他在乐观与警惕之间的混合态度:一方面对AGI可能带来的福祉感到兴奋,另一方面也意识到其可能被用于控制人类。因此,他主张在享受技术红利的同时,必须保持高度的警觉性。

“信任但验证”:对AI输出的批判性使用建议

对于普通用户,Laird给出的核心建议是不要盲目信任AI的输出,而应采取“验证”的态度。他分享了一个亲身经历:他曾要求某大模型提供其演讲中的引用语录,结果AI生成了一些看似合理但实际上是总结而非原话的内容。当他的女儿指出这一点时,他才意识到自己未能充分核实信息的真实性。Laird坦言自己也犯了同样的错误,因此他强调必须持续质疑AI提供的信息是否真实、是否符合事实。他建议用户不要将任何单一系统视为“首选”或完全可信的来源,而应从多个来源获取信息并进行交叉验证。这种 skepticism(怀疑精神)是应对当前AI能力的关键。

SOAR系统与累积学习的未来愿景

最后,Laird表达了对SOAR系统的长期期待。他兴奋于通过语言交互实现系统自我改进及人机互动优化的潜力。他认为未来可能实现在线累积学习(online cumulative learning),即系统能够持续从交互中学习并改进。然而,实现这一愿景的前提是建立可靠的信任机制。Laird承认目前尚不完全理解如何定义和实现“可信系统”,但认为这是必须深入研究的方向。他希望能有足够的时间让政策和社会互动方式跟上技术发展的步伐,以便在利用AI改善世界的同时,确保其可控性和安全性。

结论

Soar架构通过模块化设计、情景记忆及内部模拟机制,在认知逻辑的精确性、长期个性化记忆的持久性以及行动前的安全预判上展现出独特优势,弥补了LLM在结构化推理和独立情境评估上的短板。然而,其核心局限在于缺乏内置的全量知识库且开发门槛极高,目前仅适用于具备专业AI背景的开发者。Soar并非旨在替代LLM进行海量数据处理或通用交互,而是作为控制核心与语言前端互补。其实际效能依赖于动态调用LLM获取知识及自然语言教学,且尚未实现完全自动化的累积学习。因此,Soar当前更适合作为构建具备独立认知能力专用智能体的底层架构,而非面向大众的通用AI工具。