核心主题与Ollama安装基础

本期视频由博主小木头分享如何基于 Ollama 运行本地化的 Hermes Agent 智能体。Hermes 是近期非常流行的一款智能体工具,用户在运行此类智能体时,往往对 个人数据的隐私性 有高度期望。Ollama 是一款流行的大模型本地运行工具,其提供的模型本地化服务是实现这一目标的关键。博主首先介绍了 Ollama 的安装方式,用户可以通过复制官方网站提供的 curl 命令进行安装,或者直接点击 Download Ollama 下载安装程序。博主在本地环境中已完成安装,并查看当前版本为 0.2.1.0。博主强烈建议用户升级到最新版本,因为在后续演示中,将用到 Ollama 一个非常重要的新功能——Ollama Launch

“Hermes是最近非常流行的一款智能体,在智能体运行中,或许我们会期望具有高度的个人数据的隐私性。”

Ollama Launch 简化安装流程

完成 Ollama 的基础安装后,接下来的重点是将 Hermes Agent 的安装工作交付给 Ollama 管理。这意味着用户只需运行一条命令 Ollama launch Hermes,即可自动完成智能体的安装以及一系列 onboarding(入职引导)操作。博主强调这一过程 非常非常简单。在终端中复制并运行该命令后,系统检测到当前尚未安装 Hermes,随即开始自动安装。整个安装路径与手动安装完全一致,会在用户目录下生成一个 .hermes 目录。因此,在日常的安装、配置和使用体验上,与过去手动安装 Hermes 并没有太大差别,但自动化程度得到了显著提升。

“换句话说,我们运行命令 Ollama launch Hermes 就可以完成智能体的安装以及 onboarding 等等一系列的操作,非常非常的简单。”

安装后的配置与技能同步

安装完成后,博主详细解析了 Ollama launch 命令背后执行的具体操作。其中很重要的一部分是 同步了大量的 Skill(技能),目前 Hermes Agent 内置了多种技能包。此外,系统还生成了重要的配置文件,例如位于用户主目录下 .hermes 文件夹中的 config.yaml,其他相关文件也均存放在 .hermes 目录中。用户可使用的命令包括 Hermes setupconfigconfig edit 等,这些与本地安装时的操作保持一致。另一个关键点在于 模型的配置:在执行 Ollama launch 命令时,用户可以选择由 Ollama 在本地运行的模型。博主指出,目前列表中显示的 Gemma 4、千问 3.5 等本地模型处于 未下载状态,若选择对应模型,系统将自动完成下载,从而使用本地化模型,这能进一步保障个人数据的隐私性。

模型选择与云端连接演示

在视频演示环节,博主暂时选择使用 云端版本 来完成后续配置,以便展示连接流程。博主选择了 千问 3.5 Cloud 模型,这一步骤会连接到 Ollama 的云端服务。博主点击 Connect 完成连接,随后在终端中选择 Yes 继续,从而完成了模型的配置。博主再次强调,如果用户选择本地化版本,系统则会完成模型的下载并使用本地版本,这对于注重隐私的用户来说是更优的选择。接下来,博主开始配置一个聊天应用,首先需要 启动网关服务。博主依然选择 Telegram 作为平台,需要输入 Bot Token 和允许的 User ID。在权限方面,博主希望进行配对操作,后续配置保持默认。完成设置后,选择启动网关服务。

“那大家如果选择对应的模型,则会完成下载,从而使用本地化的模型,这样也能进一步的保证大家个人数据的隐私性。”

网关服务启动与Telegram配对

在尝试启动网关服务时,系统提示启动失败,并建议用户使用 root 用户 重新运行。博主在单独的一个终端中再次运行 Hermes Gateway 以启动网关服务。启动成功后,博主向该 Telegram 机器人发送了一条新消息,收到了一条 pairing(配对) 命令。博主复制该命令,在终端中进行配对操作,至此,一个可以正常工作的 Telegram 机器人便搭建完成。博主测试了机器人的功能,询问其使用的模型,机器人回答使用的是 千问 3.5 云端版本,端到端流程一切正常。这表明通过 Ollama 管理 Hermes Agent 的链路已经打通。

技能支持与最终总结

在 TUI(文本用户界面)的启动画面中,可以看到目前可用的技能列表。与 OpenCL 类似,Hermes 目前支持到了日常工作和学习方方面面常见的一些 技能包。至此,博主成功在本地实现了利用 Ollama 来运行 Hermes 并管理模型的目标。博主总结道,如果用户已经拥有 Ollama 和本地模型,不妨将 Ollama 升级,通过 Ollama 来管理自己的 Hermes Agent,利用本地模型来提高数据的隐私性。这或许是日常 Agent 使用中大家非常期望看到的特性。博主邀请观众在评论区留言分享使用 Ollama 加 Hermes 组合的效果,并结束了本期分享。

“这样呢,我们就在本地实现了利用 Ollama 来运行 Hermes 管理模型。”