大家好,我是小木头。Hermes是最近非常流行的一款智能体,在智能体运行中,或许我们会期望具有高度的个人数据的隐私性。本期视频,我们分享如何基于Alma运行本地化的Hermes

Agent。重点应该是奥拉玛所提供的模型本地化服务。那现在就开始今天的分享吧。奥拉玛是一款非常流行的大模型本地运行工具。我们首先安装奥拉玛,大家可以复制官方网站的这条 curl 命令进行安装,也可以点击 Download Olama 下载安装程序。

在本地环境我已经完成安装,来查看一下版本,我使用的是零点二一点零。推荐大家升级到最新版本,在后续演示中,咱们会用到它非常重要的一个新功能——Allama Launch。完成 Ollama 安装后,咱们就可以将 Hermes Agent 的安装也交付给他。换句话说,我们运行命令 Ollama

launch Hermes 就可以完成智能体的安装以及 onboarding 等等一系列的操作,非常非常的简单。

我们现在就复制命令,在终端这里运行它。在当前的系统中,我还没有安装 Hermes,那么咱们就来安装一番。它的安装步骤与我们手动进行 Hermes 安装是一样的,安装的路径呢也是同样的,在自己用户目录下会有这么一个 dot Hermes 目录,因此在日常的安装、配置、使用中呢,与过去咱们手动的安装并没有太大的差别。

Hermes Agent 安装完成,我们来看看安装步骤中它究竟做了一些什么。很重要的一部分是同步了大量的 Skill,那在这里列出来了目前 Hermes Agent 内置的 Skill。另一方面是一些重要的文件,比如配置文件在用户主目录下 .hermes 下的 config. dot yaml,其他文件呢也都在 .hermes 目录中,这与本地的安装是一样的。

我们可以使用的命令包括了 Hermes setup, config, config edit 等等。另一个很重要的点是模型的配置,在 Ollama launch 命令的执行中,我们可以选择模型。在这里,咱们可以选择由 Ollama 在本地运行的模型。目前我还没有下载本地模型,大家在这里看到的 Gemma 4、千问 3.5 本地模型呢,都还处于未下载状态。

那大家如果选择对应的模型,则会完成下载,从而使用本地化的模型,这样也能进一步的保证大家个人数据的隐私性。那么在视频演示中呢,我们就先用云端版本来完成后续的配置,比如我选择千问三点五Cloud,在这一步会连接到 Ollama 的云端服务,我们选择 Connect 完成连接。回到终端,选择 Yes 继续,这样就完成了模型的配置。

再次强调一下,大家如果选择本地化的版本呢,则会完成模型的下载,并且使用本地版本。接下来配置一个聊天应用,首先要启动网关服务。我们依然选择 Telegram,输入 Bot Token,允许的 User ID。在权限方面,我们依然希望能够做配对。后续的配置呢,咱们保持默认。完成,选择启动网关服务。看起来网关服务启动失败,建议我们使用 root 用户来重新运行。

我们现在在单独的一个终端再次运行 Hermes Gateway 启动网关服务。启动后,我在这里呢发送了一条新的消息给这个机器人,会得到一条 pairing 的命令,复制它。在终端做个配对,现在就有了一个可以正常工作的 Telegram 机器人。看起来工作一切正常。问问他用的什么模型吧?千问三点五云端版本,挺不错的。

端到端一切正常。我们可以在 TUI 的启动画面这里看到,目前可以使用到的技能。跟 OpenCL 类似,目前呢,它也支持到了在日常的工作、学习方方面面,我们常见的一些技能包。这样呢,我们就在本地实现了利用 Ollama 来运行 Hermes 管理模型。好了,今天的分享就先到这里。如果大家已经有了 Ollama,已经有本地模型正在使用中,不妨将 Ollama 升个级。

通过 Ollama 来管理自己的 Hermes Agent,利用本地模型来提高自己数据的隐私性。或许这也是在日常的 agent 使用中,大家非常期望看到的特性。好了,今天的分享就先到这里。大家是否已经开始使用 Olama 加 Hermes 这套组合呢?效果如何呢?欢迎在评论区给我留言。那我们就下期视频分享再见。