大家好我是小木头 Hermes 是最近非常流行的一款智能体 在智能体运行中 或许我们会期望具有高度的 个人数据的隐私性 本期视频 我们分享 如何基于 Ollama 运行本地化的 Hermes agent 重点 应该是 Ollama 所提供的模型本地化服务 那现在就开始今天的分享吧 Ollama
是一款非常流行的 大模型本地运行工具 我们首先安装 Ollama 大家可以复制官方网站的这条 curl 命令 进行安装 也可以点击 Download Ollama 下载安装程序 在本地环境 我已经完成安装 我使用的是 0.21.0 推荐大家升级到最新版本 在后续演示中咱们会用到它
非常重要的一个新功能 ollama launch 完成 Ollama 安装后 咱们就可以将 Hermes agent 的安装 也交付给它 换句话说 我们运行命令 ollama launch Hermes 就可以完成
智能体的安装 以及 onboarding 等等一系列的操作 非常非常的简单 我们现在就复制命令来查看一下版本 在终端这里运行它 在当前的系统中 我还没有安装 Hermes 那么咱们就来安装一番 它的安装步骤 与我们手动进行 Hermes 安装是一样的 安装的路径呢 也是同样的 在自己用户目录下
会有这么一个 .hermes 目录 因此在日常的安装配置使用中呢 与过去咱们手动的安装 并没有太大的差别 Hermes agent 安装完成 我们来看看安装步骤中 它究竟做了些什么 很重要的一部分是同步了大量的 skill 那在这里列出来了目前 Hermes agent 内置的 skill
另一方面是一些重要的文件 比如配置文件 在用户主目录下 .hermes 下的 config.yaml 其他文件呢 也都在 .hermes 目录中 这与本地的安装是一样的 我们可以使用的命令包括了 hermes
setup、 config、config edit 等等 另一个很重要的点是模型的配置 在 ollama launch 命令的执行中 我们可以选择模型 在这里咱们可以选择 由 Ollama 在本地运行的模型 目前我还没有下载本地模型 大家在这里看到的 Gemma、 Qwen 3.5 本地模型呢
都还处于未下载状态 那大家如果选择对应的模型 则会完成下载 从而使用本地化的模型 这样也能进一步地 保证大家个人数据的隐私性 那么在视频演示中呢 我们就先用云端版本 来完成后续的配置 比如我选择 Qwen 3.5 cloud 在这一步会连接到 Ollama 的云端服务 我们选择 connect
完成连接 回到终端 选择 yes 继续 这样就完成了模型的配置 再次强调一下 大家如果选择本地化的版本呢 则会完成模型的下载 并且使用本地版本 接下来配置一个聊天应用 首先要启动网关服务 我们依然选择
Telegram 输入 Bot Token 允许的 user ID 在权限方面 我们依然希望能够做配对完成 后续的配置呢 咱们保持默认 选择启动网关服务 看起来网关服务启动失败 建议我们使用 root 用户来重新运行 我们现在在单独的一个终端 再次运行 Hermes Gateway 启动网关服务
启动后我在这里呢 发送了一条新的消息给这个机器人 会得到一条 pairing 的命令复制它 在终端做个配对 现在就有了一个 可以正常工作的 Telegram 机器人 看起来工作一切正常 问问它用的什么模型吧 Qwen 3.5 云端版本挺不错的 端到端一切正常 我们可以在 TUI 的启动画面这里
看到目前可以使用到的技能 跟 OpenClaw 类似 目前呢它也支持到了在日常的工作、 学习方方面面 我们常见的一些技能包 这样呢我们就在本地实现了 利用 Ollama 来运行 Hermes、管理模型
好了今天的分享就先到这里 如果大家已经有了 Ollama 已经有本地模型正在使用中 不妨将 Ollama 升个级 通过 Ollama 来管理自己的 Hermes agent 利用本地模型 来提高自己数据的隐私性 或许这也是在日常的 agent 使用中 大家非常期望看到的特性 好了今天的分享就先到这里
大家是否已经开始使用 Ollama 加 Hermes 这套组合呢 效果如何呢 欢迎在评论区给我留言 那我们就下期视频分享再见