本视频介绍 OpenLumara,或者如开发者所言,这是一种不同寻常的 AI 智能体,它并非被“擦除代码”。这是一个从零开始构建的 Python 框架,专为本地模型设计,旨在解决 OpenClaw 和 Hermes 限制上下文并需要繁琐 Shell 访问权限的问题。OpenLumara 提供 4000 个 token 的提示词,并将一切功能模块化,从记忆到 Shell 均可切换。在本视频中,我们将安装 OpenLumara,并将其与基于 Ollama 的模型集成。我是 Fad Midsa,欢迎订阅我的频道。最近我还开始了一份免费的每周 AI 通讯,您可以在 fajhatza.supstack.com 订阅。回到这个工具,让我开始安装。顺便提一下,我在这台 Ubuntu 系统上使用带有 48GB 显存的 Nvidia RTX 6000。我正在克隆仓库,链接将在视频描述中提供。从仓库根目录运行 run.sh 脚本。他们也提供了 Windows 的批处理脚本。让我们运行它,它将创建虚拟环境,这需要一点时间。

在设置一切的同时,让我们更深入地了解这个工具,看看它究竟在做什么。正如我之前所说,它无法看到你的 API 密钥。它可以运行任意 Shell,但默认情况下是禁用的,因为它拥有 Docker 沙箱模块,且网络访问通过控制工具进行,而非直接访问。其杀手级用例是本地优先的生活管理,例如待办事项、笔记、日历和习惯,AI 会在对话中自然地提供提醒。它还针对 llama.cpp、CPP 和 Cobalt CPP 进行了优化,但可连接到任何兼容 OpenAI 的后端。这就是为什么我要将其连接到 Ollama。

在架构方面,它拥有一个简单的核心,处理智能体循环和工具调用。其他一切均为模块,仅在启用时加载到 Python 中。因此,禁用的模块零 token 占用且零攻击面。它还支持 Telegram、Discord、CLI 和 Web UI 等渠道,但这些是用于与核心通信的独立层,所有数据均以开放格式存储在一个文件夹中,无锁定风险。他们正试图使其更具模块化。这个想法在我看来很不错。顺便提一下,安装完成后,它已启动并运行。它加载了所有默认模块,甚至启动了两个渠道。如你所见,终端中的 CLI 提示符为“user”,以及端口 3000 上的 Web UI。它甚至在首次启动时自动备份了数据。

现在它提示我们在 Web 中打开它。所以我直接访问 localhost 端口 3000。瞧,OpenLumara 正在运行。为了设置模型,操作相当直接。点击右上角的齿轮图标。从这里,进入 API,设置本地模型服务的 URL。这是密钥,我可以随便填一个,或者填你想要的任何内容,这真的不重要。完成此操作后,我将保持其余部分不变并保存更改。保存更改后,点击左侧的“模型”,刷新一下,它应该已经显示模型了。瞧,然后你可以设置一些超参数,或启用思考推理,或为智能体循环保留思考过程。这取决于你。

我们之前已经针对这些概念分别制作过视频,解释了它们的确切含义。但更重要的是,你可以通过切换它们来设置许多渠道,因为这里的理念是工具非常模块化。然后在左侧,你可以看到我之前提到的微小核心。这就是我之前提到的文件夹。此外,在外观方面,你可以设置字体大小、颜色、主题等。如果我向下滚动,你会看到这些颜色主题,你可以根据自己的喜好进行设置。让我们保存更改并尝试一下。我说“好的,这就是原因,因为我认为他们需要改进这一点。应该有一个全局按钮”,但无论如何,因为我在选择模型时没有保存。所以让我在这里保存它。保存只是关闭窗口。

现在让我在这里发送一条消息。我说:“你好,你在镜头前。”它现在正在使用 Qwen 模型进行思考。瞧,这是一个相当不错的聊天机器人。它说它调整了其想象中的相机镜头。这是典型的 Qwen 风格。瞧,它不仅给了我回复,还提供了一个关于自身的简要介绍和帮助模块。但到目前为止,这仅仅是又一个聊天机器人,在过去几年中我们见过无数这样的产品。所以我对此并不感兴趣。这里的核心功能是模块。所以如果你再次进入设置并查看模块选项卡,你会发现 23 个模块中有 16 个已启用。所以这只是简单的切换,这正是它与其他工具不同的地方。

其他工具也允许你做类似的事情,但我觉得没有这么容易。这就是我认为他们试图区分自己的地方。但无论如何,例如,只需轻松切换启用网络搜索,然后保存更改。就是这样,你只需要这样做。然后它开始运行,并向你显示所有系统日志。我该如何关闭它?好吧,我只需点击 X,它应该就会消失。还可以做的另一件事是,你可以直接在 CLI 上检查状态。它只是告诉你状态、上下文大小等信息。这相当不错。现在,我不确定它是否有自己的记忆。让我们检查一下。我只是让它,你知道的,把这个添加到我的待办事项列表中。它在思考、发送,希望它只是使用自己的记忆。我稍后会告诉你结果。

瞧,这是一个它执行的工具调用,并将其记录到了其记忆中,这相当有趣。另一个功能,我认为仍在发展中,但我觉得非常有前景,也许是杀手级功能,那就是可扩展性角度。如果你再次进入设置并查看这些用户模块。你可以通过自己的模块来扩展它,我希望 OpenLumara 能为我们编写自己的模块。让我们检查一下。与其在聊天中操作,我将进入 CLI,并粘贴以下内容:创建一个用户模块,生成介于最小值和最大值之间的随机数。让我们看看它是否能做到这一点,然后我们再来检查。

正如你所见,它为用户模块编写了所有代码。然后它告诉我需要做什么以及如何保存它。我不想自己动手。让我看看它是否可以将该模块保存到文件夹中。它创建了那个 pi 文件。让我在浏览器中检查一下。瞧,随机数 pi。让我们进入 OpenLumara。从这里,你只需要进入设置的用户模块

你的模块就在那里。你可以将其开启,然后保存,接着你就可以在聊天或任何你喜欢的地方使用它。就像这样,你可以直接使用它。我认为这是他们需要改进的地方,因为这是一个误报。我正在使用基于本地 Llama 的模型。就是这样。这就是为你带来的全新 OpenLumara 工具。请告诉我你的想法。如果你想

帮助这个频道,请成为会员。