但最近我做了一些计算,这让我意识到这个世界有多崩坏。Cursor 20美元,Claude Max 100美元,GPT Pro 又是100美元,Gemini Ultra 再花100美元。更别提 ElevenLabs、DeepSeek,以及我两年前注册却早已忘记的所有API密钥了。我的AI成瘾变得如此昂贵,以至于我必须戒酒和禅修(Zen)。而且我不是唯一一个这样的人,因为美国的酒精销量目前处于历史低位。而这一切都要怪大AI(Big AI)。

但这成了我的警钟。从那以后,我取消了所有这些订阅,现在自建了一套面向开发者的终极AI技术栈。它不仅更便宜,而且生产力要高得多。在今天的视频中,我们将查看一堆免费的开源项目,你可以自己在服务器上运行它们。我们会让它们协同工作,同时仍保留接入Claude和GPT等大型模型智能的选项。

现在是2026年9月7日,你正在观看《代码报告》(The Code Report)。我们需要讨论的第一个工具是Ollama,因为每个AI堆栈首先都需要一个模型。对大多数人来说,这意味着将你的专有代码发送给一家万亿美元市值的公司,并相信他们会确保其绝对安全。或者你可以使用Ollama在本地完成所有操作。

我在这档频道的许多其他节目中讨论过这个工具,本质上它就像大型语言模型的Docker。它为下载和在你的机器上运行模型提供了简单的命令行界面(CLI)和API。如果你想尝试最新的中文模型或任何其他开放权重模型,这非常棒。更妙的是,你的所有提示词都保持私密,推理成本为零,这意味着即使信用卡被拒,模型也能继续工作。

然而,最大的问题是你可能没有运行接近最先进模型的硬件。小模型几乎可以在任何地方运行,但运行前沿规模的模型将需要一个小型数据中心。如果你是一个需要编写顶级“垃圾代码”(slop)的氛围工程师,这是一个大问题。幸运的是,有一个名为Nine Router的自托管解决方案可以解决这个问题。

Nine Router是一个AI工具,它通过一个本地端点坐落在一堆不同的模型提供商和你的AI工具之间。与其纠结于九个不同的API密钥,Nine Router提供了一个兼容OpenAI的代理作为单一入口,允许你将所有内容指向localhost。但Nine Router真正酷的地方在于其回退层级(fallback tiers)。

在第一层,你可能有一个你已经付费的现有订阅,比如Claude Max。然后在第二层,你可以使用一个廉价的按token计费的OpenAI模型作为备份。第三层则包含你所有的免费提供商,如中文模型、Vertex试用额度等。这意味着如果你用完了Claude Max的配额,它会自动回退到下一层,无需你进行任何操作。

此外,Nine Router还会跟踪使用情况并压缩你的工具输出以减少token消耗,这将最终为你节省大量资金。但如果你每天仍在消费数十亿个token,那么你需要了解Headroom,这是一个用于AI代理的上下文压缩层。

你让AI居中一个div(CSS属性),为了做到这一点,它读取了你package.json文件中50,000行代码。然后它蒸发了一个奥运标准游泳池那么多的水,只是为了意识到需要安装Tailwind CSS。Headroom位于你的应用程序和模型提供商之间,在内容实际发送到会产生计费输入token的模型之前,它会压缩从工具输出到日志文件以及任何其他无用片段的内容。

该工具的一个巧妙设计功能是它是可逆的。发送给模型的压缩内容缓存在你的本地机器上,这意味着如果模型需要它,它可以随时检索。这听起来很棒,但在此时此刻,你可能会想知道:我要在哪里部署所有这些内容?

答案当然是Hostinger,即今天视频的主办商。它不仅是托管你自己的虚拟专用服务器(VPS)最实惠的地方之一,而且他们的控制面板中还内置了整个Docker目录。这意味着我在本视频中提到的每一个开源项目都可以一键托管在那里。事实上,你可以让所有这些工具在同一台VPS上运行并协同工作。

前往 hostinger.com/fireship 并使用我的优惠券代码,在启动你自己的VPS时节省大量资金。完成这一步后,你接下来想在那里安装的工具是Dify(字幕中误拼为Diffy/Dify)。到目前为止我们讨论的所有内容都是基础设施,但现在是时候构建一个能让我们致富的实际应用程序了。

与其试图通过提示词来设计一切,Dify是一个可视化构建器,允许我们在画布上拖拽节点。这对Horse Tinder及其AI匹配功能来说是一个游戏改变者(game-changer)。该应用程序会将每匹马的档案信息发送给Dify,然后一个可视化工作流从数据库中检索兼容的马匹,并使用大型语言模型来解释每次匹配。

例如,“Thunder”和“Butternuts”有94%的匹配度,因为它们都喜欢越野骑行和咬孩子。然后整个工作流作为API暴露出来,因此前端应用程序可以在马匹向右滑动时随时调用它。令人惊叹的是,但在2026年第二季度Open Hands发布后,作为人类构建应用程序已经过时了。

Open Hands是一个开源工具,允许你“解雇自己”。该工具在SWE-bench Verified上是表现最佳的自主编码代理,这是一个模型修复真实GitHub问题的基准测试。与其试图构建和修复东西,只需打开GitHub问题并让Open Hands完成所有工作即可。

本质上,它为你提供了一个指挥中心,你可以在其中自托管一支始终在线并在后台工作的AI代理军队。而且因为它运行在你自己的虚拟专用服务器上,你可以选择使用OpenAI或Anthropic模型来运行它,或者使用你之前用Ollama安装的本地LLM。

至此,我们拥有了自己的私有AI堆栈,它可以构建你能想象到的任何类型的软件。但这只是冰山一角,Hostinger的Docker目录中还有大量其他开源应用程序可以零麻烦地安装。查看下方的链接,并使用优惠券代码fireship立即在Hostinger上启动并运行你自己的虚拟专用服务器。

这就是《代码报告》。感谢观看,我们下期再见。