Asustor Lockerstor 4 硬件规格与网络带宽优势
本视频重点评测了 Asustor Lockerstor 4 NAS在本地AI运行中的表现。该设备拥有强大的网络配置,包括 两个 10GBE端口和另外两个5GBE端口,总网络带宽达到 30 GBE。这一速度接近Thunderbolt 4的水平,足以支持存储和传输TB级别的AI模型文件。此外,设备内部配备了 16GB内存 和一个SSD,为运行本地AI模型提供了基础硬件支持。虽然16GB内存是当前的限制因素,但用户可以根据需求升级至 64GB 以运行更大的模型。这种高带宽与可升级内存的设计,使得该NAS不仅能作为存储中心,还能胜任本地AI推理任务。
基于 Docker 与 Portainer 的 AI 环境部署流程
为了在NAS上运行本地AI,作者使用了 Docker 容器化技术。为了方便管理,他安装了图形化管理工具 Portainer,避免了繁琐的命令行操作。通过 Portainer 界面,作者创建了一个包含 Llama.cpp(用于模型推理)和 OpenClaw 的AI栈。此外,他还安装了名为“Shell in a Box”的应用程序,允许用户通过网页远程登录SSH终端进行系统配置。这种基于Web界面的管理方式极大地降低了在NAS上部署复杂AI环境的门槛,使得非专业用户也能轻松启动和维护本地AI服务。
Gemma 4E模型的多模态推理性能实测
在具体的AI运行测试中,作者首先选择了 Gemma 4E模型。该模型的一个显著优势是支持多模态输入,能够同时处理文本和图片。在测试中,模型以约 10 tokens/秒的速度生成响应,虽然速度不快,但能实时输出内容。作者展示了一个关键案例:上传了一张显示模型训练过程中 过拟合(Overfitting) 现象的图表。该图展示了训练损失下降而验证损失上升的巨大分歧,表明模型在调整权重时未能真正学习通用规律。Gemma 4E成功识别出图表内容,指出这是100个Epoch的损失函数图,并准确判断模型存在严重的过拟合迹象。此时活动监视器显示CPU使用率约为 50%,内存占用较低,证明了该模型在16GB内存环境下运行的可行性。
Docker集成与Gemma模型性能实测
在Asustor Lockerstor 4的操作系统中,用户无需安装额外软件或操作终端即可通过内置应用SSH进入Docker环境。这一特性极大降低了使用门槛,因为许多用户并不习惯在命令行中运行任务。当前测试的模型是Google新发布的Gemma 4 12B。由于该模型的参数量比之前运行的版本大出三倍,其推理速度相应下降至每秒5个token。尽管处理故事生成任务时速度减半,但这一性能表现仍足以支持后台基础推理。为了保障安全,所有Docker容器默认仅能访问其所在文件夹的数据,而非整个系统。这种隔离机制允许用户通过API调用Llama.cpp,仅对指定区域进行推理,从而在保持系统安全的同时利用AI能力处理文件数据。
"So, that one is going to be a little bit slower because it's three times bigger than what we just ran."
NAS系统管理工具与存储安全机制
在模型加载期间,NAS的常规功能不受影响,用户可正常访问系统。操作系统提供了强大的存储管理工具,默认使用BTRFS文件系统以支持高效的数据快照功能。用户可以在修改数据前创建安全快照,确保数据安全。Disk Doctor是另一项核心功能,支持设置坏块扫描或SMART扫描。建议用户每日执行快速SMART扫描,每月进行一次完整扫描,以便在硬盘出现异常前及时更换。此外,系统设置中允许用户更新固件、创建账户及配置在线连接。虽然远程访问功能方便,但存在被黑客攻击的风险,因此建议禁用或配置防火墙仅允许特定地区(如新加坡)访问。用户还可以设置标准的共享文件夹,例如“home”、“docker”和“public”,并通过Finder在网络中直接访问和管理这些文件夹。
"I usually have a smart scan. It's quick scan like once a day even or maybe once a week and then once a month I'll do a full scan."
GPT-OSS 20B模型特性与OpenClaw集成演示
切换到GPT-OSS 20B模型后,虽然其总参数量大于Gemma 12B,但由于激活参数较少,推理速度显著提升至每秒11个token。该模型支持不同级别的思维链推理,但当前配置下不支持图像推理。相比之下,Gemma 4B版本因速度极快且支持图像推理而更受青睐。在应用层面,通过Portainer管理OpenClaw。演示中,用户将模型指向Mac系统上的Qwen 3.6 27B MLX版本,并启用了MTP层。OpenClaw服务器启动后,展示了系统中可用的模型列表(包括Gemma 4、Llama和Qwen 3.6)。当发起新会话时,系统通过Inferencer发送查询并处理提示词。这种架构展示了如何在NAS上灵活部署和切换不同模型,以满足从快速文本生成到复杂推理的多样化需求。
"So, as you can see, we're doing 11 tokens a second. So, it's an even bigger model than Gemma 12, but because it has less active parameters, it runs a lot faster."
Qwen27B模型在NAS上的实时响应表现
在本次演示中,系统利用主提示词缓存机制显著优化了启动速度。作者指出,得益于Qwen 27B模型的近期发布及其卓越性能,系统能够以 20 tokens/秒 的速度生成响应。该模型虽体量较小,但被许多用户评价为“甚至与Claude相当”,其生成质量令人印象深刻。作者通过一句简单的开场白验证了连接状态,AI回复称“我刚上线,全新开始”,确认了本地化运行环境的完全可用性。这种流畅的交互体验证明了在NAS设备上部署大语言模型不仅可行,且具备实际生产力。
基于OpenClaw框架的工具调用与实时信息获取
为了验证AI的复杂任务处理能力,作者测试了OpenClaw框架下的工具调用功能。当询问“巴黎天气如何”时,AI并未直接回答,而是主动触发工具调用,加载了名为 wtr.in 的技能文件。这些兼容OpenClaw的文件包含了解析不同网站天气数据的描述性文档,使AI能够准确识别巴黎当前为晴天。这一过程展示了本地AI如何通过读取外部技能文档来“理解世界”,从而执行具体的网络信息检索任务,体现了代理式AI(Agentic AI) 在本地硬件上的实际应用能力。
FIFA争议判罚的深度研究与NAS存储扩展潜力
作者进一步使用了一个复杂的体育研究提示词,询问为何FIFA在埃及对阿根廷的比赛中,用VAR取消了埃及进球却未判罚萨拉赫被犯规。AI随即并行访问了Fox Sports、ESPN等多家媒体进行多源信息聚合。尽管作者对裁判决定表示不满,但AI成功梳理了事件脉络。在展示完本地AI的强大能力后,作者强调了Asustor Lockerstor 4 NAS的硬件扩展性。该设备目前仅安装了一块硬盘,但内部预留了额外的SSD插槽和 30GB/s的网络带宽潜力。用户可通过RAID配置构建大容量存储,既用于模型部署也服务于其他AI解决方案。作者最后邀请观众反馈兴趣度,并承诺若需求强烈将发布专门的设置教程。
结论
Asustor Lockerstor 4凭借30GBE高带宽与可升级内存,证实了NAS运行本地AI的可行性。其优势在于通过Docker实现安全隔离与Web化低门槛部署,Gemma 4E能处理多模态任务,Qwen 27B与GPT-OSS 20B在文本推理上分别达到20 tokens/s和11 tokens/s,足以支持日常生产力及代理式工具调用。短板是受限于CPU算力与16GB基础内存,大模型推理速度较慢且存在过拟合识别等精度依赖。该方案适用于追求数据隐私、需处理本地文件及轻量级多模态交互的用户,但不适合对实时性要求极高或需运行超大参数模型的场景。