直播开场与技术演示:本地运行千问3.8 27B模型
周日赛博吃播直播开始,主播老范首先处理了Discord群内的广告清理工作。本期节目原计划讨论美国大学生抱怨“20美金一个卷饼”的热点话题,但因直播间观众多在中国且无人回应此议题,转而进行技术演示。老范决定在本地MacBook上运行开源模型千问3.8 27B (MLX版本),以展示其实际工作效果。他使用Ollama作为加载工具,因为该工具在苹果M系列芯片上支持MLX架构且操作简便。演示过程中,老范新建了DeepSeek Chat(DSH)会话并输入“你好”,随后屏幕长时间无响应,耗时近两分钟才输出第一个Token。老范解释称,这是因为18GB的模型需要从硬盘完整加载至内存中,导致初期启动极慢。随着模型加载完成,风扇高速运转,后续生成速度约为每秒十几个Token。尽管启动缓慢,但老范认为对于本地越狱模型或复杂任务而言,这种速度尚可接受。
“实际上就是Ollama在将本机的大模型拉起来……我已经快没有耐心了啊,这个不是有点慢,真的是很慢。”
硬件配置建议与大模型使用心得
针对观众关于MacBook内存配置的咨询,老范分享了自己的经验。他目前使用的是M2 Max 32GB内存的MacBook,运行千问3.8模型效果尚可。对于想玩大模型的苹果用户,他建议内存越大越好,因为除了跑模型外,渲染视频、运行Docker或开启大量浏览器标签页都需要巨大内存。关于即将发布的M5芯片,老范表示其性能足以运行当前模型。在软件选择上,他推荐MLX框架以适配苹果芯片架构,但鉴于Ollama已支持MLX且更省事,他并未更换。此外,老范提到自己在使用ChatGPT Plus(20美金/月)时已用完所有重置次数,考虑是否升级至100美金套餐或购买Codex额外额度。对于ComfyUI,他指出其在苹果本地运行困难,建议连接云端模型或使用支持MLX加速的本地方案。关于DeepSeek,老范表示并未将其作为主力模型,认为其智能程度与国内其他模型半斤八两,且月度套餐比按量计费更划算。
“本地跑大模型的意义真的不是很大啊,我呢关键是好玩……苹果肯定是内存越大越好。”
食品通胀预测与“20美金卷饼”争议解析
由于无人回应美国卷饼话题,老范转而引用摩根大通(JPMorgan)8月15日发布的“5个W”粮食风险框架报告。该报告预测,受战争(War)、极端天气如强厄尔尼诺导致的减产、仓储体系不足(Warehousing)、缺水灌溉以及粮食浪费(Waste)五大因素影响,全球食品通胀将在2027年上半年达到5%的涨幅(相比之下2026上半年为2.8%)。回到美国卷饼话题,老范推测这可能与当地小费文化及通胀有关。有观众指出在加州加上小费,20美金一个的墨西哥牛肉卷饼属于正常价格。老范反思自己以往在美国差旅时吃的本就是较贵的餐饮,因此对十几二十美元的卷饼并不觉得夸张。他认为美国大学生抱怨吃不起可能是矫情,因为当地装修小工日薪可达400美金。此外,老范还讨论了囤粮问题,建议大米可真空保存但需注意黄曲霉素风险;相比之下,日本有保质期5-10年的备灾粮传统,而中国此类长期存储食品较少。
“摩根大通……他们最新的叫5个W的粮食风险框架……2027年上半年的话,他们估计会上涨5%。”
饮食偏好与卤煮文化探讨
直播后半段转向美食闲聊。老范明确表示对卤煮兴趣缺缺,认为正宗卤煮因使用苦味老卤水且价格昂贵(一碗至少50元人民币以上),性价比低;廉价版本则多含饼子和豆腐干,缺乏吸引力。卤煮主要由猪肠、肺、肚等内脏及死面烧饼、豆腐干在老卤中煮制而成,吃时需勾出剁碎浇汤。关于胆固醇问题,老范认为“离开用量谈疗效是耍流氓”,偶尔食用无妨。在肉类偏好上,老范不喜欢啃骨头类食物(如羊蝎子、兔头、鸭翅),偏爱纯肉部位,如三文鱼、肘子、猪脸和猪蹄(需脱骨)。观众提到日本难寻正宗卤煮,老范对此表示惊讶。最后,老范提及自己因维持日更状态而减少外出走动,若未来去深圳或昌平等地可能会更新视频。对于日本寿司郎排队恐怖的问题,观众表示无法接受;而老范则对猪头肉口感持保留意见,认为其“感觉很脏”,尽管观众反驳称其实很好吃。
“卤煮我现在已经没什么兴趣了啊,因为卤煮这种东西呢,正宗的一定是不好吃的……你有这钱咱吃点别的不行吗?”
药品涨价与本地模型的性能焦虑
近期药价波动引发了讨论,特别是名为弥可保(甲钴胺)的药物。该药物原规格为一百片一盒,价格仅二十多元,如今涨幅巨大至一百多元。更令人困惑的是,大量拥有社保的医院竟然缺货,这种市场现象让长期服用的患者感到不解。与此同时,在技术层面,主播正在使用本地部署的小模型进行推理测试。风扇开始工作暗示了算力负载的增加,虽然吴烟哥推荐的千问模型表现尚可,但本地运行的资源消耗依然明显。这种对硬件和软件成本的双重敏感,贯穿了本次对话的始终。
AI工作流重构与模型选型策略
在AI工具的使用上,主播分享了一套精细化的工作流程以应对额度限制和成本压力。不再单纯依赖单一模型,而是根据任务特性组合使用。具体而言,利用MiniMax M3(年费490人民币)进行深度研究和信息搜集;随后将结果交给Claude Opus 4.2或5.0进行稿件撰写;最后由Codex负责字幕校对和博客整理。这种分工旨在最大化利用各平台的免费或低价额度(如GPT的20美金套餐)。对于需要便宜替代方案的情况,推荐GLM-5.3或Kimi K3作为搭配。云端服务存在波峰波谷,在高峰期使用会导致体验下降和成本激增,因此合理规划任务时序至关重要。
存储硬件周期与个人消费决策
关于电脑升级,内存和SSD的价格成为主要阻碍。主播原本计划为Windows游戏本增加4T SSD和32G内存,但鉴于当前价格过高,决定等待硬件价格下跌至2000元以内再入手。对于存储市场的未来走势,观点认为AI并未产生泡沫,各家厂商仍在激烈竞争(卷),但存储周期可能不会延续到2030年,预计明年开始降价。长鑫等厂商的扩产和升级也是推动价格回落的因素之一。这种对硬件周期的判断,反映了理性消费者在通胀环境下的谨慎态度。
生活琐事、饮食偏好与心态调整
对话后半段回归日常生活,涉及食品减量、无醇啤酒及单身饮食模式。日本超市存在偷偷减量的现象,导致味道变化或加工厂更换。对于“400美金装修工”的争议,主播主张避免恶意揣测他人意图,认为“信息的禁锢会让人变得幸福”,过度质疑只会增加生活烦恼。在饮食方面,主播已戒酒多年,对无醇啤酒也无兴趣;对于单身时的“炒酱拌饭”模式,认为若无此需求则无需刻意模仿。最后,主播展示了本地部署Index TTS 2.5模型进行语音合成的过程,尽管使用千问3.8 27B MLX模型运行较慢且费劲,但坚持本地化部署以保护隐私和控制成本。
结论
本地运行千问3.8 27B模型证实了MacBook在初期加载时存在显著延迟,但后续生成速度尚可接受;其核心价值在于隐私保护与成本控制,而非性能优势。硬件方面,大内存是运行本地模型的必要条件,且存储价格预计明年回落。
关于食品通胀,摩根大通预测2027年上半年涨幅达5%,美国高价卷饼主要受小费文化及通胀驱动,并非普遍生存危机。AI工作流需通过多模型分工以应对额度限制与云端波动,而药品涨价引发的缺货现象则反映了市场供需的复杂失衡。