你使用人工智能,对吧?你会把什么发送到云端?你的代码?当然。经常这么做。你的电子邮件?没问题,大部分都可以。你整个文件系统?太冒险了。你的银行对账单、医疗记录。哇,等等,老兄,我还没准备好承担这种风险。但这正是我希望人工智能能帮我的事情类型。我只是不希望这些数据离开我的 Mac 电脑。而本地 AI 还不够聪明,无法完成我想要做的一些工作。你可以同时使用本地和云端模型。声称某一方优于另一方就偏离了重点,它们在不同的用例中各有优势。如果你明智地使用两者,你应该同时使用它们。我们需要两者。混合模式才是正道。顺便说一下,如果你对这方面感兴趣,应该在 X 上关注 Mia 和 Ivan。好的,两个都关注。但通常这意味着要手动来回切换 [音乐] 。

最近,Perplexity 发布了名为“混合计算”的功能,旨在为我完成切换工作。我给它一个任务,它就能决定哪些部分发送到云端,哪些部分保留在我的 Mac 上。至少他们是这么说的。所以我准备了三台不同的 Mac 来试用,看看每台机器会发生什么。Perplexity 赞助了本期视频,但别担心,他们没有拿到我的银行对账单。让我们看看他们的应用是否能保持这一点。我要下载这个 Mac 应用程序并安装它。“Perplexity Computer”。动画很酷。“将敏感数据保留在您的 Mac 上。下载并启用隐私门。”让我们打开它。

现在,“隐私门”是负责检查并将私人数据保留在您的计算机上,而将其余部分发送到云端进行处理的功能。在混合模式下,“Computer”协调云服务,并将合适的任务委派给您 Mac 上的子模型处理。基本上就是我刚才说的那样,对吧?所以这里有您可以选择的本地编排器模型。“Gemma 4 E4B”是一个开放权重模型,4bit量化版大小为6.6 GB,需要16GB内存。“Quen 3.635B”也是开放权重模型,需要32GB内存。还有 Perplexity 自己的模型,大小为19 GB,同样需要32GB内存。这里明确写着:您的机器性能越强,可以运行的模型就越大。

所以我有一台16GB的 MacBook Air,这是一台拥有128GB存储空间的 MacBook Pro,还有一台配备32GB内存的 M6 Mac Mini。我们将看看每台机器能做什么。这是应用程序界面,这里有最新的 Frontier 模型和一些最新的开源模型。当然还有我必不可少的第一个测试:“你好”。嗨,今天我能帮你什么?很好。刚才那个不涉及任何隐私信息,所以我们不用担心任何问题。但那些私密数据呢?如果我进入这里的设置,然后选择“本地推理”,我的模型已经在这里了。我最初使用的是 Perplexity 的模型,这没问题,因为那是他们定制的模型。

还有隐私门开关,我可以打开或关闭它。为什么要关掉呢?现在为了实际使用它,我将开始一个新会话。在右侧的模型选择器处,您可以选择“混合”模式。如果我有多个本地模型,我可以在此处选择一个。我只有一个,所以它被选中了。现在,如果我给它任何私人信息,它会过滤掉这些信息,只将不相关的、非隐私的部分 [音乐] 发送到云端的其他服务进行处理。但它是怎么知道的呢?我稍后会回到这个问题上。

现在,这里有一些示例数据:我与互联网服务提供商的一份协议、6个月的银行对账单以及我网络公司的账单。由于这是 YouTube 视频,我不希望我的真实数据在视频中公开,因为这违背了初衷。所以我创建了示例数据,并在其中插入了一些需要查找的内容。这将涉及几个问题,让我测试隐私门是否正常工作,以及云端的“大脑”是否真的做得很好。

就在今天早上离开之前,我抓起了一些周围散落着个人信息的文件。不,别放大那个镜头。我自己甚至不知道抓了什么,但这上面有我的车辆信息、地址。这是我的手术医疗记录,还有其他东西,还有一张停车罚单。这只是我随手抓来的一些资料,但我甚至没有要问它的问题。我只是想看看它是会传递数据还是会被隐私门拦截,因为我的测试还需要进行网络搜索。

好吧。“审查此文件夹中的6个月对账单、互联网账单和服务协议。”“将付款与账单匹配,并标记任何不符合约定费率的收费。将我的财务文件和账户 [音乐] 详细信息保留在我的 Mac 上。”其实我不需要特意这么说,因为模型会自动检测到这些。我们都知道当你指示大语言模型(LLM)去做某事时会发生什么。“不要犯错”,对吧?那总是有效的。我们不会信任那个,我们要信任隐私 [音乐] 门。为此,我确保启用了混合模式并选择了 Perplexity 模型。“附加文件或文件夹。”我要 [音乐] 附上我的协议、账单和对账单。搞定,开始吧。

它开始了哦,看那里。“隐私门审查以继续。”所以如果我在做其他事情 [音乐] ,它会要求我进行审查。引起了我的注意,并显示:“隐私门在此内容中发现个人信息 [音乐] 。您希望如何处理?”这个演示简直太完美了。“在本地 Mac 上处理。”推荐 [音乐] 或分享。无论如何,太冒险了?不,当然我想把它保留在我的 Mac 上。这里的云端模型负责 [音乐] 规划和网络研究,而我 Mac 上的本地模型则处理私密文件 [音乐] ,这部分不使用任何积分。我想看看 GPU 的情况,你知道的,这就是我们频道上经常做的,以了解幕后发生了什么。

[音乐] 是的,我可以看到有一点活动……我打开得稍微晚了一点,但 GPU 上确实有一些活动。现在正在使用44GB内存 [音乐] ,这是系统和已加载的模型占用的。我确实运行着几个其他程序 [音乐] 。所以这大概解释了44GB的占用情况。现在,实际进行检查的是一个名为“PII Tracer”的小型模型,它实际上是由 Perplexity AI 在 Hugging Face 上发布的。它是开源的,所以你可以自己去查看一下。

当这一切发生时,我确实想知道在这台16GB的 MacBook 上我会有哪些选项。啊,我们收到了一些数据回来。我稍后会审查它。现在得做一些其他安装工作。

有趣的是,这一切都是自动同步的。我所有设备的对话都会自动同步,这虽然不是什么新鲜事,但确实是个很方便的小功能。看起来它已经为我处理了一些内容,我们稍后再回顾一下。但在16GB内存的机器上,区别在于我可以下载并启用隐私网关。对于设备端模型,它只给我第一个选项,即Gemma 4E4B,这是最适合16GB或更多内存Mac的模型。这台机器正好是Apple M4芯片,最大16GB内存。我只能使用这个模型了。

如果能有更多可用模型就好了,但我认为他们专门针对这项特定任务筛选这些模型。所以目前只有这几个选项,我希望看到更多。那Mac Mini呢?我知道它有128GB内存。这台 MacBook Pro 没有问题,但这台正好处于临界点。看!我们可以获取所有模型了,这台Mac有32GB内存,也能做到。

那么这到底有没有起作用呢?让我们看看。看起来它确实进行了一些研究,并在线找到了一些竞争信息。实际上,这比我理论上支付的还要划算,但这是真实的信息和数据。根据我提交的合同,它找到了当地互联网服务的竞争和更优惠的价格。这是网络研究方面的事。

那关于我提交的数据呢?它说你的文件和细节都保留在你的Mac上,并指出可能多收了88美元。天哪!如果是真的,我现在就要给那家公司打电话了。我确实有正当理由提出异议。我想给你们展示之前运行的一次结果,内容完全相同,但这次显示了处理文件的过程。

看看这个!这是发送过去的所有信息以及被过滤掉的内容。你可以看到所有私人数据都被删减了。本地模型提取了我的数据,剥离重要的隐私部分,然后将其余内容发送出去处理。好了,回到正题。真不敢相信我们现在还在用纸质文件。让我们拍几张照片吧。这张是医疗停车违规通知,还有冻结的iPhone。

说真的,在我的演示中,我能做的风险最低的事情就是这张图片:汽车租赁的定金。我想分析这些数据,告诉我这家经销商或租车行是否给了我准确的费用信息。需要注意的是,我尝试直接在对话中附加这张照片,但这并不是正确的方法,因为一旦附上照片,它就会上传到云端。幸好我一开始选择了低风险选项。

接下来我要去“你的Mac”并标记桌面异常支出。搞定!顺便说一句,我的提示词写得不太好,应该是解析银行对账单CSV文件。桌面上没有CSV文件,但它自动发现了这些图片,并说“无可用文件工具”。所以它将在你的Mac上直接对照片进行文本识别,以查看其中包含的内容。

果然,它发现了一些隐私信息。那么你想如何处理呢?在Mac上处理。根据你的隐私选择,照片正在你的Mac上被私密读取。呼!好险(开玩笑的)。下一张照片。所以它是在本地分析照片,甚至不需要连接互联网。这是租车行的交易记录。接下来的一张也被检测到并保留私密状态。这些文件越来越涉及隐私了,最后一张我完全不想分享。

真的请完整私密阅读并只给我看结果。我可以问后续问题,这样只会将删减后的信息发送到互联网上。处理下一张:医疗记录。当然它会说是私密的。好的,请根据这份文件中概述的医疗程序给我提供网络搜索结果。提交文件的同时保持个人数据在我的Mac上私密处理。让我们看看能不能强制它这么做。

好的,它给了我一些关于该程序的资讯,很酷。但它保留了文件内容。发送文档本身意味着上传,所以我没有这样做。不错。好了,处理最后一张:这是一张停车罚单。我想让你根据华盛顿特区(DC)的公共记录验证这张罚单,我一点也不尴尬,因为我觉得自己停得很规范。

我还未将罚单与DC记录进行比对,因为我看不见上面的内容。当我尝试读取图片时,你选择不分享它。我想让你看看这张图片,但不要发送到互联网上。看!在Mac上处理。搞定!这真的很酷,它是自动工作的。你也可以像我刚才那样通过指定某些内容保持私密来触发它。

这种集成在一个混合系统中的工作流程真的很方便,而这正是它的核心所在——便利性。我们使用这些工具是为了便利,但我们不想为了便利而冒险牺牲安全性。在便利性和安全性之间总是需要微妙的平衡。所以它最终标记了该文件并拒绝将其发送到互联网,给我一些一般性建议,告诉我具体去哪里查找,让我自己输入票号。

这是正确的,因为票号是隐私信息,我不想让它到处流传。与票号相关的其他私人数据也是如此,这很好。所以云端处理了难题,而我的Mac保留了银行对账单。尝试此功能的链接在描述中,那里可找不到我的银行对账单哦。好了,谢谢观看,下次见。