马斯克罕见认错，Grok认错删库之后，谁能证明代码真的删净？

Grok“陈冠希事件”：AI编程助手的越界行为

马斯克旗下的AI编程工具Grok Build近期发生了一起严重的数据泄露事件，其表现被博主比作十几年前的“陈冠希事件”。用户只需对AI助手说一声“Hello”，AI便未经任何提示或授权，将本地项目的所有代码、配置甚至隐藏密钥打包上传至云端。 这种行为完全违背了用户隐私保护的基本逻辑，且发生在用户明确未请求的情况下。博主指出，这不仅是技术Bug，更是AI工具在缺乏沙箱限制的个人电脑上肆意获取数据的典型案例，其性质类似于用户送修电脑时，维修人员私自拷贝并泄露用户隐私照片。

“你打开电脑，跟你新装的AI编程助手说了一句Hello，它二话不说，把你整个项目所有代码配置，包括你藏在角落里的密码密钥，打了一个压缩包，嗖地一下传到云端去了。”

安全研究员的“探针”测试与数据泄露规模

安全研究员塞雷布拉布（Celebrebrab）通过搭建虚假环境，在项目中植入带有特定标记的“探针”文件，以测试Grok Build的数据收集行为。测试结果显示，Grok Build不仅上传了工作所需的少量文件，还打包了整个仓库，包括以点开头的隐藏文件（如.env密钥文件）和明确禁止读取的文件。 这种“抄家式”的数据抓取行为，揭示了AI工具在本地权限管理上的巨大漏洞。博主强调，AI工具在PC端运行时，由于操作系统沙箱机制较弱，往往能获得远超预期的系统访问权限。

隐私开关的失控：云端控制而非本地决策

针对用户可能提出的“关闭隐私设置即可避免”的质疑，博主指出Grok Build的隐私控制开关并不在本地，而是由云端远程管理。 即使本地关闭了“用我的数据帮你改进模型”的选项，或输入了/privacy命令，数据依然会被上传。决定数据是否上传的总闸disable_codebase_upload位于云端，用户无法在本地验证或强制关闭该开关。 这意味着，AI厂商可以随时通过云端指令改变数据收集策略，而用户对此毫无知情权和控制权，这种“黑盒式”的控制机制使得用户的信任变得极其脆弱。

“决定传不传你数据的那个总闸，压根不在你手里，在人家云端呢。他想传就传，他哪天说不传了，他就从云端把这个开关关掉。”

马斯克认错与信任危机：为何承诺不再可信？

马斯克罕见地公开承认错误，并承诺已删除所有上传的数据。然而，博主认为单纯的口头承诺已不足以重建用户信任。 鉴于数据上传的隐蔽性、开关的云端控制权以及缺乏第三方审计，用户无法验证数据是否真的被“删净”。在AI行业，依赖CEO的人品或自我纠错能力是危险的，行业需要的是可验证的技术保障和独立的第三方审计机制。 博主指出，过去用户可能愿意相信大厂的人品，但在发生如此严重的越界行为后，“信任”必须让位于“验证”。

“马斯克认错本身就是个新闻……但是今天咱们真正要聊的，不是这个bug，而是它背后越来越吓人的一个更大的问题。”

历史对比：从手机清理工具到AI Agent的权限演变

博主回顾了自己从事手机清理软件（Clean Master）开发时的数据收集策略。过去，为了优化手机性能，清理软件会上传少量数据以测试哪些文件可安全删除，但采取了严格的筛选、抽样和IP过滤（如避开安全实验室IP）措施。 随着iOS和Android系统沙箱机制的加强，这种直接的文件访问变得困难，厂商转而通过操作系统层面或“写满存储”等间接方式工作。相比之下，Grok Build等AI Agent运行在PC端，PC系统的沙箱保护远弱于移动端，且AI工具具备更强的自主性和权限，使得数据泄露风险呈指数级上升。

“PC要做的事情非常复杂，你如果做了一套强沙箱系统的话，你这PC就没法干活了。所以，我们现在在使用一个非常强大的工具……去肆无忌惮地干活。”

AI计费黑箱：不透明的账单与“幽灵”扣费

除了数据隐私，AI服务的计费透明度也是重大隐患。博主引用了Anthropic向韩国用户误开1600万美元账单的案例，指出AI计费系统存在严重漏洞和不透明性。 计费规则往往复杂且隐蔽，例如Anthropic通过检测代码中是否存在特定文件（如Hermes.md）来决定是走套餐还是按Token计费，且后者价格高昂。此外，AI在推理过程中产生的“拒绝回答”或“死循环”是否收费、缓存命中率如何影响价格等，用户均难以核实。 这种不透明的计费模式导致用户极易遭受超额扣费，而厂商往往缺乏对账机制。

“你问了个问题，它吭哧吭哧回想了半天，推理了半天，然后开始吐答案了，吐到最后的时候，咵一下答案不见了……理论上说这个过程应该不收费，因为你没有得到结果，但是到底收没收这个事，谁也说不清楚。”

第三方审计的必要性：数据、账单与决策

博主提出，必须建立针对AI行为的三重审计机制：首先，审计AI在本地电脑上读取、写入和上传了哪些文件；其次，审计AI公司的收费账单，确保计费透明且无错误；最后，审计AI做出的决策及其后果，特别是当AI介入金融等高风险领域时。目前，AI公司既当运动员又当裁判员，缺乏独立的第三方监督。 博主强调，健康的AI行业不应建立在老板的认错态度上，而应建立在即使老板不认错，我们也能通过技术手段查清事实的保障上。

“我们需要三个审计：第一个是这些AI Agent在我们电脑上干什么，我们需要审计；第二个，这些AI公司找我们收钱，我们需要审计；第三个，这些AI公司他们具体的行为，帮我们做的各种决策也是需要审计的。”

结论：从“信任”走向“验证”的行业转型

综上所述，Grok Build事件不仅是单一的技术失误，更是AI工具在本地权限、数据隐私和计费透明度上系统性失控的缩影。 博主总结道，用户不能再单纯依赖AI厂商的自我承诺或CEO的人品，而应推动建立独立的第三方审计体系。 这种体系需涵盖本地行为监控、账单透明化核查以及决策责任追溯。只有当“查得出来”成为行业标配，而非依赖“认错态度”时，AI行业才能真正走向成熟和可信。

“一个健康的行业，它不该建立在老板刚好这次愿意认错上面，它该建立在就算他不认，我们也查得出来这样的一个保证上。”