现在是AI时代。你知道你的数据在哪里吗？即使你认为知道，其实你可能并不清楚。如果你和大多数组织一样，你们的敏感数据可能已经暴露了，而AI只是让这个问题变得更糟。这种情况就发生在你眼皮底下，你却无法察觉。我是这个意思：AI的采用速度超过了传统安全方法实际能够保护的速度。最近的一项研究发现，31%的组织发生了数据隐私违规事件，原因是与AI相关的事件。

存在诸如影子AI项目这样的情况，这基本上是人们在其内部环境中部署的未经授权的人工智能。这些事物通常缺乏政策规定其应具备的安全控制措施。此外，还有公共云聊天工具的使用情况，人们进入这些平台提问，但其中可能包含敏感的电子表格信息。一旦这些信息发送到公共聊天机器人那里，它基本上就变成了公开信息，因为它们可以利用这些敏感数据来训练模型，从而使所有人都能获取这些信息。

因此，我们必须回答一些关于AI如何使用这些数据的问题。首先，AI使用了哪些数据？它从哪里获得这些数据的？最终我们如何以主动的方式管理AI的数据暴露问题？传统的DLP（数据丢失预防）和AI工具无法回答这些问题。我们需要一种不同的方法。仅仅知道正在使用哪些AI工具是不够的，尽管这当然是一个良好的开端。你还需要了解敏感数据如何在AI系统中流动，以及它可能在哪里暴露。

让我们看一下高层架构图来理解我的意思。流程始于训练数据，这些数据进入特定模型的训练中。接着有用户输入提示词（prompt），这些提示词被发送给AI，进而执行其他操作。除了提示词外，我们可能还会结合其他数据源进行增强，即检索增强生成（RAG）。此外，还可能存在覆盖所有这些操作的上下文或策略，其中可能包含一些敏感方面。

我们可能会放置其他信息来指示AI如何操作以及如何生成答案。如果这是一个智能体（Agent），它可能还会伸出触手使用不同类型的工具。其中一些工具可能会编写代码，访问数据库，事实上甚至可能衍生出其他智能体，而这些新衍生的智能体又可能会再衍生出更多的子代理。

这就是信息流动的一般流程，以及各个不同组件及其交互方式。那么从数据的角度来看呢？这里可能有哪些敏感信息？我们可能在训练数据中有敏感信息，这些信息随后会进入模型中。用户可能拥有某些敏感信息，并在输入提示词时一并提交。他们可能使用了包含敏感信息的电子表格或文档，这些信息也随同提示词一起进入AI系统。

我们可能在策略和上下文中拥有敏感信息，例如我们认为具有竞争优势的操作方式，不希望竞争对手知道。这些也会反馈给模型。然后模型会向外延伸并使用工具。那么关于这些工具有什么呢？它们如何处理接收到的信息？它们在保护数据吗？我们对这些特定工具是否有控制权和可见性？如果它们将数据写入数据库，我知道这些数据最终会去哪里吗？

也许数据还会流向下游的其他地方。还有这些智能体，我将潜在敏感信息交给它们处理，然后它们又衍生出其他智能体。所以当你审视这一切时，你会发现敏感信息遍布整个架构，并在其中流动。因此在这种情况下，我们需要考虑很多事情。首先，我们需要知道AI使用了哪些敏感数据。

然后我们需要了解暴露情况：有哪些数据被泄露了？这种使用是否经过授权并受到治理？接着我们想知道如何调查：当数据在AI中移动时发生了什么？最终，我们要如何在不妨碍AI采用的情况下避免产生数据安全漏洞？为了实现这一点，我们需要能够执行一些不同的功能，以查看数据流向。

我将从几个不同的角度来看待这个问题：一个是工作负载流（workload stream），这基本上是指AI系统内部的情况；另一个是员工使用AI的工作力流（workforce stream）。我需要做什么？我需要进行监控、追踪，并能够展示数据如何在系统中移动、如何使用以及如何暴露。

让我们先看看工作负载的例子，即AI系统内部的情况。我必须深入查看AI应用程序，了解它们如何使用数据。我需要检查RAG管道（检索增强生成），看看通过这种方式进入系统的信息是什么。我还要查看向量数据库，这是许多生成式AI模型的核心部分。

然后我需要能够追踪这一切。将会发生数据转换，信息原本是这个样子，但现在变成了另一种形式。我仍然需要了解这一点。如果我只寻找这种特定形式的信息，可能会错过它而意识不到数据已经泄露。因此我需要能够识别出何时发生了数据转换。

然后我需要展示所有这些内容：显示数据来源，展示我刚才提到的那些转换过程，并最终说明这些信息去了哪里。这就是AI内部视角的情况。那么在工作力（员工）视角中呢？在这种情况下，我想查看文件上传和下载情况。我要看他们放入系统的内容以及从系统中取出的内容。

我想查看他们在何时进行了复制粘贴操作。也许他们提取了一些敏感信息，然后将其粘贴到了别处。这样你就可以看到数据现在生活在不同的地方了。我必须查看衍生信息（child information）。我有一个主文件，然后有由该主文件派生出的子文件。我需要能够追踪所有这些衍生信息，就像我追踪包含敏感信息的原始文件一样。

我需要展示员工是如何消费这些信息的，以及他们如何与其他员工共享这些信息。所有这一切都需要被查看，我需要一个统一的端到端可见性保护平台来呈现这些内容。那么我需要从该平台中获得什么样的功能呢？首先，我需要有能力查看数据血缘（lineage），即需要能够追踪数据的来源和流转路径。

能够看到数据来自何处，以及它是如何在系统中流动的。我需要能够查看诸如来源之类的信息，然后它经过了这个AI模型，最后到达了某个端点系统。我需要能够跨越所有这些环节的策略，即共享并监控、执行这些策略的工具。我还需要一个统一的视图（单屏管理），以便在此处监控所有情况。我无法负担拥有大量未集成的不同监控系统，因为那样我就无法知晓具体情况。

最终，我需要能够识别风险。我需要一个风险评估能力，使我能够主动发现这些问题，而不仅仅是在数据泄露之后才得知。那么，如何实现我刚才提到的那种可见性呢？让我们看看我们可以透过三种不同的视角来观察这一点，即提供不同方面的三个不同工具。首先从智能体平台发现开始。

能够执行此类操作的工具可以回答诸如谁向哪个特定模型发出提示、实际运行了哪个智能体、调用了哪个MCP工具等问题。这就是它们特别擅长的领域。然后，我们也可以从端点数据防泄漏（DLP）发现工具的角度来看待这个问题。这些工具确实存在，它们可以告诉你每个设备上存在的智能体、扩展程序和MCP服务器等信息。

它还可以显示端点设备上的文件、内存以及其他数字残留物。这里的第三个视角是云端或本地部署的发现功能，这将告诉我们这些特定平台上存在哪些数据源。我们还可以确定那里数据的分类和敏感性，甚至可能是所有权归属。好吧，虽然这些都很有用，但你发现问题了吗？

每一个工具只能看到部分画面。因此，我们真正需要的是一个整体的视图，将所有这些因素纳入考量并将它们整合到一个统一的视图中。那么，管理AI数据暴露真正需要什么呢？让我们来看看需求。首先，我们将讨论一种具备AI感知能力的自动化数据分类和发现系统。

它必须是持续不断的，因为系统在不断变化中运行。它需要识别我们所有平台上的来源，并且需要了解我们所拥有的敏感数据，例如个人身份信息、个人健康信息、财务数据和知识产权等。接下来我们需要的是基于血统的风险可见性。数据会通过RAG（检索增强生成）进行转换，AI智能体和系统之类的东西也可能执行转换。

然后我们需要看到数据如何在系统中传播，并且在某些情况下它会随着传播而发生变化。最后，我们需要一种智能调查能力。它需要根据用户敏感性、目标位置以及许多其他不同因素具备上下文感知能力。我们必须能够将通常需要数周的调查时间缩短至几分钟，必须以速度来运作。

最终是合规报告。我们需要考虑很多事情：《通用数据保护条例》（GDPR）、欧盟《人工智能法案》、SOC 2、ISO 27001、HIPAA，名单还在继续。我们需要能够看到所有这些内容以及我们的AI如何保持合规性。数据是AI的生命线，它必须持续流动，否则系统就会“死亡”。

但如果我们无法监控数据的流向，我们可能正在失血却浑然不知。就像人体一样，系统非常复杂，但有工具可以帮助你管理AI带来的数据暴露风险。这是好消息。想了解更多吗？请参阅下方的描述链接。