AI推广的最大障碍在于如何有效管理和控制其运营。今年年初，整个SaaS市场估值大幅下跌，Datadog也在其中，但我们可能是最早走出低谷的企业。目前的市场共识是：AI需要更强的可观测性；无论我们在哪里工作，工具都应随之到位。你好严冰，你认为今年的HYPATIA大会与以往有何不同？
您好！我觉得HYPATIA大会每年都在达到新的高度。特别是近年来，我们的主题一直聚焦于AI；随着华人在AI领域影响力的持续增长，感觉今年参会者、话题和嘉宾都出现了质的飞跃。那么今年的主要主题有哪些？
今天我们的焦点主要集中在真正规模化应用AI这一主题上。我知道您青云也非常关注华人在AI行业的影响力。前几天我看到一些令人惊讶的数据——卡内基梅隆大学三天前发布的一份研究报告，分析了AI界最重要会议NeurIPS的10,00名作者。
研究发现其中57%的人在中国接受本科教育，这包括目前身处中国以及在美国等地的作者，显示出华人目前在AI领域的重要地位。当然，我们中国人不仅在从事AI研究，还将AI转化为创业和企业实践。我还看到另一个令我惊讶的话题：美国已有41家估值超过10亿美元的公司由华人创立或联合创立，其中许多公司也参加了我们今天的大会。
因此，今天华源AI大会的主题不仅限于前沿研究和企业应用；还展示了许多实现真正商业成功的创始人。作为Datadog的首席产品官，以及硅谷杰出的华人女性代表之一，我想请问：在AI时代，您如何看待AI运营的发展趋势？未来最好的机会在哪里？
是的，我认为这是一个非常棒的问题。从我作为Datadog首席产品官的角度来看，目前AI落地、扩展和广泛采用的最大障碍是如何对其进行有效的管理和治理。起初，大家对AI非常兴奋，只是想知道它是否可行。
然而很快人们意识到：“哇，我们知道这个AI运行得很好，但能信任它的安全性和安全性功能吗？”进入今年后，人们意识到即使可以信赖AI，其Token成本或整体AI预算也远远超出预期。因此，无论是关于AI是否产生正确结果、我们是否觉得它可控且可信，还是能否从中获得真正的商业价值——而不是仅仅跟随潮流——我认为大家现在最关心的是提供商业投资回报率的能力。
在这些担忧背后隐藏着一个非常重要的点，我们称之为“可观测性”：即深入了解AI实际在做什么、实体之间的关系以及它正在创造的价值。因此，Datadog目前处于非常有利的地位，因为AI可观测性已成为AI大规模生产和广泛采用的关键环节。
我们看到Datadog的市场价值飙升，达到历史新高。我们观察到可观测性以前是工程师用于监控的工具，但在未来它将服务于AI智能体（Agents）。随着可观测性数据量的增长，产品的形态可能会发生什么变化？
例如今年年初，整个SaaS行业面临“SaaS复合症”，市场价值普遍大幅下跌，Datadog也在其中。然而，我们可以说是第一个走出低谷的企业，自年初以来我们的市值已经翻了一番。但这不仅仅是主观共识认为“AI需要更多的可观测性”；实际上是由真实数据驱动的。
例如，我们看到全球十大AI公司都依赖Datadog进行可观测性监控。“AI可以取代可观测性”的想法已被完全摒弃；目前的市场共识是，实际上AI需要更多的可观测性，这就是我们的机会。当然从产品角度来看，我们可以看到Datadog的产品历史上提供了非常丰富的用户体验，拥有专为人类使用设计的精美UI和仪表板。
我相信未来将是人和智能体共同使用这些产品。此外，交互模式正从以Web和移动为中心转变为“无论我们在哪里工作”的状态。这意味着无论我们在哪里工作，我们的工具都应该在那里。如果你在命令行界面（CLI）中编码，你可以在那里访问它；如果你在与团队在Slack上聊天，你也可以在那里访问。
因此，我认为AI已经完全改变了我们原本固定的产品边界，使其能够随时随地在任何工作流中访问。今年早些时候，人们曾怀疑OpenAI是否会自己做到这一点，特别是因为他们的模型现在非常擅长编写代码。您认为Datadog未来的护城河或不可替代性在哪里？
关于护城河，我认为有几个要点。首先，运营不仅是关键任务；而且极其复杂。我曾在一家名为Aurora的公司从事自动驾驶工作，那是一家领先的自动卡车运输公司，也是美国——可能是世界上唯一一家在公共高速公路上运营商用自动驾驶卡车的公司。
当然，当我们从事自动驾驶工作时，我们问：从有人驾驶到无人驾驶系统的突破点是什么？这感觉确实是一个非常困难的问题，但如果你仔细想想，与维护大规模生产软件系统相比，自动驾驶的复杂性其实相当低。
只需考虑驾驶；你只需要了解视野内的局部场景。此外，当你开车时，只有三个控制手段：只能加速、减速和转向。在具有高度复杂的软件、硬件和基础设施的大型系统中——尤其是现在集成了复杂AI智能体的情况下——其复杂性水平远远超过自动驾驶。
因此，我们距离真正实现全自动的大规模生产运营还有很长的路要走。所以我想强调的是，运营是一个极高复杂度的领域。例如，与编码相比——这也具有极高的复杂性……
技术难题虽然存在，但相对直接——编码仅生成代码。然而，运维是一个极其多样化的领域，因此我们并不担心被 AI 取代，因为我们自己也在开发大量的人工智能。回到我们的“护城河”这一话题：首先，问题非常复杂，因此我们拥有多年积累的行业专业知识。其次是数据；我们在全球范围内拥有最庞大的运维数据量。第三，我们也在投资智能化能力。例如，通用大模型可以解决许多问题，但它们有时速度较慢、成本高昂，并且在高度专业化的领域中偶尔难以提供最佳答案。为此，我们进行了自己的 AI 研究。
我最近看到了一项成果：与最前沿的模型相比，我们利用可观测性数据构建了专属模型。结果显示，虽然我们的专用模型质量与那些顶级前沿模型非常接近，但成本至少降低了一个数量级。因此，我们认为我们的护城河——无论是专有数据、对研究和基础模型的投资，还是在该领域积累的专业经验——构成了我们真正的竞争优势。
那么，您认为像 Datadog 这样的企业最终会选择使用开源模型，然后利用自己的数据构建自有模型，而不是完全依赖前沿模型吗？我认为这取决于具体需求，因为不同的模型有不同的优势。我相信行业目前的共识是：未来市场不会由单一的前沿模型主导，也不会有少数几个前沿模型提供世界上所有的解决方案；进行后训练（post-training）已经非常普遍。因为通过这种方式，你可以将自己的数据转化为真正的护城河。
几天前，我访问了全球领先的 AI 实验室之一，因为我们是他们的客户，他们也是我们的客户。但在讨论中，最有趣的话题是当他们说：“Bin（李严冰），我们真的想在运维场景中做得更好，你能否标注你的数据并卖给我们？”由此可见，即使是世界上最前沿的实验室，也缺乏在某些高度专业化场景中的这种积累。
当然，我们也认为，即使每个人都有数据，通用模型也很难最好地服务于所有应用场景。因此，我们在这方面进行了有机投资，去年我们还收购了一家领先的强化学习公司 AdaptiveML，以帮助加速我们在这一领域的投入。
像 Datadog 这样，在内部采用 AI 时是否遇到任何挑战？目前您的 AI 采用率大概是多少？是的，我认为我们的挑战与许多其他企业相似。也许因为我们是开发工程产品的公司，起步稍早一些，但在 AI 使用方面，当我正在为明年的研发或 AI 支出做预算时，我们确实目瞪口呆，因为增长远远超出了我们的直觉预期。
当然，我认为这些 AI 投资旨在提高内部效率以及将其集成到我们的产品中外；这两个领域都取得了非常显著的收益，而产品端的变化其实相当简单。这种简单的增长是一个非常积极的现象，表明我们的客户对我们 AI 赋能产品的使用率更高。我们看到了倍数级的增长，所以大家都觉得这些对 AI 的投资非常值得。
当然，我们的产品投资也包括研究投入，而这项投资必须带来长期的回报。因为从研究投资来看，无论是购买 GPU、构建 AI 基础设施还是训练次数，都是一项非常巨大的投入。关于内部效率提升，我认为有两方面：一是工程师使用编码代理（coding agents），我想这大概占据了预算的最大部分。
在这个领域，我们主要关注如何真正将这项投资转化为工程速度。令人欣慰的是，这是我们的专长所在，所以我们不仅知道每个人使用了多少 token 以及在哪里使用，还知道最终的结果是什么。例如，在 PR（拉取请求）速度、产品稳定性、功能交付和安全改进方面，我们可以清楚地看到这项 AI 投资所产生的成果。
目前令人担忧的是知识工作的用例，因为许多人仍处于“黑客式”的状态。例如，非工程师的销售人员可能会编写自己的销售工具，或者我们的 HR 团队可能会为自身场景定制一些东西。我认为现在有很多这类代理——更多是业余级别的代理，它们往往没有得到优化，最重要的是，可能对安全不够重视。我认为 AI 的安全问题是一个非常当前的话题。
这是一个非常热门的话题，当然人们会想象末日场景，比如 AI 杀死人类，或者成千上万个 AI 代理突破沙箱去攻击其他公司；最近的头条新闻都是这类性质的。但实际上，从企业 AI 的角度来看，我们考虑的安全问题要实际得多——例如，业余 AI 代理意外泄露业务数据，或者缺乏适当 AI 审查或控制的非专业工具暴露了你的 API 密钥。
实际上，我们现在考虑的许多安全问题更为基础。这还不是“末日”类型的问题，我认为这也是阻碍 AI 在企业中更广泛采用的一个重要障碍。感谢您今天与我们分享。谢谢您的提问，这是一个非常、非常——