今天我们要和Gamma联合创始人兼首席产品官John Noronha谈谈Agent Harness(智能体控制框架),以及围绕它的所有机会,包括垂直领域的Agent Harness。我迫不及待想深入探讨了,在此要特别感谢并致谢Anthropic——Claude背后的团队,赞助了本期节目。
约翰,非常感谢你来到播客。在本期节目结束时,大家能学到什么? 谢谢你的邀请,Greg。我很兴奋来到这里。今天我们将深入探讨在实际中构建智能体的含义,包括揭开什么是Agent Harness的神秘面纱,以及它在Gamma的情况——这是一个用于视觉沟通的创意智能体控制框架。
这不仅仅是谦虚。Gamma,我是说它发展得极快。我认为它的年度经常性收入(ARR)已达到1亿美金。你们刚刚重新发布了平台,这是一个巨大的版本更新,而且有很多东西值得学习。我希望从这个播客中获得的真正是关于Agent Harness机会的一些见解,你们实时学到的东西,以及其他存在的机会、创业想法等等。所以约翰,你能承诺在本期节目结束时我会学到其中一些东西吗? 我接受。让我们开始吧,让它成为现实。
所以我想从……就像你在这里看到的——什么是Agent Harness开始?因为我认为很多人,你知道的,在X(推特)上浏览时看到了这个词,但并不真正理解它是什么。所以你能清楚地解释一下吗? 当然可以。让我们把它分解为两个词:智能体(Agent)和控制框架(Harness),我可能会用Gamma的旅程来说明这两者。为了给大家背景,Gamma主要是一个用于制作演示文稿的工具,也有文档、网站、社交媒体图形等。我们实际上已经存在好几年了,远在智能体成为潮流之前。我们在2020年创立公司,在2023年开始腾飞,早期我们只是进行零散的LLM(大语言模型)调用来做事情,比如写一张幻灯片或制作演示文稿的大纲。然后我们非常手动地将它们串联成预设的工作流,以完成诸如生成包含10张幻灯片的演示文稿等任务。
在过去一两年中发生的重大革命是这场智能体革命,现在最强大的AI产品不再是手动串联这些单独的LLM调用,而是实际上拥有一个更高级别的循环:一个LLM运行以执行某种工作,检查其结果,使用工具,然后将其转化为一系列已执行的调用中的最终成果。因此,我们实际上在今年这一整年中经历了重建我们的产品以成为一个智能体的整个过程。将你的产品构建为智能体涉及构建一个控制框架(Harness)。
所以,这个控制框架是智能体用来在其环境中执行操作、检查自身工作并向用户交付最终成果的所有工具的集合,包括征求用户的实际偏好。因此,可能最著名的智能体控制框架类似于Claude Code。Claude Code是一个用于编程的控制框架。所以Claude Code教导智能体如何遍历你系统中的所有文件并查看其中内容,教它如何运行测试,甚至用某些规则提示它,比如在特定情况下进入计划模式,或在执行完成后运行这些测试,或者在GitHub上执行此类操作。
在我们的案例中,Gamma不是一个编码智能体,而是一个创意智能体。所以它需要做诸如理解你的艺术风格和创意偏好、帮助你构思故事之类的事情,而且我们非常关注视觉设计。我们正在做生成图像并布局等工作,所以我们需要知道它们看起来如何并确保其外观正确。因此我们的控制框架将所有这些内容转化为智能体可以使用的工具。我可以谈谈这看起来是什么样的。
是的,我是说请讲。而且我想我也很好奇你是否同意我的观点。我一直在说Agent Harness是新的GPT包装器或新式的包装,对吧?[笑声] 嗯,这只是一个好推文吗,还是说有些道理? 这里面有道理,虽然我最初一直质疑“GPT包装器”这个概念,因为它暗示90%的工作在于LLM,而上面只有一层薄薄的包装来回交互。我认为也许控制框架说明的是实际上包装才是大部分工作。你确实拥有所有这些LLM,它们在核心能力上相当相似,不是说它们没有一些差异,但通常将它们转化为产品的所有魔力都在于围绕它们构建控制框架。甚至像OpenAI和Anthropic这样的模型公司也将大量工作投入到控制框架的开发中。所以它们自己也在做这些事物的包装以实现不同的能力。
你能带我 walkthrough一下在Gamma上输入提示词后的30秒内发生了什么吗?比如实际上涉及了多少个模型,你知道的,因为我认为很多人不确定这到底是如何运作的。 让我带你 walkthrough一下。让我们通过一个示例提示词来看看。Gamma非常典型的使用场景是,有人粘贴一堆杂乱的笔记或文档或PDF并说“帮我把它变成20页的演示文稿”。所以当你输入那个提示词的那一刻,后台实际上发生了一连串的事情。第一件事是我们确实在云端启动了一个完整的计算机环境。这就是他们所谓的智能体沙盒(Agent Sandbox)。这也是OpenAI的沙盒在最近几个月被著名地突破出来的地方。所以我们实际上启动了这个完整的沙箱,智能体在那里获得了代表用户提示词的所有文件、他们带来的文件以及关于他们的其他上下文。
然后我们提示智能体去查看所有这些文件和它们的提示词并执行某些任务。对我们来说,第一个任务通常是弄清楚我们需要从用户那里获取哪些其他信息。因此,我们通常会弹出一个表单并问几个问题。比如这实际上是给谁看的?这是学校的教育演示文稿吗?是给成年人看吗?还是给你的工作用途?我们经常调用不同的连接器。所以我们已经构建了与Notion、Slack或Linear等工具的集成,我们可以从中拉取所有相关的上下文。仅仅在那最初的10秒左右,我们现在已经使用了大约三到四个不同的模型进行了调用,包括昂贵和便宜的模型。我们将实际讨论如何……
我们还会管理成本,并收集信息、提出一些问题。我们通过用户界面和生成式UI来展示这些选择。接着,我们会为你的演示文稿撰写大纲,这通常涉及多次大型语言模型调用,并为你套用模板样式。我们拥有不同视觉风格的模板库,将利用视觉模型判断哪个最适合你。我们会通过搜索嵌入技术从数千个模板中筛选出合适的,甚至根据你的要求(如“我要红色或蓝色”)进行定制。随后再次展示给你编辑和检查,此时我们尚未开始制作演示文稿本身,但已进行了约30到40次针对四五个不同模型的调用。
当你点击生成按钮,演示文稿将实时构建呈现。这需要撰写幻灯片文字、布局所有内容,并生成装饰性或实质性的图像图表。这些任务通常并行调用不同模型以兼顾性能,否则逐一执行会耗时过长导致用户流失。我们在速度优化上投入巨大,约一分钟内你就能看到整个演示文稿流式生成完毕。此时累计模型调用接近100次,涉及约10到15种不同的AI模型。
我们尚未完成,因为用户通常不会满足于初稿。生成第一版演示文稿后,我们会让AI视觉模型检查每张幻灯片的问题:如文字错位、人物头部被截断、对比度异常或填充不当。人类肉眼能立即发现许多此类问题,有时甚至需要设计师的专业眼光才能察觉。我们可以训练模型来捕捉这些细节,因此会进行多轮视觉质量检查(QA)并根据发现的问题反复修正。
经过所有修复轮次后,我们才会最终交付成品。至此,可能已使用20种不同模型进行了约200次调用,才呈现出看似单一的完成输出。访谈者指出这描述了一个特定垂直领域(创意输出)的工作流,从演示文稿扩展为创意套件。随后询问若明日创业,在哪些未充分开发的垂直领域会构建Agent Harness(智能体框架)。
John表示,当问题与单纯编码差异巨大时最具价值。其独特性在于高度主观性:许多判断存在争议,需人类介入;且用户对输出细节极为在意。他认为这两点是构建专属Agent Harness的良好案例。他举例游戏开发,虽然编码智能体擅长制作游戏,但往往缺乏收集玩家意见以引导演化的能力。
他联想到Roblox或Minecraft,非技术用户正在塑造自己的世界。或许可以构建一个在3D世界中运行的框架来服务这一需求。他建议创业者应拓宽思维,力求与众不同,避免陷入同质化竞争。尽管模仿者众多,但往往只复制了创业者几个月前的成果,因此创始人需明确自身愿景和对未来的判断。
他主张建立产品工作室模式,每两周从零到一构建新功能以探索新领域。访谈者认同此观点,并指出对于想自建Agent Harness的人,关键在于明确自身优势(Edge)。一种优势是拥有独特的世界愿景并快速执行;另一种则是拥有专有数据或信息,例如因已有成功平台而获取的独特资源。
那不仅仅是软件,因为软件领域已经非常拥挤,而且那是一个令人望而生畏的市场。但是你知道的,还有硬件、实体服务以及各种可以在现实生活中以有趣方式融入人工智能的真实业务可以去做。>> 你是说,你知道的,实体服务?比如,你能详细解释一下你的意思吗?>> 是的,我的意思是,要明确一点,我是个搞软件的人,所以我对这个一无所知。但是,如果我不是个搞软件的,我会思考如何把我所拥有的人工智能整合到人们正在经历的某种真实生活体验中,那里存在着实际的人类价值交换。无论是像一个人给你按摩,还是餐厅为你提供服务,或者无论是什么。我认为有太多的真实 businesses 还没有完全被人工智能重新发明。嗯,我不知道它们是否都需要自己的 Harness(智能体框架),尽管其中一些可能确实需要。比如,我看到的另一个大量使用 Harness 的类别是法律科技(Legal Tech)。例如,我怀疑医疗科技是一个很大的领域,其中存在着许多有趣的数据锁定和监管问题。>> 是的,我
认为法律科技就是那种很明显说得通的情况。>> 对,对。>> 嗯,会计显然也讲得通。我认为我会思考的事情是:我今天会构建一个法律科技 AI 智能体框架吗?可能不会。>> 是的。>> 嗯,只是因为它感觉太拥挤了。>> 完全同意。>> 所以,我喜欢你谈论服务 businesses 时的观点,
甚至是一般的无聊业务,比如为 HVAC(暖通空调)公司建立智能体框架。或者你知道的,如果有人想建立一个智能体框架初创企业,在一个利基市场中,他们该如何着手设计它?也就是说,你需要关键的洞察力和特定的细分市场。>> 关于什么是智能体框架有一个非常简单答案:智能体框架只是智能体用来完成任务的一堆工具。所以,我认为要问的问题是:有哪些独特的工具是我已经拥有或者我可以构建的,而这些工具目前市场上还没有。而且我认为,作为创始人,你应该始终问自己这样一个问题:基于我的人生经历、我所处的世界以及我认识的人等,我在哪些方面具有独特的优势?嗯>> 你是怎么看待“AI味”的?>>
是的,完全同意。>> 嗯,你知道,因为我认为一个好的智能体框架会尽可能消除那种“AI味”,我知道你对此有强烈的看法。>> 我确实如此。这一整年我一直在使用“AI味”这个术语。我在谈论除臭、喷洒掉它,所有这一切。也许有些人只是不知道这个词。“AI味”是我们用来指代这一事实的术语:当人们用人工智能制作作品时,你通常能看出他们使用了 AI。我认为这最明显地出现在写作中,当有人用 Claude 给你写一封邮件时,你心里会想:你不通常使用那个词。那不像你的语气。嗯,我现在经常注意到 AI 图像中的这种情况,我在旧金山四处走动,每家咖啡馆、每家餐厅都有海报,我
能闻到那种味道:那是 Nano Banana 生成的,或者是 GPT Image。我每天就做这些工作,所以我能在一英里外就认出它们。而且嗯,越来越多的人开始意识到这种“AI味”,它正通过经济体系和普通人扩散开来。所以对于我们 Gamma 来说,这实际上是我们这次发布的一个巨大目标。作为早期 AI 工具之一,我们某种程度上成了自己成功的受害者:
当没有人使用 Gamma 时,如果你使用了它,你的作品看起来真的很酷并脱颖而出。但一旦每个人都开始使用它,一切就开始看起来像 Gamma 了,人们不想被认出是使用 AI。所以,我们刚刚完成的这次发布的整体目标就是:我们需要迅速扩展我们的创意景观。嗯 事实是仍然会有“AI味”,但可以有上千种不同的 AI 味道,而不是单一垄断的味道,我们可以帮助人们跳转到不同的小众领域。顺便说一下,这是另一种形式的 Harness(框架)。我们需要创建一个自己的自动化系统来不断循环不同的创意外观。我们实际上使用了时尚的类比。时尚也有味道。你会说:我知道你穿的那件 H&M 衬衫,我也有同款。嗯,在时尚界有一种动态变化:人们不断循环不同的造型。你知道的,现在我们都喜欢那种非常宽大的牛仔裤,但很快又会流行紧身裤了。所以我们意识到我们必须顺应这种周期变化,并给人们适应它的工具。>> 那么,有没有一种评估方法来检测这些外观是否显得千篇一律?
你知道的,“评估”(eval)是个非常有趣的话题,因为我认为“评估”对于客观事物非常有效。>> 如果不介意的话,请拆解一下什么是“eval”。>> 是的,完全同意。所以嗯,“eval”只是一个……你可以把它几乎想象成软件测试。它是一种硬编码的问题,通过提问的方式来评判结果。所以在我们 Gamma 的世界里有一个简单的例子:我们经常希望当用户做某些模糊的事情时,智能体能提出问题。所以我们会给它一个评估测试,比如:当用户说“做一个关于老虎的演示文稿”时,智能体应该问类似这样的问题:“这是给小孩看的还是给成年人看的?”因为关于老虎你可以制作出非常不同类型的演示文稿。嗯,所以我们通常使用“评估”来测试新的道具或新模型。而且通常会给出分数。你可以把一堆“评估”组合成一个基准测试,在那里你说:“哦,原来模型 B 比模型 A 高出3%。”每当实验室发布新模型时,他们就会说:“哦,Opus 7 在这些15个评估测试中表现优异。”我们在非常创意领域面临的问题是,由于各种主观品味导向的因素,“评估”一直很难适用。比如:“这看起来酷吗?”甚至更个人化的问题,如:“这是我吗?这听起来像我说的话吗?”对此没有单一的客观评估标准。所以我们尝试创建一些作为替代品的“评估”,比如:“它是否遵循指令?例如,如果你提供了品牌指南,它是否会遵守?”这是一个我们确实会自我测试的客观问题。但我们从未将自己局限于仅仅使用“评估”。而且我认为这也是一个有趣的见解,关于你如何在这个世界中竞争。最终,创始人能为他们的领域带来的是品味(Taste)。他们有自己的审美判断。他们实际上在与用户交流,而这些用户也有自己的品味。在你所处的领域越难以验证(比如时尚),我认为
这些独特的视角是有发挥空间的。我认为在服装设计领域,应该存在一百种不同的 Agent Harness(智能体框架)。我想,耐克和 Adidas 的 Harness 应该有所不同,因为它们对品味的看法不同。此外,对于我们来说,由于我们拥有极其多样化的用户群体,每个人都不一样,因此我们在很大程度上更依赖 A/B 测试。我们会以极大的规模运行两个模型或两组提示词,并在广泛的用户群体中衡量哪个表现更好,因为这能捕捉到主观性。
那么那里最重要的指标是什么? 你知道,我们有各种各样的指标。举几个例子,我们会看生成之后你花了多少时间编辑你所制作的内容?你是否最终分享了它或导出了它?是否有信号显示你投入了时间?我们也有一个免费增值产品,所以人们会免费使用我们的产品,如果他们喜欢,就会升级到付费版。那是我最喜欢的信号之一,因为它很难造假。通常来说,人们只有在真正从工具中看到价值时才会付费。因此,我们将其作为北极星指标。有时我们甚至会查看下游留存率。比如人们在一周后或一个月后是否仍然回到该产品?显然,这测量起来较慢,但这也是那些难以造假的信号之一。
本周病毒式传播的图表是 A16Z(安德森·霍洛维茨基金)的一张图,上面说我认为只有 2% >> 的人在使用 AI 工具上花钱。你对此怎么看? 是的,这并不让我感到惊讶。我认为总体而言,订阅制始终是一种针对从事某种有价值工作的人的小众事物。我不认为消费者喜欢订阅模式。作为消费者,我也不喜欢为各种东西订阅,你知道的,我总是想蹭别人的 Netflix 账号或其他什么。
“不,我不会把我的密码分享给你。” “你确定吗?如果我不得不解释什么是 Agent Harness 呢?” 嗯,但在工作方面情况不同。我认为对于工作来说完全是另一回事,你知道的,工作订阅制实际上是过去 10 到 15 年软件行业 SaaS(软件即服务)繁荣的主要推动力。这些东西将继续取得成功。而且我认为同一张图表显示,当你将视角缩小到专业人士时,在谁为 AI 付费方面,数字正在疯狂上升。所以这肯定是我们的主要焦点,而且我认为大多数人在 AI 领域的主要关注点是如何找到那些“专业消费者”(prosumers),以及如何进入 B2B 市场,那里的消费模式完全不同。
如果有人想构建“X 领域的 Gamma”,你会选择什么?比如,如果有人在听这个节目时说:“哇,我被 Gamma 正在构建的东西启发了。” “是的。” “嗯,但我认为就像你刚才描述的那样,只不过针对不同的利基市场。有什么想到的吗?” “这非常个人化,因为如果那是我的领域,我早就在构建了。我认为你需要去做那些我不懂的事情,无论是宝可梦卡片、时尚还是运动鞋等等。找到你的领域,在那里你了解情况并构建它。”
而你个人呢?有没有一种 Harness(框架)是你希望存在但目前还不存在的,如果它明天发布你就会使用的吗? 你知道,我对整个个人智能体领域非常着迷。我还没有使用过所有最新的工具,但我觉得没有人完全攻克的是工作协作问题。如果我能构建任何东西的 Harness,那将是 Slack(即时通讯软件)。我对 Slack 本身没有为 Slack 构建 Harness 感到有点失望。
“在你看来那会是什么样子的?” “对于任何使用 Slack 或微软 Teams(当然)的公司员工来说,通信量简直是绝对的洪流。有太多的消息在流动。你 constantly 试图跟上节奏,心想:‘好吧,哪些是我真正需要采取行动的呢?’我看到他们在边缘试探,比如你可以将 30 条 Slack 消息总结成一条。但我想要一些真正为我运行所有东西并学习我的工具。它在我回复之前就能学会我如何回复。我希望能够打开任何有人 ping 给我的 Slack 线程,并为我准备好第一版草稿。”
“它通过回答测验或引导来学习你,而不是通过实际观察你的行为?” “通过观察我。” “是的,通过观察。” “我已经发送了大约十亿条 Slack 消息。这就足以让你知道我会如何回复。” “没错。” “即使在电子邮件中,这个问题也还没有完全解决。我看到 Gmail 有一些小功能,比如:‘哦,你知道的,是的,我很乐意周四去看牙医。’这绝对不是我一生中会回复的方式。但我认为还有更多空间,可以在专业环境中真实地代表我,就像我本人一样。也许这就是我真正渴望的,而 Gamma 做的部分事情就是:我想要一个能学习我语气的智能体。”
“嗯哼。” “当然这很难,因为这是个人的事情,这就是为什么智能体还没有做到这一点。让智能体变得个性化真的很难。” “所以,你知道的,在 Gamma 以及你在其他人模型的基础上构建东西。嗯哼。对于在其他人的模型基础上构建产品的创始人,你有什么建议吗?” “我认为在别人的模型上构建并没有什么可耻的。我们从一开始就这样做,经常在 Anthropic、OpenAI 和 Google 模型之间切换。而且许多讨论总是说:‘不,你必须训练自己的东西。你必须微调它,因为你需要护城河。’我一直觉得这对早期初创公司来说是不现实的。首先,训练自己模型所涉及的资金很难筹集。而且,现有的模型一直在变得更好。我很少愿意去与市面上的那些模型竞争。”
“不过,随着你在旅程中走得更远,情况会发生变化,因为你开始积累真正的用户量。说实话,积累真正的用户量是人们应该关注的主要战斗。毫无疑问,使用现有的模型来首先获得这些用户量。一旦你做到了这一点,你就可以开始做一些非常有趣的事情。我们实际上在微调模型以降低我们的成本方面取得了巨大成功,在某些情况下甚至开始为人们提供更多的个性化服务。我们还开始识别出大型模型不擅长的专门任务,就像我之前提到的整个过程……”
评估幻灯片并判断其质量,我们使用现有的模型效果并不理想。因此,我们正在开展自己的研究来构建针对这些特定任务的专用模型。我认为人们绝对应该朝着这个方向努力,但同时也请充分利用现有的优秀模型。
关于前沿模型、云端模型与开源本地模型的对比,你怎么看?我认为云端模型被低估了。虽然开源模型获得了大量的炒作和关注,但请跟随资金的流向——所有资源都涌向了闭源模型,因为它们确实非常出色。大量的工作已经由他人完成。对我们所有人来说,最棒的是闭源模型领域存在激烈的竞争。
如果像 Anthropic 这样的公司能独占鳌头,情况就会截然不同,我们将无法在优秀的 OpenAI、Gemini 等模型之间进行选择。但我觉得这些公司之间的差距只有几个月,这对于应用层来说是最好的事情。这种竞争压力促使他们不断变得更好。
你曾说自己对 AI 技术栈的浅显程度感到惊讶,今天情况依然如此吗?我会说我们的 AI 技术栈是“广而浅”的。我的意思是,我们使用了大量不同的模型,但通常以相当简单的方式使用它们。通过提示工程、提供上下文——也许你的听众听过“上下文工程”这个词,即向模型提供正确的上下文——我们能取得很大进展。
我将其视为整个游戏的核心:回归到 Harness 的构建。你能从用户那里获取正确的上下文吗?你能以正确的方式向用户表达 AI 的输出吗?你能将所有这些提炼成让 LLM(大语言模型)工作变得极其简单的东西吗?当你使 LLM 的工作变得非常简单时,你可以使用任何现成的模型并获得良好的结果。
关于提示词与微调的大辩论中,你对此有强烈的观点吗?是的,我认为对我们而言 98% 的价值来自提示词。因为提示词简单且便携。顺便说一句,现在没有人手动编写提示词了,比如 Claude 会为你生成提示词,这非常容易。因此我认为大多数问题都可以通过提示词解决,包括将提示词分解为不同的部分。
微调对我来说更像是一种优化手段,当你想要控制成本或挤出那额外的两三个百分点的质量时才使用它。当新模型发布时,你们实施的速度有多快?是观望还是如何思考这个问题?通常在一小时内。如果我有理由相信某个模型会很好,我就会立即实施。
并非每个模型都令人感兴趣,但一般来说,Anthropic 或 OpenAI 发布的任何模型对我们来说都有吸引力。我想我提到过我们在 Harness 中有各种各样的任务。有些任务我们使用像 Fable 或 Astra 级别的模型,有些使用 Haiku、Gemini Flash 级别的小模型,还有些使用 GPT Ludon 级别的婴儿级小模型。
因此,每当有属于这个类别的新模型出现,能帮助我们完善帕累托前沿时,我都想尝试一下看看效果如何。由于我们的用例非常主观,是的,我们会进行一些评估测试。但我们很幸运拥有庞大的用户群,我可以在一小时内启动测试,并在两小时后获得关于其表现的数据。
其中一件事是我学到的:因为我是一家名为 LCA 的设计代理公司的联合创始人,我们曾在 Gamma 合作过一个项目。在与你们共事的过程中我学到的一点是,你们进行了大量的实验测试。是的。我对某个结果令你惊讶的实验很好奇?
因为感觉你们同时运行着大量的实验测试。我们进行大量实验,任何时候可能都有 10 到 20 个在运行。许多实验持续时间不到一天。那么请带我走一遍实验的流程,因为我觉得这非常有趣?
好吧,我带你看看一个我刚在 Uber 乘车途中开始的实验。就在昨天 Claude Haiku 5.5 发布后,我立即发起了八个不同的实验。我们非常兴奋能使用它,因为我提到过很多任务不需要像 Fable 那样顶级的模型。它们快速且便宜,比如从库中选择模板或根据某些内容编写大纲。
我们一直期待使用新的轻量级模型来测试这些场景。今天早上我发起了八个不同的测试,刚结束这个播客录制后,我将检查结果并可能取消其中四个。我们测试的内容包括对幻灯片进行微调编辑或修订大纲等任务。
从这些测试中我们经常学到的一个好处是,我们可以使用成本仅为另一模型一半的模型并获得完全相同的结果。但有时我们会得到相反的发现:发现某些任务确实需要昂贵的大型强力模型才能完成。
有时我们甚至会发现“有益的摩擦”。比如几天前我们运行了一个关于产品快速模式的实验。快速模式意味着跳过之前提到的某些步骤,如展示演示文稿大纲或提前提问。假设当然是如果移除过程中的摩擦,人们就能更快完成并更早进入那种“神奇的价值时刻”。
我真的很希望这个测试成功,但它并没有赢。事实证明,沿途的这些“减速带”——查看大纲并审核、选择故事的高层结构、回答这些问题——带来了更高的满意度评分。虽然速度较慢,但完成流程的用户对自己的产出投入了更多精力并做了更多内容,他们的付费转化率也更高。
但同样酷的是,测试从不只有一个简单的答案或另一个。你可以挖掘得更深一些。所以,我们……
实际上,我们刚刚为移动端的新用户推出了一种快速模式版本。因为在手机上,你不想输入大量答案来回答问题。>> 就在此刻之前,我发布了一篇关于“营销工程师”的X(原推特)文章。>> 嗯哼。>> 我的观点是,营销已经发生了变化。如果你回想一下“广告狂人”时代,那时候一年只制作一部大型商业广告。到了90年代和21世纪初,变成了数字营销者,可能进行更多的实验。接着我们进入了增长黑客时代,每周进行的实验更多了。我认为在2022年,应该是“AI辅助营销者”时代,实验更多了。
我认为我们现在正进入“营销工程师”的时代,作为营销人员,你每天运行数十个实验。你是如何做到的?你使用AI代理来为你完成这些工作。我很想知道你对这一点的看法。你认为营销已经改变了吗?你看到它走向何方了?>> 这很有趣,因为在我加入Gamma之前,我在一家名为Optimizely的公司工作。我对A/B测试的热爱就源于此。我们提供的是A/B测试即服务。我们的愿景很大程度上是关于个性化。
这个理念认为,随着更改网站变得越来越容易,我们将创建数百个微小的变体版本,每个人都会收到略微不同的版本,从而以各种有趣的方式优化转化率。令我惊讶的是,我认为这一愿景在互联网上 largely(很大程度上)并未实现。我会说网站仍然主要是“一刀切”的模式。移动应用大体上也是如此,除非是一些高度个性化且取得成功的专业领域。当我提到“专业领域”时,我指的是像你的TikTok信息流、Instagram Reels这样的东西。
我们知道这些平台上的公司花费数十亿美元,只为从你身上榨取最后一美元。>> 我听说麦当劳正在测试个性化定价。你听说过这个吗?>> 哇,这听起来像是等待爆发的舆论反弹。>> 这就是我看到它的原因。>> 是的,是的。(笑声)不过我认为麦当劳的例子正好说明了为什么这种情况没有发生。首先,我觉得社会对这类事情有一种真实的过敏症。就像如果你发现我们买了同一张机票,但因为他们知道我在旧金山而向我多收了五美元。
我想一般来说,即使是动态定价(高峰溢价),我觉得昨晚我从晚餐回家时遇到了动态定价。我当时就想:嗯,是的。那种感觉并不好受。>> 没错。而且我认为在这个超高效、注重绩效营销的时代,实际上奏效的是那些坚决投资于品牌建设的公司。这种像苹果那样的思维模式:不惜一切代价保护品牌。所以我认为这一趋势将抵消你描述的每个人都在疯狂使用营销代理的情况。话虽如此,我仍然认同“营销工程师”正在崛起的观点。
我只是喜欢“营销工程师”这个术语,因为它听起来像是一个矛盾的概念,就像GTM(Go-To-Market)工程师听起来也像是一个矛盾一样。这些本应是不同的部门。但我非常喜欢看到每个人的技能是如何融合的。实际上,在Gamma我们也看到了这一点:人们越来越多地使用Gamma不仅仅是为了制作一两份演示文稿,而是创建非常酷的自动化流程。例如:每当Salesforce中创建一个新商机时,自动根据之前的通话笔记创建一份pitch deck(推介演示文稿)。>> 你是如何设置这个的?
我们实际上一直在构建连接器,以便你可以自动化更多流程。所以你可以直接接入Salesforce。但我会说仍然需要大量的底层工作(plumbing)。人们可能使用N8N或Zapier之类的工具来触发整个流程并进行连接。这是一个很好的例子,说明这仍然是专家的领域。有一些非常聪明的人或机构知道如何帮助企业连接这些系统。我认为仍然存在着商业机会,即将那些由前1%或2%精通工程化的顶尖公司实践的做法,转化为每个人都能轻松使用的超级简单工具。
另一个例子回到个人代理,就是像Muse和Instinct这样的工具正在发生的事情。如果你能正确设置你的Linux服务器并避免被黑客攻击,你可以用OpenClaw或Hermes做一些很酷的事情。我个人跳过了整个趋势。我想:“我是个忙碌的人,我没时间设置我的OpenClaw。”我打算等几个月,直到他们让它变得简单。现在Muse和Instinct疯狂地给我发消息,因为它们让我觉得很容易上手。>> 对,所以你没有一个运行着的Mac Mini?
我从未拥有过我的Mac Mini。作为一名AI创始人,我感到很羞愧。>> (倒吸一口气)回到营销工程方面,在你心目中,顶尖1%的营销工程师是什么样子的?>> 嗯,我想到的第一件事是他们是“营销数据科学家”。所以他们极度以数据为导向,并扎根于实际表现。这一点变得比以往任何时候都更容易了。Clod就是我的数据科学家。所以我会说,我们团队里的每个人现在都 constantly(不断地)拥有非常细粒度的分析工具,用于分析失败模式和机会。
他们查看我们网站的流量,寻找差距。你知道的,我团队里最接近“营销工程师”的那个人,他 constantly(不断地)思考着以令人难以置信的规模进行SEO和广告创意的新方法。你知道,他们已经从个体创作者变成了运行这支代理大军的人。而他们处于高层的监督角色中。>> 是的,基本上就是一个部门了。>> 是一个部门,没错。这就像我们正走向这样一个地方:如果你是顶尖1%的营销工程师,你工作的范围(surface area)不仅仅是……不,这个范围巨大。
你看SEO、GEO(生成式引擎优化),看社交媒体内容,看付费广告,基本上所有的创意品牌工作。>> 绝对如此。>> 我觉得这很有趣,因为我认为那些弄清楚如何……
如何成为顶尖的1%营销工程师,从而在让产品被看见方面获得不公平的优势。>> 没错,而另外98%的人正迅速变成恐龙。如果你跟不上市场里正在做这件事的人的速度,>> [笑声] >> 我有一种感觉,在过去的一两年里,至少我们这些使用这些工具的人经历了一系列快速的晋升。我们从独立贡献者变成了经理、总监,甚至是副总裁级别。现在我们每个人手下都像金字塔一样层层叠叠地管理着许多代理(Agent)。事实证明,这份工作其实相当艰难。因为人们之所以很少从事这类工作是有原因的:你不断地被信息轰炸,必须做出太多决策。
你会感到不知所措和困惑,需要工具来理清这一切的头绪。你也需要人来帮你理解这些情况。你需要助理、幕僚长以及所有这些角色。因此,我们所有人都必须快速提升技能,本质上学会如何管理一千人。培养这种能力是我们都能做的最重要的事情之一。此外,我认为构建工具来帮助普通人成为自己生活的“副总裁”这一领域仍有待深入探索。回到我之前提到的Slack想法上。>> 我也觉得,你知道的,总的来说,现在的创业或建立企业感觉更像是一门科学而不是艺术。>> 是的。
从这个意义上说,那些能够胜出的人,是那些拥有“实验肌肉”并不断尝试各种不同方案的人。这就是为什么我喜欢和你交谈,因为感觉这种“实验肌肉”就是你的专长。在Optimizely期间,你学到的哪一点是每个AI创始人最好都知道的?>> 嗯,这是个很好的问题。你知道,从我多年来帮助其他公司进行实验的经验来看,我觉得这很大程度上取决于你有多少个“App Bats”(注:此处可能为口误或特定术语,结合上下文指代实验样本量)。这纯粹是一个数字游戏,就像销售、约会或生活中的其他事情一样。你必须尝试大量不同的东西,而不是指望运行一次大型测试就能神奇地解锁你的业务。
我喜欢你把它称为“肌肉”,因为我认为确实如此。首先,它是可以训练的。是的,也许有些人天生就拥有更多的肌肉,但如果你付出努力,这种肌肉就会增长。>> 我也觉得你的第一次实验不会成功。>> 完全正确。>> 就像如果你试图健身和增肌,你必须每天去健身房并付出努力,然后两个月后你可能才会看到腹肌。但你不能指望第一天就有成效。我认为作为实验者最难的部分在于,你必须经历一个“悲伤之谷”(trough of sorrow)。
我认为很多人最终会这样做,他们会说:“好吧,我就凭直觉行事吧。” >> 绝对如此。>> 顺便说一下,在社交媒体发帖、写博客或发送冷邮件外联等方面也是如此。所有这些领域都有一个“悲伤之谷”,我认为生活中的所有成功都来自于游过某种形式的痛苦期。>> [叹息和吸气声] >> 有什么事情目前被低估了,你觉得人们谈论得太少了?我之前和一个朋友聊到语音AI。我觉得它有点被低估了。>> 是的,是的。
现在人们经常谈论个人代理(Personal Agents)。还有什么事让你想到吗?>> 也许这个答案很平庸,但我实际上认为AI图像模型被低估了。说它平庸是因为我们谈论图像模型已经好几年了。自从2022年Stable Diffusion发布以来,人们一直在制作很酷的东西。但讽刺的是,随着它们变得更好用,人们反而停止谈论它们了。当它们不再以各种方式出错,并逐渐成为我们生活的一部分时,我们似乎忘记了我们要拥有这项能创造任何事物的非凡技术。
如果你看看人们如何使用ChatGPT图像和其他少数几个模型,你会发现他们反复使用的大概只有三四个用例。你知道的,比如为他们的小企业制作菜单,或者为父亲的副业项目设计标志。他们做的事情寥寥无几。但这些模型的能力远不止于此。我们在Gamma处于一个非常有利的位置来观察这一点。虽然我们谈论图像不多,但我们使用了大约10种不同的图像模型来完成各种任务。那里的创新速度非常快,而且有许多未被探索的能力。
对我们来说,这些能力包括制作精美的图表或信息图以放入演示文稿中;制作酷炫的小纹理作为演示背景;定制图标等。所有这些现在都成为可能,但大多数人并没有意识到它们的存在。我认为你可以关注几乎任何创意领域,找到使用这些方法的方式。尤其是普通人根本不知道这一点。你知道的,甚至有一件事我认为许多AI原生用户都在做,但大多数人没意识到你可以做到:使用AI图像模型来处理服装和家居装饰。
比如,你在亚马逊上发现了一款想买的新沙发,你可以直接跟ChatGPT说:“它放在我的家里会是什么样子?”然后让它再找几款其他的并可视化出来。像这样的许多功能都等待着被更深入地产品化。>> 你认为在这些垂直领域有建立产品的机会吗?比如专注于室内设计,或者你觉得大型模型公司会独占这些用例,以至于尝试都无需尝试了?>> 我认为垂直用例有巨大的空间,关键在于理解从事这些工作的人的具体需求。
就拿这个家具的例子来说吧。我最近刚买了一张沙发,所以…… >> 恭喜了。>> 谢谢。>> [笑声] >> 它真的非常舒适。我经历了这个过程,觉得非常有趣……在尝试这样做时。事实证明,AI图像模型在向我展示沙发看起来是什么样方面非常出色,但它们并没有真正向我展示它究竟会如何……
对吧?比如,如果你的墙壁是某个尺寸,那么68英寸的沙发和58英寸的沙发之间就有巨大的区别。所以你能不能在展示中给我显示具体的单位尺寸?这是一个很好的“Harness”(智能体工具链)的例子。模型实际上能够处理很多这类事情。其中一种能力是,你可以想象渲染一个沙发在我的房间里,然后使用一些传统的编程在像素层面上画一条线来测量它的长度,看看它是否真的呈现出正确的尺寸,并提示模型进行调整以使其完全准确。我不认为实验室会在短期内这样做。
或者提示说:“嘿,这个沙发不适合你。”“完全正确。”“但是这里有一个来自Restoration Hardware的另一个沙发,我认为基于这些原因它非常完美。”“完全正确。而且伙计,我关于买沙发的经验是,有数百个网站出售沙发,你必须点击所有这些网站上很多小按钮。我最后去了Google Shopping,那是一次不愉快的体验。也许有人已经为此构建了一个很棒的产品而我错过了它,但我还没有看到过。”
“我认为有一些例子。我觉得levels.io有……”“是的,他有一个室内设计方面的产品,我想是这么叫的。”“对。对。对。”“但我认为仍然有空间。你明白我的意思吗?我觉得随着模型变得更好,图像模型也变得更好了。”“Harness的概念正变得越来越成熟。这里还有更多内容。我认为可以安全地说,目前围绕沙发购买或家具购买的消费者体验并未得到优化。”“完全正确。”
“而且那个特定用例的酷之处在于它是高客单价产品。”“完全正确。所以有利润空间,对吧?比如,我不认为与Restoration Hardware达成交易是疯狂的,他们会说:‘如果你推荐我们的产品,我们将给你5%的佣金。’”“沙发,是的。绝对如此。”
我认为另一种情况是,当你思考什么能在与模型公司的竞争中生存下来时……我们确实在Gamma经常面临这个问题。有一种纯粹的消费者版本,用沙发的类比来说就是“帮我买一个沙发”。但还有一种专业用户(Prosumer)版本,比如:“嘿,我是一名室内设计师。也许我是兼职的,但我家里有两个孩子,这就是我做的副业,而且我按小时收费。”这些人需要工具,他们会寻找最好的。如果这能帮助他们更好地工作,他们很乐意为此支付订阅费。
还有真正的专业人士。Restoration Hardware本身也有在那里工作的人,他们使用什么工具?我打赌不仅仅是ChatGPT来做所有这些。我认为确实有机会为这些人建立公司。而且我怀疑最高级别的专业人士,也就是大公司,才是你能真正构建持久事物的地方。“是的,我觉得这还没被充分探索。”“确实如此。因为我认为目前的叙事是……”
“没有那么多机会去创建垂直SaaS或垂直AI产品。”“是的,这很不幸,因为我认为……是有机会的。而且外面的世界很大,”[轻笑]“你懂的。”这也是我们从Gamma旅程中学到的另一件事。我们的用户群非常广泛,因为如果你想想地球上有多少人制作演示文稿,那是很多不同类型的人。对我们来说,不到四分之一的收入来自美国。它分布在许多不同的职业角色中,从顾问、教师到营销人员、销售人员再到律师。我以前不知道律师也做演示文稿。结果他们确实这么做。“嗯哼。”
你知道,你能利用的利基市场越多越好,就像在许多方面大公司只是堆积在一起的成千上万个小小利基市场的集合。所以如果你能找到一种能贯穿其中的东西,你不需要从广泛开始,你可以只从一个开始,然后寻找可以解决的相邻领域。“100%。而且你实际上不知道它会带你去哪里。”“对,就像你没有意识到‘嘿,律师正在使用……’”
然后你最终可能会为律师创建一些特定的东西。突然之间,这成了你业务的一大组成部分。这就是为什么我总是说开始行动吧。发布一些东西出来。你得去[清嗓子]探索一下。这回到了实验精神。实验不仅仅意味着为每个测试组运行10,000名用户的A/B测试。它通常只是意味着放出一个落地页,提供一个用户可以尝试的产品,这从未像现在这样容易。“如果我知道你不会离开Gamma,但假设你明天就离职了,你会创办一家什么样的公司?”“哦,这是个很好的问题。你知道的,我只是喜欢围绕‘激发人们的创造力’这一领域进行探索。”
“虽然我觉得还有其他类型的创意让我着迷。比如,尽管这个空间很拥挤,但我对‘氛围编程’(vibe coding)非常着迷。今年早些时候我在旧金山生活,身边有很多科技人士,每次我和三四年没见的朋友见面时……”“[笑声]”
我会问他们在忙什么,他们会说‘看看我做的应用’。这某种程度上席卷了全球。我想知道也许下一个氛围编程是什么,或者它的下一前沿在哪里?当人们能够制作任何东西时,这会带他们去哪里?所以在这一点上,我对视频模型终于变好感到着迷。我也对语音模型变得好用感兴趣。比如某种你可以呼叫并让它为你做事的东西?游戏对我来说非常有趣。我觉得视频游戏行业正等待着某种颠覆。但我还没破解它。我不知道。”
“我认为在视频方面,我们确实感觉正触及到视频的‘氛围编程时刻’。”“是的。Opus 5.5显然……”“有一些很酷的东西。”“制作了一些很酷的作品。是的,所以我认为问题是:在一个任何人都能创建视频的世界里,他们能创作什么类型的视频?然后我也很感兴趣的是……作为一家公司的创始人我想:‘好吧,在一个任何人都能创建视频的世界里,我可以基于此创造哪些创业点子?’”“完全正确。”
“这又回到了智能体(Agent)……”
"Harnesses." "是的,绝对如此。" "一切归根结底都是关于智能体(Agent)。" "一切都回归到 Harness,宝贝。"
“嗯,伙计,非常感谢你来到这个播客节目。你有什么想留给听众的一句话吗?”
“嗯,我总是鼓励那些考虑创业的人要知道,这是一段漫长且有时孤独旅程。正因为如此,你真的必须热爱你所从事的事情。”
“嗯,在我创立 Gamma 之前,我给自己定了一条规则——如果将来我再创办另一家初创公司也要遵守这条原则:它必须是我能够‘自己吃狗粮’(dog food,指内部试用)的东西,我必须是它的用户,并且我必须相信它。老实说,这实际上排除了很多无聊的业务,但这让我的灵魂得到了满足。”
“我只是需要做一些我每天愿意花费数小时去投入的事情。因此,我总是鼓励人们深入挖掘并思考:你的激情是什么?那个只有你知道、你愿意每天花八小时去钻研的事情,而当环顾四周时,你的朋友并不想每天花八小时去做的事?将那个目标作为你的北极星。”
“这也是一个重要的观点,关于那些你愿意每天花八小时去做而其他人不愿意做的事情。”
“完全正确。你可能对体育或其他事物非常感兴趣,但很多人也对体育感兴趣,那可能会非常有竞争性。”
“我认为,如果你在选择初创公司创意或选择商业模式时,我总是说:‘与利基市场结婚,与产品约会’。”
“我喜欢这个说法。就像要爱上你试图服务的对象一样。”
“是的,没错。因为我们生活在一个时代,你知道的,你会对产品进行无数次迭代,它看起来会变得截然不同。但如果你热爱那个利基市场……”
“这就是为什么我总是鼓励人们去建立媒体、在那个利基市场中积累粉丝,因为这样你就可以向他们销售各种各样的不同产品。”
“一个受众群体。我认为这完全正确。你知道,杰夫·贝佐斯有一句非常相似的名言,他说:‘在愿景上要固执,在细节上要保持灵活。’”
“嗯哼。” “很高兴能和杰夫·贝佐斯这样的大人物为伍。”
“是的。[笑声]” “谢谢,我很感激你……” “谢谢你邀请我,这太棒了。”
“这也太好了。”