我想什么时候按按钮就什么时候按,觉得合适了就按。我不太去关注竞争对手,我真正关注的是我们有什么独特的优势,我们的价值观是什么。以及我们要怎么以最快的速度朝这些目标推进?可能一两年之后,这种速度就算成不了默认配置,也会非常接近默认水平。再看看 Luna 的成本,对吧?简直太惊人了!技术随着时间推移,总有办法变得非常非常高效。

我们非常专注于极其广泛的可用性,而且在针对你从指令中获得的效用做优化。我听说现在真有一个实体按钮了。没错,有的我会拿给你看的,非常非常酷,Tibo。非常感谢你来参加节目,不客气,很高兴能来。嗯,很期待跟你聊聊。其实我想先从你在谷歌的那段经历聊起。你当时在 DeepMind 的团队,在 ChatGPT 出来之前,谷歌有一个叫 LMC Chat 的东西。

你发过一条推文说,谷歌当时太紧张了,不敢发布 DeepMind 被禁止推出可能颠覆谷歌的产品。我经常琢磨这件事儿,你当时在做这些产品的时候,心里是怎么想的?那可是在 ChatGPT 真正改变世界之前很久的事儿了。对,那是一段非常让人兴奋的时期。DeepMind

当时是个很有创造力的地方。我当时主要专注于我的专长是用来加速研究的基础设施和产品,所以当时显然有一个组在做语言模型以及做模型的扩展,然后他们拿到了相当不错的结果,于是很自然就会去想能不能把它做成一个可以跟他聊天的东西。

而且,能用来做各种事情,所以很自然的就冒出了像 Chat 这样的想法。然后他当时是内部用的,后来就有了把它做成一个公开可用工具的雄心。这是哪一年?这大概是在 ChatGPT 出来前一年左右。好的,end。然后,不过我们当时还在做各种其他东西,我就不细说了。但那确实是个很有创造力的地方,只是 DeepMind 当时的机制就不是为了发布产品而设的。

从这个意义上说,OpenAI 是一个非常非常不一样的地方。我们就是研究和产品团队合作的超级紧密,我们把它加在一起,我们共同设计很多东西。我们非常倾向于把东西发布出来,也非常倾向于让大家都能用上。我很喜欢这一点,这也算是吸引我来到这里的原因,这里的使命,这里的人,人才密度。我是说,OpenAI 真的有很多很棒的地方。

你在参与 Alm Chat 的时候,当时就知道它很特别,或者会变成一个很特别的东西吗?感觉非常特别,就像是那些模型,有点像是第一次你意识到你能得到连贯的文本和有帮助的东西。一开始它更多是搞笑而不是有用,然后慢慢的它变得越来越有用了。所以你说你经常会想起那件事儿,我能理解。我觉得在很多方面,谷歌都是自己绊倒了自己。

你在那里学到了哪些教训?后来带到了Open AI。对,所以这就是为什么我经常想这件事儿。我会从我团队里的文化 OpenAI 自身的文化来思考它,以及保留哪些好的部分,什么事情不能做。OpenAI 是一种非常自下而上的文化,是一种非常充分授权的文化,大家可以想出各种各样的点子。聚在一起,然后非常非常快的把东西发布出来。

总的来说,对于新的产品想法很少会有阻力,这让人兴奋也很有意思。而且,这一切都是为了以积极的方式影响世界,所以对我来说,保持这一点非常重要。另一件同样重要的事儿就是不要把它搞得一团糟,对吧?所以你不想搞成一锅大杂烩,既没有特色,也没有整体方向和连贯性。所以,这要用简洁感以及你为产品质量感到自豪来做平衡。

我觉得 ChatGPT iOS App 算得上是市面上最好的 App 之一,所以我们想保持这一点。我们投入了很多在愉悦感、性能、效率、简洁这类事情上,所以有这些总原则,同时仍然授权给每个人去尝试新事物并快速发布。如果你要给创业者提建议,关于如何建立这种文化,OpenAI 内部有哪些更具体的内容或做法,可以给创业者一些参考。

是的,我觉得是要有信念,想办法拥有用户,并根据反馈非常快速的迭代,然后还要愿意颠覆自己。这对创业者来说没那么相关,但对像 OpenAI 这样的公司很相关,比如。我们一直在提出新的研究、新的想法,而且能够识别什么时候是去投入他们的正确时机,即使这意味着可能要从主业重新调配资源,这非常重要,但这很难。但能够做到这一点非常重要。

对我的意思是,这正是你之前描述的谷歌的情况,他们有点做不到这一点,挺好的。我的意思是,这会。平心而论,他们有自己的计划,就像是这都是一个大计划的一部分。但对我来说,那不是合适的地方。在 OpenAI 或任何公司,随着它走向成熟,要保持那种发布的文化和颠覆自己的意愿,会不会变得更难?尤其是如果你有一头正在疯狂印钱的摇钱树,而这边又有另一个可能是很酷、很创新的新东西。

我们非常非常往前看,AI 的未来会是什么样子?人类如何从中受益,并不会真正去权衡,也不在乎你在接下来的一个月或三个月里在这里建立了什么。所以,我觉得迎难而上,睁大眼睛看清这一切的发展方向非常重要,然后想清楚该如何定位自己。好,让你确实能赶上那波浪潮。即使对 OpenAI 来说,也是我们训练出模型,然后发现他们的能力。

比如,我们并不是基准测试,并不会告诉你一切。我们必须多去实际玩一玩模型本身,才会意识到,比如哦,也许我们之前没想过以这种具体的方式去利用它,或者是啊,它能做这个,然后你就会觉得啊,我们对产品的思考方式变了。比如现在。我们推出了新的语音 ChatGPT Voice,和他聊天让人非常开心,非常自然。现在他也能使用工具了,这就改变了局面。

比如现在,我花更多时间直接跟他说话。我经常做的另一件事儿就是语音输入,这种方式比手打 prompt 高效得多。所以早上我坐在那儿拿着手机就巴拉巴拉说一通,就是给 ChatGPT 交代几件要做的事儿,然后他就直接去办了。他能访问我的所有工具。对,在我们拥有真正好用的语音模型之前,这是不可能做到的。所以,这会突然彻底改变你对产品的看法。

没错,我们接着聊聊新模型,新 harness。几周前,我想再引用一条你的推文,因为写的太精彩了。Codex 在两三个月后就会显得很原始。我们马上要经历另一场重大演进,下一代模型需要的不仅仅是你的笔记本电脑。哪些领域?我们先从 harness 开始。随着模型变得越来越好,harness 哪些领域仍然大有创新空间?

对,太多了,太多了。我说过语音,比如有一点就是,现在如果你是 Codex。和其他任何编程 agent 的资深用户,你差不多已经习惯了它的一点点笨拙,对吧?所以你得管理技能文件,这算是一种教它东西的方式。但这也,我觉得很多人都意识到,时间长了其实有点难维护。记忆功能算是一个方面,但它并不总能记住所有事。

比如,如果你有子 agent,你就得去操心子 agent。它就像是构建了一个小网络,所以当你和它交互时,那种感觉会在很多地方被打破。而你真正想要的,只是一个能深入懂你、懂你的目标、懂你的日常,也懂你的团队在做什么的助手,然后以最好的方式做出反应,同时也主动出击,对。就在日常中协助你,而且不打破那种感觉,对吧?

让你觉得身边有这样一个完美的专属搭档,这就是我们正在努力的方向。当你拥有非常非常强大的模型时,你会意识到的另一件事是,你的笔记本电脑本身就成了一种限制。你在笔记本电脑上能做的工作量,它是为人类设计的,对吧?所以它的设计大致上是为了承载你能产出的工作量。或者你打字有多快,思考有多快,需要打开多少个应用,所有这些都是人类的限制。

模型没有这些限制,比如模型完全可以同时处理打开的一百个应用。也许未来就可以,所以从获取资源的角度来看,很明显,未来的模型需要的资源会远多于你的笔记本电脑。你是不是?我猜你在说云端 agent。突然之间,当你有了像超快这种东西,我们稍后会聊到,当你的 token 速度达到十,我想公布的数字是十四,比所谓的快还要快十到十四倍的时候,带宽改变了,或者说不好意思,带宽限制改变了。

CPU 现在成了带宽限制,字面意义上的工具调用。网络、工具调用、技术栈中的任何开销都成了限制因素。但这样一来,你也可以通过并发做多件事儿来弥补。所以你可以想象,比如一边在探索,一边写测试,同时编译测试新假设,所有这些同时进行。这样一来,你就把瓶颈转移了,因为你能并发做更多事儿,然后模型就能非常高效、非常快速地通盘思考它。

以目前的 token 速度,我发现自己会并行启动十到十五个 agent,对,这对我来说就成了相当大的认知开销。要做那种上下文切换,而且是一直切换,因为你启动之后预计得等三十到四十五分钟任务才会返回。现在有了超快速度,那种工作流就发生了很大变化,而且我觉得我可能没法同时管十到十五个 agent 了。这可能是件好事儿,也许一次就三四个。

你觉得独立开发者随着时间推移,工作流会怎么变化?对,所以我觉得管理好你的注意力,对你的注意力更友好,是我们非常看重的事情。毕竟我们是在为人做产品,我们想要做出最能给人类赋能的技术,这就需要围绕你的多任务处理能力来构建。还有你想如何管理你的注意力?你是想让某件事儿现在就提出来?还是三十分钟后再提更好。

然后,当你有了超快速度,再加上语音,突然之间你就会觉得,好吧,这东西运行起来的速度即使不比你快,也跟你一样快了。这样你就能保持心流状态,你能出想法,能看到原型,还能实时生成小报告,那种感觉真的很好。突然你就会觉得,啊,对,就像我以前多任务处理十个 agent 那样,就会觉得我真不想再回到那种状态了。

对。所以,我们想带来那种非常自然,同时也让你觉得是为你量身打造的体验。是的,你不需要去适应技术,而是技术来适应你。过去几个月里,大家讨论了不少 A 阵编程技术。循环以前很流行,现在也依然流行。现在我又开始听到图结构了。这些技术都是为了让独立开发者能管理好注意力,或者说对他们的注意力更友好吗?就像你刚才说的,我很喜欢那个说法。

对,所以我主要考虑两类不同的问题。第一类是打造最好的个人 AGI,或者说个人 agent,它能跟你保持同频,主动出击,在能想到的时候提出重要的新想法,而且在准确执行你想要的事情上非常非常高效。不管是技术问题,还是更偏向研究或建议,都没关系。你什么都能做,而且它超级超级贴合你,这是一件非常重要的事儿。

它深深植根于对你作为一个人的理解,对你作为一个独特个体的理解,这是其中一类问题。我们正在这方面全力推进。另一类问题就是彻底的全自动化,也就是你更多是在构建能够处理非常复杂流程的智能系统。可能是确实需要智能看起来非常复杂的事情,比如去查看生产环境的日志,然后自动做性能优化,或者是查看回归问题并自动打补丁。

在网络安全领域,我们也能看到这种情况。比如你有一个扫描器发现了一个漏洞,你能自动修复它并缩短暴露窗口吗?把这种暴露带来的故障率降到几乎为零,而且这些全程都不需要人工参与循环。不需要人工再还,或者只需要极少的人工,你只需要批准高风险操作,基本上就是一个自动化系统。但这也意味着你没那么需要去直接控制它。

这没那么重要。好,然后我想稍微换个话题。过去几个月里,ChatGPT 和 Codex 一直走在融合的轨道上,所以我首先想问你,进展怎么样了?内部感觉如何?你们从客户那里收到了什么反馈?这确实是个大好事儿。我们最初收到的反馈是:为什么要合并他们?真的有必要合并吗?我们的回答是:我们未来的模型需要合并,所以我们就要这么做。

因为这样做既简单又合适。我们正在打造一个非常个性化、能力极强的 agent,能在各方面为你提供帮助。底层技术。会是同一套,是同样的测试框架,也是同样的思考方式。它是高度多模态的,以语音为核心,效率极高。不管你是不是在写代码,这个 agent 菜样精通,而且效率最高。你想要的界面应该量身定制,满足你的需求。

你不该被迫去选。我是程序员,我要程序员界面;或者我是非技术人员,我要非技术界面。人群是一个连续的光谱,我们发明的那些标签。像软件工程师、设计师,只是人类为了处理抽象概念而发明的,因为现实太复杂了,我们处理不过来。但每个人都是独特的个体。他们处在这个光谱的不同位置,所以我们在努力打造一个能适应所有人的完美界面。

不管你懂不懂技术,它就是能根据你的独特个性来自动适配。这就是为什么我们去做了这件事儿。但这是否意味着最终必然会变成单一界面,不再有切换不同产品的下拉菜单?想想我妈可能会跟我用完全一样的界面,感觉挺不可思议的。然后她显然会根据我的需求来定制。如果我做的工作更复杂,也许我会需要更多信息。但在你看来,终局会是什么样?

没错,就是同一个东西。所以你和你妈会用同一个东西,它会成为你的个人AGI。你从中获得的任务类型和使用价值会非常不同。你会把它连接到你生活中的不同工具上,你会带来不同的想法、不同的需求,然后它会不断调整自己,最大程度的让你受益。明白,对你的朋友和所有人,他也都会这么做。我想回到你刚才说的某个点上,你提了好几次“幻觉”这个词,在那样的终局状态下,对于普通用户来说,那种完美的幻觉是什么?

如果你能展望几年后的我们,AI 和人类之间的互动会是什么样?对,在我看来,它会是非常非常贴合人类的东西,这也是为什么大语言模型也很成功,因为它是自然语言。它是一个属于人类的概念,对吧?我们习惯了彼此交流,比如你明天给我写封信,我能读懂,因为我们现在彼此已经相当了解了。所以,如果你给我写信,我能在某种程度上体会到信里的一点情绪或者一点微妙的语气,而所有这些都非常符合人性。

所以,我们正在构建的技术。是根植于人性,根植于人类交流和做事情的方式。按理说不应该出现这种情况。你觉得,哦,你误解了我,因为你没能领会我语气里的微妙之处,或者你没能完全理解那段文字,没懂我的真正意思。这是我们想要极力避免的情况,所以我们极力做到不让你去适应它,而是让技术本身被打造的非常自然,像人类在这个世界中行为方式的自然延伸。

当我思考人类之间的交流时,很大一部分是非语言的,比如我手势的摆动、面部的表情动作。在未来,你觉得这些部分会有多少被人工智能感知到,或者被人工智能读懂?也许是通过视觉,这真的很重要吗?因为你现在描述的只是纯文本,对于我们这些在网络上长大的人来说,我们非常习惯通过文字交流,并在文字中加入细节来传达我们的真正意图和语气。

但是让 AI 能够读懂我们的面部表情、手势等等,依然很重要吗?我觉得是的。当我思考我们正在构建的未来时,它会非常无感,非常自然。NAT,如果明天或者待会儿我走进办公室,在白板上写点东西,有了一个想法,它就应该能够出现在那里,并且能够理解。或者也许我对它说:“嘿,这件事儿怎么样?”然后我们就直接通过语音进行自然的对话,比如自从我们上线了新的 ChatGPT Voice,它真的很受欢迎。

仅通过语音与 ChatGPT 互动的用户数量目前增长得非常快。我觉得这里的经验就是,每次当你向更自然的方式倾斜,人类就会选择阻力最小的路径,就像你说的。在小框里打字,对于我们当中的一些人来说,也许很自然,但并不是对每个人都这样。而且,一旦你得到了某种更容易用一点、更好一点的东西,你往往就会直接去用它之类的。

对,好的,首先恭喜你,我看到你今天早上发了帖子,Codex 用户量达到了两千万。我看过那个图表,有一阵子它是这样平着的,然后突然间就变成垂直拉升了。所以恭喜你,我想聊聊和 Anthropic 的竞争,因为当然很多人都认为 OpenAI 和 Anthropic 是目前业内两大主要的竞争对手。曾经有一段时间,Anthropic 几乎抢尽了所有风头,对吧?

他们当时真的处于主导地位,然后突然之间,情况变了。所以,首先,你对当下的市场怎么看?是的,其实现在我们专注于打造能力最强的模型,打造极其高效的模型,并且为能够为所有人打造产品而感到非常自豪。我觉得这是 OpenAI 做得非常好的一点,就是关心世界,关心我们如何把这项非常强大的技术交到尽可能多的人手中。

我们做的事情也是这样。比如把 Codex 和 ChatGPT 合并,当时就是有这样一种愿望:我们掌握了这项技术,我们可以。让它更安全,可以让每个人都更容易使用。无论你是产品经理、设计师,还是做销售、市场、公关等等。你都应该能用上这一切,然后非常迅速的通过 ChatGPT 分发出去。我们在那里已经有大量的用户了,所以这也真正推动了你提到的这种增长。

而且我往往不太关注竞争,我真正关注的是我们有什么独特的优势,我们的价值观是什么,以及。我们如何最大程度的加速朝这个方向前进?好的,我想就这点稍微再深入探讨一下,因为我知道你不太去琢磨 Anthropic,但很多其他人都在琢磨。他们会想:好吧,我该相信哪款产品?我到底想把自己的二十美元、两百美元给哪款产品?

当你审视 OpenAI 的市场定位、品牌塑造。基调,以及它与开发者和更广泛受众互动的方式时,你觉得它跟 Anthropic 做法相比如何?我觉得可能还是那句话,我非常在乎的是为全世界建设社区,带着所有人一起往前走。我觉得从我们在各种事情上超级透明的态度里,你就能感受到这一点。比如,我们会从社区吸取很多想法。

说实话,这也非常有趣,因为我们也从中获得了巨大的能量,而且我们正在打造的这项技术,并不是只为了我们自己而做的。我们做它不仅仅是为了加速 OpenAI 本身的发展,这个使命超级重要,所以这也是我们的能量来源。对我来说,这种感觉非常脚踏实地,很有意思。好事也会随之发生。那我们来聊聊其中的一些好事儿吧。我想聊聊额度重置的事情。

Tibo,我知道大家好像都因为这个在关注你的每一条推文。具体来说,再次审视 Codex 的那条增长曲线,这可能是一个挺傻的问题。那些额度重置到底有多大作用?它在多大程度上推动了营销和增长?还是说,这纯粹只是向开发者社区表达的一种善意?我觉得可能有些反直觉,但 OpenAI 是一个你可以想做就去做的公司,所以在最开始,当我们快速迭代,把东西弄坏了,或者配置出了问题,效果不如预期时,去给。

用户做些补偿,感觉就是对的,就像是在说:“嘿,感谢你试用这款产品。我们知道我们正在非常努力的去打造它,现在还处在早期阶段。既然我们不小心弄崩了大概三十分钟,那就送你一些额外的额度吧。我们理解这非常重要,而且大家都在依赖它。非常感谢你成为我们的用户,事情就是这样开始的。我现在也依然是这么看待它的。”就是说,如果我们弄坏了或者体验不够好,而我们又没完全搞懂原因,我们就会补偿,会重置用量上限,然后它就变成了一件挺重要的事儿。

我是说,现在甚至有一个专门的重置按钮了,但背后其实并没有太多的层层审批。这不是跟市场部或者财务部一起商量着来的,就是我想按随时都可以按,只要觉得合适就行。我们有这样的原则,那就是我们正在努力打造很棒的东西,而一旦没做好,我们就会去弥补。对我依然觉得这在很大程度上确实为社区积累了大量的善意,也许至少在很小程度上促进了增长。

我觉得关心你的用户,这全是文化,作用很大,对吧?所以我觉得你可以嘴上说一套,说你很在乎,或者你可以表现出我们真的在乎。如果我们弄坏了,就会说嘿,真的很抱歉,这是我们的弥补方式。这有点让我想到亚马逊的退货政策,就像是只要你有任何不满意,尽管退回来就是了。你们其实也在为 OpenAI

建立同样的文化、同样的公众认知,就像是说,嘿,如果我们犯了错,去吧,把那些 token 再用一次,或者这里再送你一批新的 token。

我是的,我真的很欣赏这一点。然后还有一些美好的时刻,我们只想庆祝一下,纪念那个瞬间。有时候我们真的很难给出比这更有意义的东西了,就像是我们总是在上线新功能。我们会尽可能自豪地上线它们,但要和整个社区分享一些东西,就像是说,嘿,去探索这个新东西吧。就像是你还没用过 Ultra 吗?这里送你一些额外的额度去试试吧。

我还听说现在真有一个实体按键了,是的,确实有。好,那一会儿你得拿给我看看,我会拿给你看的,非常非常酷。但做了所有这些额度重置,只有在你做好了大规模算力规划的前提下,你才真正能这么做。就是说,你必须有足够的算力,才能送出所有这些重置额度。我想开始聊聊自我改进,因为说到算力。我想大概是几周前,你们发了一篇文章,上面写着 Soul 优化了 Luna 的效率。

你们把 Luna 的价格降低了百分之八十, Terra 也降价了。你们在 Luna 上挤出了多少效率提升?又有多少是因为?我们只是把算力规划做得非常好,然后我们就可以直接降价。我们的利润率很好,而且我们依然我们想让大家用它。所以这里面有多少是算法层面的收益,又有多少是战略规划的结果?我们提前很久就规划了算力。

我觉得回看两年前,OpenAI 好像还被质疑过,为什么要在算力上投这么多钱?那些疯狂却极其成功的押注之一。是的,现在我们很庆幸拥有它很大一部分算力用于研究,我们用它投资未来,做出越来越好的模型,同时也用来提升现有模型的效率。然后很奇妙的是,当我们把最先进模型的能力边界往前推时,我们就可以用这些模型非常非常快的弄清楚如何部署或者如何重构、重新设计我们的技术栈,从而。

获得非常显著的效率或性能提升,所以我们不只是提升了。关于这一点,我们后续也会发文章。我们不仅提升了成本效率,也提升了速度效率。除了超快模式之外,整体速度随着时间推移也明显变快了,确实变快了。对。比如,如果你把数据画成图,现在你得到的整体速度大概比三个月前快了百分之六十左右。这其实就是我们逐一优化技术栈的每一个部分,确保针对我们现有的工作流做出最合理的架构设计和工程实现。

而且,正是我们最强大的那些模型。让我们能用一个非常小的团队把这件事儿做成。所以,每当我们取得非常显著的效率提升和成本优化时,我们的承诺就是让性价比始终保持在最前沿,并且不会把这些效率收益自己揣进兜里,而是分享给我们的客户和用户。我们在 Luna 上就是这么做的。你们内部的讨论具体是什么样的?当你们要决定算力如何分配给研究新模型、提升现有模型效率以及推理时,内部的那种权衡博弈是什么样的?

我们通常从第一性原理出发来看问题。我们有一部分算力分给研究,有一部分分给产品。然后在产品内部,我们会做各种不同的取舍。但这次几乎都算不上取舍,因为效率提升就摆在那里,所以我们基本可以用同样的算力上限来支撑吞吐量非常非常显著的增长。对,所以几个月前在降价那篇博客之前,我看到你们发的博文里面提到用一个模型去训练下一个模型,或者协助优化下一个模型,然后又看到

Saul 通过观察 Luna 的运行方式所取得的这些效率提升,在我看来这就像是处于最初期阶段的递归自我改进。

你怎么看?现在发生的是这种情况吗?对,我觉得递归自我改进现在显然是一个巨大的话题,而且我觉得大家最常把它用在研究以及模型开发其他模型上。但我们看到取得巨大成功的地方,是用这些模型去开发位于使用模型关键路径上的基础设施,这也是一种递归自我改进的形式。对,没错,他们全都是一个大系统,推理技术栈、硬件,比如我们用到的

Kernel、CUDA、Kernel,还有开发新产品以及与这些模型交互的更高效的新方式。

你刚才提到了 Cloud Agent,如果我们真的搞定 Cloud Agent,突然之间,你的生产力也会大幅提升。这算不算是某种形式的递归自我改进?因为这样一来,你也更有能力发挥出它们的效用。我觉得在某种意义上是的,但它更多是基础设施,然后能够把它反过来用在自己身上。对,所以我们当然在这么做。如果我们不这么做,我觉得那才挺蠢的。

既然聊到了递归自我改进的话题,你能聊聊?我记得 OpenAI 的山姆奥特曼提过,目前暂停了强化学习最前沿的研发,你能聊聊这件事吗?当时做这个决定是怎么回事?我知道我们简单聊过 Hugging Face 那起事件,但做这个决定都考虑了哪些因素?具体是什么情况?当时的讨论是怎么进行的?对,这很大程度上属于研究范畴。

OpenAI 一直都能够把资源投入到最重要的地方。随着我们不断提升模型的能力。非常明显的是,对齐和安全这方面变得越来越重要,所以在那里投入巨额资源对 OpenAI 来说是很自然的事儿,也是 OpenAI 非常坚决在做的事儿。所以我们看到,在这方面的投入出现了一次巨大的激增,而且这次暂停在某种程度上是必要的,好让团队和个人真正理解并加固系统的所有部分。

从而确保我们在完全、彻底掌控的情况下重启训练。我相信,在有必要的时候,OpenAI 一直都会继续这么做。我还没见过我们内部不能非常高效地做出这类决定。当时是不是设立了某种明确的目标,非常清楚必须达到这个点才能恢复,还是说大家到时候看到了自然就知道了?对,这是安全团队内部的事情,他们非常,这很大程度上是一个边做边讨论边探索的过程。

但后来他们确实达成了一套相当明确的原则,一旦达到这些原则,我们就会处在一个比较好的状态。我想回到超快模式这个话题,我觉得大家可能还没意识到那种速度能释放出什么。那我们先来聊聊,你们内部都在用在哪些场景?是以前每秒没有这么多 token 时做不到的。我们看到,在紧要关头用的很多。比如发生宕机时,事件指挥官和应急响应团队就会用上超快模式,因为分秒必争,所以高风险场景确实很需要用超快模式。

另外也挺有意思的,那些要么在做非常关键的项目,要么自认为在做非常关键项目的团队,也会一直申请用超快模式。宠物算这一类吗?宠物,对,宠物。宠物倒不算极其关键,但我很喜欢我的宠物,它一直在我的屏幕上。你在办公室走一圈儿,就能看到大家屏幕上的宠物,而且他们接入视频通话的时候也是这样。我觉得这非常令人开心,每次看到都会给我带来快乐。

不过宠物目前倒不算很关键,我们确实在维护它,我们也把自己的宠物照顾得很好。但比方说有人在研究自己的一个新想法,他们会觉得,我真的觉得这个东西可能会很特别,我们必须试一下。但是我们周一就得决定要不要把它放进 Dev Day。也就是开发者日历,那就会说行,当然去用超快模式吧。大家在偏好上各不相同,比如像我们之前聊过的。

是喜欢单线程工作,还是喜欢经常多任务并行?对于喜欢经常多任务并行的人来说,超快模式带来的好处没那么多。但有些人就是不喜欢总切换上下文,在这个光谱里,你属于哪一种?我有多动症,所以我一直都在切换上下文,有意思。因为我有多动症,但我其实不想一直切换上下文,那对我来说真的很难。我想专注于两三个东西,所以当时我对超快模式特别兴奋,真有意思。

你在这点上正好相反。我在频繁切换上下文和做很多微小决策时状态最好,但有时我也确实只想专注于一件事情。那这时候超快模式就很让人愉快了,因为能让你一直沉浸在心流里。超快模式的特点在于,当不涉及那么多工具调用,或者主要是生成大量上下文的时候。效果好得惊人。比如你想做个网站或电子游戏的原型,只需要写大量的代码,那它就会做得非常非常快,对吧?

快上十倍。但如果是大量的工具调用,开销都在网络或 agent 执行轨迹的其他地方,那你可能只能感受到三四倍的加速,你就享受不到完整的十四倍了。我知道 OpenAI 的员工有无限量的 token,我能想象,如果我有无限的 token,我肯定会一直调到最大思考深度的五点六 so,或者当时最新的模型,我差不多也会这么想。

我肯定会一直想开着超快模式,就好像不用考虑成本的时候,我就会觉得,行,全拉到最高。你们内部是这样的吗?我们没有把超快模式开放给所有人,我们把大量的算力留给了外部用户和客户。OpenAI 的员工有能力也有算力把这些全都吃光,对吧?比如把我们所有的生产环境 GPU 和所有的超快模式算力都吃光,我们本来能全用完的,但我们没有,所以我们算是有所限制。

我们会看多少算力对我们来说是合理的。这样,我们既能使用它来理解产品,又能不断改进它,从而享受递归自我改进带来的好处。但是,绝大部分还是留给客户的。好的,嗯,挺好的,谢谢。在 OpenAI 之外,这种速度能解锁的对延迟敏感的用例里,你最期待的是哪些?很有意思。总的来说,我非常期待的一件事就是非文本交互,比如,大家能不能在同一个共享画布上操作?

能不能创造东西?能不能生成各种想法和不同的图片?然后选一个,就像选择你自己的冒险故事一样。然后非常非常快的弄出一个原型小样儿。接着你无论是通过语音还是文字,都能实时去引导调整它。然后你马上就能在那儿看到结果。这是一个非常有创意的过程。我觉得这种速度能让它成为可能。作为一名工程师,有时候你坐在那儿会想,哎。

我得把整个系统都设计出来,我得考虑各种权衡,考虑需求,但也许你一分钟就能把它做出来,看看实际效果到底怎么样,对。然后就能更顺畅地进入心流状态,更好地凭直觉感受。我觉得这种速度能让这一切成为可能。嗯,那我猜超快的价格肯定会比普通速度高不少。你觉得超快速度会变成标准配置吗?还是说它会一直保持溢价?这很有意思,我觉得就像技术通常的发展规律一样,随着时间的推移,它的普及度会越来越广,越来越多人能用得上。

A 阵办成事情的速度会继续提升,我们看到每个月都有巨大的进步。这不仅仅是推理速度的问题,这也是模型在 token 利用效率上的问题。比如,骚的 token 利用效率就明显比 Terra 高。正如你能预料到的,下一个模型的 token 效率又会比骚高得多。我们一直在这方面发力,所以随着时间的推移,一切都会变得更快。

推理,硬件。所有这些,我们都在持续创新,速度也在变快。所以我确实觉得,在一两年内,这种速度就算不是默认配置,也会非常接近默认配置。但我也觉得你总能有更高的一档,也就是你总能用上更多的硬件,你总能做一些成本更高的不同权衡。但那只是能给你带来一些额外的东西。那 Tibo,我通常喜欢用面向更广泛受众的问题来收尾。

现在很多人对 AI 相当担忧,不管是工作被自动化对环境的影响,还是单纯对正在发生的这一切感到焦虑,让人感觉挺陌生的。你想对更广泛的受众说些什么鼓励的话?嗯,我们做 ChatGPT 确实是面向全世界的,而且我们非常非常重视在效率方面的投入,这与我们提供广泛普及和广泛实用性的目标是完全一致的。所以服务成本越低,你能用它做的事情就越多,你在日常生活中获得的价值也就越多。

而且它已经变得非常非常高效了,比如你看 Luna,它是一个小得多的模型。它的效率极其高,但如果倒退回六个月前,它当时也算得上是最前沿的模型。对,再看看 Luna 的成本,对吧?简直就。便宜的离谱,惊人的便宜,对吧?就像是你们刚和 rapper 合作搞了那个,现在等于是在免费送。对,在那上面就直接以免费模式提供,对吧?

这让人觉得哇,获得这种顶尖智能的机会将会变得无处不在,而这只有在你一个月接一个月、一年接一年地去死抠效率时才有可能实现。所以,我认为。现在不管是处于什么前沿水平,六个月后运行起来都会便宜的多得多。所以我会这么回答这个问题:技术随着时间推移,自然而然会变得非常非常高效。而且我们非常专注于极其广泛的普及,我们所优化的就是你能直接从中获得的使用价值。

那对于那些连第一次尝试 AI 都心存顾虑的人呢?你会对他们说什么?你又会如何描绘一幅 AI 创富世界的未来图景呢?嗯,我觉得其实不用看太远,比如 ChatGPT 已经在非常个人化、深层次的方面帮助人们了。比如很多用户用它来辅助写作,但也会用来寻求个人建议或者医疗建议。像我们上线了健康和理财功能,我自己就经常用,我觉得自己得到了很多支持。

要是没有它,我是很难获得的。比如它能让我在去看医生之前了解的更充分,所以你不需要看太远就能体会到它能带来的用处。我觉得只要多跟别人聊聊,看看别人是怎么用的,从中获得了什么帮助,受受启发,可能就是开始考虑自己能怎么用好他的好办法。好的,Tibo,非常感谢你,谢谢,感谢你的时间。