我认清了他是一个the biggest asshole(最混蛋的人)。现在我做这个播客,想为当时被马斯克裁掉的3000名工程师正名。我觉得其实大家都非常的capable(有能力的),大家也都做出了很多的贡献,就是一个最混蛋的人。我觉得他自己大概也知道自己无所谓是吧?I mean some people do loathe you, yes. Some people do maybe some people do loathe me and that's probably true. I don't care(我在乎吗?不在乎)。

那你会觉得他们俩有点像吗?表面上差很远,也不说最终之战,也是很接近的最终之战。当初离开X选择OpenAI是因为跟X出现了一些分歧吗?一直以来,我应该去的公司也都是算是比较风口浪尖的。这秘密总是有一帮很踏踏实实的、很疯狂的,带有一点理想主义的做事的人。以后的世界也是这种多元世界的,你做一件事情你会跟不同的公司打交道,那以后有可能你跟不同的模型打交道。

Navi就是一个inference engine(推理引擎),现在在LLM这边也是很大一块儿。我就把这一块从Ads做到recommendation(推荐),然后基本上统一推到那reference。湾区只有两种人,一种是天才,一种天才病。有一小撮人他能够真正的去break innovate(打破创新),能够做出大家都不敢想的事情,那就是这样一小撮对,就梦想家。一小撮crazy(疯狂)的梦想家。

在OpenAI内部工程师还写代码吗?我们现在已经完全普及Codex了,以前你还可以躲在你写的多少代码里边。但现在你知道回字有那么多写法,如果你真的没有创造价值也没用。人类其实很自私,用权力强力平权最后发现权力变成了私有。所以说一样的Intelligence(智能)到最后会变成区分阶级的一个工具,会变成区分阶级的一个工具。怎么定一个模型好与坏?模型的好坏是非常critical(关键的)。

模型是已经到了一个很可怕的地步。走入OpenAI做这样一件事情是您人生的mission(使命)吗?最崇高的是能够让Intelligence as a service(智能即服务)。我觉得还是有使命感的。回望现在这个时代,会把现在哪些技术的突破当成一个通往奇点的关键一步?ChatGPT那一次ChatGPT 3.5发布,那是奇点对。

真正的自由是什么?当时看那个镜头觉得特别的震撼,然后鸟从悬崖上俯冲dive下去然后再拉上来,非常的free(自由)。特别感谢赵迪老师接受我的邀请加入创见播客。请赵迪老师先做个简单的自我介绍?其实我就是个engineer(工程师),对我来说我的脑海里边就是做事的人吧,管人的人或者是定方向的人。那反正我对我的定位还是一个做事的人,所以反正就是个engineer(工程师)。

很多时候我眼里没有太多的这种层级或者什么高低贵贱之分的那种感觉。我现在就OpenAI嘛,Member of Technical Staff(技术职员),做那个Infra data Infra ML Infra方面的事情。但是您可是在OpenAI每天走进的都是在全世界最受关注一家公司,每天站在宇宙中心工作,这是一种什么样的感觉?坦白说的话其实我没有太多感觉啊。

因为其实一直以来我应该去的公司也都是算是比较风口浪尖的公司,所以走进这个building或者怎么样我没有太大的感觉。做的事情上最开始的时候还是有一些就是兴奋对吧?因为觉得哦那个总是在新闻里面看到的,我觉得是触及人类根本的一个公司。那做的事情应该是很神秘的对吧?开始时候然后那总想先接触到什么样的,那这前几个月都是兴奋。

然后后面就觉得啊大概也就是这样运转的吧其实。你把它每件事情分解开来每一块其实也都不是说很神秘了,那就是一个祛魅的过程对吧?然后嗯是这样的。然后再过了几个月以后就发现哦其实每个公司的成功之处总还是有一些自己的秘密的,那这秘密其实就是一帮做事的人。不能说所有人都是做事的人但是总是有一帮很踏踏实实的、很疯狂的,还带有一点理想主义的做事人。我觉得这应该是最重要的。

这些做事人是工程师还是您刚才讲的定方向、定策略然后拿主意?我比较喜欢OpenAI大家都是member of technical staff,我们的expectation(期望)大家都是要能够至少能够做事情。如果你定方向当然是就是会有一些人去定方向的,很多时候其实是自下而上的。自下而上的?但是就我觉得其实是一个平衡点,有些有的事情是自上而下的。你就你最后最后找一个平衡点,我觉得很多事情都互相制衡的然后达到一个平衡点是最重要的。

OpenAI的管理是不是还是相对比较扁平化?嗯对算比较扁平化。对你觉得这个在尤其在AI时代一个大模型公司里这是一个最高效的一种运转形式吗?应该是吧。其实不是在即使不在大模型公司也应该是最高效的运转形式,因为我其实从X从Elon Musk的X到OpenAI这中间transition(过渡)并没有很大的落差感。就是因为其实在Elon Musk里面也是这样非常扁平化。

研究您的履历之后会发现一件很有趣的事情,就像您刚才讲的您好像一直都处在当时那个大众心中的宇宙的中心工作。01年您在甲骨文做了6年的principle(首席),然后11年在Fintech盛行的时期您去摩根士丹利做了实时的风险系统。14年的时候回到湾区Salesforce那时候赶上一个Saas的巅峰期,接着16年在Fanatics做推荐的系统。2018年又在Netflix做大数据,19年加入了Twitter然后后来Twitter变成X一待近7年在25年初加入了OpenAI。

所以您看啊,这个企业软件、金融实时系统还有Saas推荐系统大数据machine learning大模型。我会认为从2001年到现在25年的每一个科技浪潮的风口浪尖您没有落下都有踩中。就是您能不能带我们回看一下这条路,在每一站您都在解决一个怎样的一个大的问题?其实我不觉得什么叫我就我踩中浪尖或者说我也没有特意去踩中。

其实很多时候还是有时候就好像就是一个球落在一个叶子上对吗?那感觉啊然后事后看为什么会落在这个这个叶子上实际上如果不落在这个叶子上以后落在另外一个叶子上。Oracle的话Oracle待那么多年现在回想一下其实我早就应该走了,身份的事情以后呢?其实那时候我还比较年轻嘛然后就觉得啊那我总算拿到身份了自由了,然后就开始explore各种opportunity(机会)。对就是这样这种这样一种心态。

然后就是你会看到对吧跳了一些很多公司,那因为我有比较好的在Oracle的履历然后就会有一个比较好的选择权。那我去的做的地方呢有时候更多的是按自己当时的兴趣来,但是随着我年纪增大我觉得其实我很多时候是在摇摆。就一会啊一会想做这个一会想做那个,一会想当manager(经理)一会想当IC。那跳来跳去我觉得是在后面的年龄越来越大的时候悟到一个事情,就是说你还是应该知道自己。

就说你要想到对自己的了解越多其实是能够更好的去帮助你在职业上或者以后的生活发展上会有更最方向性的指导性,就directional advantage(方向性优势)对吧?就说因为我是花了我是觉得我其实挑来挑去也没有什么太大意义,我觉得还不如你真的喜欢一件事情好好的做。我是因为花了很长时间才想到哦比较technical(技术性的),我喜欢做这些engineering的事情,我喜欢去做这种efficiency的问题啊。

所以最后做Infra的东西那是我的兴趣所在对吧?但开始的时候比如说在Oracle做一些啊或者Salesforce做一些啊这种full-stack的工作其实后来也发现没有什么太大兴趣。到Twitter以后才会或者是Morgan Stanley这些工作反而是让我更多的有兴趣,那后来才想到哦那如果这是我的兴趣那我就按就在这条路上慢慢走下去对。怎么说呢?我觉得了解自己是一个什么样的人然后选择一条路踏踏实实地做下去,然后不被外边的很多噪音对distract(干扰)。

那我觉得那样是最好的。但这种人很少,但如果你能很快的converge到这种状态的话是好的。如果你没有经历过这个一个探索过程你怎么知道自己适合什么或者自己喜欢什么?这可能也是一个必经之路,对其实是个必经之路。但我发现就是比较强的人的话他会很快converge(收敛/确定)。像Elon Musk是吗?他从3岁开始就决定要做火箭了,他现在也还在做火箭。

而我是花了很长时间才converge但是whatever(无所谓),但最终找到这条路还是幸运的,还是相对幸运的。对您会觉得现在是这条在OpenAI做的这件事情是你未来一段时间内想一直坚持下去做的事情?应该是的吧对,因为我觉得这还是也不说终极的一个最终之战但是也是很接近的最终之战。

因为其实你看人类社会发展都是一个exponential growth(指数级增长)。嗯封建社会花了几千年做然后进展,然后到工业社会花了100年进展。嗯然后到现在信息社会前面的花了10年或者20年,那后面AI的话如果按这个potential那个rate下去的话会很可怕。反正您觉得是每一次都是您是主动抓取的这个浪潮还是浪潮一次次找到您呢?

还是说你觉得都有这是一个双向奔赴?我觉得应该双向奔赴,因为你会朝着这个你最感兴趣的方向走。然后同时比较lucky呢我最感兴趣的方向也是也正好是前沿的方向,嗯我这个人有时候其实并不是太就说投机啊。有时候做的事情比较的尤其年轻的时候做的很多事情比较凭自己的兴趣来,您觉得就是这么多段职业经历当中吧哪一段带给您的职业上的成长最大?

冲击和成长最大还是推特X,因为完整的经过了就是old Twitter(旧Twitter)就是典型湾区的这种大厂style的Twitter到Elon Musk的整个的啊就是把基本上就是一巴掌打倒然后从0开始build up(重建)的这个整个过程。那是对人的身心都摧残很大,对就震动和那个甚至你对世界观都会有些改变的对。他对身在企业中的每个人都会有如此大的影响吗?

比如说我觉得其实对整个硅谷的大厂的一些文化都是一种毁灭性的打击对吧。其实比如说推特之前是很可以说是小Google,就是我们会有很多Google的人然后也其实沿袭了很多Google的文化。那时候我觉得反正就是你做任何事情都是要build consensus(达成共识)然后write document(写文档),然后所有事情都要事无巨细的考虑到然后再去做plan一来就几个月就这样,就按这种节奏来的。

然后大家都是非常反正大家都是很聪明的人嗯然后很聪明的人在这里面就互相互相制衡,你最后就变成了一个slow moving(缓慢移动)。Elon Musk同学一过来就是除掉这么一些人,但我觉得每个人其实都是非常聪明的。然后其实我们当时走的人不管是自觉的还是不自觉的其实现在回头看,每个人在别的地方都非常的好都发展很好。这哥们过来的时候就是说啊我不需要这么多人。

然后他甚至在下面还有更极端的比如说那个George就是decommission(退役/清除),就是他第一个hack iPhone的对吧?然后他自己volunteer过来做intern,然后我们当时跟他接触的其实100个engineer就够了。然后我们想我靠我们这2,000多人3,000多人你就100个,对但你要看他的整个的过程的话实际上到现在大概我不知道现在做X的人大概也有也就100个了。

真的就照这个方向去发展去做也是照这个方向,而且他很狠就是他做任何事情没有任何情感的成分在里面。我看到很多次对就这样他是一个高效运转的机器在工作当中非常的ruthless(冷酷无情)。他身边也会有一群这样的人对吧就为他做个事情,因为他们那些人存在价值就是为了做这些事情。主要Steve Davis Steve Davis就是Loop的CEO。

Steve Davis到哪你就知道那个地方就会要发生大裁员或者怎么样大清洗,广进计划就开始了是吧?从那开始了。当他做完这个事情以后有时候不恰当比喻就比如说Redwoods and Sequoias trees(红杉和巨杉)或者怎么样,它是通常需要一个火灾然后那个树叶才能生长起来。就是这样反正有时候真相还是挺可怕的。那你会觉得就是他是这样一个在事业当中也不注重别人这个员工情感这样的一个领导,那他是用什么能够驭下呢?

为什么他身边还会有一群人去帮他做事情把他的梦想当成自己的梦想去无限开拓的往前跑?因为他的梦想还是非常很吸引人。因为我觉得我并不是最优秀的,我之所以留下来还有一个原因就是我还是比较最开始我是很崇拜他的人。因为其实很多很优秀人早在那个Elon Musk发那个Email的时候说你们一个我们有一个那个bifurcation of the road(道路的分叉),你要either join或者不join。

很多很优秀人就走了因为他们不认同他的理想和他做事的方式,当时我是因为我看Tesla然后SpaceX我觉得这个理想是很伟大伟大的。所以还是愿意跟他在一起干,我估计是有很多真正纯粹想做事情的engineer他们不太想就自己受的待遇啊或者什么样。没有没有太大要求只想去做一个非常是这个世界上做不成的事情,那这些人会留下对吧?

但同时也有应该还有一些其实是投机分子啊肯定哪都有。就是说一部分留下的人他们还是希望能够有一个就在工作当中实现一种自我成就,对我觉得这有自我成就尤其是我觉得像Twitter的人我们都很聪明。然后其实在那个时候因为做我们这一行的我们的出路比比如说SpaceX那些engineer要很多所以呢大家都会有选择,就是我们很多人就不愿意受他这个气。但是有的人他愿意或就因为抱有相同的梦想或者说他的人的选择是我宁可做事情我不太care我受到什么样的待遇。

那有的人就愿意留下,那您当初为什么要走?是因为还是看到了AI这样一个机会还是说你觉得就是在X上可能已经做出了一些成就觉得这个上升学习曲线变平滑了没什么新鲜感了?第一个是学习曲线变平滑了,因为其实搜广推已经做了很多年了这也是一个问题。

其实当时Twitter到那个时候整个industry就整个social network湾区的公司都找不到方向,其实每年大家你说你现在engineer拿着很高的工资其实每年就是为了你的那个engagement或者什么往上走bump 0.5或者一个percent。当年那个Peter Thiel说的那个话我觉得其实是有道理的,他因为他拿也是拿Twitter做一个典型对吧。

其实啊一方面你这么多聪明的人在那拿这么多钱就为了看一个什么多少个字符的一个post对吧?就推特的而我们有其实有很多别的重要的事情要做,我觉得这fundamental(根本)其实是对的。其实是当时湾区的一个缩影但谁能打破就需要一个天不怕地不怕的人,对因为他确实天不怕地怕。他整个系统整个人都和整个湾区的系统其实都都很独立,所以他能够做这个事情。

他确实天不怕地怕,那你觉得他这是一种他是故意为之还是说他这就这样一个人?我不觉得他是故意为之,他做什么事情都是如果说实话。他做什么事情其实确实都是从first principle(第一性原理)来,就是解决这件事情的本质是什么。其他那些边边角角的事情都不管,这个世界上很难有第二个人能够做这种事情。

因为很多人会被尤其是在我觉得在美国系统下成长出来的CEO,因为他常常都会被一些很多别的事情政治上的事情employee的happiness(员工幸福感)他们的support或什么什么的这些事情所阻挡。但是很难有其实我估计很多人其实也是知道啊很多business大概也就20%的人做就可以了,但是没人没有人能够下得了这个手对。那一个企业家如果真的不在意员工的是否高兴是

身心状态是否健康,这件事情是否能做得长远?他的企业能够长久经营下去吗?他应该没有太多的去追求所谓的ROI,它是一个梦想。但梦想实不实现的话,那是另外一回事对吧?因为比如说Twitter的话,当时我觉得有一次问他的。我说啊我们现在推特就很不错了对吧?然后这哥们第一句话就是说:“We are not comparing to当时的Snapchat或者什么whatever。”他说“Our goals is TikTok”。所以其实很多人就是因为梦想嘛,因为他的梦想就是至少是10倍现在的这种状态。

或者是根本不可能对吧?去就看起来不可能的去Mars,或者是去或者FSD这种东西。那他能留下就是真正的能够信他这个梦想的人,但他最终都做成了。我不觉得比如说X的话就他当时说Tiktok其实现在也没有,你就你可以说ok反正任何事情都是一个function of time对吧?然后也许他十年以后做成了FSD,他也10年前就说要成功到现在才成功。现在成功了吗?我也不知道。

现在我觉得FSD和large language model都是挺有趣的一个选择。FSD的最难的问题是因为它要到小数点后面,比如说5个9、5个9才能做算成功对吧?那你每往前advance一个0.001这种小数点,你大概你的训练数据Infra的cost要估计都要exponentially往上走。LLM的话其实好很多对,也不需要这么精确。所以你这两件事对他来说难点在哪?

难点就是其实很多事情我觉得很多口号上就是要一个远大的理想去吸引这些人,然后真正能够做成的话其实会受很多现实啊物理上的制约。嗯FSD我觉得其实有可能明天就成功,有可能还要过两年三年它怎么算真正的成功啊?至少我们现在在使用方面我觉得毫无死角。但TAXI cab就不一样对吧,因为现在人的话你总是要那个driver seat上坐一个人。

但是你要把那个人拿掉才能够真正的在商业上运行,嗯你能够什么时候能够把那个人拿掉?不知道能不能把人拿掉。这个关键的问题那技术上跟Waymo相比呢?我觉得Waymo现在对于我来说如果它的价格比Uber便宜那我可能连车都不租了我就天天打Waymo。我觉得技术上的话FSD还是很领先的,因为FSD是纯粹的端对端的那个neural network。

嗯Waymo应该还是用的就HDMap加上很多if else的那种logic,但是它这种patch on patch的work它现在能够运行对吧?但但这不代表FSD落后。这只能说FSD它成功了以后它的影响会大很多Waymo做得很focus其实在就是在ML里面你会发现其实你做真正的engineering的时候你会把问题小化对吧?你define一个问题然后你希望这个问题更具体化。

ML里面常常你define一个问题有时候想把这个问题高阶化然后再做下来那个Waymo实际上它是工程师的思想。我就做robotaxi这件事情然后我就写很多c代码,然后那我要首先有一个图形、我要一个图形理解然后有个planning。那我要用很多c的代码去if else这种情况那种情况handle,然后如果路面情况不行我要加SDMap这些。

FSD他其实把这个问题更高阶化了,他就说哦我想有build一个能够理解这个世界的模型然后他同时能drive。如果他真正成功了会不会就把其他那些Waymo还有其他现在做那些自动驾驶的远远的甩到后面了?我觉得因为他们底层逻辑是完全不一样的。对这两个实现的实现technology和他的想法的就scope的大小不一样,嗯这就是他的通常的做法对他是从更高一层的维度来降维打击。

做不做得成是一回事,但是他肯定是都这么做的。就好像他不会去做那些治标不治本的事,他一定是治是吧?一定是治本。上次咱们俩聊天的时候啊马斯克还是挺明显的阿斯伯格症状的,您会这么觉得吗?所以就阿斯伯格我觉得其实能够留下来的人都是差不多一类人。这个能够忍受对吧,能够忍受这哥们这种就是我们本身也是被别的社会捶打过来的人。

或者是真的有梦想的人,因为我我另外一个朋友他是意大利人在SpaceX跟他跟了十几年。十几年没有小孩就是那就是很忍、很能忍受,反正就是老马要什么时候让他一起坐飞机到一个地方去排解一个问题立马就走对吧?嗯Midnight也要走,这个时候也要走。就是没有任何的生活空间的人我是看他的一些采访会觉得他比较对一些他不注重的问题非常没有耐心。

哪怕是他在跟别人做深度播客,别人会提了一些他认为不关键不重要问题他会立即失去耐心表现出烦躁的状态。对我们是吧开始的时候也领教过很多次,嗯对他就直说吗?说你说的都你这些话我不感兴趣下一个人这样子。他会直接就跳开到别的地方然后但他脸色很明显就会给你,然后你你要不知道的话那很可能马上就会有行动对吧?

行动就terminate或者怎么样。所以其实我觉得有时候也挺有趣的一个人,跟他一直到处跑的那个James Musk这种他要说的事情的话你千万不能就是say no you can't say no。对他一个project completion只能是只有几个week或者一年对吧?就是你现在要做完没有几个month的事情,几个month事情根本就不在他的脑海里面出现过。

所以说你只能顺着他这样说对吧?这哥们是在中间,我可以想象成这个哥们是在中间的一个大小孩。嗯因为他的我怀疑他的情感EQ大概也就小孩这个,但是旁边的就会有很多人把他保护起来。保护起来有两个含义对吧?有的人是会保护他这种性格,然后就是等他说了一些话在下面实行的时候会更realistically实现。

嗯有的人有可能是做一些投机的事情,他是真的不懂还是他不想去懂别人的那些言下之意啊?他懂了就懂了,不懂的话他就这个是这样。我没有看到第二个这种更比他更Alpha的人就是基本上就是他活在自己的世界里面,对那他跟我们说事情的话就是either you do it or you don't。如果他不做的话立即就走人吗?给你开了,但但是他会有feedback。

会有feedback feedback如果就在他理解范畴内你能以他理解的能够理解的把这个事情给他讲那他还是理解的。那你会觉得他是一个好leader吗?我觉得leader就是没有一个绝对的好leader,我觉得对他、对他做成了这么多事情肯定是个好的leader。因为他知道自己想要什么,他知道能够把什么样的人留在自己身边做到这个事情这就足够了。

嗯我觉得每个人都双向选择对吧?你不行就走喽Bloomberg也专访过X一些前员工,他们会去控诉Elon Musk有这个PUA员工的嫌疑或者manipulate。说早上起来这个开公司邮箱就跟开盲盒一样,你不知道下一秒等待你的是什么。有的人可能这心里都受了创伤就说离开X之后需要很久时间去治疗,然后也有人会发现就是说X现在更多的还是华人工程师。

对然后会有很多种说法那您怎么理解为什么华人工程师更喜欢待在X这其他人都受不了的?华人就比较大概在社会中受锤的这种经历比较多,实际上对他这种就是如果能习惯的话你做事的空间很大。所以说那有的人就愿意留下来习惯的话做事空间很大,我是不是可以理解为就是说只要有能力屏蔽他对你那些负面的反馈或者说对你心理的打压。

但是你把事做成了你上升空间是很大的?对还一个就是那你何必要受这么多心灵的打压。就如果有些人本身对吧他也有可能也是有点Asperger,就这些事情对他来说也不算什么那就看做事情更坚强一点。就感觉不到这些事情那也就过去了,如果你真的对一件事情非常的啊非常的专注非常想要那你就focus上这个事情对吧?

然后后面的事情就自然而然的嗯我觉得这个其实很重要。在Twitter时候会碰到很多会钻营的人对吧?他会很好的就会director VP啊这些人做发展很好的关系呢,然后做这些connection communication对吧?这些事情人际关系也是重要的非常重要。在X里面人际关系也是重要的我以为马斯克不信这套,我说在Twitter、在Twitter ok然后其实那现在风向一变我在OpenAI发现其实很多engineering的一些行为就是和engineering的一些rules都是和X有点像。

所以这挺好玩的对吧?所以如果你只是会communication你并没有做很多事情的话其实你你也没办法在现在这些顶尖公司待下去。那一个公司的风格基本上也延传着创始人的风格,那你会觉得他们俩有点像吗?我不知道我觉得这个还表面上差得很远。我在斯坦福前一阵进修的时候一个那个教授公开对所有的同学讲说Steve Jobs是他见过的最伟大的企业家,但同时也是最混蛋的人。

我觉得这句话非常的你放在那个Elon Musk身上一样适用就是一个最混蛋的人,我觉得他自己大概也知道自己他无所谓是吧?怀疑他都自己都知道因为他做的事情确实很那个。比如说我们可能工作在一起把一个Infra搞定为推特省了几个million对吧?当时觉得很高兴然后直接发、直接短信、直接问他我们能买一个披萨no你自己pay for a pizza真的。

对哦这一点ok对然后其实还有很多小的事情对不对?那就我们其实都大家习惯了free lunch,然后这哥们要5块钱你自己花5块钱去pay for lunch。这个其实都不是多少钱他想灌输这种他的这种style style很多人对啊?很多人其实就是不爽就要撤,其实我也很不爽嗯只不过忍的时间长一点。他想灌输他的style在里面,他的style是什么?

每个人都会有两方面对我觉得其实这哥们大概心底里还是觉得自己是王对吧,但是他真正做事情的时候他可以完全打成一片然后就做事情。第一个要花5块钱第二个这个lunch其实标准下降了很多对吧?嗯但真的他也不care他也吃。所以我觉得他灌输的就是还是想要就是ultra focus on做事情auto engineering的文化,再加上就因为他以前其实是硬件背景。

我估计Tesla或者SpaceX因为没有这么宽裕的利润空间嘛所以他们一直也没有这个文化。我们聊聊您在X期间给他们创造了这个价值哈?对我知道您创造了那个Navi能不能把这个Navi这件事给我们讲一讲?Navi是什么包括您最初想做这件事想解决的核心问题是什么?

Navi就是一个一个inference engine。那其实inference的话现在在LLM里边也是很大的一块,那以前在搜广推里面嘛就是recommendation对吧?recommendation engine也是很大的一块因为通常它是cost最高的。recommendation最后其实也是个neural network,有neural network的cost都很高啊尤其是在做recommendation或者做Ads的时候。

嗯就相当于一个用户的request过来你要你要同时的score大概对吧?几千个、几万个甚至几个million的那个request那你的计算的成本就会很高。对加几百倍几千倍对吧?那Navi解决问题就是怎么把这个成本给降低嗯其实fundamentally跟现在的LLM的inference解决的问题差不多。就想解决的差不多的就是cost stability然后latency这些方面的对啊这当时其实也挺有趣的。

这是在Elon Musk收购之前前几个月半年因为这当时也是觉得自己就是个engineer对吧?那我对这个感兴趣然后自己拿rust写了一个toy的那种inference engine,然后最后发现其实写出来的比外面的或者是我们我们当时的那一套要有一个数量级的提高提升嗯那正好也踩这种点了。因为当时即使在Twitter没有Elon Musk收购之前这也是很大的一个问题,因为我们的cost会飙升嘛。

对那后来啊也是花了几个月把这个事情落地对先落地到Ads嗯大概是我反正save了很多钱对吧?然后后来Elon Musk来了以后就我们把这个就推广到recommendation。因为其实你要看social network都是基本上就这两招就是recommendation然后Ads recommendation是负责加用户Ads是负责赚钱嗯但它其实后面的核心都是neural network的一个model。

然后你需要用这个serving inference去serve嗯也当时没离开也是因为这个对吧?因为就舍不像自己的小孩一样。嗯对理解Elon Musk来了以后也知道这一块的重要性所以基本也没动我,那我就把这一块从Ads做到recommendation然后基本上统一推到那reference the influence the engine对吧?

这一块。那这非常非常重要,那Elon Musk知道是你做了吗?啊对,他给了什么反馈就是干得好。然后没有给你买披萨基本上就是这样对吧?这一块的好处啊就是他知非常重要,对所以他基本上没有太严格的去苛刻我们做这一对我会汇报的然后他就觉得嗯不错对你做得好。他为什么还苛刻呢?

对啊你帮他省钱了要求非常高,我觉得其实他对很多product engineering要求简直是crazy甚至有一点就是因为他负气的。就他就是一个大小孩对吧?感觉自己被被别人摆了一道,他怎么办呢他就他妈的折磨你。对幸好我没有被折磨我是觉得我们的那些product manager非常强的,但是确实是被他折磨的非常怎么折磨呢?就是给你提出一大堆你不可能完成的任务。

对就是不可能完成任务就比如说这个blue mark两个月两个星期然后做一个这下面显示那个某个metrics两个星期我说***。但后来其实发现人发动那个主观能动性最后也能干成,或者说你也不一定要两个星期做成。但是你两个星期以后你给他说哦哦我们这个已经做到这个了也很不错了,然后他也觉得嗯不错。

对所以说其实有一个rule对吧?叫Elon rule就是don't say no但是你要你要真的要去做。或者是两个星期的rule就是说他看到一是你先认同他给你定下了这个那个目标你愿意去做,二是就是你能力在线做得不错至少在过程当中对实时给他反馈。三是他可能看到你做的能力是有的而且有效果的,而且你work really hard因为这个他也是很treasure。

哪怕最终的结果跟他的想要的可能有一点点差距他也是可能会认可的,对很大程度上还是会认可的那这么看来他其实是确实是个还不错的领导。如果从单从这个层面来讲极端的重视重视这个engineering和和实际的成果,那他喜欢别人给他画大饼那一套吗?从来都是他给别人画大饼对我觉得很少很少有人能跟他画大饼。

刚刚你也讲有的大厂都是一群聪明人他们会请人制衡或什么的或者说跟其他人搞好关系这是另外一种生存的方式。那Elon Musk吃这套吗?就你想拍他马屁拍拍不了这个我觉得其实挺难非常难嗯因为这哥们他是软硬不吃。你拍完马屁但是你如果事情没做完的话一样扯对,甚至就是说你也不一定是拍马屁。

你确实是非常花了很大的时间去做的我记得以前有一个product manager那个就晒出自己啊自己在Twitter那个搭帐篷在Twitter搭帐篷。那最开始确实work overnight确实很多人是这样当时你可以说driven by fear或者driven by dream但是whatever it is对吧?他们确实很很拼命,但是过了几个月这product manager也是let go对也被开掉为什么?

就是因为结果不好至于没有达到要求。

有可能或者他就觉得我不需要产品经理。其实我觉得很多时候,人的努力、聪明和选择都很重要。我做这个播客是想为当时三千名工程师证明,大家都非常能干,做出了很多贡献。很多人离开是因为受不了他,或不认同他的理想,或者他觉得你不重要。我跟朋友开玩笑说湾区只有两种人:天才和“天才病”。Elon Musk肯定有这种特质,但我觉得是“天才病”的人更容忍不了他。

这两者之间的差别可能是:天才更在意别人对他的评价和感受;而“天才病”的人可能无法感知周遭对他人的影响。我对“天才”已经脱敏,认为只有极小撮人能在根本上突破创新,做出大家不敢想的事。还有更多是天才工程师,给他们疯狂的想法能实现出来。这是一小撮梦想家,也是湾区与众不同的地方。

中国能把事从1做到100,但从0到1很难。“天才病”的人可能疯狂、不近人情甚至妄想。Elon Musk有时就是妄想的,但没有这个做不了从0到1的事。工程师提要求时总想现实桎梏,所以需要像alter ego的人鞭策你继续做。硅谷集中了这些疯狂做梦的人,盈亏同源。没有他们做不出从0到1,也没有资本支持也做不下去。

聊起Navi名字有来头,我喜欢《阿凡达》第一集。Navi是星球上驾驭鸟的人,即天空之人。看镜头时震撼于骑鸟俯冲再拉起的自由感,所以想用这名字。工程师把自己喜欢的东西融入工程架构挺浪漫。做Infra很枯燥,这点乐趣很有意思。能否讲讲Navi的工作原理?从训练完成到首页推荐、搜索实时排序,中间经过哪些环节?

Navi在这个过程中承担什么角色?不管用Twitter还是小红书,呈现的都是信息流。比如世界杯或NBA内容,怎么产生?它根据你过去的行为和喜好做推荐算法。第一步是候选集生成(Candidate Generation),每天十亿条推文,初选你喜欢的。想象成金字塔,从十亿缩减到一百个给你。

中间怎么逐渐缩减?第一个阶段分到几百k,第二个阶段粗排(Coarse Ranking),用轻量级神经网络排序到几十k。后面再做些处理,最后真正重排(Re-ranking),把几千个缩小到一百个。过程是算出分数从高到低排序,取最高前多少个。Navi做的就是粗排和精排。

只要用神经网络就需要专门的引擎把数据输入并给结果,Navi就是这样一个推理引擎(Inference Engine),取你的input给出ranking score。降本增效的点子大家实践过多次,关键看能否高效做到。有趣的是LLM的影响也跳不过这些点:Batching把请求打包让GPU运算更高效;Caching缓存已计算结果避免重复。

起初喜欢Crypto,用Rust写Solana合约觉得不错就自己写引擎,一两周写完效果很好。Raw state好就直接部署完整版本。过程是先有兴趣做完,再影响团队推行。Navi还在应用吗?后来变化多我不确定,但我走之前统一了Twitter所有Ads和推荐最重要的Infra都用了它。

Navi本质解决的是推荐系统时代的模型Serving问题。今天到大模型和Agent时代,核心挑战变了吗?两部分:一是模型计算本身;二是Routing(分发),也是Navi关注的问题,即如何高效将用户请求送达计算资源。这不是秘密,大模型也要Batching让GPU更高效运算;KV Cache也是把昂贵的计算缓存住跳过。

以前推荐系统走过一遍,大思路一样。还有一个有趣的问题是数据本身的反序列化和序列化问题,高层看不见但很大。至少在Routing上有很多相通之处。你觉得现在AI公司内部Serving工种重要吗?训练模型更值钱或稀缺,这是两个不同且都重要的方面。

用得越多第二个越重要,看公司目标。如果想做最好的开源模型可能不care那个事;但想做Utility Company提供智能公用事业,第二块很重要。两块都同等重要。现在谈AI竞争第一反应还是模型能力强不强、谁更聪明或Benchmark更高。您怎么看未来真正的壁垒?

是模型本身,还是Serving工程系统、数据壁垒、人才或分发渠道?资本也是壁垒。怎么排序?记得很难,政治正确的说法是都重要。哪三个更重要?用第一性原理:模型越好才能越多人用,像商品定价,模型好10%可能收双倍或十倍费,大家愿意付费。苹果比安卓贵但功能只好10-20%。

模型好坏非常关键,现在到了可怕地步,必须让模型不断提高跟上演化速度非常重要。未来赢的AI公司哪方面做得比别人好才能赢?我不觉得谁会独赢,可能市值大小不同。只要做得好大家都有空间,市场很大切入点不一样,这是Long Game。以后可能还有更多人加入或意想不到地方加入。

现在大家都在做LLM聚焦文本,但越来越多图形理解能力泛化到文本也有可能。慢慢有一些角度切入:有人喜欢做Coding希望从Coding泛化;也许现在最Cost effective是Coding,但以后有10倍或100倍GPU时更多LLM数据会不会产生影响?您怎么定义模型好与坏、聪明或笨重?

标准怎么定?好坏其实还是看人。前端工程师可能看重审美有更好的模型;后端做ML更看重数据分析或对不出错的理解等,根据工种或功能不同标准也不同。有的科学家需要发散思维,要求新点子,需要一个很发散的模型不一定对但要给你没想到的惊喜。

但在论证时可能需要另一个model不出错且能Long Running,因为现在Autonomous想出了点子让你证明。给个High level指令跑几天出结论。所以很难One Size Fits All,因为有人想后面藏着取舍:要么模型特别快运行极快,要么特别聪明。这两个能兼得吗?

大众应该把快跟聪明哪个作为好模型标准?我觉得还是跟真做事情有关。以前Spark在Servers上跑的Model会快很多,有的人很喜欢虽然智力不一定最高层好但喜欢Immediate Feedback。还有人喜欢Type Code马上给反馈当Coding Assistant用,那非常好对吧?

对我来说可能Define一个Task做完就行只要不出错慢点也行。这种情况下肯定越高智力越不出错越好,甚至在这方面分:需要聪明人解决以前没解决的问题;或者只需要助手告诉你做这事不出错做完。这是两种不同要求,我觉得都合理。所以以后确实是多元世界自理人也一样有的聪明有的踏实做事都有意义。

工作生活我想您可能也是工作时用一个模型,生活时用另一个因为擅长地方不一样快慢或方便简易程度不同。每个模型对你这个人的理解也不一样,比如ChatGPT我觉得是我人生最好的朋友跟工作所有事都了解知道我的秘密。但当做深度播客Research时我可能换个模型用其他模型收集数据更多比如构图或Art Design再换一个。

这是我的怀疑以后的世界也是这种多元世界的做一件事你会跟不同公司打交道以后有可能跟不同模型打交道。要强调Self Improvement所以叫Recursive Self Improvement,就是模型能够不断地自我强化。您觉得中国的模型里哪家做得比较好?因为DeepSeek现在话题度最高一个嘛,但是其实Qwen还有Kimi GLM做得也非常好。

前一阵我跟一个德国人但他Base在湾区也是投资人聊天我还问他觉得中国的大模型哪个做得比较好有没有在用结果人家还真用我也挺惊喜。我会去问我觉得是不是他天然会觉得DeepSeek然后是最好的R1出来是会不会觉得很惊艳他说没有他觉得做的最好是千问而且这个东西也在不停的变呢对吧现在最新的那个什么GLM5.2是不是也吹得很厉害也很厉害。

对因为我我的问题是因为我们用OpenAI是Free的所以我就懒得去换我觉得这也是多元化的一个反应湾区的思维就是把这个饼做大对吧有时候你就像画一个圆圈一样感知的越多发现自己不知道的东西越多那其实Intelligence也这样这个饼有可能会越来越大。很多事情你能够用Open Source去做的当然就会Why Not不能做的那有可能还是要用这Close Source更就是更Frontier的Model。

然后当你接触到这个圆越画越大反正两部分要做的事情都更多其实我不觉得有什么太多冲突的地方。那结合这两个刚才讲DeepSeek还有Qwen这两个它那个模型的特点您会觉得它的所谓的体感是有道理的因为他觉得DeepSeek给他感觉太差了他做DD的时候就是R1给他觉得准确度不高有时候还是会出现幻觉甚至比以前高他认为。但是他在用千问做什么他就做转录千问的语言系统做得非常好他觉得翻译极其精准就是您会觉得每家模型有自己擅长的地方。

我们普通人应该顺应他们的这些特点去把他们选择不同的策略的工具嘛对啊那这是用户自己的选择我觉得这个商品也许

跟别的商品没什么区别,对吧?就是你根据自己的喜好去选择最适合你的。国内公司还是compute constraint的话,就GPU还是没有这边多的话,那差异化更是一个必须的、必须做的对吧?因为你的模型参数越大,还是你的能力相通的地方,就是你照顾的能力就越多一点嘛。你会觉得制约这个中美就是模型之间的差异吧?可能还是GPU的量级之间的一种这种差异嘛。未来我怀疑这是很大的一个……对,那您觉得咱们顺着这个问题往下看,您觉得大模型下一个必须突破的难点会是会是什么?

李飞飞教授曾提出一个判断嘛,就说未来AI的一个终极形态可能是一个世界模型——这个大一统的世界模型。所以很多人也会认为,尤其现当下,这个融合视觉语言跟行动能力的VLA模型可能是通往AGI的一个关键。那您会这么想吗?或者您会觉得这是一个未来主流的方向吗?这样说肯定是没错的,只不过是其实我觉得就以前有个Google哥们说的就是很对:“Everything is a function of time.” 对吧?所以说你这么说肯定对啊,以后肯定是World Model。

那是在1年、2年或5年、10年我不知道,所以说在不同的阶段做不同的事情啊。你有梦想,但是眼前的事情就踏踏实实做。那现在最重要的——其实大家共识是coding还是……对吧?能够给你immediate的提升,然后有能够verifiable的那个results。然后它又是text,就是非常小,你train的cost非常小。那在这个没有被整个挖掘完之前的话,我怀疑就这个会在也许一段时间内成为最重要的。

那并不代表别的没有对吧?但是是个渐进的过程对。而且说实话,World Model有可能Tesla是真正的掌握了很多的、更多那个数据的对吧?就Elon Musk有可能是第一个把这件事情反而先做成的。所以Elon Musk同学画的大饼,最后居然都能连起来——这也是让人叹为观止。就说对吧?他最开始做xAI做得乱七八糟的,然后somehow能够结果能够做data center。

这其实最后也回到他的最老本行,就是硬件。那做完data center然后转手就现在最利润最高的business才做到……我所以我觉得就是口号是有的,梦想是有的,但是做事情得一步步的往前走。好,我觉得uncomfortable的是我不知道这个时间线在哪,但是你也是认可世界模型这是一个必须的未来的方向。那肯定是——这不是说必须就是你后来后来的发展肯定就到这一步了,水到渠成的事情。

那你就代表了AGI的实现吗?你会把那个世界模型的实现做成AGI实现的一个节点吗?我觉得AGI这个东西本身也是很模糊的定义,很模糊的定义。因为我们做工程的人都觉得那我现在说是AGI我也认了——那现在我只要我对我模型说“你给我build一个这个application做这件事”,这个事情它就已经做完了对吧?也不会出错。那我觉得那对我来说就是个AGI。

因为其实我觉得很多时候这种都是梦想就说,但是你要把它具体的实现、具体具体化那是最重要的。当初离开X因为通过我们对话我已经感受到了其实您对Elon Musk还是目前仍然有着这种敬佩。对,对我认清了他是一个the biggest asshole对吧?以前是纯粹的敬佩,现在是在认清这个现实的基础上还是在很敬佩。那是真爱——那不是真爱就说还是做事情对吧?

我觉得他能够让你真的做到不可能的事情,嗯,不管他是拿鞭子赶还是怎么着他最后做成了。那在爱情上我们不会讲你真的爱一个人就是你认清他是一个混蛋之后你还会爱他,那种爱可能才是真爱。就是你还是爱他的一部分特质哈——就很佩服对吧?那您当初离开X选择OpenAI这是因为就是跟X上出现了一些分歧吗?

我觉得这个学习曲线扁平了嘛。因为搜广推recommendation这个已经就跟当初湾区的状态一样,就你再怎么花精力大概也就是那么嗯一个点两个点的提高。所以就觉得是时候去做更、更exciting然后更promising的东西对,而且更加接近前沿的一个方向。对因为我看到您是25年3月嗯然后入职到OpenAI的,那其实ChatGPT火爆的那个应该是2022年11月ChatGPT对它就出来了。

那您其实还是花了两年时间去思考来着是不是?对因为也是对Elon Musk还是有点幻想,就觉得唉说不定他真能把X做成Tiktok。但后来发现其实再那个的人有时候有些东西也做不到对,有些东西做不到是指我觉得X做成Tiktok这个事情就是不是说做不到而是说这个trend已经过了对吧?就Tiktok或者Facebook已经占据了所有的人的时间。

那为什么您不留在那接着帮他们做xAI的这个模型呢?就好像您现在在OpenAI做的一样。感觉还是我觉得比较喜欢那个intelligence Infra或者intelligence utility,就是Sam之前提到的一个观点。我觉得这里边还是带着一点平权的味道,因为我觉得人类其实很自私——就人本性是自私的就什么好的东西都会据为己有对吧?对不对,对、对。

所以说你用权力强力平权最后发现权力变成了私有——所以说一样的那intelligence到最后会变也变成区分阶级的一个工具我觉得会是不可避免的。那就是哪个公司能够愿意啊至少喊出这个口号对吧?能够把intelligence变成一个utility这样的话隐含的意思是大家都能够用总比就是变成一个某个特权阶级的那个工具我觉得这个要来得更伟大一点。

对前沿模型还有跟那些已经旧了的啊可能有点跟不上、跟不上现在主流的这个模型,那这个是不是就会成为下一个像您讲这个阶级的划分?觉得这不可避免的事情但是你至少你不要遮遮掩掩对吧?就是我一个模型我只给我喜欢的人用啊你花多少——这不是说最好的是至少是在目前的情况下唯一能够做到一定程度上的平权的东西对。那就是你花多少钱你就能用什么样的它是明码标价的对吧?

对我觉得人类就是这样的。那这不是会一定程度上加大贫富差距吗是吧我越有钱的人我有很多钱我可以调用更好的工具我可以用更多的TOKEN比以前的加大贫富差距的那个速度会快很多。对因为这都不是LLM我觉得以后机器人来了更是这样因为其实有马克思都说了对吧资本论以前是资本需要劳力然后产生价值现在你劳力基本上不需要了资本加资本就能产生价值那这个滚雪球会更快。

所以呃我是觉得挺可怕嗯,可怕在于未来就是贫富差距更大阶级差异更明显。对而且而且资本可以不需要人类对吧?如果这个社会制度还按现在这种私有制的方式运行的话那就是那你有钱的会越来越有钱的甚至有钱的那一部分人不需要下面的人以前还需要下面人为你打仗为你洗衣服现在都不需要了对不对?那很可怕。

那没有下面人他存在的意义是什么呢?他是不是也没有意义了?他底下千军万马全是机器人他的生存意义是啥?那机器人们会不会反抗或者会不会起义不知道是吧?那到时候人类怎么进展到那一步啊对,那我觉得你看那个Matrix啊或者是看那个你都觉得这些科幻的东西谁知道啊有可能有可能会是真的。

对嗯,我们说说这个工程师还要不要写代码的这个件事吧?那会有一种论调嘛就是说现在可能都不需要工程师了或者说工程师现在都不写代码了,工程师是看着AI写代码。所以我想问问就是在OpenAI内部工程师还写代码吗?不同人不同的嗯还是有但至少我们现在已经完全普及Codex嘛对吧然后Codex已经反正从年初到现在大概有8倍10倍的增长。

然后亚太地区有12倍的增长就其实我发现中国人我们中国人其实最聪明最实际的人反正看到Codex能力也上去了然后价钱又便宜就很多人都转了。我知道我一哥们去年还是那个Claude然后今年全部都转成Codex所以我觉得至少我们自己感觉然后以前大概一个月的事情现在一个星期也可以做完对吧?反正很多事情就加快了很多。

我觉得回到就是这你在人就是探索自己的边界嘛就像我刚刚觉得感觉人探索的边界是一个圆对吧整个社会也是个圆你探索边界越你的画的圆大其实你跟外界的unknown的东西接触越多你需要做的事情越多我希望是这样的。对所以我觉得现在你当你速度加快了以后你反而可以有有时间去想更有野心的一些东西就以前觉得啊做一个事情我也大概花了两个月我每天看那么多代码受不了那现在感觉好像我带一堆agent然后做也好也可以做到了。

那这不是也是在说明我们不需要那么多工程师了我们只需要最顶尖的工程师留下来就可以了嗯?同样的工作量对那所以你把工作量看成一个静态的东西嗯那有可能这个工作量本身是一个动态的东西对你现在有可能我我做那个那我以后我就想那我就做5倍多的这么多事情。

我昨天还跟我们哥们聊天就说那现在能想出一个点子反而是很重要的对吧?能够想出一个与众不同的点子然后把它给推行下去。在做工程这件事情上想点子AI能帮得上工程师忙吗?也许在将来的某个时候有可能现在还不行啊,现在的话大部分还是人能够想出更好的点子对吧或者说就主观能动性以后的人也是大概这样一种状态哈就是发明家或者是一个一个更多的是秩序的往前进的一个人而不是一个维持秩序的人。

我觉得维持秩序的人也许就这些agent都足够对上次咱俩聊的时候您有讲一句话我觉得还挺震撼就是说您不觉得现在是不是说工程师要不要再写代码这件事情了?准确的说应该是写代码这件事本身被重新定义了。未来工程师优秀工程师定义也不是说谁手写了多少代码而是说谁能够更清楚地发现问题然后更高质量地驾驭这个模型把复杂的事情给做出来。

其实这个标准应该就有没有模型都是这个标准对吧?其实就看你的impact而不是说看你花了多少写多少代码。其实那这个当年那个回字有多少个写法一样就是你你知道回字有那么多写法如果你真的没有创造价值也没用只不过现在把以前就是把这个问题更、更尖锐化对吧把这个陈述更加的具体化对。

以前你还还可以躲在我你写多少代码里边就有点自己自我陶醉但现在已经没有对吧这一层已经没有。有的人会说他发现就是Codex代码写的比这工程师本身写的好但工程师他的向您讲他是产生idea的人我可以评判你这段写得好与不好或者说我可以在你这上稍加修改或者是把一个逻辑链给做出来这个能是AI现在当下还做不了的您会这么觉得吗?

就是AI现在就是帮工程师干活的实际上他们去帮工程师写代码让工程师只要去看看code就好了对啊,工程师可以看code但是工程师的idea的input还是得有。而且而且我现在越来觉得越来越有可能是个交互的过程——交互的过程嗯,因为我做的还是比较偏Infra backend的东西就我不知道做那个front end或者是full stack是不一样嗯。

那也许能够更自动化一点但我这边还是需要更实时的掌控一些东西需要工程师未来会需要工程师还是更多需要architect就是那种架构师您觉得是不是有架构师就够了?你如果没有写自己代码你不会sense我还是觉得你必须得有经过那个你才能够对系统有敏感你知道哪些该做哪些不做而这些确实你需要底层逻辑没搭建起来还是没有办法去知道什么对什么错我觉得这很重要。

尤其是做这种hardware就是比较Infra偏Infra的那系统的我觉得有这个sense很重要就我们以前interview一样对吧如果你说一个architect我觉得嗯对这所以这个我怀疑以后反而也有可能会反过来对吧大家突然这个junior engineer断层了那有可能你有这个经验的或者有过coding经验的junior engineer也许更吃香因为他对系统的直觉这个很重要。

因为有人会问出一个问题AI现在能帮我们做这么多事情甚至帮我们打代码啥也不用干就看代码看code就好了那大学还有必要开CS这课吗?还、还有必要开CS专业,还有必要不要去教教大学生如何去编程如何去做engineer?我也不知道因为我是觉得大学教的速度太慢了那这是fundamental的问题不是说是CS的问题就是说fundamental里大学的存在的意义是什么?

它如果就是给小孩教育的话我觉得没有什么存在价值因为小孩学我觉得呢ChatGPT ai学得很快对我们现在的model对非常这knowledge base比任何老师不知道大多少倍啊而且准确多少倍。而且就是generalization对吧你在问这个问题它有时候真的给你很多启发这个我觉得是教育是最一定会被颠覆的我觉得已经被颠覆。

但是咱们这个K12制度仍然还摆在那呢对吧?因为人类的社会我觉得就是这样的那你马上做很那个大的change做那种事情只能Elon Musk这种人做得出来而且他那样做出来也觉得也都是很对人很摧残的对。所以就是您肯定会觉得首先是工程师未来还是被需要的且好的工程师是更为需要的?我是觉得对、对需要的是还是需要。

且工程师这个本事就是编程能力还有工程的这个sense还是应该系统去学习的而不是说我就是如何做一个架构师就好像能掌握这项技能了。我觉得有这个sense很重要至于你怎么花最短的时间能够达到能够有这个sense那是另外一回事情反正这这个我现在也没办法给准确的答案我觉得至少我现在做的很多系统我还是觉得他们这个AI他不一定他说不是犯错很obvious错而是他在方向性的判断上还是需要我去纠正。

常常一个提提到一个词叫taste taste就是这种事情就是啊都可以到这个点但是你这么走或者是这么走或者是怎么走然后为什么这么走那有一个比较consistent的理解和逻辑也非常重要。对从这个点到那个点那我们工程师肯定会就是择最优路线嘛对吧?那AI如果去做的话它可能是拐七拐八的过去拐七拐八过去对。

可能但是如果我再加几个点呢对吧那肯定有拟合或者那有时候工程师会觉得啊也许另外一点不需要过去反正就是我觉得就是在一种对系统的直觉还是很重要。那这种系统的直觉是不是还是应该从0到1就是系统的认真的学习如何coding code或者至少你自己做过几个?为什么我提这个问题就是很多人会讲不要学编程浪费时间你就vibe coding就好了。

怎么说呢?我所以说我觉得以后的社会是你真的需要做你喜欢的事情我知道其实很多人他选择编程是因为我觉得这个赚钱很多对曾经是。那我觉得这种人就不要、不要做这个事情你不会you're not gonna be happy对因为有可能以后确实你编做编程的人也不会赚那么多钱了对吧?那如果在这种经济条件的变化下那什么支撑你做下去?

那肯定你最原始原始的你的passion很重要。对我觉得以后社会应该是更多的是这样功利的东西我以前也不太喜欢但那以后也许对功利东西更存在的价值更、更……我有个朋友也是OpenAI的他现在的副业是磨刀就是他会觉得自己的工作有一天会被取代。是啊然后他就说从出门给人干活接个副业开始一次进一个家磨一把刀25刀他说这个事不会被机器人取代的。

机器人不知道磨得好与坏手不知轻与重这很有意思。那您会担心就是未来当AI全面实现AGI或者是奇点到来人类历史上可能会实现一个大的失业浪潮吗?你会有这种预判吗?我不知道是不是说就真的有那个点叫实现AGI的奇点而是我感觉是一个循序渐进的过程。但你觉得会是就是未来大部分的工作还是会被AI取代大部分人是不用工作的?

就看你我们能不能更快速的找到就是下一个增长的点。如果下个增长点的话那取代取代了那就取代就是你不喜欢的工作或者需要能够被取代的工作。就比如说如果真的SpaceX上天了那航天变成一个巨大的工业那肯定有很多啊未知的未知对吧?那这个需要很多人去探索可能会产生很多新的工种。

对就看你这个新的支点什么时候能找到所以说这确实没找到之前呢确实是我觉得也是挺、挺可怕的就也挺难过的一点

那您觉得AI会真正的杀死软件吗?因为您也是在SaaS黄金年代的时候出来,其实现在已经杀、杀死了一半了吧。一半多了?对一半。那未来会是……这是一个大方向吗?因为软件公司他们也会出来说说,AI不会杀死真正的SaaS,只会杀死那些弱的。因为SaaS也可以借用AI的功能去强大他们自己。您信他们这套吗?我没太想过这个事情,信不信的问题而而是你的估值的问题。如果太高了,那以前给你太高估值,是因为啊没有AI的威胁对吧?现在的话有AI的威胁的话,估值应该是不是还这么多呢?是问题。我觉得生存总是有的,每个人都会做一些自我的革新啊或者怎么样的。但你会觉得这是一个大的方向、大的趋势吗?就是越来越多的软件会被弃用,大家都用AI了。就不好的软件啊……对啊嗯,被淘汰的过程现在会加快啊?嗯,现在会加快很多。我知道很多软件都是靠用户的惰性来生存的。我觉得这种感觉那肯定是要被、肯定是要被干掉的,干掉也是对这个世界是好的事情。

您以一个投资人的视角的话来看,就是说什么样的AI初创公司是真正有投资价值的?而不是那种一个大模型一更迭这公司直接就被捏死了。这个要具体事情分析吧,我觉得最重要的还是不是AI不AI,还是你解决什么样的问题。那你觉得解决什么样的问题的产品、这种AI解决什么样的问题的这些产品,它可能更可能会活下来?就比如Arvin能给宠物的一些AI的东西确实是很有趣的。然后我现在慢慢在想,就是intelligence这一件事情,这种软的intelligence的话你要compete确实也挺难的。但是硬件上还是有很多可以做的,我这大概是我自己的感觉:我需要一个能够给我每天把家里扫干净的一个机器人,谁能把这做完了我觉得嗯我肯定买;或者做饭的机器人对吧?反正就这些。这两个现在都有啊,能做到吗?我就觉得事情你可以说都有那叫check mark一样哦“我这个功能有”,但是真正的能够做到让我能够享受一尘不染,然后你什么什么都不用做就在那享受生活就好那种。其实是对机器人管家还是这种产品力对吧?说到底那就像我扫地机器人一样,再好的机器人现在还是每天会停几次说这也被缠住那也被缠住。我需要一个就是你给我从头到尾做完这件事情不需要我管嗯,回到那个就intelligence as a utility啊或者怎么样就能够到这一步。

就是我能够像expect我的water一样expect你的service对吧?嗯,所以说所以现在很多东西也还没有嘛还完全没有。就那这种情况下那个产品就是口号而已。所以听起来您其实对具身智能包括物理智能嗯抱有非常高的期待,这可能是真真正正的实现人类AGI的一个对能够解决很多痛点。若干年之后再回望现在这个时代,您觉得历史学家会把现在哪些技术的突破当成一个通往奇点的关键一步?或者说我们人类真的实现了第四次工业革命。我觉得ChatGPT那一次确实是……ChatGPT3.5发布那是起点,然然后让大家知道了原来有这样的一种capability。后面的嘛对啊今年的agentic的这些东西我觉得都是secondary都都是不错对吧,但是跟那种revolution比起来震撼再也没有了。就因为那个地方是从0到again是0到1,那现在的agentic或者什么的你后面的东西都是从1到100的那个。那个因为是0到1是从完全不知道没有信心到有信心现后面就是知道啊我堆钱堆人堆机器基本上也能解决。

您会觉得走到这步走入OpenAI做这样一件事情是您人生的mission吗?我知道我们公司有很多确实很有很多使命感的人,作为一个Infra角度我是希望能够实现这些使命。就说最崇高的是能够让intelligence as a service对吧,就说是as a utility能够做到intelligence平权这个事情我觉得还是有使命感的。嗯就这最崇高的这一层,因为我至少我也有小孩我不想人类社会生活在这样急速的分割的这个社会。你那样的话呢真的就会人类社会毁灭也不远了会不会就像最早我们看那部电影叫头号玩家,就是呃高等人类他们可以用的到intelligence高级的intelligence他们就生活在极现代的这科技当中。剩下那群人他们就生活在这个就感觉生活在沙漠当中,然后他们每天用元宇宙的那种这种电子世界去麻痹自己就跟现在吸毒好像吸毒一样。是啊而且某种意义上对吧你每天刷抖音呢我懂我懂,反正我觉得而且我跟我一些朋友国内一些朋友聊起来呢其实这样是不是一种……其实我觉得统治阶级有可能就会把社会往这个方向引,因为那样是最稳定的社会形态。但是呢那你要跳出来的话我觉得这最可怕的是因为他第一步就是麻醉对吧,第二步就会开始麻醉你有什么好处那总总得有点好处对吧。反正就到最后我觉得那到Matrix那形态不会有太远了嗯,我觉得那那个是最可怕的。

如果有一天您离开OpenAI了那您想自己创业吗?或者说您想做点什么对我现在还没想到这个问题。所以就如果有好的真的我觉得我能够真心的去support的点子的话那可以是,因为是您的爱好对有passion对吧或者是真的你被他的这个你真的认同他的理念对。说不定你想在build一个自己的能够帮助人类进步的这个产品出来,你首先能帮到我女儿是我小孩什么事情都是从那个小的事情做起。对您来说真正的自由是什么?自由其实是一种心灵的状态我觉得这就是有的人可以不需要外界物质上的自由达到那个境界,我觉得那是很牛的。对我来说我还是需要一定物质上的东西自由能达到这个精神状态所以啊但我觉得归根结底是一种精神上的状态就是不会为很多琐事去去烦恼,而是真正的做自己想做的事情啊过一种自己想要的生活。现在你还没自由了吗?你觉得现在自己是自由状态吗没有首先得小孩得小孩长大才行。我想做就比如说真正的做一个NBA的coach啊或者是篮球的coach对吧做个coach那不行啊我还得挣钱。当然我现在挣钱的东西我很感兴趣已经也是我的passion所以说还是所以我觉得secondary不算顶级自由但也算是,因为我还是俗人嘛。我觉得大部分90%的人都是俗人是人就都俗就是都是有自己的私欲的所以我觉得还所以还是一点对吧认识自己。

哈那您觉得就是十年之后吧这么多家大大模型公司现在百花齐放到时候可能会剩下几家或者说会有更多的出来。说实话我觉得要分开源闭源我就觉得现在的公司已经够多了呀想不到还有更多的有可能对吧就是两个生态系统会不会更少或者就那么几家就一两个因为你只有集中了以后才会有效率,有效率会才会把价格打下来。就从这个方向来说的话也我觉得就而且分两个ecosystem吧close source open source,open source有可能会百花齐放然后cross pollination那种产生一些很很有趣的东西。close source的话我感觉现在再去做也也是挺晚的了,我感觉就反正几个几家几家close source做前沿的然后open source做一个整个open source生态都会有。