欢迎来到 Onboard，真实的一线经验，走心的投资思考。我是 Monica，我是高宁，我们一起聊聊软件如何改变世界。欢迎大家回到 Onboard，我是 Monica。这次我们讨论一个当下非常火热的话题，AIGC，也就是 AI 生成内容。近一年来，如果你对科技创业有所关注，就会发现这个领域陆续有很多创业公司，即使在资本的寒冬中，估值和商业上都取得了让人非常惊叹的进展。
比如开发了开源文字生成图片模型 Stable Diffusion 的 Stability AI，二零一九年成立，今年就融资一点一亿美元，晋升独角兽。自动生成文字内容的公司，比如 Copy AI、 Jasper，都是成立不到两年时间就实现了数千万美金的收入。在国内也有很多创业公司加入了 AIGC 这个创业热潮。
这不禁让人回想起五六年前那一波AI的热潮，技术和资本热度上似曾相识，但是商业和产品化上又会有哪些新的可能性？哪些值得思考的挑战呢？这次播客，我们就请来了硅谷的几位嘉宾，从AI研究员、投资人和创业者三个角度，一起来聊一聊这个话题。田园洞老师，很多AI的小伙伴应该都熟悉了。作为Meta，也就是原来Facebook AI研究院Fair的资深研究员，他也是一路见证了AI强化学习、深度学习这几年的研究进展。
最近也刚刚发表了一篇长文本生成的论文。兰是少见的硅谷亚洲女性投资人，她是 Basis Sets Ventures 创始合伙人，投资了 Scale AI 在内的几十家 AI 公司。而蒋纯从产品和设计转身创业，他所创立的 Monterey AI 入选了今年的 YC，将 AI G C 用于产品管理中。自我介绍环节，你也会听到几位嘉宾非常精彩的经历。
另外特别的是，这次我们请来了一位客座的 co-host Indigo 卢，他是微博早期创始团队成员，离开微博后转身投资。他的公众号 Indigo 的数字镜像，有关于 AI、元宇宙、Web3
等话题非常深入的探讨。他的加入，让我们对技术的讨论又多了一些未来感。也是非常感谢几位嘉宾在感恩节周末来一起讨论这个话题，有投资人的视角和判断，有创业者务实的思考和探索，更有技术人对技术的思辨和畅想，发散得非常有意思。
话不多说，enjoy。嗯，那要不先从这个Indigo开始吧。我们今天呃这一次Co-host可以给大家简单介绍一下你自己，然后等一下呢几位嘉宾也可以给大家简单介绍一下你们的经历，还有你们在AI GC领域所关注的一些东西。呃，我现在人在温哥华，对Inkubor这边。嗯，我应该是在二零零九年最早，相当于是我们从新浪里面孵化了新浪微博这样一个产品。
我来自最早的，相当于是Co-founder一样的这样一个团队，然后我们一口气就做。做了大概六六六六年左右的微博，然后就离开了。在，然后在应该是在离开之后，我自己也做过一个小基金吧，也做过创投。当时呢，我们主要投的是中国大陆的一些偏消费和这种和互联网一些的案子。对这个可能最有名的一个是我个人的投资，就是嗯，在李佳琦他们这个团队对背后的公司这一家，对它是偏向直播的嘛，社交和直播的直播电商的。
然后呢，之后我就在在在北美这边，然后呃，可能主要做多的也是在做一些。顾问工作和一些投资工作，嗯，可能刚才莫迪克介绍我，我写博客也是从去年才开始的。我觉得，为了在学习这个新的科技和市场。哎，也正在筹备一些想做二级市场投资的基金嘛，所以说我就把这边比较新兴的科技的行业，我都就是做科普的方式给对外输出。呃，我跟莫妮卡认识也是通过我自己的这个博客和他认识的。
目前正在做AI的这个方向的一些文章，也也也在做类似的课程。因为我个人以前技术背景，程序员嘛，所以说对这个东西我会比较感兴趣。今天也带着问题来了，对，然后可以跟大家交流一下。好的，好的，我也找到这个一个co一个这个资深的这个co host来这个驾驶是非常非常非常激动。就让几位嘉宾可以跟大家简单的介绍一下你们自己。
然后通常呢，我的惯例是每一位介绍自己后加一个fun
fact。那这次可以让大家呃这个提就是跟大家介绍一个AIGC的领域，你目前比较关注的一个公司或者一个呃一个项目，可以跟大家简单说一说为什么。好，那要不我们就从这个呃袁东老师开始。嗯，好，对，呃，那个我首先第一个就是说我这边呢是做研究的，对吧？做那个比较一线的一些比较呃，content
AI的一个一个研究，呃，我们这边主要还是做那个强化学习和优化啊，还有一些那个深度学习的一些分析。
对，那么AI GC呢是一个很有意思的领域，正好就是我们我这边有一篇有意思的文章，对吧？这篇文章可以生成比较有那个长的连贯的呃，就是故事。对，那么这个呢，其实是一个，就是也不是说是说是重金押注了，只是说是一个就是偶得知的这样一个一一篇文章啊，但确实效果还确实不错的。那这这在这往再最后呢，可能再往下可能还会再往下做一些。
对，那么这篇文章主要做的动作呢，就是说是因为现在大部分火呢是那个基于image的，对不？就是你。可以呃生成大量的非常真实的照片啊，就是根据那个词可以用词来生成图啊，这个图的质量都非常高啊啊。那我们这篇，我现在制作这篇呢，其实呃已经投出去，而且已经中了，是中了那个今年那个 E N Y P 啊，在那个中东会开会去开会啊，我可能不会去啊，然后我这么一做回去。
那么这篇呢，其实主要是解决另外一个问题，就是怎么样生成长文本啊，就是说啊，你现在就就算你 G P T 三这样很大的模型啊，那个 Open AI
这个模型，你用生成长文本呢，也会产生不连贯的问题。啊，就是说，呃，你可能生成了一大段，那么长是非常长，但是它写着写着就会歪掉。啊，前面一段可能在写的是，啊，比如说写的是什么啊，动物世界呢，写到写到就后面就变成了，啊，变成了什么孤单呃求生啊这种，嗯，就是这种不连贯的啊这样的故事。
那么怎么样呢？这故事变得连贯，反正变得就是就是跟就是小说啊一样，就是有前后是有一个相对来说比较连贯的一个情节和和角色啊，这是这平台解决的问题。啊，那么呃，我们这篇文章呢，呃，设计一个系统叫R E三。那么这个系统呢是那个呃，通过呃一些prompting的啊这样一些技术啊，能够啊生成比较啊前后一致连贯的长文本。
啊，是这样的一个一个一个一个一篇文章。那么在这篇文章里面呢，我这边主要是就是发挥就是我作为业余小说家的一个啊一些一些啊一些一些那个一些直觉和经验啊，就是人类写小说跟机器生成文本其实是不一样的思路啊。如果有那个使用那个那个人类写小说的一些啊思路呢啊，其实确实可以让啊机器生成文本的啊思路呢啊那个做出来东西呢会更好一点。
乔老师可以再跟大家简单提一提你自己比较关注的一个呃 A I G C 领域的这个公司或者项目。啊，那就说，既然我们这边做的是就是 consistent 的这个 long text generation，对，那肯定还是会啊，再继续关注就是文本的生成能不能更长啊，能不能更更一致啊？对，主要是这些。那么就说，然后能不能比如说结合我们自己的强化学习的那个方向这个强项啊，主要是这样的一个一个方向。
那么当然了，就是说怎么把它和图像结合起来的，也是一个主要的关注点啊。嗯，好呀。我发现这个不愧是这个 researcher 做自我介绍，这个 research 内容比自比自己的这个经历介绍这个更就更重要。但是我想说，应该是呃，田老师应该是在在 Meta 很多年的时间了吧？对，啊，对对对，呃，那我忘了忘了这个自我介绍的这个具体内容了。
我可能一讲 research 就愿意讲比较长。对，我在 Meta 已经八年，快八年了吧？嗯，对，好呀。对，然后一一五年一五年一月份啊入职，然后到现在差不多快八年的时间了，一直是在做那个研究，嗯。对，好的，那可以说也是上一波和这一波的AI都都见证了。等一下，我们正好可以结合历史聊一聊。好，那这个那要不蓝可以给大家介绍一下这个。
呃，好，大家好，呃，我我简单介绍一下，我是在中国出生，然后来美国读博士，啊，我是读的这个脑科学，读完博士以后，啊，我就去做了一个 startup，然后呃 startup 退出以后去啊麦肯锡纽约，啊呃主要是在纽约，在上海做了一年，去啊做这个 management consulting，啊后来呢比较荣幸的呃很早期的加入 Dropbox。
啊，是那边比较早期的员工啊，来到硅谷，然后当时是投资并购部门负责投资并购的啊，我们收购了很多很多公司。嗯，二零一六年、二零一七年的时候，我就离开 Dropbox，然后去创办了 Basis
Ventures。我们是一个早期的基金，啊，主要是。集中在啊投种子和呃A轮的这个公司，我们其实主要focus在AI和automation，所以近大概四五年之内投了四十个到五十个，每基金大概投二十五公司，所以两期基金可能是大概五十个左右啊。
这个呃core core company啊，大概是这样啊。我based在San Francisco，嗯，最近其实有很多从中国来的这个。啊，创业者想在这边啊，想这个啊创业，欢迎大家呃呃一起来交流。呃，fun fact啊，我刚才听那个Chun说是他以前在Scale，我其实是Scale最早的一个投资人之一，两千一六年投了他最早的一轮，当时估值是十五个million啊，那个时候。
它Skill应该是最早的一个AI native的一个一个公司，那它上一轮的公估值可能呃上一轮估值可能是呃8.3 billion，所以这个就最早的一个AI投资吧，那就这样，谢谢。哇，这这个这个太这个太重磅了，而且我看到好像Skill最近也是推出了一个呃AI这这个做generative AI的一个工具吧，是。
好嘞啊，对这个很多公司都会呃，因为这个这些 model 最近都做出来，呃， integration 都很容易。其实像 GTP3 它很很好几年前就做出来，只是没有一直啊全部都开放。所以最近开放了以后，很多公司都去啊跟它 integrate，然后做很多不同的东西。啊，这个串的还是很有意思，我我们可以呃继续聊吧。
啊， scale 其实一八年在 Alex 他的那个 CEO founder。啊，来来中国一八年，对，当时我们去参观 TikTok，然后当时比较震撼，因为它那个 TikTok 的这个 Augmenting 比较厉害。嗯嗯，哎，正好这个我们可以，正好这次又可以从不同的角度来聊一聊了。好，那这个那陈凯，陈凯来聊一聊。
哎，好，大家好！刚听的特别激动。这边我 scale scale 之前的一个网站上来的照片都一直就很大，就在那个 investor page 那边啊。然后袁东老师，我也是经常在推特上面啊和 LinkedIn 上面看到他分享一些。啊，特别好的 insight，所以非常激动在这里啊啊，大家好，我是蒋纯，也可以叫我寸寸啊。
目前是 Montreal AI 的一个 co-founder 啊，我们公司主要帮软件公司团队啊自动分类和标注这个用户反馈啊，然后在你写技术文档、产品文档的时候关联出来，生成一个初步的一个啊产品文档啊，需求完就以完成以后呢，自动再帮你自动生成与提出需求的用户交流的一个个性化文本，完成这样一个从收集用户反馈到执行再到沟通的一个流程。
啊，我四年前从大学呃大学毕业以后，一直在自动驾驶，然后 data 和 ML 这一块领域做产品和产品设计，啊，也是很有幸经历了高速成长的公司，比如说 Uber Scale AI。啊，创业之前呢，在一家叫做 Unfold 的一个大型地理数据处理公司做 Head of Product，啊，去公司去年被
Foursquare 收购，啊，所以三三个月前我就按耐不住了，就开始和我的 co-founder 开始做 Montreal AI，啊，刚从 YC 毕业，刚完成了一轮种子轮，也可以说是刚踏上这个征程，啊，特别期待和大家交流，啊， Fun Fact。
AIGC最喜欢的一公司，现在这好的公司实在是太多了啊！我觉得除了我自己的公司之外，强推一家我好朋友的公司，叫做呃ARTIO A R T S I O啊！我觉得它特别神奇的点就是特别。特殊的一个切入点是，相比于 Lexica 或者说是 Playground 这种啊，他们可能是第一家把这个艺术家风格作为一个主体的 AI 这一系列公司。
因为大家也是都知道，就是说 Image Model 这种知名艺术家的风格是 Prompt 关键，所以我觉得它这个切入点就可以引发出非常多关于啊艺术教育啊版权之类的讨论啊，我特别看好他们的前景。嗯，就这样。好嘞，我觉得第一个话题，我们先从先回顾一下历史啊，因为几位也都是在这个AI这个这个领域有挺啊也挺长的这个这个时间。
我们来看，其实，在如果大家记得的话。其实可能一五一六年啊，就是这个computer vision就计算机视觉呃为代表的这个AI也其实火过一波，但所以现在我们看到，包括。啊，现在很多像这个呃，Mid
Journey啊，Stability啊，其实也都是在这个这个我们也看到是在视觉方向，所以也请请几位这个回顾一下历史啊，就是在就是这一波我们看到这个呃这个这个呃Generative AI的这一块浪潮，跟那之前我们的这个看到这个AI的这个浪潮有什么不一样的这个地方？
我想可以先请这个呃这个这个田老师来聊一聊，就从技术的这个角度啊，就现在我们。看到了这个呃，generative AI，到了技术上跟之前就是它是做了哪些准备，使得这个generative AI现在能够成为一个呃大家可以商用的一个一个技术，而跟上一波这个AI相比啊，就是您所在这个技术还有研究的这个领域，大家可能现在关注的呃关注的点会有什么不一样？
好，呃，对我确实也是算经历过以前上一波那那AI那些人了，对吧？因为之前呢，呃，我是很早以前是做围棋的，呃，就是刚进Facebook的时候啊，是那是做了个AlphaGo，比比地方还早一点，对，然后呢，后面还做了那个OpenGo，啊，那时是那个呃重现了AlphaZero啊，就是这个这个软件这个这个Strong Superhuman的那围棋的软件，然后当时打败了。
呃，很多就是嗯，韩国棋院的一些一些棋手啊，给他们很多的时间去去跟这个AI PK，然后PK不过啊，然后我们获得二十比零的成绩啊。那当时那当时一八年的事情啊，所以就说那个时候呢，确实呃，第一波呢是那个游戏和呃和board game啊，是把大家拉起来的啊。就大家可能会觉得，哎呀，那么厉害，能够把很很难的一个问题解决了啊！
这个问题可能就是在解决之前，大家可能认为，比如说围棋可能是这辈子，就是永远人类是呃永远是能战胜机器的。其实发现不是这样子。啊，所以这波打破人的认知，那导致了大家愿意把钱投进AI这个领域啊。现在是我觉得当时是这样子吧。那么那那段时间确实啊，那个因为generative model其实也是啊，也是一个比较有意思的方向。
很我其实一直是看文章的时候看的比较多的话，就会看到这些文章，对吧？那么区别其实很清楚，就是之前的AI AI generative
model呢啊，就是用的是GAN来train的啊，GAN有个问题就是训练不是很稳定。啊，然后训练出来的那个啊结果呢，其实也不一定非常好啊，所以遇到是很大的一个问题。对，就是大家可能有没有看过，就是网上有一张个帖子，就是二零一五、一五年、一六年到一八年、一九年，就是生成出来的图像是什么，有多大的进步啊？
你会发现这进步是非常非常巨大的。啊，就是说，在这个训练这个过程，让这个训练变得稳定啊，之后呢，就是啊，就是让这个训练过程变得非常简单或者非常的非常平顺啊，这个是一个啊，整个呃AI界的一个不懈努力之下，最后达成这样一个结果啊。那么最近呢，就是啊，我们可能大家都不用GAN了，就开始用那个diffusion
model，那么一点点的再加细节加上去啊，这个model呢训练起来虽然说比较慢，但是确实比较稳定，然后得到结果呢也比那个diffusion那个GAN的效果要好啊，这是其中一个的一个突破的一个点。
另外一个点呢，嗯，就是说是 transformer 的一个一个引入啊。那么 transformer 主要的一个好的地方是它能够把多模态的啊数据啊放在一起啊进行那个对齐，然后把一个模态的那个信息转到另外一个模态上去啊，这个非常重要啊，因为就是说以前比如说你训练或者生成图像。那么有些时候，一种是叫做无条件生成，叫 unconditional 啊那个 generation。
那么就是说，我是给它一个随机数种子，它生成一个图像。那么生成出来不可控制啊，你并不想要它生成什么，就是并不知道它要生成出来什么东西啊。所以这个是有大的问题啊。但这这个虽然说可以用了，但是啊，它还没有做到商业化，因为商业化呢，其实很多时候是需要指定啊生成的是什么样的图像，能够在什么地方引用啊。啊，这是一个 controllable 的这个 quality 啊。
以前的 model 其实是比较有有限的。那么，transformer一来呢，有个好的地方是我可以用那个文字去控制啊图像的生成效果。那么，因为transformer有多模态的融合能力啊，所以啊，我可以把图像，可以把那个文字都转化成transformer的token。啊，用纯文字传送过来 embedding，那么 embedding 之间，他们之间是相互之间可以翻译的啊。
如这样的话，你就可以把那个文字变成图像啊。那么通过这个方式呢，就就能够啊，就能够呃训练的也比较好啊。我觉得另外一个可能的啊一些突破呢，就比如说像 clip 这个 loss function，一些 loss function 的改进呢，其实能够让训练出来这个 embedding，呃，就变得更精细啊，它能理解更多的或者更深入的语义啊。
比如说我告诉这个模模型 A 在 B
上面。啊，很多的模型可能不能理解这个语义，但是有些模型可以理解这个语义。那么用这个语义就会很好的控制这个啊这个图片，啊那么通过这些嗯比较大比较好的这样的一个进步呢，最终啊能得到一个啊比较好的或者说受控制的一个啊那个是图像生成模型，啊这是为什么现在那么火的一个原因嘛啊所以说就是现在能火就是要得益于近十年来啊大家的不懈努力嘛，这个图像生成的效果一点点在往上推，一点往上推进啊，最后达到这样的效果啊应该是这样子。
嗯嗯，哦，非常感谢。我觉得呃，对钱老师的这个这个综述做的非常好。刚才其实您提到的像这个呃对抗式网络、这game transformer这些，如果不甚了解的同学，我会把这个大概的解释放在我们的show
notes里，以后以后大家可以看。那正好从投资的这个角度来，也是一直在做着AI领域的投资，也可以跟大家分享一下你所看到的这个这个这一波跟之前的这个不一样，有什么让呃让你觉得非常呃非常exciting的事情？
因为我想问的比较直接，就是其实上一波那个热潮之后，我们会发现当时很多其实真正做这个computer vision做AI的公司，其实我们后来看到成功的其实并不是很多。那这次又会有什么相同和不同的地方呢？嗯，我觉得AI的hype大概每每每四五年就有一波，所以其实对几十年来总是有这个AI的hype。我当时呃成立贝斯赛的时候，一七年当时也有一个比较火热的一波，现在又是一波。
我觉得这次和上次最近的一次主要的不同，呃，当时从技术上那个呃袁东讲的挺呃很很好，呃，从商业上来讲。主要就是看这个 technical technically 是不是 good enough，因为每次就是呃近几十年来的 struggle 就是你和 human level 的这个 accuracy 和这个 performance 相比，你到底是呃有多接近或者多好？
其实这一波出来的这些嗯，就是技术上来讲就已经呃就已经非常非常好了，所以大家非非常呃就是很很这个惊讶，这些结果有这么好，嗯。这样的话呢，其实有很多的这个呃 use case，呃，举几个例子，呃，以前的这些。其实大的公司都是被这这些 incumbents 呃是是呃独占的，比如说 Apple，比如说
Microsoft，亚马逊这些都不是一些 AI native platform，他们都是呃解决一些比较 basic 这个呃大家的问题的。
那近一波的这些呃因为技术非常好了，所以这些新的 use case 会出来，会有一波新的这个 AI native platform。我觉得这个是呃我最啊我最激动的一点吧。那这些的呃 use case，这些新的公司，我觉得大概分成呃两种，一种是基于在这些呃最好的 generative
model，基于这些像 OpenAI 这 model 上建的一些公司，比如说嗯，现在我们看见 Copy AI、 Jasper。
啊，其实有很多很多公司现在出来，我们自己投的，呃，有这个 OpenAI，有 Viscom，有 Fast AI，有很多的都在基于这些 model 上建立一些公司。还有一波，其实现在大家说的不是很多的，是一些解决呃非常复杂问题的工业问题的，比如说，啊，我们投了一些公司叫 Thomas Building，就是。
呃，焊接机器人呀，比如说这个呃，即使是这个自动驾驶的这个机呃呃汽车呀，还有一些呃就是呃建筑机器人呀，就construction robot，这些其实是非常非常难的一些问题。这些model不是呃只能解决非常非常少的呃一些这个呃呃问题的呃呃呃问题的这些公司，就这些公司会起来，只是这个时间的问题。所以我觉得两方面我都是啊比较看好，就看呃。
什么样的 time horizon？近几年我觉得是这些小 use case 会会被 figure out。那啊，五到十年我觉得很这些 automation AI，很多很多公司会有一波非常非常多的 AI native 啊公司会出来。嗯，哎，这个我其实也，我我这个其实也多问一句啊，就是我正好其实在一五一六年那会儿，我正好也是在，我正好是在一家非常早期的AI创业。
公司，然后也是以一开始也是 computer 相关的。我印象特别深刻的就是，当时我记得我们刚开始做的时候是这个，当时是 Facebook，现在是 Meta 的这个 Open Pose 刚刚出来。然后那个时候就是，呃，那时候我们觉得啊，我们做这个，我们做这个 model 又比这个 Face 这个 Facebook 当时做的又快，而且又能够 run on edge，然后就各种都很好。
但是很快大家发现，可能过了几个月，对吧？所有人都掌握了这个，所有人都掌握了这个技术。后来其实总抠图啊，什么就有这种识别啊，都被一下子就变得非常的这个普遍了。所以就像呃蓝刚才说的，后来好像就是，然后好像没有哪个公司说基于这个 computation
可以做出了一个呃就比较好的公司。那我们会看到现在好像很多公司都在拼自己的啊，我的 model 怎，就是我们的 model 就是 fine tune 的怎么样？
那那等到技术最终都被 common test 了以后，那我那这次谁能够真正的这个赚到钱？这个能够赚钱，这个 business model 会跟之前有什么不一样吗？呃，我觉得这是 good question。呃，现在就很明显的有大概，其实呃三波公司，一波就是专门做 model，其实像 Open AI，像呃。
像这个呃呃呃，就是还有一些大公司啊，其实现在都做都做自己的model，他们他们有很多很多的基金，像Microsoft已经投了一个别的，再投更多。呃，这样的话，它其实你train model是要有很多的这个钱，很多resource要train model的。我觉得呃。Winner还是会 concentrate on有最多基金的这些公司，因为吹猫的是非常昂贵的。
那第二，呃，播这些公司其实就建在我刚才说建在这些 model 用他们 model 去找这些场景的，呃，这些公司能够找到非常 specific use cases，然后去 monetize 这些公司，你跑得最快的。其实是可以啊赚很多钱，其实可以赢的，因为做model公司它不会有那么多时间去做这些use case啊。
那第三波呢，其实很多时候都用不上这些model，因为这些呃这些公司他们必须得建自己的新的model，是非常非常specific vertical。比如说焊接机器人这个这个这个东西，就是你有很多的，就是呃这个实在太难做了，你要自己做一个机器人。呃，现在很多model是用不上的。啊，你要自己要做自己model，也也会去 leverage off the shelf这个东西。
我觉得其实如果能做出来，就基本上是一个 hundred billion dollar 公司。我觉得这三波啊，我我个人都非常看好。就看作为投资来投资人投资人来讲，我每个赛道都会去都会去看都会去投。嗯，好的。哎，那正好讲到这个，那讲到这个新的这个这个这个呃方向，那肯定要问这个创业者了。这个呃，蒋春可以跟大家聊一聊，为什么你当时会呃选这个方向来去创业，然后也可以给大家简单介绍一下吧。
你们的这个呃，笑技术站未来对这个商业化是怎样的一个计划啊？嗯，这个是我每天每天睡让我睡不着的问题啊。对我们就是 properly fit into
兰刚才说的这个第二波的公司。然后啊，就我个人经验来讲的话，我大概五年前就是那个AI上一波Hype的时候啊，刚毕业嘛，然后当时就选了加入自动驾驶这一块的方向啊，然后当时我记得我的manager说，就跟我说说，哎，你有计算机和设计背景，那应该利用这个优势去把最复杂的技术抽象和简单化，并且就是创立啊人和用户与这个技术之间的一个trust。
啊，然后我觉得我的职业方向就一直在他当时给我说的这句话的方向上走，啊，然后做生成式AI也是机缘巧合，因为大概在四年前的时候，啊，我在Uber的时候就非常痛苦。呃，收集用户反馈和这个写产品文档，然后再跟用户反馈的这几个就有用好多好多个不同的tool啊。然后从我的角度来看的话，它不仅仅丢失的是一个沟通的成本和一个时间成本，更是丢失了这个highly valuable数据。
所以啊，当想到这个monetary idea，呃，monetary AI idea的时候啊，我就跟我co-founder说，我说like if we can find a place to connect like the feedback to specs。And then inform the feedback with facts and vice versa。
啊，这会是一个不光是能够给现在的这个产品经理或者说产品团队，甚至说是 engineer manager，啊，带来非常多 like like instant benefits。而从这个企业角度来讲，它把各个方面的数据给串起来了，这也是我觉得就是 AI 能够帮助到最大的地方。啊，那从一个 business 角度来讲的话，因为我们现在才做了这个第三个月，啊，我可能。
之前我一开始想的是，OK，那我们就做这样的一个platform，收集这个user feedback and generate prospects，and and then going back to users，tell them like what we
deliver啊，这是一个非常非常清晰的思路啊，但是啊，也是之前想要做，哎，我们要努力的去做这个prompt engineering啊，努力的去做这个fine tuning啊。
在我跟更多越来越多的用户聊的过程中啊，可能发现他们更需要的是，比如说这些 auto grouping user feedback 啊，auto tagging user feedback，这会给他们带来一个更直接的一个呃 benefit。啊，然后还有一个生成式的带来的最大的好处是啊，他们能够自动
generate 邮件，然后告诉这个啊提出需求的用户说，哎你好，呃多少天前提出的这个需求啊，然后再给你加一些 like personalized message 啊， to make the connection between user and product team
better，啊，所以可能说。
就是生成式AI在product management或者说product development这个角度，还是要像刚才两位说的一样，就是说要找一个非常非常细的一个use case啊，然后可能也是从先从短的文本开始，然后再慢慢的过渡到一个生成一个非常长又非常高精确度的一个长文本。嗯，这是我这是我三个月以来的一个感悟。
刚才我听到了，听说。呃，生成长文本的问题，对，嗯，因为我我个人做了一些研究之后，就是发现，因为现在大量的模型其实在这个自然语言，尤其是NLP领域里面，其实就是Transformer嘛。然后我不知道田老师这边看你们在Transformer现在用它它这个attention的机制。应该挺难生成大段大段的这样的连贯性的前后有关联性的长长文本。
呃，这个再往后边从你们这边角度来看，如何让整个文章的这个结构化，应该是会会有什么突破，除了在这个模型之上，啊。呃，对，因为我们这篇文章其实就是为解决这个问题，就是当时为了生成比较长的小说或长的 story，长的故事，对，就是如果你只用 transformer
来生成的话呢，那确实会出现就是呃上下文丢失的这样的情况，对，丢掉，对，嗯，对你说着说着它就不知道偏哪去了，离题万里，然后接下来你就再也回不回不去了，或者说陷入无限循环啊这种情况，对，当时那那我们这篇文章已经发表了，对吧？
所以就是它它这个一个关键的点呢，就是说呃要控制它的
prompt。就是在输入那个prompt的时候呢，对，呃，就是我要把就是过去的那个文本的细节、文本的那些summary和啊角色的一些设定，还有角色一些特质，还包括整个文章的主题，都要放进那个prompt里面去。那么这样的话，生成出来的文本呢才会有的放矢啊，它才会有一个比较好的，或者说比较那个跟以前的文本一样的，或者说一个比较那个连贯的这样的一个架构啊，这个这个是一个很重要的一个点。
你会发现，就是你把那个上下文放进呃 prompt 里面之后呢，生成出来的文本就会好很多。啊，当然，我们这边之后还有一些后处理的一些步骤，比如说有一个就是重新在那个重重采样的一个过程啊，你可以生成，比如说比如说二十段，然后我们有一个方法可以把这个二十段，呃，比如说排个序，然后只取最有最相关的一段。啊，然后作为下一段来处理。
那么这样的话呢，生成出来的文本就是又长了又连贯，啊，那目前我们可以生成呃两千到比如说七千词的英文词的这样的文本啊。是还是比较连贯的，那那相当于是还是用了 transformer 的模型，只是在上面做。对，其实对我们还是用了那个我们这篇文章还是用了 GPT 三啊，用的是 OpenAI 的
transformer，嗯，用 transformer 来来做的啊，当然是但这篇呢主要是用来生成或者是故事或者说小说这样的一个一个一个一个一个东西啊，对，嗯。
啊，这个对，这这是我刚才一个疑问啊，就在这个下面，其实这涉及到人工智能的另外一个问题，因为像 transformer 它其实好像是所有模型的一个终结模型，现在来看，它可以把任何数据都变成 token，然后从另外一边变成 token 输出出来啊，因为可以图像、文字啊，其他的什么 DNA 啊，什么序列都可以。
有没有可能，嗯，这个 transformer 会把更多的东西给统一了？然后呢，按您前面讲到的，呃，在这个之上呢，它 transformer 实现不了长强结构的逻辑，是不是在这个逻辑，就像人模拟人类思维的这个逻辑之上，会有一种新的模型诞生？它会先形成这种模型再结合起来。对，我这我我很我我个人随意思考的，我可以提一下这个问题，嗯。
呃，我们可以回过头来讨论，因为刘道澜等下要提前走，所以插一个问题，插一个这个这个资本家资本家关心的这个问题。资本家对，就是对，因为因为我就讲到，因为刚才讲到这个 generative AI 的这个 business model 嘛，就是我想这个也想请澜介绍一，可能介绍一个，你们在这个呃这个这个领域看这个 generative AI 的这个公司的时候，你们最关注的呃几个点是什么？
然后另外一个也是从我最近一些呃一些思考的角度，是在怎么去看待就是真正在这个领域的公司的优势。比如说我们看到最近其实像呃 Notion 啊这些公司也都在推出自己的这个呃 A I G C 的一个一个功能嘛。就像你说，其实像有了大模型，这个对于对于这个不仅是小公司，那现在这种呃 incumbent 其实他们自己也挺有优势的。
那到底是说未来我要比方说我要做一个很好的这个呃文本生成？公司，或者我要做一个很好的这个呃很好的这个，比方说视频生成公司，那是不是可能不如像 Notion 啊，或者说 Grammarly
这些？我已经有很多客户，我把这个功能作为我产品的一部分，那其实一下触达很多用户，或者说比方抖音对吧？抖音来做一个这个自动生成这个这个这个呃视频的一个工具，是不是它的这个优，它这个渠道和渠道 distribution 的优势？
会对于很多startup的这个呃未来的发展，会是一个比较大的一个挑战。就好奇从这个这个投资和这个商业化的这个角度啊，来听听这个蓝的一个想法想法。啊，我觉得是个 great
question。呃，我们其实看的时候关注两个两个点，第一个就是回到本源，看看你做这个公司有没有真的去解决用户的问题。很多公司其实哦，model 很好，我们建一些东西，其实你看起来就是像一个玩具一样的，它它其实没有解决呃很很大的问题。
如果能够能够embed到一个workflow，能够解决真正的这个大家的痛点的话，这个use case让大家愿意付费，这个其实是我们看的呃，就是很多的一点。呃，举个例子，我们有个公司叫呃呃Viscom AI，他们其实就是对于这个product design，就是呃不是我们说的digital
design，就是product design，你去design shoes，design呃cars这些东西，你在手你在这个呃它的它的这个呃呃。
软件上画一个车，它就马上帮你涂色，马上就可以用这些 models，呃，可以变成一个之前要画很好几、很好几个礼拜的东西，呃，才能建成的一个一个 product。这个东西大家是愿意付钱的，所以呃，像这样的 use case，呃，我们其实是非常看重的。Similarly，呃，OpenAI 它其实，嗯呃，有很多这个 use case 现在已经开始付费了。
我现在因为他们还没有完全 out of stealth，所以先给他们保个密。呃，第二个呢是呃，我们很注重一点就是 speed of iteration，就是你刚才说的呃，这个 gold markets 和这个呃呃，就是 incumbents，他们有的一个很好的呃。就是
advantage，就是他们有这些客户，有这些已有的客源，他们如果可以很快的把他们这个这个产品赚变得更好，那他们可就是理论上来讲应该是呃会更快的去赚更多的钱。
但是问题就是他们。呃，没有那么快，所以startup最最呃有效的一点之一就是他们速度非常快，所以我们看这些founder的时候要看他们的spirit of iteration，他们能做多快，他们这个产品能够呃做得多好。所以呃，第一和第二呃，你要看的话，它其实。是呃是相悖的，呃
incumbents他们是有很多客户有很多客源有 existing gold market有 distribution，但是他们就是不够快，所以这些新的技术出来新的这些东西出来，他们就很难去呃很难去呃 integrate 不是最难的，就很难的是你怎么能够。
建一个product是在已有的这个呃呃客户的这个habit之之之呃职能之中是让他们可以用上来的，这个是不是只是说你应呃有机会o A P I就可以做到的？你是要重新去想你的这个产品要做成什么样子？我觉得这个是 incumbents在做的比较呃呃没有优势的一点。那反过来讲，这个startup虽然它没有这个distribution，没有这个。
呃，客户，但是呢，他可能从新，就像一张白纸上，你想画什么都可以。就如果能找到这个呃这个pinpoint，能够能呃能够找到这个use case，那其实他会呃走得很快。所以这两点其实一一直都是，就像好好像是一个皮筋一样的，呃呃两边都在拽着，是一个一个一个fine balance。所以我们在投资的时候会呃就是比较比较呃看哪个公司如果既有呃痛点能能让痛痛点又有付钱，然后又能快的话，那这个肯定会投的。
但一般都是呃会是一个trade off。那呃，我现在这个其实这个时间其实更perfect，我可能呃不好意思呃要要去呃也有一个康复。那如果以后还有什么啊需要讨大家有兴趣讨论的，可以在Twitter或者其他的呃邮箱里都可以跟我联系。啊，谢谢今天可以跟大家聊聊的很开心。好嘞，我会把他的这个 Twitter
也放在呃，也放在这个 show notes 里边，大家可以在 Twitter 上跟他互动，有非常棒的这个 insight。
那正好，其实我觉得刚才 Indigo 这个问题，其实我也想去 follow up 一下。那我们再绕回来啊，就是刚才这个技术问题，因为我只是想畅想。其实 AI 的这个行业它是蛮涌现式的，它它突然会有一个新的一个模型一个 model，会把之前的东西全部都。所以说，大大幅提高效率。所以，所以说，在这个里面创业，它就像大海里面颠波一样，它突然一下，你就可以涌身而起啊。
然后，所以说，我在问前面那个田老师这个问题，嗯，就现在 transfer 模型就是这样一个，就是万能模型。就是在他之后，我们想实现更强的逻辑啊，把这个逻辑给实现，人类的这种结构能力给实现了，那是不是意味着还会有更新的这种不一样的模型出现，来把这些模型给融合起来？嗯。对，我能做。嗯嗯，那这个当然是终极问题。
很好的问题，很好的问题。对我觉得是这样，就是你们看到的都是涌现的，但是我们看到的呢，就不是涌现了，就是很多事情就是已经有苗头了，对吧？就是说，说你文章看得多了之后，你知道这个东西会出来，会有效果。当然了，可能预见到效果特别好，对吧？比如说，你说 Stable Diffusion 是你们看到的，突然冒出来一个东西，其实不是。
就比如说，就算今年年初，比如说那个 DALL-E，对吧？DALL-E V2，去年 DALL-E。DALL·E其实已经挺惊艳了，就比如说它能生成出来，比如说一个那个啊一个那个那个牛油果的椅子，对吧？这种感觉上非常漂亮。对，那个时候已经有，但那个时候呢，其实它的它的这个它没有做到场景生成，做到物体生成啊，一个物体生成出来不错，但场景上来说还不是特别好，对吧？
但是今年DALL·E V2，对吧？然后我们这边有那个make啊make a scene，make a video，对吧？有很多的那种版本的，就是东西已经出来了之后呢，那才会有Stable Diffusion。对，所以这个过程呢，技术其实是一个非常的，啊，一个非常渐进的，或者说一个非常的那个循序的一个过程啊。
就是学术界这边呢，其实大家都有一个有，就看能看到有一条路。能过去就是再往前，你比如说那个 Nvidia，那么有一些比如说 model，比如说 GAN 的 model，那甚至很难生成逼真的人脸，对吧？对吧？然后，嗯，呃， DeepMind 那边有有 BigGAN，也甚至很少生成逼真图片，就是图片生成尺寸越来越大的，然后效果也是越来越好的啊。
所以，呃，所以真的没有 surprise，就是确实大家一直在不停的努力，慢慢慢，终于努力到入头了之后啊，被商业界的人发现了，哇，那么厉害啊！所以你们觉得好像涌现了，其实不是这样子啊。所以 Transformer 好像是比较突然，还是还是他之前就有。呃，Transformer呢，其实很早以前，二零一七年，二零一七年啊，二零一七年，我就是二零一七年那那篇论文嘛，对吧？
对，二零一七年其实本身也是一个比较大的突破，因为啊，对对，那边呢，其实就是主要突破就是参数变少了，很多，变少了十倍吧，还是五倍，那效果更好了啊，就是跟相对以前model来说，当时它出来的时候，其实就学术圈里面就已经觉得这个很不错了。啊，这个非常好啊，非常有效果。当然了，当时也存在很多问题啊，比如说长文本非常慢啊，比如说它是一个平方级的一个一个指数一个复杂度。
嗯，那么花很多时间，花了很多时间去改进它，然后去去做。我就想说，感谢田老师把那个啊速度这个问题、prompt问题再把它上一个台阶，影响着下游的公司。嗯。对，对，就是说，像Transformer当刚刚当时出现的时候呢，就是也没有那么火了，就是因为它是一个self-ized model的一个一个另外一个architecture。
对吧？那但是它一旦搭上了，比如说 self-supervised model 啊，搭上了一些就是不用 label 可以训练的模型啊，那马上就火了。然后这两个东西搭，然后那个因为你有大量的数据可以 train，那么你就是 Bert。那 Bert 一出来之后，整个 NLP 啊的领域，比如说你跟大家聊天，他们表情都不好了。
他们可能会觉得以前 NLP 是这么玩的，然后 Bert 一出来，以前就不用玩了，就把把这个场子砸掉了。就是换言就是在以前可能是不同的，比如说 QA
或者不同的那个。啊，language的task它要单独训练一个模型啊，然后得到更好的效果。那么要单独标注、单独把那个数据放进来，对吧？但是等到BERT一来，我就在BERT上fine tune就好了啊，或者说BERT不动，然后train一个那个啊那个subsequent那个language
model就好了。
那么这整个改变了呃这个训练的这样流程啊，所以这个其实当时在业内也是很大的一个震动。啊，这个这个都是很重，这些东西都是都是联系的。这样的话，为什么才是会让 Transformer 这个模型大行其道？大家越觉得这个东西有前途，再往真的往下走啊，才会有那个以后就会有多模态的这样的一个模型的诞生，对吧？对，这这这都是能连上的啊。
所以这个都是像你们说，你说逻辑，对吧？逻辑那边有有另外一条线，就是那个搜索啊。其实你说 Alpha Go 啊、 Alpha Zero 啊这种，像我们这边 Open Go 都是通过搜索来决定啊什么样的那个那个啊什么样的招。对，还有一个叫做从路径搜索算法是吧？蒙特对啊，有很多算法，很多很多搜索算法，所以搜索器早就就有了。
对，所以并不是说是啊突然冒出来说我们加了搜索，不是这样子啊，搜索早就有了。AlphaGo之前也是很多很多人啊花很多时间去做搜索啊，围棋的程序很早前就有了，那么唯一的区别就是以前的围棋程序没有深度神经网络啊，现在用了啊，突然间把它突破啊，就是有这样的一个一个一个技术的连贯性。所以以后的模型如果要呃要有突破呢，也是通过把这些技术连贯性拼起来，然后或者说有新的一些模型拼接是吧？
嗯，一个拼接啊，对，你说像这样一些就是对，也不是说是有人拍脑袋想出来，因为它里面的各各各组件其实对以前就已经有的，对对对。那现在就是呃，田老师觉得你就是您所看到这个 generative AI 相关有没有一些就是你觉得还可能还在非常早期，但是可能呃或者一些 paper，你觉得有一些 sign 是有可能的方向。
呃，这个很多很多了，就是就是大家业外人都觉得，哎呀要统治世界了，业内人都觉得AI太蠢了，都是这样的，很大一个，然后生成就是我们出名写文章之后，就我做一个业余小说家，我看他生成出来小说，哎呀，这实在太太太太太蠢了，对吧？就是，就算他长文本，就算他是前后之间有连贯性，但是你要看，就是每个角色之间有没有动机啊，有没有故事，有没有高潮，有没有结尾啊，对吧？
那个角色之间有没有互动啊？角色之间的互动是有有没有一个紧张感的，能够带给读者一个读下去的感觉，这都没有。对这些东西非常难做啊，然后还有就是说，你要写一部比较长的故事的话，有很多的就是非常的那个细微的地方是要注意的。啊，那这些细微地方其实一般的原模型是很难去抓住的啊，就是说，比如说在你这部小说里面某个词代表一个特别的含义，或者这个词和这个人是有关系的啊，但这种其实很难在一般的文本里面能抓到的啊，这种都是很难做到。
就比如说在这个文本的语境下，或者说在这个故事的语境下啊，它是就是文那个就是 token token 之间的关系。啊，这个就无法用大数据去啊去搞定了啊，这种都是一个非常困难的一个问题啊。那么这种其实很难做，而且现在我我我不觉得要通过通过大的模型能够解决这个问题啊。就比如这是一个例子啊，还有一个例子就是说，比如说呃那个啊做推理啊。
做那种那个数学上的推理啊，什么现在确实有很多那个 math for AI 的啊，或者 AI for math 这样的一些一些工作啊，但他们能解决的就是说，比如说解决一些已有的啊一些一些数学问题，比如说奥数几何竞赛的一些问题，这些问题已经有答案了，而且知道就是大家知道就是通过已有的一些呃数学的一些定理能够推导出来最终的那个答案，对吧？
那么，那么其实就拼的就是搜索效率啊，怎么样？但是大数据家不这么做，大数据家做数学问题的时候呢，很多时候是啊，他会为了解决这个数学问题，那自己在是自己在搞一套数学工具啊，或者说有一个基本的一个思想或者思路去做。那么这也是就是基于问题本身有什么样的啊一些特别的一些结构，他要自己发现啊，并用这个结构去更好的搜索这个问题。
那么这个都是呃空白啊，这个都非常难做，那现在没有什么办法可以做这个。想问一问什么？你们呃，你你们是基于什么样的这个模型？然后你们在发研听过程中啊，发现了哪一些比较比较 challenging 的地方？嗯嗯嗯嗯，对，就是创业公司就非常难，因为你你的最终目的还是要赚钱啊。然后对于这个技术，下一轮技术什么时候出来，你永远是一个未知数。
但是你要有又要有一定的预测，比如说。呃，如果如果我知道 GPT 4 会包含哪一些新的更新的话，我可能有一些现在在做工作就不会去做。啊，我们现在，哎，等一下，刚刚一个问题是，呃，对，还有一个就是我在，比如说在融资的时候，因为当时突然之间这个生成式 AI 就很火嘛，就是。在我看来也是有点火得非常突然啊，然后在融资时候就会很多人就问，哎，你这个用generative那AI用在哪里啊？
然后就会一遍又一遍解释说啊，我们对吧？这个GPT3上面的generative AI只用在帮你生成一个个性化的啊文本，用来和你。的用户来沟通啊，那可能我们其他的，我们还有一个功能是这个 detect like similarity
啊，就是查找这个文本相关度啊、相似度啊，来减少这个企业内。啊，非常多的depend呃，非常多的like interconnection dependency，啊，在最初产品开发的时候没有被发现这个问题啊，那这个我们当时是在这个BERT上面做的啊，所以。
我觉得就生成生成式AI啊火是一个好事情，这样子的话，大家所有创业者都在找这个商业化的方向啊。但是你真正开始fine tune，真正开始啊prompt
engineering的时候啊，因为由于比如说在写产品文档，你真的没法用户enter，然后给他出来。一些generative可可能比如说这个用户是在web street的industry，俺可能给他了一些啊什么sales industry的inside，啊就是。
这个即使是一个比较好的一个 prompt engineering，比较好的一个 fine tune 啊，出来的一个呃 model，还是要和你用户的 interaction 要息息相关的，就是 inter 用户需要给一个非常非常详细的，说我这个公司在做某一样产品，这个产品是在某一个领域，这个领域有多少用户在用啊，这个领域是有多少的潜在用户啊，然后这个。
呃，这个feature我倒是也要做什么？这个feature有多少人来做啊？就是到后来你会有一种啊本末倒置的感觉，就是如果用户给了那么多的input，我为什么还要帮你来generate，对吧？用户直接可以就去写了啊，这也是我发现就比较好玩的一个一个部分。这个现在很多用AI生成文本的这个这个公司，还是基于这个prompt嘛？
就这个提示词。那会说你发现要fine
tune到你想要那个效果，其实你的提示词要非常的这个具体，可能都不是提示词。是一个提示段落的一个一一个问题了，所以其实那对于很多呃这个创作者、艺术家来说，其实不是每个人的语言文字表达都可以那么的这个这个精确的。所以我就好奇，从这个技术的这个角度来说，它是我们接下来就是我好奇，就是我们现在看到哪些公司在这个方面，或者哪些研究在这个方面啊，有可能会有一些有一些突破。
对，抛向田老师，我跟你说一下，抛向实用主义，先先让他先让他解释一下这个技术层面。嗯，首先我声明一下，就是我我其实并不是做 NLP 的，那可能我以后要做一下 NLP，因为这篇文章，所以呃，我之前呢就是做强化学习做的比较多，对吧？然后那个还有一个是呃神经网络的一些理论分析、一些分析、一些那个原理的一些理解。
还有一种优化，就讲这些方向。对对，我觉得就是确实是一点问题，就是那个你要生成你想要的东西非常难，对吧？我看网上有很多的 Stable Diffusion 的咒语，大家都叫自己的大魔导师。对对，有大魔导师要画出搞出咒语来，然后才会有一些地方你想要图片，对吧？嗯，所以这个其实很大的问题，嗯。对，接下来你要怎么样能够让那个AI能够更减少，比如说这个呃这个咒语的那个长度，这是一个很大的问题。
那么这个就需要AI能理解一些就上下文的一些一些细节，对吧？让就不要让人把它灌进去，让AI自己能理解。这个其实可能需要更好的模型吧，对吧？可能需要比如说Transformer上做一些改进啊，然后比如说把Transformer结合一些以前的一些模型，比如说什么Knowledge
Graph。或者说用把以前的知识用用一些，比如说图像啊，或者说用那个图图来表示，那这样的一个结构，啊，可能会有一些帮助，啊，就是说接下来就是说你怎么样去能够把就是具体语义上的一些非常 subtle 的东西能够表现出来，啊，那这样的话就是减少你提示词的次数啊，这个是一个可能的问题，就是说怎么样
personalize，或者说怎么样 contextualize 你的 model。
啊，生成大模型，因为现在的模型都是我怎么怎么做呢？我有大量的数据啊，几个B链的数据，然后一把梭串出来，哦，大模型串完了啊，然后接下来，但是这个模型本身你怎么样把它应用到一个具体的场景里面去？那这个很难。啊，所以就说你要用到具体场景的话，就我们面临这样的一个困境，就是如果你你要具体场景的话，你数据就变少了，所以你训练出来的模型就不行啊。
但你数据多的话呢，你数据都很杂乱啊，每个数据它都从都从不同背景里面来，所以最后有这样一个 trade
off，嗯，没有办法，就是为特定场景打造一个非常强的模型。啊，在这种情况下，你怎么样能够提高出效率，是一个很大的问题啊。这可能是将来的一个方向。嗯，呃，我补充一下，对，现在那个天朗说，我感觉。针对这个生成啊，如果生成式AI针对特定场景，把这个生成的准确度提高到商用级或者大家可以接受程度才能赚钱，稳定性要提高啊，因为这这个这个应该是一个方向啊，对对，相当于把它给集中，因为现在有些语音生成的公司可能没有用到这些技术，但是它的这个语音合成效果还有这种人脸，就是做成真人视频啊，然后在演讲啊，其实挺多情况下它都可以商用的这种产品，我个人感觉，对吧？
莫妮卡，你应该看过，上那是个公司啊，在国内也很多。嗯嗯嗯嗯，不过它好的地方是，就是就是，就算我需要很长的那个 prompt，那么现在没关系，是可以用人堆嘛，所以工厂还能开着，还是能还是能用的。可能这个是一个比较好的切入点嘛，就以后模型越来越好了，也许效果就要越好，人人力就越越少。哎，我发现一个特点，我我测试过两个同样的 prompt。
在那个 diffusion 的，它好像你你怎么塞词都 OK 的，但是那个把词扔进去好了，但是那个达利 E 的 To 的那个那个里面，好像它对于短语的理解好像更好一些。啊，嗯嗯嗯，就有可能因为达利 E 可能用的是 clip，可能会比较好一点，clip 有比较好的对更好一些，对，但那个 diffusion 就不行。
嗯，哎，讲说哦，你们在组合做得越更好，嗯嗯，想听一听这个实用主义的这个创业者，你们在这个实践中怎么解决这个问题，或者尝试什么方式。就是田老师跟我说的，天天我的痛点啊，就像我，就像我刚才一开始说的，就是创业公司难就难在你没有办法有那么多的钱，那么多的时间去创造一个非常强的model啊。我们现在也会在做一些，比如说基于knowledge
graph啊，可能再加上prompt的人，再加上fine tuning这样子的一个model过来啊，然后争取把这个生成的一个product specs like越来越精确。
啊，但是同时，对吧？他就是我要赚钱啊，去卖这个产品啊，所以可能更多的是从就是产品方向的一个曲线救国，比如说发现 A A I text 对于你这个生成的个性化文本啊非常好啊，那这个个性化成本可以提高你和客户的一个沟通的效果啊，那我们可能就是在这个阶段就会更 focus 在那一块啊，那可能。啊，怎样提高这个生成的长文本的精确性？
一个是从我们自己想的角度，就是说，比这种呃做这种 knowledge graph，做这种啊 fine tune，啊，还有一方面就是实时关，实时关注学术动态，实时想着看着，如果 GPT four 出来之后啊，有哪些情况可能是马上就解决了的？有一些情况我们是可以等一一两个月啊，就可以有一个比较新的一个解决方案的。
也就是也就是摸着摸着石头过河，从从创业这个角度，大家其实真的是最怕就是起了个大早赶了个晚集。比方说你可能原来在这个computer
vision上做了很多这个调优，对吧？然后突然一天这个神经网络出现了，反而能够和后来者去上。我觉得另外有一个呃，这个商业层面的这个这个讨论啊，呃，如果大家还记得的话，比如说这个很很多年多年以前，有一家叫Prisma的公司，它就是可以生成你这个，就是你给他照片，然后给然后它就把它变成这油画效果，这应该是上一波这个这个AI浪潮。
那当时就是。就是很快，但很快，我大家会发现，这个这个这个公司也就也融了很多钱，然后也有很多用户，但但很多也就不 active 了。那现在我们看到，其实很多这一个也有很多这个用来生成图片的这个呃生成图片这公司，所以我就好奇呢，就生成图片这个事情吧，对吧？未来大家是期望说我这个图片像这个像这 Copy
AI 啊，还有什么 Jasper 一样，它就是在某一个特定领域的这个这个生成图片，比如说像刚蒋春元讲到一个啊，我这个艺术艺术家的图片，还是说它就可以这么成为一个工具本身，我就可以做到足够足够厚，就可以成为一个比如说 billion dollar business。
还是说，我下游这个渠道，比如说我要生成图片，我可能就要做成下一个Instagram，或者说做成下一个这个，比如下做成下一个下一个抖音，它才有可能做好。就是这个这个用用真的是AI来生来呃作为一个工具，这个事情本身在哪一些领域我们看到也是可以做的比较啊比较深。哪些领域可能就是比较容易有这个呃渠道上的一些一些劣势？
还有这个听大家的想法，要不蒋春聊一聊？因为你可能也跟你那位朋友这个聊到过。对对对，我那个朋友叫啊何琛，他也是一个连续创业者。其实我身边也有很多做这种generative AI，但是他们都是做这些面向创作者啊的一些art generation。啊，市面上这一类的retention都非常的差，就是因为生成式它的本身就是一次性的效果，对不对？
啊，然后很多时候也是停留在一个玩具的一个层面啊，那。这个感觉就像当时 Instagram 做了一个 tool，然后这个 tool 如果一直做 tool 的话，它就不会成为 Instagram。啊，那可能现在有很多的这些做 image generation 的 art generation
的创业者也在往这个角度讲啊，小角度想，因为大家知道，哎，我我只这个修改一次图片，我只生成一次图片，它并不能让 user 有这个 hook 一个 model 出来。
啊，所以这是就行业上就创业者也是每天都在头疼的一件事情啊。Jasper，Jasper，Jasper真是每天都是啊我的一个动力来源，因为他们你要他们的生成性只是他们的其中很小一部分，他们最厉害是因为他们生成的东西能够 optimize for SEO 算法。啊，然后他们又有非常多的一些
community education，又有一些很好的一些上下游的服务啊，来帮你来 post on social media directly。
可能他们还会开始做 A/B testing。啊，所以我觉得之后的 AI 能够成长为 billion business 公司，一定是和一个垂直的领域和 workflow 结合的非常好的。啊，否则的话。工具的话就会变成，工具的话就会变成，比如说你要什么转 image to PDF，那你就会网上找一下
image to PDF，啊，那这样子的话，对这些公司来说很难去建立，很难去提高这个 retention，或者说就根本就没有 retention 这个概念。
好，这个莫迪卡，我来补充一下，顺着你们这个话题，对这个你要说到甚至是AI，刚才那个蒋春提到的，其实我我用过，我我体验过好多，其实我感觉大部分都是玩具啊，有的可能连玩具都比不上，对一次性的，我感觉这个里面嗯。把它垂直化掉，变成比如说我们只是说生成图片啊，嗯，先不说版权问题，其实大量的生成是AI都还有版权问题。
如果说面向面向一些business领域里面的，比如商业工具啊，生成图标啊、图表啊，这是把它往再再细化到某些这种这种这种channel里面去，会会有价值一些。因为现在大量的在网上去买这些商业素材的人，也主要是买这些东西，它它是转化率最好的。除了这个去那个 Getty Images 买买摄影照片之外，然后剩下全部都是买图标了，买图标了。
所以这一块儿应该是，如果小公司进去应该很快，对，只要你解决版权问题就好了。你好好的这个，而且这个里面我觉得版权问题很好解决，因为它和这个创作风格还不一样，很通用的。我看到 Google 就前前两周发的那个 Google Cloud，它上面有一节讲了 AI 嘛，我看他们他把 Google 的那个。Google的那个办公套 Workspace里面的那个创作，就把我们刚刚实这个东西有些已经都实现了。
就是这种巨头里面，它把一个功能就把这个这些创作功能给实现了。这也是一个对创创业公司来说是一种威胁，有可能，嗯。对，嗯，先是第一块，如果是呃，其实对垂直领域一定是一个非常好的打法，因为现在最好的有 retention 的公司啊，在 AI generation 方面，一个是做这个 interior
design 啊，卖给这些地产经济啊 generation，一个是做汽车 generated design，然后会卖给福特这些公司啊，然后还有一个受益好朋友公司叫 Rosebud AI 啊，然后他们就是想要取代这个 stock image。
啊哦对，对对，Stock Image它本身是Billion Industry啊，这是三个retention特别好的公司啊，然后我觉得就是巨头总是会有很多钱去做很多事情啊，但是如果。但是这样子的话就不会有那么多
startup。所有的一个呃优势，一个是刚才这个蓝老师说的，就是快啊，因为快的本身不不因为呃不仅是因为我们小团队迭代的快，还有一个是因为我们的 risk 没有那么高，因为我们做一个出去都出去做一个东西出去啊，如果对吧碰到了一些 compliance
issue，碰到了一些呃就是大公司无法承担的就是一些风险就无所谓，小公司反正就是光脚那那句话叫什么的。
穿鞋的，喂，光脚的，光脚的不怕穿鞋，光脚不怕穿鞋，对对对对对啊，对，然后还有一个角度就是。小公司它定位比较明确，就是说，如果用户我在网上搜索说我要啊 generate 一个什么 interior design 的 image 的话，那我就会去找一家公司做一家事一件事情，而不是去看啊我在 Google 的某一个项目的某一个 feature 里面可能能找到我能用的东西，对。
哎，这个的确的确是哎，其实讲到讲到这个大公司、小公司的问题啊，就不得不我觉得不得不讲到这个跟也跟钱有关，就是因为刚才我我们提到就是呃这个很多这个大模型现在要么就是大公司来做，要么就是这一些像 Open AI 啊或者 Stability 呃这一些融了很多钱的公司来做，那就是我但其实我看了一下他们这个
pricing，比如说 Open AI 这个 pricing，其实你想 call 一次这个 API，其实还是挺贵的，就一方面真正做这大模型。
因为很贵。如果说我这个，如果说我这个公司就是我要用他们的API来去来来去作为我主要这个business
model的话，就是几年前的这个AI讨论中，其实也有人提到过，就是到底AI这cost。就现在来说还是还是不便宜的，所以就我就会好奇，就是说这个从cost这个角度，那未来它会怎样去一一个演进？比方说，从我觉得这里面有两个角度啊，就是比方，因为从商业化的角度是说，那那是不是也都会有大部分的这个cost都会都会交给这提供大模型的这公司呢？
那另外一种就是说，哎，那是不是从技术上是不是有些优化？比如说，是不是我们会逐渐的把呃计算的一些东西是不是越来越移到这个 edge 上？所以从这个 cost 的这个角度上，也想听听各位的这个呃这个这个讨论。另外听听蒋春聊一聊，就是你你对 cost 这一块可以分享一下啊。这就是我每天每天在，这就是我每天在头疼的事情啊。
对，我们现在现在呃 GPT 3 每一个 call 的话啊，基本上它的平均的。Cost在 six cents，就是六六分啊美元，嗯啊，所以我们的就是 pricing 也其实挺挺挺挺简单的，就是说按照你不同的 seat、不同的 feature 做一个 pricing tier，啊，然后每一个 tier
也会有一个 consumption gate，啊，比如说如果你 generate more than one hundred，啊 like text or articles，啊，我们会让你另外的付钱，啊，但是我的确是觉得。
下一代甚至会产生一个新的一个 pricing model，比如说你看 Zapier 啊，他们或者说是 Posthog 啊，Posthog 的话，它它是一个做一个 product analytics 工具，它是一个 open source，它非常的受这个开发者欢迎啊，它其中一大部分原因就是它是纯粹的一个 consumption base，就说你用多少付多少。
啊，所以我觉得有可能在这种情况下，呃，下一代 tool 它可能就是一个纯 consumption based。我花了多少钱？我呃，我给你提供这个服务，我从 API 那边花了多少钱？啊，那我在上面乘一个 multiplier，我就 charge 你多少钱？啊，这样子的话就会就会让整个行业的一个 pricing 也越来越透明。
但这的确就是我自己每天就是瞎想啊，所以对后来后来啊，这之后这个 pricing 该怎么演变，然后这些 foundation model 它的 change pricing
会对我们这些创业公司会有什么影响啊？也是其实。仔细想想，还是蛮担心的一个事情。那因为我投资比较关注像这种呃开源啊，还有这个数据库这个方向，因为很多数据库的源，它虽然说是这开源给你，但真正能够把这个开源的一个产品用好的公司其实比较少的。
所以虽然说这个 stability 主要是开源出来，但真正能够用好它，其实还是哪怕从源上啊，还是有不少这个这个成本的。这个呃，我好奇这个这个田老师，就是从技术角度或者您也可以分享，就是现在我们有哪一些方向，就是可以去把这个 cost
这个事情给降低的？我们现在也还有哪些挑战？啊，降低的话，那其实有很多，比如说最近我好像清华那边有一个有一个新的model，说可以把stable diffusion的那个step变变变短，对吧？
叫DPM Solver对，好像是，比如说你比如说你本来要五十次那个iteration，现在变成了比如说三十次或二十次，对吧？这种这是一种可能的一种变短的一个方式。比如说你把那个model的cost降低。啊啊！你比如说，嗯，你比如说，你比如我们要 serving O P T O P T
是我们自己的那个一个一个一个 open source model，对，openly one seventy five B。
你在 serving 这个 model 的时候呢，你比如说你可能需要八块卡或者更多的卡，一个八八块 A 一百，你每次 call 这个 model 就花很多钱去 serve 它。但如果这个 model
比如我们可以搞成更小的。各位老师，那个那个啊，比如说十六位或者八位的啊，但是效果还是还差不多啊。那这样的话呢，我们每次 serve 这 model 或者每次 call 这 model 的时候，我这个代价就会降低，对吧？
我可能用更便宜的 GPU，或者说用更少的 GPU，然后就可以做到这个 model。对这样的话呢，你 cost 会降低，那么你可能对大家也会有帮助。这这个我相信一定会慢慢发生的。就可能甚至到最后，比如说几年之后，大家每个人自己有个 in house G P T，或者说就是能存在自己的电脑里面，自己靠这个不用靠那个啊，就是 Open AI 的服务，这都是有可能的。
如果是这样的话，那其实对于对于这个 G P three，啊，或者对于 Open A I 这些要想要靠这个 A P I 来赚钱的公司来说，绝对会是一个挺大的挑战。呃，如果你是开源吧，你 Model 是开源，你提供 A P I，那也也许会也也许会有不少公司给我就提供更便宜的这个啊，更便宜的这个这个 fine tune 过的 A P I，最后变得一个非常的呃很同质化的一个一一个事情。
那最终的这个这个这个赢家，也许就还是要看这个非常垂直领域的这个。这局玩家了，我其实其实挺挺同意这一点的。我觉得 training 是非常重要，因为有很多的那个就是 small corners you need to cut，对吧？就说你如果要把一个东西打通了，有很多很多小的地方，这些地方可能每个地方都不是需要太强的技术，但是都需要人或者花时间去把这东西做出来。
然后把整个过程能做完，对吧？所以我觉得这是一个可能的一个一个一个一个思路。就比如说举个例子，就是说，也许我们接下来的任务是，我们有没有一个有没有一笔钱能花在上面？我们可以搞用AI做一个movie出来，比如说AI做一个那个电影啊，或者说全流全部流水AI做的，或者说就是尽少的那个人工，对吧？这种工作室这种模式，那么这样的话呢，就是说我并不care我具体的哪个哪个技术谁提供，我们就是说把这个东西做出来。
对吧？所以这种都是啊，这个可能是一种新的一个方案，对吧？这种我觉得这个可能会更好，因为比如我自己在写小说的时候，我觉得哎呀，我这个工具非常不方便啊。也许我自己想写一点小东西，能够提高自己的效率，但这种很多很多小的地方，你没有那么多时间去写。那这个其实很大的一个需求，如果有一个公司能够把这些小需求都做了，然后提供个
N to N 的一个解决方案的话，啊，那是一个非常好的，而且这个护城河很高啊，很难一下子能能够追上啊。
如果你只给大家提供 API 的话，就像大家刚才说的那个，很容易就被追上啊。今天你提供一个，明天随便新飞不又提供一个，所以最后对对对没办法赚钱。对我补充一下，嗯，我觉得还有一个角度，他们这些大的模型公司会开始做的事情是，就有一点类似于 ML Ops，因为之前在 Uber 或者 Scale AI
时候，都是做这种，就是 like help developers to evaluate model performance。
啊，那就在我们自己开发过程中也是，就 GPT 3 它也有很多不同的版本嘛。那我可能会知道 Alchemy 这个版本我们可以用在啊某一个领域，或者说我们在 try different prompt engineering 的时候，又会有一个呃 A/B testing，或者说有一个 benchmark 一个 flow 啊，这些都是我们自己现在就是自己扣出来的啊。
但是觉得如果有一个啊，platform啊，或者说这些foundation model啊，可以给你告诉你说，哎，你如果追用在这个领域，你应该尝试一下我们这个什么G点零、G点三点二点八版本啊。如果你在尝试另一个方面，你可以用这两个版本。这两个版本有什么呃pros and cons啊？它们各自cost是多少？
这是一个，也就是比较比较handy的一个方向。嗯，对，有点是吧？但是这个就是要也要想一些东西能不能被取代，就是也许下版本这样的问题都解决了，这个都是一些比较大的一些一些问题，就是可能需要一些具体的技术知识，知道哪些目前的那些知识是会被呃会被取代，有些知识很难被取代啊，也是这样子。我补充一下，可能对于很多大公司巨头来说，他们都期望用一个通用的模型来解决所有问题。
最后问一个这个比较 ending 也比较 open 的这个 question，呃， ending 这个这个这个课程上面你 show 了一个这个就关于 AI 的这个 high tech。对对，这个 generative AI 呢，其实是准备在顶点，那其实也就意味着好像也离这个破裂不是很这个这个不远的一个地方。
从这个呃，从你们的这个角度，你们觉得就是如果说就是你们觉得现在哪一些是关于这个 generative AI，哪一些是你觉得这个 overhyped 的这个这个 overestimated 的，而哪一些可能你觉得呃它是有真实这个对你们来说是真实的一个价值，或者说你觉得甚至有可能是被大家可能 underestimated 的一些啊一些东西，可以从你们的角度来聊一聊。
嗯，要不这个掌声可以来聊聊。嗯，我觉得现在生成式AI给我的感觉就像几年前这个自动驾驶给我的感觉一样，大家都在说，然后这个 hype 其实很快就会过去了，然后真正沉淀下来就是大家继续做事情，对吧？啊，生成式AI 可能我觉得那些真正垂垂直到什么给，对吧？汽车做工业设计，给啊给一些。呃，什么？那给一些做 interior design 这些非常非常明确的 use case，一定一定是会沉淀下来的。
啊，那其他的一些，比如说帮你 generate 啊 avatar，帮你 generate 其他的比较好玩的东西，那希望他们能够朝更多的，比如说什么 social media 这个发展，那可能就会诞生下一个 TikTok 或者诞诞生下一个 Instagram。啊，那些underestimate其实，其实我个人也是就对infra这些，也是对enterprise这块比较比较热衷的。
所以我觉得有很多啊，很多面向于enterprise的这些AI tools，比如说像RAG AI，比如说，比如说像我自己的公司，我们就是在，我们就不会在overuse like generative
AI，而是慢慢的、慢慢的看AI能够帮你真正的提高啊每一天的这个工作啊，这个是需要长期的去。积累和踏踏实实干的啊，然后还有一个就是 ML infra，就我刚才说的这些，或者说 ML tools 啊，这些怎么在 model 不断更新的情况下，给开发者提高更好的 experience
啊，这是也是一块我觉得接下来会有很大成长空间的地方。
嗯，这个其实也让我想到NLP很火了一段时间，后来发现很多所谓做自己NLP好像做的特别牛的公司，最后其实都没有起来，而是我个人觉得在NLP做最好的一家公司，可能是一家叫公的，完全没有标榜自己做NLP的。对，但其实它本质是一个那个做sales，呃，给大家提高这个sales team的这个efficiency的这个公司。
因为其实真的，其实NLP只是在中间很很小的一个一个部分，核心还是这个business value。对，就是我大致同意吧。就是我觉得垂直的方向其实很重要。就是其实在做研究的时候呢，我们也是慢慢开始觉得垂直其实很重要，因为呃，垂直呢能够做大项目啊，这个其实对公司来说也是挺好的一个一个事情。对，就是因为研究一般有两类了，一类人是做方法的，还有一类人是做做做项目的。
对做方法的人呢，可能会觉得有一个方法到处敲啊，有个锤子做好了之后到处去敲，啊，然后做 application 的人呢，就是我做垂直东西，我不管用什么锤子把这个东西做出来为止，啊，所以就是我觉得可能做那个 application 的或者做那种垂直的方向呢。啊，其实更重要就是也有很多很很细的啊那些细节需要去抠掉，但是最终整个过程做不出来呢，其实很有很大的一个 impact。
对，就是并不是说啊，我这个 model 很 fancy，这个 model 就我就就就用了，对，其实不是这样的，最终还是看具体问题具体分析，什么样的地方用什么样的最好的模型啊，那能够把问题解决了，这个是最重要的啊，比较务实的一个思路是比较好的。啊，我觉得这个其实是比较重要的。那么，技术上来说呢，我觉得接下来可能一个是怎么样 personalize 一个 model，对吧？
一个拿 language model 怎么 personalize？我觉得这个肯定挺有意思一个问题啊，怎么样能够把它做小？怎么能够把它做到一个比较？啊，比较大的一个呃，那个就是一个一个非常 clear 的一个呃呃，就是同样的一个性能，但是能够让它在每家每户上啊都能够用上啊，因为其实 privacy 是很大的问题啊。
其实他们当时呃有我们把这个我们的文章公布了之后呢，嗯，在推特上其实有五百多个点赞。啊，有人就在问了，说他们什么就是每每个人心里面都有一个 mess up story，就是可能有一些不太想给大家知道的故事啊，想希望这个 AI 能够帮忙把这个故事写出来啊。那么，但这种情况下你就没办法去 call GPT 3，因为你 call 了之后你会觉得自己非常 embarrassing 啊。
那你这种情况下你怎么样能够让这个 model 最终能进入千家万户啊，能够？啊，把这个personalization的这个东西做好，呃，能够让大家能够在自己的那个手机上或者说自己的那个机器上能够用上这个模型，得到达到这个效果，啊，这个其实一个很大的一个一个问题。如果有人能做到这一点的话，那可能啊，大家愿意去用这个东西，啊，这也是一个好的。
哎，武晨问一下，我看到其实那个Facebook最近也，包括Google也最近也推出了，呃，也在做很多这个AI，然后来生成，不论是3D啊，还是这个呃一个视频，而不是一个一个简单的这个图片的这个研究。我好奇，田老师，你觉得在在这一块，现在因为我们现在看到可能这些视频都还比较的初期啊，一方面比较短，而且这个质量可能可能还远不如这些图片。
就您觉得在要要做成这个3D，要做成这个视频，跟我们现在相比，觉得现在比较突破有有什么比较难的地方？其实还挺多很难的地方吧，我觉得，因为现在所谓那个make
video，其实有很多照片，比如interpolate，对吧？或者说做一些你的pletion，可以得到一些结果。但是你要再往前，就是几秒钟的视频你可以做，你几分钟的视频你没法做，几分钟视频你需要剧情了，你需要有一个故事，就是你需要知道这个这个这个东西大致想说什么。
包括分镜啊，包括有哪些角色，他们出现了多长时间，有什么表情啊，这个都是很大的问题。这个现在技术很难解决，嗯，现在技术只能说你拉一下，比如说天上有只鸟，让它飞一飞，然后地上有有个虫子，让它走一走，这这样的一个就是相当于基本 common sense
的呃一个一个视频啊，比如说你带个超人斗篷，你让它飞一下，那这种就是非常简单的，就是接下来你要把它拉长了，长到几分钟，那这个非常难啊，这个其实是一个很大的一个一个问题，需要下一步下一个那个 milestone。
其实我感觉现在 generative AI 实现不了长视频、短视频都很难。呃，也就是说你要有剧情嘛，你要有逻辑，对，有逻辑、有 consistency，有一个一致性，说甚至是一样的了，就跟小说故事生成其实是一样的问题。是他理解这个理解上下文难，还是他从理解到生成这个生成的上下文？这个都很难嘛，就是生成本身是一个问题，就是因为生成你要 consistency，对吧？
然后理解又是一个更大的问题。对你现在，你要是神经网络去理解，比如说啊，一部电影它的妙的地方在哪里，或者一段短视频，它为什么能让你泪流满面？这个很难，非常基本上是，就是能做出来，基本上是。呃，基本上达到人的水平，所以这个优势基本上还要再等二十年或者三十年以上。嗯，对，要再等一阵子嘛。就是你知道，就是我个人觉得是至少要对模型的那个。
啊，工作方式就是可解释性要有一些理解，这样的话才能做出来。因为现在肯定有个瓶颈，就是说，呃，现在大家数据越来越多，那最终数据会用完的。我因为我已经感觉到数据可能用完，就是比如说 diffusion model，我把世界上所有的图片拿过来训练一下，然后我已经非常的强大了。再怎么怎么能把再强大一点，大家不知道怎么做，因为没有数据了，全世界就这么就这么图片，对吧？
就是这个肯定是一个很大的问题，就是。因为毕竟没有那么多画家给你画图，所以这是一个就是数据。我觉得之后永远都会撞上这这堵墙嘛，就是因为以前以为数据是无限的，确实数据当时是无限，但是现在数据越来越多，计算越来越强，数据就计算力可以很强，但是数据是不是撞上瓶颈不知道啊，这个是一个大的问题。所以回过头来，这又是这个大公司的一个优势了。
这在数据的这个方面，或者说自己成为一个闭环的一个优势，还是得最终还是得要自己能够产生。嗯，最终要像人类一样学习，我们不需要太多数据。所以说我们现在对大佬研究不清楚，所以AI也搞不清楚，还还有一定差距。嗯，对，那那就需要从根上解决问题了。就是我们现在的那些模型，说实在的，也许都是在人在面前都是渣渣，就说说难听点是这样。
对，就是人可能。真的数据量可能是只有十分之一或者百分之一，最后结果还是更好，对对，所以最终还是会可能会撞到这堵墙，这是一个另外一个墙啊。你现在现在大家可能还没看到，或者说看的比较少，因为大家可能会乐观的以为就是也许我们这个AI的进展会会会更快，因为之前的进展很快嘛，我们可以直接外推就好了。但是其实以前是因为有数据嘛，但是等到数据。
到了到到饱和了之后就很难讲了。光了之后怎么办？对，是不是说现在这个所谓的这个小小样本小样本学习这方式，它还是还是没有到那个质变，还只能解决一部分的这个这个问题？没有，现在还早，现在还早。小样本还怎么？小样本只是那实验室来玩玩的嘛，就可能比比 performance 可能高了比如两三百分点啊，我成功了发文章了，但是真的有用吗？
不一定有用。哎，Andy哥，你觉得这个这个话题，最后你有什么补充吗？嗯，对你刚才问的就是这个 hype 的问题，是吧？对我感觉 generative AI 的这个 hype，它预测的很对，刚好预测很很快要到了，对。因为大量的都是玩具嘛，而且最后能够沉淀下来的，我估计还是我们前面讨论第一个垂直，而且非常垂直，它的市场或定位的找准。
因为，嗯，就就好像现在我们用现有的这个，因为大家都做做应用嘛，我们用用现有的这些模型和这些这些算法的这个极限性能，把一个东西做小，把训练集做小，然后呢，另外刚才田老师讲到的 private，就是给
private，给给私人去做定制化的这种输出，给企业或者给私人给特定的，包括我前面举的例子。我用某些声音合成输出成产品，或者人像输出成的产品，那个时候按照企业或者个人需求定制出来的形象，像这样的东西它就比较容易商业化。
就说因为我通过通这种 Open AI
或大的模型训练出来，因为有隐私问题，你不可能有有有太多的影像可以用的，我必须得把它缩小范围来训练，或者把模型或者把数据量变小，然后专用去训练。这应该是在这一轮之后能够剩下来的一些产品，它能够走的方向，就是说一个垂直化，第二个是私有化。然后第三个可能是在之后这个里面为这些模型去做，刚才其实那个蒋春月提到了，就做那个
M L 的 Ops，就是去为他服务的，提供这些工具集，帮他来来来来做这种私有化或者垂直化的这种工具集，应该是一个比较好的方向。
然后再往后面就可能是等着下一轮的这个模型升级了，啊，有一个第四第四波或者或者说怎么样子的，对对，等等着模型的进一步的就飞跃式进展。嗯嗯嗯，好嘞好嘞，我觉得我们今天讨论这个非常非非常充分，也非常感谢大家，我觉得非常不一样的这个视角。今天我们的核心就是跨越海，呃，聊的都是一些非常这个落地、非常实际的，比如不论技术还是商业上的一个话题。
那也非常感谢几位这个在 Thanksgiving 的这个周末的这个时间。然后，希望下以后我们有更多这个关于 AI G C 的这个讨论，一起来关注这个呃这个领域的一些进展。嗯，好，谢谢各位，谢谢。以上就是本次讨论的内容，也是有些意犹未尽。关于 A I G C 这个话题，可以讨论东西太多，因为时间关系，很多话题我们也只能浅尝辄止。
不过这个行业发展太快了，我们也会保持持续关注。也希望大家在评论中跟我们分享你的思考，还有你希望讨论的其他话题和角度。最后也别忘了关注我们的公众号，未来我们也会将更多的思考和组织的直播在公众号中跟大家分享。感谢大家的收听。如果你喜欢我们 podcast 内容，欢迎你点赞并分享给可能感兴趣的朋友。有任何建议反馈，都可以在评论区留言，我们都会很认真的看的。
如果你在用 Apple Podcast 收听，也