播客开场与嘉宾介绍
欢迎来到播客《Onboard》,本期聚焦当下最热门的话题之一——AIGC(AI Generated Content)。主持人 Monica 与高宁邀请了来自硅谷的三位嘉宾,分别从AI研究员、投资人与创业者三个视角,探讨生成式AI的发展机遇与深层挑战。
本期特别邀请到 Meta(原 Facebook)AI 研究院(FAIR)资深研究员田园洞老师,他长期深耕强化学习与深度学习领域,近期发表了一篇关于长文本连贯性生成的论文,已入选 NeurIPS 2023;Basis Sets Ventures 创始合伙人蓝女士,作为硅谷罕见的亚裔女性投资人,是 Scale AI 的早期投资人之一,专注 AI 与自动化领域的早期投资;以及 Montreal AI 联合创始人蒋纯(寸寸),曾任职于 Uber 的 Scale AI 和地理数据公司 Unfold,现致力于将 AIGC 应用于产品管理全流程。
此外,本期还邀请到客座 co-host Indigo 卢,他是微博早期创始团队成员,现专注于科技投资与内容输出,其公众号“Indigo 的数字镜像”长期探讨 AI、元宇宙与 Web3 等前沿议题。
“有投资人的视角和判断,有创业者务实的思考和探索,更有技术人对技术的思辨和畅想,发散得非常有意思。”
技术视角:长文本生成的突破与挑战
从技术演进角度看,当前生成式AI浪潮与五年前的 AI 热潮已有显著差异。此前的热潮以计算机视觉(如图像识别)为主导,而本轮则以生成式模型(尤其是文本与图像生成)为核心驱动力,并展现出更强的商业化落地能力。
田园洞老师指出,目前主流模型(如 GPT-3)在生成短文本或单句时表现优异,但一旦涉及长文本生成(如小说、报告等),极易出现情节断裂、角色混乱、逻辑脱节等问题。为解决这一问题,他与团队开发了名为 RE³ 的系统,通过基于人类写作直觉的 prompting 技术,显著提升了生成文本的连贯性与叙事一致性。
该研究并非单纯依赖模型规模扩张,而是引入了人类写作的结构化思维——例如分章节规划、角色设定追踪、情节伏笔回收等策略——从而让机器生成内容更接近人类创作逻辑。这项工作已在 NeurIPS 接收,虽尚未开源,但为未来长文本生成系统提供了新思路。
“人类写小说跟机器生成文本其实是不一样的思路。如果有那个使用那个人类写小说的一些思路呢,其实确实可以让啊机器生成文本的思路呢,做出来东西呢会更好一点。”
投资与创业视角:AIGC的落地场景与生态机遇
从投资角度看,AIGC 正在成为资本寒冬中少数仍保持高增长的赛道。例如,Stability AI(Stable Diffusion 开发方)成立于 2019 年,2023 年融资 1.1 亿美元,晋升独角兽;Copy AI、Jasper 等文本生成工具成立不到两年即实现数千万美元收入。
蓝女士回顾了自己从 Dropbox 投并购部门转向创办基金的历程,并强调:Scale AI 是其 2016 年以 1500 万美元估值投出的首批 AI 原生项目之一,如今估值已达 83 亿美元,印证了 AI 原生公司的巨大成长潜力。她指出,当前生成式 AI 的爆发并非仅靠大模型本身,更关键的是模型开放与 API 化带来的下游集成爆发——大量初创公司正围绕大模型构建垂直应用。
蒋纯则从产品实践角度分享:其团队 Montreal AI 将 AIGC 聚焦于用户反馈闭环管理,实现从收集、分类、文档生成到用户沟通的全流程自动化;他特别推荐朋友创办的 ARTIO,该公司以“艺术家风格生成”为切入点,不仅拓展了创意工具边界,更引发了关于版权、艺术教育与创作权属的深层讨论。
“它这个切入点就可以引发出非常多关于啊艺术教育啊版权之类的讨论啊,我特别看好他们的前景。”
技术演进:从GAN到Diffusion与Transformer的突破
回顾上一波AI热潮(约2016年前后),以计算机视觉为代表的技术曾引发广泛关注,但受限于模型能力与稳定性,商业化落地仍显艰难。生成式AI当前的爆发,并非凭空而来,而是建立在多项关键技术突破之上。早期生成模型多依赖GAN(生成对抗网络),但其训练过程不稳定、生成质量有限;而近年来,Diffusion Model的引入显著提升了训练稳定性与生成效果——尽管训练速度较慢,但输出质量明显优于GAN。与此同时,Transformer架构的普及为多模态融合提供了关键支撑:它能将文本与图像统一映射为token与embedding空间,使“文本驱动图像生成”成为可能,极大提升了可控性与语义对齐能力。此外,CLIP等新型loss函数的引入,进一步增强了模型对语义关系的理解精度,例如支持“A在B之上”这类复杂语义指令的准确建模。这些技术进步层层叠加,最终推动生成式AI从实验室走向大规模商用场景。
现在是我觉得当时是这样子吧。那么那那段时间确实啊,那个因为generative model其实也是啊,也是一个比较有意思的方向。
所以说就是现在能火就是要得益于近十年来啊大家的不懈努力嘛,这个图像生成的效果一点点在往上推,一点往上推进啊,最后达到这样的效果啊应该是这样子。
投资视角:技术成熟催生AI原生平台浪潮
从投资角度看,AI热潮每4–5年一轮回,但本轮与以往最大差异在于:技术已真正逼近甚至超越人类水平的性能与质量,从而打开了大量高价值应用场景。过去,大型科技公司(如Apple、Microsoft)主导的AI应用多集中于基础功能层;而如今,技术成熟正催生一批真正意义上的“AI native platform”公司——它们并非依附于传统平台,而是以生成式AI为核心能力重构产品逻辑。这类公司大致可分为两类:一类是基于OpenAI等大模型进行微调与场景适配的轻量级应用层企业(如Copy.ai、Jasper);另一类则聚焦工业级复杂问题(如焊接机器人、建筑自动化、自动驾驶),需构建垂直领域专属模型。后者虽短期难见爆发,但长期具备百亿美元级潜力。投资人需根据时间 horizon 区分布局:短期看场景挖掘能力,长期看自动化与垂直系统集成深度。
我觉得两方面我都是啊比较看好,就看呃。什么样的 time horizon?近几年我觉得是这些小 use case 会会被 figure out。那啊,五到十年我觉得很这些 automation AI,很多很多公司会有一波非常非常多的 AI native 啊公司会出来。
你跑得最快的。其实是可以啊赚很多钱,其实可以赢的,因为做model公司它不会有那么多时间去做这些use case啊。
创业者视角:从技术抽象到信任构建的创业路径
作为亲历两轮AI热潮的创业者,蒋春指出,当前创业的核心挑战已从技术实现转向“如何将复杂技术转化为可信赖、可复用的产品语言”。他回忆2016年前后在自动驾驶领域创业时,虽技术领先,却很快发现核心能力易被复制——当OpenPose等基础模型普及后,差异化迅速消失。这促使他反思:未来创业的关键在于构建“技术—用户”之间的信任桥梁,而非单纯比拼模型参数或训练速度。当前生成式AI创业公司多属于第二类(基于大模型做场景落地),但真正的护城河在于:能否在特定垂直领域沉淀高质量数据闭环、形成不可逆的用户依赖,并通过持续反馈优化模型行为。例如,他早年在Uber的经历揭示了一个关键痛点:用户反馈与产品文档的割裂不仅造成沟通成本,更导致高价值数据流失——这正是生成式AI可介入并重构的环节。
从我的角度来看的话,它不仅仅丢失的是一个沟通的成本和一个时间成本,更是丢失了这个highly valuable数据。
从用户反馈到产品落地:生成式AI的实用化路径
拥有计算机与设计双重背景的创业者强调,应将复杂技术抽象为用户可理解、可信任的交互界面,这是技术落地的核心前提。他在Uber工作期间亲历了用户反馈收集、产品文档撰写与反馈闭环之间的低效与信息损耗,由此萌生了将用户反馈与产品需求规格自动关联的构想——即构建一个能双向注入事实依据的反馈-需求闭环系统。这一系统不仅为产品经理、工程师管理者带来即时效率提升,更从企业层面实现了多源数据的整合,释放AI在产品开发流程中的最大价值。
在实际产品打磨过程中,团队发现用户更迫切的需求并非复杂的长文本生成,而是自动归类、自动打标用户反馈等轻量级功能;而生成式AI带来的另一大价值在于自动生成个性化邮件,向反馈用户同步进展,从而增强用户与产品团队之间的信任连接。因此,生成式AI在产品管理中的应用,仍需聚焦于高度具体的use case,从短文本生成起步,逐步向高精度长文本演进。三个月的实践印证了这一渐进式路径的合理性。
假如我们能找到一个地方,把反馈和需求规格连接起来,并用事实来补充反馈、用反馈来修正规格,这将为产品经理、产品团队乃至工程管理者带来大量即时收益。
生成式AI在产品管理或产品开发中的应用,还是要像刚才两位说的一样,找一个非常非常细的use case,先从短文本开始,再慢慢过渡到生成长文本且高精度。
长文本生成的技术瓶颈与突破路径
当前主流模型(如Transformer架构)在生成长文本时面临上下文丢失、逻辑偏移甚至无限循环等结构性挑战。研究发现,仅靠原始Transformer难以维持长篇内容的连贯性与主题一致性。为此,团队提出了一套实用化解决方案:在prompt中显式注入历史文本摘要、角色设定、主题框架等上下文信息,从而引导模型生成更具连贯性的内容。在此基础上,进一步引入后处理重采样机制——例如生成20段候选文本后,通过排序筛选出最相关的一段作为下文输入,显著提升生成质量。
该方案基于OpenAI的GPT-3模型实现,目前已能稳定生成2000至7000词的英文连贯文本(如小说、故事),验证了在现有Transformer框架内优化长文本生成的可行性。尽管Transformer展现出极强的模态统一能力(可处理文本、图像、DNA序列等),但其在模拟人类结构化逻辑思维方面仍显不足。这引出一个关键问题:是否会在Transformer之上诞生新的模型架构,以实现更高级的逻辑推理与叙事连贯性?
你把上下文放进prompt之后,生成出来的文本就会好很多。
资本视角:生成式AI创业的胜负手
投资人指出,评估生成式AI初创公司需聚焦两大核心维度:是否真正解决用户痛点并愿为之付费,以及产品迭代速度是否远超 incumbents(在位企业)。许多项目虽技术先进,却沦为“玩具”——缺乏真实场景嵌入与付费意愿支撑。而真正被看好的案例(如Viscom AI)则能深度嵌入专业工作流(如汽车设计中实时上色),显著缩短创作周期,从而获得明确商业价值。
大模型的普及使Notion、Grammarly、抖音等已有用户基础的平台具备天然优势:可快速集成AI功能,低成本触达海量用户。这对纯AI创业公司构成挑战。然而, incumbent 的劣势在于组织惯性导致迭代缓慢,难以重构产品以适配AI新范式;而初创团队虽缺渠道与客户,却拥有“白纸优势”——能从零设计高度契合use case的产品形态。
因此,理想投资标的应兼具:强痛点、高付费意愿、快迭代能力。现实中常需在三者间权衡取舍,形成动态平衡。未来AI创业如同“大海颠簸”,机遇往往来自对技术拐点的敏锐捕捉与快速落地能力。
我们看的时候关注两个点:第一,回到本源,看看你做这个公司有没有真的去解决用户的问题;第二,speed of iteration——你做多快,产品做得多好。
技术演进:非涌现,而是渐进积累
生成式AI的“突然爆发”常被误读为涌现现象,实则不然——它是一系列技术逐步演进、叠加优化后的自然结果。以Stable Diffusion为例,其背后已有DALL·E、DALL·E V2等前期工作的铺垫:DALL·E虽能生成如“牛油果椅子”这样惊艳的单物体图像,却尚不能处理复杂场景;而后续版本逐步实现了场景生成与视频生成能力(如Make-A-Scene、Make-A-Video),才最终催生出Stable Diffusion。这一路径并非偶然,而是学术界长期探索的成果:NVIDIA的GAN模型、DeepMind的BigGAN等早期尝试,虽在生成逼真人脸或高分辨率图像上受限,却持续推动着图像生成质量的提升。技术演进本质上是渐进式、可预测的,直到商业界敏锐捕捉到其潜力,才引发广泛关注。
就比如说,就算今年年初,比如说那个 DALL-E,对吧?DALL-E V2,去年 DALL-E。DALL·E其实已经挺惊艳了……
所以真的没有 surprise,就是确实大家一直在不停的努力,慢慢慢,终于努力到入头了之后啊,被商业界的人发现了,哇,那么厉害啊!
Transformer:从学术突破到生态重构
Transformer模型虽常被视作“突发奇想”,实则源于2017年那篇奠基性论文——其核心突破在于参数量大幅减少(约5–10倍),同时性能显著提升。尽管初期存在长文本处理慢、计算复杂度呈平方级增长等瓶颈,但学术界已迅速认可其价值。真正引爆点在于它与自监督学习(self-supervised learning) 的结合:BERT的出现彻底改变了NLP的范式——此前各类任务(如问答、文本分类)需单独建模与标注;而BERT支持通用预训练+下游微调(fine-tuning),大幅降低开发门槛,引发业内震动。这一范式迁移不仅推动了Transformer的普及,也为后续多模态模型(如CLIP、DALL·E系列)的诞生奠定了基础。技术突破从来不是孤立事件,而是不同模块(如注意力机制、预训练策略、优化算法)长期协同演化的产物。
Bert 一出来之后,整个 NLP 啊的领域……把把这个场子砸掉了。
所以这个其实当时在业内也是很大的一个震动。啊,这个这个都是很重,这些东西都是都是联系的。
现实挑战:从生成到理解的鸿沟
当前生成式AI仍面临深层能力瓶颈:文本生成尚停留在表层连贯性,难以把握角色动机、叙事张力、情节逻辑等高阶要素;数学推理虽在解题效率上进步显著,但多依赖已有定理的搜索组合,缺乏自主构建新工具或发现新结构的能力。更关键的是,语义细微关联(如特定词汇在故事语境中的隐喻意义、角色间隐性互动)无法仅靠大数据拟合解决——这要求模型具备更强的上下文理解与常识推理能力。创业者亦面临现实困境:过度依赖人工提示词(prompt engineering)导致“本末倒置”——用户需提供详尽背景信息才能获得可用输出,反而削弱了AI的自动化价值。未来方向或在于:通过知识图谱、图神经网络等结构化信息融合,提升模型的个性化与场景适配能力,在数据规模与任务特异性之间寻找新平衡。
你要看,就是每个角色之间有没有动机啊,有没有故事,有没有高潮,有没有结尾啊……角色之间的互动是有有没有一个紧张感的……这都没有。
你数据多的话呢,你数据都很杂乱啊……最后有这样一个 trade off,嗯,没有办法,就是为特定场景打造一个非常强的模型。
场景适配与模型效率的权衡
在将生成式AI落地到具体业务场景时,一个核心困境在于数据规模与数据质量之间的 trade-off:场景越具体,可用数据越少,导致模型性能下降;而数据量大时,又往往来源杂乱、背景不一,难以统一建模。因此,为特定场景打造高性能模型极为困难。在此背景下,如何提升模型部署效率成为关键课题。有创业者指出,当前生成式AI若想实现商业化,必须将生成准确度提升至商用级水平,并显著提高系统稳定性。例如,某些语音合成与人脸视频生成公司已在某些场景(如演讲视频制作)中实现稳定商用,说明该路径具备可行性。
“针对生成式AI针对特定场景,把这个生成的准确度提高到商用级或者大家可以接受程度才能赚钱,稳定性要提高啊。”
“就算我需要很长的那个 prompt,那么现在没关系,是可以用人堆嘛,所以工厂还能开着,还是能用的。”
产品化路径:垂直深耕 vs 工具泛化
当前生成式AI创业公司面临一个根本性选择:是做通用工具,还是聚焦垂直领域?从实践来看,纯工具型产品(如图片生成)往往 retention 极差——用户仅使用一次,缺乏持续粘性,容易沦为“玩具”。反观成功案例,如 Interior Design AI(面向地产)、Automotive Design AI(面向车企)、Rosebud AI(替代 stock image),均通过深度嵌入垂直工作流实现高留存。此外,Jasper 等公司之所以能规模化,关键在于其生成内容能优化 SEO 算法,并整合社区教育、社交媒体发布、A/B测试等上下游服务,形成完整闭环。
“如果大家还记得的话,比如说很多年前,有一家叫 Prisma 的公司……但很快,大家会发现这个公司也就融了很多钱,然后也有很多用户,但很多也不 active 了。”
“工具的话就会变成,比如说你要什么转 image to PDF,那你就会网上找一下 image to PDF,这样子的话,对这些公司来说很难去建立 retention。”
成本结构与商业模式演进
从商业角度看,当前大模型调用成本仍高——例如 GPT-3 单次 API 调用平均成本约6美分,这对创业公司构成显著压力。若商业模式完全依赖 API 调用,盈利空间有限。因此,有创业者提出:下一代工具可能转向纯 consumption-based 定价(即按使用量收费),类似 Posthog 的开源模式:透明计算 API 成本,并加一定倍率收费。这种模式既降低用户门槛,也增强行业透明度。同时,边缘计算(edge computing) 的发展可能进一步摊薄算力成本。不过,巨头凭借资源可内置功能(如 Google Workspace 内嵌 AI 创作),对小公司构成威胁;但小公司仍有响应快、风险承受高、定位精准等优势——例如用户搜索“生成室内设计图”,更倾向选择垂直服务商,而非在大厂功能中寻找碎片化解决方案。
“我现在每天在头疼的事情……下一代甚至会产生一个新的一个 pricing model。”
“光脚的不怕穿鞋”——小公司面对合规风险时更具灵活性。”
成本与部署:从开源模型到轻量化推理
当前生成式AI创业公司面临的核心挑战之一是推理与服务成本过高。以开源模型为例,尽管模型本身免费开放,但真正能高效部署并稳定运行的公司仍属少数。例如,一个175B参数的开源大模型(如OPT)在推理时往往需要8块A100 GPU,单次调用成本极高。降低这一成本的关键路径包括:模型压缩(如量化至16位或8位)、推理加速算法(如清华提出的DPM Solver,将Stable Diffusion迭代次数从50步压缩至20–30步),以及硬件适配优化(在更便宜、更少的GPU上运行)。
“我可能用更便宜的 GPU,或者说用更少的 GPU,然后就可以做到这个 model。”
“甚至到最后,比如说几年之后,大家每个人自己有个 in house GPT,或者说就是能存在自己的电脑里面,自己靠这个不用靠那个啊,就是 Open AI 的服务,这都是有可能的。”
这一趋势若持续,将深刻重塑行业格局:API服务可能迅速同质化,而垂直领域解决方案提供商将成为最终赢家——他们不只提供模型,而是整合Prompt工程、A/B测试、性能评估等全链路能力,构建难以复制的护城河。
从通用模型到垂直落地:价值沉淀的关键路径
尽管大模型公司普遍追求“一个通用模型解决所有问题”,但实践表明,真正产生商业价值的,往往是垂直场景的深度适配。正如NLP热潮中最终胜出的并非NLP技术公司,而是像Salesforce这样将技术嵌入销售流程、提升真实业务效率的公司。生成式AI亦然:工业设计、室内装修、内容创作等明确use case最可能沉淀为可持续业务;而泛娱乐类应用(如AI头像生成)若能与社交平台深度结合,或催生新一代平台型产品(如“下一个TikTok”)。
此外,ML Infra与企业级工具(如RAG、Prompt管理、模型版本对比、A/B测试流)将成为关键基础设施。这些系统性能力虽不炫目,却极大降低开发者门槛,提升模型迭代效率——这正是许多初创公司“扣细节”的核心战场。未来赢家,将是那些不强调技术本身,而聚焦问题解决效率的团队。
“核心还是这个business value。”
长视频与3D生成:技术瓶颈与现实挑战
当前生成式AI在长视频与3D内容生成上仍处早期阶段。现有技术多依赖图像插值、局部补全(inpainting)等技巧生成几秒短视频,但缺乏叙事逻辑与一致性:无法支撑完整剧情、角色连贯性、分镜设计等高阶需求。即便生成“鸟飞虫走”这类基础动作视频,也需大量人工干预;一旦扩展至分钟级内容,技术瓶颈骤然凸显——这与小说生成面临的“逻辑连贯性”问题本质相同。
“你要再往前,就是几秒钟的视频你可以做,你几分钟的视频你没法做,几分钟视频你需要剧情了,你需要有一个故事……这个现在技术很难解决。”
因此,长视频生成不仅是算力问题,更是认知建模、世界知识整合与多模态协同的系统性挑战,需等待下一阶段技术突破才能实现质的飞跃。
长视频生成:逻辑与一致性的根本挑战
当前生成式AI在短视频甚至长视频生成上仍面临巨大瓶颈。核心难点不仅在于时长拉长本身,更在于剧情连贯性、逻辑一致性与上下文理解能力的缺失——这本质上与小说或故事生成面临的是同一类问题。无论是理解一部电影的精妙之处,还是让模型明白一段短视频为何能引发强烈情绪共鸣,都远超当前技术能力。嘉宾指出,人类水平的视频理解与生成能力,可能还需等待二十年甚至三十年以上;其前提在于我们对模型可解释性和工作机理有更深层的认知。当前神经网络模型在“理解”层面仍处于非常初级阶段,与人类相比,人类仅用十分之一甚至百分之一的数据量,就能实现更优表现,这凸显了现有模型的根本性局限。
“人可能真的数据量可能是只有十分之一或者百分之一,最后结果还是更好。”
“现在大家数据越来越多,那最终数据会用完的……因为毕竟没有那么多画家给你画图。”
数据瓶颈与模型发展的天花板
随着模型规模扩大与算力提升,数据枯竭已成为一个现实且紧迫的瓶颈。例如,扩散模型(diffusion model)已几乎穷尽了当前公开图像数据集,进一步提升性能变得异常困难——因为世界上的图像总量是有限的。这预示着:单纯依赖数据堆叠的“大模型路径”终将撞墙。未来的发展方向必须转向类人学习机制,即在极小数据量下实现高效泛化。尽管当前小样本学习(few-shot learning)在实验室中取得若干性能提升(如准确率提高2–3个百分点),但其实际应用价值仍存疑,尚未实现质的飞跃。因此,能否突破数据依赖、构建自监督与主动学习机制,将成为下一代AI能否突破瓶颈的关键。
“以前以为数据是无限的,确实数据当时是无限,但是现在数据越来越多,计算越来越强,数据就计算力可以很强,但是数据是不是撞上瓶颈不知道啊。”
商业化路径:垂直化、私有化与工具层机会
面对大模型 hype 的退潮,嘉宾认为,真正能沉淀下来的生成式AI产品将聚焦于三大方向:一是高度垂直化——在特定场景(如企业客服、定制化内容生成)中发挥模型极限性能;二是私有化部署——通过缩小训练数据规模、定制模型参数,满足隐私与合规要求(如声音/人像定制合成);三是MLOps 工具层——为垂直与私有化场景提供配套的模型训练、部署与运维工具。这些路径不仅规避了通用模型的局限性,也更贴近真实商业需求。未来一段时间,“小而精”的解决方案将比“大而全”的玩具式应用更具生命力,而行业真正飞跃则需等待下一轮模型架构的质变。
“它就比较容易商业化……按照企业或者个人需求定制出来的形象。”