通用智能的局限与私有数据的独特性
乔琳在演讲中提出,AI的未来发展将主要聚焦于专用智能(Specialized Intelligence)。这一概念与通用智能并行,其核心逻辑在于全球绝大多数数据并未被基础模型吸收。私有数据主要存在于应用产品或企业内部,且不会与他人共享。因此,前沿的AI生态实际上隐藏在这些企业和应用中。将私有数据转化为独特的智能代理是Fireworks一直追求的目标。这种专用性源于每家公司的独特存在理由:解决一个非常独特的、以不同方式解决的问题,并且解决得很好。这三个要素必须共存,否则公司就失去了存在的意义。Fireworks希望通过展示每家公司的独特性来体现专用智能的价值,这种独特性体现在产品及其独特的评估体系中。
专用智能指数:对抗训练数据饱和的基准测试
目前市场上存在许多公开的评估基准,但这些基准已经面临“训练数据饱和”的问题。这意味着模型使用了特定数据进行训练,虽然结果看似很好,但实际上毫无意义。专用智能指数(Specialized Intelligence Index)旨在聚合每个公司独特的基准测试,形成一个单一索引。这个指数的目的是为行业提供清晰的指南。每次发布新模型时,无论是OpenAI、Google的闭源模型还是开源模型,都需要定期反映其在专用智能层面的质量。这有助于整个行业真正看清新模型在特定专业领域性能提升的实际幅度。乔琳强调,构建这一指数是为了让所有人能够客观评估模型在垂直领域的真实表现,而非被通用的、已被训练数据污染的分数所误导。
AI基础设施的高成本与规模化陷阱
乔琳指出,AI业务与传统SaaS业务存在本质区别。在SaaS中,产品市场契合度(Product-Market Fit)与可扩展性基本是同义词,因为主要成本是人力、存储和CPU,而这些大多是廉价的商品。然而在AI领域,即使实现了产品市场契合度,也并不意味着可以规模化。原因是整个AI基础设施的成本非常高昂。许多小公司最终因扩张而破产,仅仅因为资金耗尽。如果增长速度加快十倍,它们会迅速烧完钱;若无法筹集下一轮融资,公司即告终结。这一成本问题对大公司同样严重。大公司的流量巨大,若向所有用户推出新功能,所需支付的成本是天文数字。这导致许多提案无法推进,创新受阻。成本已成为一个严重的瓶颈,是专用模型需要解决的主要问题之一。
供应链控制与“One”模型的效率优化
为了解决成本问题,Fireworks的模型旨在帮助客户将运营成本降低5到10倍。此外,控制供应链也是关键。使用闭源模型时,升级时间和流量配额往往不可控。如果客户需要十倍增长而提供商无法支持,就会被“扼住喉咙”。闭源模型厂商既做供应商又做产品商,这种既是Vendor又是Competitor的关系加剧了供应链风险。通过开源模型结合自有数据构建自己的模型,是控制供应链的有效方式。Fireworks发布的“One”模型基于开源基础,旨在让模型更智能且更具成本效益。其核心策略是减少推理所需的思考步骤。缩短思维链(Chain of Thought)两倍,同时保持效果不变。这意味着花费减半,但有效性维持原状。对于拥有长上下文需求的代理而言,这种高效且低成本的模式提供了巨大的服务优势。
解决长上下文遗忘与追求极致精简
在AI模型的开发中,处理复杂任务时往往需要数百甚至数千个步骤才能得出结论。如果模型的上下文窗口有限,它很容易在长链条推理中遗忘关键信息。解决这一痛点是提升模型能力的关键。同时,“精简”(concise)被视为另一项核心要求:如果模型能够快速解决问题,不仅能显著节省算力成本,还能大幅缩短响应时间。除了这两点,业界还存在许多其他共性需求。当发现这些共同痛点时,Fireworks选择将其推至模型层面进行统一解决,而非仅停留在应用层修补。这种策略建立在开源社区的基础之上,因为“开源社区的依赖在于相互迭代以产生最大影响”。如果封闭了迭代路径,就违背了开源的初衷。我们在其他开源模型的基础上进行持续迭代,通过开放协作来推动技术进步。
从代码编程到多领域知识工作的应用爆发
回顾去年,编码(coding)是唯一爆发的应用场景。但今年情况发生了显著变化,随着编程问题的基本解决,基于此基础衍生的知识工作者助手(knowledge worker assistants)大量涌现。乔琳指出,今年呈现出高度多样化的应用格局:“从医学领域的医生助手或患者问答,到生命科学中的药物发现、癌症治疗和临床试验数据缩减……再到客户支持、招聘、营销、销售以及网络安全”。在网络安全领域,许多公司正从检测到防御进行全面投资。虽然目前消费者应用(consumer applications)已初现端倪,但乔琳认为仍处于早期阶段,许多产品尚未完全打磨成熟。她非常乐观地预测明年将是大规模消费者AI的元年,因为当前市场仍在进行大量实验以验证是否契合用户口味及能否解决实际问题。
训练与推理的协同优化确保逻辑一致性
在竞争激烈的市场中,Fireworks专注于解决自身认定的核心问题。公司不仅定制模型,还深度定制化推理(inference)过程,并实现了训练与推理的协同设计与优化。这种架构的核心优势在于保证“位级等价”(bitwise equivalence),即输出结果在任何位置都不会发生偏差。乔琳强调这是逻辑上的必然要求:“例如,解决一个需要100步的任务,每一步可能有0.1%的偏差。这看似微小,但在100个步骤后累积可能变成10%的巨大误差,这是完全不可接受的。” Fireworks致力于消除这微小的偏差。我们在训练过程中同步进行大量的推理优化,从而确保精度的绝对一致性。
Nexus智能路由与组织结构的规模化挑战
在训练和推理平台之上,Fireworks推出了名为Nexus的智能路由器。面对市场上众多的闭源、开源及自定义模型,用户往往难以抉择。Nexus解决了这一导航难题:它自动根据用户需求将请求路由至最佳模型选项,无需用户手动管理复杂的组合。目前公司的三大核心产品即为:定制化训练推理平台、Nexus智能路由以及底层模型服务。 展望未来18个月,乔琳认为最大的挑战在于如何在不降低速度的前提下应对超线性增长的需求(super-linear demand)。这是一个组织架构问题:“我们整个层级非常扁平,不存在单一任务仅属于特定团队的情况”。为了实现端到端的责任制并维持高效运作,公司正从第一性原理出发重新思考组织结构。在小规模时这并非难题,但在快速扩张中保持高效仍是亟待解决的核心命题。
结论
视频论证表明,AI行业正从通用智能转向依赖私有数据的专用智能。尽管产品市场契合度已现,但高昂的基础设施成本构成规模化瓶颈,导致许多企业因扩张过快而破产。Fireworks通过“One”模型缩短思维链、结合Nexus智能路由及训练推理协同优化,旨在降低5-10倍运营成本并消除累积误差。其优势在于供应链自主与逻辑一致性,但长上下文处理及消费者应用成熟度仍待验证。开源协作是技术迭代基础,而应对超线性增长的组织架构重构则是当前核心挑战。