盛颖的学术初心与迷茫探索
盛颖,作为xAI前推理团队负责人、开源推理引擎SGLang的发起人以及RadixArk的联合创始人兼CEO,在AI基础设施(AI Infra)领域扮演着核心角色。她曾梦想成为一名数学家,沉浸在一个确定、纯粹且仿佛“与世界无关”的世界里。然而,从哥伦比亚大学到斯坦福大学的求学经历,以及从形式化验证转向AI Infra的研究路径,并非外界所见的连续发表顶级期刊论文的高光时刻。背后隐藏着寻找方向、迷茫、停滞、低谷和重新出发的曲折过程。她逐渐意识到,自己无法勉强去做一件不感兴趣的事情,只有当真正被一个问题吸引时,她才能进入高度专注的状态,并将其做到极致。
“她曾经想成为一个数学家,沉浸在一个确定、纯粹、仿佛‘与世界无关’的世界里。”
这种对内在兴趣的坚持,最终引导她走向了SGLang这一集大成之作。SGLang从一个学术项目成长为面向真实生产环境的开源推理引擎,不仅推动了技术发展,也将盛颖从纯粹的研究者带入了更复杂的工程、组织与产业世界。这段经历标志着她从“世界与我无关”的心态,转变为“想要构建那个跟强力AI共存、且人类不会输的未来”的责任感。她所在乎的不再是单纯的“making impact”(产生影响),而是那些她认为正确的事情最终是否发生。
早期经历:从纽约到硅谷的价值观塑造
在职业生涯早期,盛颖经历了从纽约到硅谷的转变,这一过程伴随着对数学之美的追求以及对现实世界的重新认知。在纽约期间,她面临着违约金等现实压力,但内心依然向往数学的纯粹性。然而,随着进入学术界和工业界,她发现“世界又与我有关了”。这一转变并非一蹴而就,而是通过一系列关键的职业节点逐步实现的。在谷歌实习期间,她参与了最早的“AI for code”项目,这让她开始接触代码生成与AI结合的前沿领域,为后续的技术积累奠定了基础。
“从哥大到斯坦福,从形式化验证到 AI Infra,盛颖一路经历的并不是外界看到的连续发顶刊的高光。”
随后,在Databricks的工作经历对她产生了深远影响。在那里,她遇到了人生导师Ion Stoica,并深受其“making impact”价值观的熏陶。Ion Stoica不仅是一位技术领袖,更是一位能够引导年轻人思考技术社会价值的导师。这段经历让盛颖开始思考技术如何真正落地并产生实际影响,而不仅仅是停留在理论层面。她开始意识到,只有真正被一个问题吸引,她才能进入高度专注的状态,这种专注力成为她后续在xAI和开源社区中取得成就的关键因素。
xAI时期:支持、自由与生产级系统的构建
加入xAI是盛颖职业生涯的一个重要转折点。在xAI,她获得了难得的“support”和“freedom”,这构成了她职业生涯中美好的v1.0时代。作为推理团队负责人,她参与了生产级推理系统的搭建工作。这一时期,她不再仅仅关注学术理论,而是直面真实世界中的工程挑战。xAI提供的资源和支持,让她能够将之前的学术积累转化为实际的生产力。然而,随着SGLang社区的迅速扩张,仅靠开发者在业余时间维护,已经无法支撑项目继续向前发展。这种“两个月也等不了”的紧迫感,促使她做出了离开xAI、创立RadixArk的决定。
“在早期的xAI,她获得了难得同时存在的‘support’和‘freedom’,参与搭建生产级推理系统。”
在xAI期间,盛颖深入参与了推理引擎的核心开发。她发现,AI Infra不仅仅是工具,更是一种产品,需要有‘美感’。这种对基础设施美感的追求,体现在代码的优雅、架构的清晰以及用户体验的流畅上。她试图将数学中的严谨与工程中的实用结合起来,创造出既高效又易于维护的系统。然而,随着社区规模的扩大,开源项目的维护成本急剧上升。盛颖意识到,仅靠开发者在业余时间维护,已经无法支撑项目继续向前,这迫使她必须寻找一种可持续的模式来支持SGLang的发展。
RadixArk的创立与Two Sigma的启示
为了确保持续支持SGLang的发展,盛颖创立了RadixArk。这一决定并非轻易做出,而是基于对开源生态可持续性的深刻思考。在创立RadixArk之前,她曾考察过Two Sigma等“有组织的公司”的运营模式。Two Sigma展示了“有组织的公司”应有的样子,即通过结构化的管理和资源投入,确保持续的技术创新和产出。这种模式让盛颖看到了开源项目商业化或半商业化的可能性,即通过建立专门的公司实体,为开源项目提供稳定的资金和人力支持。
“为了让这件事真正走下去,她选择离开xAI,创立RadixArk。”
RadixArk的创立标志着盛颖从纯粹的技术研究者向技术创业者的转变。她不再仅仅关注技术本身,而是开始思考如何构建一个能够长期支持技术发展的生态系统。在这一过程中,她借鉴了Two Sigma的经验,强调组织化和可持续性的重要性。她认为,开源项目不能仅仅依赖志愿者的热情,而需要建立一种能够自我造血或获得外部稳定支持的机制。这种转变不仅影响了SGLang的发展路径,也影响了她对整个AI Infra领域的看法。
SGLang:AI Infra的浪漫与开源平权
SGLang不仅仅是一个推理引擎,更是盛颖对“AI Infra是浪漫的”这一理念的实践。她将AI Infra描述为一种“浪漫的关系”,强调其作为产品本身需要具备“美感”。这种美感体现在系统的架构设计、代码的可读性以及用户的使用体验上。SGLang的开源策略也体现了她对“平等、平权”的追求。她希望通过开源,让更多的开发者和研究者能够参与到AI Infra的建设中,共同推动技术的发展。
“SGLang,是这条研究路径的集大成者。它从一个学术项目成长为面向真实生产环境的开源推理引擎。”
在SGLang的发展过程中,盛颖始终坚持“开源、平权”的理念。她认为,AI技术的发展不应该被少数巨头垄断,而应该通过开源的方式,让所有人都能受益。这种理念也体现在她与LMSYS(Large Model System Organization)的合作中。LMSYS致力于推动大模型的平等访问和评估,盛颖认为“她赢了,不需要被解释”,这体现了她对自身技术实力的自信,以及对开源社区力量的信任。她相信,世间的美好是存在的,而开源正是实现这种美好的重要途径。
硅谷生态与个人成长:从对抗到顺应
在硅谷的多年经历,让盛颖逐渐理解了“世间的美好是存在的”。从Sand Hill Road的套路与规则,到开源生态的滋养,她学会了如何在复杂的商业环境中保持初心。她不再试图对抗自己的天性,而是选择顺应它。她意识到,只有真正被一个问题吸引,她才能进入高度专注的状态,这种专注力是她最大的优势。通过SGLang和RadixArk,她不仅实现了个人价值的最大化,也为AI Infra领域做出了重要贡献。她的故事,是一个关于寻找方向、迷茫、低谷和重新出发的故事,也是一个关于如何构建跟强力AI共存、且人类不会输的未来的故事。
“她在乎的不是‘making impact’,而是那些她认为正确的事情,最终有没有发生。”
盛颖的经历表明,在快速变化的科技行业中,坚持内在兴趣和顺应个人天性是取得成功的关键。她通过SGLang和RadixArk,将个人的技术理想转化为实际的社会价值。她的故事激励着更多的年轻开发者,去追求自己真正热爱的事物,并在这一过程中找到属于自己的位置。她相信,通过开源和平权,我们可以构建一个更加公平和美好的AI未来。