再访田渊栋:离开Meta后的新起点
从Meta离职后,前FAIR研究总监田渊栋一度成为硅谷各大AI公司和猎头争抢的对象,但他迅速敲定了下一步:加入新AI实验室Recursive Superintelligence(RSI)。这家由8位顶级AI研究员联合创办的明星neolab,在近期正式官宣了融资进展,融资金额高达6.5亿美元,估值达到46.5亿美元,显示出资本对这一新兴团队的高度认可。
本期视频播客,我们来到旧金山的RSI,与田渊栋进行半年之后的第二次对话。此次对话不仅回顾了他选择这条新路的初衷,更深入探讨了RSI所押注的未来方向,以及当前AI前沿模型厮杀中的路线之争与neolab生态的变化。AI是否会开始“研究AI”本身?前沿实验室的真正胜负手究竟是模型、数据,还是组织效率?这些核心问题构成了本次对话的主轴。
“从Meta离职之后,前FAIR研究总监田渊栋一度成了硅谷各大AI公司和猎头争抢的对象,但他很快就敲定了下一步:加入新AI实验室Recursive Superintelligence(RSI)。”
“最顶级的资本还是看人”:8位联合创始人的新赌注
RSI由8位顶级AI研究员联合创办,这种高规格的团队配置是其获得巨额融资的关键。资本在Neolab领域的投资逻辑正在发生转变,从单纯看数据规模转向看重核心人才团队的深度与协作能力。这8位联合创始人各自在AI领域拥有深厚的积累,他们的联合创业被视为对AI未来发展方向的一次集体押注。
田渊栋指出,“最顶级的资本还是看人”,这意味着在AI技术快速迭代的背景下,拥有顶尖研究能力和清晰愿景的团队更容易获得资源倾斜。RSI的成立并非偶然,而是基于对AI技术演进趋势的深刻洞察,旨在通过高效协作突破现有模型的性能瓶颈。
“这家由8位顶级AI研究员联合创办的明星neolab,也在不久前正式官宣了自己的融资进展——6.5亿美元融资,46.5亿美元估值。”
递归自我改进:押注AI自动化科研
RSI的核心技术路线之一是递归自我改进(Recursive Self-Improvement),即让AI系统能够自主地改进自身的代码、架构和训练数据。这一路线旨在实现AI自动化科研,减少人类在重复性科研工作中的参与度,从而加速科学发现的进程。
田渊栋详细解释了这一概念,认为未来的AI不仅需要具备强大的推理能力,还需要具备自我迭代的能力。“递归自我改进”不仅仅是技术的升级,更是科研范式的转变,从人类主导转向人机协作甚至AI主导。RSI正在构建一个能够不断自我优化的AI系统,以期在基础科学领域取得突破性进展。
“递归自我改进:押注AI自动化科研”
当AI开始研究AI:可解释性为什么更重要
随着AI开始研究AI本身,可解释性(Explainability)成为了一个至关重要的议题。田渊栋强调,如果AI系统能够自主改进,那么人类必须能够理解其改进的逻辑和过程,否则将带来巨大的安全风险。
在AI自主性增强的背景下,黑盒模型的风险日益凸显,可解释性研究成为确保AI安全可控的关键。RSI在研发过程中高度重视模型的可解释性,试图通过技术手段揭示AI内部的决策机制,确保其行为符合人类预期。
“当AI开始研究AI:可解释性为什么更重要”
人类洞察力VS AI自主性:新的科研协作模式
在AI自主性不断提升的今天,人类洞察力和AI自主性之间的平衡成为了新的科研协作模式的核心。田渊栋认为,人类的优势在于直觉、创造力和对复杂情境的理解,而AI的优势在于处理海量数据和执行复杂计算。
未来的科研将是人机协作的深化,人类负责提出假设和方向,AI负责验证和优化。这种协作模式不仅提高了科研效率,还拓展了人类认知的边界。RSI正在探索这种新型协作模式,以期在基础科学领域取得更多突破。
“人类洞察力VS AI自主性:新的科研协作模式”
“语言不是思考本体”:Coconut与新推理路线
田渊栋提出了“语言不是思考本体”的观点,认为当前的LLM主要基于语言模式进行推理,但这并非智能的全部。RSI正在探索新的推理路线,如Coconut项目,旨在超越语言限制,实现更本质的逻辑推理能力。
这一路线强调从符号逻辑和结构化数据中汲取灵感,构建更强大的推理引擎。通过结合语言模型和逻辑推理,RSI希望开发出能够处理更复杂任务的人工智能系统。
“语言不是思考本体:Coconut与新推理路线”
顿悟与泛化:重新理解预训练
在预训练阶段,“顿悟”与“泛化”能力是衡量模型智能水平的重要指标。田渊栋指出,当前的预训练模型虽然在大规模数据上表现优异,但在处理未见过的复杂任务时,往往缺乏真正的泛化能力。
RSI正在研究如何通过改进预训练策略,提升模型的顿悟能力,使其能够像人类一样,在少量样本下迅速掌握新技能。这一研究方向对于提升AI的通用智能水平具有重要意义。
“顿悟与泛化:重新理解预训练”
商业化思考:RSI如何规划研发路线
尽管RSI专注于前沿技术研究,但商业化思考也是其研发路线规划中不可或缺的一部分。田渊栋表示,RSI正在探索技术落地的多种可能性,包括基础科学发现、药物研发和材料科学等领域。
商业化并非RSI的唯一目标,但可持续的资金支持是维持长期研发的关键。RSI通过与产业界合作,将研究成果转化为实际应用,同时也为投资者带来回报。
“商业化思考:RSI如何规划研发路线”
为什么是“现在”:做RSI最好的时机
田渊栋认为,当前是创办RSI的最佳时机,因为AI技术正处于从量变到质变的临界点。算力成本的下降、数据积累的增加以及算法的突破,为AI的快速发展提供了坚实基础。
“现在”不仅意味着技术条件的成熟,更意味着市场需求的爆发。RSI抓住这一窗口期,旨在通过技术创新引领AI行业的下一轮变革。
“为什么是‘现在’:做RSI最好的时机”
下一代AI实验室:SSI、AMI Labs、Ineffable Intelligence
在Neolab生态中,SSI、AMI Labs和Ineffable Intelligence等新兴实验室正在崛起,它们与RSI共同构成了下一代AI研究的力量。这些实验室各具特色,有的在特定领域深耕,有的则致力于通用人工智能的研究。
这种多元化的生态格局有助于推动AI技术的全面发展,避免单一路线的垄断。RSI与其他实验室之间的竞争与合作,将共同塑造AI的未来。
“下一代AI实验室:SSI、AMI Labs、Ineffable Intelligence”
预训练VS强化学习:能力提升的两条路径
在AI能力提升的路径上,预训练和强化学习是两条主要路线。田渊栋分析道,预训练侧重于从海量数据中学习通用知识,而强化学习则侧重于通过交互和环境反馈来提升特定任务的性能。
两者并非对立,而是互补的。RSI正在探索如何将两者有机结合,以实现更强大的智能系统。通过预训练提供基础能力,再通过强化学习进行精细化调整,是提升AI性能的有效策略。
“预训练VS强化学习:能力提升的两条路径”
数据还能怎么往前走:合成数据与连续学习
随着真实数据的枯竭,合成数据(Synthetic Data)和连续学习(Continual Learning)成为了数据获取的新方向。田渊栋指出,合成数据可以通过AI生成,模拟各种复杂场景,为模型训练提供丰富素材。
连续学习则使模型能够在不遗忘旧知识的前提下,不断吸收新知识。RSI正在深入研究这两项技术,以期解决数据瓶颈问题,提升模型的适应性和鲁棒性。
“数据还能怎么往前走:合成数据与连续学习”
大公司 VS 小公司:Neolab的挑战与护城河
在Neolab领域,小公司面临着与大公司竞争的巨大挑战,但也拥有灵活性和创新性的优势。田渊栋认为,Neolab的护城河在于其独特的技术路线、高效的组织结构和顶尖的人才团队。
大公司虽然拥有资源和数据优势,但在决策速度和创新能力上往往不如小公司。RSI通过保持敏捷性和专注前沿技术,试图在激烈的竞争中脱颖而出。
“大公司 VS 小公司:Neolab的挑战与护城河”
人才争夺战:RSI想招什么样的人
RSI在人才争夺战中,更看重候选人的研究潜力、创新思维和对AI未来的热情。田渊栋表示,RSI希望吸引那些愿意挑战现有边界、敢于探索未知领域的顶尖人才。
人才是Neolab的核心资产,RSI通过提供优越的研究环境和自由创新的氛围,来吸引和留住优秀人才。这种人才策略是RSI保持技术领先的关键。
“人才争夺战:RSI想招什么样的人”
Frontier Lab大乱斗:前沿模型竞争与下一步
当前,前沿实验室之间的竞争日益激烈,模型性能的微小提升都可能带来市场格局的变化。田渊栋分析了当前竞争的态势,认为未来的竞争将不仅仅是模型参数的比拼,更是算法创新、数据质量和组织效率的综合较量。
RSI将通过持续的技术创新和高效的团队协作,在竞争中保持领先地位。同时,RSI也在关注其他实验室的动态,寻求合作与共赢的机会。
“Frontier Lab大乱斗:前沿模型竞争与下一步”
Meta争议与就业冲击:AI时代的职业变化
田渊栋以Meta为例,揭示了AI转型对传统就业结构的冲击。他指出,一些高薪工程师被转岗为数据标注员,这引发了内部的争议和不满。
AI时代的职业变化是不可避免的,但如何平衡技术进步与员工权益,是企业面临的重要课题。田渊栋认为,企业需要重新定义岗位价值,为员工提供新的技能培训和职业发展空间。
“Meta争议与就业冲击:AI时代的职业变化”
xAI:前沿大模型之争其实是组织架构之争
田渊栋进一步指出,前沿大模型之争的本质,其实是组织架构之争。不同的组织模式决定了研发效率和创新速度,高效的组织架构能够更好地激发人才的创造力。
RSI采用的扁平化、协作型的组织架构,旨在最大化团队的创新潜力。通过优化组织结构,RSI希望在激烈的竞争中占据优势。
“xAI:前沿大模型之争其实是组织架构之争”
职场“蒸馏”与当代生存法则
面对AI对职场的冲击,田渊栋提出了“职场蒸馏”的概念,即大公司通过AI技术不断压缩人力成本,导致普通人的职业位置越来越不稳定。他用了一个形象的比喻:未来如果总想着在大厂之间跳来跳去,可能就像一条不断跳出鱼缸的鱼,但水却在越来越少。
最终,你得变成一个“四维生物”,才能活下来。这意味着个体需要具备多维度的能力,如跨学科知识、创新思维和适应能力,以应对不确定的未来。在AI时代,找到个人意义,不被时代推成一颗螺丝钉,是每个人都需要思考的问题。
“对于当前大公司加速“蒸馏”员工、普通人的职业位置越来越不稳定这一现实问题,田渊栋用了一个很形象的比喻:未来如果总想着在大厂之间跳来跳去,可能就像一条不断跳出鱼缸的鱼,但水却在越来越少。最终,你得变成一个“四维生物”,才能活下来。”
彩蛋:office tour|46.5亿美元估值的Neolab长啥样?
视频最后,观众跟随镜头参观了RSI的办公室。46.5亿美元估值的Neolab拥有现代化的办公环境,开放式的设计促进了团队成员之间的交流与合作。
办公室内配备了先进的计算设备和舒适的休息区,体现了RSI对员工福祉和工作效率的重视。这次参观让观众直观感受到了RSI作为顶尖AI实验室的专业氛围和创新活力。
“彩蛋:office tour|46.5亿美元估值的Neolab长啥样?”