Flint:开源本地编码模型的突破
Recursive 公司近期发布了其首款模型 Flint,这是一款完全开源且可本地下载的最快编码模型。Richard Socher 指出,Flint 在性能上优于该类别中的其他所有模型,而其中绝大多数来自中国公司。作为首批处于前沿甚至超越前沿的美国制造开源模型,Flint 标志着公司在“交付习惯”上的重要一步。尽管初创公司通常耗时较长才能推出产品,但 Recursive 利用AI 辅助开发和一支虽小却极强的 AI 研究团队,大幅缩短了研发周期。Socher 本人也深度参与了大量工作,体现了 AI 在加速模型迭代中的核心作用。
“尤里卡机器”:AI 科学家的自动进化社区
Recursive 的核心创新在于构建所谓的“尤里卡机器”(Eureka Machine),这是一个专注于 AI 研究的自动化系统。该系统内部包含一个AI 科学家社区,它们以开放-ended(open-ended)的方式构思、实施并验证想法。这种“开放性”灵感来源于生物、文化和技术的进化论,旨在组合不同领域的有趣想法。系统允许某些进化分支持续运行一段时间,当产生新颖的想法时再进行重组。在这种机制下,AI 几乎参与了模型开发的每一个环节。Socher 强调:“我们几乎每个方面都让 AI 帮助我们提出新想法、实施它们,然后验证它们。”他认为这是其他公司尚未能自动化到如此程度的能力。
创新三阶段:构思、实施与验证的难易辨析
在递归自我改进的过程中,不同阶段的自动化难度存在显著差异。目前业界共识最高的是实施阶段,即开发者利用 AI 将想法转化为代码。然而,关于如何让 AI 构思出真正新颖的想法,争议最大且难度最高。此外,“真实验证”也是一个非平凡的任务,常被忽视但极具复杂性。随着模型智能提升,它们倾向于根据提示词的“字面意思”而非“潜在意图”来解决问题。Socher 团队认为,他们在处理这些深层语义和验证逻辑上取得了更好的进展,从而克服了传统 AI 在理解人类真实意图上的局限性。
组合空间与直觉:AI 如何超越人类构思能力
要让 AI 在构思层面媲美顶尖人类研究者,关键在于理解现有概念的巨大组合空间。Socher 指出,物理、化学、生物、计算机科学及复杂性理论等领域的概念结合产生了海量的优化可能性。这类似于国际象棋,由于组合数量过于庞大,不能盲目尝试,必须建立直觉以判断哪些概念组合最具可行性。目前这一空间仍被严重低估。真正的突破可能来自完全新概念,但即使是人类研究者也鲜少能做到;许多创新只是现有概念的增量步骤。例如 Transformer 的标题“Attention Is All You Need”并非因为注意力机制是全新发明,而是洞察到无需循环神经网络层。这种“删除旧概念”以简化并增加通用性的做法,本身就是一种创新。Socher 坚信 AI 在构思能力上正不断进步。
开放-ended 探索:从微波炉发明看跨领域组合
Socher 进一步阐述了“开放性”研究的重要性,认为直接追求目标往往限制了创造性思维。他以微波炉的发明为例:如果只专注于改进明火加热速度,可能只会想到加压等技术;但微波炉的诞生源于对无线电波的研究。研究人员在实验中发现口袋里的巧克力因微波而融化,从而将无线电技术与加热概念结合。跨领域的意外发现与重组是创新的关键。Recursive 借鉴了早期关于“达尔文网格机”(Darwin Grid Machine)的研究,该论文的五位作者中有四位来自 Recursive。在该研究中,代理(agents)被要求实现自身下一个版本,从而观察到性能随迭代提升的曲线。这种通过跨学科组合和代理自我进化来探索未知领域的策略,是 Recursive 区别于其他实验室的核心方向。
开放进化与彩虹团队:超越固定基准的对抗训练
在人工智能研究的历史脉络中,开放-endedness(开放性) 是一个长期被探索的核心概念。早在 Andrej Karpathy 的 Auto Research Project 使其普及之前,相关理念已在 Darin Girdle machine 等早期论文中初现端倪。作为 Founding Team,团队成员如 Jeff Clune 和 Tim Rockesell 已在该领域深耕数十年。以提升大语言模型(LLM)安全性为例,传统方法通常依赖人类定义基准数据集来测试提示注入攻击等漏洞。然而,这种静态评估存在局限:当模型在特定基准上达到 100% 的正确防御率时,可能仅意味着它适应了已知攻击模式。
相比之下,开放进化方法引入了动态对抗机制。Tim Rockesell 及其在 Google DeepMind 的团队提出了 “彩虹团队”(Rainbow Teaming)概念。该方法的核心在于让一个 LLM 攻击另一个 LLM。一旦攻击者模型找到漏洞,防御方即通过“接种”(inoculation)进行强化,随后再次发起攻击。这种机制使得攻击者模型与防御者模型能够共同进化(co-evolve)。
"once it figured out how to do the attack, uh you then inoculate it and then you ask it again. And so now you basically can co-evolve an attacker LM with a defender LM"
这种通过创造特定环境并允许 AI 根据奖励信号共同进化的方式,能产生超出人类直接预期的有趣结果。Richard Socher 认为,相较于单纯追逐精确目标的纯强化学习(RL),这种模拟 AI科学家社区 的“尤里卡机器”模式,是更长远且有效的模型构建路径。
创造性任务与递归自我改进的必要性
现有 AI 模型在创意写作等难以形式化验证的任务上存在短板,因为这类任务依赖主观品味而非明确的数学或代码逻辑。对于此类不可验证的任务(unverifiable tasks),递归自我改进和开放系统展现出独特优势。Socher 指出,创意写作本质上无法定义唯一的“黄金标准”,否则作品将失去创造性。因此,共同进化系统(co-evolve a system) 比寻找固定标准更为有效。
目前,团队将重点放在编码能力上,因为“今年只有 AI 能编写代码”,而代码是自我改进的关键载体。然而,开放系统对未来处理创意、战略规划等复杂任务同样至关重要。递归自我改进(recursive self-improvement) 被视为解决这些长期战略规划和创造性问题的核心手段,它允许模型在不可验证的领域中通过迭代优化提升表现。
监管悖论:禁止自我改进需极权监控
针对 Anthropic 和 OpenAI 等公司提出的“在确保安全前不进行递归自我改进”的观点,Socher 持批判态度。他认为,如果 AI 持续违法应减速的是违规者,而非全行业停滞。禁止递归自我改进在技术上和伦理上均不可行。
首先,最基础的自我改进形式——如通过提示词更新记忆或优化本地运行的小模型——极易实现且成本极低。若要全面禁止此类行为,政府必须建立前所未有的极权监控国家(totalitarian surveillance state) 和 “思想警察”(thought police),以监视每个本地模型用户的微小改进行为。这种监控带来的社会代价远超 AI 潜在风险。
"I also think that to outlaw recursive self-improvement would require a totalitarian surveillance state the likes of which we've never seen."
Socher 主张,正如 Linux 和加密技术一样,禁止智能本身是不合理的。监管应针对 AI 的应用(applications)而非智能本体。他呼吁政策制定者摒弃“人工”监管的思维定式,理性区分对技术的合理规范与对智能发展的无理压制。
智能本身不应被监管,应用落地需严格合规
在讨论人工智能的治理时,必须区分“智能”与“应用”。法律体系的设计初衷是惩罚实际发生的犯罪行为,而非基于潜在能力进行预防性拘禁。如果因为某人极其聪明且可能实施谋杀就将其预先行刑,这违背了法治精神。同理,我们不应在抽象层面监管“智能”本身,而应针对具体的AI应用实施严格的测试与认证。例如,自动驾驶汽车必须经过全面的路测与安全评估才能上路;由AI生成的药物需接受FDA(美国食品药品监督管理局)的严格审查,确保其通过标准的临床试验流程;即便是AI辅助的外科手术机器人,在应用于人类大脑之前也必须经过极度谨慎的验证。这种基于应用场景而非智力本身的监管逻辑,才是应对AI风险的正确路径。
行业风向转变:从学术探索到资本逐利
Richard Socher回顾了过去二十年的AI发展历程,指出该领域已从一项旨在理解人类独特智能本质的严肃智力探索,转变为充满投机色彩的资本游戏。早期研究者关注统计模式识别、机器学习及AGI(通用人工智能)的基础理论,试图通过生物学视角解析智能。然而,随着ChatGPT等技术的爆发,大量新入局者带着短期逐利的心态涌入。正如Socher所言:“人们三年前想在加密货币中赚钱,现在则试图在AI领域复制这一路径。”尽管这种浮躁风气令人担忧,但积极的一面是,多年深耕的研究终于迎来了应用层面的大规模落地。Socher个人也受益于这一趋势,他将那些极其枯燥且重复的任务外包给AI处理,从而提升了个人效率。这种从理论到实用的转化,标志着行业进入了一个新的成熟阶段。
历史争议:统一模型曾被视作“荒谬”想法
在2000年代初期,Socher便持有自上而下的统一模型愿景,即试图用一个神经网络解决所有自然语言处理(NLP)任务。然而,这一超前理念在当时遭到了学术界的强烈抵制。他回忆道:“每次我尝试发表关于统一更多任务的论文时,都很难被接受。”以他提出的“Bronze Engineering”(即通过提示词让单一模型执行情感分析、摘要生成或翻译等不同任务)为例,该论文名为《DecaNLP》。当时审稿人认为这是一个“荒谬至极的想法”(ridiculously terrible idea),因为传统观点认为每个任务都需要专门的模型。尽管论文最初被拒,但Alec Radford、Ilia等先驱者引用并推广了这一理念。最终,统一模型的思想被早期GPT论文采纳并产生深远影响。如今看来,通过提示词引导单一模型完成多任务已成为常识,“就像呼吸空气一样自然”,但在当时,这却是极具反直觉且难以被主流学界认可的创新。
长期乐观与短期阵痛:技术演进的必然规律
面对AI带来的社会冲击,Socher持长期乐观态度。他指出,每一项颠覆性技术在初期都会遭遇道德恐慌与社会抵制。回顾历史,漫画书、小说、电子游戏乃至互联网和手机都曾引发类似的道德 outcry(抗议声浪)。然而,随着时间的推移,社会逐渐适应并接受了这些技术,甚至将其纳入教育体系的核心部分。Socher认为:“最终人们会调整心态,就像我们绝不会希望回到没有互联网或漫画书的时代一样。”虽然短期内会有推回和争议,但长期来看,AI将像过去的技术革命一样,从被质疑的对象转变为社会基础设施的一部分。教育体系也将随之进行大规模更新以适应这一变化,尽管具体的调整路径仍需时间探索。
结论
Flint模型证实了AI辅助开发可大幅缩短研发周期,使美国开源编码模型在性能上超越多数中国竞品。其核心优势在于“尤里卡机器”通过AI科学家社区实现构思、实施与验证的自动化,尤其在跨领域概念组合(如微波炉发明案例)和对抗性共同进化(彩虹团队机制)上展现出超越人类直觉的创新潜力。递归自我改进是解决创意写作等不可验证任务的关键,而禁止该技术在伦理与监控成本上均不可行。监管应聚焦应用安全而非智能本体,尽管行业短期存在投机泡沫,但统一模型理念已获证实,AI正从学术探索转化为社会基础设施。