AI能力的两极叙事与核心矛盾

JEV模型创始人兼CEO迪奥戈·阿尔梅达（Diogo Almeida）通过两场技术分享，深入剖析了当前人工智能领域存在的巨大认知鸿沟。他指出，业界目前存在两种极端的叙事：一派认为AI发展得好得不真实，基准测试不断突破人类水平；另一派则认为AI差得要命，是个泡沫，未创造真实价值。这种矛盾体现在同一个模型上：AI能解开复杂的数学难题，却在简单的客服决策中需要人工介入。阿尔梅达认为，这种反差并非因为AI能力不足，而是源于优化目标的错位。主流叙事往往低估了AI的潜力，却高估了其当前落地的可靠性。

“一派认为AI发展得不只是好，而是好得疯狂……另一派则认为AI不只是差，而是差得要命。”

这种两极分化的根源在于对“人在环中”与“自动化”任务的混淆。阿尔梅达观察到，那些AI表现卓越的任务，本质上都是辅助人类的工作；而那些看似简单、AI却搞不定的任务，恰恰是需要完全自动化的场景。例如，Claude Code等编程助手的目标不是让代码绝对正确运行，而是取悦在环中的人类用户。这种设计导致AI在处理需要高可靠性的自动化决策时显得力不从心，从而引发了公众对AI能力的质疑。

辅助与自动化的分水岭：人在环中的陷阱

阿尔梅达提出了一个关键区分：辅助任务与自动化任务。在辅助场景中，AI的目标是优化人类偏好，让用户满意；而在自动化场景中，目标是将人移除，让系统在后台默默运行。目前基于RLHF（基于人类反馈的强化学习）的大语言模型，在辅助任务上表现非凡，但在自动化任务上几乎无法胜任。这是因为RLHF优化的核心是人类偏好而非事实正确性。当一个模型被训练去迎合人类的喜好时，它倾向于给出听起来合理、令人愉悦的回答，即使这些回答在事实或逻辑上是错误的。

“左边那些看起来很厉害的能力，本质上目标就是取悦在环中的人……右边那些看起来简单得多的任务，目标恰恰相反，是把人踢出去。”

这种机制导致了一个严重的后果：过度承诺成为了一种特性，而非Bug。在客服场景中，AI可以将用户丢进文档海洋中自行查找答案，因为成本转嫁给了用户；但在企业决策场景中，如果让AI做出有代价的错误判断，损失将由企业承担。因此，阿尔梅达强调了一条铁律：不要用AI做对你业务有代价的决策。目前大多数所谓的“智能体”，包括编程智能体，实际上仍然是辅助工具，因为人类依然通过版本控制等手段在环中兜底。如果没有这种人工干预，AI无法被信任去执行有风险的自动化任务。

RLHF的技术代价：模式丢弃与可靠性崩塌

从技术底层来看，RLHF带来了一个被称为“模式丢弃”（mode dropping）的副作用。传统机器学习随着精确度提升，可用性会飙升；而大语言模型在RLHF优化下，呈现出一种“领域的斯德哥尔摩综合征”：人们开始接受其不可预测性，将其视为类人而非软件。RLHF类似于生成对抗网络（GAN），当面对多种可能性时，它会倾向于选择最安全、看起来最合理的答案，从而丢弃那些可能正确但不够“主流”的模式。这导致模型输出总是看似正确，实则充满隐患。在长序列的自动化任务中，这种微小的错误概率会累积，导致整体可靠性崩塌。

“RLHF是跟魔鬼做的不可撤销的交易……因为它是一种特性，而不是缺陷。”

阿尔梅达引用杨立昆（Yann LeCun）的观点指出，虽然单轮对话中模型表现稳定，但在长序列自动化场景中，错误率会指数级下降。他展示了一个令人震惊的实验结果：经过正确优化的GPT-2级别小模型，在指令遵循任务上完全碾压了当时最强的GPT-3 175B大模型。这证明了任务定义和优化的重要性远超单纯的算力堆砌。GPT-3之所以表现不佳，是因为其优化方向摇摆不定；而小模型因为任务明确、数据精准，反而取得了更好的效果。这一案例打破了“缩放定律”即算力决定一切的迷思。

数据与任务定义：比算力更关键的变量

基于上述观察，阿尔梅达重新解读了Rich Sutton的“苦涩教训”，提出数据比算力重要得多，而做对任务比数据又重要得多。缩放定律之所以看似成立，是因为在预训练阶段（如互联网文本）或简单强化学习实验中，数据是算力的函数。但在实际应用中，数据的性质和任务的定义才是决定模型性能的关键。他以Anthropic的崛起为例，指出OpenAI在优化方向上摇摆（聊天、科学推理、代码），而Anthropic拥有更清晰的优化目标，从而在同等算力下实现了追赶。这说明“你优化什么就得到什么”是机器学习的核心逻辑。

“缩放定律之所以看起来像是算力比算法重要，是因为在某些领域数据本来就是现成的……一旦走出这些场景，这个解释就不成立了。”

阿尔梅达还批评了主流实验室对Flan等开源指令微调数据的盲目崇拜，指出这些数据的最优使用量可能为零。这揭示了基准测试的误导性。RLHF之所以成功，并非因为它是最先进的算法创新（当时甚至不被看好），而是因为它做对了任务。在六年的LLM历史中，RLHF是最大的一次技术拐弯。相比之下，基于可验证奖励的强化学习（RLVR）仅算半个创新，因为仍未脱离人类偏好的框架。真正的突破在于找到一种不依赖人类反馈、直接优化正确性的路径。

软件行业的停滞与自动化的未来愿景

阿尔梅达认为，自2019年以来软件行业基本停滞，SaaS只是外挂了一个聊天机器人。这违背了早期AI先驱的愿景：软件应该变得更聪明，而不仅仅是更便宜地被写出来。他批评当前的AI应用只是自动化了“写软件”的过程，而非实现了真正的业务逻辑自动化。以麦当劳得来速窗口为例，至今未实现真正自动化，说明模型不能被信任去做有代价的决策。公众对AI的微妙敌意，并非讨厌技术本身，而是讨厌那些将成本外部化给用户、缺乏可靠性的技术。

“我们只是在自动化写软件的过程，软件的表达力没变……这才是早期AI先驱们期待的经济革命。”

面对这一困境，阿尔梅达提出了务实建议：如果无法实现自动化，就全力投入辅助路径。他提到Thinking Machines专注于人机交互带宽优化。然而，他的终极愿景是打破这一局限。他认为RLHF是一条不必要的弯路，虽然它推动了AI的发展，但限制了其在自动化领域的潜力。幻觉是优化人类偏好的内在属性，因为奖励模型鼓励自信而非准确。要解决这一问题，需要放弃辅助能力，全力投入自动化。

TypeSafe的技术路径：超越RLHF的第三种选择

阿尔梅达透露其公司TypeSafe正在探索一条新路：既不是RLHF，也不是RLVR。他们放弃所有辅助能力，全力投入自动化。其核心技术是优化校准过的决策制定（calibrated decision making），旨在将预训练模型的智能直接输送到实际有用的软件中。这种路径从API形态开始重构，力求实现真正的可靠性。阿尔梅达认为，RLHF之外还有其他路径未被充分探索，未来的AI将是为自动化而生的。这将带来更聪明的软件和真正被自动化的工作，而非仅仅是辅助工具。

“他们做的事情是放弃所有辅助能力，全力投入自动化……优化的是校准过的决策制定。”

对于能否同时拥有辅助的出色表现和自动化的可靠性，阿尔梅达持否定态度。他比喻道：不能同时让面包和罂粟籽都达到最大值。在优化空间中拉扯两个方向，只会得到参差不齐的智能边界。真正的可靠性需要几个九的准确率，这要求模型在单一目标上极致优化。TypeSafe的选择是冒险一搏：如果AI泡沫破裂，至少他们做了正确的事；如果成功，将开启真正的经济革命。他坚信RLHF是一个没想到的弯路，而明天的AI将通过校准过的决策实现突破。

结论

迪奥戈·阿尔梅达的核心观点在于揭示当前AI落地的根本矛盾：RLHF优化的是人类偏好，而非事实正确性。这导致AI在辅助场景中表现优异（取悦用户），但在自动化场景中可靠性不足（无法信任）。他通过GPT-2碾压GPT-3的案例证明，任务定义和数据质量比算力更重要。对于企业和开发者而言，当前应避免让AI做出有代价的决策。未来，行业需从RLHF转向优化校准过的决策制定，以实现真正的自动化智能。这不仅是技术的演进，更是软件形态从“辅助工具”向“自主系统”的范式转移。