今天微调大语言模型还有必要吗？让我们以一家知名的法律AI公司为例，因为在2023年，他们与前沿实验室合作微调了自己的模型——即定制AI。在盲测中，律师们更倾向于使用这个经过微调的模型，而不是当时的前沿模型GPT-4。他们97%的时间都选择了它。这是微调的一次胜利，因为他们构建了一个律师实际更青睐于现成领先模型的定制AI。所以教训是：如果通用模型不太适合某些特定用例（如法律工作），那就对它进行微调。对吧？

首先，让我们定义一下什么是真正的“微调”。我们从一个基础模型开始，即基础LLM。这是现成的产品，你可以直接与前沿实验室合作，或者选择一个开源模型。现在，基础模型是在海量数据上训练而成的。实际上，我们是从互联网上抓取信息来训练这个基础模型的，因此大量的通用知识会被固化在模型权重中。

接下来微调就是利用那个基础模型并对其进行定制，具体做法是继续训练它，但这次是在一个更加专注的数据集上进行的。我们这里有一些特定文档，它们非常专注于某一特定领域。可能是法律合同，或者是某个组织内部的工单支持记录——就像那些没有在互联网上等待被基础模型抓取的东西。

那么结果是什么呢？我们得到了一个新模型，即微调后的模型。这个经过微调的模型结合了来自专注数据集的信息以及基础模型的所有权重，这些权重现在已经根据额外数据进行了调整。因此，这个最终生成的模型在特定的狭窄任务上表现会更好——这就是微调的奇妙之处。但在实践中，它效果如何呢？让我们回到那家法律AI公司。

在2025年，他们创建了自己的法律基准测试，用于衡量其模型在执行特定任务方面的有效性。他们将微调系统与最新一批前沿AI模型进行了测试，其中包括他们的定制模型以及当时可用的各种通用模型。那么这个基准测试结果如何呢？结果是七个通用模型的得分现在超过了该公司的定制模型。

这些从未接受过任何定制化法律微调的模型仍然表现得更好。彭博社也发现了类似的情况，他们曾从头开始训练BloombergGPT，但后来的评估发现，在许多金融基准测试中，GPT-4和ChatGPT的表现优于Bloomberg GPT。那么这把微调置于何地？当大型前沿通用模型不断自我进化变得更聪明时，所有这些定制训练还值得去做吗？

为了回答这个问题，我认为有必要考虑通用模型在许多情况下如何追上了定制训练的模型。原因有几个：首先是上下文窗口变得非常大。最初使用2000个token窗口的GPT-3，如今的前沿模型通常能处理多得多的输入量，比如超过100万个token。

如果一个模型可以直接在提示词中阅读500页法律文档，那么为什么还要把这些文档烘焙进权重里呢？只需在提示时传递那些上下文相关的内容即可。其次是推理模型，它们会在回答之前进行扩展思维推理，一步步解决问题。因此，这种能力来源于模型在提问时刻（推断时）思考的深度，而不仅仅是几个月前训练时的结果。

第三点是推理成本更低，模型正变得越来越高效和聪明。当前沿模型不断变得更智能且更便宜时，训练定制版本就成了一个移动的目标——等到微调后的模型发布时，下一个前沿版本的更新可能已经将其远远甩在身后了。

好吧，通用模型变得更好了，但如果我们不调整权重……我们如何让一个通用模型表现得像专家呢？比如一位法律学者。事实证明，有一整套不触碰模型权重的定制技术。首先是RAG（检索增强生成）。与其将文档训练进模型，应用程序会在查询时检索相关文档——即RAG中的“R”部分——然后将它们放入提示词中。

还有上下文工程方面的考量，其理念是好的提示是一个精心组装的上下文包：系统指令、相关数据以及格式指南等都被打包在一起。第三件事是我们需要考虑代理技能（Agent Skills），也就是你可以创建的MD文件。这些技能文件夹封装了程序性知识——基本上是如何做某事以及使用什么工具去做，当模型看到任务背景时就会按需加载它们。

因此，与其微调一个模型来了解如何针对非常特定的模式编写SQL查询语句，不如让一个SQL代理技能告诉模型该怎么做。任何通用模型都可以使用这个技能。所以我想说的是，微调并不是定制的唯一途径；有一整套选项可以在不触碰模型权重的情况下工作。这很好，因为微调并非免费。

除了训练过程本身之外，还有收集示例、评估结果以及避免回归的成本；随着前沿模型的推进，维护定制模型也有成本。所以这一切都引出了一个问题：是否还有人需要微调？答案是肯定的，但理由比2023年要窄得多。现在有一种名为LoRA（低秩适应）的现代技术，它允许团队通过训练一个小适配器来进行微调。

这个适配器位于现有基础模型之上。我们有一个带有其权重的基础模型，然后在这个基础上叠加了这个适配器。因此大部分原始权重保持锁定状态，而实际上今天在生产环境中被称为微调的东西大多是某种形式的LoRA或相关的参数高效方法。在某些情况下，微调仍然有意义——例如当我们担心延迟降低时（如果这非常重要）。

如果模型需要像语音助手接听电话那样实时响应，那么拥有大量思考时间的前沿推理模型往往太慢了。因此，如果实时响应是约束条件，小型微调模型可能仍然是最佳选择。另一个原因是知识蒸馏。其思路是利用一个巨大的前沿大模型生成高质量的输出，然后基于这些输出来微调一个小得多的模型。

这本质上是从大型参数教师模型生成推理轨迹，并利用这些轨迹来微调较小的学生模型。此外还有强化微调（RFT）。与仅在固定的正确答案上训练不同，RFT 使用提示数据集加上一个评分器。模型采样候选答案，评分器对这些答案进行打分，训练过程则更新模型以提高高分答案出现的概率。

当然，RFT 的局限性在于它仅在输出可以被程序化评分时才真正有效，也就是说，当存在明确的标准答案时。所以……微调并没有死。从当前的实用决策框架来看，我认为其顺序大致如下：首先使用基础模型，然后实施提示词和上下文工程。

如果知识是最新的或专有的，你可能还需要加入检索增强生成（RAG）的能力；而如果缺失的是程序性知识……那么此时你可能需要加入智能体技能。只有在其余技术栈无法解决特定瓶颈时，才考虑使用微调。

那么你怎么看？微调是否仍有其用武之地？请在评论区告诉我。