底层架构与生成原理:从Transformer到文字接龙

大语言模型(LLM)的底层引擎是 Transformer 架构,该架构由 Google 团队于2017年在论文《Attention Is All You Need》中提出。虽然 Google 发明了这一基础,但真正将其引爆的是 OpenAI 在2022年底发布的 GPT-3.5,随后 GPT-4 将 AI 能力推向新高度。尽管如今 Claude、Gemini 等模型同台竞技,GPT-5.4 仍是业界标杆之一。从工程视角看,大模型的本质是一个 文字接龙游戏:它接收输入后预测概率最高的下一个词,并将该结果追加到输入中继续循环,直到输出特殊结束符。这种机制解释了为何大模型必须 逐词生成 答案,因为它是基于数学函数进行矩阵运算的。

Token机制:文本与数字的桥梁

由于大模型只识别数字,Tokenizer(分词器) 负责在人类文字与机器数字间进行编码和解码。编码过程分为两步:首先将文本切分为最小片段 Token,然后将每个 Token 映射为唯一的数字 ID。解码时仅需逆向映射。词与Token并非一一对应,例如“工作坊”可能被拆分为“工作”和“坊”,英文单词如 “helpful” 也会被拆分。平均而言,1个Token约等于0.75个英文单词或1.5到2个汉字。这意味着40万Token大约对应60-80万字或30万英文单词。理解这一基本单元是掌握大模型处理逻辑的关键。

上下文窗口与RAG技术:突破记忆限制

大模型本身无长期记忆,其“记住”对话的能力源于每次请求时都会附带 Context(上下文),即用户问题、历史对话及系统指令的总和。这一信息总量受限于 Context Window(上下文窗口) 的大小,即模型能处理的最大Token数。目前主流模型的 Context Window 极大:

模型名称 Context Window (Token)
GPT-5.4 105万
Gemini 3.1 Pro 100万
Claude Opus 4.6 100万

以 GPT-5.4 为例,其容量可容纳约 150万个汉字(相当于《哈利波特》全集)。然而,面对上千页的产品手册等长文档,直接全量输入成本过高且易超限。此时需引入 RAG(检索增强生成) 技术,仅抽取与问题最匹配的片段发送给模型,从而在控制成本的同时突破上下文限制。

Prompt工程与System/User提示词区分

Prompt(提示词) 是用户向大模型发出的具体指令,其清晰度直接决定输出质量。虽然“提示词工程”因门槛降低和大模型能力提升而热度下降,但合理编写 Prompt 仍至关重要。Prompt分为两类:User Prompt(用户提示词) 是用户在对话框输入的具体任务,如“帮我写一首诗”;System Prompt(系统提示词) 则是开发者在后台配置的人设与规则,如“你是一个耐心的数学老师,不要直接给答案”。

“如果没有 System Prompt 大模型可能就直接说 8 了,但因为有了 System Prompt 的约束,它知道自己要扮演一个引导式的老师。”

通过两者的配合,大模型既能遵循预设规则(如引导思考),又能执行具体任务。这种分离机制确保了 AI 行为的可控性与专业性,是构建复杂应用的基础。

Tool调用机制:赋予大模型感知外界的能力

大模型的弱点在于无法直接获取实时信息或执行外部操作,例如查询天气。为解决此问题,引入了 Tool(工具) 概念,其本质是 函数:输入参数,输出结果。整个调用流程涉及用户、大模型、工具平台和具体工具四个角色。平台 作为传话筒,负责传递信息。当用户提问时,平台将问题及可用工具列表(如天气查询、计算器)发送给大模型。大模型分析后,若需外部数据,会生成调用指令而非直接回答。

“大模型无法自己调用工具,它唯一的能力就是输出文本。如果它想要调用某个工具的话,它只能借助平台的力量。”

随后,平台执行该指令并获取结果返回给大模型,最终由大模型整合信息生成回答。这一机制打破了大模型的封闭性,使其能够与现实世界交互。

工具调用的核心角色与大模型边界

在AI应用架构中,大语言模型(LLM)并不直接执行外部操作,而是扮演决策者的角色。当用户发起请求时,平台接收指令并分发给大模型。大模型的职责有两个:一是选择需要调用的工具名称及生成对应参数;二是在获取执行结果后,将其归纳总结为自然语言。例如在查询天气的场景中,模型判断需要调用“天气工具”,生成参数发送给平台。平台的职责是串联流程:接收模型指令,调用背后的函数获取数据(如上海晴天、15-25度),再将结果返回给模型。最终,大模型将结构化数据转化为“人话”输出给用户。初学者常误以为由模型直接调用工具,但实际上模型仅输出一段文本指令,真正的函数执行必须由平台完成。因此,Tool的本质是为大模型提供一套可调用的外部能力接口。

MCP协议:解决工具接入碎片化的统一标准

尽管Tool赋予了模型感知外部世界的能力,但工程落地面临巨大挑战:不同平台拥有各自独立的工具接入规范。开发者若要在ChatGPT、Claude和Gemini上部署同一功能,必须分别遵循OpenAI、Anthropic和Google的规范编写三套代码。这种重复劳动催生了MCP(Model Context Protocol,模型上下文协议)。MCP旨在成为AI领域的“Type-C接口”,即一套统一的工具接入标准。有了MCP,开发者只需按规范开发一次,即可让工具在所有支持该协议的平台间无缝运行。这极大地降低了集成成本,使得工具的开发者只需要写一次代码就可以在所有的平台上使用。MCP不仅定义了工具的描述、参数和调用方法,还规范了平台与模型之间的交互流程,是构建跨平台AI应用的基础设施。

Agent:从单次调用到自主规划的演进

当大模型能够连续、多次地调用工具以解决复杂问题时,它就进化为了Agent(智能体)。以一个“出门前查天气并推荐物品”的复杂任务为例,Agent展现出自主规划能力。首先,模型思考需要当前位置信息,于是调用“定位工具”获取经纬度(如经度-74,纬度40);接着基于位置调用“天气工具”得知下雨;最后根据用户意图,自动触发“店铺工具”搜索附近雨伞店。整个过程涉及多轮思考、决策与执行。> “从某种程度上来说大模型已经有了一定的自主规划能力”。这种能够自主规划、自主调用工具直至完成用户任务的系统被称为Agent。目前主流的Claude Code、Codex等产品均基于此类模式,通过ReAct或Plan-and-Execute等策略实现复杂任务的闭环解决。

Agent Skill:将个人规则固化为可复用文档

虽然Agent具备自主性,但在面对个性化需求时仍显不足。例如用户有特定的出门习惯(下雨带伞、风大穿外套)和严格的输出格式要求,若每次都在Prompt中重复说明则效率极低。Agent Skill应运而生,它本质上是一份给Agent看的Markdown格式说明书。该文档分为两部分:元数据层(包含Name和Description,用于快速匹配)和指令层(定义目标、步骤、规则及示例)。以“出门清单”为例,Skill文档中明确指示Agent先调用定位和天气工具,再根据预设规则整理物品清单。在实现上,需将内容保存为SKILL.md文件并存入特定目录(如.claude/skills/技能名/SKILL.md)。Agent仅在问题与Skill描述相关时才会读取指令层内容,这种渐进式披露机制有效节省了Token消耗。通过这种方式,用户的私人规则和偏好被固化为可复用的技能模块。

核心概念体系回顾与总结

理解AI技术栈需掌握以下关键概念的层级关系:Token是数据处理的最小单元;Context(上下文)是大模型的临时记忆,包含历史记录、系统规则及当前输入;Context Window决定了上下文的最大容量。Prompt(提示词)是用户或系统下达的具体指令,分为User Prompt和System Prompt。在此基础上,Tool(工具)是模型感知外部环境的函数接口;MCP则是统一这些接口的标准协议。进一步地,具备自主规划能力的程序称为Agent。而为了规范Agent的行为逻辑和输出格式,引入了Agent Skill(技能文档)。无论是Claude Code、Codex还是OpenClaw等新产品,其底层逻辑均运行在这一框架之下。掌握这些概念,便能看透各类AI新技术的本质。

结论

大语言模型本质是逐词生成的文字接龙,依赖分词器处理Token并受限于上下文窗口。RAG技术通过检索增强突破长文档记忆瓶颈,而Tool机制赋予其感知外部世界的能力。MCP协议作为统一标准解决了工具接入的碎片化问题,显著降低集成成本。

当模型具备自主规划与多轮工具调用能力时进化为Agent。针对个性化需求,Agent Skill将规则固化为可复用文档,通过渐进式披露优化Token消耗。这一技术栈从底层架构到上层应用形成闭环,揭示了AI系统通过标准化接口与结构化指令实现复杂任务自主解决的底层逻辑。