根本没人告诉你,AI Agent 才是当下大模型领域的核心。今年一定会诞生一个新职业,就叫 AI Agent 搭建师。为什么这是风口?原因很直接,中小企业需求缺口越来越大。老板们都知道 AI 能提效,可真要落地业务,十个老板九个懵,根本接不进去。而这恰恰就是普通人最好切入的缺口。今天我直接捅破这层窗户纸。别再被固有思维困住了,帮企业做个能落地的 AI Agent,真的没有想象中难。不需要很深的编程背景,低成本甚至零成本也完全可以入门。

这期视频我不讲虚的概念,不画大饼,就聚焦在能落地、能交付的实操路径上。我会把新手小白验证过的,从零基础到能独立搭建、交付 Agent 的完整闭环手把手拆解到位。全程跟着做,你也能在短时间内搭建出可交付给客户使用的 Agent。另外,从零入门 AI Agent 的全部教程、企业级 Agent 搭建教程以及配套实战项目,我都整理成了一份文档。

有需要的同学可以在评论区置顶直接领取,方便你直接上手。接下来我们正式进入课程。那么从这节课开始啊,我将带大家从零基础来学习大模型的应用开发。今天主要带大家认识一下大模型,包括一些基本概念、常见产品及相关基础知识。本堂课分为两个章节:第一个是关于人工智能和大模型相关概念及联系的科普;第二个简单了解大模型的爆炸式发展历程,以及至今对我们生活领域的影响。

首先看第一个概念:人工智能(Artificial Intelligence)。它的全拼涉及计算机科学、数据分析、统计学、机器工程、语言学、神经科学、哲学和心理学等多个学科领域,旨在研究设计构建具备智能学习推理和行动能力的计算机或机器。这是一个交叉学科,提出的目标是要研究和构建具备这些能力的事物。

很多人对人工智能的理解有差异,有的说它是人工制造的,有的说它很强大将要取代人类。这种差异主要源于期望值不同。有人希望 AI 比爱因斯坦还聪明,像科幻电影里的哆啦 A 梦或《黑客帝国》中的机器人;而另一批人比较务实,认为能解决专有领域的小问题、达到期望就是符合要求的 AI。这就是差异产生的所在。

人工智能真正走进普通人世界的标志性事件主要有两个:一九九七年,深蓝击败国际象棋世界冠军卡斯帕罗夫。这一事件敲响警钟,表明机器学习已产生威力。当时被视为人类智力巅峰的国际象棋冠军被击败,技术上解读不难:深蓝采用暴力搜索算法。

所谓暴力搜索,就是穷举对手下一步、下下一步的可能性路径。因为国际象棋棋子有限,走法也有限,组合次数虽多但计算机能解决。同时通过程序员预设的启发式评估函数分析权重和胜率,完成对弈决策。但当时有人质疑国际象棋组合太少,能否下赢围棋?

确实下不赢,人工智能因此陷入长久低谷。直到二零一六年阿尔法狗(AlphaGo)横空出世,击败围棋世界冠军李世石;二零一七年升级版 AlphaMax 击败中国棋手柯洁。阿尔法狗和 Max 采用深度学习算法,即人工神经网络(ANN),当时尚未有 Transformer。

为什么二零一六年到二零二二年生成式人工智能中间隔了这么久?因为深度学习存在“深度丢失”或“塌陷”问题。它构建多层人工神经网络,数据经过层层学习后,样本可能都长成一个样。这就像统计学中过度拟合正态分布,导致所有数据最终符合单一模式,失去意义。

哲学家说眼里不管是杨贵妃还是东施西施都是红粉骷髅,深度学习后期也面临类似问题:在人眼里所有东西都一样就没意义了。后来中国天才何凯明提出残差连接概念,解决了深度塌陷问题,深度学习才重新得到重组发展。直到二零二二年 GAI(生成式人工智能)爆发。

什么叫生成式人工智能?即让机器产生复杂有结构的物件。在此之前,AI 主要做单选、多选、判断等题目,无法从零生成内容如作文。现在让 AI 写作文很简单,但在那个年代只能基于已有数据回答,类似比搜索引擎稍强的工具。

GAI 的标志性事件有两个:一是二零二二年十一月 ChatGPT-3.5 诞生;二是二零二五年一月 DeepSeek R1 诞生,吹响了大模型百模大战号角。DeepSeek 的开源推动了全球尤其是中国的大模型发展,打破了以往的技术壁垒和团队组建难题。

以前大模型有技术壁垒,需从底层到上层各做各的事很难实现。开源后大家站在巨人肩膀上,只需喂数据、做微调就能让大模型跑起来。DeepSeek 影响很大,这也是大家来听课的重要原因:它让大家感知到大模型浪潮的到来。

对于人工智能和生成式人工智能,从科学角度看都只提出了目标,后者更详细确切。接下来看深度学习与机器学习的联系和区别。机器学习是早期 AI 训练方式,主要有三种:监督学习、非监督学习和强化学习。

什么是监督学习?即提供标注好的数据。例如给模型图片并标注“猫”或“狗”,机器通过抽取特征与词汇建立联系。测试新图片时,根据学习数据判断是否符合特征并输出结果。这就像老师给例题和答案让学生学,看得越多越准确。

什么是非监督学习?可理解为自学。数据未标注且可能残缺,如故意遮住文字或图片部分让机器补全。判断效果时制造小障碍测试其学习能力,类似老师出题让学生独立解答步骤或全程解题。

什么是强化学习?通常建立在监督和非监督基础之上,对模型输出行为进行约束或增强。教育学和心理学中的正负反馈即源于此。答对点赞(正反馈),答错打叉或降分(负反馈)。机器通过多轮交互知道下次如何回答更好,如同小朋友“记吃不记打”。

深度学习是机器学习的一个分支。因传统机器学习能力有限,产生了深度学习。其核心概念是神经网络(NN),模拟人脑神经元构造进行分层信息处理。深度指网络层数,如一层、两层等。

同样的数据经过不同层级提取不同信息:第一层看数量,第二层看最大值最小值平均值,第三层看出是等差数列。深度不代表智能高低,只代表不同维度的学习特征。但神经网络有局限性如深度塌陷问题,因此后来提出了 Transformer 架构。

严格来说 Transformer 仍属深度学习理念范畴,但提出了新架构。目前主流大模型如 ChatGPT、DeepSeek 等百分之八十以上基于 Transformer 或类似架构。后续课程会详细分解,大家只需了解这一新架构的提出即可。

的一个变种,来进行模型的一个训练和产出的。好了,这就是关于深度学习。当然啊,对于我们来讲呢,这个东西我们把它看黑盒就好了,我们只需要了解输入输出,对吧?或者说我们只需要去调教大模型就好了。我们的课程讲大模型应用开发,而不是说让大家去开发大模型啊,听清楚。那开发大模型,在座的包括你、包括我啊,基本上都不够格,因为这个需要大量的一些其他的数学各方面知识的一个支撑。这个暂时呢啊,对于我们来讲没有必要啊,我们去做什么呢?做应用。

做应用啊,我们站在巨人的肩膀上去做事情啊,我们不需要去研究这一个电机、发动机怎么去工作的。我们只需要说哎这个电机我可以干嘛?我可以给他开发一个玩具,我可以给他干个什么别的事情出来是吧?能够解决我们人类社会中各种应用场景、工作场景中的一些问题,这是我们去学习的主要目标好吧。好了那么这讲完这么多呢我们来看一下啊最终给大家总结一下,人工智能也好生成式人工智能也好这个都是目标。

机器学习这是一种手段深度学习是更加厉害的手段啊然后大语言模型哦是我们在这一个学科研究领域持续发展到时至今日它产出的可以用的产品。你可以认为是在这种大目标手段不断的一个演化之下能够用的一个产品啊我们的大语言模型是目前主流的人工智能的一个产品。好了这就是关于人工智能和大模型的一些基础性的概念那么大模型的爆炸式发展呢其实呃第一个那就是它到底意义在哪里呢?

其实有一个浪漫的答案就是人类学会使用火的时刻啊就相当于现在大模型所处的时代你可以认为大模型的出现又揭开了一片新的黑暗的一个空间、一个新的黑暗领域啊。那么我们通过这样的一个工具我们可以去探索人类没有探索过的更广阔的一些领域,比如说大家应该听过相关的新闻啊像抗癌药的一个研究。你输入一个目标给这一个大模型,输入一些相关的东西让它去包括一些你的研究数据、相关的一些东西,让它去寻找可能的药物分子的组合。这个新闻大家应该有看到过啊我觉得这个是完全有可能的了。

因为其实这个话不是我说的那就是很多人都了解过的就是在呃自然科学领域包括数学、物理、化学啊生物啊各方面的这种科学领域人其实缺的是什么呢?因为这个黑暗的领域太大了我们缺的其实是一个方向,缺的是一个快速验证的一个过程。人总是会受限于自身的所学习的知识、环境各方面他能够走的啊笨的人可能就只能这样走走两步就退了啊。聪明的人他可能眼界更开阔他可以往这么广阔的方向走,但是我们的领域啊我们这只是画出了一个二维的而事实上它可能是个三维的、四维的。

那么这个东西,我们借助于大模型它可以把我们的眼界至少啊从二维、从有限的这个视野范围内扩展到全视野,所以说大模型的出现将会引领一个新的时代。当然即使最后没有实现我觉得这也并不妨碍我们去投入到这个时代的浪潮里面啊因为确确实实啊至少目前我们已经看到了它的一个强大的威力好吧。那么这个发展呢其实时间节点比较重要的是二零二一年这一个基础模型大模型的这个概念的提出是由斯坦福大学的研究员团队提出出来的。

然后从他提出出来之后OpenAI公司就开始研究了啊二零二二年十一月一年多的时间他就发布了ChatGPT三点二的版本,在它之前有三点零、有二点零、有一点零的一个版本这两个基本上可以忽略不计。然后三点零其实啊也功能有限,但是啊其实在这里面最引人振奋的一点就是什么呢?那就是OpenAI它的这个从1.0到2.0、2.0到3.0、到3.0到3.5这中间它验证了一个事情。

什么事情呢?那就是我喂给它的数据越多,它的能力就越强啊就我们这个模型你给它的数据越多它最后的能力就更强。这就意味着什么呢?这个方向至少啊是对的哎我就把我的数据都给他让他去是不是到后面有可能会产生真正的GAI呢?对吧。当然啊时至今日呢各种不同领域的研究还在继续啊这个是我们只需要去关注的需要去关注的。然后呢ChatGPT,然后到二零二五年的这一个DeepSeek前面讲了对吧?彻底的点燃了啊这个百模大战啊而且大模型已经真正的经过二零二五年这一年的发展。

大模型真的已经走进了这一个千千万万的企业,也走进了千千万万普通人的生活啊有的同学可能说我的领域还没有受到影响其实我告诉你不知不觉很多很多领域你已经在享受大模型的福利或者已经享受到它的一个影响只是你没有感知到而已。好了那么我们最后来看一下这一个国内的大模型啊,因为国外的我们有时候需要模仿这个就暂时不讲。阿里巴巴的通义千问这是目前来说非常好用的,尤其是这个千问Max的发布啊这个模型的能力很强。然后智谱清言这个是清华大学背景的,大家也可以去了解也很厉害。

百度的文心一言啊这个对于百度,大家在中国的IT领域送给他的话就是每次都起了个早床赶了个晚集。每一个点他都踩中了但是每一个点都没踩得很深都没有最后就人家都说有先发优势啊它没有形成先发优势。这个也不知道是和这个公司文化有关系还是和领导人的这一个有关系啊这个咱不去过多的去评估。然后深度求索公司的DeepSeek,大家知道的一对吧?然后V三啊腾讯的这个混元大模型当然大家可能更多用到的是它的豆包是吧?

当然豆包这个是一个应用层的产品啊然后科大讯飞它的讯飞星火大模型啊当然也包括字节的火山对吧?字节的火山大模型啊好了。当然呢这个我们值得欣慰国内模型越多啊这个价格就会打下来这是一个好事是吧?当然这里面有一个也得要提一下那就是暗之月面木的那一个KR模型、Thinking模型啊。这个呢也是在前阵子发布的很流行的一个很厉害的一个模型目前来讲已经有的数据来说Q2 Thinking和这一个国内的千问Max这是两个最厉害的。

目前发布的数据来看啊然后国外的呢像G Mini对吧?谷歌的对吧?像这个Cloud啊、OpenAI公司的Chat Chat GPT五点一等等有很多模型,大家现在都在进行竞争。这个对于我们普通人来讲是好事因为要抢夺用户啊至少在这个红利期期间我们可能能够享受更多的。我也不希望一家独大啊因为按照历史规律来讲最后就是大家只能心甘情愿去掏钱我希望的是每个都支持一下对吧?我觉得这是好事啊百家争鸣对于用户来讲是好事。好了好了那么我们的第一节课就讲到这里感谢大家收看,下节课我们继续啊谢谢大家。

上节课给大家分享了大模型的基础知识那么这节课我们继续来看一下大模型的应用场景。其实对于大模型的应用场景来说呢这可以说是目前大模型应用的主要研究领域啊在这节课我主要给大家来进行一些常规性的知识探讨好吧。那么本节课呢我们主要包括两块第一块是应用场景的一些常见场景的描述然后第二呢是这个Gradle的Web UI的一个框架的演示。好了我们首先来看第一个吧应用场景。

其实对于大模型的应用场景来说呢目前来讲主要分为三个大的领域哪三个大领域呢?第一个是NLP也就是自然语言处理这个一般大家可以理解成文本的处理。然后第二个是语音处理SLP,第三个是涉及到这一个图像视频类的一个处理啊那么目前来说有一些大模型包括我们自身的应用可能只是聚焦于其中某一个领域像有一些是聚焦于自然语言处理,有一些是聚焦于语音处理,有一些是聚焦于图像视频处理。

但是未来的一个趋势会慢慢的会将这三种不同的场景融合在一起那么这种融合在一起的叫什么呢?叫多模态大模型或者叫多模态应用。这个多就是不止一个,模态这里就是指文本、语音啊音频流然后这一个视频图像image的处理。OK那么这里呢我们重点给大家来演示一下这个NLP这一块的一个处理啊同时通过这个演示也给大家来简单揭示一下目前我们的大模型它本质上是在做什么呢?

大家觉得大模型它真的有智商吗啊它真的是像我们人一样问你一个问题它会去思考考虑这个答案从你的知识库里面把这个答案直接回馈出来吗?其实不是的。简单给大家来演示一下这里面呢涉及到了很多领域我们都尽可能等一下给大家来做一个演示OK呃首先呢我们先来看第一个啊先来看第一个。比如说我来问他一个非常简单的问题那就是世界第一高峰我就敲这六个字那么其实当我们的大模型接收到这样的输入的时候它会去做一件事情。

它叫做文字接龙啊,他会根据你已经输入的这个文字去自动按照他学习的内容、按照他的算法去匹配下一个字听清楚啊。接着比如说他会去接龙会接出是啊是后面他就会按照前文去理解接着会去理解什么呢?它会一个一个字一轮一轮的过来啊它不是一次性生成的请大家注意它是一个字一个token或者说一个token生成的啊这个你暂时讲token

还听不懂,你就先暂时理解为一个字一个字生成的。它不是一次性像我们人一样,你问我世界第一高峰,我脑海里面唰一下我就反应过来了,“珠穆朗玛峰”,是吧?好,那我们看看它会怎么回答啊。你看他碰到的是第一个字是“是”,珠穆朗玛峰,然后他就做了这些介绍。那我来换一个问法啊,“世界第一高峰为”。你看,我只写个“喂”啊(本身我是想打“位”),来看看他会怎么接。位于中国和尼泊尔的边界线上,后面的是它的解释啊。你如果觉得这个解释很烦,你可以给它加一个“请简短回答问题”,不需要做这一个过多的解释。

来,我接着问,“世界第一高峰”。我先不加“是”啊,我就先问世界第一高峰。你看他回答什么?珠穆朗玛峰啊,“世界第一高峰是”。大家看到没有?我问的这两个问题,他最后回答的都是珠穆朗玛峰。他为什么没有回答“中国与尼泊尔的边界线上”呢?这就是一个语境啊。他认为这个世界第一高峰后面接“是”的概率,比这一个接谓语的概念要高,概率要高。当然,我们也可以来看一下,我多问几次,看他会不会回答了一个谓语啊?果然不回答。他应该是做了这一个温度或者说精度的控制,那我们就来加一个谓语吧?

哎,大家看一下啊。看到没有?即使你打错字了,它根据前面的整个一串啊,还是判断下来接下来就应该接《珠穆朗玛峰》。这就是大模型啊,它是一种推演,它是一个概率模型,知道吗?它是基于概率的。它并不是像我们人一样去回答问题。我们了解完这样的信息之后,你才会知道怎么去驾驭我们的“大模型”,你才会明白它到底能够帮我们去做什么、不能够帮我们做什么。

啊,你什么都不发,打个空格发给他。对吧?这里还发不了哦(这个是我们前端这块做了检测的)。本身我想发个空格给他。好了,接下来我们就来看一下我们的一些案例,比如说情感分析的例子吧?我开启一个新的对话。大家看,他先一步一步推理啊:提取了关键字、判断了整体的倾向、对照了类别的定义。思考过程,最终答案“正面”,是吧?

从这里大家就会发现啊:我们的大模型虽然说它是一种概率模型,但是因为它训练的资料足够多,所以它会去做一些分析上的事情。这个分析当然还是概率啊:他会按照他所学习的、他觉得应该先做什么来做。你不是让他要去判断各方面的东西吗?他就认为要判断我就得先推理,因为在他的语料库里面、资料库里,他的接龙顺序可能就是这样的。

好,来啊,我们再来一个例子:“对于下面语句……”。直接写评论就好了,“我真的谢谢你啊”,这个大家都知道对吧?正面还是负面,还是中性?哎,没问题。你看很聪明是不是?非常聪明啊!所以下面这个例子啊,有些东西你自己弄不懂是啥意思时,你可以问问大模型。基本上呢都是没有什么太大问题的。当然,我们也不能够全部相信它啊!你不能全部相信它,不然的话这个结果就有问题(我们等一下就会看到为什么不能全信)。这一块它的能力是很强的。

那接着我们让它来做一下语义的聚类呢,来看看会怎么样啊?就是分类嘛。下面给出了几个句子:“上班好累”、“上班不容易”、“赚钱难”。根据句子的含义做一下聚类。我给他提出任务了,好了我们来看一下啊:积极或者中性的、工作压力和生活艰辛的。它是不是就分成两个类了?哎,OK好了啊!

接下来我们让它来挑战一些难的任务,比如说让它来帮我们做一下数学题。第一个问题看看它能不能解答啊?我觉得这个问题应该没什么难度。“好,我们一步步来计算这个表达式。”先算括号……最终答案二十二?是不是二十二?我们口算一下啊:乘三除四,这里二十除以四是五,十五加七那就是二十二。没问题!按照我们快速的话应该二十除以四可能会更快一点啊,或者二十乘以三也可以了。

或者说我们出一个另外的问题:请使用加减乘除实现计算二十四点,数字为三、七、八、九。大家看看看他能不能算出来?他还在算啊:三七八九……我看一下啊,三八二十四,那这个九减七……哎我没算出来。好了来看一下他怎么做的:(9-8+7)×3,原来是这样的啊!好的乘三是吧?出来了。看这就是大模型。但是不是它就永远是这么厉害吗?我们来试试用别的问题啊!

我们要求他用中文回答,然后把题目贴过来。首先大家自己看看这个题目你会不会做:烧一根不均匀的绳子要用一个小时,那如何用它来测量一小时十五分钟呢?大家心里有答案吗?我会放到半个小时啊,怎么放的?我从两头烧。不管它怎么烧(不考虑温度等问题),反正会相遇啊,对不对?这是路程问题嘛。你不管是甲和乙不管速度快慢,反正经过的时间是固定的。

六十加十五啊……他意识到把自己绕晕了,来看一下:A两端烧+B一端。哎这个可以得到三十分钟是不是?三十分钟完B才烧了一半,然后接着把B的另外一端点燃,这个时候就是四十五分钟了。四十五分钟点燃C的两端(同时点燃就三十分钟),那最后就是七十五分钟,需要三根这样的绳。哎没问题啊很聪明!

那接着来看一下最后这个“杀手锏”。好这个问题就比较复杂了啊。我这里先告诉大家答案啊:是九次!答案是九次(三加四加一,这是迫使它是拿到最小颜色三种颜色的最少次数,然后再加一)。什么叫任意两支同色?来我们看看他作答。其实大家会发现啊现在的这个大模型,它虽然是文字接龙的做法(根据前面输入输出代入计算下一个字词的概率)。

如果概率是“是”而不是“位于”,你问他他就直接反馈珠穆朗玛峰。而如果说你问世界第一高峰位于哪里,他就会接“于”字接着接“中”、“国”。它不是简单的中字后面接国字,而是整体计算下来发现权重最高的还是“是”接着找珠穆朗玛峰。最坏情况下在九次拿手套无论如何都会拿到一双同色的啊!

我们可以看看答案对不对?随便给一个蓝。这是第一次、第二次……第三次他推理有点不对啊,因为他这个拿法肯定是不对的(如果说拿了两次红的话选右手)。一次、两次……十次啊!它这里其实是十次。我们给提示一下“请检查答案是九次还是十次”。我看他是九十次?你看一次、两次……他红色都拿了四双,这个肯定有问题啊!答案不对。我们看这样会清晰一点:他其实刚才计算仔细看了就是十次,构建肯定有问题(拿了两次以上红色就有问题)。

关于这个怎么去接着和他做提示词让他能够正确答题,我们回头在正式课程里面大家可以来了解一下好吧?好了这是关于数学题也很不错。啊接着像这种角色扮演类的,其实有兴趣的同学也可以去玩一玩(平时无聊的话)。大家可以看一下这是他给他一个外部特征对吧?然后什么的毕业啊回到家乡什么什么的。这个时候他就会给你去接完后续的东西知道吗?好了这里我就不给大家演示了啊(很耗费时间)。

然后像编程问题,哎这可能是很多同学比较关心的。那我们的大模型有没有编程能力呢?简单的啊我们做一个最简单的测试:让它帮我们实现一个冒泡排序算法。这个可能是很多同学当年面试进入IT行业或者学编程语言时都会学的过程对吧?所以很容易就知道他写的对不对。然后他连这一个测试代码都给我们写了啊,还展示了测试用例的输出。

大家可以看一下这个算法:它是Python定义的一个排序函数对吧?array是待排序的列表,计算了它的长度。然后写了一个循环(典型的for i in range n),接下来这里做了一个开关默认是False嘛。然后做了第一层循环、第二层循环(i和j)。接下来这里就做了一个对比遍历后面的这个元素,进行对比。如果排序成功就切换它为true(如果没有swap的话它只做了一个双重否定:false false break)。如果说你把它改成true这里改成false那你就写if对吧?返回速度,最后做了一个测试用例循环执行。哎挺好啊是不是?

然后它这里还给出了时间复杂度、空间复杂度的一个计算啊OK。所以像这种编程的东西基本上现在大模型实现起来可以说是毫无难度!创作问题(写作业、演讲稿、PPT、小红书文案等)其实他能力都很强。大家如果说自己能够科学上网的都可以去试试这个Notebook(LM啊)。像这个是谷歌最新产品接入了Gemini 3.0之后能力爆表,大家可以去尝试一下很厉害!

好吧好了那我们就这节课先到这里。下节课我们给大家来介绍Gradio相关的一个知识啊,感谢大家下节课再见!那么上节课给大家介绍了一下大模型的一些常见应用场景。那么这节课呢我们来介绍另外一个内容啊也就是Gradio(注:字幕误读为Gradle,实指Gradio)。

Gradio呢它是一个简易的Web UI的一个框架。在我们进行大模型学习的过程中是会经常被用到的啊!为什么呢?因为我们做大模型的应用开发,怎么去快速的验证我开发出来的这个产品到底怎么样呢?它的一个效果对不对?我们这里不用去考虑前端页面好看还是不好看,我们需要的是要有一个这样的交互页面能够让我去完成这样的一个验证过程。那么Gradio就是出于一种这样的目的被设计和开发出来啊!

它是哪一个公司开发的呢?是大名鼎鼎的Hugging Face(注:字幕误读为Hangarface)啊!这家公司在大模型领域的地位就有点像我们的GitHub。只不过呢GitHub托管的是源代码,而这个Hugging Face它是一个开源的模型托管中心啊!什么叫模型的托管中心呢?我们都知道现在很多大模型像DeepSeek它是开源的,还有一些其他的也是。Hugging Face提供了一个托管中心让所有人把自己的开源模型、数据集、测试集、应用发布展示等全部托管在上面。

大家都可以从上面去免费进行下载啊!包括我们后面的课程中讲到微调相关知识时,大家就会发现我们经常要到这个Hugging Face上去下载模型啊。包括大家用Ollama去部署模型什么的也是一样的!然后像我们要去做微调或者说自己想训练模型,这些数据集一般自己去收集是很费劲的。那别人做好的数据集我可以从上面去下载拿过来用!当然这是它的主要功能。

事实上呢它也提供了很多相关的一些工具,比如说像这个Gradio啊!就是它用来为机器学习模型、大模型以及API相关的东西去做一个demo、做Web应用所提供的一个工具包。在业界其实有很多有名的公司和产品都是用这个Gradio来做的这一个应用和分享啊!像这里列举出来的ChatGLM、GPT的Acala(注:可能指Accela或类似项目)、Stable Diffusion啊,像这些其实都是通过这个Gradio来构建的。

但是这些呢咱不用去过多的关注啊!我觉得我们的重点就是我怎么用它来做我们的东西?或者说我为什么要来学呢?刚才已经提到了啊:第一点就是直观的演示我们的模型、API、函数使用的一个效果。我们需要有图形化的界面!现在大家可能不理解为什么需要有图形化界面啊?等你真正写代码的时候或者等一下看完我的演示案例之后,你会知道这东西它有界面和没有界面给人的使用感觉是完全不一样的啊!

通过Gradio我们可以实现快速的部署和分享。因为在它里面会有一个叫做“share=True”的一个函数参数啊!这个参数一旦设定之后(当然需要一点魔法/网络条件),它就会去创建一个公共的URL啊!这个我们都知道要做网站要去买域名、做备案各方面的东西是吧?它用这个不需要。当然呢它也提到了只有七十二小时的一个时间啊!这个东西对于我们来讲,你要明白一个好处就是:它相当于是给你做了一层代理封装啊,把你的站点封装到一个公共地址上去做一个映射。

通过一个反向代理的机制(知道有这么回事就行),可以享受这样的一个好处好吧?那对于Gradio我们需要掌握什么样的知识、到什么程度呢?这里大家看一下啊:对于Gradio来说,我们的使用最核心、最基础的代码大概也就是四句话。第一句:import啊!这个学过Python的同学如果没学过也无所谓。import我们知道是导入的意思对不对?我要导入这一个叫Gradio的包啊!

我们写代码得告诉编译器我要用什么东西?因为这个包是一个文件放在那里,我的编译器怎么知道用哪一个包呢?它不可能把里面所有的包都拿过来加载(这样是不对的,是不是啊?)!它不像Java啊:Java不管三七二十一把lib里面的东西全部先装载进去放在内存里面对不对?而这个它是你用什么我们就导入什么。然后定义一个这个东西啊:def一个函数,这个函数恰恰就是我们需要去进行演示的一个功能。这里我只做了一个最小的retrieve text啊!

然后这个demo这个名字可以随便改啊!定义一个变量用来做这一个实例化:gr.Interface(这是它里面提供的一个类)。然后这里面传入三个参数,第一个参数function啊!fn要求……

等于,也就是你需要去演示的这一个东西是什么呢?这个功能由谁来提供呢?或者说这个接口由谁来提供呢?由这个叫 reverser reverse 啊,text。对吧?也就是我们的这个反转字符串啊,反转字符串我们自己定义的这个东西。然后输入的类型是文本啊,输出的类型也是文本。

最后呢,加载,最后加载啊,很简单的代码啊。我们这里给大家来实际看一下啊。呃,我这里打开了我们的这一个工程啊,大家可以看到,第一个 import 是吧?一样的啊,define rules 啊。我们甚至像这里面啊,我们做完这个例子吧,然后这是调用它,调用它啊。这个名字不能改,这个是它内置的这个变量名字,用来接收我们所定义的这个功能实现的。

然后 input 啊,文本类型,output 文本类型。然后哎,老师,你这里为什么没有加那个 share equals true?我说它需要一点魔法啊,所以我们暂时用不上啊。用不上,所以我们就不加载,我就本地看就好了。好,那这样的代码呢,我们把它去启动。

启动呢,会稍微啊,看这下面啊,就会有一个启动的过程,稍等一下啊。什么时候算成功呢?啊,当它出现一个端口的时候啊。还在启动啊,好了,已经启动好了。大家看它提示了啊,这种服务在以下端口可用七八六零啊。

你看这样的一个地址,我点击一下啊,我点击一下。啊,点击一下,它就会在浏览器里面打开这个地址。大家可以看到啊,这就是它的一个界面了。啊,很丑,但是很实用。比如说啊,我来一个 hello,对吧?提交。

大家看啊,什么叫反转啊?O L L,对吧?或者我们来一个最简单的,一二三四五六啊,提交六五四三二一,是不是?这就是字符反转啊。那什么叫做功能呢?啊,这个功能实现就是你希望去验证以后,我们可能啊,在大模型开发里面啊。

我开发的一个基于大模型的某一个功能,对吧?我把它定义成了一个这样的类,定义成这样的一个类啊。比如说啊,我来一个最简单的 youtube_search:personal-agent 【2026十二月最新AI Agent智能體零基礎全套教程】目前最詳細的AI Agent智能體零基礎全套教程,手把手帶你從0到1搭建企業級智能體!全程乾貨無廢話!(附資料,敲666領取)youtube_search:personal-agent 【2026十二月最新AI Agent智能體零基礎全套教程】目前最詳細的AI

Agent智能體零基礎全套教程,手把手帶你從0到1搭建企業級智能體!全程乾貨無廢話!(附資料,敲666領取)对吧?好,我就是一个这样的功能啊,一个这样的功能。然后呢,我把它封装进去,丢进来,对不对?

好,啊,这后面是注释的东西啊,是由我的工具自动在啊给我进行调整,因为它检测到了啊。好了,我把这个东西给它停掉。停掉啊!我重新再启动。好,同样呢,我们到这个页面来刷新一下啊,来刷新一下啊。

大家可以看到这里显示的是内,这里是 output 了啊,然后呢,呃,我们就可以来测试一下啊。比如说啊,Jerry,是吧?提交,哎,他就会说啊,你好 Jerry,对吧?啊,随便输一个名字啊,张三,好。Hello,你好,张三,对吧?

啊,这就是函数的功能啊。通过它,我们可以在界面上快速的去验证我们的一个效果啊。比如说,除了像这样的例子啊,除了像这样的例子啊,这里面呢,我还准备了别的例子啊。大家可以一起来看一下。

我们一起来看啊,比如说这个是修改后的啊,不仅是反转,还会计算它的长度啊。这一次不一样的是,它有两个返回值,对不对?有两个返回值,那对应的下方大家会发现啊,它和刚才的不一样的地方就是它就会有两个输出类型。

一个是 text,一个是 number。对吧?然后这里面呢,也多出了一些别的东西啊。比如说 title 等于什么 description 描述啊,example 啊,这个是样例啊。然后呢,我们把它把注释去掉啊,我们来跑一下。

先把这个停掉啊。啊,这次好快啊!来运行一下。它没停掉啊,我我只是擦掉了啊,刚才。好了,我们来再来运行。我说怎么这么快呢?OK 啊,大家已经跑起来了啊。大家可以看一下啊它的功能和我们的第一个样例的功能啊。

和我们第一个,你看这里就有两个输出框了啊。来一个 Hello,对吧?啊,提交五个啊,好 Hello 啊,一二三四五六啊。看看,提数字和这一个字符,总共十二个,没问题吧?还有五个逗号,一个一二三四五六六个,总共十二个。

你也可以来一个啊,你好世界,这个就是一个 sample 啊,对吧?啊。Hello World,对吧?好,OK。

最后呢,我们来看一个案例啊,最后来看一个其他的案例啊。因为这个老师这个东西感觉跟玩一样啊啊,是的,有那么个有那么一点啊一点点像跟玩一样的效果啊。那我们来看最后一个案例啊,最后一个案例。

当然了,这个案例其实它的作用很简单啊,它是用来进行图像的一个转化的一个效果啊。它的作用是用来把我们平时上传的这些图片啊,它可以转成什么呢?转成铅笔画,转成铅笔画啊!我先给它跑起来。

给大家解释一下这里面用到的一些东西啊。首先,这个一样是功能函数,对吧?啊,这就是功能实现的一个部分。然后这里呢是啊界面的一个配置,对不对?跑起来了啊!我们到界面上先去看一下。

看啊,图像转铅笔画,这是哪一句话?是这里,是我们的这个界面里的这个标题 title,对不对?啊,然后 description 啊,在这里将上传的图片转为铅笔画啊。将上传的图片转为铅笔画,在这个地方。

好,然后这里显示的是 label 标签是吧?上传图片在这里啊,点击上传。啊,这里是它自动翻译的啊,上传图片在这里,然后这边是铅笔画。好,我们可以来试一下,点击上传啊。

对吧?啊,这里有一张啊,这个是苏菲玛索啊,这个在《勇敢的心》啊。这个电影我不知道大家有没有看过啊?哎,你看,这就是它的一个转换的一个效果。大家看到没有?好,当然你可以去上传别的啊。

哎,其实前面的文本的案例啊,我们直接让它在我们的这种控制台,在这种地方去进行输出。就我直接在这个地方去调去输出,其实也可以的,无所谓的。但是,一旦像这种图片啊,或者是一些别的一些需要有视觉效果的。

你只是在界面上去输出它,我觉得是不够的。是不是啊?是不够的,就是我们可以去把它前面的这些东西啊,像前面举的这几个案例,我直接 print 出来就行了嘛。我为什么要去搞 UI 界面呢?

但是啊,像更复杂的一些功能应用,我们恰恰就需要有一个这样的转换的一个效果,或者一种 UI 的效果。那这个时候啊,这个 gradient 对吧?它就有用武之地了。

好了,这是这个啊,最后啊,再给大家看一个案例。好,这个案例呢,啊,其实也就是我们调大模型的啊,我们调用大模型的。这里呢,啊,我们做了很多的一些解释工作啊。

首先啊,我们这里用到了 OpenAI 来实现大模型的一个调用啊,然后这里调的是通义大模型。所以呢,我配了在我的环境变量里面去配了这个东西,这里我们先不去管啊。

然后这里做了一个判断,有没有这个 API Key 啊?然后接下来呢,我们去调用千问大模型。这里解释很多啊,其实代码很简单。

其实代码很简单啊,就是先判断有没有 API Key 啊,没有的话报个错。然后接着实例化客户端啊,初始化这个客户端,然后把这个 Key 和地址丢进去。这样的话我们就可以去访问我们的通义大模型了。

然后呢,这个信息先定义一个变量,是一个空的啊,就这个时候是没有信息的。然后这里做历史数据的一个判断啊,历史数据的判断啊。如果说啊是用户的数据呢,我们就加到用户里面;如果是这一个呃大模型返回的东西呢。

我们就加到大模型返回的这个里面啊,把它加进来啊。最后做了一个异常处理,最后呢这里把我们的 message 一直加进去就好了。就每一次把上次返回的这些历史数据和用户数据一起加到用户数据里面去,这是为了保持上下文啊。

因为这个东西啊,这个稍微有点超了啊,因为我们去通过接口去调大模型的话,它是没有一个状态的啊。这个状态我们是需要通过这一个数据这种回复的数据啊,我们要自己把它加进来处理,它才能够记住状态的。

然后接下来呢,这里就是去调大模型啊,去调千问 Max 的一个大模型啊,去进行信息的回复。然后这里是返回它的 response 啊,也就是大模型的返回数据。这里呢调它的数组里面 message 里面的内容啊。

然后呢,这就是上面的函数的功能嘛,你不用去管它啊,这个东西大家不用去管它。以后我们写的大模型的其实代码真正有效的代码就几句话啊,这里和前面不一样的就是我调的是这个大模型的应用了。

我开发的大模型的应用啊,然后呢,这里标题描述这是看你自己的,对不对?然后呢,接下来这里我调了一个这种主题啊,这个其实没啥用啊,没看出有啥用。好了,我们把它跑起来啊,把它跑起来。

看看效果啊!好了,跑起来之后呢?我们这里去刷新,大家看啊就长这个样子了。比如说啊,你好按样例啊,我这里就输入你好啊这边就会等啊这个接口因为调的话我们没有付费的话它没有那么快的响应。

好,你好,有什么我可以帮你的啊?问一下这个世界第一高峰。好来看看他怎么回答啊。啊,世界第一高峰是珠穆朗玛峰啊杀杀杀的对不对?你看来我说啊啊只需要简单回答问题即可。

中国第一长的河流是长江,看到没有?哎我前面这个就是我们的 history 为什么会有用呢因为我把前面的这些数据啊一直加进来了,一直加在 user message 里面所以它就能够知道这个状态。

能够知道这个状态啊完事了好了这就是我们的一个 Gradio 的一个效果,知道吧?好我们写了代码怎么让用户去感受到就好比啊你在家里你做这个东西你怎么让你家的孩子去用呢?

甚至我们有一些同学在公司或者说是在家里,尤其像在公司里面啊你做了个大模型的东西你怎么让你不可能让用户去直接访问这个地方吧对不对?

啊,你肯定是需要有个地址让用户去操作的。让你们公司的人去做这个事情的当然以后这个发布我们肯定是会把这样的代码放在一个服务器里面去进行发布运行对吧?

但是不管怎么样呢通过它啊你可以快速的实现这样的一个原型的一个校验。如果你觉得它丑 OK,你可以去专门写一个前端页面然后去调你的这个啊无非就是实现这样的一个调用吧。

对吧?只是它这里封装好了你只需要把函数名字丢进来它就可以去实现调用。而你自己去写前端的话你要怎么去进行接口的一个映射和前端啊这个其实不是难点。

只是对于我们很多同学来讲可能没有这方面的能力也不需要掌握这样的能力你有现成的你直接拿过来用啊我们只是关心什么呢对于大模型底层应用的一个开发是不是?

剩下的等你们真正去深入到大模型的应用开发这个课程学习之后你会发现啊前端页面也好什么也好其实都是可以,你都可以很快把它做出来。即使大家没有 HTML 的一个基础,即使大家没有 CSS 的一个经验也都是可以去做出来的啊。

那么呃今天这堂课讲到这里呢其实请大家如果说感兴趣的话都可以去添加我们的这一个视频下方的啊去一键三连,去添加我们的助教老师去了解我们的课程。

去获取我们课程相关的一些信息啊让自己真正能够站在这个时代的大模型这个时代的浪潮之上对不对?成为弄潮儿还是被拍死在沙滩上啊这就是大家需要去做的一个抉择好吧?

OK,那今天我们先分享到这里下节课再见谢谢大家。那么在前面呢我给大家讲了这一个大模型的基础知识啊大模型的一些应用场景以及 Gradle 这样的一个前端的 Web UI 的一个框架。

那么这节课开始呢我们就来进入到后续的一个环节啊那么我们这节课要讲的是关于提示工程啊 Prompt,Prompt 啊。那么对于提示工程呢可能很多同学说老师这个东西好简单呀我已经用了很久的大模型了。

我经常和大模型进行对话啊我的提示词写的挺好的了啊那 OK 如果你真的写得很好,那自然是没有问题的。但对于绝大部分同学来说呢平时啊他呃和大模型在交互的过程中他是随心所欲啊因为这个大模型不是说的嘛。

我们要用自然语言和大模型进行一个交流对吧?这是它的一个特点是啊是它的特点。但是如果说啊你期待大模型能够给你返回更加有用的一些信息啊,能够尽可能少的出错啊或者说尽可能少地出现幻觉的话。

其实一切的根源都在于这一个提示词工程这一块啊,或者说提示词工程这个东西它不仅仅是大家所看到的聊天框里面输的那些东西。在我们真正去进行大模型应用开发的时候啊,我们还要去做更多的一些处理啊。

比如说里面就会有 system rule 对吧?有 user rule 啊,有 assistant 就是历史绘画等等很多很多相关的东西。那我们在编程写代码去实现这一个更复杂的一些大模型应用的时候,那么提示词工程啊它一样是存在的。

包括啊我们整个大模型的像 RAG

系统啊,像我们的这个智能体啊,甚至包括后续的一些微调等等的环节里面,其实提示词工程都是有存在的一个价值,而且有极其重要的一个作用的。所以呢,这是一门看似简单,实际上是挺难的一个点啊!希望大家呢能够通过这堂课程学习,能够掌握一些相关的内容,好吧?那么我们整堂课呢将会分为三个环节。第一个环节呢就是给大家来讲一下什么是提示工程啊,简单聊一下什么叫提示工程。然后第二呢,常见的提示词工程的一个方法以及应用的一些案例啊。

那么首先呢,我们来看第一个问题,什么是提示工程呢?其实讲到工程,那就表示这是一门系统化的学科啊,它不是我们随心所欲、你想到哪里写到哪里的。呃,在前面的课程我已经说了啊,我们现在的大模型啊,它基本上本质上是一个文字接龙。那么这个接龙的质量其实取决于什么呢?它不取决于大模型本身聪不聪明,啊,它取决于它前面的信息准不准确。因为它是根据前面的信息,比如说“世界第一高峰”啊,它是根据这个世界第一高峰这个信息,然后去进行推理、然后去接龙的一个过程。明白吗?好。

所以呢,呃,对于提示词工程来说啊,这一个东西呢,我们需要掌握到什么程度?我们需要去了解什么样的信息呢?是不是老师我学完这个课程以后就能够写出很好的提示词呢啊?那一切来听我分享。首先,大家明白啊,所谓的提示工程啊,是一项通过优化提示词和生成策略,从而获得更好的模型返回结果的一个工程技术。然后这里就说我们写了一个提示词给我们的大语言模型,然后大语言模型呢就会返回结果啊 completion 对吧?

那对于我们来讲啊,提示工程这只是一次。真正好的提示词它是需要不断的进行调优的。这是提示词工程里面的第一个核心要素,那就是告诉你啊,提示词它不是一次写好的。它是需要不断的调优的。因为对于我们来讲、对于我们的大语言模型来说啊,你要明白一个事情:它是文字接龙,它是一个概率模型。那如果说我写了一个提示词然后它给我返回了一次结果这次结果可能是对了啊,那是不是它就一直会是对的呢?

这个恰恰是当前大模型应用中啊所面临的一个问题,就是我一个提示词一模一样的提示词我丢进去,大模型给我的回答可能是两个不一样的结果。啊,因为它这里牵涉到一个概率问题。那我怎么才能让它的结果保持一致呢?就我不管你问几次,一次、两次、三次四个人来问这个问题的时候它都能够给我返回统一的结果呢?那 OK,这个时候我们要对我们的提示词去进行优化工作啊,要让它能够稳定的输出。

啊,要让我们的大模型啊能够稳定的输出知道吗?如果它的输出是不够稳定的那其实我们在做应用开发的时候我们自己用无所谓啊,因为我们输一次自己看一次。但是丢给我们的用户那用户就反馈哎你们做的这个东西不行啊,你看我输出的是这个样子然后另外一个用户说哎挺好用的对不对?它不够稳定的话那就有问题。所以我们需要进行不断的迭代,发现啊结果不对我可能再去修改然后再去丢给大模型然后让他再反馈最后获取一个稳定的版本。

哎老师那这样的话成本很高啊啊!OK,这也是提示工程为什么要引入的一个原因。我们希望通过系统工程化的思想让大家去进行这个迭代优化的过程尽量去缩减啊,至少说从这一个提示词本身的一个构成这个角度我们让大家能够有模板、有规章可循。好,业务层面的另说啊。什么叫业务层面的呢?比如说你要写代码你可能就要懂什么叫系统架构对吧,啊你可能要懂什么叫前后端分离啊前端要干什么后端要干什么。

你可能要给他去下各种限制条件,那这些限制条件就和业务相关了。啊比如说你要去做小红书的文案你是不是要懂小红书的一些文案的特点、爆款的一些特点各方面的一些东西?好,这都是和业务挂钩啊。这个东西呢咱就不去过多探讨这个是需要大家自己去积累。我们这堂课重点在于给大家去讲提示词工程的一个构造过程中的思想啊,就抛开业务本身我们能够做的事情我们通过哪些操作能够让我们的提示词啊能够更加稳定的去输出?

那么第一个啊就是强调不断的调优请大家记住啊,就是最厉害的这一个 prompt 这个提示词工程师他也是需要去做这个优化工作的啊。他没有办法说保证每一次都百分之百,每一次都百分之百 OK 啊。然后第二个要说清楚自己到底想要什么要具体。很多人经常对着大模型啊给我画个画,啊给我画个美女对吧?这美女多了你审美观对吧这个中国自自古至今有杨贵妃啊是比较胖的那种,然后赵飞燕啊他们这种是比较瘦的对吧?西施那你到底喜欢什么样的美呢古典美现代美二次元的还是什么呢是不是啊所以你需要说清楚一定要把能够想到的细节尽可能的加进去。

当然这个也要要注意不是说越多越好,有时候太多了可能会对这一个大模型反倒造成困扰啊。因为你细节太多又不连贯的话就会在大模型里面可能会引出更多的一个分支、更多的一个可能性概率,覆盖的面会更大最后产出的东西可能不知道是个啥啊。然后第三一定不要让机器也就是不要让大模型去猜,你猜我想干什么啊你不要让它去做这个事情。因为它本身是个概率模型你还要让它去猜那就完蛋了,啊那产出的东西一定是不可控的。

好和坏咱就暂且不说啊,一定是不可控的。那对于我们的应用开发、大模型的应用开发来讲那这就是不行的啊。所以呢,对于提示工程来说有一些技巧、有一些方法论的东西大家要灵活掌握啊。这样的话在将来从事这方面工作的时候就能够做到事半功倍的一个效果好吧?好,那到底有哪些东西呢?那么首先我们先来看一下啊一个提示词的构成。

一个提示词的构成大概其实这里不是完全准确只是:第一个是指示啊,就是你要也有些地方就会说这个地方叫做任务或者叫做要求很多是叫要求让他做什么嘛。然后第二个上下文,你要给出和任务相关的一些信息背景信息对吧?啊我让他给我写个小说那背景信息可能是小说的提纲啊啊,对吧人物的人设啊啊章节呀各方面啊包括一些其他你的要求。然后第三个是样例,有时候呢你光这样去说可能模型还不知道要干什么你给他一些例子模型就瞬间就懂了。

其实还记得我们说的这个监督学习吗?啊,其实你可以理解啊它在进行这一个生成的过程中也有类似于监督学习的这个影子在里面。你给他一个案例、一个标注的东西对吧?它自然就会照葫芦画瓢按照你给的例子去进行生成啊。有时候呢一个例子不够你可以可能因为涉及到多种不同的数据或者数据集或者范围边界对吧?你可以做不同边界的一个举例它自然就可以搞定啊。然后输入、输出,当然这两个东西呢是从编程的角度来讲 input 和 output。

好了那么我们接着就来看一下啊,常见的提示词方法有哪些呢?好,这里我们是从编程的角度 instruction 然后 context、query 和 prompt。首先做任务的描述啊,然后接着呢给他一段信息提出一个问题最后封装这个提示词丢给我们的大模型去进行处理。好来 OK,我们一起来看一下代码啊通过代码给大家来解释一下。首先呢这些是属于大模型底层的封装的东西,这是调模实例模型然后这个是把数据传给了千万的 plus plus 的模型啊。

然后呢传入用户提示词,这是只做用户提示词的处理。然后这个是一个温度的东西啊,这个值越大那就意味着这一个大模型回答的可能性就越多;提示词越小意味着这个大模型回答的可能性就越小思维就越不发散。啊所以这个东西对于一些学术性的要求严格严谨的东西会建议大家把它设置为零,然后对于一些可能比较发散性思维的东西比如说这一个创作类的一些东西你可能就把它设大一点,当然不是越大越好啊因为越大可能就会越无厘头看你怎么想。

好了前面这些代码已经跑了,接下来我们就来看一看我们的提示词的部分啊这个就是我们的提示词。在提示词里面呢我们就给它描述了第一根据上下文内容你要做什么对吧?好了,然后我们就去调这个大模型把提示词丢进去拿到返回打印出来。我们来看一下啊大家看,它就会根据我们的这个提示词回答了这个我们在提示词里面问的问题对吧?OKT3 啊是从哪里从小鼠提出的。那如果说我这个提示词不这么写我把它注释掉重新换一种写法,对吧?

我直接问问题啊我是 OKT3 最初是从什么来源提取的?好那 OK,我们看看会有什么样的一个效果啊。这个时候你会发现它用的时间会比较久啊。老师我就是我自己都不知道我就想这样去问那没问题,你可以看到啊他这个时候就会去从他的知识库里面去进行获取然后给你回答就这么一回事了对吧?这就是我们说的啊你对于你的提示词来讲如果说你希望去做一些限制性的东西那你一定要在你的提示词里面给他去做限制。

其实这里面呢这个提示词有点借助了我们后面做 RAG 系统的一个设计思想。你可以理解这是一段文本库、是一段知识库啊,然后我们的问题是从这个上下文里面来的对不对?答案好了这是这一个例子。然后接着我们来看一下啊我接下来把它做变量的一个处理对吧?前面我们一样的提示词,我这里分解了。首先 instruction 啊,我这里就是说给它做一些任务的要求:根据上下文回答;如果不确定答案请回答“不确定”。

然后这里面的内容是这样的,是吧?这个问题是它。提示词呢我就把它用三个变量啊调我们的介绍上下文、问题来进行调用最后丢给他。其实现在来说呢是和刚才没有区别是不是?那如果说此时此刻我来问一个问题啊 OKT4 最初是从什么来源提取的啊我们来看一下。看到了吗?这就是这段话的作用!如果不确定答案请回答“不确定”,对不对?啊,这就是提示词的一个构成。

所以对于我们来讲呢你把它分开之后以后比如说像这句话它是不是可能是一个固定的或者在你们的一个应用里面就不管哪里它可能都有一个这样的要求。那你可以把它先放在这个位置,然后你在不同的应用里面背景可能是不一样的。那 OK 你可以把背景知识给它拆出来然后把问题独立出来以后你要修改就修改问题,你要改这个就改规则、改任务。然后至于下面的这些东西就都不用动了啊这就是工程化的一种处理。

好了,然后接下来比如说我们有更多的要求 instruction 回答问题,然后呢以 JSON 格式输出。老师这个地方为什么加一个中括号?啊其实这个是对这个中括号它和我们的编程、和我们的这一个数据结构是没有任何关系的。这里它就是一个中括号只是对于我们的大模型来讲,它能够通过这样的中括号去识别这个地方可能是需要做替换的懂吗?来我们给大家看一下效果其他都没有变啊就这里只有这里变了。

它要我们要求它以 JSON 格式输出大家看,输出的是 O 这是不是就问题?对吧?然后这个地方是不是就是答案好。那如果说这里我给它改一下啊,我把它这个具体问题给它改成这个样子,答案改成这样子。好大家看是不是对于我们来讲感觉是一样的?事实上啊对于我们的大模型来说它就会有不一样的产出了。看到没有?他认为你这里指定的是 JSON 里面的两个键啊,这是两个不同的 key 啊一个是问题 key 一个是答案 key。

所以他最后就问题是这个问题逗号分割答案,这是具体的答案值就这个只是相当于列名了。他以为你指定的是列名明白吗?啊,你以为指定店名呢?你多跑几次你看看效果会不会不一样。嗯那看效果还是一样的是不是啊你看好所以有的人就说哎老师我这个东西调不出来,其实你关键就是在于你对于提示词的一个组织。像这里我们把它加上中括号它自然就能够理解了当然你也可以尝试去加比如说把这个东西改成大括号你去试一下。

啊报错了因为这里面他以为你调了变量,这个地方因为写成大括号的话他就以为是要调用变量啊这个是 Python 的解析的问题了啊。所以我们还是用它,你也可以尝试用中文的啊、用中文的这个它应该也是能够识别的,我们换一下嘛看一下效果。啊他又把它识别成一个对象嗯刚才是出了什么问题?没有区别啊没事好,我们来看一下改成中文的啊。哎 OK 一样能够识别。

说白了就是你在这里你需要给他一个能够让他去理解的东西,你把它括起来就表示这个地方它不是真正的具体问题对吧?就它可能就它不是一个 key 了。你直接给他的话他就以为这是一个列名的东西啊,他以为这就是两个列名然后他就把值往里面填充了。好了当然这只是一个简单的例子啊,所以从这里面呢我们就可以看出我们在进行提示词的一个构造的过程中其实有很多很多的一些技巧。那么如果说我们发现某种方式不起效果的时候我们可以尝试去进行一些变更,看看哪种是更加符合你的要求的。

好了这是第一个好第二个啊是样本学习这个案例,这个东西呢是我们在构建提示词的时候经常会用到的一种技巧。首先呢它样本学习这里面啊第一个是叫 zero shot learning 叫做零样本提示、叫做零样本学习。其实说白了就是不给任何的样本,不给任何的样例啊。那么是不是每一个提示词都要给样本呢?不是的因为对于我们来讲一些简单的问题像我刚才问的世界第一高峰啊这种东西有确切答案的啊、有它自身边界所在的这种东西我们是不需要给样本的,直接丢问题就可以了。

但是对于另外一些问题可能你不给样本的话它就没办法去理解了。啊像我刚才的这一个 Jason 对吧?他其实就是给了一个案例嘛你可以理解以 JSON 格式输出啊,或者说你给成这个样子之后可以来一个示例。youtube_search:personal-agent 【2026十二月最新AI Agent智能體零基礎全套教程】目前最詳細的AI

Agent智能體零基礎全套教程,手把手帶你從0到1搭建企業級智能體!全程乾貨無廢話!(附資料,敲666領取)对吧?你可以给他来一个事例啊,给他来一个事例。你不一定要用这个问题,你可以来问一个啊啊,你是谁?我是大模型,对吧?你可以给他一个这样的示例啊,然后把这个示例拼装到这个里面去了。对吧?拼装到这个里面来啊,我们再来运行一下。大家看,我们刚才啊,这个具体问题答案,它是不是回答不出来啊?看到没有?我把示例一加,它就会了,对吧?

啊,有同学刚才在可能在问老师,我怎么知道是用中括号是中文的还是英文的?不需要啊,这只是一个小技巧,你用到了就用到了。你不会怎么办呢?加样例就好了。你不会,你就可以给他加一个样例,他自然就知道该怎么去做。明白吗?明白吗?好,OK啊,那我们也来看一下其他的啊,呃,比如说这个案例啊。

他说将文本分类为中性、负面或者正面啊,这是提示词,然后呢,这是不给任何样例的啊,好,对吧?写一个别的啊,今天天气真好,好吧?正面的啊啊,来一个啊!明天要放假了。明天要放假了啊,真开心,对吧?

啊,明天要放假了啊,要带娃啊,特意加个啊啊,看他能不能理解。啊,是中性,加个柚子,还是中性啊?来个,好烦啊,是吧?当然我不烦啊,我喜欢带娃啊,我只是看看他能不能感受到我的情感啊,所以其实他的判断还是比较中立的啊,还是比较中立的,OK,还是比较中立的啊。

像这一个啊,好了,大家来看一下啊,这个提示他说啊,他是什么啊?一个使用它的句子是什么?我们在非洲看到的啊,然后他要我们用它来造句子。对吧?啊,在草地上兴奋的开始啊,看看它能造出什么样的句子,是吧?

啊,这就是少样本提示,知道吧?这就是做了一个提示,然后让你来仿造它造个句子。那啊,比如说啊。调优啊,本身是一个词啊啊,但是呢,啊有人喜欢这样造句。

啊,这个周深的啊声调啊声调优于这个啊。白露,嗯,好吧,喜欢这样造句啊,那么,请用什么呢?请仿照啊,上面的例子使用。但是造句,看他能造个什么句啊?我们这里来举一个嘛,就是告诉他啊,这是例子,对吧?

啊,来看看效果啊。哎,他没有理解,对不对?他没有理解啊,是不是?啊,换个别的词看看,换个造句。哈哈,哎,你看啊,所以有的人呢,有的时候这个大模型它并不一定能够去解决问题啊,并不一定能够去解决问题。我们可以多给几个例子啊。

喜欢故意拆开啊?可能是我描述的,是不是我说的不够清楚呢?来换个别的看看。其实这个他们造的不好了啊。其实这个他理是理解了,理是理解了,但是这个开和新造开之后啊,它并没有造出好的一个效果。

其实说白了啊,就是它对于中文的理解啊,咱们的大模型还是稍微有点缺陷,对吧?啊,从这个例子里面我们可以看得出来啊。OK,当然啊,这种东西怎么去办呢?

啊,真正要去解决问题的话,在我看来啊,像这种东西你必须要去做微调才行啊,这个就涉及到比较专业、比较难的一个知识点了啊。好了,接着我们来看看后续的案例啊。

像这个数学问题少样本提示这种东西啊,其实像这种问题呢,它可能单独问他他是不会答的啊,但是你给他一个样本,他可能就会答了啊。比如说像这个案例啊,当然像这样的题目,现在的大模型来做的话都是没有问题的啊。

比比如说啊。比如说,我把这样的问题丢到丢到我们现在的这个 Deep Seek 啊的一个网页里面去做啊,你会发现它很快就能做出答案,而且没什么难度啊。

嗯,换个模型啊。这不是又抽风了啊!嗯,大家看它是不是很容易就判断出来?答案是错的。我们自己也可以看到啊,十五、五、十三、七、一,总共有五个奇数啊。

奇数数量为奇数的话,那就是最后结果还是奇数嘛。奇数加偶数还是奇数,所以他说它是偶数,那肯定是错的,对吧?但是如果说我们来拿一些能力不强的大模型。

啊,拿一些能力不强的大模型啊,像我这里本地啊,Onama 啊,给大家看一下啊,我这里从网上拖了两个啊,一个是 DeepSeek R1一点五的啊。

一点五 B 啊,这个 B 呢就是十亿啊,一点五 B 呢就是十五亿参数的,十五亿参数的一个模型啊。我们把这个模型跑起来啊啊!它又提示我这个内存不足了啊!

我把这个关一下看看。再去跑一下啊,啊好了啊,好了,那这个时候呢,啊我们去把这个刚才的这个问题,对吧?我们一样把它复制过去,丢给他去问啊。

我们来看看这个一点五B的模型的表现啊。第一句话我们就发现他错了。你看,十五、三十二、五十三、八十二和七,他把这个一就丢掉了,看到没有?

他把这个一就直接丢掉了啊,所以他的结果我们都不用往下看,他肯定是错了的,肯定是错的啊。那接下来我们可以尝试给他来一个啊样例,来一个样例啊。

好了啊,来我们来看一下啊示例,给大家来一个示例,好吧?然后呢,接着啊把这个问题拿过来。

啊,接着给他拿过来啊,我们把这一个一起丢给我们的这一个模型,啊。我们看看结果会怎么样?好了,那边让它跑啊。

其实呢,对于我们来讲啊,对于我们来讲,在真正做的一个过程中啊,在我们进行提示词优化的过程中啊,像这个小样本是用的比较多的一个技巧啊。

就是当大模型没有办法去理解我们的意图,我们又觉得我们自身的描述已经足够精准啊,没有问题的情况下,我们是可以去做这样的一个少样本提示的。

然后接下来思维链这个东西啊,首先我要给大家讲的一点就是啊,思维链这个东西呢是目前大模型本身啊它具备的一个能力。现在啊这个论文发表是在年初啊,在今年年初啊,然后在现在这个年末,二零二五年年末的时候。

市面上所有的这一个大模型,不管是开源的还是商用的啊。它都是内置这个思维链的一个功能的,都是内置思维链的功能啊。甚至包括你可以看到啊,首先,其实出现这句话就表示啊,它已经在做思维链的一个处理。

好吧,已经在做思维链的处理啊。啊,好了啊。你看它前面啊,大家可以看一下啊,大家可以看一下它前面其实还分析对了,在这里还分析对了啊。

但走着走着他又把一给丢掉了,走着走着他又把一丢掉了啊。那如果你给他更多的提示啊,他其实啊,我们这里不去试了啊,不去试了,可以成功的啊。

最后你把所有的提示给他,他是可以成功的,他有抽风的一个过程啊。说白了,就是当模型本身能力不够的情况下,那我们就靠样本来测啊。

一个样本不够,我们给它两个,两个不够给它三个啊,多加几个它可能就会了,好吧?好就会了啊。

好了,然后思维链这个东西呢,啊,我只给大家讲一个啊,只给大家讲一个,那就是我们其实很多时候是内置会有思维链的功能的啊。

那如果说你希望显示的去使用思维链,怎么办呢?你希望显示的去使用思维链怎么办呢?啊,你就在你所有的里面写完之后,你最后加一个啊,请逐步思考。

啊,请逐步思考啊,加上这句话,它就可以去实现思维链的一个效果。OK,啊,当然呢,事实上啊,除了像思维链啊,还会有别的一些功能。

啊,还会有一些像思维树,对吧?它可以做分支啊,这个自我一致性等等啊。当然,有关于更多的内容呢,大家可以去啊关注一下我们的助教老师啊,领取我们课程相关的一些资料。

大家可以去啊学习一下啊。有兴趣的同学呢,可以去了解一下我们的一个正式的一个课程,好吧?好,这个。这节课我们就先暂时给大家分享到这里啊,感谢大家,谢谢。

那么我们上节课呢,给大家讲了一下这个提示词工程中常用到的一些方法啊。那么这节课呢,我们来看一下这个提示词工程的实际应用的一些场景。

呃,我相信很多同学呢,呃,在用这个大模型的过程中啊,可能都有这上这方面的一个想法,就是我要去做一个短视频,对吧?

呃,就做一个短视频啊。当然呢,可能大家最开始都会像我这样啊,都会像我这样的啊,怎么做呢?那就打开一个这个大模型界面,然后呢,直接来跟大家说啊。

帮我创作一个大女主的短视频脚本,对吧?好,OK。它能不能做呢?自然是可以做的啊,而且它还会在你的基础上做必要的一些补充,对吧?

至于这个补充是不是符合你的要求啊,暂且不说。OK,我们可以看一下啊,它这里就给了名字、主题、风格、时长。定义了主角啊,然后做了分镜处理啊。

零到五秒怎么样啊?五到十秒怎么样啊?对应的做的处理啊,当然也包括啊这个镜头的啊这一个蒙太奇的这一个运镜的方法等等啊。

其实整体看来呢,它至少对于我们这种不懂。这一个短视频制作的人来讲,他的回答已经很专业了啊,已经很专业了。但是我们如果真的这样去做,最后能不能做出一个啊爆款呢?不好说啊,不好说。

那么有没有更好的一种方法呢?啊,根据我们所学的啊这一个提示词工程的一些东西啊,我们自然就知道我们的一个信息在这样的描述中啊,其实是不够准确的。

就这里面包含的信息太少了。太少了啊!你就说要他做一个视频,然后给了一个主题,是不是?好,其实细节不够,那怎么办呢?

你可以给一些别的细节,比如说啊,我们这个时候给他来定义一个角色。好,首先告诉啊,你是一个,这个你其实就是告诉大模型啊,你不要去啊运用别的一些数据库啊。

我们都知道啊,可能现在大模型都有M O E的这种概念啊,M O E就是专家系统啊。

就是它参数可能有几千几百万亿啊,几千几百万亿。后面是e啊,然后呢,在做某一个任务的时候,回答某一个问题的时候,它只会调其中一部分。

那如果你不去定义角色的话啊,它就会自动根据它,呃,这个你的提示词,然后它会自动去思考可能要用哪些哪些哪些这一个模型,它会自主去抉择。

那如果说我们给它定义一个这样的角色的话,那OK,我们的大模型就会更加清楚它要干什么了,它要去找。短视频,对吧?他去找热门短视频啊相关的这个一个参数来完成后续的这个任务。

然后呢,同样这个技能啊,这个技能也是给他做限定。啊,就是专家,有些专家对吧?大家都是做短视频的,有些专家可能是擅长于啊点子比较多。

有的专家可能呃擅长于这一个主题的一个选材啊啊,或者说这一个运镜啊,或者说。各种别的啊,文案啊等等。

那这里呢,我们给他来了两个定义啊。你的想法很多啊,掌握了各种网络流行的梗,拥有短视频啊这一个平台的时尚啊、服饰啊、食品啊、美妆等领域的相关知识储备啊。

就是限定他的一个范围。啊,呃,讲到这里啊,大家需要知道的就是,我们很多时候做提示词的时候,不要一味的去做加法。

很多时候,在一些专有的一些场景,我们要给它做减法,我们要去限定它啊。就说应,其实这是去和我们大模型底层的这种M O E的这种架构是去对应起来的啊。

我们知道它会去调用部分参数,那我就可以通过这种限定做减法,让这一个参数。在我们所指定的范围之内啊,它更加精确,更加精确啊,更好的能够完成我们的任务,知道吧?

这样就可以减少啊,减少什么呢?减少一些啊,可能不符合要求的一些。这种概率不符合要求的概率啊,好了啊,能把专业知识融合到对应的视视频里面啊。

然后接下来任务帮我创作一个大女主的短视频脚本,然后大家可以看一下啊。他说这是一个风投脚本啊,融合了时尚穿搭、职场逆袭、情绪张力等元素啊。

然后呢,十三到十五到三十秒。啊,然后呢,平台他说抖音和小红书啊。

然后呢,接下来背景乐啊,你看这里就和刚才就不一样了啊,刚才呢,啊刚才大家可以看到啊,没有什么背景乐相关的一些东西,对不对?只是一个运镜的。

这里呢就加入了背景音乐啊相关的一些信息了啊。然后呢,啊有标签,有标签啊。嗯,然后有对应的运镜的一个做法啊。

你看这里就中景到近景啊,然后包括各种声音啊、字幕对吧?然后蒙太奇的手法啊。

然后各种啊,反正。逐条显示,连字幕的显示,对不对?它都会有一个要求,啊,包括后续的啊。

大家可以看到啊,这个时候它的创作,而且有创作思路的一个解析啊,这里只是一个创作说说明啊。然后比刚才肯定是更加详细了。

那有没有更详细的要求呢?来,大家看一下啊,这是我们这一个PPT里面给出的一个案例,对不对?好,我们把它做成角色、技能、任务要求,对吧?

好,然后往下走。这一段对话之后,你会发现啊,他表示他已经接收到这个信息了,接受这个信息了啊。

然后接着他要我们输入这个主题啊,我还是一样的啊,大女主。好了,他就来说了啊,演员一位啊,然后三十岁左右,气场强大啊,自信干练啊。

这就是对于演员的一个选择啊,要求年龄,然后气场自信啊。然后背景啊,现代都市背景啊。

写字台啊,写字楼办公室,天台夜景啊,简洁高级感,灯光啊,通过冷暖的一个对比啊。

然后呢,办办公场景啊,天台的场景,然后镜头对吧?然后这里面对话,他会要求啊。

时间对话画面,这是不是符合我们的要求啊?镜头、时间、对话、画面、备注啊。

然后相关的东西啊。OK,背景音乐,他就说啊,强调电子感和古典节奏,是不是?

然后这里强调表情各方面的啊。这个是啊,镜头快速推进,由远及近嘛,对不对?

由远及近啊。相关的啊,哎,大家看啊,这样的话啊,它通过这种表格,让我们接下来去完成后续的操作就更加方便。

更加方便啊,甚至说你把这个表格丢到相关的视频呃一个网站啊,让它去生成,可能也是能够生成出一个不错的一个产品的。

OK啊,这就是第一个案例啊,第一个案例短视频的一个生成,啊,大家可以去参考一下啊。

参考一下。当然呢,啊,我们。嗯,不说啊,我们这个东西一定是最终的一个啊。

如果说大家在这个呃提示词的一个改进过程中,如果说有什么相关的问题,你可以继续去改进。

就是你发现它的输出哪一点不符合你的要求,或者说你丢给啊,当然这里可以给你们分享一个小技巧啊。

就你可以把这个结果啊丢给另外一个啊,比如说我来打开啊这种Deepseek啊。好,丢给 Deepseek 的 Deepseek 啊。

我们来看一看啊,把这个复制一下。啊,我们复制一下啊,复制一下呢,呃,我们来说一下啊。

以下是一个短视频脚本的这一个设计啊啊,请对之。啊,进行这个评价、打分、评价啊,并给出啊这一个修改建议脚本啊。

OK啊,接下来你可以看一下啊,啊,现在的大模型呢都是特别会夸奖人的啊。

会特别夸奖人,你看啊,亮点啊什么什么的啊。你看有些东西你也会发现啊。

像服装、饰品、咖啡、笔记本这些品牌的这一个植入,对不对啊?

啊,你看啊,它的现有的结构,他已经发现啊是问题解决升华,对吧?好。

他改成挑战、压力、顿悟、掌控,对不对?好,OK,是不是?啊。

当然啊,这个咱们不说,这个东西一定OK啊,一定OK。你看,它也是按照我们的脚本摘要来输出的,是不是?

大家可以看到啊,在这里面啊。我可以给你们教一个小技巧啊。那就是你可以尝试啊,abab就用一个大模型做裁判,对不对?

另外一个大模型去进行修改,好。进行修改啊。然后呢,你可以多做几轮。当然没有必要一直去做啊。

反正改着改改改啊,按照它的提示,然后你再去修改那边的提示词。

然后做这样的一个工作啊。好了,这是关于短视频脚本啊。那比如说我们现在的小红书,刚才提到的,是不是啊?

我们要写小红书的爆款文案怎么办呢?啊,来。我们复制一下啊,复制一下,呀,直接把这个丢给我们的大模型啊。

让它去生成一下,开一个新的对话啊,不要在原来的基础上,哎,他说啊,你是小红书的爆款写作专家啊。

请根据以下步骤来进行创作,对吧?啊。好了,首先呢,他列了五个标题,对不对啊?

按照我们的要求啊,列出五个标题。然后阐述了一个正文。嗯,OK。好。

这就是你这样写的话啊,那有没有更好的办法呢?有没有更好的办法呢?我们可以尝试一下啊。

我们可以尝试一下来按照我们的这一个,你看啊,给它进行提示词的优化之后啊。我们来看看对比的一个效果,好不好?

呃,其实大家会发现啊,现在这个千问 Max

啊,其实真的挺厉害的。你看啊,我没有做过多的要求,它其实也能够、能够那个啊……但是我这里提出了一个二级标题法进行创作。哎,你看这个标题啊,你们来看一下:养了两岁泰迪才懂啊,可爱外表下全是拆家刺客。然后这一个……其实哪一个更加吸引你呢?对于我来讲,我可能会更想知道它是怎么个“封”法。看到这个标题,我第一个想的就是他到底怎么封的?我特别happy看到狗拆别人家里。我想看,但像这种啊,他已经直接给你点名了,“全是拆家刺客”!这个东西说实话呢,有时候就缺乏那种吸引人的感觉啊,就是太直白了。你上来就告诉我,我可能就不想看了,因为你说完了我就已经想到了。好,你看他特意后悔了又舍不得,这就是一种二极管啊、前后对比啊。包括像这种你就可以去学。

好了,所以对于我们来讲呢,你去写这样的提示词,其实首先按照工程的要求啊,我们已经讲了一些细节上的东西。但是在这个细节的基础上啊,还是需要大家有对应的一些行业经验。如果没有的话呢,你也可以尝试让大模型帮你去做一些总结工作,然后再把它优化到你的提示词里面。听清楚,这也是一个非常常用的技巧啊!就你实在不知道,让大模型帮你去进行总结。然后你再按照我们课程所讲的这些写法、模型的提示词模板,再进行一个归纳总结,再去产出和调整优化的过程。

好了啊,那我们讲完这一个基本的案例之后呢,继续往后来看。像模拟面试这个东西我们就不给大家去讲了啊。其实现在的大模型做模拟面试、做面试教练的话是很厉害的,我们就不展示了。给大家做一个简单的总结吧:对于提示词工程啊,我讲的所有点总结一下。第一个最主要的点就是你的指令一定要清楚。说白了就是表达能力和沟通能力要在线,你一定要用简洁明了的语句把你的任务、约束、希望大模型做的和不做的事情说清楚。

如果说一个任务太复杂了,你可以把它分解成更加简单的子任务啊。比如说我做系统开发,我就会让他先做前后端分离,先做前端页面;等他把前端页面做出来了再去调整。然后接着让他按照整体的系统概要设计去实现后端的服务接口代码,测试完成后……第三步再让它把前后端连起来,在前端去调后端的一个接口实现通信。就把一个复杂的任务拆分子任务的话啊,大模型做出来的结果就会更加好。

因为有的时候你一个事情太多了嘛!我们都知道大模型有一个Token上下文窗口的长度限制啊。虽然现在很多都是百万级起,以前最早的时候只有一万、两万Token——意思就是一个窗口包括输入输出加一起不超过一两万的Token,那时候没办法实现复杂任务。而现在百万级Token窗口啊,大模型的能力基本上都具备了。但是即使如此啊,我们在第一节课就说了:现在的大模型其实是一个文字接龙的游戏,它是一个概率问题。

如果说任务长度达到一定界限之后啊,偏差就会越来越大,最后可能会偏出控制范围。也就意味着他最后完成的结果离你想要预期的结果越来越远、偏差越来越大。所以我们很多时候会建议啊,太大的任务先人为分解为子任务。你也可以让大模型帮你进行任务拆解,让它先完成第一步、再第二步、第三步……一步一步拆解。

然后第二个啊,对于某些场景之下(比如数学解题、格式控制、文档生成创作等),你可以提供一些参考性文本。并且让大模型去对这个参考文本进行学习啊,提取它的一些写作风格、语法特点、遣词特色、情节构造等方面是怎么做的。当然每个行业都会牵涉到各自行业的背景啊,按照你的理解、对整个行业的理解……比如你要写小红书爆款文案,你知道别人怎么写出爆款的但你自己写不出来。

首先这是一个前提:你知道别人是怎么写出来的,但你写不出OK?那你就把别人怎么写出来这些东西作为一个要点,给一个大模型案例丢给它,让它去提取这些要点;或者说让它按照这些要点去写另外一个主题。懂吗?当然大家也可以去使用一些外部工具对你们的提示词去做优化啊,随便找百度、谷歌或大模型搜“提示词优化”很容易找到。

第三个啊,早期的一些测试和学习中我们的提示词有一个迭代优化的过程——引入新信息通过上下文来做。那事实上对于我们现有的模型啊,不管你在提示词环节做什么工作、怎么去做,终归有一些任务它是没有办法很好地完成的。那一旦遇到这样的情况怎么办呢?就是我们很努力地去对提示词进行调优了,但大模型还是没有达到要求。

比如你去问大模型:“今年我几岁了?”“你知道我喜欢什么颜色吗?”或者给它说:“给我制定一份职业规划。”有同学说老师那你把你的背景告诉它呀?是的啊,我这里举的例子很简单:我们可以直接通过简单的上下文告诉大模型让它基于提交的信息去生成。但是在企业里面啊,比如我是做医疗的,直接问大模型:“某某手术需要什么器材?注意细节有哪些?怎么操作?”或者让医生排班、安排手术,那它能做吗?不能。

还有一些前面讲到了大模型的一些缺陷啊:它的能力是基于学习的数据的,所以数据一旦过时……什么概念呢?举个简单例子啊:请告诉我中国建军七十周年阅兵仪式上出现的装备有哪些。大家看到没有?他第一句话就是“中国并没有建军七十年阅兵”。我们都知道有,那为什么它不知道呢?因为它学习的数据是在今年之前的。从这一句话我就知道这个大模型的数据肯定早于建军七十周年之前呀!

像这种东西啊,因为时间原因、通用性、行业本身的数据保密性等各方面的原因它有一些问题没有办法回答。那我们现在要去做这种面向客户的系统啊,需要用到这些数据怎么办呢?还有一些是我们大模型本身能力的缺陷:就是即使你给它数据了它还是没有办法达到要求。那这个时候怎么办呢?其实这也是我们后续课程要给大家去分享的啊:对于大模型本身没有掌握的知识(不管是因为过时原因还是行业特性),我们一般都会通过RAG这种外挂知识库的方式来进行解决。

对于这一个通过外挂知识库还没有办法去解决的能力问题(它天生的本身能力也就是参数的问题),那这个时候我们可能需要上第二个手段啊:叫微调。让我们这个模型能够去解决相关问题,通过监督学习、强化学习等方式让它知道怎么去解决和回答问题。好当然啊这个就是我们后续要给大家去分享的。那么这节课呢我们就先讲到这里,感谢大家的一个收听啊!有兴趣的同学可以去咨询我们的助教老师获取课程相关的内容、资料、视频等信息。感谢大家,下节课再见。