Jev判定模型是什么:价格、能力边界与使用方法?
这两天Jev又刷屏了,极度便宜且高效。我们是不是又要见证历史了?大家好,欢迎收听老范讲故事的YouTube频道。首先要提醒大家一句:Jev确实非常便宜,100万token才4美分;而且效率极高,输入信息后几百毫秒就出结果。但是要提醒大家一句:这东西的准确率也就是68%,一定要小心,它有可能给我们带来巨大的灾难。
Jev这种模型跟传统的大语言模型LLM有一个最本质的区别:它不是生成内容的,只负责下判断,相当于是个判官。但是呢,这个判官的准确率就是68%。先把结论放这啊:这东西是真好用,我自己已经放进流水线了;但是它不是更聪明的大脑。它是把下判断这个岗位从大模型本身上拆下来了,单独卖价格打到地板上。
它值钱的地方不是准啊,它并不比现在的大模型准(后边我们会说数据)。它真正强的地方是便宜,便宜到以后什么事情都可以让它先判断一道。这个事呢我一开始还没注意着啊,Discord上有人去问我了说老范现在Jev模型这么火你不说两句吗?当时我说诶,没注意啊。
我的很多选题都是来自于Discord群啊,大家看到什么有意思的事情可以到这来问我。我觉得这事可以聊两句的就会去研究一下,做成节目来跟大家分享。刚刚老范啊透露了如何在老范节目里头点单的这个流程啊,大家请注意记在小本本上。
今天呢分几段来讲:第一个就是Jev模型不能干什么,我们先把不能干的事说明白了;第二呢就再介绍一下这东西到底是什么啊、谁做的、名字从哪来的,这块咱尽量讲故事具体细节就不跟大家分享了因为人家也没公开;第三个呢咱们AI账单里头到底应该用它替换哪一部分。
第四个咱们要讲一下这东西到底怎么用;啊第五个呢咱们来说一下这东西到底会如何改变AI产业,英伟达股票会涨会跌呀;最后呢咱们来讲一下这个东西为什么很危险先泼三盆冷水。这个Jev之所以突然爆火其实有一个很主要的原因,是很多币圈的人发现这玩意可以下判断来判断一下这币要涨要跌推了一下这东西就火起来了。
币圈的人呢一直都是非常热情啊,至于他们搞得懂搞不懂这不重要但是他们的热情是很强的所以一下就被推起来了。所以首先要讲清楚第一件事:这个东西是不能炒币、炒股做量化交易的啊!人家在发这个产品的时候就说了我们这个系统不擅长于做算数,你判断涨跌啊你别来找我。
这个玩意我判断不准gram啊现在这些炒币的人呢已经灰溜溜的离开了,因为他们发现用这个东西去判断炒币效果很一般啊。第二个呢就是自动驾驶和人形机器人这块也不是这种模型擅长的事情。刚才咱不是说它快吗?几百毫秒就可以出结果,那这快你得看跟谁比。
你跟GPT比、你跟Claude比它确实很快啊,但是你要是跟自动驾驶比这玩意就不行了。你像特斯拉FSD做判断只能有20毫秒,因为如果你的车开到110公里每小时了Jev这种300毫秒的响应速度,这车已经开出去9米10米了啊你该撞什么早撞上去了啊。
这个事也是不行的,而且这个系统它是在云端的并没有开源,万一你要是网不通了这个事也是不行的啊。还有一点呢Jev这个模型只能处理文本,它是不能处理图片、视频和声音的所以呢你让它去做自动驾驶做机器人这个事搞不定。
当然它自动驾驶和机器人里头做一些大的逻辑判断啊不那么着急的它可以去干,但是你让它去做一些动作判断它是干不了的。第三个很多人认为这东西零幻觉啊这个也是不对的,它在很多时候会告诉你说哎这个事我拿不准。
啊这个有可能是真有可能是假但是呢它后边会跟一个数叫置信度,像我让它做的一些测试里它置信度就只有49%它就是它拿不准。所以千万不要认为这东西零幻觉,而且呢它这个模型最后的判断准确率也就是68%,你也不要认为说它就是对的啊。
千万千万不要抱有这种幻想,先把他不能干什么说明白了然后呢咱们介绍一下这公司。这公司呢叫TypeSafe AI在旧金山2024年创建的,闷头做了两年到9月15号才露面。露面是宣布两件事:第一个是我的模型出来了到底能干什么;第二个拿了种子轮融资4,000万美金DCVC领投。
媒体援引知情人士说估值是2亿美金上下,大家注意啊他并没有真正的披露说我这4,000万美金投进去了以后啊估值是多少。如果4,000万投进去估值是2亿美金的话那就是占20%啊这个是有一定的代表意义的,说明这个公司的议价权并没有那么强。
有时候这种议价权很强的公司他们基金的占股比例会非常低的啊。创始人呢叫阿尔梅达原来是OpenAI后训练团队的,大家注意啊他是后训练团队不是预训练团队这个后边我们还会讲。他是InstructGPT那篇论文的共同作者,ChatGPT背后那套人类反馈强化学习就是他们发明出来的。
他现在的说法非常有意思啊,他说的是人类反馈强化学习优化的是人类的偏好而不是任务的正确性。这个行业做出来的是更便宜的软件而不是更聪明的软件,说白了就是模型被训练成听起来对而不是真的对他管自己参与发明的那套强化学习给了个名字叫做什么呢一条奇怪的岔路。
这个对于后边我们去判断这个模型到底能干什么是非常非常重要的啊。说这个公司的名字叫TypeSafe叫类型安全,这个对于程序员来说大家都很容易理解但是对于非程序员来说呢稍微解释一句啊什么叫类型安全就是我们规定了这个变量只能存整数你就不能往里存小数、不能往里存字符串。
这个就叫类型安全,只要我规定好了它就是写死了你往里去存其他东西啊它就报错啊就是这样的一个编程特性。它呢声明好了我这个里头只有四个答案绝对不是三个也绝对不是五个就是四个答案啊名字叫Jev,J-E-V。它呢其实是杰文斯的一个缩写,杰文斯是谁呢是19世纪英国的经济学家。
他呢发现了一个很反直觉的事情:蒸汽机烧煤的效率提高了,煤的消耗不降反升因为便宜了用的地方就多了。这个呢叫杰文斯悖论,在最后我们去讲Jev模型对于整个行业的影响的时候还会用到。官方博客的原文是这样的:智能的成本每降一个数量级,用得上的场景就会多出几个数量级来。
这家公司把赌注直接写名字里了,第三个有趣的地方叫快思考慢思考这个是引自于卡尼曼的《快思考慢思考》这本书。现在的大语言模型一般都是System 2系统二是很慢思考的为了什么呢就是希望能够得到更准确的结果。他比如说我要一步一步的去进行推理需要对推理进行循环需要把各种的推理分叉然后得到一堆结果以后再去归并起来。
这个就属于很典型的深思熟虑的一个过程啊我把各种可能的结果都摆明白了看看是不是有一个最好的结果出来这个叫系统二。而Jev呢就属于叫系统一一次前向计算所有候选一起算完不吐字,就属于什么呢?人有时候会做这种直觉判断我看到你就觉得讨厌。
后边呢我就不停的找各种理由越看你越讨厌我们经常讲的叫疑邻人为贼,我看着他就贼眉鼠眼的我看着他像小偷后边我就找各种各样的理由证明他是小偷。一开始的第一眼就是系统一所以呢这个公司管他们的模型叫做系统一模型也是这种快思考模型。
现在的Jev呢只能做三种题:第一种题叫是非题,就你问它一句真的假的返回0和1的概率是0的概率是多少、一的概率是多少;第二种呢叫选择题,最多给它255个候选项里头它给你挑一个出来然后呢给每个选项做一个概率说我给你排一个序啊第一个选项它这个概率是多少第二个选项概率是多少你这一次最高概率的是哪一个你就挑它就可以了。
第三个题呢是评分题,给你一个量表上直接打分给它100个数你去给我打分去1-5分打完分以后告诉你说我这个置信度是多少啊。它现在就能做这三种题除了这三样什么都不会了,它不会写文章、不会写代码也不解释为什么。所有图片声音视频啊一律都不行。
收费呢特别有意思啊这个东西反过来的咱们正常大模型都是三个收费价格:第一个收费呢叫输入价格,第二个收费呢叫有缓存输入价格,第三个收费是输出价格。通常呢第一个价格比如说是一块钱啊第二个价格可能是两毛钱第三个价格呢可能是10块钱它一般是这样的就是输出最贵其次是输入,最便宜的是缓存输入。
而这个Jev的收费呢是只有输入价格没有输出价格哈它也没有缓存的事,它的输入的上下文就是32K也没有什么100万token上下文这种事没必要。为什么它输出反而是不要钱的呢?因为它输出就输出这点东西可能也就是几十字节或者撑死了100字节的一个JSON结构化的结果告诉你说是0还是一这个几率是什么样的就完了它没有更多的输出了。
我就算输入的钱,输入就是100万token 4.2美分非常非常便宜。那为什么这样的一个模型它有价值呢?这个我是这个我觉得需要跟大家讲清楚啊,咱们现在让大模型去干活不是说你给我生成一个报告就完了而是说你给我生成一个报告这个报告必须要使用真实的数据、必须要引用可信的信源的数据。
哪些是必须要引用论文的?哪些必须要引用新闻媒体的的不可信信源一定要标注出来这才是报告真正的写法。传统的大模型怎么干活?先生成一遍你后边不是有一大堆的这个要求吗再让这个大模型一遍一遍去核实这些要求。在这个过程中呢再去调用工具比如说搜索呀网页提取啊做完了以后再去做核实而且所有这些动作都是用最贵的这个模型做的。
为什么最贵的模型?因为你前面生成内容的模型一定是最贵的啊你说我写报告这就是我交的作业嘛一定是有贵的就不使对的啊所以整个的一套系统都是用最贵的模型把它跑完。我自己用我自己的一些技能去做了这种拆解,我的校验用的token通常是整个token消耗量的一半左右50%左右。
那这费劲了你想我用GPT-5.6 Sol啊或者是用GPT-6 Astra去做一个很复杂的技能流程的时候有一半的token都是去做校验去了那这个没必要啊所以我们就干脆把这一部分省出来所有需要去做校验的部分都扔给Jev去做就完了你就不要自己去做校验了。
那这个成本一下就降低了,它现在的成本呢是GPT5.6的二百分之一效率的话比GPT-5.6大概快400倍左右。我举一个实例吧,我呢每周三要做老范读评每周三北京时间晚上8点把这一周的评论呢都拎出来去跟大家聊一聊找其中有趣的聊啊说老范你真棒和老范你真傻这样的就删掉了。
我呢最早是人工判断我要把一周的所有评论都看一遍现在呢就改成让GPT去看会要求它什么呢?太长的超过180字直接删掉啊太短的删了中间呢找一些情绪比较强烈的信息量比较大的跟我这个内容相关的发给我。那GPT干的活是什么呢?打开浏览器先去排序啊按时间排序过去7天所有评论都翻出来然后呢就一条一条的去做判断去了。
用GPT-5.6 Sol去做判断这事是很痛苦很贵的,那以后我就可以把这个事情交给Jev模型去干了啊。先去把这个视频的标题和视频的简介拎出来再把一个一个的评论拎出来扔进去说你去给我做判断去吧这个是不是太长、是不是太短啊?
是不是有有效的信息补充说的事跟我们现在讲的这个视频是不是相关的里头是不是有很强烈的正面或者负面的情绪啊你就可以让它去做判断了。而且注意啊这个判断是可以并行做的就是它可以一次性把所有的问题都提好它就并行的给你都吐出来了,这个效率非常非常高。
我自己呢也做了一个测试啊我拿5个真实场景跑了一轮全部都跑完了以后一共花了我多少钱呢?大概是0.01美分啊就非常非常便宜基本上可以忽略不计了。就算是我每天调个几千次一个月呢大概也花不了几美金的一个程度。那下一件事啊大家把它用起来怎么用呢?
第一条路最老实的路径就是去官方排队它现在有waitlist在呃TypeSafe.ai上去排队去等个一两天就能批啊这一块呢是可以用上的但是没必要。现在呢呃我使用的是第二条路叫Vercel这个网站上啊它呢是一个呃轻量化的云服务的网站上面有各种各样的AI模型调用的这种服务直接在上面绑卡拿key就可以调用了。
国内的Visa、Master卡都支持啊直接绑上就可以用因为实在非常非常便宜所以你不用太担心说绑上以后这个钱哗啦哗啦就花掉了。我前面在OpenRouter上的绑的卡那个花钱确实是很吓人的最后我只能把它解掉了实在是受不了。其他的呢赛博菩萨Cloudflare上也有但是呢那个上面你需要订阅一个5美金的Workers的套餐否则的话不让你用。
现在最便宜的马上就能用上的就是Vercel这个网站上,那很多人说你这说了半天这么热闹我使不了啊我不是程序员啊这API我不会调怎么办?这非常非常简单啊直接找Codex呀Claude Code呀或者你自己用的豆包啊这些工具然后直接跟他说我要在Vercel上使用Jev这个模型我的key是什么啊把它给我封装好完事了啊。
他就给你直接做好了下一次你再去做技能的时候你就直接跟他说你现在给我设计一个技能其中所有判断的部分扔给Jev去做搞定你不需要写任何的程序就可以在你的复杂技能中把所有判断都外包给Jev了这个是完全没有问题的。但是这一步呢有一个动作非常重要不能省掉就是质量评估你让它去修改你的技能的时候一定要让它去做质量评估你去看看修改了以后我得到的结果质量是不是下降了。
如果质量下降了咱们看看如何去调整这个怎么调整呢就是调整输入信息因为你直接问它说哎这个硬币我扔出去应该是正面还是反面它能判断的准吗?它肯定判断不准那你要找到充分的信息输入进去它才可以去进行比较好的判断。怎么去喂信息进去呢?最好的方法就是上程序啊写一个Python代码当然这代码也不需要你写让AI去写啊说请帮我这个数据去进行如何抽取。
抽取了以后呢去做这种Jev的判定或者呢就是做RAG就是通过这个Embedding的模型去做这种矢量空间的召回拿了这样的东西以后再去扔给Jev模型让他去判定把数据整理好了格式化好了给它啊不是说越多越好啊把不相干的内容放进去以后准确率会下降的。
说我实在是搞不定啊这些编程的东西也没有RAG的这个本地知识库怎么办呢?还有一个很简单的方法就是找最便宜的模型比如说GPT-5.6 Luna这样的模型说把这么多的数据扔进去给我去做一个信息抽取出来按照一个什么样的格式给我抽好了然后把抽完了的结果扔给Jev模型去做判断啊这个也是可以的。
而且记住了一次问一堆的问题进去千万不要说哎真的假的呀下次再问一个给我打个分啊不要干这个活一次把一堆问题全问进去就是你输入一堆的问题啊这个是效率非常高的。有人做过测试一次塞了1,500个问题进去呃610毫秒也出结果了。
所以啊这个外头已经玩疯了啊游戏是重灾区,有人拿这东西去打超级马里奥去问说这个界面怎么样当然读界面和界面这一块呢是由其他模型来搞定的他只负责判断说往前走到底会不会有坑现在我跳一下能不能过去啊他做这样的判断。还有人拿它去打Doom以及像什么俄罗斯方块、啊吃豆人啊五子棋啊都有人去测试了非常非常好玩。
当然也有人拿它去接无人机了啊刚才咱们不是讲说接机器人、接无人车这事是有问题的吗?它是这样的就是呃基本动作啊你还是要让传统的模型飞控系统啊让这个玩意去做但是呢一些逻辑上的战术判断你是可以交给Jev的。我应该向左飞还是应该向右飞啊?
我应该采取一个什么样的策略路径怎么选择呀这块扔给Jev效果也还是不错的。真正有用的呢是工具这一类啊你比如说我现在做语义防火墙挡住Agent什么时候该调工具、什么时候不该调工具。因为什么呢如果你不拦着它的话有的时候这个Agent自己就找去工具调用去了会给你浪费很多token。
你让它先判断一遍我到底应该是向左边走向右边走啊应该调哪个模型啊是应该调浏览器啊还是应该调搜索呀还是应该调页面提取啊这些东西你让Jev去判断效果非常非常好。
他们测试了可以实现94%的错误工具调用的这种拦截那这就可以给你省太多token了。还有人拿它去扫了GitHub上的提交自动分出来哪些是修bug、哪些是补安全漏洞这个效果也很好。我最喜欢的一个呃案例是什么呢?叫人类编译器,大家听听是不是很有意思啊就是把公司里头那些阴阳怪气的邮件当代码编译一遍啊然后呢出一个报告
说哪句话是假装紧急,哪句话是骂人呢?编译一次以后扔给老板去看一看啊。那以后这种性格耿直的老板就可以看出来哦,原来你在阴阳我啊!这个以前可能很多人看不出来啊,让你阴阳了以后还自己暗自开心啊。这个以后就不会有了。当然如果公司做了这种人类行为或者是语言编译器了以后,会不会造成一些其他的损害啊?咱就不负责任了,只作为趣事跟大家去分享。
这把这些加起来呢,就说明一个结果:这个判断这道工序一旦便宜到可以忽略不计,人就会开始往一切地方塞这个判断。杰文斯悖论就会实现啊!当这东西便宜了以后,你们就会疯狂使用。Jev会怎么改变AI行业呢?首先呢咱们先说Jev这个东西是不是可替代啊,它门槛到底高不高。这事呢判断不了,因为什么呢?什么都没公开:不开源、没发论文、权重不开放、参数量架构没说,怎么去训练的?用了多少数据?用了多少卡都没说。他只是说我所有的数据都是生成数据,用这些生成数据去训练的。
它的创始人阿尔梅达的说法是论文暂时先捂着啊。既然是这样的话,估计它的门槛应该不是特别高。它准备先申请专利,申请完专利以后再去发放论文。但是这个窗户纸呢应该并不厚。有个叫做休姆的人做了一整套探针测试,从外面呢推断出这个Jev应该是一个稀疏专家混合模型。活跃参数呢大概是10B左右。最关键的一句呢,在Hacker News上有人留言说:这东西说白了不就是零样本分类器吗?
阿尔梅达原话是这样的,说完全正确,就是一个零样本分类器。所以呢,想得到这样的东西并不复杂啊!你找一个几B或者是10最多10B的一个MoE的小模型,你去做微调不就完了嘛。只干这一件事的话,效率可能比Jev稍微差一点,但是也差不了太多。Jev可能一方面是判断的便宜,它在效率上在并行上应该还是在下了一些功夫的。但是呃做这种判断模型本身应该并不难,各大厂现在应该都在路上啊,很快就会推出类似的产品。
这东西一旦铺开了,token消耗特别是这部分验证的token消耗就会急剧下降。现在大家很多模型已经不敢用了,像什么GPT-6啊、Fable 5.1啊都不敢用了。原因很简单就是太多的回路需要验证,太多的循环在里边去转圈。做一个很简单的事情,5小时额度就直接给你烧光了!以后如果把判断的部分外包给Jev这样的模型,把信息抽取这样的事情扔给比如5.6 Luna这样的小模型。
各行各业里的使用量一定会翻番的、翻上去的!所以对于股票来说呢,可能会先承压再腾飞。token使用量下降了,那对于像英伟达呀、美光啊、SK海力士这些股票来说就会承压了。原来大家设计的这么多算力可能用不掉了,但是就跟前面这个杰文斯悖论似的:因为便宜了,所以这个应用场景大量的爆发。未来一定还是会腾飞上去的!
至于这家公司TypeSafe AI这家公司,赶快把它卖了吧!因为这种单独做一件事情的公司它最后的商业变现是会很痛苦的。你这样的一个只有小聪明的产品,你指望它做大做强最后去跟OpenAI、Anthropic竞争?想太多了啊!趁着现在这个时间点正热的时候,找个大的团队把它卖掉。OpenAI、谷歌这些大公司啊赶快把它收进去,大家皆大欢喜一下就可以了!
最后呢咱们要说一下Jev这个模型呢可能会很危险。在TypeSafe自己的公告里头也总结了一下这个Jev的准确率:67.8%,其实还不到68%。重点不在这,同一套题其他的分数啊:GPT-5.6 Luna是66.8%,Terra是67.9%(就是比这个Jev还要稍微高一些),Sonnet 5是67.8%(跟这个Jev是一样的)。Opus 5是73.1%,GPT-5.6 Sol是74.1%(是最高的一个)。
所以呢Jev的准确率在这个里边叫中规中矩,它真正强的地方是快和便宜。所以如果你花了几百倍的钱只得到了一个跟他差一点点的这种正确率,那就没必要了。咱还是使Jev吧!那这样的一个情况下为什么说它很危险呢?因为你任何事情都让它去做了判断。而且很多人其实对判断只看一个结果,并不去看置信度的!
很多的这种冤假错案、很多的固有印象或者说好听叫第一印象,就会进去参与判断。而且就会把你的各种的结果啊搞得偏差很大!这才是真正危险的地方。比如说我看着你不像好人啊,贷款我不给你审批了。假设做了这样的一个判定进去它也不给你解释为什么?里头虽然有置信度,但是很多的软件或者是技能做的时候可能压根就没读置信度。
就会出现这样的结果:很多的我们叫固有印象或者叫刻板印象,其实已经被训练到这种模型里去了。前面这位创始人的话也是讲得很清楚的:我们训练的不是训练它做出正确的结果,而是训练它符合人的第一印象啊!以后这些刻板印象就会进到大模型里去。而且因为它太便宜、因为它太快,以后大模型整体做出来的答案就会更加符合我们的刻板印象一些。
还有一个很危险的是什么呢?就是SEO!SEO是什么?就是我们针对搜索引擎进行优化,让我们的内容可以排得比较靠前。既然Jev这样的东西已经公开出来了,我们现在想做一些GEO(就是生成式的优化),就可以去针对Jev这种判定模型去做专项优化。怎么能够让自己发出的这个新闻看起来更像是真的?
大家注意我说的话啊,不是说更加真实,而是看起来更像真的。在Jev里头打分的时候可以打得更高!道高一尺魔高一丈啊,只要是有判别标准就一定会有人做专项优化。这都是非常非常危险的!说到底呢叫官僚主义,以前呢是有人看了你一眼啊说嗯你这人不像好人。以后呢可能连看你一眼的这个人都不见了,AI把你的简历把你提交的各种资料咵一刷直接刷掉了。
为什么都不告诉你?最后总结一下吧:Jev这个模型呢还是挺好玩的,该用就用啊。成本低到可以忽略不计!但是大家一定要注意:你请回来的并不是一个明白人,只是一个符合人类基本认知的、或者是叫符合人类刻板印象的、能够做题做到68分的一个判定器。不要盲目相信它!
啊这就是我对大家提的最后要求。好今天这个故事就讲到这里,感谢大家收听。请帮忙点赞、点小铃铛!参加Discord讨论群也欢迎有兴趣有能力的的朋友加入我们的付费频道。再见。