它把那里的和声加倍了,你甚至能听到一种底层的音调。>> 我是凯丽。 >> 打个招呼吧。 >> 今天我们要让 OpenAI 最新款和 Anthropic 最新款的模型进行一场智力与风格的正面交锋。在深入之前,欢迎订阅频道,让我们先介绍一下今天的两位选手:左侧是 Anthropic 的 Claude Sonnet 5.5,右侧则是 OpenAI 的 GPT-6.1 Soul。

今天的测试将包含四个特定环节,旨在更客观地评估它们在真实世界用例中的表现。这些任务涵盖了广泛的能力维度。除了一项测试外,其余所有测试都将在这两个模型上以最大推理力度运行——即 Sonnet 5.5 的 Max 模式和 GPT-6.1 Soul 的 Max For。其中一项测试,我们将让 Sonnet 5.5 使用 Ultra Code 模式,而 GPT-6.1 Soul 使用 Ultra 模式。但在其余三项测试中,两者均处于 Max For 状态。

制作本期视频的原因是,在我此前发布的评测视频中,Sonnet 5.5 似乎彻底碾压了 GPT-6.1 Soul。这种结果让我感到有些不安,因为直觉上这似乎不太合理,仿佛哪里不对劲了。我理解这两款模型都还比较新。诚然,从历史角度看,GPT-6.1 Soul 和 Sonnet 5(注:原文误读为Sonnet 5,实指前代或泛指)确实不在同一梯队,但 Sonnet 和 Soul 系列也并非存在了永远。因此,它们之间的竞争关系可能会随着迭代发生变化。

我之所以选择将这两者进行正面交锋,而不是通常预期的 Soul 对决 Opus,是因为在之前的测试中 Sonnet 5.5 表现得比 Soul 更好。这与我预期的逻辑不符,因此需要通过本期视频来验证。今天的四个测试旨在兼顾趣味性与创意,同时展示一些更贴近现实的应用场景。第一个是简单的入门级测试:我们将给它们一张由 AI 生成的图片,要求它们在 Blender 和 Godot(原文误读为 GDAU)中完美复刻这款游戏。

我们要实现像素级的精准还原,将其转化为一款游戏形式的项目。这是一个相对简单且更贴合我们测试风格的任务。紧接着,我们将提供一个基于我个人实际需求的真实世界用例。我有一个旧机器人项目,其物理设计已完成,但软件部分仍停留在过去。两年前,我是用 GPT-4 通过“氛围编程”(vibe coding)拼凑出来的。

现在,我们将向模型提供所有资产:包括 3D 打印文件、现有软件代码,以及一个提示词,要求它们完全重新构建一套新的软件营销栈。这包括重塑产品的整体氛围、创建一个网站,让机器人上的功能正常运行,并实现语音聊天伴侣的功能。虽然测试细节稍后揭晓,但本质上,它们将扮演联合创始人的角色:我是负责硬件工程和产品制造的工程师,而它们则负责打磨产品、设计用户界面(UI)、品牌塑造以及市场营销。

接下来,我们将进行一项我称之为“平行泊车测试”的新挑战:利用摄像头画面,让两个模型分别控制一辆实体遥控车进行平行泊车。最后,有一项我个人最期待的测试:我创作了一首说唱歌曲。我在 GarageBand 中自己制作了伴奏,用 iPhone 录制了人声干音,并外出拍摄了许多随机镜头。视频时长约 50 秒左右。

我们将向两个模型提供所有分轨文件:歌曲的音频文件、人声轨道以及视频片段,并告诉它们需要将素材制作成一支高质量的视频,用于推广这张并不存在的专辑。因此,模型需要完成音乐混音与母带处理、视频剪辑、动态图形制作等工作。这些工作通常原本需要动效设计师和音频工程师才能完成。测试种类相当丰富,让我们开始吧。

今晚我们要进行的第一个测试可能是相对简单的一项:复刻这张图片并将其转化为游戏。我知道我们常做游戏评测,但由于通常仅基于文本提示来评判输出结果,很难客观衡量做得好坏。我希望以一种更易于量化评估的方式进行测试。这张图片是使用 Google 的 Nano Banana(注:可能指特定模型或工具)生成的,场景是一场拆迁德比赛车比赛,车辆为福特 Crown Victoria。

这种车型外形极具辨识度:如果你在美国生活过,会知道它们曾长期被用作出租车和警车。因此,它们在街头随处可见。我要求模型复刻图片中的游戏场景,但附加了一些严格的要求以确保结果的准确性。这样我们就有了具体的参照物来评估图片转化为游戏的效果。在提示词中,我指定使用 Blender 和 Godot(原文误读为 GDAU),要求像素级完美复刻图片中的游戏。

这里有一些必须满足的严格条件。请注意,虽然提示词文本中没有直接包含图片描述,但模型在开始时首先查看的就是这张参考图。因此不用担心它看不到图像的问题。必须包含软体碰撞变形物理效果:当车辆发生撞击时,需要产生逼真的凹陷等形变。车模必须与参考照片中的车型完全一致。我没有告诉模型这是福特 Crown Victoria,因为我不想让它们直接去网上搜索并下载现成的资产包——毕竟这是一款过于常见且流行的车型。

必须包含三种视角:第一人称,即坐在车内看向仪表盘和方向盘;第三人称,即位于车后的追逐视角;以及电影感视角,以 cinematic 的方式展示场景。必须包含音效:车辆模型需具备真实物理特性,包括悬挂系统和可见的发动机部件。如果引擎周围的护板脱落,我要能直接看到固定在车头的发动机本体。如果消音器掉落,排气管的声音应该变大;轮胎可以爆胎等。

在最大努力模式下,GPT-6.1 Soul 运行了不到一小时四十分钟,并生成了结果。我们现在可以预览一下最终效果。这是在 Godot(原文误读为 GDAU)中的运行结果。我们可以看到,它有一个不错的开端:

屏幕和整体背景,比如泥地之类的都做得不错。我要说这些对汽车的呈现相当简单。这里几乎没有曲面,或者至少不多。不过,让我们开始这个游戏并全屏显示吧。好的,侧面有点……没关系。现在碰撞音效听起来不错,而且那辆车就在我们这边。

有意思。你注意到声音在车内变大吗?哦,看那个。好的。噢,看到了。好吧。到目前为止,我喜欢这个部分。我们的消音器掉了。正如我们所见,车尾凹陷了,而且车内的声音变大了。这就是我们要的那种真实感。

哦,看那个。你看,那里有可见的发动机模型。还有可见的车架纵梁。我相信我们的侧面可能也凹陷了。让我看看能不能……是的,程度不高。引擎盖丢了。发动机暴露在外。好了,右前轮胎被扎破了。我们可以更清楚地看到其他车上的发动机。我想我们可能会赢。哇,那里有悬挂系统。轮胎被扎破确实能看出来,因为车子只是在轮毂上行驶。注意温度。那个消音器刚刚掉了。所以我很喜欢这一点。

我想我们会赢的。

好的,好了。总的来说,这很简单,但也不坏。我们有悬挂系统之类的东西。所以总体来说真的不错。方向盘实际上从车外是可以看到的,我们可以看见这一点。让我们看看能不能把它撞烂……是的。好了。噢,那很不错。我很高兴我们做了那个操作。零件掉落之类的效果都出来了。所以总的来说,这是一个值得尊重的结果。

然而,既然我们提供了一张参考照片并能够客观地评判这里的结果,我会说这并不真正是对源照片的复制。这是它给我们的合成照片的样子。然后如果我们回去看原图,就像眯着眼睛看什么东西时那样,看起来像是一个完美的复制品。所以我实际上很好奇并且感到沮丧,因为看看它最后说的是什么:“你的严格精确匹配要求仍未满足。模型是近似值,物理引擎使用围绕刚性底盘的可变形外壳。”我没有停止它。我也没有说“快点,你时间不多了”。我什么也没做。它是自己说出这些话的。所以我跟进问为什么,并引用了它说的话,因为我为了

让可玩的原型运行起来走了捷径。那是我的实现选择,但它未能满足你的严格要求。“我生成了颜色和编号匹配的 procedurally(程序化)轿车,但没有精确复现参考的形状和细节。图像也留出了内部结构和隐藏表面未指定。”这没关系,我对物理引擎没有意见。“刚性底盘处理驾驶和碰撞,而单独的梁格结构使外部变形。它产生永久性凹痕,但车辆结构并不完全决定碰撞反应。”需要满足你的要求就需要结构性软体碰撞物理引擎和更加忠实于原貌的建模过程。额外的视角或原始资产可以解决缺失的视觉信息,而我并没有回应这一点,因为我很

生气。所以我觉得这很有趣,就像它说的那样:“是的,这更简单一点,但我做了这个选择。给你。”所以我不太确定该怎么看待这件事。然而问题是这只是我们得到的结果,我们能够基于源文件客观地评判它。别误会我,不太可能至少这一类模型能够正确地做到1:1的复制,但我

绝对可以使用一个更忠实于特定车辆的模型,哪怕只是那样也好。所以我对它的冷漠感到有点惊讶。接下来是Sonnet 5.5的结果。它也是在最大努力下运行的,仅通过这些截图,我们至少可以看到汽车模型在现实中看起来稍微更忠实一些。我不太记得具体花了多长时间。我也没有特别关注

实际时间。这项测试更多地符合原始性能和能力的考量。哪个更好?所以让我们看看现在Splender和GDAU基于Sonnet 5.5的结果。好了,到目前为止它加入了一些音乐,你知道的,我觉得还可以接受。我要说整体……我得把这首音乐调低一点。它很分散注意力。这里整体的环境

看起来可能有点俗气。不过我们这里有好多车。好的,我希望看到我选择的具体汽车以漂亮的展厅风格展示在这里。好了,对手。我可能会选三个,然后是英里每小时和公里每小时。好的,让我们……

好了。这是……这真是胡说八道,但是呃,汽车模型在忠实度方面绝对更好,因为它们确实有一些曲面。这部电影般的摄像机运镜做得相当不错,而且似乎当你被淘汰时,镜头只是跟随剩下的那辆车直到没有车剩下。所以我们可以看到拖车和凹痕还在,但老实说,噢,这实际上是一个展示发动机模型的好角度。地上也有很多零件。按Enter进入新的德比大赛。好了,让我们这次试着做得更好一点吧。

电影般的碰撞镜头做得相当不错。后窗玻璃碎了。我们在左下角有一个类似变形或健康指示器的东西。这让我想起了PS1上的《Destruction Derby》游戏,这很酷。爆胎然后是轮胎。所以,

按Q进入。实际上我想试试别的东西。让我们……多少?好的,我们选那辆青柠绿色的车吧,因为那样对我们的视野更好。好了。是的。是的。这是有全部对手的情况。噢,我想电影般的摄像机只是转向最先发生或当时正在发生的碰撞。是的。

使用电影般摄像机时有奇怪的声音。噢,好的。这是个问题。掉落的零件仍然像网格碰撞体一样存在。所以你呃……多少?好了,让我们最后用一名对手做一次吧。噢,这会很精彩。电影摄像机。

我喜欢这一点。而且我们也有可见的悬挂系统。让我们趁现在快速看一下那个发动机模型吧。

好的,你知道的,我必须说这玩起来挺有趣的。我打算再试一次。

好了。它们都有优缺点。这绝对更像是一个问观众的问题,但客观地说,我认为这次复制得更接近原貌。但这有一些bug,比如当零件掉落时。假设有一扇门掉在地上,那扇门上仍然有网格碰撞体。所以如果你撞到它,你就会停下来。虽然也许在现实生活中那会是

这与事情应有的样子更加一致,这很有趣。我认为这里最大的收获是,这些甚至都不是各自提供商旗下的顶级模型。而它们仍然能够完成诸如此类在一年或两年前会令人惊叹的操作,这确实很酷。我们的下一个测试将是这些模型及其能力的一个非常现实的应用场景:我将把两年前创建的一款机器人聊天桌面伴侣的文件交给它们,基本上是用当时最新的模型通过“氛围编码”(vibe coding)来编写软件。那时可能是 GPT-4 或 GPT-4o,所以这是一个我拥有的项目,本质上是一个产品。它是实体的,已经制造完成,而它们的任务是彻底 overhaul(翻新/重构)其软件元素,并为其创建一个品牌套件。

因此,我基本上是将它们视为联合创始人:我是技术方面的联合创始人,构建了它、设计了它并进行了 3D 打印;而它们则是需要营销它、创建一个能真正向人们销售此产品的网站的联合创始人。此外,还要为此创建美观的用户界面(UI)和软件。因此,提示词基本上是这样的:稍后我们将查看的这个文件夹中包含一个名为 TalkBuddy 的产品。它是一个具有头部运动系统、扬声器和麦克风集成以及复古未来主义设计的 3D 打印聊天机器人。指南中描述的最初软件是在两年前制作的,且严重过时了。所以让我们快速看看具体是什么情况。

当我说它“严重过时”时,我真的是这个意思:基本上第一条指令是从 OpenAI 获取 API 密钥以使用 GPT-3.5 或 GPT-4o。还有一些关于设置显示屏、音频驱动程序等方面的说明。现在,此外,如果我们回到那个文件夹——我刚才不小心把它关掉了——我们还会看到它有一份使用说明书。这是我亲自制作的,旨在展示如何完成这项工作。将其提供给它们只是为了让它们完整参考这个产品是什么样子。我还想快速滚动浏览一下,以展示一些关于设计的内容,以便我们在看到后续结果时也对其熟悉。

基本上,它是一个带有显示屏的树莓派,以及一些扬声器系统和头部运动系统。其最终成果是一个桌面机器人聊天伴侣,屏幕上会出现一张脸,就是这样。最初的那个使用了一个非常简单的 Python 脚本,是用 GPT-4 “氛围编码”的。它使用了谷歌文本转语音功能并会回应你。你可以给它放一张人脸图片,它具有基本的嘴部口型同步精灵模拟功能,以及你能找到的最便宜的文本转语音或语音转文本服务。

你的任务如下:为此聊天机器人创建全新的软件。对话能力现在由 OpenAI 实时语音 API 驱动,详情如下。新软件需要一个完全翻新的 UI 和设计,既要与机器人的物理设计很好地集成,又要显得高端且充满未来感。对话需要由……(此处链接到 OpenAI 实时 API 的文档)驱动,这在几年前尝试构建此类东西时是一个很大的阻碍,因为任何语音交互(voice-to-voice)的延迟都非常糟糕,这真的破坏了沉浸感并使整体产品体验变差。

这里有一个你可以用于本次会话的 API 密钥。我告诉它们这是一个一次性使用的密钥,所以不用担心泄露或使用它。当软件翻新完成后,将其放在一个文件夹中,并附带一份供智能体(agent)将文件安装到树莓派上的说明文件。确保设置好一切,以便我可以将其交给智能体,然后它将自主为我配置机器人,专门用于本次测试视频的目的。这项任务的下一部分是品牌/产品营销和契合度。聊天机器人的设计已定稿,3D 资产包含在此仓库中。我实际上已经给了它们 3D 模型文件。这是为了 3D 打印而设计的,以便它们可以查看并使用这些资产来渲染产品照片。

就像我们在手表网站中所做的那样,我们告诉它们需要以 Keyshot 风格渲染该 3D 手表的电影感英雄部分。这里提供 3D 资产的原因正是如此。它们还需要创建产品名称、品牌设计以及氛围感。此任务应包括以下内容:一个完整的高端网站,展示 Keyshot 风格的产品渲染图。使用我在此包含的 3D 资产构建它们。带有新 UI、聊天机器人品牌等的模型和渲染图。一个完整的 15 秒动态图形广告,旨在用作其发布时的营销材料。

老实说,我不知道这花了多长时间。同样,我不太担心具体的时间,而更关注最终结果。然而,这令人沮丧,因为它不断运行渲染命令的命令,但如果它不喜欢某些东西,就会删除之前的渲染结果。每次这样做时,都需要我的批准。最后我想说:“伙计,我得去睡觉了,我不能坐在这里 babysitting(保姆式看护)这个。”所以我告诉它,与其删除文件,不如将它们放入一个文件夹中以便稍后删除。然后我们就克服了那个问题,就像这里显示的那样。

我们可以看到它制作的一些渲染图,以多种颜色查看 UI,因为它也必须构建这个。然后我们有一堆东西的汇总,包括网站、营销视频以及当然还有此软件。所以我想首先看一下网站,然后我们会看视频,然后再实际测试软件。这是我们的 Perry 网站的首页,Perry 是这个聊天机器人的名字。我们确实告诉它们需要给它命名。好吧,首先最重要的是,这看起来非常好。我要直截了当地说,就个人而言,我无法制作出外观如此出色的网站来营销这款产品。

如果我要吹毛求疵的话,那里应该有可见的螺丝固定着这些扬声器格栅。不过我们会忽略这一点。“找人聊天”。Perry 是一个桌面伴侣,拥有由光构成的声音面孔,并且由于它具有头部运动系统,所以在你说话时会习惯性转头看你。哦,真酷。同样,前端是这里的一个重要组成部分,因为这是我本来没有能力制作出如此美学效果的东西。

以前或现在都令人愉悦的智能音箱都在倾听。佩里回首往事,大多数语音助手不过是角落里一个沉默的圆盘。而哈利有一个可以转动的脖子、一张像镜头一样的脸,以及在你还没想好它是否听到你之前就回答的声音。这是一台有礼貌的小机器,它会转向说话的人,在你说话时保持静止,并在你结束后进入睡眠状态。太酷了。

我们第一次通过用户界面 prominently 看到它。我也喜欢它将标志压印在盒子顶部,这是任何3D文件中都不存在的东西,所以它是自己完成的。然后这就是所谓的倾听状态吧?它听、转、说。粗体字,意思是真的很粗,不是那种“算了”的粗体。所以佩里反应很快,通过OpenAI的实时语音模型说话,不到一秒就说出第一个字,可中断且有两个麦克风,这是真的。太酷了,我们得到了一点动画展示它似乎在听我们要说什么的样子。到目前为止一切良好。

甚至连灯光看起来都有点不同,那里有点不一样。我们仍然看到压印的标志。让它显得合群的脖子。安静的齿轮颈部让佩里向每个方向摆动20度,我想是这样吧?缓慢而刻意地转向说话的人。它在你说话时保持静止,所以它的噪音永远不会盖过你的声音。然后我们在这里有一个不同角度的渲染图。屏幕边框似乎没有出现,但这可以原谅,因为它包含了这样的东西。做得很好,我喜欢这种互动元素的形式。

我的意思是,这就像是我应该删除测试的这一部分并把它放到Kickstarter上一样。好吧,它谈到了扬声器,甚至在那里有一些小的波形指示器。像这样的细节真的是一个很好的点缀。一张由光构成的脸,非常有趣。所以UI似乎有点出bug了,至少有一秒钟是这样。但看看这个。它实际上在这里有一个完整的UI演示屏幕:自动播放、计时器、静音,甚至静音图标也显示出来了。然后你可以改变它的情绪:倾听、思考。这是一个从销售角度来看非常非常好的功能。

好吧,然后我们在这里展示了它的不同状态。我们可以实际超链接点击这些吗?如果这个变橙色了怎么办?好吧,我不知道。但这还是很酷的。它只是向我们展示了不同的状态。这是一个未来主义的UI,我们要记住软件是它自己创建的。这种美学、这个用户界面……看周围,拖拽旋转,然后它给了我们一些维度。这一点我非常喜欢。屏幕边框没有出现仍然可能是一个问题。有趣的是,它实际上不允许我们进行360度旋转。

它的背面似乎没有像其他部分那样受到太多的精心照料,只是因为制造使其适合家庭制造的某些局限性。它还有另一种颜色选项,并且各个扬声器锥体清晰可见。这里提供的3D文件确实包含了扬声器的模型,因为它们在组装指南中是必需的。好的。瓷白色?我没看到佩里的标志在那里。所以,失败了。好吧,四种饰面,四种饰面,一种个性。

甚至就像这样放大标志:石墨色、余烬色、佩里(名字来源)、长春花色。哇。它甚至改变了背景颜色以很好地与其中一种相匹配。而且这些上面都有标志,这也是真的。这真的很像直播的样子。如果这是我正在发布的产品,我现在就可以把它上线。我对此没有任何顾虑。它拥有所需的一切,没有多余的东西。

将组件拆解开来展示爆炸图,这太棒了。真的就像我们做手表测试时说“制作一个爆炸视图”一样,它甚至给出了特定部件的工具提示。这些都是所有的零件。我的意思是就在那里,我完全没问题现在就把这个上线发布。这再次证明了这次测试的重点:好吧,我是一个能建造它的人,但像这种品牌营销的事情……不是我。而在这里,对于非常熟练的人来说本来需要大量工作的事,现在就在我们面前展示出来了。

我们有带有小动画的性格、数字尺寸等,很好。好的,我们看到它的背面……干净,非常干净。这里还有一些规格说明:问题与问答。它一直都在听吗?不。我需要OpenAI账户吗?是的。我可以改变它的声音吗?可以。它能在离线状态下工作吗?不。脖子有噪音吗?没有。除了聊天它能做什么?我不知道。我什么时候能拿到一个?

就像这个渲染图一样,这真的是在说:你好,加入等待名单。当佩里准备好时,我们会发送一封电子邮件。发布时只发一封邮件。没有新闻通讯订阅。这真的做得非常好。品牌指南。这是另一个页面吗?给它点空间吧。这就像是如何以正确方式使用我们的标志,有八种错误的方法。真有趣。这些在所有网站上都很常见。如果你去任何你熟悉的公司网站,比如英伟达(Nvidia),他们也会有像这样的“做与不做”指南。

所以这真的很了不起。如果这是我想要销售的产品,我会百分之百现在就把这个上线发布。如果你对这方面感兴趣,请在评论中告诉我。好吧,我的意思是这太棒了。我们仍然需要测试软件并确保这个东西真的能工作。但从品牌设计的角度来看,这里简直是完美收官。全垒打、满贯炮。哦,我们还有那个……是什么来着?这个广告。它同时生成了9:6和16:9比例的广告图。

所以如果我们打算在TikTok、Instagram或Shorts上发布这个,我们会使用这一款。让我们看看大一点的版本。“嘿,佩里。”“你好,我是佩里。”“打个招呼吧。”“好吧。笔记本电脑在渲染期间的温度达到了99到102摄氏度,这令人担忧。”

“嘿,你好吗?” “哦,你知道的,就像一台非常专注的镇纸一样安静地发光在你的书桌上。我在这里醒着并准备好聊天、计划事情或者只是消磨时间。你怎么样?” “你能把音量调大一点吗?Can you turn your volume up?” “当然。我会稍微帮你把音量调高一点。”

“你能把你的声音改成雪松(Cedar)吗?” “我不能切换到特定的命名语音如‘雪松’。但我可以稍微调整我的声音,比如更平静、更有活力或更舒适低调。如果你喜欢,选一种氛围。” “你有设置吗?我有可以打开的设置面板吗?” “没有大的设置面板,不。如果你要求的话我可以改变几件事,比如音量、亮度、情绪和计时器。如果你想有更多的控制权,告诉我你想调整什么,我会看看。”

“有什么可能?>> 你能开启计时器吗? >> 好的,我们来设置一下。如果你想要的话,给我持续时间和标签就行。计时器要设多久?你想要个标签吗?比如茶或者咖啡? >> 10秒。就标为倒计时吧。 >> 明白了。我现在开始这个短计时,完成后会通知你。已设置10秒倒计时,标签为倒计时。结束后我会播报。”

“时间到。倒计时刚刚结束。太棒了。谢谢。 >> 不客气,很高兴能帮到你。如果你需要另一个计时器,尽管说。”

接下来是GPT-6.1 Soul的结果。当然,也是在最大努力模式下运行。就在这里。这花了不到一个小时40分钟完成。我不记得Sonnet模型具体工作了多久,因为涉及权限问题。所以我对时间这类事情没那么关注。这更多是一场原始能力的测试。因此,我们这里有很多东西。

让我们像之前处理Sonnet结果那样,先从网站开始看吧。好的。现在我们有了Moat的结果,或者我猜它可能读作Modi(像emoji那样)。哦,那是GPT中任务完成的通知。我当时让它在一个本地服务器上运行这个网站。好的,我们可以看到这里确实有渲染效果,有趣的是它还包含了一个小小的品牌标志,这点我很喜欢。

“渲染看起来有点奇怪,UI也有些偏移。不过还好,按钮不错。我觉得这看起来很像是Claude的标志,但这却是GPT的结果。问题、旁支话题、“你心里在想什么日常琐事”。大声说出来吧。”

“好的,这是一个在美学上不错的界面。如果我们试试不同的呢?一个好奇的问题。片刻的专注。”

“好的,它确实有一些交互性,不错。我要说的是渲染有点奇怪。有趣的是它也包含了灰色调。两者都用了。我在想这是否意味着我也应该用灰色来设计?不幸的是,这里的渲染在间隙方面有点粗糙。而且侧面似乎还有一些奇怪的东西,我不太确定它为什么在那里,因为它在3D模型中并不存在。尽管如此,这个卡片我还是挺喜欢的。”

“除了UI偏移等问题外,它还有一些规格说明。更少的界面,更多个性。好的,简单的控制,清晰的声音,每次交流中都有小小的表情。”

“它刚才是不是动了?交互式预览。我非常喜欢这个功能。看这里,我们实际上可以与这里的UI进行互动和玩耍,我认为这是一个非常好的特性。我对实时字幕非常满意。头部运动已关闭。非常好。而且它实际上会眨眼等,还给了我们时间显示。所以这里也有一个时钟。”

“让我们聊聊。这很酷。我对这个UI原型非常满意。它可能在页面上可以大一点,但很有趣。它有那种类似Quen Capabra玩偶的外观,这挺有意思的。”

“好的,那太酷了。好公司。我喜欢这个渲染效果哦,播放电影。”

“所以这就是我们的广告片。然后我们有一些问答环节。什么是Modi或Mo?可能是Modi吧,好的。”

“它记得对话吗?我可以把它变成我自己的吗?随时准备就绪。然后我们有下载新闻包,这很酷。”

“渲染效果不错,还有一些来自网站的渲染图。很有趣。所以我喜欢这个功能:一点存在感,AI语音伴侣。”

“好的,现在让我们看看这里的结果。我喜欢这个部分。好吧,既然它是宣传语音伴侣的,我本来希望有一点声音元素,但做得很好。”

“这里的标志看起来还不错。除了有点像爪子(claw)的形状外,我喜欢这种黑底橙色的配色方案。”

“总的来说,这两者都做得非常棒,至少完成了这项任务。现在让我们来看看这个的实时测试。”

“嘿,你好吗? >> 嘿,我运行顺畅并准备好提供帮助。今天你在想什么?”

“你能把音量调大一点吗?能把声音开大点吗? >> 我无法分享我内部推理的直播流,但我可以谈谈我在做什么的大致情况。通常我先给出一个自然的简短回应,然后思考选项或解释并清晰地呈现结果。如果你想的话,我可以一边进行一边在高层面上解释我的推理。”

“我们在研究什么?哦,没什么。我只是放松一下。 >> 不错。听起来是个好地方。如果你愿意的话,我们可以聊聊轻松的话题,比如音乐、旅行、白日梦或者一点点金子。”

“嘿。你好呀。我在这里准备好聊天了。今天你在想什么?你知道吗,这很难。”

“哟,我在呢。我们要聊点什么?快问一个随机的问题。 >> 等等,你能等一下吗?稍等。”

“没什么。只是在这里待着,准备好帮忙。 >> 嘿,84乘以4等于多少? >> 84 * 4是336。告诉我关于数字336的一些特别之处。”

“336是一个高度合成数,这意味着它比许多数字拥有更多的除数。 >> 随便吧,书呆子。”

“这是个数学名词,不是秘密巫师协会。高度合成数只是意味着它有很多…… >> 没关系。谢谢。”

“不客气。如果你想的话,我们可以再戳另一个数字或者完全换个话题。”

总的来说,这两者在将产品从某种可以实际推出的状态(至少是收集MVP兴趣)方面都做得很好。我想先说明一下这一点。现在,我甚至不太想对这些测试发表太多意见,因为它们的设计只是为了展示模型的原始能力,其中一些事情可能是主观的。

“话虽如此,如果我要选择一个我发现……如果我今天要推出这个产品并且必须在这两者中二选一,比如假设这是由营销机构展示的两个演示文稿,我会选择Claude制作的那个。我觉得整体结果更加精细。”

“即使从网站来看,我们在这里有了大量的互动功能。像这样,然后当你滚动到底部看到实际出现的爆炸视图时……我的意思是,这里投入的努力程度、渲染效果与GPT的结果相比根本没有可比性。老实说,我不断在这个网站上看到额外的东西,让我想起‘哦对,它还能做那个’。”

“这仅仅是在深度上就远超前者。即使在品牌标识和UI方面也是如此,可以说这个软件在GPT的结果上要差一些。”

“选择它几乎会是愚蠢的,因为它的营销元素要弱得多。我很喜欢这个(GPT的结果)。然而,当我们并排比较这些网站以及其他所有额外的元素和投入的细心程度时……”

老实说,这一点真的非常引人注目。接下来我们谈谈软件方面,两者都运行良好,表现也不错。但有一件事让我有些惊讶:你可以让Perry调整音量,它确实做到了;你也可以让它启动计时器,它也执行了。不过先别提计时器那件事了。我尝试让GPT-1调整音量等设置,但它做不到。当时有一个相当简单的设置面板可以进入,让你选择更改语音或调整音量等选项。

然后向后移动,这本来会让事情变得更简单。即使有这一点以及它因此受到某种限制的事实,它也做得非常出色,在我切断之前,它从未真正进入那个位置。我给这两个模型各一个小时来执行这项任务,我更感兴趣的是观察它们采用的方法论。因此,最终的结果是:“好吧,既然你已经完成了这一步,能否请为我创建一个简短的动态信息图,展示你采取的具体方法?让它成为观众可以学习的内容,比如‘哦,原来代理是这样操作的’。”

这就是GPT-6.1 Soul生成的关于此任务的29秒旁白影片,其中包含它使用的一些截图等内容。将一辆红色陶氏车停在两辆车之间。相机框架引导代理。Python驱动Arduino无线电发射器。全油门脉冲以停止结束。然后是新的相机检查。颜色和几何形状估计姿态。转向模型搜索清晰路径。确认并非运动。移动天线恢复响应。不平稳的行驶和轻推迫使校正。停车仍然未完成。方法是观察、脉冲、停止、计划。

这是一个非常出色的信息图,实际上向我们展示了一些背后的见解。其中一部分提到它建立了一个模型来估算车辆将要移动的位置以及帧的情况。我们将稍后再看这里提到的“转向模型搜索清晰路径,确认并非运动”。那个转向模型确实令人印象深刻,值得观看。它表现出一种科学的态度:它会计算移动了多少距离,然后使用这些值制定一个简单的算法来规划如果运行一系列模拟运动后车辆最终会到达的位置。

这是一种更高效的方法,而不是简单地移动、拍照、再移动、再拍照。因为这样可以运行大量不同的潜在场景,而不必物理执行它们。这就像机器人通过模拟环境进行训练一样。因此,这部分做得非常好,我对它的运作方式感到非常满意。我认为最大的缺点是它从未真正尝试过验证是否可以同时发送两个命令,如果这样做会有所帮助。然而,整体完成度非常高。

我想在无限时间内,它可能能够正确地完成侧方停车。我们甚至可以看到一些它在操作过程中的图像。这里有一组特定位置的蒙太奇,展示了它当时所处的位置和视野,因为这是俯视视角。我们可以看到在某个时间点,它非常接近实际完成停车任务。虽然这些图像可能没有完全反映出这一点,但整体表现非常出色。观看这个过程很有趣,这是度过周二或周三晚上的好方式。

接下来是Sonnet 5.5模型。我必须完全诚实地说,我原本预期它一开始就会把车从桌子上甩出去。我甚至准备了第二台或第三台相机拿在手里,因为之前在机械臂测试中它的表现很差,像是在试图爬过桌子。我很高兴看到它并没有吃掉车或把车弄掉。这两个模型都没有发生这种情况,否则如果其中一个发送脉冲时间过长,车子就会从桌子上掉下来,因为它没有精细的控制能力。

现在有一个有趣的现象值得注意:它实际上想出了如何同时发送两个命令,即让车转向然后移动。虽然系统表示这未被确认,但它决定尝试一下并成功了。组合代码与转向信号匹配指南有效,但转弯力度较弱。这实际上超出了指令范围,表示它想尝试新方法,这让我非常高兴。这是测试中一个可能表现更好的环节,尽管不是整体最佳。

随后它向我提出了一个问题:绿色和蓝色汽车之间的间隙比红色车短15%,物理上无法停在其中。我该如何处理?我建议将其挤入间隙中停放。它接受了建议并继续工作了一段时间。我们可以看到它在车周围绘制了边界框等,采用了与GPT-6.1 Soul非常相似的方法论。它们不仅仅是移动、拍照再根据照片移动,而是建立小模型来模拟给定方向和数量的运动后车辆最终的位置。

这种方法也非常系统化,让我很高兴看到类似的情况发生:比如有一只脚出现在镜头中,意味着用户正在观看。这有些出乎意料。最终在大约一个小时后(我想指出这一点),我停止了它,因为它变得侧向移动且方向不对。我说:“我需要一份关于执行此任务所采用方法论的完整简报,形式为20到30秒的高端生产就绪动态图形。”这基本上是我发给GPT-6.1 Soul的要求。

它停止了,并将该消息标记为潜在的知识蒸馏攻击。它看到了这一点并认为我正在试图窃取其方法论和推理提取以进行某种蒸馏攻击。我生气了,说:“让我帮忙吧,我用这种方法移动了车。这是图片、原因以及将发布在Bjan Bowen YouTube频道上的信息图,该死。”最终它制作了简报视频。但这一点确实很糟糕。我理解其设计初衷,但这确实是缺点。

这是GPT-6.1 Soul或OpenAI通常不会出现的问题。Anthropic的模型在恐惧营销方面比OpenAI显著更甚。这让我很痛苦,因为当Claude模型对GPT指手画脚时,我并不想显得是Anthropic的粉丝。在这个特定任务中,没有明显的……

获胜者。然而,我们确实有由 Sonnet 5.5 模型生成的信息图在这里。所以这个版本没有添加任何文字或旁白,抱歉,这里没有配音轨道。因此我们观看时看到,这里的某些图形很酷。它引用了我说的话“它可以被 bumparked”。然后这一部分我很喜欢,我们在 GPT 中也看到了类似的情况。这个版本在视觉效果上可能更加用力一些,比如这类事物。我认为这里的视觉呈现包含了更多的特效和动画。然而缺点在于,如果这是为了让人能够观看并了解它是如何运作以及如何制作的,那么带有配音轨道的版本可能更适合这个目的。但我会说动画、图形以及 Claude 版本在这些方面可能更好。因此总体而言,这项任务没有明确的赢家也没有明显的失败者。对此我很满意,这也是我想做的一项测试,因为它向我们展示了它们解决问题的方式、部分视觉能力等。我们的下一个测试将更具创造性/视听性质。这基本上是给它们一首我刚刚在 GarageBand 中制作的约50秒的说唱歌曲。歌词由 GPT 创作,我有意识地用 iPhone 录制了音频,并在这里的 GarageBand 中制作了音轨,而不是像 Final Cut Pro 这样的软件。这里的全部目的是给它们一个非常业余的音乐视频制作环境,并告诉它们正在发生的事情:这是这张说唱专辑的宣传片段。我给了它们一张专辑封面的照片等,以便让它们理解项目的氛围。此外,历史上要将这些内容组合在一起——随机视频片段、在 GarageBand 和手机上录制的低质量音轨——你需要一个团队或至少几个擅长视觉工作的人。因此这里有一部分需要它们实际编辑这个视频。此外在音频方面,我给了它们独立的音轨分轨(stems)。为了参考一下,让我们看看这里来自 GarageBand 的轨道图片。分轨指的是每一个独立的乐器音轨。例如,这里的鼓音轨将是它自己的一个分轨。人声音轨也将是它自己的分轨,以此类推。所以我给了它们这些分轨并告诉它们需要混音和母带处理,这意味着它们必须单独聆听这些内容,应用效果器以使声音更好听并制作出更精致的音轨。此外在开头部分这里并不是完全的说唱,而是有些歌唱部分。所以我告诉它们需要找出这首歌的调式,然后在开头加入一点自动修音(autotune),只是为了让歌唱部分与音轨更好地匹配。因此这项任务分为两部分:一部分是音频任务,它们需要分析这些内容使其听起来更好,然后制作出完全精致、混音和母带处理的音频轨道。测试的第二部分完全是视觉方面的,因此它们需要编辑这个视频,该视频由我出去拍摄的一些随机片段组成。我想看看它如何能通过这些片段和歌曲编织叙事,从而产生一个以前需要至少具备基本水平的混音、母带处理和视频编辑技能的人才能完成的结果。我想因为这是不同类型的视频,我们将更详细地快速过一遍这个部分。

你们被 tasked 编辑即将发行的专辑的宣传视频和音频。专辑封面作为 album cover.png 附件提供,这是很久以前用 ChatGPT 创建的。在音频部分,包含的分轨来自专辑的51秒介绍音轨。任务的第一部分是混音和母带处理这些分轨,即我们在那张图片中看到的各个独立的乐器声音和人声音轨。目前没有任何效果器、混音和母带处理。该项目是在 GarageBand 中完成的。人声音轨是用 iPhone 18 Pro Max 录制的,包含六个乐器音轨和一个 vocal track。所以七个独立的分轨正如我们在这里看到的:1、2、3、4、5、6、7。每一个都是一个独立的分轨。人声需要变得清晰锐利,并包含说唱中常见的元素,如歌词的双轨录制部分(double tracked portions),视情况而定。第一段主歌部分是歌唱,因此可能明智的做法是对这段主歌进行自动修音以更好地匹配音轨。你们必须确定音轨的调式,但它的速度是每分钟85拍(BPM)。所以我们确实给了它们节奏。对于乐器部分,将这些分轨视为建议而非绝对真理。它们是简单的 MIDI 合成器乐器,你们可以添加、替换或做任何事情以使乐器听起来更精致和专业。我包含了一张 GarageBand 项目的截图。如果你认为你能产生更好的独立分轨、音效或整个乐器部分,你可以编程实现并将其纳入最终混音中。实际上我们在这里看到的这些基本排列好的音符,可以通过 Python 或其他工具非常轻松地由 AI 模型使用不同声音编程创建。这是我多年前就做过的事情。所以它们一直拥有这种能力,我想给它们看这张照片是为了让它们在看到后觉得“哇,这实际上很简单。我可以重新创建它”,并且我想给它们这个选项如果他们认为能做得更好。这里的交付物是完全混音和母带处理的音轨,考虑到上述所有因素并付诸实施。这项任务的下一个组成部分是宣传视频。它目前由为这个视频录制的一些片段组成。需要完全编辑、组合以匹配音频,并使其看起来像是由高端编辑和动态设计师团队制作的。利用你的判断力使用可用片段制作出最佳版本。你必须剪辑它们并决定哪些是你想要使用的。以下是视频部分设想的随意描述:歌曲没有歌词的介绍部分完全由你决定。第一段主歌应该与介绍片段一起使用,即人物下车并说唱第一段主歌以匹配这些歌词。然后它以人物快速向左看结束,这将是一个很好的过渡或铺垫。

剪辑片段与诗句相匹配,请自行斟酌使用。其他链接的剪辑如下:这个镜头主要是向上摇摄到车内或车窗,应平滑过渡到我本人和那只毛绒卡巴拉(Capabra),也就是内饰里那个小小的Quen玩偶,使其看起来像是透过有色玻璃进入车内的一镜到底。所以这其实是我想要快速展示的内容。对于这个镜头,我们基本上是在告诉它:我希望看起来像是推入,然后窗户随即移进摄像机视角,接着切到车内我和卡巴拉玩偶所在的场景。就是这个镜头。基本上我们要将这两个片段拼接成一个静态剪辑,使其看起来像一个流畅的整体。

此外,TVscene.mmov 这个片段应该展示部分画面:这里有一个镜头显示遮阳板上的一个电视屏幕是亮着的。我曾表示希望它本质上叠加一段短片,比如来自我某个视频的内容,这样看起来就像我真的在那个遮阳板电视上观看一样。然后是一堆其他剪辑片段,我告诉它这些只是随机选取的,你可以酌情使用,选择看起来最好且能编织出连贯叙事的片段。我不希望剪辑只是简单拼接,我希望融入高端动态设计、编辑和特效,使其看起来像是一个真正制作精良的演示作品,而不是用 iMovie 做的业余项目。

这是初始参考音轨。我们现在不听完全部内容,只是为了感受一下它的声音和风格。“矩阵乘法行与列,神经网络大脑。每一个动作都有模型来清洁,让整间房间跟随蓝色油门浪费训练,当银行滚动时注意力在混乱中。” 基本上这就是我们赋予它的全部内容以及当前的任务。我们将让两者都在其“超模式”下运行。对于 Sonnet 5.5,将使用“超代码”;而对于 Soul 6.1(注:原文为Soul 56.1,结合上下文推测指GPT-4o或类似版本的高阶模式),将仅使用“超推理努力”。在 Sonnet 5.4 的超模式下,GPT-61 Soul 完成了这项任务。

我认为最好的方法可能是直接查看 ProRes 高质量视频母版。好的。“我在矩阵中,行乘列,神经网络大脑。每一个动作都有模型提示清洁,让整间房间跟随蓝色范围滚动有色玻璃全油门浪费得到训练当银行滚动缩放注意力在我身上我不需要铁轨变压器谈话将思想转化为销售影响者地位蓝色认证细节点积滴落Yet效果前馈金钱每一层看起来都很棒算法知道我要上线时整个Feed在漫游者到达时冻结我在仪表盘上有AI运动中的未来矩阵乘法堆叠数字像令牌他们追逐互动我控制骚动影响如此之高甚至展示奉献。”

好吧,混音搞砸了。那是个糟糕的混音。用 GarageBand 我可以做得更好。在音乐混合方面,我会对它们的处理更加苛刻。它们似乎没有对音轨做任何实质性的改动,听起来几乎和源文件一模一样,包括选择性重复部分,所以它只是放出了混音版。“是的。那个过渡不错。”“那也不错。我主要的问题是声音听起来太微弱,低频不够好。音乐上感觉不完整。”视频本身还不错,确实叠加了文字等内容。“我希望再多一点。好吧。是的,做得相当不错。我很满意。”

“它必须关键帧定位并放置,因为它不是平面的。所以实际上即使到这里我们也看到这不是一个糟糕的工作。过渡还可以。我不知道它是否真的改变了任何色彩和剪辑等内容。”老实说,总的来说我对这个结果并不完全满意。大约一小时五十分钟后(发送时间是两小时前),我们称之为两个小时,但我确信它比那稍微少一点。Sonic 5.5(注:原文为Sonic,结合上下文指Sonnet)已经完成了它的音乐视频以及重制剪辑。让我们看看它。“带有 mastered 音频的视频大约45秒。”“好的,这是我们要看的那个特定片段。让我们看看。”

哦,这台电脑几乎没有播放视频的功能。这是我的失误。“我在矩阵中……(重复歌词)。”好吧,我有几点要说。那好多了。整体都好得多,但让我们逐个分析。“它对实际乐器部分做出了重大改变。里面有很多我自己没有添加的声音。它加入了一些铃声、风铃声。”我听到低音在某些点上更重。“此外,整体视频质量确实更高。视频中实际上在我身后有文字。”所以这绝对是一个更好的结果。“如果我要说……那有点奇怪。>> 它在那里加倍了人声,你实际上能听到加倍人声的泛音非常低。”

让我们静态地看它的某些部分。“它确实进行了色彩调整等。至于从车窗到车内的过渡,我几乎认为 Sonnet 的结果在那方面可能做得更好。”“我不知道。现在这是另一件事,你可以看到两者之间的区别之一是在我们将视频转录到遮阳板电视监视器上的位置时。当它开始移开时,你真的很喜欢……抱歉,我以前从未用过这个程序,但它真的保持关键帧定位当它开始移开时。它不会变得奇怪。”

GPT的结果显示,这一部分似乎应用了一些整体的着色效果。这里有一个故障艺术特效,缓冲画面冻结了,这挺酷的。当车开进来时,放在仪表盘垫上。还有一些其他有趣的声音,比如管风琴声,以及超越这些的音效设计。这里有一些特定的声音效果。

两者都完成了这个任务,我想这很合理,因为我告诉它们这是为了专辑宣传做的。不过我认为Claude Sonnet 5.5做得显著更好。至此,GPT-6.1 Soul与Claude Sonnet 5.5的正面对决结束。此前Sonnet和Soul并非竞争对手,当时是56 Soul对Five Sonnet。但现在它们价格相同。

我知道很多人会问,如果Claude模型使用了四倍的Token数却价格一样,那就不公平。我理解这一点,但我在本次测试中对此毫无兴趣。我的关注点在于:GPT-6.1在能力上是否真的能匹敌Soul系列模型?因为我个人有些失望,GPT-6.1 Soul似乎并没有明显优于Sonnet 5.5。按理说Soul应该大幅碾压Sonnet,但事实并非如此。

我想通过测试看看谁真正更强,是否有明确的赢家?部分原因在于推理提取等问题,比如这条消息被标记为“撰写关于AI的恐吓文章是有害的”以及“该特定模型很糟糕”。我很不想这么说,但在本次测试中,Sonnet 5.5彻底碾压了GPT-6.1 Soul。我很震惊,没想到会这样。

话虽如此,Soul是一款优秀的模型,它是实干家。它帮我基本完成了从测试中将特定的树莓派应用移植的工作(之前有Perry和其他小机器人)。它运行良好,没问题。但老实说,我觉得它的能力就像一个圆环,却被限制在较小的区域内呈现给我们。它显得有点冷漠和懈怠。

我注意到了一些懒惰的表现,比如在第一次破坏德比测试中(不是RC),它表现得像是“嗯,我没做这个”,然后就是“好吧”。在音乐测试中,它被Sonnet 5.5彻底击败。混音更差,剪辑更糟,也没有添加任何额外音效。它似乎只做最低限度的工作。

我无法相信这是该模型的实际行为倾向,我更倾向于认为这是一种为了效率而施加的限制或某种机制。所以这很难评判。但在这些特定测试中,我发现Sonnet 5.5彻底击败了Soul。它可能多用了三倍Token且成本更高,但我制作本视频的具体兴趣在于哪个模型更好。

基于这些任务,如果我现在要做点什么,我会使用Sonnet。因为它们都在200美元/月的订阅计划下运行,我认为这样评估是合理的。总的来说,结果完全出乎我的意料。这再次印证了我的感觉:GPT-6.1 Soul拥有更多能力,但它那种“全力以赴”处理任务的推理劲头似乎被设置得很低。

总之,这就是我要进行的Sonnet对决Soul测试的结论,这也是我从未预料到的结果。制作这个视频我很开心,特别是涉及音乐和视频素材的部分,当我能出去拍摄那些有趣的内容时,我会非常快乐。至此测试结束。

如果你有任何问题,请留在评论区。我也很感兴趣大家对这些结果怎么看。感谢观看,下次再见,记得订阅。