这是目前你能使用的最好的开源音乐生成器。你可以用 4GB 或更少的显存来运行它。此外,你甚至可以进行翻唱并编辑现有歌曲。根据一些基准测试,它甚至比 Sunno V6 还要出色,这相当疯狂。所以,这就是 UA2。首先,这里有一些演示片段。左边是提示词,用于规定歌曲的风格和流派;右边则是歌词。首先,这里有一段烟雾缭绕的爵士乐演示。

[音乐]

[音乐]

[音乐] >> 玻璃杯在安静的曲调中碰撞 [歌唱] [音乐] 伴随着渐行渐远的嗡嗡声 >> [音乐] >> 灯光昏暗闪烁。低语在绽放。[音乐]

霓虹微笑与轻声欢笑。[音乐] 友谊建立在脆弱的草稿之上 [歌唱]。入睡前,我会保留这段遥远的距离,[音乐] 黑暗中一抹发光记忆 [歌唱]。[音乐]

或者这里是另一个演示,展示的是 20 世纪 30 年代的布吉伍吉风格。

嘿,你能听到吗?那穿过 [音乐] 门板的切分音。旧鞋踩在新地板上。我的脚痒得想要更多 [歌唱]。嘿约翰,你能听到吗?布吉伍吉。这种节奏让我兴奋不已 [歌唱]。我们尽快去跳舞吧 [音乐]。我准备好了,我无法静止不动。来吧。嘿约翰,你能听到吗?布吉 [音乐和歌唱] 伍吉。心跳如旋律般跳动。在这拥挤的房间里旋转我。我们尽快去跳舞吧。

[音乐]

[音乐] 现在,它还支持不同的语言。所以,这里有一个西班牙语的例子。

舒适 [歌唱] [音乐] 且真实地。[歌唱]

嘿 [音乐]

[音乐和歌唱]

[歌唱] [音乐]

[歌唱]

[music]

或者这里有一个俄语的民谣电子例子。是的。[音乐和歌唱]

[music] 不可能吧。

[music]

[music]

[音乐] >> 或者这里有一个韩语的 emo(情绪摇滚)例子。[music]

[singing] [music] [singing]

[singing and music] >> 向上。

现在,真正酷的部分在于你也可以输入另一首歌曲作为参考。例如,它可以利用现有歌曲的旋律,但你可以改变风格。比如这里是《友谊地久天长》,但我们打算将其转变为一种时髦的爵士放克风格。[music]

[music]

[music]

是否应该忘记所有的相识,且永远不再 [音乐] 被 [歌唱] 想起?是否应该忘记所有的相识,以及旧日的时光 [音乐] 长久地 >> 或者这里有一个更疯狂的例子,我们可以输入这首贝多芬的曲目。一旦播放它,你可能会认出这里的旋律。我们将把它变成戏剧性的硬摇滚,而歌词仅仅是“我的钱包在哪?”

我的钱包在哪?[歌唱] 我的钱包在哪?我的钱包在哪?我的钱包在哪?我的钱包在哪?我的钱包在哪?我的钱包在哪?我的钱包在哪?我的钱包在哪?[music] 我的钱包在哪?我的钱包在哪?我的钱包在哪?我的 [音乐] 钱包?我的钱包在哪?或者这里是另一个例子,我们可以输入《铃儿响叮当》作为参考音频,但这次让我们把它变成小调版本。[music]

[music] 驾着单马敞篷雪橇奔驰穿过雪地。[music] 我们穿越田野,一路欢笑。铃铛在鲍伯尾巴上 [音乐] 叮当作响,让精神振奋。今晚骑马并唱一首雪橇歌 [歌唱] 是多么有趣啊。>> 《铃儿响叮当》[music],铃儿响叮当,一路响叮当。哦,驾着单马 [音乐] 敞篷雪橇 riding 是多么有趣啊。>> 所以,这是一个非常灵活的工具,

也是迄今为止唯一一个能生成听起来不错的翻唱作品的开源工具。或者这里还有另一个你可以做的酷炫事情。你甚至可以将它链接到像 GPT Astra 或 GLM 这样的 AI 智能体,让它为你生成音乐或编辑。例如,让我们从这首流行歌曲开始。让我先播放给你听。

[music]

[music] >> 然后之后你可以进一步迭代它。例如,我们可以告诉它保持旋律和歌词不变,但通过重新和声使其更具爵士感,

但它听起来还不够像爵士乐。所以让我们告诉它去掉吉他。

[music and singing]

好吧,这只是一个非常快速简单的例子,展示你如何通过文本提示让智能体生成歌曲并迭代编辑它。现在,在我们介绍安装之前,值得注意它是如何工作的。所以,它不仅仅是将你的文本提示转化为完整的成品歌曲,而是首先写出一份可编辑的乐谱。所以这里有一个

例子展示了它写出了人声轨道和器乐轨道的音符,当然还有调性和速度。这本质上就是歌曲的基本五线谱,然后它利用这个作为骨干来实际生成完整的歌曲。正因为如此,它赋予了你非常灵活的编辑能力。这就是为什么从这首歌生成翻唱作品非常容易,或者改变

歌词甚至将调性从小调改为大调都很容易。而且请注意,如果你查看这些关于歌曲质量指数的基准测试,它不仅击败了其他开源模型如 Miniax Music 和 AEP 1.5,甚至击败了一些闭源模型如 Sunno V6 和 Sunno 5.5,这相当疯狂。然而,它在性能上略逊于 Sunno V5,有趣的是,至少根据这个基准测试来看,V5 听起来比版本 5.5 和版本 6 都要好。如果你从事任何类型的创作,一定要看看 Luma,本视频赞助商。把它想象成一个真实的 AI 工作空间,它可以陪伴你完成整个创作过程,而不仅仅是给你一个单一提示的结果。例如,假设我想为一个新产品创建一个完整的营销

活动。我不需要在一大堆不同的 AI 工具之间跳来跳去,我只需让 Luma 智能体自主完成所有工作。它可以在同一个工作空间内开发概念、生成视觉素材并塑造项目。特别有趣的是,它的 Luma 智能体理解诸如运动、物理和三维空间等概念。它不会完全接管

创作过程,你可以持续引导智能体、改变方向并在工作中完善结果。其中最强大的功能之一是 Luma 的技能(Skills)。你可以为经常执行的工作流创建可重用的技能。基本上,你给 Luma 一组指令一次,然后你就可以在任何时候在不同的素材上运行相同的工作流。例如,我可以

创建一个技能,我输入任何产品照片,它会输出一段网红谈论该产品的 UGC 视频。或者这里是另一个技能的例子,我可以上传产品照片,然后让它像这样掉入水中。Luma 基本上为你提供了一个智能的创作副驾驶,可以将你所有的创作工作流整合到一个地方。无论你是创建营销

广告推广:Luma 是用于品牌内容、产品视觉效果或社交媒体内容的最佳平台之一。请立即通过下方描述中的链接扫描此处的二维码试用 Luma。如果您有兴趣尝试,接下来我们将介绍安装方法。

点击顶部的 GitHub 链接并向下滚动,可以看到运行该项目的说明。但默认代码涉及 Python 编程,对部分用户可能不够直观。因此,我们将通过一个名为 ComfyUI 的可视化界面来运行它。这是目前最流行的在本地计算机上运行开源图像、视频和音频生成器的平台。

如果您不熟悉 ComfyUI,强烈建议先观看我的介绍安装和使用方法的视频。假设您已拥有 ComfyUI,第一步是将其更新到最新版本。在根目录的 comfy 文件夹中,点击进入 update 文件夹并双击“update Comfy.bat”以完成更新。

按任意键退出窗口后,启动一个新的 ComfyUI 会话。加载完成后,将 UA2 工作流拖入界面即可使用(完整工作流的下载链接在描述中)。保存 JSON 文件后,将其拖入 ComfyUI 界面即可自动加载预构建的工作流。

初次加载时可能会提示缺少模型,我们需要下载缺失的组件:音频编码器和检查点文件。首先点击 audio encoders 文件夹,下载大小为 1.4GB 的文件并保存到 ComfyUI/models/audio_encoders 目录中。

接着进入 checkpoints(检查点)文件夹,您可以选择下载完整的 BF-16 版本(7.8GB),如果您的显存低于 4GB,则可以选择较小的量化版本(3.96GB)。由于我的显存充足,我下载了完整版本。将其保存到 ComfyUI/models/checkpoints 目录中。

回到界面后,按 R 刷新模型列表。在加载检查点节点的下拉菜单中选择刚才下载的 BF-16 模型,即可消除所有错误提示。该工作流包含两个部分:顶部是将文本转换为完整歌曲;底部支持输入参考音频,可用于制作翻唱。

首先介绍“文生音乐”流程:顶部用于输入风格提示,描述流派、节奏和乐器等。例如:“未来贝斯、现代、充满活力、鼓舞人心”。底部输入歌词,支持元标签(如 Verse 1, Chorus 等)。这里演示一个包含一段主歌和副歌的简单例子。

输入后,数据进入“生成 ABC 节点”,该节点会生成乐谱符号。点击生成后,您可以在右侧看到预览的类似五线谱的内容,它规定了歌曲中的声乐和器乐旋律。随后,这些符号将与风格提示及歌词一起输入节点以生成音乐。

在设置中,您可以指定歌曲的最大时长(秒),当前设为 360 秒。如果歌词较短,生成的歌曲也会相应缩短。接着数据进入 K-sampler(K 采样器)进行实际生成。“种子”是每首歌的唯一 ID,当前设为固定值 7。

使用相同的提示和设置会得到完全相同的结果;若想生成不同的歌曲,请更改种子值或设为随机。步数(Steps)影响质量与速度:默认 32 步在质量和效率间取得了平衡。CFG(提示词相关性)控制 AI 对指令的遵循程度,若结果偏离风格可略微调高。

采样器和调度器(Sampler 和 Scheduler)使用默认值即可。随后进入解码步骤:如果您的显存超过 12GB,可以使用常规解码方法(速度更快);若低于 12GB,建议使用分块版本。由于我的显存充足,我连接了常规解码路径。

首先按住 Shift 点击连接线并拖动到此处进行重连,然后将音频输出连接到对应位置。对于不需要使用的节点,按 Ctrl+B 禁用它即可。最后,点击“运行”按钮生成歌曲。稍后我将为您展示性能统计数据。

很快,我只用配备 RTX 5000(拥有 16GB VRAM)的笔记本电脑,生成时间仅略超过两分钟。接下来,让我把风格提示词和歌词拖到这里给你们看看。然后我播放一下生成结果给你听。(音乐与歌声)世界在改变,(音乐与歌声)在某条路上。但我从未选择的那每条路,[音乐] 都只是一扇我关上的门。所以我将点燃火焰。(音乐)我要创造星辰,将这些梦想[音乐与歌声]化为艺术杰作。我不需要知道[歌唱]结局走向何方,[音乐]我只需一点火花和追随的勇气。

[音乐] >> 现在,它的生成时间比我输入的要长得多。所以我本应该做的是将最大时长缩短到更贴合这些歌词的长度。但总之,这就是运行文本生成音乐工作流的方法。好的,现在如果我们回到这里的预览 ABC 部分,你可以看到它在此处生成的乐谱预览。这些基本上就是人声和器乐的音符。

现在,有些人想知道这是否可以进行纯器乐生成。答案是肯定的。例如,这是我的风格提示词:“史诗般的电影管弦乐,用于战斗场景,仅器乐”。然后对于歌词部分,我确实需要输入一些内容。通常我只是在方括号内输入我希望乐器发出的声音描述。例如,这里我写的是“断奏弦乐和民族鼓点的稳定推进”。这是我的生成结果。

[音乐] [音乐] 哦,[音乐] [音乐] 热度,热度。

好的,这就涵盖了文本生成音乐的部分。但如果你想输入一段音频作为参考或用于生成翻唱歌曲呢?这就是这部分的功能所在。按住 Control 键拖动选中这些紫色节点,然后按 Ctrl+B 取消旁路(unbypass)这些节点。这基本上允许你上传参考音频以生成 ABC 乐谱,并将其接入歌曲生成器中。这一步基本上取代了这里的“生成 ABC”节点。

首先,让我选中顶部的“生成 ABC”节点以及连接到它的预览节点。我将同时选择它们并按 Ctrl+B 旁路这些节点。我们要做的是将此节点的输出连接到“生成音乐”节点上。所以我要将这里的输出连接过来。好的,现在这个“生成音乐”节点应该连接到下面的部分了。

接下来我们需要做的是,对于这个加载音频编码器(load audio encoder),点击下拉菜单并选择你刚刚下载的音频编码器。然后在这里我们可以上传参考音频片段。例如,让我上传歌曲中的一段。(音乐与歌声)看着你走远 [歌唱和音乐] 而我的心碎了。

好的,那就是那首歌。接下来在这里,我们可以选择使用这段旋律作为参考,还是整首歌曲作为参考。区别很细微,但如果你想做翻唱或仅复制一首歌的旋律,我会选择“仅限旋律”。在这里你会输入这首歌想要的新风格以及歌词。对于这个例子,我只是输入与参考音频相同的歌词。对于风格提示词,让我们试试爵士乐,搭配随意的钢琴、萨克斯风、低音提琴和刷鼓。我们按运行。好的,这是我们的结果。(歌唱)看着你走远而我的心今天碎了。

[音乐] 就是这么简单。这就是使用音频参考功能的方法。当然,你不必使用相同的歌词。你也可以将歌词改为其他内容。例如,你可以让歌手唱另一种语言。这是一个非常灵活的工具。

这就涵盖了 Comfy UI 中 UA2 工作流的所有组件。这是目前你能使用的最好的开源音乐生成器,所以一定要试试。最后,我还想提一下许可证的问题。UA2 的代码和文档采用 Apache 2.0 许可证,限制非常少;但模型权重单独在此知识共享非商业许可下授权。因此在该条款中,它特别指出“主要意图或指向并非为了商业优势或金钱补偿”。所以这一点需要注意。我不确定你是否可以将生成内容发布到 Spotify 并从中获利。

总之,这就是我对 UA2 的教程和评测总结。这绝对是目前可用的最佳开源音乐生成器,所以一定要试一试并告诉我你的想法。如果在安装过程中遇到任何错误,欢迎在下方评论中复制粘贴确切的错误信息,我会尽力帮助你排查问题。一如既往,我将持续关注顶级 AI 新闻和工具并与大家分享。如果你喜欢这个视频,记得点赞、分享、订阅并关注更多内容。

此外,每周 AI 领域发生的事情太多了,我不可能在我的 YouTube 频道上涵盖一切。所以为了真正跟上 AI 领域的最新动态,请务必订阅我的免费每周通讯简报。链接将在下方描述中提供。感谢观看,我们下期再见。