AI歌词生成歌曲YUE2:AI歌曲高速生成,支持老显卡,音频时长和歌词自动对齐

一、YUE2概述

YuE2-3B 是原始 YuE 歌词到歌曲模型的继任者。团队将其定位为前沿质量的开源音乐生成,最亮眼的特性是带可编辑乐谱的符号化规划。YuE2 不会从文本直接跳到音频,而是先写出包含旋律与和弦(ABC 记谱法)的方案,再据此渲染音频。由于该方案是显式的,你可以:

  • 作曲与编辑:完整旋律加和弦、仅旋律,或不使用乐谱直接生成
  • 自带乐谱:输入已有的 ABC 乐谱,让 YuE2 演唱它
  • 用智能体编辑:把音乐反馈转化为乐谱、风格和歌词的修改,然后让模型渲染下一版本。团队演示了一条 14 个版本的编辑链,把一首歌从华语流行改到英语爵士。

AI歌词生成歌曲YUE2:AI歌曲高速生成,支持老显卡,音频时长和歌词自动对齐

能做什么

工作流 节点链路
文生歌(可编辑乐谱) YuE2 加载模型 → YuE2 歌曲生成(cot=full)
无乐谱快速生成 同上,cot=off
翻唱(改风格/编曲) SheetSage2 歌曲转录(melody_only)+ 歌词结构化 → YuE2 歌曲生成(cot=melody)
改编(换和声/改谱) SheetSage2 歌曲转录(含和弦)→ 编辑 ABC → YuE2 歌曲生成(cot=full)
只要乐谱 YuE2 歌曲生成 打开 abort_after_plan

歌词建议手填:歌词结构化 节点把纯文本歌词自动加上 [verse]/[chorus] 段落标签,比自动识别更快更准(语音 ASR 模型对歌唱歌词的识别目前不可靠)。

二、相关安装

comfyui-YuE2插件:https://github.com/o-l-l-i/ComfyUI-Olm-YuE2

插件安装路径:ComfyUI/custom_nodes/ComfyUI-Olm-YuE2

AI歌词生成歌曲YUE2:AI歌曲高速生成,支持老显卡,音频时长和歌词自动对齐

模型安装路径

ComfyUI/models/
├── yue2/                ← 歌曲生成
│   ├── model.safetensors          
│   ├── config.json                
│   └── qwen.tiktoken              
└── yue2_vae/                ← 歌曲转录(音频 → 乐谱)
    ├── config.json              必装,模型文件直接放这一层
    ├── model.safetensors
    └── ...
请将文件直接放入这些文件夹中。示例中选择了 `<checkpoint_folder>`yue2和yue2_vae`<checkpoint_folder>`。也支持其他检查点文件夹;请从下拉列表中选择其名称。

基于实际内存使用情况的最佳估算。此处仅测试了 RTX 5090。对于 NVIDIA RTX 30 系列或更新显卡上当前未经量化的 CUDA 路径:

显存 桌面GPU示例 粗略预期
8 GB 或更少 RTX 4060 目前的实现方式不太可能容纳一首完整的歌曲。
12 GB RTX 4070 非常紧张;短途运行并进行卸载可能可行,但预计会出现内存不足故障。
16 GB RTX 4060 Ti 16 GB,RTX 4080 对于较短的歌曲来说可行;可以尝试offload_ar。较长的歌曲可能会超出容量限制。
24 GB RTX 3090、RTX 4090 为更长的歌曲留出更多空间;可能仍然需要卸载。
32 GB RTX 5090 已使用时长超过五分钟的完整歌曲进行测试。结果仍取决于工作量。

三、工作流

  1. 在 ComfyUI 中打开03_yue2_staged.json 。
  2. 从YuE2 模型加载器下拉菜单中选择两个模型;示例中保存的名称可能与您的不同。
  3. 在YuE2 请求中,输入音乐风格,并在歌词中输入要演唱的歌词。
  4. 保留采样默认设置,然后单击“运行”。

AI歌词生成歌曲YUE2:AI歌曲高速生成,支持老显卡,音频时长和歌词自动对齐

  • 这个例子包含了英文歌词,可以帮助你入门。
  • 阶段进度会在控制台中显示。生成过程可能需要几分钟。
  • 音频以 FLAC 格式保存ComfyUI/output/audio/。
  • 合成阶段占用最多的显存;模型会在每个阶段结束后发布。

四、总结:

YuE2 最值得肯定的地方,是没有继续陷入单纯比拼试听音质的竞赛。当前 AI 音乐的短板已经不是能不能生成一段像样的声音,而是能不能控制、修改、复用并接入现有生产流程。

符号规划并非新概念,MIDI、乐谱生成和自动作曲系统已经存在多年。YuE2 的新意在于,试图把符号音乐的结构优势与现代生成式音频模型的表现力放在同一条完整歌曲链路中。前者负责让作品可理解、可编辑,后者负责让结果听起来像真实演唱与制作。

如果 YuE2 能把这层中间表示真正开放出来,并提供稳定的音频对齐、局部重渲染和工程导出能力,它对开源 AI 音乐生态的意义会超过一次常规模型升级。反过来,如果所谓符号规划只能由模型内部读取,用户看不到、改不了,也无法进入常见音乐软件,那么它仍然只是更复杂的内部推理过程,而不是可用的创作接口。

因此,现阶段对 YuE2 最合理的评价是:**方向领先于结论。**它没有证明 AI 已经能替代作曲、编曲与制作人,但明确指出了下一阶段 AI 音乐产品应该补什么——不是再多一个生成按钮,而是一张真正可修改的“乐谱层”。

下载权限

查看
  • ¥
    免费下载
    评论并刷新后下载
    登录后下载
  • 免费下载
    免费下载:
    签到可领取积分

查看演示

  • {{attr.name}}:
您当前的等级为
登录后免费下载登录 小黑屋反思中,不准下载! 评论后刷新页面下载评论 支付免费指引:【签到得积分即可下载】 请先登录 您今天的下载次数(次)用完了,请明天再来 支付积分免费指引:【签到得积分即可下载】立即支付 支付免费指引:【签到得积分即可下载】立即支付 您当前的用户组不允许下载升级会员
您已获得下载权限 您可以每天下载资源次,今日剩余次
温馨提示:本站提供的一切软件、教程和内容信息都来自网络收集整理,仅限用于学习和研究目的;不得将上述内容用于商业或者非法用途,否则,一切后果请用户自负,版权争议与本站无关。在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。

给TA打赏
共{{data.count}}人
5人已打赏
0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
❯
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索