Eleven v4
我们最新、最先进的文本转语音模型。
Eleven v4 是我们最新、最先进的文本转语音模型,也是新一代模型中的首款产品。与 Eleven v3 相比,它在输出质量、音色准确度、一致性、情感、表达、音频标签和语言覆盖方面均有提升。
总体而言,Eleven v4 是 Eleven v3 的全面升级,几乎在所有情况下都能带来更好的结果。强烈建议切换到 v4,并使用自己的音色和内容进行测试,亲自感受差异。虽然少数特殊情况可能更适合其他选择,但对大多数用户来说,v4 都是更好的选择。
有关标签、标点和对话提示词,请参阅 提示 Eleven v4。
语音克隆
Eleven v4 将语音克隆准确度提升到了全新水平。与以往任何模型相比,克隆音色能更忠实地捕捉源声音色的特征,包括音色质感、节奏和表达方式。
Eleven v4 中的即时语音克隆(IVC)比以往更加准确。它能更忠实地捕捉源声音色的核心特征,让你能通过简短音频样本快速创建逼真的克隆音色。
即时语音克隆在 Eleven v4 中获得了显著升级,整体准确度明显提升。如果还没有试过, 现在正是使用自己的音频进行测试的好时机。
专业语音克隆(PVC)完全支持 Eleven v4。它同样受益于音色准确度的提升,为需要最高一致性和控制力的工作流程,更忠实地还原源声音色。
由于准确度有了如此显著的飞跃,Eleven v4 的声音可能与 Eleven v3 大不相同。Eleven v3 为 Eleven v4 奠定了基础,重点强化了表达和准确度;Eleven v4 则在此基础上大幅提升了音色准确度。因此,Eleven v4 旨在更忠实地捕捉源声音色,但你仍可能更喜欢音色在 Eleven v3 中的表现。准确度和个人偏好并不总是一致,因此建议使用自己的内容对比两个版本,选择最适合用例的版本。
Eleven v4 能更忠实地还原源声音色的特征,包括口音、表达方式、响度及其他鲜明特质,因此源录音的质量比以往更加重要。清晰、干净的训练音频有助于 Eleven v4 准确捕捉音色,避免引入不需要的声音或特征。背景噪声、失真或其他录音问题都会影响结果。
我们仍在探索 Eleven v4 的最佳使用方式。目前看来,它更擅长捕捉细腻的音频特征,尤其是在训练音频较多时,例如专业语音克隆。随着持续测试如何通过更丰富的数据集控制模型,我们关于使用多样化训练数据的建议可能会调整。目前,建议训练音频保持单一说话风格,Eleven v4 对这类风格的捕捉效果应优于早期模型。
原生口音处理
这是 Eleven v4 相较于所有旧模型最大的变化之一,值得充分了解。
当生成语言与参考音色的语言一致时,原有口音会像以前一样完整保留。
当生成语言不同于参考音色的语言时,Eleven v4 会以目标语言生成流畅、自然的语音,而不是保留参考音色原语言中的口音。
实际效果是:如果克隆一位韩语使用者的音色并生成英语,Eleven v4 会生成自然、流畅的英语,而不是带有韩语口音的英语。这让每个音色都能用于所有支持的语言,尤其适合配音、多语言内容,以及需要通过单一音色服务不同语言用户的语音智能体。
如果工作流程依赖于让音色在其他语言中保留其原生口音,请在迁移前直接使用 Eleven v4 测试这一行为——这是跨语言生成方式的有意调整,并非 bug。
不过,这项新功能仍在持续优化中,我们也在探索将其改为可切换功能,而不是始终开启。这仍是一个研究项目,目前尚无时间表或更多信息。
模型版本
Eleven v4 提供两个版本,可根据用例选择质量与速度之间的合适平衡:
- Eleven v4 (
eleven_v4) —— 我们质量最高的模型,适合内容创作、有声书、角色旁白配音,以及任何将质量置于首位的用例。 - Eleven v4 Turbo (
eleven_v4_turbo) —— 在保持极低延迟的同时提供极高质量,专为对话式智能体和交互式语音体验等实时用例打造。
两个版本都使用两项音色设置:稳定性和相似度。
稳定性控制多次生成之间表达的一致程度。较低的值可带来更具表现力、更多变化的表达;较高的值会让表现更接近固定基准。
相似度控制输出对参考音色的贴合程度。较高的值会更严格地贴合参考音色,但可能牺牲部分自然度。
使用 Eleven v4 的专业语音克隆生成语音时,会额外显示 克隆强度 滑块。克隆强度控制输出对克隆训练录音的贴合程度。较低的值会略微平滑音色,并让表达更具灵活性;在仍保留原始音色特征的同时,整体听感通常更好。较高的值会减少平滑处理,让输出更接近训练录音,更贴近地模仿原始音色的表达和表现。较高的值尤其适合具有鲜明特征或独特口音的音色。对于大多数音色,建议从 0% 开始。
Eleven v4 不提供风格和速度滑块,也不支持 SSML。
音频标签(例如 [whispering]、[shouting]、[laughing])可让你精细控制表达方式,Eleven v4 对它们的处理细腻程度超越以往模型。它们目前还不完美,我们会持续迭代,提升模型遵循标签指令的可靠性——这是正在持续投入的重点领域,效果会不断改进。
示例展示
这些示例均为原始音频,未进行深度后期处理:没有 EQ、压缩、 归一化、齿音处理、爆破音移除或类似处理。如果听到反复出现的问题,例如 削波、爆破音、EQ 不均衡或音量跳变,它们很可能存在于该音色的训练数据中。 Eleven v4 模型只是将它们捕捉出来,因为它的准确度很高,即使是缺陷也会捕捉到。 我们未对音频进行处理,以便你听到模型实际生成的效果。
语音克隆准确度
每个示例都从声音库预览开始。随后,我们选取一段文本,分别使用该音色的即时语音克隆在 Eleven v3 和 Eleven v4 中生成语音。
这并非完美对比。Eleven v4 也支持专业语音克隆,能够进一步提高匹配度。不过,为了让对比更公平,我们在 Eleven v3 和 Eleven v4 中都使用了即时语音克隆。
这些示例展示了模型捕捉到多少原始音色特征。需要注意的是,这也包括音频的 EQ、质量、音量,以及其他细微细节和瑕疵,例如爆破音、刺耳的齿音和音量波动。
依次试听预览、Eleven v3 和 Eleven v4。
音色 NfUrCNRReUL9RXS9upG1。
音色 HBDoL4wkcalemIO0nUAu。
语音表演
以下是 Eleven v4 的生成结果。文本中的音频标签用于指导表达方式。
音色 EkK5I93UQWFDigLMpZcX。
音色 t7VaN65ClS2VrEUwk1nR。
有声书
这是 Eleven v4 的旁白。标签设定了场景的节奏和氛围。
音色 KHRvDizAHFVPzoSehNY6。
模型将持续演进
Eleven v4 正在持续积极开发中。发布后,我们会继续训练和改进模型,随着质量提升,其行为可能会随时间发生变化。建议随着模型演进定期重新测试用例,我们也会在重要更新推出时分享相关信息。
常见问题
Eleven v4 支持哪些语言?
Eleven v4 支持南非荷兰语、阿姆哈拉语、阿拉伯语、亚美尼亚语、阿萨姆语、阿斯图里亚斯语、阿塞拜疆语、 白俄罗斯语、孟加拉语、波斯尼亚语、保加利亚语、缅甸语、粤语、加泰罗尼亚语、宿务语、克罗地亚语、捷克语、 丹麦语、荷兰语、英语、爱沙尼亚语、菲律宾语、芬兰语、法语、富拉语(Pulaar)、加利西亚语、格鲁吉亚语、 德语、希腊语、古吉拉特语、豪萨语、希伯来语、印地语、匈牙利语、冰岛语、印度尼西亚语、意大利语、 日语、卡纳达语、哈萨克语、韩语、吉尔吉斯语、老挝语、林加拉语、立陶宛语、卢干达语、卢森堡语、 马其顿语、马来语、马拉雅拉姆语、马耳他语、普通话、毛利语、马拉地语、蒙古语、尼泊尔语、 书面挪威语、奥克语、奥里亚语、普什图语、波斯语、波兰语、葡萄牙语(巴西)、旁遮普语、罗马尼亚语、 俄语、塞尔维亚语、绍纳语、信德语、斯洛伐克语、斯洛文尼亚语、索马里语、索拉尼库尔德语、西班牙语(拉丁美洲)、 斯瓦希里语、瑞典语、塔吉克语、泰米尔语、泰卢固语、泰语、土耳其语、乌克兰语、乌尔都语、乌兹别克语、越南语、威尔士语 和沃洛夫语。
部分语言的流畅度优于其他语言,但总体而言,Eleven v4 对其中绝大多数语言的处理效果都很好。
克隆音色会保留口音吗?
当参考音色和生成语音使用同一种语言时,音色的口音会被保留。例如,如果克隆一位带有特定英语口音的英语使用者, 并生成英语语音,该口音将会保留。
能否让音色以原来的口音说另一种语言?
默认情况下,当生成语言与参考音色的语言不同时,Eleven v4 会以目标语言生成流畅、自然的语音, 而不是保留参考口音。你可以尝试使用音频标签来引导口音或表达风格,但结果可能有所不同, 因此请测试具体音色和用例。
Eleven v4 克隆音色会与其 Eleven v3 版本听起来一样吗?
总体而言,Eleven v4 比 Eleven v3 更准确地还原源声音色的特征, 包括音色质感、节奏、表达方式和其他习惯。因此,Eleven v4 克隆音色通常会更接近源声音色, 且可能与其 Eleven v3 版本有明显差异。
需要训练 Eleven v4 吗?
应在 Eleven v4 中使用声音设计吗?
声音设计音色可与 Eleven v4 配合使用,但其表现力或音质可能不如在早期模型中。