ChatGPT 人工智能 GPT4 伦理 生成式 医疗 监管 安全 机器学习 深度学习 神经网络 计算机视觉 强化学习 模型 算法 应用 开发 研究 工具 平台 框架 数据集 训练 部署 安全 合规 培训 投资 LLM,llm AI,ai,Ai 大模型 大语言模型 制图 生图 绘图 文生图 文生视频 生成式AI AGI 世界模型 sora chatGPT,chatgpt,ChatGpt claude openai Llama deepseek midjourney 红熊猫模型 Red panda,panda Stable Diffusion,StableDiffusion,stable DALL- E 3 DALL E DALL Flux,flux 扩散模型 混元大模型 文心一言 通义千问 可灵 Pika PixelDance 豆包 月之暗面 零一万物 阶跃星辰 搜索增强 MiniMax Talkie Agent prompt fastai LangChain TTS 微调 提示词 知识库 智能体
# 热门搜索 #
搜索
OpenAI藏了1年多的技术正式公开!15秒素材克隆声音,HeyGen也在用
6718点击    2024-03-31 14:12

OpenAI雪藏的新产品——语音合成引擎Voice Engine,终于被正式揭幕。


有了它,只需15秒的语音样本,就能克隆出一个人的声音,而且还能跨越语言!


APP版ChatGPT中的语音对话功能,也正是由这项技术所驱动



效果如何?先来听段DEMO:

Salt also makes sure we stay hydrated which means there is enough water in our body for it to properly function.
盐分也可以保持人体内的水分,确保其满足正常功能的需要。


Voice Engine DEMO,

量子位


而OpenAI通告显示,他们在2022年底就已经开发出了这项技术,但出于安全考虑一直没有正式发布。


这次,OpenAI终于官宣了Voice Engine,并展示了小规模测试中的几个应用案例。


比如,一家非营利医疗机构就利用这项技术,为一名年轻的病人恢复了她的声音。



另外值得一提的是,去年爆火的视频翻译软件HeyGen,采用的语音引擎也正是Voice Engine。



那么,这次OpenAI还展现了哪些效果,下面就来一睹为快。


用AI帮助病患恢复声音


首先是利用基础的语音合成能力,为儿童等不具备文字阅读能力的群体提供阅读辅助


比如一家儿童教育技术公司,就一直在使用Voice Engine来给编写好的画外音内容配音。


DEMO中生成的大段内容,都是基于这样一段15秒的样本:

辅助阅读-样本,

量子位


然后,就可以合成相同音色的长段语音:

辅助阅读-合成,

量子位



再来看看HeyGen中用到的的语音翻译技术,原始素材是一段英语的音频:

翻译前-英文,

量子位


它被用原始的音色,翻译成了普通话、法语、德语等多种语言。

忽略译文的质量,只听声音,中文的效果是这样的:

翻译后-普通话,

量子位


音色保持的还算不错,不过腔调很明显一听就是外国人在说中文。

至于这到底是个bug还是个feature,就见仁见智了(手动狗头)。



此外,一款名为Livox的残障人士辅助应用,也利用Voice Engine为不能说话的残障人士“发出声音”——

在有了Voice Engine之后,TA们可以选择专属的真人音色,而不再是机械感明显的合成音,并且在各种语言之间都能保持音色的一致性。


不只是帮助残障人士拥有自己的声音,Voice Engine还可以为因疾病导致声音发生在重大改变的人群,恢复患病之前声音,只要有以前的声音样本就能实现。


一名年轻的患者因罹患血管性脑肿瘤,失去了流利讲话的能力,说话变成了这样:

患者现在声音,

量子位

,

30秒



医生从她所在学校录制的视频中提取到了她患病前的声音作为样本,在Voice Engine的帮助下为她恢复了此前的音色。

患病前声音,

量子位

,

15秒



恢复后效果,

量子位


此次发布的案例,特别是为不便人士提供帮助的场景受到了不少好评,但也有网友对这项技术的滥用表达了担忧。



安全问题需要全社会共同关注


实际上,安全问题也是OpenAI迟迟未将这项技术公之于众的主要考量。


出于安全考虑,前面案例的开发者都经过了OpenAI的严格筛选,并且需要承诺遵守使用协议。


这些开发者被要求必须明确说明声音是合成的,并且设定了黑名单以防止克隆公众人物声音。


此外,OpenAI还向合成的声音中添加了水印,以便出现问题时可以进行检测监控,同时呼吁人们采取措施共同应对这一问题:

  • 在银行等敏感信息的安全验证措施中逐步淘汰语音验证方式
  • 探索AI时代下个人声音的保护措施
  • 教育公众理解AI的局限性,并了解其被用于欺诈的可能
  • 加速开发跟踪溯源技术,让人们能够清晰辨别出真人和AI



参考链接:

https://openai.com/blog/navigating-the-challenges-and-opportunities-of-synthetic-voices


文章来自微信公众号“量子位”,作者:量子位