# 热门搜索 #
搜索
首个国产音乐SOTA模型来了!专为中文优化,免费用,不限曲风
3594点击    2024-04-17 20:03

前段时间,X 平台知名 AI 博主 Aran Komatsuzaki 自己写了一首歌,专门用来表达对另一位 AI 科学家 ——Gary Marcus 的不满,还用当前大火的 Suno 把它生成了出来。要知道,过去,这些大佬们的口水战主要就是发个帖子,然后你来我往地跟帖。这次,Aran Komatsuzaki 的做法可谓是玩出了新


花样,不知道是不是从「谢帝谢帝我要 diss 你」得到的灵感。


和 Aran Komatsuzaki 一样,国内外很多懂音乐、不懂音乐的人都在试玩 Suno 等 AI 音乐创作工具,生成了很多非常有意思的音乐作品。


不过,有很多网友反映,Suno 有时生成中文不太稳定,会出现中文歌曲带有英文感、生僻字唱错等问题。



 


B 站网友针对 Suno 生成的一首中文歌发表的评论。视频地址:https://b23.tv/gVqTUOu


那么,有没有一个 AI 音乐生成模型专门针对中文做过优化呢?


昆仑万维今日面向全社会开放公测的「天工 SkyMusic」就是这样一个模型。它生成的中文人声发音清晰、正宗、无异响,没有出现「百老汇式中文歌」等水土不服的情况。而且,它不仅针对普通话做了优化,粤语、成都话、北京话等方言语种也照顾到了。




目前,天工 SkyMusic 已全面开放,下载「天工」APP 就可以体验。这是国内目前唯一公开可用的 AI 音乐生成大模型,它的出现填补了国内 AIGC 工具在这一领域的空白。


虽然这个模型还处于起步阶段,但已经让很多人感受到了音乐创作的乐趣。大家用它去改造神曲、二创金曲、改写古诗词助力教育…… 开发出了各种音乐创作新方向。


自研类 Sora 架构,技术路线图已公开


天工 SkyMusic 是一个端到端的音乐生成模型,因此我们用起来感觉非常简单。但是,整个模型的开发却没有那么简单。


首先从技术路线来说,天工 SkyMusic 选择了大模型音乐音频生成路线,这意味着它直接学习并生成音频波形,而不是采用符号音乐生成路线(如 MIDI)来生成乐谱。这种方法允许乐器、人声、旋律、音量、音符等元素的一体化端到端生成,从而提供更直接、更高质量的音乐创作体验。但是,这个方向也更难,需要高昂的算力和资金,因此做的人非常少。


而且,在这个方向中,下决心去攻克「人声 Song」领域的人更少,大部分研究集中于无人声的 BGM 领域,因为前者几乎没有任何开放的资料或开源模型可供参考。


顶着这些压力,昆仑万维做了无数次研发实验,投入了大量算力,构建了包含 2000 万首歌曲的数据集(人类有史以来最大的音乐数据集),终于探索出了一个效果好、可复现的方案。而且,他们还把这个方案的技术原理图公开了。



天工 SkyMusic 技术原理图:Large-scale Transformer 负责谱曲,来学习 Music Patches 的上下文依赖关系,同时完成音乐可控性;Diffusion Transformer 负责演唱,通过 LDM 让 Music Patches 被还原成高质量音频。这套模型架构在处理视频、音频和音乐时效果极佳。


从图中可以看出,天工 SkyMusic 的框架是类 Sora 的 DiT 技术路径,不过研发时间是在 Sora 问世之前,因此不可避免地要踩很多坑。


对于产业来说,这张原理图非常宝贵,因为市面上没有任何可用的 AI 音乐大模型企业公开自己的技术路径,包括 SUNO,昆仑万维是唯一一个。


强大的背后基座 —— 天工 3.0


天工 SkyMusic 的成功离不开它背后的基座模型 —— 天工 3.0。它最核心的升级体现在「独立思考」方面。这在该模型新增的多轮搜索与综合工具调用、图表绘制、研究模式、增强模式等功能中均有所体现。


给定一个数据统计任务,它不仅能够帮你把数据都收集齐全,还能自己写代码、调用各种函数来绘制图表。各个中间步骤被拆解得条理清晰,后续的执行也基本不需要人去干预,甚至连「避免标签重叠」、「文本居中显示」这类细节都被考虑到了。这就是「独立思考」能力的体现。





这种「独立思考」能力的提升离不开「天工 3.0」在语义理解、逻辑推理等方面的优化。与上一代「天工 2.0」MoE 大模型相比,「天工 3.0」在模型语义理解、逻辑推理以及通用性、泛化性、不确定性知识、学习能力等领域拥有惊人的性能提升,其模型技术知识能力提升超过 20%,数学 / 推理 / 代码 / 文创能力提升超过 30%。


以搜索任务为例。在「搜索增强」模式中,给出一个简单的搜索请求,「天工 3.0」不仅会给出一段概括性的回答,还会把一些重要信息提炼成图表。



00:



在「研究」模式中,它还会提供一个「深入研究」模块,去展开讨论搜索 Query 中未提到的延伸问题,让你有一种在读论文的感觉。最后,它还把这些信息整理成了思维导图,方便迅速查阅。


02:13



在语义理解、逻辑推理能力均大幅提升的基础上,「天工 3.0」还针对模型独立规划、调用、组合外部工具及信息的能力进行了专项训练。通过独立规划以及调用、组合外部工具及信息,它可以帮你精准高效地完成产业研究、产品横评、信息分析等各类复杂需求。


这种独立思考的能力对于人工智能大模型至关重要。首先,这种能力使得 AI 能够在缺乏直接指令的情况下进行自主推理,提高其处理复杂问题的能力;其次,独立思考的 AI 模型能够进行创新性的解决方案设计,满足个性化和场景化的需求;最后,这种能力促使 AI 在遇到新奇或变化的环境时,通


过自我学习和适应来持续优化其性能。这三个方面的累积作用,极大地推动了 AI 技术的应用广度和深度,使其在多种实际应用中表现出更高的智能和效率。


「天工 3.0」包含了 AI 音乐、AI 搜索、AI 写作、AI 绘画等多项大模型能力,谈到 4000 亿参数 MoE 大模型「天工 3.0」与天工 SkyMusic 背后的关系时,昆仑万维董事长兼 CEO 方汉解释说,「大家知道 AI 底座大模型是 AIGC 坚实的基础,尤其是文本大模型。文生图、文生音乐和文生视频(这些


AIGC 模型)的能力基础都是文本大模型。如果文本模型能力不够强,AIGC 能力就会受到很大限制。」


这种作用在「天工 3.0」的 AI 绘画等能力上也有所体现。「天工 3.0」新增了图片尺寸扩展、图片定向调整、垫图生图、垫图进化、垫图扩图等全新功能,实测效果优秀。




「我们的 4000 亿大模型是给我们所有的面向 C 端的产品提供支撑的底座大模型。我的底座大模型做得越好,我的音乐、游戏、视频以及动漫产品就会做得更好。所以我们做底座大模型是有非常强的动力的。」方汉说到。


实现通用人工智能,

让每个人更好地塑造和表达自我


在关于 AGI 的愿景中,我们经常听一些AI企业高管提到,他们想要用 AI 工具来提高人类社会的生产力和效率。因此,他们大多专注于模型智力的扩展和增强。但在方汉看来,这其中忽略了一个重要问题,即如何用 AI 帮助人们更好地理解和表达情感。


在天工 SkyMusic 的音乐作品区,我们看到了很多这样的例子:学生即将毕业的离愁、青年爱而不得的神伤、中年人养家糊口的疲惫都通过歌声表达了出来。这是真正的「以歌明志」。






而对于方言的支持则更像一种文化平权,这是方汉非常看重的一点。未来,他们希望把更多语种加进去,让每一个小语种人群都可以轻松创作出属于自己的文化内容。


「在 AIGC 领域,我们宏伟的目标是希望全世界每一个人都能平等地去创作内容。我们想要降低所有人的创作门槛,让大家都能更好地塑造和表达自我。」方汉表示。


最近,这些内容还被写入了昆仑万维的最新使命中。




其实,这种做法在商业上也是有意义的。「一旦人人都可以创作音乐之后,我相信任何一个公共场所,比如说每个餐厅、每个酒吧都可以创作出属于自己的背景音乐,来满足自己的业务需要。」方汉解释说。


随着未来持续的优化完善,天工 SkyMusic 会逐渐演变成一个专业且易用的全民音乐创作平台。


当然,昆仑万维的发力方向不只是音乐。以「天工 3.0」为基础,他们已经形成了六大 AI 业务矩阵。未来,这些矩阵将组成一个 AI UGC 平台。




这个平台不仅能够帮助普通人表达自我,还能帮助那些想用 AI 创作内容的创作者完成 IP 创作的全闭环。这个闭环以「好的故事(IP)」为核心,跨越文本、漫画、音乐和视频等多种形式,消费者的内容消费也都在这一个平台上完成,这是昆仑万维构建的商业逻辑。


「我们的本质是让更多人参加到创作者队伍里面去。前提是你要会讲一个好的故事。如果你能够创作一个好的 IP,那么就能创作内容。可以预见到的是,所有内容行业都将被重做一遍。创作者人数将以百倍扩充,能够消费的内容也是以百倍扩充。人类将进入一个新时代,这也是我们提出『All in AGI 与 AIGC』战略的逻辑。」方汉说到。


这个时代将被塑造成什么样子?我们拭目以待。


文章来自微信公众号“机器之心”,作者:张倩


AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
AI漫画

【开源免费】ai-comic-factory是一个利用AI生成漫画的创作工具。该项目通过大语言模型和扩散模型的组合使用,可以让没有任何绘画基础的用户完成属于自己的漫画创作。

项目地址:https://github.com/jbilcke-hf/ai-comic-factory?tab=readme-ov-file

在线使用:https://aicomicfactory.app/

2
RAG

【开源免费】graphrag是微软推出的RAG项目,与传统的通过 RAG 方法使用向量相似性作为搜索技术不同,GraphRAG是使用知识图谱在推理复杂信息时大幅提高问答性能。

项目地址:https://github.com/microsoft/graphrag

【开源免费】Dify是最早一批实现RAG,Agent,模型管理等一站式AI开发的工具平台,并且项目方一直持续维护。其中在任务编排方面相对领先对手,可以帮助研发实现像字节扣子那样的功能。

项目地址:https://github.com/langgenius/dify


【开源免费】RAGFlow是和Dify类似的开源项目,该项目在大文件解析方面做的更出色,拓展编排方面相对弱一些。

项目地址:https://github.com/infiniflow/ragflow/tree/main


【开源免费】phidata是一个可以实现将数据转化成向量存储,并通过AI实现RAG功能的项目

项目地址:https://github.com/phidatahq/phidata


【开源免费】TaskingAI 是一个提供RAG,Agent,大模型管理等AI项目开发的工具平台,比LangChain更强大的中间件AI平台工具。

项目地址:https://github.com/TaskingAI/TaskingAI