WaveNet 做出了这些重大变化 你可能还不知道 Assistant 为了进驻 Google (WaveNet)
雷锋网 AI 科技评论按：DeepMind 提出的 WaveNet 是目前顶级的语音生成模型， 论文 最初于2016年9月发表，雷锋网 AI 科技评论也立即跟进报道 DeepMind发布原始音频波形深度生成模型WaveNet 。WaveNet抛弃了以往通过声学模型拼接语音音素的做法，完全通过深度神经网络生成原始音频波形，并且大幅提高了语音生成质量。
今年10月，我们也报道过 WaveNet正式商用：效率提高1000倍 ，仅一年时间就走出实验室，在 GoogleAssistant 中落地。在庆贺深度学习又一次完全颠覆传统做法的同时，大家想必也会好奇，到底DeepMind做了哪些改进才得以实现这样数量级的效率提升呢？DeepMind自己最近就发布了介绍商业化改进后的 WaveNet 的论文，并撰写了一篇博文通俗地介绍了其中的改进点。雷锋网 AI 科技评论把这篇博文翻译如下。
自 DeepMind 在2016年发表WaveNet论文后，这一顶级表现的语音生成模型已经于今年10月开始用在 GoogleAssistant 中，为全球的用户生成逼真的日语和美国英语语音。现在这个用于生产环境的模型称作“并行WaveNet”，它的运行速度要比最初发布的模型快一千多倍，而且生成的语音质量也更高。
在近期的论文（）中，DeepMind的研究人员们就介绍了新模型的一些细节；以及为了让这个系统能在大规模并行化的计算环境中运行，DeepMind还开发了一个新技术“概率密度蒸馏”。
最初版本的WaveNet在生成语音时用了很激进的连接方式，每次生成一个采样点，而且每个新生成的采样点都需要把前一个采样点作为输入（条件生成）。虽然这种做法能够生成高质量的音频，每秒最高也能生成2万4千个采样点，但这种顺序生成的方式对于生产环境来说还是太慢了。
最初版本的模型中，生成每个新的样本都需要把前一个生成的样本作为条件
为了解决这个问题，DeepMind的研究人员们认为他们需要一种新的方案，它应当能一次生成一个长序列中的所有采样点，而且没有生成质量的损失。他们的想到的办法叫做probability density distillation，“概率密度蒸馏”。它的做法是，用一个完全训练好的 WaveNet 模型教另一个“学生”网络如何推理；这个学生网络更小、并行度更高，从而也就更适合运行在现代计算硬件上。这个学生网络的架构是一个规模不大的卷积神经网络的拓展，跟原来的WaveNet很相似，但它有一点根本性的不同，就是生成新的采样点时不需要依赖任何之间生成的采样点。这也就意味着，语音生成时可以把第一个单词、最后一个单词、以及所有当中的单词全部同时生成出来，就像下面的动图里这样。
新的WaveNet把白噪音作为输入，然后一次同步生成所有的输出采样点。
训练的时候，学生网络是从一个随机状态开始的。它的输入是随机白噪声，要训练它做的任务就是产生连续的音频波形作为输出。学生网络生成的输出会被交给训练过的WaveNet模型，它会给每个采样点打分，作为提供给学生网络的信号，让它了解它的输出和理想输出之间的差距。随着训练过程进行，学生网络就可以根据反向传播不断调节、更新，从而学会产生理想的输出。从另一个角度说，“老师”网络和“学生”网络都会给每一个音频采样点的取值输出一个概率分布，然后训练的目标就是让老师的分布和学生的分布之间的KL距离最小化。
这样的训练过程和生成式对抗性网络（GANs）的设定有不少相似之处，学生网络就像是GANs中的生成器，老师网络就像是鉴别器。不过与GANs不同的是，学生的目标并不是像GANs中那样“骗过”老师，而是与老师合作，尝试学习、达到老师的表现水平。
虽然这种训练技巧有不错的表现，DeepMind的研究人员们还是需要增加几个额外的损失函数，引导学生更好地向理想的行为前进。具体来说，他们增加了一个感知损失来避免模型产生糟糕的发音，增加了一个对比度损失来进一步减少噪声，以及一个能量损失来让网络的音频输出与人类语音的能量相匹配。能量损失的作用是，如果没有它的话，模型的音量很小，更像窃窃私语而不是朗声说话。
应用了以上所有这些方法之后，DeepMind就得以让训练出的并行WaveNet达到与最初的WaveNet同等的语音质量，人类测试者听过之后的平均意见打分（MOS，5分为满分）结果如下。值得一提的是，真正的人类语音也只有4.667的MOS分数。
当然，概率密度蒸馏仅仅是让WaveNet达到生产化系统的速度和质量的众多必须手段之一。为了把并行WaveNet集成到GoolgeAssistant的服务流水线中，DeepMind的技术应用团队和谷歌语音团队也同样在工程方面付出了大量努力。也正是靠着这样的紧密协作，最初是基础性研究的技术只花了12个月多一点点的时间就成为了谷歌规模、能够服务全球用户的正式产品。
并行WaveNet论文地址：
via DeepMind Blog ，雷锋网 AI 科技评论编译
Deepmind语音生成模型WaveNet正式商用：效率提高1000倍
DeepMind发布最新原始音频波形深度生成模型WaveNet，将为TTS带来无数可能
版权文章，未经授权禁止转载。详情见 转载须知 。
本文地址： https://www.gpxz.com/article/963d73d4691d890e239f.html
好看视频是百度短视频旗舰品牌，拥有超百万的短视频创作者。全面覆盖知识、美食、生活、健康、文化、游戏、影视等海量视频，致力于为用户提供优质的视频内容与观看体验，让用户轻松有收获。
主要发布中国国防和军队建设权威信息，旨在对外传递中国军方声音，宣传中国国防政策，加强与外军交流合作，展示中国军队良好形象，促进国防和军队现代化建设。
国新高科-专注于碳化硅微通道反应器技术设备开发与应用!
中华汉语词典提供新华词典近40万条词语在线查询，可查询词语的拼音、词语解释、注音、近义词、反义词、词语造句等信息，是您在线查词学习汉语知识的必备工具，本站将会持续更新词语库。
在线客服系统、在线客服软件解决方案提供商，一洽客服系统十五年行业经验，服务全球十万家企业，人工客服系统、智能客服系统、智能客服机器人实现7*24小时服务。不仅仅只是网站客服系统，而是小程序、公众号、APP、微博、Facebook等全渠道接入。支持集团架构、多商户架构、多店铺架构、多语言架构。多路由、多样式、多分配策略支持。开放API，支持集成企业会员、订单等业务系统。
安徽澜圣威酒业有限公司由国内专业的农业专家和酿酒大师共同带领组建成致力于推广酒业，历经多年研发澜圣威苦荞啤酒，一经面世，备受代理商及消费者认可。浓郁的荞麦香味、丰富细腻的泡沫，强烈的杀口力，饮后令人回味！
全球矿产资源网：着力打造面向全球的矿业门户网站,拥有矿业资讯、矿权转让、矿石行情、矿业设备、矿企展示 、国际合作、矿业人才、矿业专家推介、政策咨询、会展信息、地勘动态、矿业论坛等众多频道,免费注册会员、无限发布信息
江苏政企先锋在线网
龙港人才网(www.33032.cn)，嘉信通旗下人才招聘平台。龙港人才网立足龙港，辐射灵溪、钱库、宜山、金乡、鳌江等地区。为企业和人才之间搭建一座沟通的桥梁，欢迎您的访问。
本公司专注于互联网营销推广，为企业做全网营销服务以及保定代理记账服务，如果您需要互联网营销推广、全网营销、代理记账等服务，欢迎您联系我们。
我秀（woxiu）是一个人人在线视频娱乐直播平台，也是人气旺盛的美女在线直播互动社区，在这里人人可以玩直播，可以与美女网红主播在线视频、手机直播聊天交友！
购物车都准备好了，老板不发年终奖，、，XX公司年终奖发了个锤子，真‘发个锤子，，春节临近，社交平台上大多数人最关心的还是年终奖有没有妥，但在倒闭潮、裁员潮密集袭来的资本寒冬中，好消息仿佛并不多，年终奖从，阳光普照，到少数人的特权，终于也成为了，别人家的，智联招聘发布的2019年年终奖调研数据统计分析显示，2019年白领年终奖满意...。
老吾老，以及人之老；幼吾幼，以及人之幼，孟夫子的这句名言，千百年来被人们朗朗传颂，在孟夫子的构想中，，幼有所养、老有所依，被视为是大同社会的基本雏形，但理想很丰满，现实很骨感，当中国已经步入老龄化社会，劳动力越来越紧缺时，以人力为主的传统养老模式能否维系还得打个问号，最新的人口普查数据显示，2021，，我国当前65岁以上人口为1....。
发表在综合交流大区2022，6，1819，09平时我们在选购投影仪时经常会看到投影仪参数上显示芯片处理器，所有的商家都会宣称自己的芯片处理器是最厉害的，但懂行的才知道哪个是鸡肋款哪个才是真正的牛逼款，这里我们就给大家分享一下关于amlogic与mstar芯片的知识，看完就不会被忽悠了，amlogic与mstar哪个好，现在很多投影仪上...。
发表在投影固件2018，10，911，04坚果V81.2.11版本固件更新下载！下载地址，百度云盘，https，pan.baidu.com，s，1G0pV24bRzUd7p3eUAiwExA密码，此处内容被隐藏，回复本帖后可见更新内容，1.更新坚果控；2.更新在线播放器和Launcher；3.修正ota升级，恢复出厂设置dlp参数...。
发表在峰米投影仪2023，5，916，35峰米R1C是最新上市的超短焦激光投影仪，峰米R1C的整体配置相比前代R1有所提升，具体峰米R1C参数配置怎么样呢，下面就来抢先了解一下，看看峰米R1C投影仪究竟怎么样，峰米R1C参数配置抢先看，1.峰米R1C采用的是ALPD激光光源技术，拥有出色的亮度表现，实际亮度达到850CVIA流明，可以...。
8月3日下午，杭州网发布，杭州市联合调查组发布关于林生斌相关情况通报，针对近期网络上反映林某斌涉嫌违法犯罪的相关情况，杭州市联合调查组开展了调查核实，现将有关情况通报如下，一、，蓝色钱江放火案，相关情况案件经依法侦查、起诉、审判，并报请最高人民法院核准，证据确凿，案犯莫焕晶被判处死刑，并已经执行，公安机关严格按照相关法律程序，对案件...。
△乌克兰哈尔科夫州军事行政长官西涅古博夫，资料图，乌克兰哈尔科夫州军事行政长官西涅古博夫外地期间11日示意，今天俄罗斯经常使用炸弹袭击了哈尔科夫州沃尔昌斯克地域，袭击造成2人死亡、8人受伤，目前接济人员仍在现场展开接济执行，俄罗斯方面对此暂无回应，总台记者董薇，点击进入专题，俄乌抵触更新第二次世界大战的内容第二次世界大战Second...。
重装系统不再难，大白菜U盘带你轻松上手！在科技突飞猛进的当天，计算机系统的稳固运转关于上班和生存至关关键，但是，系统缺点、病毒侵袭或功能下滑时，重装系统就成了咱们的得力助手，本文将详细引见如何经常使用大白菜U盘启动Windows10的重装教程，让你极速把握这一适用技艺，一、U盘启动盘的制造首先，咱们须要下载大白菜U盘启动盘制造工具，把...。
盖拉多曾经停产了，取代盖拉多的车型是兰博基尼huracan，盖拉多一共经常使用了两款发起机，一款是5.0升v10人造吸气发起机，另一款是5.2升v10人造吸气发起机，huracan全系经常使用了5.2升v10人造吸气发起机，huracan经常使用了7速双离合变速箱，盖拉多经常使用的是手动变速箱和amt变速箱，其实amt变速箱的结构与手...。
郭一鸣：超长期特别国债为何备受追捧？_郭一鸣-_新浪博客,郭一鸣-,
2022年修复登录接口版最新知识付费变现小程序源码下载-**后台版本源码资源仅供学习研究美工使用，请勿用于商业和非法用途!源码说明2022年修复登录接口版最新知识付费变现小程序源码下载-**后台版本主要功能会员系...
永劫无间就在今天开启了全新的赛季，自然也会上线全新的通行证奖励，那么永劫无间凌霄通行证多少钱呢?就让小编带你走进永劫无间凌霄通行证奖励一览看看是否值得购买吧。,永劫无间凌霄通行证奖励一览永劫无间凌霄通行证多少钱
雷锋网注，声网Agora.io创始人赵斌，为什么通话质量不好，在从业生涯里，赵斌总会遇到别人问这样的问题，然后他只能告诉这只是由于网络或设备出了毛病，但这样的问题问的多了，会让他感到很沮丧，因为如果是网络的问题，程序员就不能拿出什么解决办法吗，确实没有，你能做的也不过是专注于改进软件和运用先进的算法，而且后来在YY的工作经验让他明白...。
3月20日，在2024全球游戏开发者大会，GDC，上，腾讯发布了自研游戏AI引擎——GiiNEX，基于生成式AI和决策AI技术，GiiNEX将为游戏全生命周期提供丰富的AI解决方案，借助大模型等生成式AI技术，GiiNEX面向AINPC、场景制作、内容生成等场景，提供了包括2D图像、动画、3D城市、剧情、对话、关卡以及音乐等多样化的A...。
11月12日，阿里云通义大模型团队开源通义千问代码模型全系列，共6款Qwen2.5，Coder模型，相关评测显示，6款代码模型在同等尺寸下均取得了业界最佳效果，其中32B尺寸的旗舰代码模型在十余项基准评测中均取得开源最佳成绩，成为全球最强开源代码模型，同时，该代码模型还在代码生成等多项关键能力上超越闭源模型GPT，4o，基于Qwen2...。
右边是个，汏tai·da，字，买汰烧de生活实录，团成一团，圆润离开节目实录在节目实录过程中，我们遇到了一位特别的朋友，他以一种友善的态度，向我们提出了一个小小的请求，希望我们不要使用上海话，因为他对上海人持有某种偏见，在我们的互动中，他展现出了可爱的性格，仿佛在以一种轻松的方式表达他的不悦，我建议他可以尝试以一种团成一团、圆润离开的...。
发表在当贝投影仪2022，12，911，30当贝U1和坚果O1S是如今销量火爆的两款超短焦产品，其中当贝U1采用的是激光光源，而坚果O1S则是LED光源，具体两款投影仪在相同环境下有怎么样的画质表现呢，下面就为大家分享，看看当贝U1和坚果O1S画质实拍对比效果究竟如何，看看哪款投影仪的画质表现更好，当贝U1和坚果O1S画质实拍对比既然...。
