开源首个 Meta AI 闽南话和英语可以直接语音互译! 语音翻译系统 (开源 mq)

文章编号:36779 最新资讯 2024-11-30 语音翻译系统 Meta 闽南话 AI

机器翻译是现今人类消除语言障碍、重建巴别塔的新工具。然而,在世界现存的 7000 多种已知语言中,许多低资源语言还未得到足够的关注,尤其是有近一半的语言没有标准的书面系统,这是构建机器翻译工具的一大障碍,所以目前 AI 翻译主要集中在书面语言上。

在利用 AI 推动自然语言翻译这件事上,Meta 一直致力于“No Language Left Behind”(没有一种语言被落下)的目标。

,现在也有了专属的机器翻译系统,讲闽南话的人可以与讲英语的人进行无障碍对话了。

第一个由 AI 驱动的非书面的、语音到语音的翻译系统。 来听听这项工作的负责人、Meta AI 研究员 Peng-Jen Chen 与小扎的对话,Chen 出生于中国台湾。

视频见:

该系统可以将闽南话的语音翻译成英语语音,反之亦可。会讲闽南话的读者可以来检验一下,是不是翻译效果还挺不错?

据了解,这个开源翻译系统是 Meta 的通用语音翻译(UST) 项目的一部分,该项目致力于开发新的人工智能方法,帮助实现所有现存语言的实时语音到语音的翻译。目前,Meta 已经开源了该翻译模型和评估数据集,研究论文如下:

Meta 开源首个 AI 语音翻译系统,闽南话和可以直接语音互译!



克服训练数据的挑战

闽南话是汉语方言之一,是一种低资源语言,没有标准的书写系统,人工的英语到闽南话翻译人员也相对很少,所以为模型收集和标注训练数据就变得更加困难。

Meta 开源首个 AI 语音翻译系统,闽南话和可以直接语音互译!

图注:讲闽南话(Hokkien)的人的数量

为此,来自 Meta AI 的研究团队采用了一种特殊放方案, 利用汉语普通话(属于高资源语言)作为中间语言 来构建伪标签和人工翻译。他们首先将英语(或闽南话)语音翻译成普通话文本,然后再翻译成闽南话(或英语)并将其添加到训练数据中。这种方法通过利用来自类似高资源语言的数据,极大地提高了模型性能。

是训练数据生成的另一种方法。使用预训练的语音编码器,能够将闽南话语音嵌入编码到与其他语言相同的语义空间中,所以闽南话没有书面形式也不造成问题。闽南话语音可以与语义嵌入相似的英语语音和文本对齐,然后从文本中合成英语语音,产生并行的闽南话和英语语音。

Meta 开源首个 AI 语音翻译系统,闽南话和可以直接语音互译!

图注:无需人类标注的语音翻译模型




新的建模方法:语音到语音

许多语音翻译系统都依赖转录或者是语音到文本的系统。但是,闽南话的形式主要是口语,缺乏标准的书面文字系统,无法转录成文本作。所以,Meta 所构建的是一个

研究人员使用语音到单元(speech-to-unit,S2UT)翻译, 将输入语音直接翻译成一系列的声学单元, 这也是 Meta 先前最早开创的一种路径。然后,从这些声学单元中生成 。此外,研究人员还采用了 UnitY 作为双通道解码机制,第一通道解码器生成相关语言(即汉语普通话)的文本,第二通道解码器创建单元。

Meta 开源首个 AI 语音翻译系统,闽南话和可以直接语音互译!




新的准确性评估系统

语音翻译系统的评估工具通常是 ASR-BLEU 指标,该指标首先使用自动语音识别 (ASR) 将翻译后的语音转录为文本,然后将转录文本与人工翻译的文本进行比较,计算 BLEU 分数。

但要评估闽南话的语音翻译系统,难处还是在于它没有标准的书面文字系统。所以,为了实现自动评估,研究人员开发了一个系统,将闽南语语音转录为一种称为 Tâi-lô 的标准化注音符号。这样就能在音节的层面上计算 BLEU 分数,从而比较不同方法的翻译质量。

除了开发这种评估闽-英语音翻译的方法外,研究人员还基于闽南话语料库 Taiwanese Across Taiwan,创建了第一个闽-英双向语音到语音翻译基准数据集。该基准数据集将开源,以方便更多研究人员从事闽南话语音翻译工作。




不止闽南话

这项工作所用技术可以进一步扩展到许多其他书面和非书面语言。

为此,Meta 还发布了 SpeechMatrix,它是一个大型的语音到语音翻译语料库,使用了 Meta 的创新数据挖掘技术 LASER, 从欧洲议会录音的真实演讲中挖掘数据。该数据库包含 136 种语言对的语音对齐,共 41.8 万小时的语音。挖掘的数据和模型都是免费的,研究人员可以创建自己的语音到语音翻译 (S2ST) 系统。

Meta 开源首个 AI 语音翻译系统,闽南话和可以直接语音互译!

图注:LASER 挖掘获得的语音到语音成对数据

Meta 在无监督语音识别 ( wav2vec-U ) 和无监督机器翻译( mBART )方面的研究进展,也为口语翻译工作提供了支持。比如用于预训练语音模型的无监督域自适应技术,提高了下游无监督语音识别的性能,尤其是对于低资源语言,在没有任何人工标注的情况下,可以构建高质量语音到语音翻译模型。

该模型仍在不断推进中,目前一次只能翻译一个完整的句子,但这迈出了未来实现语言间同声传译的一步。

据 Meta AI 的研究员 Peng-Jen Chen 说,这个闽南话翻译系统其实有一部分是出于他的一个私人心愿。他在中国台湾长大,同时会讲普通话,但是他的父亲普通话不好,他希望他的父亲能够用闽南话与每个人都顺畅地交流。这也是 AI 之于人类的意义之一。

Meta 开源首个 AI 语音翻译系统,闽南话和可以直接语音互译!

版权文章,未经授权禁止转载。详情见 转载须知 。

Meta 开源首个 AI 语音翻译系统,闽南话和可以直接语音互译!


本文地址: /article/25f6f6f70823fb4ee66f.html
全局中部横幅
全局中部横幅
中华军事_军事新闻_资深军事门户_军事频道_中华网

中华网军事频道解读国际政治军事战略格局,见证中国国力军力的腾飞,坚守民族信念与真理,与亿万网友一起守土尽责,缔造中国爱国者的精神家园,共同推进世界和平。主要有以下栏目:军事新闻、每日军情参考、台海形势、中国军情、国际军情、军事专题、网友原创、军事视频、军事图库。

吉屋_让房产交易更畅快

简单可信赖的新房导购平台(吉屋网www.jiwu.com),目前吉屋新房业务覆盖到中国省会城市站点,已经为百万用户提供新房网络导购服务

880手游网-安卓手游下载站-打造极速手游下载

880手游网为全网下载速度最快的手游下载网站,全站游戏皆为绿色免费下载,提供的下载内容包括安卓游戏下载及最新最热门的手机游戏等

来橙宠物网 – 宠物产业互联网服务平台

来橙宠物网专注宠物猫、狗产业研究,提供信息传播咨询服务,凝聚产业力量、促进行业交流合作,致力于构建宠物产业互联网服务平台。

小微律政-公司注册-代理记账-公司变更-商标注册

注册公司找小微律政,小微律政专注为创业公司及中小微企业提供代办公司注册,公司变更,代理记账,商标注册,公司章程拟定等一站式企业服务,服务流程无微不至!

钢丝网骨架管_聚乙烯复合管_钢骨架聚乙烯塑料复合管-江苏清源管业有限公司

公司始创于2016年6月22日,注册资金6000万人民币,专业从事钢丝网骨架塑胶(聚乙烯)复合管的研发、生产、销售、安装服务的现代化高科技术产业。主导产品钢丝网骨架塑胶(聚乙烯)复合管以其特有的防腐蚀、耐磨、耐高温、抗严寒、耐压、抗蠕变、稳定性好、安装方便等特点逐步取代各类金属管道和塑料管道,被广泛应用于石油、化工、燃气、供水、采矿、海水输送等领域。

浙江欣奕华智能科技有限公司

浙江欣奕华智能科技有限公司成立于2018年,隶属于欣奕华科技集团。公司致力于以AI+AMR+赋能智造,以移动复合机器人为载体,为行业客户提供全场景移动机器人解决方案,成为客户的移动搬运专家和自动上下料专家,助力各行各业合作伙伴提高生产经营环节数字化和智能化水平,构建现代智能制造和智慧服务体系,为加速数字中国战略发展持续赋能。

交通信号灯厂家_箭头人行信号灯_监控立杆-江苏顺泰交通集团科技公司

江苏顺泰交通集团科技公司厂家专业供应各类箭头交通信号灯,机动车人行信号灯,交通杆件交通信号灯杆件,电子警察杆监控立杆,高速龙门架免费电话15052509897微信同号,价格实惠,质量上乘,欢迎来电咨询采购!

首页-广州市慈心养老院有限公司

广州市海珠区慈心养老院建于2009年2月9日,全院占地面积2000平方米,建筑面积约8000平方米,建有四层高的整体楼,内设单人、双人、三人房,现有床位419张。

全局底部横幅