Findings EMNLP2021 基于自修正编码器的神经机器翻译 字节火山翻译提出 (finding)
然而，上面提到的场景往往有一个共同点，那就是被翻译的文本往往是不规范的。无论是聊天时手误导致的错别字，还是视频语音原文识别的错误，都会极大地影响译文质量。因此， 实际应用场景下的机器翻译对翻译模型的鲁棒性有很高的要求。
今天就为大家介绍一篇由字节跳动人工智能实验室火山翻译团队发表在 EMNLP 2021 Findings 的短文 - Secoco: Self-Correcting encoding For Neural Machine Translation。 这篇论文让翻译模型在学习翻译任务的同时，学习如何对输入的带噪文本进行纠错，从而改善翻译质量。
神经机器翻译在近些年取得了很大进展，但是大部分工作都是基于干净的数据集。在现实生活中，神经机器翻译系统面对的输入往往都是包含噪声的，这对翻译模型的鲁棒性提出了很大挑战。
之前的翻译鲁棒性工作主要分为三类：
可以看到，大部分的工作都专注于如何生成噪声，很少探究如何进一步使用它们；本文则想要 通过建模从噪声数据到干净数据的修正过程，从而增强模型的鲁棒性。
作者针对神经机器翻译提出了具有鲁棒性的 自修正框架Secoco (lf-rrecting Ending)。
虽然这种迭代编辑的过程每一步都需要前面的操作，但是为了简化训练过程， 插入预测器和删除预测器都是相互独立的，并与普通的翻译任务同时进行训练。
一个关键的问题是如何生成这些训练数据？关键点在于 获取从带噪数据转化为干净数据的编辑操作。 作者提供了两种方式。一种是针对有带噪数据和对应干净 reference 数据的情况，一种是没有带噪数据的情况。
，可以使用类似计算最短编辑距离的方法，获取从带噪数据转化为干净数据的最短编辑过程，然后将替换操作转化为删除-插入操作。
，可以使用基于规则的方法生成伪数据。针对不同的场景，可以设计对应的规则，然后从干净的数据中生成带噪数据，最后反向这个过程就可以得到编辑过程。
训练完成后，便可以进行解码。正如图2右侧展示的，Secoco 有两种解码方式。第一种是仅使用编码器-解码器结构直接进行翻译 (Secoco-E2E)，另一种则是对输入进行迭代编辑后再进行翻译 (Secoco-Edit)。
作者在三个测试集进行了实验，包括一个基于电视剧的中英对话测试集，一个内部的中英语音翻译测试集，以及加入人工噪声的英德WMT14测试集。
如表1所示，对话测试集包含主语省略，标点省略，错别字等问题；语音测试集包含口语词，错别字等 ASR 引起的问题；WMT14 则包含由规则构造的随机插入，随机删除，重复等问题。
实验结果如表2所示。除了 Secoco 之外，作者还和3种方法进行了对比，分别是将合成的噪声数据加入原始数据中一起训练 (BASE+synthetic)；使用修复模型加上翻译模型的 pipeline 级联结构 (REPAIR)；以及多编码器-单解码器的结构 [1] (RECONSTRUCTION)。可以看出，所有的方法相较于基线模型都有所提升。Secoco 在三个测试集上都获得了最好的效果。
此外，在这三个测试集中，对话测试集明显包含更多的噪声，Secoco 最多可以带来3个 BLEU 的提升。语音测试集由于是由 ASR 导出的，因此最好的结果也仅有12.4。
表格3中给出了一些迭代编辑的具体例子。针对每一句输入，模型对其进行迭代删除和插入操作，直到文本不再发生变化。从例子中可以看到，一次编辑操作可以同时删除或者插入多个词。此外，对于上述的测试集，平均每个句子需要2-3次编辑操作。
针对互联网中非规范输入带来的鲁棒性问题，本文主要介绍了一个具有自我修正能力的神经机器翻译框架 Secoco，该框架通过两个独立的编辑操作预测器建模修正带噪输入的过程。实验表明， Secoco 在多个测试集上都优于基线模型，增强了翻译模型的鲁棒性，并提供了一定的可解释性。
版权文章，未经授权禁止转载。详情见 转载须知 。
本文地址： https://www.gpxz.com/article/eda90b0ef5cafaf3a3d5.html
使用代码解释器，可以帮您快速解释和执行各种编程语言的代码，帮助您轻松调试和测试代码，加速开发过程，提高工作效率。
陕西省黄龙县人民法院
郑州新领地科技是一家专业做郑州网站建设,濮阳网站设计和驻马店网站制作;主营三门峡网站制作、濮阳APP开发、河南企业网站建设、漯河小程序开发、信阳400电话,服务区域为：郑州、开封、洛阳、平顶山、安阳、鹤壁、新乡、焦作、濮阳、许昌、漯河、三门峡、南阳、商丘、信阳、周口、驻马店，服务热线:【15617430425】
迅易网(www.riyuangf.com)成立于:2016年,是一个免费发布信息的网站,电子商务信息平台!
江西盛炜化工科技有限公司
QuickSuit
深圳恒信远科技提供免费的厂房车间地坪漆施工方案以及各种停车场地坪漆价格.欢迎拨打热线13058132313咨询厂房环氧树脂地坪漆的报价.我们拥有丰富的环氧地面施工经验，且效率高，质量好，并根据不同的地面提供合理的地坪解决方案。
淄博天凯耐火保温材料有限公司主要生产保温抹面料,浇注料,耐火砖,耐火材料,硅酸铝纤维毯,保温隔热涂料等产品，在浇注料等各种异型耐火保温砖生产方面拥有多年的经验和技术。
无锡飞超机械工业有限公司,专业设计、制造和销售电力及能源环保设备以及基础传动件。
在线客服，一站式客服系统，为您提供实时在线咨询服务，支持多渠道线上咨询的客服软件。
信长之野望13天道游戏专题;提供信长之野望13天道中文版下载,信长之野望13天道攻略大全,信长之野望13天道汉化补丁,信长之野望13天道视频解说,攻略视频,修改器,汉化下载,完美存档,MOD,配置,教学,截图,壁纸等资料。更多《信长之野望13天道》相关内容尽在游侠网。
深圳昀阳国际贸易有限公司专注于国际贸易，提供机械设备研发与销售、电子产品销售、技术咨询与服务、货物及技术进出口等全方位服务。
人们对进口产品的喜爱度越来越高，于是很多人都想开一家进口超市，并以，进口，作为亮点来吸引顾客前来，这是一个很不错的想法，那么进口超市加盟连锁店要多少钱，下面我们为您介绍下，就目前来看，以50到70平进口超市为例，整体投入在12万到20万之间，这个费用主要包括店铺装修、设备购买、货物存储等，租金方面需要另算，具体费用大家可以根据当地的实...。
火锅相信是大家比较熟悉的食物，很多人们会选择在家里在做火锅吃，买上自己喜欢的食物和一些火锅底料，大家围坐在一起也是非常开心的一件事情，市面上的火锅产品也是不断增多，火锅串串比较受大家的的欢迎，也让很多的创业者们看到了其中的商机，纷纷想要选择加盟其中，签年时光串串香加盟店美食多吗，接下来就由小编为大家简单的介绍一下吧，签年时光店内的装修...。
六年前，三位饱含创作热情的大学生成立了Clearpath机器人公司，现在公司的80名员工能制作各种机器人，比如美国国防部使用的一种四轮机器人车辆，比如无人机，甚至还制造了机器船，若说这家公司有什么特别，那就是他们永远不会制造杀手机器人，目前Clearpath是第一家，也是唯一一家承诺不会制造杀手机器人的公司，公司CTORyanGari...。
高通越来越重视中国市场了，2018年5月24日，高通在北京举行了一场人工智能论坛，英文称之为AIDay，，出席本次论坛的，是高通公司内部仅次于高通CEOSteveMollenkopf的二号人物——全球总裁CristianoAmon，如果没有记错，这应该是高通第一次专门就人工智能话题举行相应活动；而作为一家美国公司，高通却把这一活动的举...。
显卡的全称是显示接口卡，又称显示适配器，是计算机基本配置、重要的配件之一，显卡作为电脑主机里的一个重要组成部分，是电脑进行数模信号转换的设备，承担输出显示图形的任务，显卡接在电脑主板上，它将电脑的数字信号转换成模拟信号让显示器显示出来，同时显卡还是有图像处理能力，可协助CPU工作，提高整体的运行速度，对于从事专业图形设计的人来说显卡非...。
开棋牌室违反规定吗，必须哪些办理手续，设立棋牌室花费，依据面积，室内装修，配套设施设定等标准，花费不一，依据具体情况而定，开棋牌室行政许可事项标准1、具有公司主体资格，2、加盟者、法人代表和责任人未犯有，游戏娱乐场所管理办法，第五条例举的刑事犯罪个人行为；3、不可设立在以下标准，1，住宅楼，含商住两用房楼，、历史博物馆、图书管、展览...。
<，strong>，摩根Roadster是一款软顶敞篷跑车，售价在150，160万元之间，该车在外观上间断了摩根一向的念旧和优雅格调，全体外型好像上世纪的老爷车，分为两座和四座版本，其车身规格相反，驳回的是上世纪五六十年代的设计格调，代表着摩根Roadster共同的经典传承，在能源方面，摩根Roadster搭载的是一台3.7L...。
西北v3菱悦就是西北汽车旗下的一款轿车啊西北汽车属于外国自主品牌，原来跟三菱协作搞了个西北三菱合资品牌，但由于如今三菱曾经分开轿车业务，所以如今西北用的都是原来三菱的剩货这款菱悦用的就是三菱蓝瑟的平台，西北v3菱悦是国产车自主品牌车型V3菱悦驳回了三菱的设计元素，如水滴型绚烂头灯高尔夫球杆式前雾灯带LED转向灯后视镜赤翼式尾灯设计等V...。
原题目，印度发表，中国公民签证，与巴基斯坦等同位置据印度，经济时报，报道，印度对中国公民履行了更严厉的签证规范，与孟加拉国、阿富汗和巴基斯坦等，优先转送类别，PriorReferralCategory，的国度处于等同位置，经济时报，印度对中国公民实施更严厉签证规则据报道，印度官员示意，在最新的商务签证发放指南中，印度外交部出台了...。
开年第一震，今天开始回调。_趋势巡航_新浪博客,趋势巡航,
区块链技术将给我们的生活带来哪些变革? 1、在网络上大家可以聊天、打游戏、查看物品等。更为重要的是在网络上还可以进行宣传广告和买东西。互联网技术给我们的日常生活带来很大的便捷。2、区块链为智能合约的实现创造了条件，比如根据协议，飞机延误可以
9月25日18时起，北京全市部分社保业务暂停服务,北京市,社会保险,养老保险,工伤保险,社保业务,城乡居民
超多的游戏款式都在市面上铺展开来，玩家们想要的选择也得看到各方面的情况，仔细充分的了解清楚才能有所选择，不知道玩家们有没有体验过这样的迷宫游戏的内容，可以看到以下的款式都是围绕着这一核心所展开的，游戏的玩法确实带来了一定的挑战性，玩家们可以多去感受一下，看看到底有没有自己所喜欢的内容，这样就能充分去选择了呢，1、，球球3D旋转迷宫，极...。
作为近两年才闯入大众视野的新兴品类，闺蜜机可谓来势汹汹，数据显示，2023年1，8月，中国移动智慧屏，即闺蜜机，线上监测市场，不含抖快等内容电商，的累计销量为6.6万台，销额超过2.8亿元，数据来源，洛图科技，RUNTO，线上监测数据，单位，万台，亿元前不久，又一重磅消息传来，大屏娱乐领导者当贝正式发布移动智慧屏产品——当贝PadGO...。
日前，IEEE，电气和电子工程师协会，官网公布，由我国企业主导制定的三项生物特征识别领域国际标准正式发布，IEEE是全球最大的非营利性专业技术学会，其标准通常由占主导地位的机构牵头制定，这意味着我国在生物特征识别领域的技术和应用走在世界前列，具备了一定的技术引领能力，图，IEEE2884，2023，生物特征识别性能评估，人脸识别，国...。
一家上市公司，包括一把手在内的几乎所有核心高管同时，荣退，，这场面恐怕多少年也见不到一回，去年4月27日，阅文集团官方通告，吴文辉、梁晓东、商学松、林庭锋等高管集体荣退，辞任管理职务，时任腾讯集团副总裁、腾讯影业首席执行官程武出任阅文集团首席执行官和执行董事，这在外界看来，是腾讯对包括网文、影视等文娱产业链相关业务的整合，看上去是个，...。
自动泊车作为自动驾驶技术的一种延伸，越来越多的主机厂将其视为一种技术升级，借此提升用户体验；另一方面，对不少自动驾驶初创公司而言，这也一条较为现实的自动驾驶商业化道路，雷锋网新智驾获悉，近日国内的嵌入式人工智能自动驾驶企业魔视智能，正式推出了基于赛灵思汽车级异构计算平台Zynq®UltraScale，™MPSoC的全新自适应前装量产自...。
