最简单的自然语言处理数据增广方法 EDA (最简单的自然笔记)
数据增广常用于计算机视觉。在视觉领域，你几乎肯定可以翻折、旋转或镜像一幅图片，而不用担心它的标记发生变化。然后，在自然语言处理（NLP）领域，情况完全不同。改变一个词有可能改变整个句子的意思。所以，没有简单的方法能做到数据增广。真的是这样么？
我向你介绍EDA：简单数据增广技术，可以大大提升文本分类任务的性能（在EDA Github repository有简单的实现代码）。EDA包含四个简单操作，能极好地防止过拟合，并训练出更强健的模型，分别是：
这些技术真有效吗？出乎意料，答案是肯定的。尽管生成的某些句子有点怪异，但是在数据集中的引入一些噪声，对于训练出一个健壮的模型来说，是极有好处的，特别是数据集比较小的时候。这篇论文指出，在5个文本分类任务的对比测试中，基于几乎所有大小的数据集，使用EDA都击败了常规训练方法，在训练数据集较小的时候，表现尤其突出。平均来说，用EDA训练一个循环神经网络（RNN），只需50%的训练数据，即可达到常规方法同等的精度。
文本分类任务的性能表现，相对于训练集的使用百分比。 使用EDA（简单数据增广），在小数据集时，远胜常规方法。
EDA会保留增广句子的真实标记吗？
我知道你在考试这个问题。真的能在做增广操作的同时，保留其真实标记吗？我们用画图形的方法来验证一下。
假设你训练一个关于产品的正面、负面评价的RNN，使用常规和增广的句子都跑一遍，抽取神经网络的最后一层，用sTNE画一个潜在空间图：
ProCon数据集原生及增广句子的潜在空间图
可以看到增广句子的潜在空间图紧紧围绕着原生句子！这表明所生成的增广句子极大可能的保留了原始句子的标记。
这些操作都有效吗？
现在，我们来看看数据增广技术中每个单独操作的效果是什么样的。同义词替换好理解，但是另外三个操作真的起作用吗？我们可以做一个实验，单独做其中一种操作，并代入不同的α值，参数α大致可理解为“句子中被改变的单词的百分比”：
在不同大小的数据集下，对比其它五种文本分类方法，EDA操作的平均性能增益。 参数α大致可理解为“句子中被每种增广操作改变的单词的百分比”。
你能看到，在小数据集时，性能增益非常大，达到大约2-3%，数据集大的时候，增益变小（~1%）。但是，各项操作综合起来，如果设置的增广参数合理（句子中改变的单词不超过四分之一），能使训练出的模型更健壮。
做多少增广？
最后，对于一个真实句子，我们应该增广出多少句子呢？答案取决于你的数据集的大小。如果你的数据集很小，很可能会出现过拟合，此时你应该生成多一些的增广句子。如果数据集比较大，增加太多的增广句子，意义不大，因为原有的数据已经能训练出一个好的模型了。这个图表显示了相对于每个原生句子生成的增广句子的数量的性能增益：
不同大小的数据集下全部五种文本分类任务的EDA平均性能增益。n_aug表示每原生句子生成的增广句子的数量。
下一步？
我们已经展示了在文本分类中，简单数据增广能显著提升性能。如果你正用小数据集训练一个文本分类器，并想取得更好的效果，请在模型中编程实现这些操作，或者从Github中下载EDA代码。更多详情请查看原文。
想要继续查看该篇文章相关链接和参考文献？
点击 EDA：最简单的自然语言处理数据增广方法 】 即可访问：
AI研习社今日推荐： 2019 最新斯坦福 CS224nNLP 课程
自然语言处理（NLP）是信息时代最重要的技术之一，也是人工智能的关键部分。NLP的应用无处不在，因为人们几乎用语言进行交流：网络搜索，广告，电子邮件，客户服务，语言翻译，医学报告等。近年来，深度学习方法在许多不同的NLP任务中获得了非常高的性能，使用单个端到端神经模型，不需要传统的，任务特定的特征工程。在本课程中，学生将深入了解NLP深度学习的前沿研究。
课程链接：
原创文章，未经授权禁止转载。详情见 转载须知 。
本文地址： https://www.gpxz.com/article/e134aa580854465a331b.html
找线报_活动线报，薅羊毛优惠活动分享,套路王实时更新V打开邮生活签到七天还没抽的真凡移动每日打电话，需接通汤星球文末点图抽小鸿包，0.3-0.4不bi中有反馈没抽的试试非bi中，V扫左上角小房子返回依视路1.6膜致好价古茗和pdd准备啦，古茗?12点抢1万张兔箪倦点外卖了扫码加企微，输入03612进去授权手机号京东伊利页面下单抽零食倦，?招行体验金提前解锁，20点有4100件宁波交行的看看1亓试用安徽农行信用卡50毛速?真维斯男士加绒保暖卫衣超级爽拼多多bug，0.1无限开三个月会员！！速度每日领京豆：1月21日京东关注店铺领京豆无标题中.信周三领神券抽霸王茶姬速雪中飞长款羽绒服110-140左右淘宝搜：古方惊喜盒子?雪中飞男士长款羽绒服双叠加??25??撸一箱安慕希闪购红包最高20元，可叠加
浙江科洪电器有限公司位于温州乐清市柳市镇，主要经营配电开关控制设备、高低压电器及成套设备等产业，始终为客户提供高质量的产品、专业的技术支持以及健全的售后服务。
MYB2B系统是基于PHP+MySQL的B2B（电子商务）行业门户解决方案
永合世纪高分子材料(广东)有限公司
河南甜塔信息技术有限公司作为中国银联商服事业部文旅团队数字旅游全国智慧景区落地服务执行团队、中国银联云闪付isv系统开发商，同时也是微信、支付宝isv系统开发商，集合了云闪付、支付宝和微信支付、合作银行优势以甜塔科技技术开发能力向甲方提供更优惠、更优质的服务等互联网+的全方位整体解决方案。
想种菜农业网是一个农业知识网站，主要提供蔬菜种植、水果种植、药材种植、花卉种植等种植技术，鸡、鸭、鹅、牛、羊、猪、鱼等常见畜牧渔业养殖知识，还有各类农业知识大全。能够帮助到广大农民朋友靠农业致富，是本站的初衷。
想了解NBA、足球等全球体育赛程与比分？上24直播网！✅夏✅日✅男主精心打造体育信息服务网站，汇聚最新新闻、赛事预告与数据统计，致力于为球迷提供多维度、权威的体育资讯服务体验。
游信是一个精品游戏推荐平台,主打单机PC游戏,独立客观的评价标准,绝不错过任何一款好游戏;友好的点评氛围,多元化的内容,独到鲜明的观点。
卓为信息技术有限公司7年专注于高端网站建设服务，并是阿里巴巴浏阳服务中心，超过500家网站建设案例！多种网站建设套餐任你选择,提供成品网站制作、定制网站建设，提供一年免费维护服务
北京星河人施工技术有限责任公司专门从事爬架、爬模等工程施工机具的开发、生产、销售、租赁及专项工程承包，欢迎来电咨询：13601077501
上海紧急印刷项目可制定一整套解决方案，优先排单印刷；公司拥有完善的物流运输体系，上海市郊区货物均能当天准时送达。
使命召唤16游戏专题;提供使命召唤16中文版下载,使命召唤16攻略大全,使命召唤16汉化补丁,使命召唤16视频解说,攻略视频,修改器,汉化下载,完美存档,MOD,教学,配置,截图,壁纸,武器,枪械,角色等资料。《使命召唤16》是一款RPG风格的合作FPS游戏。
在停更了2个月后，抖音顶流搞笑博主疯产姐妹宣布解散，没有团队、没有MCN机构，疯产姐妹在抖音上有4300万粉丝，应该是大多数草根自媒体的榜样，可能有很多人不熟悉这对姐妹，疯产姐妹账号归属权，猜测解散的原因，解散后的发展路径，值得借鉴的帐号运营方式，早起的疯产姐妹是美食博主，但一直不温不火，之后2020年5月，一条闺蜜日常，将疯产姐妹带...。
支付宝被黑客搞了，女票发给我一段视频，中哥我虎躯一震，这么大的事儿居委会咋没通知我??赶紧打开视频，我去，这是黑客吗?谁来解释一下，明明是黑客，为神马穿得这么白，连脸都是白的，还有，你带着那个面具敲代码，能看清鬼啊?这是在练盲打么??闭着眼睛攻击支付宝，是为了表现一种蔑视和侮辱么???往后看了五分钟，冷静了一下，我不禁三呼...。
美术在艺术的行业内是非常的受欢迎，而且很多的孩子从小就喜欢画画，看着自己画出的一些可爱又卡通的形象，让自己也很开心，并且感到有一丝的自豪，如今在教育市场规模逐渐加大的过程中，大卫美术教育出现在行业内，支持孩子们爱上美术，并且可以经过一些多方面的学习会发现美术所包含的意义，大卫美术教育好不好，可以加盟吗，大卫美术如今是成功推出了一些新的...。
TapiocaM.Chiwewe是南非约翰内斯堡IBMResearch的研究科学家，他和同事正在扩展公司的机器学习技术，用于预测空气质量，图片来源，IBMResearch，在越来越多的地方，机器学习正在改变空气质量预测的传统物理模型，最新的进展是在南非，在最近建立的IBM研究实验室中，计算机工程师TapiwaM.Chiwewe将IBM...。
作者，饶舒玮编辑，岑峰在月初，一则名为#男子打鼾一夜呼吸暂停800次#的话题在微博被讨论了数百万次，不少网友也因为这则新闻被科普了OSA，阻塞性睡眠呼吸暂停，，严重可导致猝死，北京大学睡眠研究中心主任韩芳教授介绍，每5个打鼾的人之中，就有1人患有OSA，且患者群体呈现年轻化趋势，庞大的患者规模和日渐增强的健康意识，带动了家用呼吸机的销...。
发表在坚果投影仪2020，12，1015，39坚果投影仪在初期使用的时候很好用，没有什么问题，然而随着使用，因为保养不当或镜头损伤等情况导致坚果投影仪的对焦功能出现问题，下面就为大家分享坚果投影仪对焦对不上的具体原因以及解决办法，一、坚果投影仪对焦对不上的原因大部分坚果投影仪支持自动对焦功能，其中几款新品还搭载了TOF激光镜头，支持无...。
同为年轻人，有几个不爱吃零食的，强大的佐证就是街面上层出不穷的各色小吃店，麻辣烫是小吃领域颇有人气的一支，因为可以荤素兼备，还能饱腹，因此很受欢迎，馋嘴麻辣烫在麻辣烫制作上，改良了口味，严格限制了食材品质，取得了好的成绩，这不，馋嘴麻辣烫加盟费以及具体加盟政策问题引起了广泛关注，馋嘴麻辣烫加盟费多少，馋嘴麻辣烫加盟费包括了品牌使用费、...。
都说，穷人家的孩子早当家，恋乡之情浓于纯羹，我没辜负家乡父老乡亲寄予的厚望，从小奋发读书，来到北京上了大学，还没毕业就有着不错的工作经历，一路走来，从初级程序员到中级、高级、项目经理，到成为合伙人、自己创业、创办公司...一路还算比较顺利，但路途中的痛苦、付出多少又有谁知呢?每个人这一辈子只有一条轨迹，有可能是曲曲折折，也有可能是直线...。
1、梦见自己的翡翠镯子碎了的吉凶指数基础运佳，故而可以安宁开展，扫除万难而完成，但因完成运不吉，是以难于再舒展，或陷于不测之劫难袭来之虑，若无凶数则可免忧，亦可康健无病，中吉，吉凶指数，80，仅供参考，2、梦见自己的翡翠镯子碎了的宜忌，宜，宜发微博，宜洗澡时踢浴室墙壁，宜给妈妈打电话，忌，忌迁延，忌手挽手，忌穿白色衣物，3、梦见自...。
飘雪电视电影影院是收费的，是领有上万集拙劣晰画质的在线动漫，且观看不花钱、毋庸注册、高速播放、降级及时的专业在线动漫站，在这里，用户可以找到恣意想看的影视视频，各种视频分类具体，用户可以极速查找自己青睐的影视，系统还会依据用户喜好智能介绍相似的影视资源；共性化视频分类体系，多种明晰度的选用让看片更自主精彩内容一键传输；下面有很多丰盛的...。
绿色资源网带来了各种各样的字体，以ttf字体为主，多种字体样式，最全最好的字体下载大全，完全免费提供下载，需要下载免费字体的朋友，来看看吧！
名易MyIBP保险业务管理平台,名易MyIBP保险业务管理平台是一款保险业务管理系统，可以帮助保险行业从业人员更加方便快捷的办公，支持报表填写及记录，收据打印等功能，有需要的用户可以下载。,您可以免费下载。
做自媒体的同学都知道最迷惑的大概就是现在剪视频用什么软件好，视频剪辑出来更生动一些，现在市面上出现很多的剪辑视频软件，当然也有很多的坑，比如收费、看广告、强制看一些负能量的东西，小编在应广大网友的呼声，自己亲自使用了三十几款软件，首推的五款分享给大家，还望能满足大家的需求，1、，剪辑，这款软件有很多卡点的音乐，只需将视频上传上去，软件...。
目前最好的mmo手游是哪个，无论是游戏世界的完善框架还是精美的画面，这些游戏都堪称完美之作，那么，现在就来一探究竟，介绍几款令人心动不已的顶级MMORPG手游吧！这些游戏不仅品质出众，而且备受热爱者的欢迎，玩家们可以在这些游戏里面玩出自己的一片天，1、，天下，鲜活生动的东方世界，充满了无限想象力，一个令人陶醉的游戏世界，让您的心灵受到...。
![行拘！#男子为逃单报假警谎称感染新冠# [怒] (行拘?!该!!!)](https://www.gpxz.com/zdmsl_image/article/20250131020535_31265.jpg)
#男子为逃单报假警谎称感染新冠#，近日，四川巴中一男子许某报警称，自己在KTV有咳嗽发烧症状可能患上新冠，并在电话里故意咳嗽，警方联合医护人员迅速到场处置，19日许某核酸结果阴性，其交代在KTV消费3000多元，为逃单编造感染新冠，目前许某已被处以行拘10日处罚，四川电视台新闻现场的微博视频来源，松松科技QQ，微信，lusongson...。
2023年底，网龙正式宣布成功完成分拆海外教育业务于美国纽约证交所上市，合并实体已更名为Mynd.ai，在1月17日召开的网龙2024年媒体恳谈会上，网龙副董事长、Mynd.ai董事会主席梁念坚博士表示，网龙坚持用先进技术赋能数字经济发展，在AI为代表的科技新格局之下，网龙正逐步明晰战略目标，加速布局新征程，除海外教育业务成功分拆上市...。
在4月27日的发布会上，卢伟冰宣布了这一消息，卢伟冰表示，在充分研究了游戏手机市场之后认为，要解决游戏手机存在的痛点和困境，只有一个解决方案，就是大厂要入场，基于此，在本场发布会上，Redmi带来了首款游戏手机RedmiK40游戏增强版，用卢伟冰的话形容，这是一款，日常使用的主力旗舰机与游戏手机的结合体，游戏手机存在三大痛点4月27...。
