最简单的自然语言处理数据增广方法 EDA (最简单的自然笔记)
数据增广常用于计算机视觉。在视觉领域，你几乎肯定可以翻折、旋转或镜像一幅图片，而不用担心它的标记发生变化。然后，在自然语言处理（NLP）领域，情况完全不同。改变一个词有可能改变整个句子的意思。所以，没有简单的方法能做到数据增广。真的是这样么？
我向你介绍EDA：简单数据增广技术，可以大大提升文本分类任务的性能（在EDA Github repository有简单的实现代码）。EDA包含四个简单操作，能极好地防止过拟合，并训练出更强健的模型，分别是：
这些技术真有效吗？出乎意料，答案是肯定的。尽管生成的某些句子有点怪异，但是在数据集中的引入一些噪声，对于训练出一个健壮的模型来说，是极有好处的，特别是数据集比较小的时候。这篇论文指出，在5个文本分类任务的对比测试中，基于几乎所有大小的数据集，使用EDA都击败了常规训练方法，在训练数据集较小的时候，表现尤其突出。平均来说，用EDA训练一个循环神经网络（RNN），只需50%的训练数据，即可达到常规方法同等的精度。
文本分类任务的性能表现，相对于训练集的使用百分比。 使用EDA（简单数据增广），在小数据集时，远胜常规方法。
EDA会保留增广句子的真实标记吗？
我知道你在考试这个问题。真的能在做增广操作的同时，保留其真实标记吗？我们用画图形的方法来验证一下。
假设你训练一个关于产品的正面、负面评价的RNN，使用常规和增广的句子都跑一遍，抽取神经网络的最后一层，用sTNE画一个潜在空间图：
ProCon数据集原生及增广句子的潜在空间图
可以看到增广句子的潜在空间图紧紧围绕着原生句子！这表明所生成的增广句子极大可能的保留了原始句子的标记。
这些操作都有效吗？
现在，我们来看看数据增广技术中每个单独操作的效果是什么样的。同义词替换好理解，但是另外三个操作真的起作用吗？我们可以做一个实验，单独做其中一种操作，并代入不同的α值，参数α大致可理解为“句子中被改变的单词的百分比”：
在不同大小的数据集下，对比其它五种文本分类方法，EDA操作的平均性能增益。 参数α大致可理解为“句子中被每种增广操作改变的单词的百分比”。
你能看到，在小数据集时，性能增益非常大，达到大约2-3%，数据集大的时候，增益变小（~1%）。但是，各项操作综合起来，如果设置的增广参数合理（句子中改变的单词不超过四分之一），能使训练出的模型更健壮。
做多少增广？
最后，对于一个真实句子，我们应该增广出多少句子呢？答案取决于你的数据集的大小。如果你的数据集很小，很可能会出现过拟合，此时你应该生成多一些的增广句子。如果数据集比较大，增加太多的增广句子，意义不大，因为原有的数据已经能训练出一个好的模型了。这个图表显示了相对于每个原生句子生成的增广句子的数量的性能增益：
不同大小的数据集下全部五种文本分类任务的EDA平均性能增益。n_aug表示每原生句子生成的增广句子的数量。
下一步？
我们已经展示了在文本分类中，简单数据增广能显著提升性能。如果你正用小数据集训练一个文本分类器，并想取得更好的效果，请在模型中编程实现这些操作，或者从Github中下载EDA代码。更多详情请查看原文。
想要继续查看该篇文章相关链接和参考文献？
点击 EDA：最简单的自然语言处理数据增广方法 】 即可访问：
AI研习社今日推荐： 2019 最新斯坦福 CS224nNLP 课程
自然语言处理（NLP）是信息时代最重要的技术之一，也是人工智能的关键部分。NLP的应用无处不在，因为人们几乎用语言进行交流：网络搜索，广告，电子邮件，客户服务，语言翻译，医学报告等。近年来，深度学习方法在许多不同的NLP任务中获得了非常高的性能，使用单个端到端神经模型，不需要传统的，任务特定的特征工程。在本课程中，学生将深入了解NLP深度学习的前沿研究。
课程链接：
原创文章，未经授权禁止转载。详情见 转载须知 。
本文地址： /article/e134aa580854465a331b.html
查询百度权重和百度的关键字排名，查询360权重和360的关键字排名
国内最专业最权威的实时网站测速、服务器监控、网络监控、IDC质量评测、PING,DNS,HTTP,CDN测试网站速度监控，遍及国内各省和国外的监测点，包括电信、网通、联通、移动、长城宽带、教育网等线路，测试网站在全国各地和海外的打开速度，全面的报表功能、对比功能、地图展示、柱型图展示等专业测速网站
西安整形医院哪家好,西安艺星整形医院,品质医美,连锁品牌。项目:整形美容,皮肤美容,微整形,口腔美容....西安艺星整形美容医院,西安整形医院排名,咨询热线:4000601992.
客户管理系统（CRM）是为企业提供客户线索到回款的全生命周期管理，帮助销售轻松打单，实现盈利提升。XTools超兔是一款自带SCRM功能的在线CRM系统，自主研发18年，有超过6万+企业实施经验。400-000-9186
全球鹰采集器是一款简单易用的网页数据采集工具，也是一款最好的寻找客户资源的好工具，免费网页爬虫软件。全球鹰采集器简单易学，通过智能算法+可视化界面，随心所欲，抓取自己想到的数据。只要轻松点击鼠标，就能采集网页上的数据。
点融是中国在线市场化借贷中介行业的领导者，获ORXI、GIC、渣打直投融资，网贷之家百强榜排名前列，为个人及中小企业提供综合性、一站式的金融信息和交易撮合服务，技术、合规性、透明度排名都领先业内
沈阳海鹞真空机有限公司是一家专业从事包装机械及配套产品的现代化企业，专业生产各类食品真空包装机、大米真空包装机、外抽式真空包装机等，137-0000-2370，另外可根据客户要求非标定做各种真空包装机。海鹞机械，追求卓越！
黑苹果驱动之家为您提供最专业的黑苹果知识、最全面的黑苹果驱动下载、最详细的黑苹果安装教程，最精准的问题解决方法。为您提供黑苹果驱动下载,黑苹果显卡驱动、黑苹果网卡驱动、黑苹果声卡驱动、黑苹果usb驱动、黑苹果安装教程、黑苹果鼠标键盘驱动下载，黑苹果驱动精灵，黑苹果硬件评测、驱动评测。
方小喆游戏网专注于为玩家提供最前沿的游戏资讯和实用的攻略。我们的目标是让每位玩家都能找到适合自己的内容。无论是最新的游戏发布消息，还是详细的玩法攻略，我们的团队都竭尽所能为您呈现。平台每日更新，确保您及时获取最新动态。加入方小喆游戏网，探索游戏的奥秘，享受更多精彩的游戏体验，成为更优秀的玩家！
双创装饰工程有限公司2001年步入地坪行业，经过不断的研发实践，我司于2016年8月19号成立。双创装饰是一家集研发，生产，销售，工程设计施工于一体的专业化环氧地坪材料一站式采购平台，公司通过国家“三证”（环保，安全，消防）认证！
墨语闻香起名网为您的孩子提供专业的起名参考，从古老的诗经等古籍中汲取智慧，通过五行八字起名用字，百家姓起名用字，为新生宝宝和公司店铺起名提供好听满意的的名字，助力人生美满。
黑龙江本地公司专业编制可行性研究报告,哈尔滨可研报告,可行性报告,项目建议书,项目申请,资金申请,稳评报告,水土保持方案,节能报告,节能验收,实施方案,消防设计.13352506480
闪克打印机修复助手_闪克打印机修复助手官方版下载【打印机修复工具】
01真实故事阿飞最近似乎找到了赚钱的捷径，做互联网几年来跌跌撞撞，第一次感觉赚钱真没那么难，他发红包来道喜，说，很久之前看了王叔之前的一篇文章，瞬间感觉打通了任督二脉，认知一下子提升了，我问，是哪一篇有这么大的魔力?，阿飞，名字记不清了，大概内容是讲摆地摊，讲付费流量那篇，阿飞，让我对付费流量有了更新的认识，之前一直在互联...。
很多人问我为什么这么拼?是因为热爱创业吗?对于这个问题，我总是不知如何回答，创业是反人性的，过程极其痛苦，没有一个正常人会喜欢这种感觉，成功了叫我陈总，失败了叫我陈某，这话在我创立阿亮网创几年之前，就经常被我拿来自我调侃，早在入伍之前，我就通过搭建卡盟，成功亏掉人生的第一桶金，退伍后的1年里，我一边打工，一边尝试在互联网创业，先后又通...。
2019年是5G商用的元年，各大手机品牌争先推出5G手机，不过，5G目前是旗舰级手机才具备的功能，因此，5G手机什么时候才能人人都买得起多次成为焦点话题，从5G处理器的角度看，或许紫光展锐最新发布的第二代5GSoC虎贲T7520的大规模商用之时，我们也将迎来5G手机的大规模普及，本周三，紫光展锐发布了第二代5G智能手机平台虎贲T752...。
今年入手iPhone16最好的时机到了，AppleStore官方旗舰店公布天猫双11优惠，10月21日晚8点现货开卖，iPhone16系列至高优惠1600元，根据官旗策略，iPhone、iPad、AppleWatch、AirPods等系列产品均享受不同程度的折扣力度，其中，iPhone16系列产品可使用天猫发放500元惊喜券，以旧换新...。
华为免去余承东华为云CEO一职，继续担任消费者BGCEO以及新增智能汽车解决方案BUCEO5月18日晚间，据一财消息，华为内部发文进行多项人事调整，华为发文表示，经总裁批准，免去余承东华为云CEO职位，张平安被任命为华为云CEO，此外，余承东仍为消费者BGCEO以及新增智能汽车解决方案BUCEO，王军为智能汽车解决方案BU总裁，据雷锋...。
申明，1.以上内容仅代表揭发者自己，不代表黑猫揭发立场，2.未经授权，本平台案例制止任何转载，违者将被清查法律责任，3.黑猫揭发处置揭发不收取任何费用，凡以黑猫揭发名义不要钱的均为混充、诈骗行为，请及时报警并与黑猫官网反应，揭发邮箱heimaotousu@vip.sina.com，4.请大家选用官网渠道处置生产纠纷，不要轻信第三方机构...。
申明，1.以上内容仅代表揭发者自己，不代表黑猫揭发立场，2.未经授权，本平台案例制止任何转载，违者将被清查法律责任，3.黑猫揭发处置揭发不收取任何费用，凡以黑猫揭发名义不要钱的均为混充、诈骗行为，请及时报警并与黑猫官网反应，揭发邮箱heimaotousu@vip.sina.com，4.请大家选用官网渠道处置生产纠纷，不要轻信第三方机构...。
2024年7月4日一个上海的买家在我的闲鱼上购置了一条价值599元的裙子，7月5号申通快递员上门取件，7月7号买家反悔并放开快递阻拦，7月11号致电申通快递，征询我的裙子着落，告知我催出配送，7月15号再次致电申通快递，告知我，我的裙子早在7月10号18，15被签收，我回应没有收就任何快递短信或许电话对于裙子的信息，甚至去了外地惟一的...。
1、梦见四次以前的男好友的吉凶指数勤勉做事，无厄安泰，终获完成之凶兆无疑，只管完成较迟些，但安康开展，改善境遇，家门发达，但环节中亦有不少困苦烦恼，假设人、地两格无凶数，则无病，若有病吃药可速愈，中吉，吉凶指数，80，仅供参考，2、梦见四次以前的男好友的宜忌，宜，宜坦诚相对，宜给妈妈打电话，宜器重细节，忌，忌念故人，忌露天聚餐，忌...。
最近由宫崎英高老爷子联合冰与火之歌的作者制作的艾尔登法环正式发售了，而在游戏中有着许多的职业，这不就有很多刚接触这款游戏的玩家询问小编艾尔登法环新手玩什么职业？所以呢本期新游资讯就为大家带来了艾尔登法环新手的职业推荐攻略，快来看看吧~艾尔登
为免除兵役❗李刚仁加盟巴黎时，合同加入“必须放行参加杭州亚运”条款,李刚仁,大巴黎,亚洲杯,杭州亚运,足球竞赛,日本足球,韩国足球,奥林匹克运动会
小鸟壁纸,小鸟壁纸是原360壁纸软件，小鸟壁纸在原来的基础上界面更加简洁，功能更加丰富，更有全新动态壁纸震撼上线，小鸟壁纸还可以创建和编辑属于您自己的专属桌面，精美日历、炫酷天气、每日头条、温度监控、常用网址随心订制，赶快下载使用吧！,您可以免费下载。
Furmark中文版,Furmark软件和OpenGLFurRenderingBenchmark很相似，界面和使用上都很相似。不过不同的是FurMark已经在测试OpenGL2.0的性能。因此，显卡要求NVIDIAGeForce5以上和AMD/ATIRadeon9600或S3GraphicsChrome400series以上,您可以免费下载。
为免除兵役❗李刚仁加盟巴黎时，合同加入“必须放行参加杭州亚运”条款,李刚仁,大巴黎,亚洲杯,杭州亚运,足球竞赛,日本足球,韩国足球,奥林匹克运动会
风格简约大气，广汽传祺E8内饰官图发布,新车,车尾,电动汽车,广汽传祺e8内饰
奖励专题,提供奖励的相关文章和相关资讯,在本栏目你可以看到奖励这个内容的相关各类文章很多篇,如有不足请提供给我们更多奖励的文章供大家查阅.
