谷歌大脑撰文解析 神经网络如何自行设计神经架构 AutoML (谷歌大脑项目)
在 Google I/O 大会上，谷歌公布了最新的机器学习算法——AutoML，随即，Quoc Le 与 Barret Aoph 大神在 Google ReSearch Blog 上发布了一篇名为《采用机器学习探索神经网络架构》的文章。雷锋网进行了编译，并做了不改动原意的编辑和修改。
「在谷歌团队，我们成功地将深度学习模型应用于非常多的领域，从图像识别、语音识别到机器翻译等等。自然，这些工作离不开一整支工程师与科学家团队的努力。人工设计机器学习模型的过程实际上绝非坦途，因为所有可能组合模型背后的搜索空间非常庞大——一个典型的十层神经网络可能有~10种可能的神经网络组合。问题也接踵而至，为了应对这样庞大的数量级，神经网络的设计不仅耗时，而且需要机器学习专家们累积大量的经验。」
如图是 GoogleNet 的架构。神经网络的设计需要从最初的卷积架构开始，进行多年的细心调试
为了让机器学习模型的设计变得更加简单，谷歌团队一直希望能让这一过程自动化。此前谷歌也有做不少尝试，包括 evolutionary algorithms 与 reinforcement learning algorithms 等算法已经呈现了比较好的结果。而 Quoc Le 与 Barret Zoph 在此文中所展现的，是谷歌大脑团队目前在强化学习上得到的一些尝试与早期结果。
在团队一个名为「AutoML」的项目中（如图所示），左边有一个名为「控制器」（the controller）的 RNN，它设计出一个「child」的模型架构（雷锋网觉得可以称之为「雏形/子架构」），而后者能够通过某些特定任务进行训练与评估。随后，反馈的结果（feedback）得以返回到控制器中，并在下一次循环中提升它的训练设定。这一过程重复上千次——生成新的架构、测试、再把反馈输送给控制器再次学习。最终，控制器会倾向于设计那些在数据集中能获得更高准确性的架构，而反之亦然。
谷歌团队将这一方法应用于深度学习的两大数据集中，专注图像识别的 CIFAR-10 与语言建模的 Penn Treebank。在两个数据集上，系统自行设计的模型性能表现与目前机器学习专家所设计的领先模型不相上下（有些模型甚至还是谷歌成员自己设计的！）。
猜猜哪个是人类设计的神经网络架构，哪个是机器设计的？
让机器自行选择架构（machine-chosen architecture），与人类在设计神经网络的时候有一些共通之处，比如都采用了合并输入，并借鉴了此前的隐藏层。但其中也有一些亮点，比如机器选择的架构包含乘法组合 ( multiplicative combination)，如右图最左边（机器设计）的蓝色标签为「elem_mult」。对于循环神经网络而言，出现组合的情况并不多见，可能因为人类研究者并没有发现明显的优势。有意思的地方在于，此前人类设计者也提议过机器采用的乘法组合，认为这种方法能够有效缓解梯度消失/爆炸问题。这也就意味着，机器选择的架构能够对发现新的神经架构大有裨益。
此外，机器还能教会人类为何某些神经网络的运行效果比较好。上图右边的架构有非常多的渠道，梯度可以向后流动，这也解释了为何 LSTM RNNs 的表现比标准 RNN 的性能要好。
「从长远看来，我们对于机器所设计的架构进行深入的分析和测试，这能够帮助我们重新定义原本自身对架构的看法。如果我们成功，这意味着将会启发新的神经网络的诞生，也能让一些非专家研究人员根据自己的需要创造神经网络，让机器学习造福每一个人。」
参考文献：
[1] Large-Scale Evolution of Image Classifiers ,Esteban Real, Sherry Moore, Andrew Selle, Saurabh Saxena, Yutaka Leon Suematsu, Quoc Le, Alex Kurakin. International Conference on Machine Learning, 2017.
[2] Neural Architecture Search with Reinforcement Learning ,Barret Zoph, Quoc V. Le. International Conference on Learning Representations, 2017.
via research.googleblog ，雷锋网编译
版权文章，未经授权禁止转载。详情见 转载须知 。
本文地址： https://www.gpxz.com/article/f9a662e8a9b2307e872f.html
上海生活服务网站排名,根据网站的综合值按照不同的上海生活服务网站进行筛选排名结果,通过筛选上海生活服务网站可以看到每个上海生活服务网站里面的网站排名优质的网站是哪些
亿智蘑菇是深入移动互联网与智能硬件行业的众测科技媒体，向厂商及用户提供媒体资讯、智能硬件试用、酷玩产品导购、社会化媒体传播等多元服务。
58同城租车网为您提供大量精选的租车信息，是专业的租车信息发布平台，经过严格审核保证租车信息的真实性，租车网是您查找租车信息的最佳选择。
石家庄电脑回收T:15350562341，淘汰电脑回收，石家庄二手电脑回收，台式电脑回收，笔记本电脑回收，同时回收石家庄及周边地区打印机，复印机，线路板等办公设备
德吉特柜业北京档案密集柜厂家生产销售定制：密集柜、密集架、档案密集柜、档案密集架、密集架厂家、档案柜、底图柜、图书书架,北京朝阳区.北京丰台区.海淀区.大兴区德吉特智能密集柜办事处,服务热线:13932846457
丹阳康耐包装材料有限公司是一家专业生产塑料包装袋等产品的企业，主要产品有：PE袋、PE自封袋、塑料方底袋、PE塑料包装袋等，欢迎新老客户前来咨询合作。
四川以畅企业管理咨询有限公司，2021年成立于四川省成都市,另设有6家分公司覆盖建筑业各领域；以畅咨询聚焦全国建筑企业及相关从业者对于资质的各类难题，定位各类资质相关服务,致力于打造服务于建筑企业的领先品牌。
FLENDER联轴器以其卓越的技术特点而著称。它们通常采用高品质材料，具有优良的耐磨性和耐腐蚀性，弗兰德联轴器能够在高负载和高转速条件下运行。N-eupex弹性联轴器其设计灵活，适用于各种动力传输需求。此外，德国FLENDER联轴器常配备减震和缓冲功能，有效降低振动和冲击，延长设备使用寿命。
广西遇见旅行社提供广西北海旅行社服务以及广西旅游、德天瀑布旅游、北海旅游和涠洲岛旅游服务。我们是一家专业的旅行社，致力于为您提供满意的旅游体验。
爱听音乐网-Mp3歌曲免费下载,MP3免费下载,音乐免费下载,mp3歌曲免费下载,mp3下载,音乐免费下载,MP4下载,视频下载,DJ舞曲排行,网络音乐排行,网络热门歌曲,酷我音乐排行,非主流音乐,经典老歌,劲舞团歌曲,搞笑歌曲,儿童歌曲,网络歌曲,MP4视频下载.收录了网上最新歌曲和流行音乐,网络歌曲,好听的歌,非主流音乐,经典老歌,搞笑歌曲,儿童歌曲,英文歌曲等。是您寻找好听的歌首选网站
河北恒泰管道装备制造有限公司专业生产销售各种碳钢弯头,管件厂家,3PE防腐厂,聚氨酯保温厂,管卡胶管等产品,产品规格齐全,欢迎选购!
IEEExATEC科技思享会是由专业技术学会IEEE与前沿科技探索社区ATEC联合主办的技术沙龙，邀请行业专家学者分享前沿探索和技术实践，助力数字化发展，在社会数字化进程中，随着网络化、智能化服务的不断深入，伴随服务衍生出的各类风险不容忽视，本期分享会的主题是，网络欺诈的风险与对抗，五位嘉宾将从不同的技术领域和观察视角，围绕网络欺诈...。
在居家生活中家具是比不可少的组成物件，因为家具的存在可以让生活变的井井有条，沙发就是生活家具中必选的一种，目前市场上可出售的沙发品牌有很多种，根据材质的不同又可以分为很多类型，实木布艺沙发就是其中的一种，深受很多消费者的喜爱，那么，实木布艺沙发好吗，下面笔者为你做个简单介绍，针对实木布艺沙发好吗这个问题，笔者可以明确的告诉你这是目前市...。
出海时代，每家车企都在探索中国汽车出口的最优解，去年10月，零跑汽车与Stellantis集团达成了战略合作，Stellantis集团向零跑投资约15亿欧元获取零跑约21%的股权，双方建立面向全球的合资企业，零跑国际，这笔股权交易仅用25天就完成了交割，是以往中外合资企业股权交易中从未有过的效率，7月30日，距离双方的战略还不到一年...。
9月1日，闲鱼发布，个人卖家流量保障计划，，计划显示将新增个人卖家综合服务标签、个人闲置物品个性化卖点标签，并上线，个人闲置，新入口，闲鱼这次动作对个人卖家来说意义重大，意味着更多的流量曝光和潜在的交易机会，尤其是新上线的，个人闲置，新入口，为个人卖家提供了一个专门展示闲置物品的渠道，这就更直接地面向目标受众，提高转化效率，此外，新注...。
发表在投影仪评测2020，9，1815，43导读，今天我们开箱的是一款天猫精灵的微型投影仪—天猫精灵小红盒，天猫精灵小红盒是一款发布快一年的便携式投影仪，因机身由红色作为主色，所以有被称为小红盒投影仪，往下一起看看天猫精灵小红盒怎么样吧，外观赏析天猫精灵小红盒外观以红色为主，外观洋溢着喜庆的气息；机身使用了PC材质，PC是一种聚碳酸酯...。
据美国中央司令部10月4日发布的信息，也门萨那时期10月4日17时左右，美国中央司令部部队对也门胡塞武装管理区的15个胡塞武装指标启动了袭击，4日稍早时，也门荷台达、萨那等地传出爆炸声，也门胡塞武装随后宣布申明说，美英联军对也门荷台达省、萨那、扎马尔省发起屡次空袭，总台报道员另从也门外地得知，今日美英联军对也门西南部贝达省也发起了3次...。
[全球时报报道记者赵觉珵]自本月6日在伊朗第14届总统选举中获胜后，伊朗入选总统佩泽希齐扬外地期间12日初次片面阐释其外交政策，他在伊朗，德黑兰时报，宣布文章赞扬伊朗与中国、俄罗斯的友好相关，并且强调伊朗不寻求核武器，也不会屈服于美国的压力，在题为，我给新全球的消息，的文章中，佩泽希齐扬示意，在伊朗艰巨期间，中国和俄罗斯一直与咱们站在...。
要将磁力链接转化为BT种子文件，可以经过以下步骤成功，首先，你须要一个支持磁力链接下载的工具，例如迅雷、utorrent等，而后，将磁力链接复制粘贴到这些工具的搜查栏中，下载对应的文件，下载成功后，这些工具理论会智能生成BT种子文件，你可以在这些工具的下载目录中找到生成的BT种子文件，这个环节的基本原理是，磁力链接实践上是一个文件的哈...。
极光减速器没有开张，依据极光减速器官网显示，并没无对于极光减速器开张的关系报道或信息，因此，可以得出论断，极光减速器目前并没有开张，极光减速器怎样用极光减速器经常使用步骤，1、首先就是要电脑高低载好极光减速器，2、而后就是启动关上极光减速器，点击启动关上之后在界面中点击减少游戏关上并输入账户和明码以登录减速器，3、接着就会产生可以选用...。
2012款长城腾翼C30车主实在测评，优缺陷片面解析本文深化剖析了2012款长城腾翼C30的车主实在体验，将车辆的优缺陷剖析得酣畅淋漓，长处篇，车主广泛以为，腾翼C30的亮点在于，外观时兴，驳回流线型机身设计，线条繁复流利，视觉成果杰出；能源微弱，1.5L和1.8L发起机体现杰出，尤其是1.8L发起机的减速性能尤为抢眼；操控灵敏，电动...。
现在很多用户都会选择网上叫外卖的方式来完成一日三餐，但是偶尔也会出现外卖服务不到位的情况，这个时候可以选择投诉。那么投诉的处理结果我们在哪里可以查看？一起看看本
卡脆Radio,卡脆Radio一款大小仅为1.33MB的纯绿色网络收音机软件。提供全国各地电台在线收听，无需任何费用，任何插件。就可以享受用电脑倾听电台的完美体验,您可以免费下载。
人工智能可谓是目前最热门的行业，从走在前沿的科技公司，到努力创新的传统行业，几乎都想把握这个新，风口，而人工智能的核心就是人才，热门的行业通常意味着工作机会和薪酬待遇都跟着增加，那么对于热门中的热门，人工智能领域薪酬水平和人才供需情况到底如何呢?下面就通过11张统计图来看看，这个，风口，行业的人才有多贵，1、人工智能在互联网岗位薪酬...。
今天有一个电池技术的大新闻，电池的大小限制了智能手机、电脑、可穿戴设备可以接受的外形，不幸的是，电池技术一直止步不前，我们的设备也看不到进步的希望，但是，如果可以完全不用理会电池的话呢，华盛顿大学传感实验室就这么做了，研究员创造了无线识别和传感平台，WISP，一个传感器和计算芯片的结合，不需要电池或者链接电源线就能运作，它吸收一个R...。
安装软件看电视直播教程，1.从电脑里下载好当贝市场apk，点击立即下载的USB接口上面，检测到外接设备，选择，应用，并打开；2.如果没有弹出外接设备的对话框，则可以打开应用页面下的，本地播放，；3.打开，移动存储设备，，选择，装应用，，找到u盘里的当贝市场apk文件，点击安装即可；4.当贝市场安装好之后，就可以随意在里面安装你需要的第...。
最新方法怎么看电视台，只需要在电视上装一个当贝市场就可以轻松解决，1、下载当贝市场，http，www.dangbei.com，安装包并拷贝到U盘，2、打开东芝电视，按下遥控器的设置键，打开设置界面，点击，更多设置，3、在设置界面找到，通用，选择，商场模式，，把商场模式改为，开启，状态，4、成功开启以后，把U盘接到电视的USB接口...。
现在也是全面看脸的时代，对于每个顾客来说，可能更关注自己的颜值，每个人都有变美的追求，美容行业也有很好的发展前景，书颜世家皮肤管理出现市场以来，受到很多人的看好，也是很多创业者比较信赖的品牌，书颜世家皮肤管理的技术水平怎么样，有自己的产品吗，下面分别介绍一下，书颜世家皮肤管理的技术水平怎么样书颜世家皮肤管理公司很注重美容市场的变化，能...。
