只需1 (只需12个简单的步骤)

只需1/500数据便可掌握Atari游戏!清华叉院助理教授提出小数据RL模型,引爆AI社区
EfficientZero的性能接近 DQN(Deep Q-Learning)在 2 亿帧时的性能,但消耗的数据却减少 500 倍。

近日,一项研究在学术界引起了广泛的关注和热议。有消息称,Deep Mind和Google已经在内部关门开会讨论了。粉丝众多的科技向youtube博主Yannic kicher甚至专门做了半个小时的视频来讲解这篇论文。学者们更是用“completely game- changing”、“major development in RL”、“this is impressive”来形它。其团队老师本人也在推特上表示: 在使用相同数据的情况下,这是RL智能体第一次直接从像素中获得了超越人类的性能!这会让通用强化学习更接近真实世界的场景,比如机器人的采样效率会是关注重点。

只需1/500数据便可掌握Atari游戏!清华叉院助理教授提出小数据RL模型,引爆AI社区

只需1/500数据便可掌握Atari游戏!清华叉院助理教授提出小数据RL模型,引爆AI社区

现在,就让我们隆重的介绍下本文的主角—— EfficientZero

EfficientZero算法是在清华大学交叉信息研究院高阳团队的新研究《使用有限数据掌控Atari游戏》( Mastering Atari Games with Limited>EfficientZero的性能接近DQN(Deep Q-Learning)在 2 亿帧时的性能,但消耗的数据却减少了500 倍! 它能够在贴近现实复杂情况的Atari(雅达利)游戏中,从零训练并只需两个小时,就可达到同等条件下人类平均水平的190.4%,或116.0%的中值性能。

只需1/500数据便可掌握Atari游戏!清华叉院助理教授提出小数据RL模型,引爆AI社区

样本效率一直是强化学习中最“令人头疼”的挑战,重要的方法需要数百万(甚至数十亿)环境步骤来训练。一种从MuZero模型改进而来的高效视觉RL算法—— EfficientZero,该模型从零开始训练,最终在Atari中仅用两个小时的训练数据上就超过了经过相同条件下的的人类平均水平。

MuZero是通过将基于树的搜索与经过学习的模型相结合,可以在一系列具有挑战性和视觉复杂的领域中,无需了解基本的动态变化即可实现出色性能。AI科技评论在以往的文章中对MuZero有过报道: DeepMind又出大招!新算法MuZero登顶Nature,AI离人类规划又近了一步 。那为什么会选择Atari游戏呢?Atari 游戏场景繁多,规则各异,一定程度上贴合现实复杂环境,因此长期被当作验证强化学习算法在多因素环境下的性能测试标准。EfficientZero的低样本复杂度和高性能可以使强化学习更接近现实世界的适用性。

只需1/500数据便可掌握Atari游戏!清华叉院助理教授提出小数据RL模型,引爆AI社区

如图所示,EfficientZero在人类平均标准得分中位数上分别比之前的SoTA性能出色170%和180%。是第一个在Atari 100k基准上优于人类平均性能的算法。

强化学习在挑战性的问题上取得了巨大的成功。如2015年DeepMind研发的DQN网络 、击败了中国围棋世界冠军柯洁的AlphaGo、和会在Dota2中打团战的OpenAI Five等等。但这些都是站在巨大数据量的“肩膀上”训练出来的策略。像AlphaZero从国际象棋小白到顶尖高手需要完成2100万场比赛,一个职业棋手每天大约只能完成5场比赛,这意味着人类棋手要11500年才能拥有相同的经验值。

在模拟和游戏中应用RL算法,样本复杂性不成阻碍。当涉及到现实生活中的问题时,例如机器人操作、医疗保健和广告推荐系统, 在保持低样本复杂性的同时实现高性能是能否可行的至关钥匙。

过去几年,我们在样本高效强化学习上已有许多成绩。来自真实环境的数据和来自模型的“想象数据”都可以训练策略。但大多数成功都是在基于状态的环境中。比如在基于图像的环境中,鱼和熊掌不可兼的情况比比皆是,MuZero和 Dreamer V2展示了超越人类的表现,但样本效率不高;SimPLe等其他方法非常有效,但性能较差。最近,在数据高效机制中,中数据增强和自监督方法应用无模型方法取得一定成功。然而,却依然达不到人类预期的水准。

为了提高样本效率并保持优越的性能,自监督环境模型、减轻模型复合误差的机制和纠正非策略问题的方法这三点对基于模型的视觉RL智能体至关重要。EfficientZero在MuZero的基础上,对这三点进行了改进:“利用时序预测一致性 (temporal contrastive consistency),减少预测回报的不确定性 (aleatory uncertainty) 以及纠正离线策略价值的偏移 (off-policy correction)。”

在对DeepMind Control (DMControl)套件的模拟机器人环境进行的实验中,EfficientZero实现了最先进的性能,优于直接从真实状态中学习的模型state SAC,这进一步验证了EfficientZero的有效性。被有限数据“扼住”深度强化学习算法“喉咙”的时代也许不会再有了。

只需1/500数据便可掌握Atari游戏!清华叉院助理教授提出小数据RL模型,引爆AI社区

高阳 :博士,清华大学交叉信息研究院助理教授。博士毕业于美国加州大学伯克利分校,本科毕业于清华大学计算机系。主要研究计算机视觉与机器人学。

只需1/500数据便可掌握Atari游戏!清华叉院助理教授提出小数据RL模型,引爆AI社区

原创文章,未经授权禁止转载。详情见 转载须知 。

只需1/500数据便可掌握Atari游戏!清华叉院助理教授提出小数据RL模型,引爆AI社区


本文地址: https://www.gpxz.com/article/7f785a811db59f0322b8.html
全局中部横幅
全局中部横幅
贝安网

贝安网:前沿科技门户网站。关注智能车电动车、新能源汽车,AR/VR虚拟现实、OpenAI人工智能,手机App应用,苹果iOS/iPadOS、鸿蒙OS、谷歌Android、微软Win11/Win10/Win7/WinXP,Office,紧盯iPhone/iPad、安卓智能设备手机,数码手表等数码潮流。

留学网站导航大全

LOL网址导航网是专业的上网导航网站,精心收录各类优质热门网站信息,同时提供天气、快递、违章等各种生活便民查询工具网址,为您提供安全便捷的上网导航服务,现已被众多网友设为上网主页,网址导航大全首选LOL网址导航.

糖脂管家

糖脂管家-专注于慢性病的逆转调理方案

断桥推拉窗厂家

四川欧度门窗是一家专业提供高端门窗定制,集成了欧洲先进的铝合金门窗设计理念、生产工艺、管理销售模式于一体的钛镁铝合金门窗厂家,主要包括铝合金门窗,系统门窗,定制热线:180-8081-4087.

2144游戏

2144游戏是专业的游戏平台,免费为你提供各种精品小游戏,好玩的网页游戏,手机游戏,同时还提供精品游戏专题,游戏攻略,人气论坛等,玩小游戏,网页游戏,手机游戏就上2144游戏网2144.cn

江门物流公司

江门江沙物流是一家从事江门到全国的陆运、空运、海运物流服务的物流公司。江门物流公司以快捷、准时、安全、优惠的服务宗旨为广大客户服务!

北京盛世起点

北京起点模型致力于工业机械模型,建筑规划模型,军事武器模型,展览展示模型等领域的专业模型制作厂家。电话:13621221118

广东瑞东勘察基础工程有限公司

广东瑞东勘察基础工程有限公司成立于2010年4月,注册资金1020万元,公司现有高级工程师、工程师、测绘技术员、注册人员等专业技术人员,公司现有计算机40余台,拥有单、双频全球卫星定位系统(GPS)2台、全站仪15台、JX-4A全数字摄影测量工作站、高精度电子水准仪、地下管线探测仪以及地理信息系统软件、地面移动测量系统软件、各种数据采集、图形编绘软件等,公司致力于制度化、正规化建设,已建立了符合国内工程管理模式的管理制度和工作程序,在质量控制上以项目为单位进行质量管理,避免和预防在项目实施中出现质量问题,将质量责任层层落实到个人。

安徽中意机床制造有限公司

中意机床制造,专业生产、销售机床,刃模具

漫迷窝

漫迷窝是专业的漫画产业和企业品牌资讯发布媒体,包括资讯、动画、漫画、电视剧、电影、精选、产业、资本、综合等多个栏目。


全局底部横幅