要让深度学习模型训练时间缩短100倍 CAIIC 2016 英特尔宋继强 2020年

文章编号:43879 资讯动态 2024-12-09 人工智能 深度学习 宋继强 英特尔

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

雷锋网按:今日,由中国人工智能学会主办的 2016 中国人工智能产业大会暨第六届吴文俊人工智能科学技术奖颁奖盛典在深圳举行。英特尔中国研究院院长宋继强站在芯片供应商的角度为大家分享了他对人工智能的观点。以下整理自演讲内容,雷锋网做了不改变原意的修改。

数据驱动人工智能的发展

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

据第三方机构预测,到2020年会有500亿的智能设备连入互联网,这些智能设备会产生大量的数据,到2020年,仅一位互联网用户每日就能产生1.5GB的流量,而一家智慧工厂每天产生的数据更是高达1000000GB,当然,你完全不用为此感到惊慌,这些数据正是人工智能算法的基础。

宋继强如是说。

数据是基础,但拥有数据之后并不意味着你可以就此一劳永逸。在应用层,除了从各种渠道获取的数据之外,处理和分析数据的能力也格外重要,通俗点说,就是有了数据你要知道怎么用。宋继强认为,这其中的关键是端到端的集成。

人工智能依然处于早期阶段

人工智能从60年前被提出,到现在已经发展到了一个新的高度,人工智能已经逐渐融入到了人们的生活当中,不过在宋继强看来,现在的人工智能并不成熟。“20年后再来看,历史的发展长河里面,现在人工智能仍然处在一个早期阶段。”

宋继强给出了三个评价技术是否已经达到了成熟阶段的标准:

英特尔联合创始人Robert Noyce曾表示,“一直以来,我们通过计算机建模的方式来探究大脑如何工作。或许我们应该反其道而行之,为了探索计算机的未来发展方向,我们应该向大脑寻求答案。”宋继强在大会上也表示,怎么利用我们在脑科学上得到的一些认知和新奇的想法,去促进计算机科学或者计算架构的发展,为这个领域提供更好的计算能力,这是业界需要考虑的。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

宋继强以深度学习举了个例子:如果训练出一个深度学习模型,直接变成一个硬件是不太可能的,而且也是低效的,高效的办法是去分析这个模型,而且必须找到懂这个模型的人、懂为什么产生这种模型,然后把这个模型通过硬件的描述给描述出来,接下来是抽象出硬件中的数据流。这里会涉及到很多问题,数据是怎么流的?中间的流水线上有哪些重要处理模块?它们各自的时间、带宽要求是怎么样?有哪些计算的原语?在这样的基础上,做硬件芯片就有很好的认识,我们能知道哪些放在硬件里面固化,哪些是去灵活使用,有了这样的认知以后,就可以产生出一个针对这种工作,这种工作负载优化的硬件。

英特尔做了什么?

虽然宋继强在大会现场表示英特尔不是人工智能领域的专家,但英特尔近一年来在这一领域做出的投入并不少。他说,英特尔正在做的就是终端到云端的解决方案,例如中间的通讯链路、存储等。

在云端方面,雷锋网曾报道,今年11月英特尔推出了代号为Lake Crest的芯片,这是一款专门为深度学习定制的处理器。宋继强在现场介绍了这款芯片的特点:第一,它里面的运算设计是为了深度学习量身定制,同时它的计算密度也非常高;第二,它突破了多节点之间数据访问的瓶颈;第三,支持高速的内存,这个高速内存是使用HBM2的内存,直接封装在一个芯片的。

这样的设计意味着什么?

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

除此之外,在硬件方面,至强、至强融核的技术以及Arria FPGA也都是英特尔在人工智能硬件上不可或缺的产品线,这些人工智能的硬件和方案都属于英特尔Nervana平台的产品。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

反观在算法的研究上,英特尔更多的是与学术界合作,合作的方向也是多元化的:如何加快训练的速度,以及更好的利用少一些的数据和少一些的监督,来达到训练的特性;怎么把大模型稀疏化和修剪,因为现在模型和参数非常多,但实际有用的却寥寥无几,这对存储和计算会造成巨大的浪费,所以怎么做好大量模型的稀疏化,以提升效率;第三点是怎么支持更大规模的计算,例如在云端可以同时做运算,在每个节点用更高阶的方法做处理。

毋庸置疑,这些技术可以大幅增加模型的并行化计算能力,而未来英特尔也将推出更先进的Knights Crest。宋继强还透露了英特尔的一个小目标, 到2020年,在英特尔软硬件方案的集成下,深度学习模型的训练时间可以缩短100倍。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

在数据爆发且对计算性能要求苛刻的时代,云端固然重要,但对实时性要求高的应用而言,终端的处理能力也不容忽视。今年9月,英特尔收购了视觉处理芯片商Movidius,这是英特尔在人工智能终端上布局的代表作。在宋继强看来,终端嵌入AI是未来的一大趋势,它有更高的能效、更低的宽带需求、更低的延迟,而且对存储的消耗更少,容错连续性也更好。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

人工智能还有很多事可以做

最近一两年,国内外科技巨头已经纷纷把目光聚焦在了人工智能,但正如宋继强所言,人工智能依然处于早期阶段,创业团队依然可以从中找准自己的角色,例如,无人驾驶、精准医疗、智慧城市、互联网金融等都将蕴藏着巨大的机遇。

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: https://www.gpxz.com/article/119325ad247b5a886498.html
全局中部横幅
全局中部横幅
斗地主,斗地主小游戏,斗地主小游戏大全,4399小游戏

4399斗地主小游戏大全收录了国内外斗地主,斗地主小游戏,欢乐斗地主,联众斗地主,斗地主单机版,斗地主技巧,奥维斗地主小游戏,美女斗地主小游戏,斗地主小游戏下载。好玩就拉朋友们一起来玩吧!

快手电商

一个好逛、有趣、让老铁信任的优质电商平台,帮助达人和商家实现高效交易,以沉浸式体验带给消费者不一样的购物感受。来快手电商,让生活更好一点!

萌宝最新短剧百度云资源

恰矿资源网(www.qiakuang.com)亲子动画资源库,益智卡通网盘分享网

笑笑乐

记录个人日常手机搞笑图片及笑话等

北京盛通印刷股份有限公司

北京盛通印刷股份有限公司主要从事全彩出版物综合印刷服务,并定位于出版物和商业印刷的高端市场,主要承印大型高档全彩杂志、豪华都市报、大批量商业宣传资料等快速印品以及高档彩色精装图书。

瑞呈科技

瑞呈科技,专注杭州网站制作,杭州建站公司,杭州网站建设公司,杭州网站开发,h5游戏,h5外包,杭州微信开发,h5制作,h5开发,h5定制,微信小程序开发,app外包,杭州app开发公司,安卓开发,android开发,IOS开发,app制作,软件开发,crm定制,微信运营,微博运营,双微运营,网站设计等服务。以品质为导向,为客户从“心”定制行业互联网解决方案。咨询热线:0571-87090678

珠海格力电器股份有限公司网站

珠海格力电器股份有限公司是一家集研发、生产、销售、服务于一体的国际化家电企业,拥有格力、TOSOT、晶弘三大品牌,主营家用空调、中央空调、空气能热水器、手机、生活电器、冰箱等产品。

宝宝免费取名

墨语闻香起名网为您的孩子提供专业的起名参考,从古老的诗经等古籍中汲取智慧,通过五行八字起名用字,百家姓起名用字,为新生宝宝和公司店铺起名提供好听满意的的名字,助力人生美满。

酷族网软

上传、存储和分享文件,让酷族网软为您提供更安全、便捷的文件管理体验。

河北蓝思泰克光电科技有限公司,蓝思泰克,光电

河北蓝思泰克光电科技有限公司,蓝思泰克,光电蓝思泰克、红外热成像镜头

屋顶风机

德州冠霖空调设备有限公司套产品、消防防火产品、T35轴流风机、壁式轴流风机、轴流式风机、正压送风机、低噪声轴流风机、消防排烟风机、混流风机、轴流风机、管道风机、风机箱、风口系列、消声器、静压箱、水箱、冷却塔、通风管道等。


全局底部横幅