要让深度学习模型训练时间缩短100倍 CAIIC 2016 英特尔宋继强 2020年

文章编号:43879 资讯动态 2024-12-09 人工智能 深度学习 宋继强 英特尔

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

雷锋网按:今日,由中国人工智能学会主办的 2016 中国人工智能产业大会暨第六届吴文俊人工智能科学技术奖颁奖盛典在深圳举行。英特尔中国研究院院长宋继强站在芯片供应商的角度为大家分享了他对人工智能的观点。以下整理自演讲内容,雷锋网做了不改变原意的修改。

数据驱动人工智能的发展

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

据第三方机构预测,到2020年会有500亿的智能设备连入互联网,这些智能设备会产生大量的数据,到2020年,仅一位互联网用户每日就能产生1.5GB的流量,而一家智慧工厂每天产生的数据更是高达1000000GB,当然,你完全不用为此感到惊慌,这些数据正是人工智能算法的基础。

宋继强如是说。

数据是基础,但拥有数据之后并不意味着你可以就此一劳永逸。在应用层,除了从各种渠道获取的数据之外,处理和分析数据的能力也格外重要,通俗点说,就是有了数据你要知道怎么用。宋继强认为,这其中的关键是端到端的集成。

人工智能依然处于早期阶段

人工智能从60年前被提出,到现在已经发展到了一个新的高度,人工智能已经逐渐融入到了人们的生活当中,不过在宋继强看来,现在的人工智能并不成熟。“20年后再来看,历史的发展长河里面,现在人工智能仍然处在一个早期阶段。”

宋继强给出了三个评价技术是否已经达到了成熟阶段的标准:

英特尔联合创始人Robert Noyce曾表示,“一直以来,我们通过计算机建模的方式来探究大脑如何工作。或许我们应该反其道而行之,为了探索计算机的未来发展方向,我们应该向大脑寻求答案。”宋继强在大会上也表示,怎么利用我们在脑科学上得到的一些认知和新奇的想法,去促进计算机科学或者计算架构的发展,为这个领域提供更好的计算能力,这是业界需要考虑的。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

宋继强以深度学习举了个例子:如果训练出一个深度学习模型,直接变成一个硬件是不太可能的,而且也是低效的,高效的办法是去分析这个模型,而且必须找到懂这个模型的人、懂为什么产生这种模型,然后把这个模型通过硬件的描述给描述出来,接下来是抽象出硬件中的数据流。这里会涉及到很多问题,数据是怎么流的?中间的流水线上有哪些重要处理模块?它们各自的时间、带宽要求是怎么样?有哪些计算的原语?在这样的基础上,做硬件芯片就有很好的认识,我们能知道哪些放在硬件里面固化,哪些是去灵活使用,有了这样的认知以后,就可以产生出一个针对这种工作,这种工作负载优化的硬件。

英特尔做了什么?

虽然宋继强在大会现场表示英特尔不是人工智能领域的专家,但英特尔近一年来在这一领域做出的投入并不少。他说,英特尔正在做的就是终端到云端的解决方案,例如中间的通讯链路、存储等。

在云端方面,雷锋网曾报道,今年11月英特尔推出了代号为Lake Crest的芯片,这是一款专门为深度学习定制的处理器。宋继强在现场介绍了这款芯片的特点:第一,它里面的运算设计是为了深度学习量身定制,同时它的计算密度也非常高;第二,它突破了多节点之间数据访问的瓶颈;第三,支持高速的内存,这个高速内存是使用HBM2的内存,直接封装在一个芯片的。

这样的设计意味着什么?

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

除此之外,在硬件方面,至强、至强融核的技术以及Arria FPGA也都是英特尔在人工智能硬件上不可或缺的产品线,这些人工智能的硬件和方案都属于英特尔Nervana平台的产品。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

反观在算法的研究上,英特尔更多的是与学术界合作,合作的方向也是多元化的:如何加快训练的速度,以及更好的利用少一些的数据和少一些的监督,来达到训练的特性;怎么把大模型稀疏化和修剪,因为现在模型和参数非常多,但实际有用的却寥寥无几,这对存储和计算会造成巨大的浪费,所以怎么做好大量模型的稀疏化,以提升效率;第三点是怎么支持更大规模的计算,例如在云端可以同时做运算,在每个节点用更高阶的方法做处理。

毋庸置疑,这些技术可以大幅增加模型的并行化计算能力,而未来英特尔也将推出更先进的Knights Crest。宋继强还透露了英特尔的一个小目标, 到2020年,在英特尔软硬件方案的集成下,深度学习模型的训练时间可以缩短100倍。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

在数据爆发且对计算性能要求苛刻的时代,云端固然重要,但对实时性要求高的应用而言,终端的处理能力也不容忽视。今年9月,英特尔收购了视觉处理芯片商Movidius,这是英特尔在人工智能终端上布局的代表作。在宋继强看来,终端嵌入AI是未来的一大趋势,它有更高的能效、更低的宽带需求、更低的延迟,而且对存储的消耗更少,容错连续性也更好。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

人工智能还有很多事可以做

最近一两年,国内外科技巨头已经纷纷把目光聚焦在了人工智能,但正如宋继强所言,人工智能依然处于早期阶段,创业团队依然可以从中找准自己的角色,例如,无人驾驶、精准医疗、智慧城市、互联网金融等都将蕴藏着巨大的机遇。

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: https://www.gpxz.com/article/119325ad247b5a886498.html
全局中部横幅
全局中部横幅
京东(JD.COM)

京东JD.COM-专业的综合网上购物商城,为您提供正品低价的购物选择、优质便捷的服务体验。商品来自全球数十万品牌商家,囊括家电、手机、电脑、服装、居家、母婴、美妆、个护、食品、生鲜等丰富品类,满足各种购物需求。

军事频道

爱奇艺军事频道及时披露热的军事新闻头条视频,包含军事热点、新武器、国防等热门视频,另有热门军事节目、军事报道等在线观看。内容类型具体有军事时事热点、武器知识、兵器讲解、军事历史、航空航天、战争、国际军情、国内军情、台海军情等。拥有《军情解码》、《军情直播间》、《海峡新干线》、《沙场》、《点兵》等军事热门节目。

东莞市安迈检测技术有限公司/安迈检测/东莞安迈

东莞市安迈检测技术有限公司专注于电源,电池,灯具,无线等电子产品安全,电磁兼容EMC,能效,化学,可靠性第三方认证检测办理实验室机构,可办理CE认证,FCC认证,UL认证,CCC认证,CB认证,UN38.3认证等世界各国产品认证。

防老剂

江苏铭卓新材料有限公司是一家专业从事抗氧剂,防老剂,紫外线吸收剂,光稳定剂等为一体的大型综合性高科技产业

企业邮箱申请注册

如何选择企业邮箱,企业邮箱哪个好?推荐使用中国最好的企业邮箱-中国企业邮箱和阿里企业邮箱,大品牌值得信赖。选企业邮箱到中国企业邮箱网,服务优,价格更低至5折。

气动

气动|电动调节阀_气动|电动球阀_上海江控阀门有限公司

安徽艾博生物科技有限公司

安徽艾博生物科技有限公司始创于1990年,公司前身为上海艾博添加剂有限公司,是一家以生产酒石酸系列产品为主的专业精细化工企业。公司目前生产的主要产品有酒石酸类(DL-酒石酸,酒石酸钾钠,酒石酸氢钾,酒石酸锑钾,L+酒石酸,D-酒石酸,酒石酸钾,酒石酸钠)、葡萄糖酸钠、TS—280固化剂,导热油系列等。

邢台市马路街小学

邢台市马路街小学的官方网站。本网站是学校对外宣传的窗口,是师生展示风采的平台,也是学生家长了解学校的桥梁和纽带。马路街小学网站围绕“润泽生命·开发智慧”的校园文化主题,积极发挥平台作用,展示学校特色,展示师生风采,弘扬社会主义核心价值观,倡导社会正能量。

全程旅游网

作为一站式旅游预订网站,全程旅游网提供旅游线路、旅游团、酒店、景点门票、签证、导游等的旅游预订服务,并对旅游目的地进行深度介绍。快乐旅游,从全程网开始!

精品下载

精品下载是一个专业的无毒的免费的软件游戏资源网站,每天为用户提供最新资源下载,让用户放心的下载您需要的喜欢的软件,特别提供手机软件下载.

合众优年生活•持续健康退休社区

合众优年生活•持续健康退休社区以美国先进的CCRC社区为典范,完整空运美国退休生活,并重金聘请美国专业退休社区管理专家团,为退休人士提供全世界最为先进、高端的健康养老生活,合众优年生活热线:400-887-8850

全局底部横幅