要让深度学习模型训练时间缩短100倍 CAIIC 2016 英特尔宋继强 2020年

文章编号:43879 最新资讯 2024-12-09 人工智能 深度学习 宋继强 英特尔

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

雷锋网按:今日,由中国人工智能学会主办的 2016 中国人工智能产业大会暨第六届吴文俊人工智能科学技术奖颁奖盛典在深圳举行。英特尔中国研究院院长宋继强站在芯片供应商的角度为大家分享了他对人工智能的观点。以下整理自演讲内容,雷锋网做了不改变原意的修改。

数据驱动人工智能的发展

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

据第三方机构预测,到2020年会有500亿的智能设备连入互联网,这些智能设备会产生大量的数据,到2020年,仅一位互联网用户每日就能产生1.5GB的流量,而一家智慧工厂每天产生的数据更是高达1000000GB,当然,你完全不用为此感到惊慌,这些数据正是人工智能算法的基础。

宋继强如是说。

数据是基础,但拥有数据之后并不意味着你可以就此一劳永逸。在应用层,除了从各种渠道获取的数据之外,处理和分析数据的能力也格外重要,通俗点说,就是有了数据你要知道怎么用。宋继强认为,这其中的关键是端到端的集成。

人工智能依然处于早期阶段

人工智能从60年前被提出,到现在已经发展到了一个新的高度,人工智能已经逐渐融入到了人们的生活当中,不过在宋继强看来,现在的人工智能并不成熟。“20年后再来看,历史的发展长河里面,现在人工智能仍然处在一个早期阶段。”

宋继强给出了三个评价技术是否已经达到了成熟阶段的标准:

英特尔联合创始人Robert Noyce曾表示,“一直以来,我们通过计算机建模的方式来探究大脑如何工作。或许我们应该反其道而行之,为了探索计算机的未来发展方向,我们应该向大脑寻求答案。”宋继强在大会上也表示,怎么利用我们在脑科学上得到的一些认知和新奇的想法,去促进计算机科学或者计算架构的发展,为这个领域提供更好的计算能力,这是业界需要考虑的。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

宋继强以深度学习举了个例子:如果训练出一个深度学习模型,直接变成一个硬件是不太可能的,而且也是低效的,高效的办法是去分析这个模型,而且必须找到懂这个模型的人、懂为什么产生这种模型,然后把这个模型通过硬件的描述给描述出来,接下来是抽象出硬件中的数据流。这里会涉及到很多问题,数据是怎么流的?中间的流水线上有哪些重要处理模块?它们各自的时间、带宽要求是怎么样?有哪些计算的原语?在这样的基础上,做硬件芯片就有很好的认识,我们能知道哪些放在硬件里面固化,哪些是去灵活使用,有了这样的认知以后,就可以产生出一个针对这种工作,这种工作负载优化的硬件。

英特尔做了什么?

虽然宋继强在大会现场表示英特尔不是人工智能领域的专家,但英特尔近一年来在这一领域做出的投入并不少。他说,英特尔正在做的就是终端到云端的解决方案,例如中间的通讯链路、存储等。

在云端方面,雷锋网曾报道,今年11月英特尔推出了代号为Lake Crest的芯片,这是一款专门为深度学习定制的处理器。宋继强在现场介绍了这款芯片的特点:第一,它里面的运算设计是为了深度学习量身定制,同时它的计算密度也非常高;第二,它突破了多节点之间数据访问的瓶颈;第三,支持高速的内存,这个高速内存是使用HBM2的内存,直接封装在一个芯片的。

这样的设计意味着什么?

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

除此之外,在硬件方面,至强、至强融核的技术以及Arria FPGA也都是英特尔在人工智能硬件上不可或缺的产品线,这些人工智能的硬件和方案都属于英特尔Nervana平台的产品。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

反观在算法的研究上,英特尔更多的是与学术界合作,合作的方向也是多元化的:如何加快训练的速度,以及更好的利用少一些的数据和少一些的监督,来达到训练的特性;怎么把大模型稀疏化和修剪,因为现在模型和参数非常多,但实际有用的却寥寥无几,这对存储和计算会造成巨大的浪费,所以怎么做好大量模型的稀疏化,以提升效率;第三点是怎么支持更大规模的计算,例如在云端可以同时做运算,在每个节点用更高阶的方法做处理。

毋庸置疑,这些技术可以大幅增加模型的并行化计算能力,而未来英特尔也将推出更先进的Knights Crest。宋继强还透露了英特尔的一个小目标, 到2020年,在英特尔软硬件方案的集成下,深度学习模型的训练时间可以缩短100倍。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

在数据爆发且对计算性能要求苛刻的时代,云端固然重要,但对实时性要求高的应用而言,终端的处理能力也不容忽视。今年9月,英特尔收购了视觉处理芯片商Movidius,这是英特尔在人工智能终端上布局的代表作。在宋继强看来,终端嵌入AI是未来的一大趋势,它有更高的能效、更低的宽带需求、更低的延迟,而且对存储的消耗更少,容错连续性也更好。

英特尔宋继强:2020年,要让深度学习模型训练时间缩短100倍|2016 CAIIC

人工智能还有很多事可以做

最近一两年,国内外科技巨头已经纷纷把目光聚焦在了人工智能,但正如宋继强所言,人工智能依然处于早期阶段,创业团队依然可以从中找准自己的角色,例如,无人驾驶、精准医疗、智慧城市、互联网金融等都将蕴藏着巨大的机遇。

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: /article/119325ad247b5a886498.html
全局中部横幅
全局中部横幅
辛格迪|生命健康数字化先锋

上海辛格迪健康科技拥有20余年管理软件研发及咨询实施经验,从事制药行业研究10余年。专注于制药、医疗器械和食品行业,针对国情需求设计系统,符合中国药企用户的使用习惯。辛格迪的制药信息化平台包含的系统有:QMS质量管理系统,DMS文件管理系统,MES生产管理系统,研发项目管理系统等,是国内制药行业专业软件,是在中国制药技术的传播者及GMP理论的实践者!辛格迪的鲲泰制药质量监控系统,整合了与国内外知名药企(如罗氏、恒瑞医药等)多年卓有成效的合作经验,遵循GMP要求,推出的符合CGMP、EU-GMP(ANNEX11)、FDA21CFRPart11、ISO/IEC17025等标准规范的信息化管理软件。其中鲲泰QMS质量管理系统包括的功能模块有文档管理、培训管理、电子签名、项目管理、CAPA、偏差偏离管理、项目管理、审计管理、不合规管理、召回管理、检测管理、投诉管理、供应商管理、变更管理、任务管理、商业智能分析等。

seo优化建议 - 站长工具

seo优化建议可以快速定位你页面哪些地方存在不利seo的因素

HAIZOL海智在线——一站式零部件采购及产品交付服务平台

HAIZOL海智在线是国内领先的非标零部件领域专业服务平台,旨在帮助国内中小零部件加工企业对接全球采购资源,满足传统零部件制造企业的订单和产能需求。

彩讯科技股份有限公司

彩讯股份创始于2004年,是国家高新技术企业,国家鼓励的重点软件企业,主营智慧渠道、协同办公、智算服务与数据智能三大产品线,覆盖电信、金融、能源、交通等多行业的大中型央国企。基于多年积累的丰富的业务应用场景,结合公司全面AI战略,构建从AI原生云计算解决方案RichAICloud、智能体开发平台RichAIBox到垂直行业大模型应用解决方案的AI全栈服务体系,覆盖企业大模型应用开发全生命周期,助力AI技术的普及与深入应用。

克诺斯邦板材_克诺斯邦官方代理_进口板材_环保板材-中享汇成

克诺斯邦Kronospan是全球领先的板材制造商,中享汇成作为克诺斯邦官方代理,我们致力于将国际一流的原材料、设计理念、生产工艺引入国内,带领行业客户不断创新,让用户享受到更环保、可靠、时尚的产品和服务。同时,上下游链条也已打通,保障把最好的产品以最优质的价格带到中国。

【澳洲科廷科技大学新加坡分校】世界排名_学费_地址_申请条件

澳洲科廷科技大学新加坡分校中文网,详细介绍澳洲科廷科技大学新加坡分校专业设置、学费、申请条件以及世界排名;免中介费办理澳洲科廷科技大学新加坡分校留学,详细请点击

高压水清洗技术网-拆除前清洗

巴洛仕集团专业清洗置换,动火清洗,化工拆除清洗,动火前清洗置换,化工投产前清洗,管道清洗,氧气管道脱脂清洗,设备清洗钝化,循环水清洗预膜等

上海抖音推广-抖音代运营公司-短视频SEO优化服务-颐抖网

颐抖网是一家专注于上海企业网络品牌推广的广告服务平台,提供上海抖音SEO优化,直播代运营,抖店代运营,抖音广告开户投放,抖音蓝V认证等服务。

15天天气预报|未来15天天气预报|15天天气预报2024年查询-15天气预报网

天气预报网提供全国各地天气预报,未来七天天气预报,及时发布最新气象资讯等全面的气象服务,还提供全国各地旅游景点天气预报情况、气象常识。

圆盘干燥机-盘式干燥机-盘式连续干燥机-真空盘式干燥机-江苏宇通干燥工程有限公司

江苏宇通干燥工程有限公司是一家生产设计与制造盘式干燥机,圆盘干燥机,盘式连续干燥机,真空盘式干燥机生产厂家。24小时咨询热线:13906123780陆文光

全局底部横幅