Habana在英伟达牢固的AI训练城墙上打开了一道口 (habanacuba雪茄多少钱一支)

文章编号:45766 最新资讯 2024-12-09 Habana Gaudi 云端AI芯片

在利润丰厚的云端AI芯片市场,英特尔和英伟达凭借CPU和GPU分别占领着云端AI推理和训练市场超九成的份额。即便如此,想要进入云端芯片市场的挑战者不少,但取得重大突破的挑战者寥寥无几,以色列公司Habana Labs算是其中一个。

近期举行的AWS re:Invent 2020(亚马逊 re:Invent 2020)大会上,AWS宣布采用最多8个Habana Gaudi加速器的EC2实例,性价比相较目前基于GPU的EC2实例提升高达40%,计划2021年上半年提供使用。

Habana在牢固的AI训练城墙上打开了一道口

Habana Labs在英伟达牢固的云端AI训练市场取得的突破能否进一步扩大?AI云端芯片市场真的只会是英特尔的英伟达占绝对主导吗?

用40%性价比提升突破英伟达的GPU训练城墙

之所以说Habana Labs在英伟达AI训练芯片的牢固城墙上打开了一道口有两个原因,一是在AI训练芯片市场,英伟达GPU占有绝对的主导地位,像亚马逊这样的科技巨头除了自研芯片,很少采用其它训练芯片,这是一个标志性的突破。

另外,Gaudi加速器此次是在TensorFlow上训练ResNet-50模型展现出了更高的性价比,是单点突破,而非全面的优势。

根据AWS内部的测试,Habana Labs的EC2实例比目前GPU在机器学习性价比上提升了40%。8卡的Gaudi解决方案可以在TensorFlow上每秒处理12000张图像训练ResNet-50模型。

雷锋网了解到,当下众多数据中心使用的Tesla V100 GPU,8卡训练TensorFlow ResNet-50的速度是7600张/秒。今年5月发布的最新英伟达A100 GPU 8卡则可以达到1.7万张/秒的速度。

可以看到,相比上一代V100 GPU,Gaudi有显著优势,但比最新A100 GPU性能还是有一定差距。功耗方面,根据英伟达官方的数据,NVLink接口的A100 GPU最大功耗为400W,PCIe接口的A100最大功耗为250W。

Habana Labs中国区总经理于明扬告诉雷锋网,16纳米制程的Gaudi功耗在260W-300W之间,功耗比A100 GPU略有一点优势。Habana Labs在现有制程和功耗上的表现,说明整个架构相对A100 GPU没有任何劣势,应该还有一定的优势。

Habana在牢固的AI训练城墙上打开了一道口

在工艺制程提升越来越难的当下,通过架构创新实现性能的提升更显重要,特别是在模型参数越来越大的云端训练领域。于明扬说:“我们芯片架构设计有两个重要的考量点,一个是考虑芯片本身利用数据方面的需求,再一个是通过并行化解决数据需求。”

他进一步表示,单一芯片架构变化不会那么快,通过并行化对整个训练系统性能的提升会更加高效、实用。业界也认识到片间互联以及系统间互联对整个训练系统性能的影响,因此在互联上花费更多精力去设计更加高效的训练系统应对未来更大规模的模型。

Habana Gaudi的做法是每个处理器集成32GB的HBM2内存,并集成用于服务器内部处理器互联的RoCE功能,可以使用多个基于Gaudi的系统实现高效和可扩展的分布式训练。

Habana在牢固的AI训练城墙上打开了一道口

但想要打动已经使用英伟达GPU训练AI的公司,性价比只是一方面。

“现在客户接受新产品会同时考虑性价比和软件生态。性价比要达到主流平台的两倍以上,客户才有动力去尝试一个新平台。”于明扬说:“软件方面需要客户可以很方便和快捷的将现有模型移植到新的平台,并且只有很少的性能和精度损失。”

这就需要有一个比较好的软件生态,既提供完整的工具链,软件也有很高的灵活度,最好能帮助客户实现无缝迁移。 于明扬表示,“AWS选择Habana也是这两个考虑,一个是Habana目前在训练上性价比是唯一能挑战英伟达的产品,另一个是软件的易用性也被AWS接受。”

据悉,与Gaudi匹配的Habana SynapseAI软件套件与TensorFlow和Pythorch等流行的深度学习框架集成,并对Gaudi进行了优化。开发人员将可以获取开放的Gaudi软件、参考模型和文档。

接下来,Habana Labs能否进一步打开云端训练市场,英特尔非常关键。

英特尔在AI训练市场双重出击

2020年1月,英特尔宣布以20亿美元的价格收购Habana。

谈及为何选择英特尔,于明扬解释,“考虑到保持企业的属性不变持续提供产品和服务,减少客户的担忧,我们更倾向于选择一个中立的公司。英特尔对Habana而言是最理想的,一个是因为英特尔有足够的客户群,可以给我们很多支持。另一个是能够给我们带来更加稳定的技术资源和资金支持,增加客户对我们的信任。”

Habana被英特尔收购之后独立运营,团队规模扩大了3倍,向Data Platform Group(数据中心事业部)汇报,在销售和市场方面与英特尔有非常紧密的合作。

雷锋网了解到,AWS在明年一月份开放Gaudi资源申请之后,大概需要经过半年的时间才会给出明确的结论,之后才能看到Gaudi是否可以有比较大的量的突破。另外,Habana在国内已经与头部和二线互联网公司建立了广泛的合作,它们基本已经开始试用Habana产品,有的客户已经开始批量采购。

Habana能否进一步打开云端训练市场,产品的持续迭代,以及与英特尔的融合都是关键因素。

根据Habana的说法,其下一代云端训练AI芯片Gaudi2将基于台积电7nm工艺,在Gaudi效能的基础上进一步提升。同样明确的是,Habana会把训练和推理的产品分开。

“推理对性价比的关注度更高,数据可以一次性加载到芯片的片内内存中效率更高。但训练需要反复加载数据,需要更大的片内和片外内存,还要提供高带宽和低延迟,要将两种特性结合是比较大的挑战。我们会针对不同的场景提供更适合的产品,给客户更好体验。”于明扬解释。

这些产品都会融入英特尔的体系, 于明扬透露:Gaudi计划在明年加入oneAPI体系。

oneAPI是为了应对异构硬件带来的软件编程复杂性挑战,英特尔提出的统一软件平台,不仅将其CPU、GPU、FPGA、ASIC纳入到这一体系,还希望通过DCP++支持第三方芯片。

Habana在牢固的AI训练城墙上打开了一道口

基于统一的软件平台,英特尔还能使用最新的Xe架构GPU角逐云端训练芯片市场。Xe架构的GPU是英特尔22年后再次推出高性能独立GPU,分为Xe LP(低功耗)、Xe HP(高性能)、Xe HPC微架构,面向不同市场。

今年11月,英特尔发布了首款数据中心GPU,基于Xe-LP架构,专为高密度、低时延的安卓云游戏和流媒体服务而设计。

Habana在牢固的AI训练城墙上打开了一道口

英特尔GPU加Habana AI加速器能够拿下多少云端训练市场的份额还有待观察,但这同时也引出了一个新的问题,云端AI芯片市场还有机会吗?

云端AI芯片市场还有机会吗?

“无论是AI的训练还是推理,CPU都扮演着重要角色,因为很多预处理AI加速卡和GPU不能处理,需要CPU与GPU/AI加速器的协同。比如推荐系统里,数据查表和分类CPU就非常擅长。”于明扬说。

“整个AI中,CPU、GPU以及像Habana这样的ASIC扮演着不同的角色,英特尔的优势在于无论任何环节,英特尔都有合适的产品和解决方案。”

看到XPU(CPU、GPU、FPGA、ASIC)价值的显然不止英特尔。

今年9月,英伟达宣布将以400 亿美元收购 Arm,Arm是创立于英国的IP公司,其Cortex CPU IP被广泛应用,如今正积极进军高性能计算市场,在TOP500榜单中已收获不错的成绩。如果收购成功,Arm的CPU组合英伟达的GPU将帮助英伟达进一步提升在高性能和AI市场的竞争力。

如此看来,英特尔和英伟达不仅有性能强劲的硬件产品,还有强大的软件和生态。除了科技巨头自研的云端AI芯片,其他想要进入云端AI芯片市场的公司还有机会吗?对于这个问题我们有理由保持积极的态度。

英特尔亚洲人工智能销售技术总监伊红卫说:“2019年英特尔全球人工智能收入已经达到38亿美元了,AI是一个跨部门、跨产品的生意。在我看来,AI仍处于早期阶段,还有很长的路可以走,现在还是大浪淘沙的时候,我深信英特尔会成为弄潮儿。”

英特尔和英伟达在云端AI芯片市场将如何竞争?AMD收购赛灵思会带来怎样的变数?

成立仅三年就被收购!英特尔20亿美元收购AI芯片公司Habana Labs

黄仁勋说收购Arm是一生仅有一次的机会,Arm联合创始人:阻止英伟达!

AMD 官宣 350 亿美元收购赛灵思

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: /article/08762bc961c11c9b9fcb.html
全局中部横幅
全局中部横幅
图书畅销榜-近30日畅销书排行榜-当当畅销图书排行榜

当当最新畅销书排行榜-畅销书推荐,提供真实、权威、可信的图书畅销榜数据,查看2014畅销书排行榜,就上DangDang.COM。

卖家网-电子商务卖家专业综合知识库

卖家网(maijiaw.com)以电商卖家为中心,分享店铺运营、管理、行业最前沿资讯、规则等信息,为电商卖家提供最靠谱工具推荐、干货交流、学习、分享平台,帮助卖家更好更快的学习充电,致力于做中国专业的有影响力的电商卖家综合知识库。

【墨鱼丸】看奇趣世界,玩墨鱼时刻

《墨鱼丸》是一款能让您在电脑端看短视频的休闲产品。你可以看到世界各地奇妙有趣的瞬间,享受工作和生活中的每一刻精彩!

NBA网站导航大全-LOL网址导航网

LOL网址导航网是专业的上网导航网站,精心收录各类优质热门网站信息,同时提供天气、快递、违章等各种生活便民查询工具网址,为您提供安全便捷的上网导航服务,现已被众多网友设为上网主页,网址导航大全首选LOL网址导航.

湖北晋远酒店设备用品有限公司

湖北晋远酒店设备用品有限公司湖北晋远酒店设备用品有限公司

声乐速成网|刘书铭声乐速成网|上海声乐教学|上海声乐培训|上海学唱歌

中国声乐速成网-刘书铭老师的《声乐速成训练法》是对传统教学法的一种反叛,其宗旨是使歌唱方法简单化易学化。让学习者在最短的时间内取得最大的进步。

成都糖酒会|2026年成都春季糖酒会|第114届全国糖酒商品交易会

成都糖酒会_2026年成都糖酒会_2026成都糖酒会有着中国食品行业“晴雨表”之称的全国糖酒商品交易会,始于1955年,是中国历史最为悠久的大型专业展会之一。全国糖酒商品交易会由中国糖业酒类集团有限公司主办,一年两届,分春、秋两季举行。

郑州代办出口退税,郑州代办外贸公司进出口权海关备案,16年经验|郑州创业之星会计服务有限公司官网

郑州代办外贸公司注册,1天出证,郑州代办出口退税,1天到账,进出口权海关备案外汇开户,专业外贸公司代理记账,跨境电商免税备案,安全合规省税节税,电话微信13283893527,郑州创业之星会计服务有限公司

湖北鑫洋科技有限公司

【移动式压缩垃圾站,移动垃圾站,车厢可卸式垃圾车,勾臂车,拉臂车,压缩式垃圾车】湖北鑫洋科技有限公司专业生产1.5-30吨勾臂车,主要有东风天锦8吨、12吨、16吨勾臂车,25吨勾臂垃圾车车,30吨勾臂垃圾车车,8-26方移动式压缩垃圾站

帕斯卡契约

《帕斯卡契约》是一款幻想题材的动作角色扮演游戏。玩家可操作四名个性鲜明、战斗方式迥异的角色,去体验深沉厚重的剧情,极具探索感的立体地图,遭遇超乎想象的敌人。

相亲网 - 因为相亲,所以相爱, 专注严肃婚介交友服务

相亲网所有用户均通过实名认证,旨在为同城单身男女、中老年、高端白领、大龄青年创造一个真实靠谱的网上相亲平台。相亲网不要钱的同城相亲活动相亲会更让你大胆去爱!

圣思模切|网纱模切|泡棉模切|双面胶模切|保护膜模切|导热材料模切|散热材料模切|导电屏蔽材料模切|其他材料模切|东莞市圣思电子有限公司

圣思模切|网纱模切|泡棉模切|双面胶模切|保护膜模切|导热材料模切|散热材料模切|导电屏蔽材料模切|其他材料模切|东莞市圣思电子有限公司

全局底部横幅