IPU首度公开MLPerf成绩 性价比收益胜过英伟达 (ip首部作用)

文章编号:41512 资讯动态 2024-12-03 Graphcore Nvidia IPU

本周四,MLCommons发布了最新MLPerf Inference v1.0基准测试(Benchmark)结果,英伟达GPU一如既往地表现不俗,但值得英伟达注意的是,其超大规模数据中心的竞争对手,Graphcore公司专为机器智能设计的 IPU也参加了此次基准测试。

MLPerf基准测试发布至今已有三年之久,此前英伟达、谷歌、阿里巴巴等大公司一直通过MLPerf跑分成绩强调其产品实力,能够挑战英伟达GPU的IPU为何今年才加入MLPerf基准测试?首次参加MLPerf测试的IPU,究竟表现如何

IPU首度公开MLPerf成绩,性价比收益胜过英伟达

首次提交两个模型,性价比收益胜过英伟达

在今年提交的MLPerf训练1.0版本任务中,Graphcore提交了两个模型:计算机视觉模型ResNet-50和自然语言处理模型BERT。

IPU首度公开MLPerf成绩,性价比收益胜过英伟达

新一轮MLPerf基准测试结果(部分)

Graphcore高级副总裁兼中国区总经理卢涛称,之所以提交这两个模型,是因为这两个模型在相应领域里颇具代表意义且被广泛使用。

“许多骨干网络还是基于ResNet,BERT虽然有很多变种版本。但标准的BERT就还是大家比较认可的Benchmark基准。”

基于IPU-M2000,Graphcore用了两种配置的硬件进行基准测试,由4个1U IPU-M2000和1个双路服务器组成的IPU-POD16,可以提供4 PetaFLOPS的AI算力,由16个IPU-M2000和4台双路服务器组成的IPU-POD64 ,可提供16 PetaFLOPS的AI算力。

IPU首度公开MLPerf成绩,性价比收益胜过英伟达

测试结果显示,在BERT模型训练中,IPU-POD16在开放分区(Open Division)的训练时间在半小时以内,约为27分钟,封闭分区(Closed Division)的训练时间为34分钟。两个分区的区别在于,在封闭分区中,需要完全按照规定的网络架构优化方式和硬件配置完成提交,而在开放分区拥有更多的自主灵活性。

同样的模型训练在IPU-POD64上,训练时间缩短3.5倍,且在开放分区的训练时间10分钟以内,这意味着相关科研工作者在模型训练过程中能够更快地得到研究结果。

在ResNet-50模型训练中,IPU-POD16的封闭分区训练时间为37分钟,IPU-POD64能在这一基础上能将时间缩短3倍。

一直以来将英伟达视为竞争对手的Graphcore这次也同英伟达基于DGX A100 640G提交的训练结果进行比较。基于DGX A100,其ResNet-50的MLPerf训练时间28分钟,BERT的MLPerf训练时间为21分钟,均高于IPU-POD16。

不过IPU训练时间更久并不意味着其AI能力就落后于GPU。

IPU首度公开MLPerf成绩,性价比收益胜过英伟达

IPU首度公开MLPerf成绩,性价比收益胜过英伟达

卢涛表示,一方面,ResNet、BERT等应用都是在过往基于GPU架构选择出来并深度优化的应用,对IPU可能并不是很友好,另一方面,对于最终用户非常关注“每花费一美金所能获得的训练收益”,如果将训练收益和目录折算成性价比,ResNet训练任务下,IPU-POD16相对DGX A100 640G版本的性价比收益有1.6倍,BERT训练任务下,IPU-POD16相对DGX A100 640G版本的性价比收益有1.3倍。

也就是说,如果单纯从性价比收益来看,IPU可能是更好的选择。

参加MLPerf基准测试,源于Graphcore 资源更加充足

事实上,Graphcore IPU与英伟达GPU跑分对比并不是第一次,不过当时并未选择在业内认可度和接受度更高的MLPerf。

去年8月,Graphcore通过参加谷歌发布的EfficicentNet模型、ReseARChNEt模型以及NLP模型等基准测试且与英伟达A100 GPU对比。测试数据表明,多维度比较后,IPU的推理性能与训练性能均优于GPU。

为何当时未提交MLPerf的结果?“因为当时资源有限,更多地聚焦在对SDK的打磨、优化、功能开发,和头部客户及合作伙伴联合探索应用场景落地。”卢涛如此回答。

卢涛解释到,参加MLPerf Benchmark需要较大的投入,Graphcore十几个团队成员分别间接或直接参加了这一项目,且至少耗费半年以上的时间。“今天Graphcore整体软硬件,尤其是软件和生态,更加成熟完善,公司整体实力和之前相比更加雄厚。在几个因素叠加的影响下,我们参加了MLPerf训练1.0的Benchmark,后续也有持续投入的计划。”

选择在资源充足后参加MLPerf基准测试,同时也表明Graphcore对这一基准测试的认可。

“AI芯片产业的整体出发点是DSA(Domain Specific Architecture),与不论是在整体架构上还是计算机体系结构上相对比较类似的CPU相比,各个AI处理器的架构之间会有较大的差异。对于最终用户来说,就很难体现所选择的架构对于业务受益产生的影响。”

“我并不能说MLPerf代表了整个AI产业所有的任务,但是它代表了今天工业界比较主流部署的应用场景。我认为MLPerf是有一定指导意义的。”卢涛说道。

虽然基于GPU架构选择出来的应用模型对IPU而言并不友好,但Graphcore认为,需要积极参与产业标准的探讨,逐渐成为产业中有力的声音,才能影响产业标准的走向。

“之后我们会积极参与MLPerf的提交,提供一些不同的任务,让MLPerf的工作负载更具代表性。”卢涛说道。

不是GPU的IPU,为什么更值得英伟达警惕?

超越全球最大7nm芯片A100!Graphcore第二代IPU晶体管数量高达594亿个

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: https://www.gpxz.com/article/2696cd1023e91b6f6511.html
全局中部横幅
全局中部横幅
国内网站测速对比

国内网站速度检测的首选,遍及国内各省几十个网站速度检测点,包括BGP双线、多线、电信、网通、联通、移动、长城宽带等线路,即时测试网站在全国各地的打开速度。

一点资讯

一点资讯是一款高度智能的新闻资讯应用,通过它你可以搜索并订阅任意关键词,它会自动帮你聚合整理并实时更新相关资讯,同时会智能分析你的兴趣爱好,为你推荐感兴趣的内容。看新闻资讯,一点就够了!

网易游戏官网

我和你一样,我们都是游戏热爱者。网易在线游戏自主研发运营多款在线游戏,包括《大话西游Ⅱ》、《梦幻西游2》、《新大话西游3》、《武魂》、《天下3》、《大唐无双2》、《倩女幽魂2》、《新飞飞》等。网易游戏在中国MMORPG游戏市场保持领先地位。

养成游戏,养成类游戏,养成小游戏,养成小游戏大全,4399小游戏

4399养成小游戏大全收录国内外养成游戏,养成类游戏,养成小游戏,恋爱养成小游戏,养成计划小游戏,明星养成小游戏,少女养成小游戏,皇帝养成计划小游戏。好玩就拉朋友们一起来玩吧!

辽宁工程职业学院

辽宁工程职业学院是经辽宁省人民政府批准,国家教育部备案的公办全日制普通高等职业院校,是一所以工科为主培养高技能复合型、应用型、创新型人才的高等学府。

橡胶制品

东莞市盈科新材料科技有限公司,成立于2007年,座落于东莞市寮步镇。毗邻深圳、香港,交通便利,是一家从事橡胶制品、硅胶制品、防静电硅胶产品开发和生产于一体的专业厂商。

苏州欧瑞蒂智能门控有限公司

苏州欧瑞蒂智能门控有限公司集生产、销售、维修:自动门机组、自动门感应器、自动门安全光线、自动门配件、自动门禁系统等产品于一体的智能化公司,拥有完整、科学的质量管理体系。苏州欧瑞蒂智能门控有限公司的诚信、实力和产品质量获得业界的认可。欢迎各界朋友莅临参观、指导和业务洽谈。

呼和浩特智慧教育公共服务平台

呼和浩特智慧教育公共服务平台,智慧教育,智慧教育平台

重庆seo

重庆seo,重庆网站优化,重庆SEO优化,重庆百度排名,重庆快速排名优化,大量真实案例,让您快速了解网站关键词排名规则,降低网站获客成本。

塔机附着框

徐州庆涛机械设备有限公司是专业从事塔机附着框,载重小车,塔机标准节,固定支腿,工程机械设备配件生产制造的企业,我公司成立于2016年,位于徐州市铜山区内,占地约17000平米,厂房15000平米,办公和研发中心1000平米,公司主要从事金属结构件的下料,焊接,喷砂,喷漆,及整机(车)涂装业务,我公司拥有专业从事金属制造及机械制造的技术人员10余名,核心员工30人,普通员工80人,月平均钢板吞吐量在3000吨左右

病毒细胞转染试剂

和元李记(上海)生物技术有限公司(www.life-ilab.com.cn)是病毒细胞转染试剂,高效细胞转染试剂,低毒细胞转染试剂,真核细胞转染试剂供应商,公司不仅具有精湛的技术水平,更有良好的售后服务和优质的解决方案,欢迎来电洽谈

北京建材销售公司丨天津建筑材料销售丨廊坊建筑材料销售

永清县冀翔建材销售成立于2023年,总部位于廊坊市永清县城内圣霖小区三号楼二单元,有着完善的售后服务体系,公司通过优质的产品和良好的服务,赢得了众多客户的一致好评。公司主要经营项目:建筑材料销售包括水泥、混凝土、砂浆、钢材、铝材、不锈钢等建筑材料。公司把满足用户要求作为自己的最大追求,用心服务客户的内涵贯穿着我们的每一项工作,高质量是我们追求的目标,我们全心去意的服务好每一位客户


全局底部横幅