DPU在数据中心 上位 (dpu在数据中心架构)

AI、5G、云计算技术的发展已经开始改变世界,数据中心作为承载这些技术,支撑数字化转型的重要载体,面临着众多挑战。这其中,已有的通用CPU和GPU不能完全满足快速变化的应用需求,性能更强大,更加专用,更加异构的芯片更能满足数据中心需求。

DPU在数据中心“上位”

芯片巨头们都看到了这样的需求和趋势,通过收购或者自研拥有了更全面的芯片类型。雷锋网此前介绍过,在数据中心占有优势的英伟达先是在去年十月发布了首代DPU BlueField-2。今年4月,英伟达首席执行官黄仁勋在GTC 21上又宣布英伟达数据中心芯片战略升级为GPU+CPU+DPU,三类芯片,逐年飞跃,自研Arm架构CPU Grace也同时亮相。

DPU(Data Processing Unit)作为一个不被大部分人所熟知的芯片类型,其价值是什么?为什么DPU能在数据中心“上位”?数据中心的未来为什么是3U一体?

了解DPU的价值之前,先解释为什么需要DPU。黄仁勋此前发布DPU时表示,当下的数据中心是由软件定义的,这使得数据中心更加灵活的同时,也产生了巨大的负担,数据中心基础架构的运行能够消耗20%-30%的CPU核,因此需要一种新的处理器,也就是DPU。

或者说,以CPU为中心的数据中心架构已经不能满足需求,以数据为中心才能更好满足市场和应用需求。 英伟达网络事业部亚太区市场开发高级总监宋庆春在本周的一场沟通会中表示:“以前计算规模和数据量没那么大,冯诺依曼架构很好地解决了提高计算性能的问题,随着数据量越来越大,以及AI技术的发展,传统的计算模型会造成网络拥塞,继续提升数据中心的性能面临挑战。”

DPU在数据中心“上位”

以数据为中心的架构,意味着数据在哪计算就在哪。宋庆春指出,以数据为中心的新架构可以解决网络传输中的瓶颈问题或丢包问题,典型通信延时可以从30-40微秒降低到3-4秒,有10倍的性能提升。

更具体地说,英伟达DPU属于SoC,集三个关键要素于一身:

也就是说,DPU能针对安全、网络、存储、AI、HPC等业务进行加速,这是DPU的第一层价值。而DPU的第二层价值在于为以数据为中心的计算架构提供了创新的思路,能够实现以前难以或无法实现的功能

以前的数据中心所有操作都由CPU完成,不仅需要很多CPU内核,效率也很低。如果将一些操作,比如OVS(Open vSwitch,是分布式虚拟多层交换机的开源实现)卸载到DPU上运行,不仅可以提升效率,减少CPU的利用率,还能实现业务的隔离。

DPU在数据中心“上位”

宋庆春举了两个例子,在云场景下,英伟达和VMWare共同开发了Monterey项目,VMWare把它在Hypervisor里的一些功能卸载到DPU上,比如防火墙、存储、管理等,这样把业务和基础设施操作完全隔离,实现了高安全性,也实现了裸金属的业务性能。

“这是VMWare第一次把他的源代码开放给合作伙伴,共同开发基于VMWare企业级的云解决方案。”宋庆春强调。

另一个例子是英伟达与RedHat的合作。RedHat不管在数据中心运行容器还是虚拟化,即便使用所有的CPU核来运行虚拟化或容器,也没有办法达到100G线速。这时,采用DPU运行Hypervisor、OVS或容器操作,可以在不消耗任何CPU的情况下以实现100G甚至200G全线速,并将CPU资源全部提供给业务。

“我们最开始选择DPU,是因为遇到了传统服务器带宽瓶颈,我们想解决网络性能瓶颈的问题,也想降低成本。”Ucloud技术专家马彦青进表示,“双方最开始都有相同的认知,那就是DPU可以实现硬件的卸载,软件和硬件的结合会成为未来的趋势。”

借助DPU和与之匹配的软件栈DOCA,UCloud实现了一系列的数据中心性能提升。

马彦青介绍,UCloud原先的网络架构使用的是VPC网关,作为裸金属服务器之间的VPC之间划分的方法,需要很多网关服务器集群来进行管理,集群服务器本身就带来了成本挑战(大概4-8台服务器是一个小集群),当跨网关的时候会有带宽瓶颈。有了DPU就可以将VPC管理集成到DPU内部,包括OVS包转发以及GRE封装都可以通过DPU硬件实现,大幅提高转发效率。原来10G的网卡升级到25G后,性能也大大提升。

这样的改进得到了客户的认可。“有DPU的解决方案已经在一些大数据、金融、数据库、容器云等业务中使用,他们的反馈非常好。比如一家做大数据业务的公司,VPC集群砍掉后,进行N对N数据计算,带宽和性能都有提升,维护成本也降低了。还有一家金融客户,采用原先的VPC架构,需要为他们部署四台服务器,这会造成资源浪费,有了DPU,几张卡就可以替代四台服务器。”

DPU在数据中心“上位”

数据中心的存储也受益于DPU。过去,UCloud使用本地盘来存储,缺点是容易出现坏盘或者掉卡,维护非常麻烦,数据丢失想要恢复也非常困难。在新架构里,UCloud采用RSSD云盘作为后端存储机群,核心是基于DPU的NVMe SNAP功能,实现了计算和存储的解耦。解耦的优势包括用户可以免装机,实现分钟级交付,运维也减少了机型,磁盘可以按需使用,能够快速实现故障迁移,三副本也更加安全可靠。

DPU还让数据中心的安全性有显著提升。据介绍,过去数据中心经常使用CPU运行Hyperscan做深度包检测的政策表达式匹配。“借助BlueField-2,我们测试相比软件的Hyperscan有3.5倍的加速。”马彦青同时介绍,“加解密方面,DPU卡也可以对SSL、TLS进行加解密。IPSec的算法也可以实现硬件的卸载,把CPU的算力释放出来。”

DPU在数据中心“上位”

UCloud的最终极的目标,是实现一张卡实现虚拟化和裸金属架构的统一。他们还在基于InfiniBand网络的DPU,探索如何加速AI和高性能计算。

DPU在数据中心“上位”

DPU在数据中心上位的关键

数据中心和云服务提供商实现更多探索,发挥DPU价值的基础是英伟达DPU硬件的持续提升,以及DOCA软件栈的不断完善。根据英伟达的路线图, 下一代DPU BlueField-4预计在2023年发布,将会是业界首个800G的DPU,也会集成GPU。

DPU在数据中心“上位”

DOCA是专为DPU开发的软件包,就像CUDA对英伟达GPU的价值。DOCA通过软件定义,可以调用DPU里的硬件引擎,实现安全、网络、存储等性能的提升。

DPU在数据中心“上位”

DOCA的软件栈一层是Driver和Runtime,主要进行调度硬件加速引擎。一层是DOCA Library,主要是针对业务提供接口。还有DPU管理对接上层,比如做编排(Orchestration)和服务部署(Provisioning)的时候使用DPU管理进行调用。

DPU在数据中心“上位”

目前,DOCA 1.0正式版已经发布。

“我认为,云计算市场是DPU很好的突破点,能够解决合作伙伴遇到的瓶颈问题,让他们能够更加高效、安全、低时延的提供服务。” 宋庆春对雷锋网表示,“云原生超级计算机也应该会很快应用到DPU市场。因为随着超级计算的发展、算力已经变成了服务,如何提供一种安全的算力服务,DPU在这里面就会扮演非常的角色。最终,DPU也会在基础设施、数据中心、通信等领域成为一个核心部件。

DPU在数据中心“上位”

当然,DPU的出现并非要替代CPU和GPU,而是更好地满足数据中心市场的需求。 “3U(CPU、GPU、DPU)一体的架构将会让管理程序、调度程序都会变得非常容易。3U一体是要实现从边缘到核心数据中心,统一架构、统一管理、统一调度。”

想要通过3U一体满足数据中心等需求的不止英伟达,英特尔本周也发布了与DPU定位类似的IPU(Infrastructure Processing Unit),趋势已经非常明显,最终会带来哪些变革?

注:文中配图来自英伟达、UCloud

英伟达DPU计算吞吐量三年将跨越近1000倍!Jetson AI机器人价格低至59美元

英伟达最终活成了“三芯”

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: https://www.gpxz.com/article/b30731c72e764301b73c.html
全局中部横幅
全局中部横幅
百合网

百合网--实名婚恋网。1.2亿会员,给你爱情火种。恋爱类型测试帮你找到“对”的TA。

佐蘭斯特散热器

佐蘭斯特散热器致力于新型采暖散热器生产与销售,产品种类有钢制暖气片/铜铝暖气片/卫浴散热器,厂家直接供应,价格优惠,欢迎新老经销商来电洽谈业务

危化品经营许可证

深圳汇域国际为企业提供深圳/广州/东莞危化品经营许可证代办,各类金融牌照及许可证申请办理业务,10年经验,办事效率高,价格合理,服务周到。

延边广播电视台(朝文)

중국조선족의중심채널,연변라지오TV넷,연변라지오TV방송국,연변텔레비죤방송국,연변TV방송국,연변인터넷TV,www.iybtv.com,연변뉴스,연변위성,연변축구,연변노래,연길뉴스,연변정보,연변조선족,중국조선족

汽车维修资料库

汽修帮手资料库是一个专业汽车维修手册电路图资料阅读平台,提供全球超过5000多车型维修手册电路图在线阅读查询,包括汽车维修手册、电路图、车身钣金维修数据、拆装、扭力、发动机大修、保养、正时、线路接线图、针脚定义、模块传感器、保险丝盒图解对照表位置等

深圳市博睿联橡塑材料有限公司

深圳市博睿联主要从事导电硅橡胶、TPV/TPE、特种混炼胶的销售及特种混炼胶制品的研发、生产与销售。 公司总部是中关村科技园区内的国家高级科技技术企业,公司先后获得国家科技部及北京市科委等多个项目支持,并入选中关村“瞪羚计划”500家企业之一。 公司占地面积40余亩,年销售额近亿元。公司技术力量雄厚,现有研发人员15名,具有高级职称的4人,硕士以上学位的5人。公司的项目研发是和北京化工大学先进弹性体材料研究中心共同完成,该中心是由教育部长江学者特聘教授、国家杰出青年基金获得者为学术带头人,拥有教师19人,其中教授10人(博士生导师6人),在研博士后6名,在读博士生30名、研究生150名。是材料加工工程博士点学科,是北京市“新型高分子材料制备与成型加工重点实验室”以及教育部“纳米材料制备与应用科学重点实验室”的重要组成部分。博睿联公司致力于为客户提供性能优异、质量稳定可靠的多元化产品。从而为各合作伙伴在产品创新、提升产品附加值及提升产品竞争力方便提供新的有价值的选择。

浏阳网站建设

卓为信息技术有限公司7年专注于高端网站建设服务,并是阿里巴巴浏阳服务中心,超过500家网站建设案例!多种网站建设套餐任你选择,提供成品网站制作、定制网站建设,提供一年免费维护服务

包头洁净环境检测

内蒙古华诚高科检测科技有限公司是一家具有独立法人资格的第三方检测机构,具有国家计量认证CMA资质,主营:包头生物安全柜检测,药品食品GMP洁净环境检测,PCR实验室检测,医用离心机检测,医用冰箱/冷库检测,洁净手术室检测等,服务于内蒙古,包头,呼和浩特,鄂尔多斯,乌兰察布,巴彦淖尔,乌海,赤峰,通辽,锡林浩特,呼伦贝尔,兴安盟,阿拉善等地,公司具有经验丰富的检验检测人员和检测设备,竭诚为客户提供严谨的检测服务

山西太阳能路灯厂家

山西海莱特照明器材有限公司主营产品有太阳能路灯,高杆灯,景观灯,庭院灯等,产品质量好,欢迎咨询.

全局底部横幅