DPU在数据中心 上位 (dpu在数据中心架构)
AI、5G、云计算技术的发展已经开始改变世界，数据中心作为承载这些技术，支撑数字化转型的重要载体，面临着众多挑战。这其中，已有的通用CPU和GPU不能完全满足快速变化的应用需求，性能更强大，更加专用，更加异构的芯片更能满足数据中心需求。
芯片巨头们都看到了这样的需求和趋势，通过收购或者自研拥有了更全面的芯片类型。雷锋网此前介绍过，在数据中心占有优势的英伟达先是在去年十月发布了首代DPU BlueField-2。今年4月，英伟达首席执行官黄仁勋在GTC 21上又宣布英伟达数据中心芯片战略升级为GPU+CPU+DPU，三类芯片，逐年飞跃，自研Arm架构CPU Grace也同时亮相。
DPU（Data Processing Unit）作为一个不被大部分人所熟知的芯片类型，其价值是什么？为什么DPU能在数据中心“上位”？数据中心的未来为什么是3U一体？
了解DPU的价值之前，先解释为什么需要DPU。黄仁勋此前发布DPU时表示，当下的数据中心是由软件定义的，这使得数据中心更加灵活的同时，也产生了巨大的负担，数据中心基础架构的运行能够消耗20%-30%的CPU核，因此需要一种新的处理器，也就是DPU。
或者说，以CPU为中心的数据中心架构已经不能满足需求，以数据为中心才能更好满足市场和应用需求。 英伟达网络事业部亚太区市场开发高级总监宋庆春在本周的一场沟通会中表示：“以前计算规模和数据量没那么大，冯诺依曼架构很好地解决了提高计算性能的问题，随着数据量越来越大，以及AI技术的发展，传统的计算模型会造成网络拥塞，继续提升数据中心的性能面临挑战。”
以数据为中心的架构，意味着数据在哪计算就在哪。宋庆春指出，以数据为中心的新架构可以解决网络传输中的瓶颈问题或丢包问题，典型通信延时可以从30-40微秒降低到3-4秒，有10倍的性能提升。
更具体地说，英伟达DPU属于SoC，集三个关键要素于一身：
也就是说，DPU能针对安全、网络、存储、AI、HPC等业务进行加速，这是DPU的第一层价值。而DPU的第二层价值在于为以数据为中心的计算架构提供了创新的思路，能够实现以前难以或无法实现的功能。
以前的数据中心所有操作都由CPU完成，不仅需要很多CPU内核，效率也很低。如果将一些操作，比如OVS（Open vSwitch，是分布式虚拟多层交换机的开源实现）卸载到DPU上运行，不仅可以提升效率，减少CPU的利用率，还能实现业务的隔离。
宋庆春举了两个例子，在云场景下，英伟达和VMWare共同开发了Monterey项目，VMWare把它在Hypervisor里的一些功能卸载到DPU上，比如防火墙、存储、管理等，这样把业务和基础设施操作完全隔离，实现了高安全性，也实现了裸金属的业务性能。
“这是VMWare第一次把他的源代码开放给合作伙伴，共同开发基于VMWare企业级的云解决方案。”宋庆春强调。
另一个例子是英伟达与RedHat的合作。RedHat不管在数据中心运行容器还是虚拟化，即便使用所有的CPU核来运行虚拟化或容器，也没有办法达到100G线速。这时，采用DPU运行Hypervisor、OVS或容器操作，可以在不消耗任何CPU的情况下以实现100G甚至200G全线速，并将CPU资源全部提供给业务。
“我们最开始选择DPU，是因为遇到了传统服务器带宽瓶颈，我们想解决网络性能瓶颈的问题，也想降低成本。”UCloud技术专家马彦青进表示，“双方最开始都有相同的认知，那就是DPU可以实现硬件的卸载，软件和硬件的结合会成为未来的趋势。”
借助DPU和与之匹配的软件栈DOCA，UCloud实现了一系列的数据中心性能提升。
马彦青介绍，UCloud原先的网络架构使用的是VPC网关，作为裸金属服务器之间的VPC之间划分的方法，需要很多网关服务器集群来进行管理，集群服务器本身就带来了成本挑战（大概4-8台服务器是一个小集群），当跨网关的时候会有带宽瓶颈。有了DPU就可以将VPC管理集成到DPU内部，包括OVS包转发以及GRE封装都可以通过DPU硬件实现，大幅提高转发效率。原来10G的网卡升级到25G后，性能也大大提升。
这样的改进得到了客户的认可。“有DPU的解决方案已经在一些大数据、金融、数据库、容器云等业务中使用，他们的反馈非常好。比如一家做大数据业务的公司，VPC集群砍掉后，进行N对N数据计算，带宽和性能都有提升，维护成本也降低了。还有一家金融客户，采用原先的VPC架构，需要为他们部署四台服务器，这会造成资源浪费，有了DPU，几张卡就可以替代四台服务器。”
数据中心的存储也受益于DPU。过去，UCloud使用本地盘来存储，缺点是容易出现坏盘或者掉卡，维护非常麻烦，数据丢失想要恢复也非常困难。在新架构里，UCloud采用RSSD云盘作为后端存储机群，核心是基于DPU的NVMe SNAP功能，实现了计算和存储的解耦。解耦的优势包括用户可以免装机，实现分钟级交付，运维也减少了机型，磁盘可以按需使用，能够快速实现故障迁移，三副本也更加安全可靠。
DPU还让数据中心的安全性有显著提升。据介绍，过去数据中心经常使用CPU运行Hyperscan做深度包检测的政策表达式匹配。“借助BlueField-2，我们测试相比软件的Hyperscan有3.5倍的加速。”马彦青同时介绍，“加解密方面，DPU卡也可以对SSL、TLS进行加解密。IPSec的算法也可以实现硬件的卸载，把CPU的算力释放出来。”
UCloud的最终极的目标，是实现一张卡实现虚拟化和裸金属架构的统一。他们还在基于InfiniBand网络的DPU，探索如何加速AI和高性能计算。
DPU在数据中心上位的关键
数据中心和云服务提供商实现更多探索，发挥DPU价值的基础是英伟达DPU硬件的持续提升，以及DOCA软件栈的不断完善。根据英伟达的路线图， 下一代DPU BlueField-4预计在2023年发布，将会是业界首个800G的DPU，也会集成GPU。
DOCA是专为DPU开发的软件包，就像CUDA对英伟达GPU的价值。DOCA通过软件定义，可以调用DPU里的硬件引擎，实现安全、网络、存储等性能的提升。
DOCA的软件栈一层是Driver和RunTIME，主要进行调度硬件加速引擎。一层是DOCA Library，主要是针对业务提供接口。还有DPU管理对接上层，比如做编排（Orchestration）和服务部署（Provisioning）的时候使用DPU管理进行调用。
目前，DOCA 1.0正式版已经发布。
“我认为，云计算市场是DPU很好的突破点，能够解决合作伙伴遇到的瓶颈问题，让他们能够更加高效、安全、低时延的提供服务。” 宋庆春对雷锋网表示，“云原生超级计算机也应该会很快应用到DPU市场。因为随着超级计算的发展、算力已经变成了服务，如何提供一种安全的算力服务，DPU在这里面就会扮演非常的角色。最终，DPU也会在基础设施、数据中心、通信等领域成为一个核心部件。
当然，DPU的出现并非要替代CPU和GPU，而是更好地满足数据中心市场的需求。 “3U（CPU、GPU、DPU）一体的架构将会让管理程序、调度程序都会变得非常容易。3U一体是要实现从边缘到核心数据中心，统一架构、统一管理、统一调度。”
想要通过3U一体满足数据中心等需求的不止英伟达，英特尔本周也发布了与DPU定位类似的IPU（Infrastructure Processing Unit），趋势已经非常明显，最终会带来哪些变革？
注：文中配图来自英伟达、UCloud
英伟达DPU计算吞吐量三年将跨越近1000倍！Jetson AI机器人价格低至59美元
英伟达最终活成了“三芯”
原创文章，未经授权禁止转载。详情见 转载须知 。
本文地址： /article/b30731c72e764301b73c.html
上海源倾电气有限公司专业提供继电保护测试仪_直流电阻_回路电阻_绝缘电阻_接地电阻测试仪等电力设备，免费提供各种仪器仪表选型指南和技术方案，欢迎来电咨询订购！
华人TV(www.hrcntv.net)每天为你分享热点资讯，明星新闻、热点娱乐、生活百科、今天热点有哪些？请关注华人TV！
陕西大可洁净装饰工程有限公司是一家专业的室内空气净化工程公司，成立于1998年。在净化空调系统和无尘间系统工程的设计施工上具有较强的技术力量。 多年来，公司秉承诚信、创新、服务的宗旨，为各类用户提供符合产品生产需要的净化空间和设备。为光电技术、半导体、微电子、光学仪器、生物工程、医药卫生、精细化工和食品工业等高科技领域提供10级、100级、1000级、10000级、100000级的洁净生产环境。
青岛诚誉食品检测有限公司多年从事食品卫生检测，一切为了安全与安心
快印客是国内专业二维码应用解决方案服务商,图文快印店加盟行业知名品牌，依托全国广告,印刷,快印,包装企业,在快印店加盟,图文快印连锁加盟,数码快印,人工智能名片,连锁领域具有广泛知名度和影响力的企业。
天长先锋网
中煤集团—平巷人车生产制造厂家主要生产矿用人车,平巷人车,斜井人车,抱轨式人车,插轨式人车,插爪式人车，是平巷人车、斜井人车生产厂家，欢迎来电咨询，销售电话：18660762709!
空放私借2小时放款纯私人贷款民间借贷公司19273248034个人急用钱应急资金短期周转小额贷利息低,过桥垫资汽车房屋黄金首饰抵押手机分期当天放款联系方式电话号码,北京保定石家庄唐山上海西安沈阳东莞深圳广州惠州贵阳苏州无锡郑州长沙武汉昆明成都重庆
肇庆市凯立电器有限公司是一家集研发、生产、销售与服务为一体的永磁同步电机制造企业，联系我们13556577827，欢迎联系我们
155吾爱诗词工具分享网，分享个人古诗个人见闻，唐诗三百首，宋词名篇，元曲介绍和优秀的古诗文化.
正港ZGO
安美智能制造是一家集技术咨询、项目策划、工程设计、工程施工及管理、工程运营及维护、洁净室材料生产于一体的专业公司。安美环境始创于90年代初，拥有自己的生产基地和研发中心，可以为客户提供全方位生产服务。安美长期专注于洁净室和相关受控环境的工程项目工作。凭借在该领域30余年的丰富经验，积蓄了丰厚的专业知识和对洁净室交钥匙工程的深入理解。安美提供的洁净室系统可以满足各行业对室内环境质量的不同需求，可同时有效控制室内尘埃浓度、气流组织、相对湿度以及压力和温度等各项指标参数。
9月22日消息，据TechPowerUp消息，明基今日发布三款全新4KHDR智能投影机，专为3A游戏设计，据报道，明基新款投影仪型号为X3100i、X500i和X300G，售价分别为2399美元，当前约17537元人民币，、1699美元，当前约12420元人民币，和1799美元，当前约13151元人民币，参数方面，X3100i、X5...。
前不久，华为官宣将于9月6日举行Mate50系列及全场景新品秋季发布会，并在随后透露华为Mate50系列将在产品外观、影像以及续航等方面进行全面升级，而随着发布会临近，关于这场新品发布会的，猛料，也越来越多，今早，也就是发布会的前一天，华为对Mate50系列再次进行了预热，预热文案为，信号超越地面，通信时刻相连，突破限制的信号，，并配...。
麻辣火锅对于顾客来说，人人都有需求，特别是重庆地方的特色火锅很受欢迎，也能以地方特色为主，解放碑洞子老火锅就能以火锅和串串美食为主，做到让大家更满意，解放碑洞子老火锅好运营吗，总部有技术培训吗，解放碑洞子老火锅对于火锅美食的制作要求很高，主要以重庆火锅作为特色，把传统火锅、市井火锅、串串等这些美食综合起来，实现自己的经营模式和美食体系...。
生活条件的越来越富裕，使得不少越来越懂得享受，好多人对养生这一块也开始越来越重视，修脚店，是现在市场上备受消费者们所喜爱的养生足疗行业，它对人们脚部采用不同的护理和按摩手法，从而可以改善人们身体的亚健康状态，还给人们一个健康自在的好身体，赢得了消费者的一致好评与欢迎，想要智慧之选开修脚店的人为数不少，但是哪个地方适合开修脚店呢，想要开...。
9月13日，腾讯会议与vivoOriginOS宣布成立联合实验室，充分发挥腾讯会议领先的音视频技术能力，以及vivoOriginOS出色的系统性能，为用户提供低时延、低功耗的会议体验，vivo成立于2009年，是一家专注智能手机领域的国际化品牌，始终致力于为全球消费者提供高品质、创新性的智能产品和服务，腾讯会议作为腾讯云旗下音视频会议...。
如果要评选，小姐姐们最喜爱的汽车，，那么我一定会将手中的选票投给保时捷Macan，毫无疑问，绝大部分女性消费者对于汽车的敏感度都是要低于男性同胞们的，因此品牌影响力就会成为左右她们选车的核心因素，少有女孩会不喜欢古驰、香奈儿、LV，而在汽车领域，也少有小姐姐会不钟情于保时捷，作为保时捷品牌旗下售价相对，亲民，的SUV产品，Macan凭...。
黑猫揭发是新浪旗下公益性生产纠纷处置平台，一直努力于以互联网平台化的机制一站式高效协助生产者和企业处置生产环节中发生的各类纠纷，为给广阔生产者及商家提供安保、肥壮的沟通渠道，保养平台运营次第，黑猫运营团队将依照关系法律法规及平台规定对违规信息及违规账号继续启动控制，现将2023年2月控制状况通告如下，提示广阔用户留意防范，对触及违法行...。
[全球时报综合报道]就在美国总统拜登因，犯懵懂，而被，劝退，之时，美国最年长的法官保利娜·纽曼也堕入难堪境地，，从新上岗，宿愿渺茫，综合路透社、美国，华盛顿邮报，等媒体11日的报道，当初曾经97岁高龄的纽曼在2021年的一场心脏病之后产生了，清楚的心智消退，状况，不只断案效率大幅降落，就连自己电脑上的文件都找不到，即使如此她仍坚称身材...。
[全球时报，全球网报道记者邢晓婧]10日，外交部发言人林剑掌管例行记者会，路透社记者提问称，近日有报道称中国首艘国产航母山东舰现身南海，菲律宾政府对此表示关切，中方对此有何回应，林剑回应称，，我不了解你提到的详细状况，倡导向主管部门征询，关系资讯山东舰编队现身岛链外，太平洋上起降舰载机，观察者网，[文观察者网山猫]日本防守省统合幕僚...。
北京时期7月1日2时，法国国民议会选举第一轮投票完结，初步计票结果显示，在首轮投票中，由玛丽娜·勒庞指导的极左翼政党国民联盟取得33%选票，得票率上游；左翼联盟，新人民阵线，取得28.5%选票，排名第二；执政党振兴党及属于马克龙营垒的两边派联盟，在一同，仅取得22%选票，位居第三，第一轮选举计票结果一出，多家外媒报道称这是马克龙执政7...。
出现，出现如何，什么出现，哪些出现，怎么出现
重庆分类目录网站将2018年06月共159个网站收录信息按收录时间分类整理归档列表，可以方便网友浏览按年月查询，更好地享受精彩网站的魅力！
java教程合集(25本),java教程合集25本，pc6帮您一一整理的，这样的入门级java教程应该不会给你带来太大的困惑，起码我没有,您可以免费下载。
重庆分类目录网站将2018年06月共159个网站收录信息按收录时间分类整理归档列表，可以方便网友浏览按年月查询，更好地享受精彩网站的魅力！
重庆分类目录网站收录百科知识相关的优秀网站大全分类检索，为上网用户提供百科知识网站排行榜与您分享、收藏！
在蚂蚁庄园小课堂中有关于9月19日问题的答案已经更新了，下面就和小编来看一下“成语典故“不敢越雷池一步”中的“雷池”真的存在吗？”这个问题的答案吧。
微信电脑版是腾讯旗下一款跨平台的通讯工具，超过8亿人使用，能够通过网络给好友发送文字消息、表情和图片，还可以传送文件，与朋友视频聊天，让你的沟通更方便，并提供有多种语言界面，界面简洁，可用作即时聊天和
