从DPU看DSA发展 大禹智芯王昕溥 (dpi从哪看)
按：2021年12月9日-2021年12月11日，2021第六届全球人工智能大会（GAIR 2021）于深圳正式召开。历经五年，见证数次潮水的转向，成为目前为止粤港澳大湾区人工智能领域规模最大、规格最高的学术、工业和投资领域跨界盛会。
GAIR 2021 “集成电路高峰论坛：国产高端芯片之路”，集聚来自学术界、产业界和投资界的15位大咖，探讨了国产高端芯片的实力以及RISC-V带给中国芯片的机会。
大禹智芯CTO王昕溥带来了《从DPU看DSA发展》主题分享。作为国内首家专注于提供 DPU 产品和服务的公司，大禹智芯团队有着深厚云计算场景的软硬件开发经验。本次演讲，王昕溥从软件人员的角度，分享了当年DSA的经验，以及对DPU发展的思考。
大禹智芯CTO王昕溥↑
以下是王昕溥在GAIR2021上的演讲内容，对其进行了不改变原意的编辑整理：
与DSA的第一次接触
与DSA的第一次接触可以追溯到大约十年前，某互联网头部企业的底层技术架构刚开始建设就遇到在国内没有先例的情况。当时的互联网还处于较早期，所有的网站还是HTTP的，这导致涉及到交易的业务很容易被攻击，为了提高安全性，全站HTTPS的网站因此而建立。当时在国内这是先例，也因此遇到了别人没有遇到的问题。HTTPS建立连接过程中的非对称加密算法会消耗大量的CPU计算资源，这是我们当时面临的主要挑战。
早期互联网企业数据中心网关用的是国外厂商的专用设备，它们在解决RSA算法方面性能表现优良，但也存在一些缺点：第一个是扩展性很差，远远跟不上互联网业务的发展速度；第二是成本非常高，不利于后续的规模化扩展。
在面对这个问题时，第一步的解决方案是采用标准的方法，即用标准的X86服务器运行软件，通过这种方式替换掉硬件设备。实际效果比较好，可以用四台服务器替换掉一台专用设备，扩展性提高很多。但随着业务规模的不断发展，这样的架构就遇到了性能瓶颈，随之将导致机器规模增长过快，这从成本和运维工作量上都是不可接受的。
所以当时找到头部芯片厂商定义了一个新的芯片，生产了一个新的板卡，这就是后来的QAT。在芯片厂商定制芯片的基础上，我们做了大量的软件开发工作，从最上层用的NGINX到OpenSSL库，把算法函数拆成完全异步化，才能把任务分发到下面的硬件上去。同时OpenSSL库本来是一个单线程的库，但因为硬件是个多核产品，所以需要将其改成并行化的库，才能把整个硬件的性能完全发挥出来。再往下是板卡本身的驱动层，大家一起在这条路径上做了大量的软件开发工作，最终圆满完成任务。
虽然当时我们没有从芯片视角看待这个问题，更多是软件人员的视角、软硬件结合的视角来理解，但从今天的视角看，这个从需求到定义再到上线的完整过程，就是典型的专用领域芯片的案例。
硬件，软件，算法的相互促进
革命性的新硬件对计算机具有带动性发展作用，如CPU、多核、多队列到后来的IOMMU。同时，IDC带宽则从百兆向千兆、万兆到现在的100G发展。这些发展随之而来给软件带来非常大的挑战：如何把硬件的性能发挥到极致就是软件人员要做的事情。
在我们刚工作的时候，网络处理方面有一个很著名的问题——C10K，就是“怎么在一台服务器上处理并发10000个连接”。这在当时带动了软件的一股潮流，主要代表就是用事件驱动模型代替线程池模型。几年后就变成C10M的问题，规模又有了1000倍的增长。而当中最典型的技术如DPDK，使用更多直接操作硬件的资源，软件也在不断地更新。到这个阶段，仅靠纯软件已经没办法完成目标，所以业界陆续出现通过硬件加速实现成熟算法的解决方案，如网卡、硬件加速的芯片，通过硬件化实现加密解密、拆包解包、拆封装、解封装等功能。
但仍然有一些无法实现成功硬件化的例子，比如说TCP/IP协议。其实，有不少人在做TCP/IP协议硬件化方案——TOE方案，但因为方案无法固定下来，一直没有在这方面形成潮流。一方面是因为TCP/IP协议的复杂度，而主因则在于人们还在不停地改善它，甚至想要推翻它。
芯片领域和计算机架构体系有很多定律在说类似的事情。比如说贝尔定律——每隔十年就有一波新技术的创新；牧村定律——每隔十年芯片的研发都会在标准化和定制化之间波动。而我们今天还面临一些更复杂的情况，例如国产化的浪潮，这也是几十年的机遇，在这个过程中，需要我们更多地自主掌握关键技术，共同推进国产化浪潮的前进。
之前我分享的例子，在当时对业界产生了一定的影响。最直接的影响是专用设备开始退出互联网公司的IDC市场，转向专注于服务银行和企事业单位，并且在2019年进行软件服务转型。OpenSSL库的patch被社区所接受，变成专用的加密算法offload接口，芯片厂商也继续丰富和增加它的性能，现在已经不是专门的芯片和板卡，而是被集成在CPU里面，逐渐变得通用化。
为此，对于专用领域芯片，我们认为有几个未来的发展方向：
对DPU的一些思考
而说了以上几点后，接下来我讲一下大禹智芯为什么要做DPU。DPU是非常新的东西， 它是专注于对流动数据进行处理的芯片。大禹智芯成立于去年6月份，当初下决心做DPU的时候，听说和了解DPU的人还很少。作为云计算出身的团队，我们是国内最早尝试DPU产品的一批人，DPU厂商定义芯片的时候都跟我们进行了很多的探讨。但当我们拿到产品后发现使用效果远未达到预期甚至不可用，主要原因就是上面定义的软件架构是硬件公司想象出来的客户需求，不是我们想要的。
鉴于上述过往的经历，大禹智芯选择从使用者的角度，从上到下定义DPU产品，缺少什么环节就补足什么环节，缺少软件就做软件，缺少硬件就做板卡，如果没有合适的芯片就定义合适的芯片。因此，在我们自研芯片还没有出来之前就推出了两代的自研DPU产品，通过这两代产品为芯片定义积累场景和经验，同时为不同场景用户的使用创造和提供价值。
另外，DPU的关键还在于软件。作为硬件，它对软件的依赖要超过很多硬件产品。DPU不同于如网卡的硬件，后者驱动对上就能用，上层的事情都被驱动和协议栈操作系统屏蔽掉。而DPU会承载用户大量的业务需求，如云计算方面的网络虚拟化、存储虚拟化、对服务器的管理和安全管控等任务，所以DPU对软件要求很高。
另外，得益于芯片产业上下游的发展和提升，DSA芯片的门槛在降低，专用领域的芯片设计难度相比通用芯片较低。把芯片定义准确，再依靠上下游力量，相关技术公司是完全有能力研发出一款成功的专用领域芯片。
从市场需求来看，互联网上的带宽每六个月翻一番，远远快于摩尔定律CPU每18个月翻一番的速度，而且现在摩尔定律也不能跟上这个速度，市场亟需DPU这种负责处理流动的数据让网络加速的产品，DPU也可以理解为应时代所需而出现的创新型硬件。
我们认为，DPU将会扮演更重要的角色，像CPU和GPU一样是开创时代的创新型硬件，并长久地发展下去。DPU不仅局限在大规模云计算和数据中心，云计算也不是DPU唯一的场景，未来的5G和边缘计算领域也同样重要，和云计算一起并列的三大场景，DPU一定会有更多的市场机会。
在最后，针对于十年前的案例，我做一些补充。当年在找芯片硬件厂商合作前，市面上有一款专用的现成产品可以满足业务场景的需求。但是因为价格太高，无法大规模采购，才选择了合作定义新的芯片。这是一个产品满足需求，但最终却没有进入市场的例子。
而之前跟芯片厂商合作的QAT在这两年也不再被互联网大厂所使用，不是因为QAT性能满足不了需求，而是因为需求已经消失。在过去的Web端时代，浏览器产生很多新建请求，尤其是新建请求握手时会有大量算法需求。但在如今的移动端时代，手机APP仅需维持一两个长连接，无需太多新建请求。而新版的SSL协议，算法要求也有很大变化，对RSA非对称加密没那么多需求， CPU就可以满足对应需求。这时候QAT发挥的作用就大大降低。
当下是一个非常好的时代。从牧村定律来看，专用芯片都开始蓬勃发展；大家希望能够出现一款贝尔定律中开启下一个时代的硬件产品，这可能是5G，或是别的产品，我们也坚信会出现这样的硬件。在如今大的产业背景之下，国产化也迎来了新开端，在结合各种定律和周期，让做软件、做应用的人也积极加入芯片行业的队伍中，一起为国产芯片的发展做一些自己的贡献，这也必将助力国产化之路新浪潮的形成。
原创文章，未经授权禁止转载。详情见 转载须知 。
纵横中文网,最新热门小说网站，提供玄幻小说、武侠小说、原创小说、网游小说、都市小说、言情小说、青春小说、科幻小说等首发小说,最新章节在线阅读。大神作品齐聚纵横,最新章节每日更新。
江苏镕耀新材料有限公司江苏镕耀新材料有限公司成立于2000年，是经营稀有金属的专业国际贸易公司。产品有钨、钼、钽、铌、铼、铬、钛、锆、铪、钒、镓和铟等等，包括其矿产、化学无机盐、废料和再生金属，以及铁、镍、钼、钴基等超级合金。
深圳市创冀智能装备有限公司主要从事高压成型机,热弯成型机,IMD设备,复合板材成型设备制造与销售,拥有先进的生产设备和技术,设备性能稳定,做工精良,品质无忧,报价透明,厂家货源,放心之选.欢迎来电咨询业务15017097992.
准时达是富士康科技集团授权的供应链管理平台服务公司，具备国家AAAAA级综合型物流企业资质，AEO企业高级认证、世界货运联盟等多项主要企业资质。全球C2M2C（ComponenttoManufacturetoConsumer）全程供应链整合服务先行者。准时达的核心竞争优势是其面向工业制造型企业及3C制造商的端到端精益供应链管理服务实力。
淘种，种子，蔬菜种子，种子网，淘种网，湖北种子，武汉种子，中国种子，辣椒种子，西瓜种子，番茄种子，进口种子，进出口种子，种子外贸
广东诺倍而自动化设备有限公司是一家专业从事产品外包装自动化的企业，装袋，装盒，折盒，装箱，码垛，自动理料，各机型配套完整。公司集技术研发、产品设计、生产制造、售前售后等服务为一体，主要产品有装盒机，装箱机，装袋机，封盒机，税章机，自动开装封一体机，口罩装盒机，手套装盒机，电子装盒机，面膜装盒机，食品装盒机，机械手自动装箱机，自动装箱码垛生产线，吸塑包装机等。
浙江海都电气有限公司
中国海峡人才网，专属中国人的专业求职招聘平台；福建人才网网罗福建最新招聘求职资讯；厦门人才网提供最全最便捷的人才信息；漳州人才网，这里有最全最新的漳州招聘信息；宁德人才网，宁德人求职招聘的最佳平台；莆田人才网，为求职者提供最优质的岗位；南平人才网，泉州人才网，龙岩人才网，三明人才网，海量岗位作等你选，好工作尽在中国海峡人才网。
专业的在线刷题、直播平台，专注于导游资格证、教师资格证、会计职称、公务员、事业单位、护士资格证、茶艺师等多个考试大类。加入101贝考，快速学习，快乐学习。
RIB玻璃钢底船-进口橡皮艇价格-威海朝阳船艇开发有限公司威海朝阳船艇开发有限公司是一家集研发、生产、销售为一体的专业生产各种船艇及其配件的现代式管理企业。公司采用韩国进口原材料,型号涵盖RIB游艇、钓鱼船、漂流船、冲锋舟、RIB玻璃钢底船、进口橡皮艇、海帕伦船等四十余种规格,产品主要出口韩国、欧洲、美洲等各个国家和地区。欢迎致电咨询!
关于我们 绍兴纱奈网络科技有限公司（以下简称
2月8日，福布斯发布2023年全球区块链50强榜单，蚂蚁、百度、建行等6家中国公司系数上榜，其中也不乏Alphabet、Meta、NBA、甲骨文、三星等明星公司，全球区块链50强，是由福布斯评选的年度重磅榜单，已经连续推出5年，在行业内有着较高的知名度和权威性，从今年的评选结果来看，全球有6家公司连续5年入选，美国证券存托与清算公司...。
近日一则名为，男子趁前女友熟睡翻开眼皮刷脸转走15万，的话题冲上热搜，在这波令人窒息的操作背后，也引发了众多网友的担心，身处在处处用人脸解锁的时代，人脸识别究竟安全吗，业内人士介绍，在各类资金被转走的案例中，熟人作案的情况最为常见，除此之外，模仿、伪造人脸的技术门槛也越来越低，比如，当下非常流行的换脸滤镜就在各类短视频中被人们频频使用...。
曾有一个吓人的数据，高达99.99%的安卓手机存在安全漏洞！在2016年的XPwn未来安全探索盛会上，一个黑客团队对国内20家银行提供给消费者的、基于安卓系统的20个手机银行App进行攻击，发现17家银行的App存在漏洞，消费者的手机一旦被黑，无论转账给，张三，还是，李四，，在输入正确账号与密码的情况下，钱最终都会转给，王五，只要你...。
雷锋网消息，8月10号，NMPA发布官方通告，同时批准深圳硅基智能和Airdoc两家医疗AI公司的糖尿病视网膜，以下简称，糖网，病变辅助诊断软件的三类证注册，通告中还特意标注两款产品均为采用深度学习算法的眼科应用，国家药品监督管理局在公告中表示，深圳硅基智能科技有限公司产品由安装U盘组成，功能模块包括，糖尿病视网膜病变辅助诊断云端、...。
用电脑下载当贝市场安装包安装包下载并拷贝到U盘中，2、将U盘插入当贝F3Air投影仪的USB接口，识别U盘后，打开U盘3、选择，当贝市场，安装包，进行安装即可当贝市场安装好之后，就可以随意在里面安装你需要的第三方点播、游戏、工具等应用，例如，哈趣影视、当贝酷狗音乐、当贝投屏等如在安装过程中，有任何疑问的，或更多投影安装软件教程，请参考...。
据，杭州颁布，微信公号11月11日信息，我国超重力畛域基础科研的，国之重器，取得关键停顿，杭州超重力场名目初建成，按方案，往年将进入第一阶段试运转，据引见，杭州超重力场名目是浙江省首个国度严重科技基础设备，2020年在地处杭州城西科创大走廊腹地的云城开建，目前第一台超重力离神思服务器已装置终了，其他两台超重力离神思服务器和10台机载装...。
置换享至高补贴5万2024款昊铂HT成都车展亮相,新车,车展,内饰,智驾,鸥翼门,ht
屡次到店复检明明知道托底意外并且有改换波箱改换后桥及多处钣金修复不修正检测报告继续上线竞拍！车到门店告知买家是意外车并且提供意外记载培修记载！复检再次娴熟拍照录视频提供意外细节及挫伤细节告知买家车就是这样的意外车卖了就不能退！不要就扣押金！检测报告是天天拍提供的无意外骨架5星！复检及意外记载培修记......。
[全球网报道]据台湾，中央社，7月10日报道，美国参议院军事委员会外地期间8日正式将2025财政年度，国防授权法案，提交全院审议，条文包含允许台湾安保、抗衡中国大陆，以及需要美国防部为台湾设区域紧急库存，关于这一信息，有岛内网友评论称，，美国是多宿愿咱们抗争！，台湾，中央社，引述美媒报道，2025财政年度，国防授权法案，将提供9199...。
我用真心换明月，明月照我心，就像追女好友，尤其是不同星座的女生，你须要隔靴搔痒，毕竟每个女生，她的性情都是不一样的，有的人是女汉子，假设你对她气宇轩昂，她会以为你这团体没有骨气，不是一个大男人，你不适宜她，假设这个女人比拟外向，你雷同也很外向的去看待她，你们两团体就是不把这层窗户纸捅破的话，怎样或者还会走在一同呢，所以肯定要隔靴搔痒，...。
歌名，狮子座，演唱，曾轶可作词，曾轶可作曲，曾轶可，MICKEYH歌词，一团体的时刻，不是不想你一团体的时刻，只是怕想你一团体的时刻，假设下起了雨也会学你把伞丢到一边，七月份的尾巴你是狮子座，八月份的前奏你是狮子座，相遇的时刻假设是个异常，分手的时刻异常的看不开七月份的尾巴，你是狮子座八月份的前奏，你是狮子座相遇的时刻，假设是个异常...。
赛车，赛车如何，什么赛车，哪些赛车，怎么赛车
合成类游戏有哪些，当长时间沉浸在这些较为直观简单的合成游戏中，难免会感到一丝乏味，正因如此，小编今天想分享给大家几款别具一格的合成小游戏，它们同样身为小游戏，却在玩法上别具一格，定能为玩家带来全新的体验，让大家在合成的过程中发现前所未有的乐趣与惊喜，1、，合成地标，这是一款以地标性建筑为主题的竖屏合成类轻松手游，其核心乐趣在于将不同的...。
相对于传统的长焦投影仪，超短焦有着天然的场景优势，更节省空间、布线也更为容易，受到更多年轻租房群体的青睐，投影头部厂商对超短焦的选择的意向在进一步加强，截至目前，坚果、峰米、慧示、AOC、优派、LG等一批头部品牌已经推出非激光电视的家用超短焦投影，10月20日，投影行业头部品牌的当贝也加入了短焦智能投影品牌阵营，发布了首款超短焦激光投...。
雷锋网消息，苹果将成立一个新的AI，ML团队，将其核心的CoreML和Siri团队合并，由JohnGiannandrea统一领导，并直接向TimCook汇报工作，据TechCrunch报道，合并后，CoreML和Siri团队内部结构仍保持不变，合并后的团队将维持与开发者工具、地图、CoreOS等各个项目互相整合的状态，苹果于美国当地时...。
华为公开招聘，光刻工程师，希望打破美国芯片封锁华为在遭受美国第二轮制裁后，直接被切断了自研芯片供应链，台积电已经确认9月14日后不再为华为供应芯片，如果华为在库存芯片消耗完之前未找到解决办法，那么华为大部分业务都将会受到致命影响，7月20日，有网友发现，华为技术有限公司已经悄悄的在大规模招聘，光刻工程师，，这或许意味着华为可能打算自...。
2019年8月23日至25日，第10届国际图像与图形会议，InternationalConferenceonImageandGraphics，简称为ICIG，将于中国北京举行，会议由中国图象图形学学会主办，清华大学、北京大学和中国科学院自动化研究所承办，并得到了国际模式识别协会，IAPR，的支持，ICIG每两年一次，是中国图象图形学学...。
