Arm全新NPU性能提升4倍 支持Transformer 边缘生成式AI时代指日可待 (arm全新架构)

文章编号:37699 最新资讯 2024-11-30 Ethos Ethos U85 Arm 边缘AI NPU

生成式AI在经历了火热的百模大战之后,开始进入落地阶段。

以工业机器视觉、可穿戴设备和消费者机器人为代表的边缘应用,无疑是生成式AI落地的重要场景。

本周,Arm宣布推出了性能相比前代提升4倍的Arm Ethos-U85神经网络处理器 (NPU),这是一款硬件支持Transformer 架构和卷积神经网络 (CNN)的AI加速器,能够以高能效实现边缘侧AI推理。

Arm物联网事业部业务拓展副总裁马健表示,“ 生态系统中的开发者在树莓派设备上评估运行包括 Llama 等在内的大模型。边缘部署大模型和生成式AI用例指日可待 ,Arm已经为此做好准备。”

Ethos-U NPU系列是Arm推出的AI微加速器,主要是满足边缘边缘AI和嵌入式AI的市场需求,此前已经发布了Ethos-U55、Ethos-U65,并且已经有多个量产产品。

本周最新发布的Ethos-U85, 与上一代产品相比,Ethos-U85 性能提升4倍,同时能效提高了20%, 可以满足工厂自动化和商用或智能家居摄像头等物联网应用不断攀升的性能需求。

Arm全新NPU性能提升4倍,支持Transformer,边缘生成式AI时代指日可待

Ethos-U85的主要特性包括:

对于Arm来说,设计出一款高性能的产品难度不大,关键在于产品的定义,Ethos-U85相比此前同系列产品一个明显的不同是支持Transformer模型。

具体实现上,Ethos-U85除了支持Ethos-U55和Ethos-U65 目前支持的算子,通过支持TRANSPOSE、GATHER、MATMUL、RESIZE BILINEAR和 ARGMAX等运算, Ethos-U85实现了对Transformer模型和DeeplabV3语义分割网络的原生硬件支持。

更高的性能往往意味着更高功耗,为了兼顾性能和能效,更好满足边缘和端侧AI应用的需求, Ethos-U85通过支持元素级算子链化提升效率。

通过链化将元素级运算与先前的运算相结合,SRAM不必先写入再读取中间张量。由此减少NPU和内存之间数据传输量,提高NPU的效率。

相比Ethos-U65,链化是Ethos-U85在效率提升上的新功能之一,此外还有快速的权重编码器、优化的 MAC 阵列能效,以及提升的元素效率。

参考设计加速边缘生成式AI落地

目前,Arm Ethos NPU系列产品已有逾20家授权许可合作伙伴, Alif Semiconductor和英飞凌是全新Arm Ethos-U85 NPU的早期采用者。

对于大量边缘设备的开发者来说,基于Arm Ethos-U85 NPU开发和设计产品依旧有比较高的开发门槛。

降低AI开发门槛最一个直接的方式就是提供参考设计。

与Ethos-U85同时推出的是Arm Corstone-320物联网参考设计平台。 这一全新的参考设计平台集成了Arm最高性能的Cortex-M CPU——Cortex-M85、Mali-C55 ISP和全新的Ethos-U85 NPU。

Arm全新NPU性能提升4倍,支持Transformer,边缘生成式AI时代指日可待

除了IP,Corstone-320物联网参考设计平台还有软件套件,包括固件、所有 IP 的驱动程序、中间件、实时操作系统 (RTOS) 和云集成、ML 模型和参考应用程序。

有了配套的软件套件,软件开发者能够轻松选择其特定细分市场所需的组件,并使用所选开发工具为该设备构建物联网堆栈。开源应用程序展示了关键词识别、语音识别和目标识别用例。

还附带了仿真Corstone-320完整系统的Arm虚拟硬件(Arm Virtual Hardware),以及单独的 CPU和NPU的固定虚拟平台 (FVP) 模型,能简化开发并加速产品设计,支持软硬件并行协同开发。

Arm全新NPU性能提升4倍,支持Transformer,边缘生成式AI时代指日可待

“ 为了支持中国广大的物联网嵌入式开发者,我们将Arm虚拟硬件落地在了百度云上, 正在实现与百度BML和EasyDL工具链的组合,使基于Arm技术的AI开发可以在百度飞桨 (PaddlePaddle)上变得更加容易,且实现软硬件协同开发。”马健说,“在基于 Arm 最新 IP 量产芯片就绪之前,就可以预先做软件应用的开发以及 AI/ML 算法的开发和优化。”

Arm在软件和生态方面还有一个显著的优势,那就是Arm 在数据中心、云、边、端都有统一的工具链支持,开发者可以使用已经熟知的工具链,具有投资复用、上手容易等优势。

Arm全新NPU性能提升4倍,支持Transformer,边缘生成式AI时代指日可待

Corstone-320能够加速语音、音频和视觉系统,比如智能家居、智能零售、智能工业制造领域的AI落地。

即便Corstone-320中的Cortex-M85不满足边缘AI的需求, Arm也支持从基于 Cortex-A 的系统直接驱动 Ethos-U85 的功能, 大幅增加Ethos-U85的适用范围。

如何应对碎片化和RISC-V挑战?

性能提升4倍的全新NPU和全新的参考设计平台,是Arm能够对外提供的能力。

但要在 边缘市场落地生成式AI,依旧面临着模型成熟度、边缘AI平台的开发,以及生态链对大模型量化和部署支持的问题。

Arm全新NPU性能提升4倍,支持Transformer,边缘生成式AI时代指日可待

还有不可避免的边缘市场碎片化的问题,以及RISC-V的竞争。

马健说,“Arm始终聚焦软件生态标准以及硬件标准的投入,帮助整个生态减少碎片化。”

比如,Arm建立了SystemReady标准,以实现在不同的Arm计算平台和芯片平台上,有标准的软件包。

另外,Arm还创立了PSA Certified认证标准,让通过PSA Certified 认证的产品和系统有最基本的安全和合规的保证。

AI方面,Arm提供标准的生态工具以及软件工具链。

“期待未来通过大模型和多模态,物联网碎片化问题可以得到更好的改进。AI 会从单一功能到多功能,甚至是向通用AI的方向演进。”马健也表示。

至于 如何应对RISC-V在边缘AI市场的竞争?

马健对说,“ 我们的战略一直非常简单,专注做好最优秀的产品,使产品更加易用,以及持续打造强大的生态系统。 历史经验告诉我们,只要我们专注做好这三件事情,整个行业就能够以互相合作的方式来共同前进,我们会继续坚持这一策略,在AI甚至未来的其他市场上取得更大的成功。”

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: /article/d09b5304539e419a2812.html
全局中部横幅
全局中部横幅
【房车猫】房车价格_房车之家_房车价格图片大全网站

房车猫我的房车之家,房车价格,国产房车,房车图片,房车大全。看房车,买房车,玩房车,用房车猫APP。专业的房车门户网站。

苏州空压机厂家,空气压缩机专业解决方案-苏州玉达压缩机有限公司

苏州玉达压缩机压缩机有限公司是一家集螺杆空压机和活塞空压机专业生产销售及其空压机零部件销售,空压机维修的厂家。主要生产螺杆空压机,活塞空压机和增压机,永磁螺杆空压机行业领先水平,活塞空压机价格低,可为客户节约20-40%的运营成本,免费提供空压机安装维护技术咨询,提供整条空压机线解决方案。

贵州韩澎菲商行

贵州韩澎菲商行产品应用领域包括汽车电瓶,汽车配件,汽车音响。是集科研、设计、生产、检测、销售及服务于一体的现代化科技型企业。公司以全心全意为顾客服务,帮助客户解决难题,也赢得了广大客户的一致好评。公司始终坚持为客户创造价值的理念,坚持自主创新,先后引进的国外先进的机器设备,提高全体员工的素质,坚持把

铝箔袋_铝箔袋价格_防静电铝箔袋包装袋厂家_真空包装铝箔袋_食品印刷铝箔袋_拉链铝箔袋_抽真空铝箔袋昆山市祺盛包装材料有限公司

昆山市祺盛包装材料有限公司是集铝箔袋生产、定做、批发、订购于一体的厂家。主要从事铝箔袋,铝箔袋包装袋,铝箔袋包装,防静电铝箔袋,真空包装铝箔袋,复合铝箔袋,医用铝箔袋等产品。了解铝箔袋价格,报价,哪家好可以电话联系我们。

网店仓储物流_自助小仓库_智能仓库仓储_上海仓库管理_智能仓库货运_星力仓储

上海星力仓储服务有限公司成立于2003年,公司主营网店仓储物流,自助小仓库,智能仓库仓储,上海仓库管理,智能仓库货运等一站式服务外包,公司在仓储行业中积累了丰富的实践经验,公司规模也在逐渐壮大,已经从一家小型民营企业,成长为上海市仓储与配送协会理事单位

啦啦优护网——专业的防护用品网站

啦啦优护网致力于为用户提供一站式的防护用品,我们汇聚了众多高品质防护用品,品种齐全,满足不同需求。用户可以轻松选购所需防护用品,享受快速配送和优质服务。我们致力于打造安全、便捷的防护用品购物平台,守护您的安全与健康。

天音移动

天音移动网上营业厅

新开传奇私服网站,热血传奇SF发布网――零妖零新服网

零妖零传奇新服网【www.010jt.com】建站5年以来每天坚持更新最新款传奇私服游戏信息,全站共收录了十万多各种新开热血传奇SF版本,如:单职业传奇、复古传奇、变态传奇私服、冰雪传奇等热门新开传奇私服版本.

《51嫩草剧院》天天天综合网日日夜夜视频精品-中文 日韩 免费 精品-草草影视永久入口免费观看

51嫩草剧院,天天天综合网日日夜夜视频精品-中文日韩免费精品,草草影视永久入口免费观看-草草影视永久入口免费观看在线高清电影网免费为您提供最新热播高清电影、电视剧,日本动漫,热门韩剧,欧美电影,每天更新好看的电视剧,最新综艺节目,明星信息与相关电影电视剧。

黄金芽茶叶-2024年黄金芽茶叶价格多少钱一斤-黄金芽专卖

黄金芽茶叶专卖网介绍了黄金芽茶叶属于什么茶、黄金芽茶叶价格多少钱一斤、黄金芽多少钱一斤、黄金芽茶叶价格图片、包括明前黄金芽茶叶价格、雨前黄金芽价格等等,黄金芽茶叶礼盒有四盒装和五盒装都有

网上送花,鲜花速递,全国鲜花订购平台|时尚鲜花网-www.flower18.com.cn

时尚鲜花网(www.flower18.com.cn)是专业的鲜花订购网,提供情人节鲜花、亲情鲜花、生日鲜花蛋糕、庆典花篮、玫瑰、康乃馨、百合花,全国大小城市三小时左右送达。

面试经验|工资待遇|职业圈 - 职朋

职朋,又名职业圈,真实职业资讯及职业交流平台,提供免费招聘,工资待遇,面试经验,教育口碑等职业资讯及职业交流

全局底部横幅