Arm全新NPU性能提升4倍 支持Transformer 边缘生成式AI时代指日可待 (arm全新架构)

文章编号:37699 资讯动态 2024-11-30 Ethos Ethos U85 Arm 边缘AI NPU

生成式AI在经历了火热的百模大战之后,开始进入落地阶段。

以工业机器视觉、可穿戴设备和消费者机器人为代表的边缘应用,无疑是生成式AI落地的重要场景。

本周,Arm宣布推出了性能相比前代提升4倍的Arm Ethos-U85神经网络处理器 (NPU),这是一款硬件支持Transformer 架构和卷积神经网络 (CNN)的AI加速器,能够以高能效实现边缘侧AI推理。

Arm物联网事业部业务拓展副总裁马健表示,“ 生态系统中的开发者在树莓派设备上评估运行包括 LLaMA 等在内的大模型。边缘部署大模型和生成式AI用例指日可待 ,Arm已经为此做好准备。”

Ethos-U NPU系列是Arm推出的AI微加速器,主要是满足边缘边缘AI和嵌入式AI的市场需求,此前已经发布了Ethos-U55、Ethos-U65,并且已经有多个量产产品。

本周最新发布的Ethos-U85, 与上一代产品相比,Ethos-U85 性能提升4倍,同时能效提高了20%, 可以满足工厂自动化和商用或智能家居摄像头等物联网应用不断攀升的性能需求。

Arm全新NPU性能提升4倍,支持Transformer,边缘生成式AI时代指日可待

Ethos-U85的主要特性包括:

对于Arm来说,设计出一款高性能的产品难度不大,关键在于产品的定义,Ethos-U85相比此前同系列产品一个明显的不同是支持Transformer模型。

具体实现上,Ethos-U85除了支持Ethos-U55和Ethos-U65 目前支持的算子,通过支持TRANSPOSE、GATHER、MATMUL、RESIZE BILINEAR和 ARGMAX等运算, Ethos-U85实现了对Transformer模型和DeeplabV3语义分割网络的原生硬件支持。

更高的性能往往意味着更高功耗,为了兼顾性能和能效,更好满足边缘和端侧AI应用的需求, Ethos-U85通过支持元素级算子链化提升效率

通过链化将元素级运算与先前的运算相结合,SRAM不必先写入再读取中间张量。由此减少NPU和内存之间数据传输量,提高NPU的效率。

相比Ethos-U65,链化是Ethos-U85在效率提升上的新功能之一,此外还有快速的权重编码器、优化的 MAC 阵列能效,以及提升的元素效率。

参考设计加速边缘生成式AI落地

目前,Arm Ethos NPU系列产品已有逾20家授权许可合作伙伴, Alif Semiconductor和英飞凌是全新Arm Ethos-U85 NPU的早期采用者。

对于大量边缘设备的开发者来说,基于Arm Ethos-U85 NPU开发和设计产品依旧有比较高的开发门槛。

降低AI开发门槛最一个直接的方式就是提供参考设计。

与Ethos-U85同时推出的是Arm Corstone-320物联网参考设计平台。 这一全新的参考设计平台集成了Arm最高性能的Cortex-M CPU——Cortex-M85、Mali-C55 ISP和全新的Ethos-U85 NPU。

Arm全新NPU性能提升4倍,支持Transformer,边缘生成式AI时代指日可待

除了IP,Corstone-320物联网参考设计平台还有软件套件,包括固件、所有 IP 的驱动程序、中间件、实时操作系统 (RTOS) 和云集成、ML 模型和参考应用程序。

有了配套的软件套件,软件开发者能够轻松选择其特定细分市场所需的组件,并使用所选开发工具为该设备构建物联网堆栈。开源应用程序展示了关键词识别、语音识别和目标识别用例。

还附带了仿真Corstone-320完整系统的Arm虚拟硬件(Arm Virtual Hardware),以及单独的 CPU和NPU的固定虚拟平台 (FVP) 模型,能简化开发并加速产品设计,支持软硬件并行协同开发。

Arm全新NPU性能提升4倍,支持Transformer,边缘生成式AI时代指日可待

为了支持中国广大的物联网嵌入式开发者,我们将Arm虚拟硬件落地在了百度云上, 正在实现与百度BML和EasyDL工具链的组合,使基于Arm技术的AI开发可以在百度飞桨 (PaddlePaddle)上变得更加容易,且实现软硬件协同开发。”马健说,“在基于 Arm 最新 IP 量产芯片就绪之前,就可以预先做软件应用的开发以及 AI/ML 算法的开发和优化。”

Arm在软件和生态方面还有一个显著的优势,那就是Arm 在数据中心、云、边、端都有统一的工具链支持,开发者可以使用已经熟知的工具链,具有投资复用、上手容易等优势。

Arm全新NPU性能提升4倍,支持Transformer,边缘生成式AI时代指日可待

Corstone-320能够加速语音、音频和视觉系统,比如智能家居、智能零售、智能工业制造领域的AI落地。

即便Corstone-320中的Cortex-M85不满足边缘AI的需求, Arm也支持从基于 Cortex-A 的系统直接驱动 Ethos-U85 的功能, 大幅增加Ethos-U85的适用范围。

如何应对碎片化和RISC-V挑战?

性能提升4倍的全新NPU和全新的参考设计平台,是Arm能够对外提供的能力。

但要在 边缘市场落地生成式AI,依旧面临着模型成熟度、边缘AI平台的开发,以及生态链对大模型量化和部署支持的问题。

Arm全新NPU性能提升4倍,支持Transformer,边缘生成式AI时代指日可待

还有不可避免的边缘市场碎片化的问题,以及RISC-V的竞争。

马健说,“Arm始终聚焦软件生态标准以及硬件标准的投入,帮助整个生态减少碎片化。”

比如,Arm建立了SystemReady标准,以实现在不同的Arm计算平台和芯片平台上,有标准的软件包。

另外,Arm还创立了PSA Certified认证标准,让通过PSA Certified 认证的产品和系统有最基本的安全和合规的保证。

AI方面,Arm提供标准的生态工具以及软件工具链。

“期待未来通过大模型和多模态,物联网碎片化问题可以得到更好的改进。AI 会从单一功能到多功能,甚至是向通用AI的方向演进。”马健也表示。

至于 如何应对RISC-V在边缘AI市场的竞争?

马健对说,“ 我们的战略一直非常简单,专注做好最优秀的产品,使产品更加易用,以及持续打造强大的生态系统。 历史经验告诉我们,只要我们专注做好这三件事情,整个行业就能够以互相合作的方式来共同前进,我们会继续坚持这一策略,在AI甚至未来的其他市场上取得更大的成功。”

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: https://www.gpxz.com/article/d09b5304539e419a2812.html
全局中部横幅
全局中部横幅
Url16进制加密

把URL网址转换成16进制代码形式,加密后可直接访问。

质子矩阵

质子矩阵致力于工业自动化、信息化及数字化,以物联网、大数据、云原生、虚拟/增强现实和人工智能为代表的创新技术,深度融合工业生产,深耕智能制造,为企业提供优秀的控制与信息管理平台。

酒店设备回收

恒林(广州)再生资源回收有限公司提供酒店回收,空调回收,电脑回收,库存物资回收,稀有金属回收,有色金属回收,医疗设备回收,实验设备回收,旧设备回收,电子设备回收各种废品回收等,可提供上门回收服务,欢迎来电咨询。

热收缩试验仪

三泉中石热收缩试验仪适用于检测材料的热收缩性能,可用于塑料薄膜基材(PVC膜、POF膜、PE膜、PET膜、OPS膜等热缩膜)、软包装复合膜、PVC聚氯乙烯硬片、太阳能电池背板及其他具有受热收缩性能的材料。

265上网导航

上网导航,网址导航,网站导航,网址之家,网址大全,网址,搜索,音乐,娱乐,图片,小游戏,短信,社区,日记,相册,K歌,通讯簿,BLOG,天气预报,实用工具.最方便,最快捷

二手集装箱租赁

上海勤博集装箱服务有限公司长期销售租赁二手集装箱,二手冷藏集装箱,旧集装箱等集装箱,为客户提供集装箱销售,出租,修理,改造一站式服务,拥有完善的质量检测体系,达到国际航运载货标准,报价合理,售后无忧,如有集装箱,冷藏集装箱租赁订购需求,欢迎来电咨询18017514096.

知识产权门户:域名门户

易名(eName)知识产权门户专注于:域名、商标、专利、版权等知识产权原创内容,主要涵盖域名交易报道、域名投资介绍、商标资讯、商标注册、专利申请、专利转让以及版权等知识产权内容。

顶呱呱资质服务

资质办理就找顶呱呱,与上万+客户常年合作,超20000+件建筑资质成功办理经验,整体通过率高,一站式企业服务平台,十余年老口碑,大平台更值得信赖!

亚群科技

普及中小型公司官网和个人网站建设,用最低廉的价格为小微企业打造高质量的网络服务平台,做一个能持续为客户创造商业价值的网站建设公司,东莞网站建设公司联系电话076927192000

二极管

江苏顺烨电子有限公司是一家专业从事二极管半导体器件的研发、生产、销售及技术支持的供应商。公司从成立以来引进了台湾及日本先进的自动化设备,从而提高了生产效率和产品质量,优化了员工数量,并获得了江苏省高新技术企业认定。tel:13302648985


全局底部横幅