三芯 英伟达最终活成了 (英伟达3nm)

文章编号:41344 最新资讯 2024-12-03 英伟达cpu gtc 英伟达黄仁勋 21

英伟达(NVIDIA)400亿美元收购Arm的交易还未最终达成,但并不妨碍英伟达推出其首款基于Arm架构的数据中心CPU。今年的GTC 21依旧选择了线上的方式,英伟达首席执行官黄仁勋还是在自家厨房介绍了AI、汽车、机器人、5G、实时图形、协作和数据中心等领域的最新进展。

英伟达最终活成了“三芯”

英伟达首席执行官黄仁勋GTC 21主题演讲

虽然还是穿着皮衣的黄教主,但他今年更具摇滚气质。不仅推出了全球首款为terabyte 级别计算设计的 CPU Grace,还将英伟达的数据中心产品路线图升级为GPU+CPU+DPU,只为提供10倍甚至更高的性能,保持其在AI领域的竞争力,也推动芯片行业的竞争进入“组合拳”时代。

英伟达最终活成了“三芯”

不要忽略,作为一家系统公司,英伟达有更高远的目标。

黄仁勋说:“NVIDIA正在为当今时代的每一位‘达芬奇’推进他们的各项研究工作,包括语言理解、药物研发或量子计算等。英伟达将助力成就他们毕生的事业。”

英伟达首款数据中心CPU性能提升一个数量级

英伟达发布的首款数据中心CPU叫做Grace,是以美国海军少将、计算机编程先驱Grace Hopper的名字命名。雷锋网了解到,Grace采用台积电5nm工艺。

注意,Grace是一款高度专用型处理器,主要面向大型数据密集型HPC和AI应用。也就是说,绝大多数的数据中心仍将继续使用现有的CPU,Grace主要将用于计算领域的细分市场,预计2023年可以供货。

英伟达最终活成了“三芯”

Grace在计算的细分领域可以实现数量级的性能提升。黄仁勋称,基于Grace的系统与英伟达GPU紧密结合,性能将比目前最先进的NVIDIA DGX系统(在x86 CPU上运行)高出10倍。

Arm属于精简指令集,相比x86这样的复杂指令集实现高性能的挑战更大,英伟达分三步来实现超越x86 CPU的性能。

第一, Grace内置下一代Arm Neoverse内核,每个CPU能在SPECrate2017_int_base基准测试中分数超过300分,为Grace提供足够的计算性能。

第二, 有了足够的计算性能,要满足AI计算的需求,内存带宽成为瓶颈。因此,Grace采用了新内存LPDDR5x技术,带宽是LPDDR4的两倍,能源效率提高了10倍。

第三, CPU和GPU之间的数据传输速度同样限制了数据密集的AI计算,Grace采用第四代NVIDIA NVLink,可以实现从CPU到GPU连接速度超过900GB/s,相当于目前服务器14倍的带宽。

从计算性能到解决带宽问题,再到CPU和GPU的紧密结合,使得英伟达的Arm架构Grace可以实现10倍的性能提升,达到一个数量级的提升。

Grace对于英伟达而言,是保持其AI竞争力的关键。由于超大规模的模型很难完全放进GPU内存,如果存储在系统内存,访问速度则会大大受限,如果选用其它CPU供应商的产品,不能实现最高的性能优化。

自研一款CPU,不仅可以实现更高性能,未来的迭代,以及进行系统优化也更容易。同时,英伟达还能帮助Arm将优势拓展到移动计算之外,无论是对英伟达自身还是Arm而言都是优选。

毕竟,黄仁勋对于达成收购Arm的交易持乐观态度。在发布会后的电话会议上,黄仁勋表示目前收购工作在有序进行,相信监管部门会支持这笔收购,2022年会有积极正面的结果。

英伟达强劲的GPU加上最新发布的CPU Grace,再加上最新更新的Bluefield DPU,构成了英伟达最新的数据中心芯片路线图。 “我们每年都会发布激动人心的新品。三类芯片,逐年飞跃,一个架构。”黄仁勋表示。

英伟达最终活成了“三芯”

数据中心路线图包括CPU、GPU和DPU这三类芯片,而Grace和BlueField是其中必不可少的关键组成部分。每个芯片架构历经两年的打磨周期(周期内可能出现转变),一年专注于 x86 平台,另一年专注于 Arm 平台。

“目前市场上每年交付的 3000 万台数据中心服务器中,有 1/3 用于运行软件定义的数据中心堆栈,其负载的增长速度远远快于摩尔定律。除非我们找到加速的办法,否则用于运行应用的算力将会越来越少。”黄仁勋说,“新时代的计算机需要新的芯片、新的系统架构、新的网络、新的软件和工具。”

显然,英伟达推出自家的Arm架构CPU并非要与x86阵营的AMD和Intel争夺市场,而是面向新兴的细分市场,通过三种芯片的组合实现差异化,并保持竞争力。

GPU是英伟达AI领导力的基石,黄仁勋说:“只需一张 GeForce 显卡,每个学生都可以拥有一台超级计算机,这正是 Alex Krizhevsky、Ilya 和 Hinton 当年训练 AI 模型 AlexNet 的方式。”

在今天的GTC上,英伟达还更新了DPU(Data processing unit,数据处理单元)。“现代超大规模云技术推动数据中心从基础上走向了新的架构, 利用一种专门针对数据中心基础架构软件而设计的新型处理器, 来卸载和加速由虚拟化、网络、存储、安全和其它云原生AI服务产生的巨大计算负荷。BlueField DPU正是为此而生。”黄仁勋如此解释。

英伟达最终活成了“三芯”

去年10月,英伟达发布首代DPU BlueField-2,能够卸载相当于30个CPU核的工作负载。今天发布的最新一代BlueField-3 DPU,是专为AI和加速计算设计,实现了10倍的性能提升,有16个Arm A78 CPU核,和4倍的加密速度,能够替代300个CPU核,能以400Gbps的速率,对网络流量进行保护、卸载和加速。

英伟达最终活成了“三芯”

BlueField-3通过NVIDIA DOCA(集数据中心于芯片的架构)软件开发包为开发者提供一个完整、开放的软件平台,新一代DPU预计将于2022年第一季度发布样品。

包括黄仁勋在内的多位英伟达发言人曾不止一次表示,英伟达是一家系统公司。作为系统公司,软件自然也是重点。

GTC 21上,黄仁勋发布了用于训练Transformers的框架—— 英伟达Megatron。Transformers能够生成文档摘要、将电子邮件中的短语补充完整、对测验进行评分、生成体育赛事现场评论、甚至生成代码,已经帮助开发者在自然语言处理领域取得了突破性进展。

他还介绍了英伟达用于计算药物研发加速库Clara DISCovery的一些新模型。

还有量子电路模拟器提供加速cuQuantum,目标是为加快有赖于量子位(或量子比特,能作为单个的0或1存在,也可以同时作为二者存在)的量子计算研究,帮助研究人员设计出更完善的量子计算机。

针对数据中心的安全,英伟达也推出了Morpheus数据中心安全平台,基于英伟达AI、BlueField、Net-Q网络遥测软件和EGX而构建,能够对完整的数据包进行实时检测。

面向会话式AI,英伟达Jarvis已经可用,其能够实现语音识别、语言理解、翻译和表达性语音。雷锋网了解到,Jarvis支持五种语言。

为加快包括搜索、广告、在线购物等推荐系统的速度,黄仁勋宣布NVIDIA Merlin现可通过NGC(NVIDIA的深度学习框架容器目录)获取。

还有,为了帮助客户将自身专业知识应用于AI领域,黄仁勋发布了NVIDIA TAO,可以运用客户和合作伙伴的数据,对NVIDIA预训练模型进行微调和适配,同时保护数据隐私。

有了全新的数据中心芯片路线图,匹配丰富的软件,英伟达能做什么?

首先是获益的就是数据中心。 黄仁勋透露,基于今天新发布的Grace CPU以及下一代GPU,瑞士国家超级计算中心、苏黎世联邦理工大学将构建一台名为阿尔卑斯的超级计算机,算力 20Exaflops(目前全球第一超算富岳的算力约为0.537Exaflops),将实现两天训练一次GPT-3模型的能力,比目前基于英伟达GPU打造的 Selene 超级计算机快7倍。

英伟达最终活成了“三芯”

另外,美国能源部下属的洛斯阿拉莫斯国家实验室也将在2023年推出一台基于Grace 的超级计算机。

更进一步,英伟达可以扩展Arm从云到边缘的市场,包括将基于AWS Graviton2的Amazon EC2实例与NVIDIA GPU相结合;通过新HPC开发者套件,为科学和AI应用的开发提供支持;提升边缘视频分析和安全功能;打造新一类基于Arm并搭载NVIDIA RTX GPU的新款PC。

除了在高性能计算市场,英伟达的三芯片组合也能提升其在自动驾驶汽车市场的竞争力。 基于英伟达新一代GPU架构、全新Arm CPU以及深度学习和计算机视觉加速器,黄仁勋推出了新一代面向自动驾驶汽车的 NVIDIA DRIVE Atlan,该处理器性能最高达每秒超过1000万亿次(TOPS)运算,约是上一代Orin处理器的4倍,超过了绝大多数L5无人驾驶出租车的总计算能力。

英伟达最终活成了“三芯”

DRIVE Atlan SoC也集成BlueField DPU,可以支持自动驾驶汽车中的复杂计算和AI工作负载。预计DRIVE Atlan将搭载在多家汽车制造商的2025年车型上。

英伟达最终活成了“三芯”

“对于汽车而言,更高的算力意味着更加智能化,开发者们也能让产品更快迭代。TOPS 就是新的马力。”黄仁勋说。

不仅如此,英伟达还推出了Hyperion 8 AV平台,这是一个先进的数据采集、开发和测试平台,包含参考传感器、自动驾驶汽车和中央计算机、3D地面真实数据记录仪、网络以及所有必要的软件。

不难发现,面向AI、数据中心、自动驾驶这些新兴市场,再强大的单芯片也很难满足需求,因此,英伟达将其数据中心芯片路线图升级为GPU+CPU+DPU,匹配的丰富软件,进行系统优化,能够帮助英伟达保持领先地位。

对于以GPU见长的英伟达发布CPU,许多人可能会表示惊讶。其实,去年以CPU见长的英特尔也发布了自研GPU。AMD也在拥有CPU和GPU的基础上要收购FPGA。巨头们都做出了相同的选择,意味着的是芯片行业的竞争已经进入了新的阶段,靠单一的芯片已经很难满足AI、5G、自动驾驶等应用的需求,组合拳以及系统优化是未来的重点。

英伟达的优势在于,通过GPU+CPU+DPU的产品组合,能够最大程度维持其在AI领域优势,加上软件和系统的优化,更好地满足新兴应用的需求,在新的市场占据领导力,而非与竞争对手抢夺已有的市场。比如,用英伟达Omniverse创建共享虚拟3D世界。

芯片行业新的竞争格局正在形成。

注,文中配图来自英伟达

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: /article/2679a6075b26411d6250.html
全局中部横幅
全局中部横幅
矿产品-冶金炉料-金属材料销售-常州力拓矿业有限公司

常州力拓矿业有限公司是一家专业从事于金属矿和非金属矿采选,矿产品、冶金炉料、金属材料销售的公司。

首页-腾讯微云

微云是腾讯公司为用户精心打造的一项智能云服务,您可以通过微云方便地在手机和电脑之间同步文件、推送照片和传输数据。

登录 - 豆果美食

豆果美食为第一华人美食菜谱社区,提供各种美食、菜谱、食谱的做法,丰富的菜谱大全可以让您轻松地学会怎么做美食,展现自己的高超厨艺,与千万会员一同分享美味的人生!

一曲源码 - 网站源码_区块链源码_PHP源码_thinkphp源码_商城源码

一曲源码下载网提供精品站长资源:包括各类主流网站模板(区块链源码,织梦dedecms、destoon、wordpress、discuz、ecshop、phpcms等模板)等和源码(thinkphp源码、PHP源码、区块链源码、商城源码)等资源的免费下载服务和仿站服务。

智慧党建系统|智慧工会平台|干部管理系统|考试系统|智慧党务开发【郑州蓝创科技】

郑州蓝创科技,成立于2009年,是一家专注智慧党建系统和智慧工会系统产品研发,专注企事业定制开发的数字化云服务商,公司业务范围:智慧党建、智慧工会、干部管理系统、考试系统、党务互动开发等。全国咨询热线:400-0371-887

321下载网-安卓手机软件_手机游戏下载

321下载网汇聚海量手游资源,是玩家的游戏宝库,平台实时更新手游排行榜,让玩家轻松发现热门新游戏,这里都集中了最新的游戏下载,平台还每天推送最新手游资讯、攻略等内容,让玩家对游戏了若指掌,免费的下载服务大幅降低了玩家的获得门槛,整个平台游戏资源丰富,导航便捷,是集游戏下载、攻略获取、资讯更新于一体的专业手游平台,极力推荐给所有手游玩家。

农业种植网-种植技术综合信息平台-华昱种植

华昱养殖种植百科网主要提供权威的种植养殖技术、准确的种植养殖行情等服务,是养殖朋友理想的养殖信息交流网。

减肥训练营_魔鬼减肥训练营_南京减肥达人亲测有效科学瘦身减肥训练机构

减肥达人训练营是早安中国CCTV上榜品牌,以无氧运动+有氧运动+户外拓展的魔鬼减肥训练营,结合国际前沿时尚的动感活力有氧操课组合训练、心理减肥、提升自身健康行为方式等,国家级营养师进行科学营养配餐,让每个营员都能达到满意效果,成功减肥训练营机构中的胖友首选,国内魔鬼减肥训练营报名减肥训练营中心。

深圳主机托管,深圳服务器托管,深圳服务器租用,深圳主机租用,广州服务器托管租用-深圳市南方联合科技有限公司

南方联合致力于深圳服务器托管,深圳服务器租用,深圳主机租用,深圳主机托管,广州服务器托管,广州服务器租用,香港服务器托管租用,云主机等增值服务,为用户提供“一站式”的电信、双线、BGP多线数据中心服务,热线:0755-88833581

快乐学习-卢平辉易学网

学易经传统文化免费查风水运势,风水布局,风水改运化煞,就到卢平辉改运网。

SKF轴承|NSK轴承|FAG轴承|INA轴承|进口轴承-中机华创轴承(上海)有限公司

中机华创轴承(上海)有限公司经销各品牌原装进口轴承,包括skf轴承、fag轴承、nsk轴承、ina轴承等,充足的库存,解决您购买进口轴承的后顾之忧。

全局底部横幅