GTC 架构GPU性能暴涨30倍 Blackwell 2024 英伟达没给追赶者一点机会 (gp架构)
去年英伟达市值突破1万亿之后，这家加速计算公司在全球范围内就吸引了越来越多的关注。
今年2月，英伟达的市值一度突破2万亿，让这家加速计算公司的热度再次攀升，也让今天在加州圣何塞举行的GTC 2024挤满了来自全球各地超11000名与会者。
“ 未来将是可生成的，这就是为什么这是一个全新的行业。 ”NVIDIA 创始人兼首席执行官黄仁勋开场就说，“我们需要一种全新的计算方式——由此我们才可以继续扩展，继续降低计算成本，并在保证可持续性的同时继续进行越来越多的计算。”
黄仁勋说道，“ 加速计算已到达临界点，通用计算已失去动力。 与通用计算相比，加速计算使每个行业都可以大幅提速。”
全新的行业需要更大的模型，更大的多模态AI需要更大的GPU。
黄仁勋从口袋里掏出一块全新的Blackwell芯片，将它与Hopper芯片并排举起，后者显得小了一些。
基于NVIDIA GB200构建的DGX SuperPOD，相比英伟达前代H100 GPU构建的系统，大语言模型性能飙升了30倍，能够处理万亿参数的模型。
架构迭代带来如此巨大的性能提升，证明了英伟达依旧在加速计算的道路上飞速前进， 英伟达进一步拉大了与追赶者们距离。
英伟达还有更远大的目标，GTC2024上推出的NVIDIA NIM微服务，通过推理加速让生成式AI能够普及，这才是生成式AI商业价值更高的地方。
“下一波AI浪潮将是AI对物理世界的学习。”黄仁勋还有更长远的布局。
Blackwell 架构如何支撑10万亿参数模型需求？
最新的Blackwell 架构是两年前推出的Hopper架构的继承者，延续过去英伟达以科学家名字命名架构的方式，新架构是以一位加州大学伯克利分校的数学家 David Harold Blackwell 命名。这位数学家专门研究博弈论和统计学，是第一位入选美国国家科学院的黑人学者。
相比Hopper架构GPU，Blackwell架构GPU单芯片训练性能（FP8）是Hopper架构的2.5 倍，推理性能（FP4）是Hopper架构的5倍。
要让Blackwell架构支撑高达10万亿参数的模型训练和实时 LLM 推理，需要一系列独特的技术。
先进的工艺和Chiplet技术就是关键之一， Blackwell架构GPU具有2080亿个晶体管， 采用专门定制的双倍光刻极限尺寸 4NP TSMC 工艺制造， 通过 10 TB/s 的片间互联，将 GPU 裸片连接成一块统一的 GPU。
为了更好支持Transformer模型， Balckwell架构集成了第二代Transformer 引擎， 支持全新微张量缩放，集成于NVIDIA TensorRT-LLM 和NeMo Megatron框架中的NVIDIA动态范围管理算法，Blackwell将在新型FP4 AI推理能力下实现算力和模型大小翻倍。
为了扩大Blackwell规模， NVIDIA构建了一款名为NVLink Switch的新芯片。 每个芯片可以以每秒1.8 TB的速度（几乎是上一代的10倍）连接四个NVLink，通过减少网络内流量来消除流量拥塞，帮助构建GB200。
NVIDIA GB200 Grace Blackwell 超级芯片通过 900GB/s 超低功耗的NVLink芯片间互连，将两个 Blackwell NVIDIA B200 Tensor Core GPU 连接到 NVIDIA Grace CPU。
GB200是NVIDIA GB200 NVL72 的关键组件。
NVIDIA GB200 NVL72是多节点、液冷、机架级系统，将36个Grace Blackwell超级芯片组合在一起，其中包含通过第五代NVLink相互连接的72 个Blackwell GPU 和 36 个 Grace CPU，还内置 NVIDIA BlueField-3 数据处理器，可在超大规模 AI 云中实现云网络加速、组合式存储、零信任安全和 GPU 计算弹性。
相较于同样数量的NVIDIA H100 Tensor Core GPU，GB200 NVL72 最高可提供 30 倍的性能提升以及25 倍的成本和能耗降低。
NVIDIA GB200 NVL72在单个机架中可实现720 petaflops 的 AI 训练性能和 1.4 exaflops 的 AI 推理性能。 该机器包含600,000个零件，重3,000磅（约1360.78公斤）。
黄仁勋介绍：“此时此刻，地球上也许只有三台百亿亿次浮点运算（exaflop）机器。而这是一个单一机架中的 1 个百亿亿次浮点运算AI 系统。”
要进一步实现对10万亿参数大模型的支持，需要更强大的DGX SuperPOD。
Grace Blackwell 架构的 DGX SuperPOD 由 8 个或以上的 DGX GB200（每个包含36 个 NVIDIA Grace CPU 和 72 个 NVIDIA Blackwell GPU）系统构建而成，采用新型高效液冷机架规模架构。
这个系统还需要通过GTC 2024发布的第五代NVIDIA NVLink，NVIDIA BlueField-3 DPU，NVIDIA Quantum-X800 InfiniBand 网络（为每块GPU提供每秒800 GB 的带宽），新一代 DGX SuperPOD 架构的网络计算能力提高了4倍，可扩展到数万个 GB200 超级芯片。
用户可通过 NVLink 连接 8 个 DGX GB200 系统中的 576 块 Blackwell GPU，可在 FP4 精度下提供 11.5 exaflops 的 AI 超级计算能力和 240 TB 的快速内存，并可通过额外的机架进行扩展。
2016 年，黄仁勋给OpenAI的DGX算力是 0.17Petaflops，现在DGX GB200的算力以 exaflop 计算。
除了GB200，NVIDIA还发布了一款统一用于 AI 模型训练、微调和推理的通用 AI 超级计算平台 NVIDIA DGX B200 系统。
DGX B200是DGX 系列的第六代产品，使用风冷机架设计，包含 8 个 NVIDIA B200 Tensor Core GPU和2个第五代英特尔至强处理器。
DGX B200系统可提供144 petaflops（FP4精度）的AI性能、1.4TB的 GPU 显存和 64TB/s 的显存带宽，使得该系统万亿参数模型实时推理速度比上一代产品提升了 15 倍。
另外，DGX B200 系统也包含带有8个NVIDIA ConnectX-7 网卡和2个BlueField-3 DPU 的高性能网络，每个连接的带宽高达400 Gb/s，可通过 NVIDIA Quantum-2 InfiniBand 和 NVIDIA Spectrum-X 以太网网络平台支持更高的 AI 性能。
“未来，数据中心将成为 AI 工厂”，黄仁勋说，“AI 工厂的使命是创造收入，同时也创造智能。”
“生成式 AI 改变了应用程序的编写方式。”黄仁勋解释， 未来的公司会将精力放在组装 AI 模型， 赋予它们任务，给出工作产品示例，审查计划和中间结果，而不是编写软件。
GTC 2024上，NVIDIA NIM微服务推出，这是根据 NVIDIA 的加速计算库和生成式 AI 模型构建，提供基于 NVIDIA 推理软件的预构建容器，包括Triton 推理服务器和TensorRT-LLM，使开发者能够将部署时间从几周缩短至几分钟。
“企业IT行业正坐在一座‘金矿’上，” 黄仁勋说道， “他们拥有多年来创建的所有这些令人惊叹的工具（和数据）。如果他们能把这个‘金矿’变成 AI 助手，就能给用户提供更多可能。”
NVIDIA 帮助领先的科技公司，包括 Cohesity、NetApp、SAP、ServiceNow 和 Snowflake 构建 AI 助手和虚拟助理。其它领域也正在采用。
在电信领域，NVIDIA推出 6G研究云，这是由 AI 和 Omniverse 支持的生成平台，它采用 NVIDIA 的 Sionna 神经无线电框架、NVIDIA Aerial CUDA 加速无线电接入网络和 NVIDIA Aerial Omniverse Digital Twin for 6G 构建。
在半导体设计和制造领域，NVIDIA 正在与 TSMC 和 Synopsys 合作，将计算光刻平台 cuLitho 投入生产，这一平台将把半导体制造中计算最密集的工作负载加速 40-60 倍。
黄仁勋还宣布推出NVIDIA 地球气候数字孪生Earth-2，可实现交互式高分辨率模拟，户在数秒内发布预警和最新预报，使用传统模型在CPU上运行需要耗时数分钟乃至数小时。
黄仁勋表示，AI 的最大影响将体现在医疗领域，NVIDIA 已经涉足成像系统、基因测序仪器，并与领先的手术机器人公司合作。
NVIDIA 正在推出一种新型生物学软件。 GTC 2024发布了二十多个新的微服务，使全球医疗企业能够在任何地方、任何云上利用生成式 AI 的最新进展。
下一波AI浪潮将是 AI 对物理世界的学习
黄仁勋说，“我们需要一个模拟引擎，以数字方式为机器人呈现世界，这样机器人就有了一个学习如何成为机器人的‘健身房’，我们称这个虚拟世界为 Omniverse。”
NVIDIA宣布将以API形式提供 NVIDIA Omniverse Cloud， 将全球领先的工业数字孪生应用和工作流创建平台的覆盖范围扩展到整个软件制造商生态系统。
为了展示其工作原理，黄仁勋分享了一个机器人仓库的展示——使用多摄像头感知和追踪，看顾工人并协调机器人叉车，在整个机器人堆栈运行的情况下，这些叉车能够实现自动驾驶。
NVIDIA还宣布将把 Omniverse 引入 Apple Vision Pro 中， 通过新的 Omniverse Cloud API，开发者可以将交互式工业数字孪生流式传输到 VR 头显中。
一些全球大型工业软件制造商正在采用 Omniverse Cloud API，包括 Ansys、Cadence、达索系统旗下 3DEXCITE 品牌、Hexagon、微软、罗克韦尔自动化、西门子和 Trimble 等。
“所有会动的东西都可能成为机器人，汽车行业将是其中的一个重要部分。”黄仁勋表示。
了解到，比亚迪已选择 NVIDIA 的下一代计算平台用于其自动驾驶汽车，在 DRIVE Thor 上构建其下一代电动汽车车队。昊铂、小鹏、理想汽车、极氪也已经宣布将在DRIVE Thor上构建其未来的汽车产品。
人形机器人也是机器人的重要方向。
为此 NVIDIA宣布了 Project GR00T（代表通用机器人 00 技术） ，这是一个为人形机器人设计的通用基础模型。
GR00T 脱胎于英伟达的 Isaac 机器人平台工具，GR00T 驱动的人形机器人能够接受文本、语音、视频甚至现场展示的输入，并对其进行处理以采取特定的操作，包括理解自然语言、模拟人类行为、在现实世界中导航和交互。
黄仁勋还推出了一款用于人形机器人的新型计算机 Jetson Thor，它基于 NVIDIA Thor 系统级芯片，并对 NVIDIA Isaac 机器人平台进行了重大升级。
Jetson Thor采用Blackwell架构，可提供每秒 800 万亿次8位浮点运算 AI 性能，能够执行复杂的任务并使用 Transformer 引擎处理多个传感器，以运行 GR00T 等多模态生成式 AI 模型。
如果用一句话总结GTC的全新发布，可以借用黄仁勋的“我们创造了为生成式 AI 时代而生的处理器。”
原创文章，未经授权禁止转载。详情见 转载须知 。
360生活频道，包罗生活相关的方方面面，在这里你可以看到时尚、亲子、美食、健康、养生等相关资讯，通过快速实用的网址入口便捷到达您感兴趣的生活网站。
IIS7站长之家创建于2018年6月3日。我们致力于研发各种类站长、安全运维需求的工具程序，及转发各种行业相关的最新资讯，还有我们认为的重要的相关技术文章，工具收藏等。。。
第三软件为用户提供手机软件下载,常用的安卓应用,热门手机游戏下载,好玩的安卓游戏下载
江苏熙天时环保科技有限责任公司专业从事酸雾净化塔,生物除臭塔,有机废气塔,污水池加盖的生产和销售,欢迎来电咨询:13961291523
卡车界为您提供卡车相关新闻，如轻卡,中卡,皮卡的小型卡车的上市,数据,以及导购资讯;重型卡车如牵引车,物流车,货车等的驾驶体检和性能对比,是一家综合门户的卡车网站。
青岛同三塑料机械有限公司座落在美丽的胶州湾畔，是一家塑料挤出设备的专业制造商。公司汇集了我国非常好的的科研人才。
深圳联森光电致力于LED电子显示屏,LED大屏幕,大型LED全彩显示屏,LED表贴单元板,室内显示模组以及LED电子广告屏生产，具有LED全彩屏研发生产经验,得到很多朋友的认诃与评价。热线电话：0755-29776529
北京金波绿泰科技有限公司，专业生产的酶解小肽蛋白粉，广泛应用在宠物主粮、宠物奶粉、宠物零食、宠物营养膏；在皮毛动物（貂狐貉）饲料；水产虾、蟹、海参、鳖等养殖中作为氨基酸肥水素、饲料添加剂中替代鱼粉产品另一个选择；猪饲料免疫力抵抗力，降低死亡率；禽类鸡、鸽子等鸟类，可有效减少啄羽啄肛、死亡率降低，饲料报酬提高吸收率达到95%以上
泰州市创源阀业有限公司专业从事阀门手动执行器,阀门减速箱,铸铁件厂家的生产和销售,欢迎来电咨询
青州贝索诺自动化设备有限公司是液体自动化包装设备及配套设施的生产厂家,主要生产销售白酒、红酒、食用油、润滑油等液体灌装成套设备，包括刷瓶机、冲瓶机、灌装机、旋盖封口机、打塞机、套帽热缩机、烘干机、输送机、封箱机、过滤机、水处理等产品。
威海市金贝壳新材料有限公司-合金陶瓷刀片-碳纤维复合材料刀片_一家专门研发生产碳纤维复合材料、合金陶瓷等刀片及刀体、夹具等相关设备的公司
微网优联科技（成都）有限公司是一家集产品设计、研发、生产、营销、服务于一体的全球智能安全连接服务提供商,聚焦于Wi-Fi技术深度开发应用,在F5G技术领域处于行业先进水平，始终致力于为全球B端客户（运营商和品牌客户）定制领先的网络通讯产品、技术解决方案和专业优质的服务。微网优联作为全球网络通讯设备供应商，经营开拓JDM业务模式，对接上游供应商300多家，服务国内外品牌客户近百家。目前已形成Wi-Fi类、安防类、全光类、交换机类和创新类五大产品线，产品涵盖Wi-Fi6无线路由、IPTV机顶盒、无源光纤网络终端、MiFi、AP+AC、FTTR全光路由、IPC智能摄像头、交换机、电子学生卡、云电脑等；构建遍布全国的销售、物流配送和售后服务网络，海外业务布局35个国家及地区。
市面上很多模拟经营题材手游都能种花，那些漂亮鲜艳的花卉总是能让人心旷神怡，今天小编就来盘点高人气经营类种花游戏推荐，你是否也在向往田园种花的生活呢，在这里不仅能享受经营商铺的乐趣还能自由浇花种花、无论是月下赏花还是围炉煮茶都可以，赶紧一起来看看吧，1、，童话镇大冒险，童话镇大冒险，是一款比较受欢迎的模拟经营手游，你将在一座童话镇经营...。
中国博客点击量最大的那个名叫韩寒，Blog，，接下来，他可能成为中国微博第一人，http，t.sina.com.cn，hanhan，4日，韩寒开通微博，到他发第一条微博前粉丝已过3万，6日，韩寒发了一个，喂，字，这或许是史上投入产出比最高的网络表达，一个，喂，字转发5800、评论11000，目前韩寒粉丝已接近9万人，网友阙月挂疏...。
最近松松编辑杰哥从外媒了解到，全球知名免费CMS建站系统WordPress团队宣布，截止到2021年WordPress在全球CMS建站系统市场占有率，相比2019再度上升，占据全球CMS建站系统40%市场份额，根据杰哥了解，WordPressCMS免费建站系统，最早上线于2003年，截止到今年，已经整整18年，发展到今天，WordPr...。
珑璟光电展示用眼镜样机，雷锋网获悉，3月28日，国内创业公司珑璟光电正式对外发布了其最新的具有40度视场角的光波导AR模组，光学模组是AR眼镜的核心元件，其重要程度，不外乎如今的显示屏于手机，虚拟显示是目前AR发展的拦路虎，目前大多的AR眼镜所采用的光学模组还无法达到虚拟与现实真正融合，虚实不分的理想效果，目前市面上的AR眼镜采用的...。
雷锋网报道，2018年全国研究生考试近期举行，深圳研究生考试人脸识别项目也最终成功落地，这次深圳研究生考试在报名采集照片和考生入场时都使用了平安科技的人脸识别技术，是国考级别的考试中首次应用人脸识别技术进行线上照片采集和线下入场核身，刷脸，时代，金融级别的技术普惠平安科技介绍道，本次考试是考场老师用设备直接扫描考生的脸进场，不用考生...。
金融人手握大量数据、规则和算法，却没有读懂真正的风险管理，王劲曾是百度金融的CRO，也在有着，风控黄埔军校，之称的美国运通工作了十七年，次贷危机之后，美联储加强了对所有银行机构的风险模型管理，而他在美国运通的最后五年，创建了运通的模型监管和验证中心，对全公司上千个模型进行全面的管理——亲身经历过次贷危机的他，对风险管理有着独到的洞察，...。
以网络职业教育为核心，在确保职业教育的优势之时，不断的拓宽品牌的教育事业线，是正保远程教育一直在做的事情，历时近二十年的发展，品牌已经覆盖了会计、医药卫生、建设工程、中小学、自考、考验等行业，共开创了近三百种的辅导类别，品牌的教育实力方面毋庸置疑，那因它是以网络教育为主，所以很多家长对，正保远程教育可信吗，存在相应的疑惑，可一起来了解...。
外地期间11月10日，以色列国度安保委员会颁布国外游览正告，提示以色列公民在海外尽量防止泄露自己的国籍和族裔，免得引发安保疑问，据美国有线电视资讯网此前报道，11月7日，以色列一足球队在荷兰阿姆斯特丹参与欧联杯较量，赛后，局部以色列球迷在阿姆斯特丹受到暴力袭击，数十人因此受伤，10日，以色列国度安保委员会在其官方颁布了国外游览正告，正...。
外地期间11日，俄罗斯总统助理帕特鲁舍夫在接受俄媒采访时示意，美国和英国有或者再次实施相似于破坏，北溪，自然气管道的恐惧袭击，帕特鲁舍夫指出，有消息显示，美英将破坏，北溪，管道的行为视作推进己方经济利益之举，包含海底光缆在内的基础设备名目有或者成为其新的破坏指标，北溪，自然气管道从俄罗斯经波罗的海直通德国，向欧洲输气，2022年9月...。
申明，1.以上内容仅代表揭发者自己，不代表黑猫揭发立场，2.未经授权，本平台案例制止任何转载，违者将被清查法律责任，3.黑猫揭发处置揭发不收取任何费用，凡以黑猫揭发名义不要钱的均为混充、诈骗行为，请及时报警并与黑猫官网反应，揭发邮箱heimaotousu@vip.sina.com，4.请大家选用官网渠道处置生产纠纷，不要轻信第三方机构...。
丰田威驰2023款1.5智能挡新车报价在6.8万元左右，这款车外观时兴，外部性能丰盛，操控性能和稳固性杰出，驾驶起来很有信念，同时，它的油耗体现低劣，能节俭燃油费用，爱护繁难，周期长，费用低，总的来说，我以为这款车性价比拟高，适宜器重适用性和燃油经济性的生产者，只管多少钱实惠，但安保性能和温馨性能丝毫不打折扣，是不错的选用，新车介绍，...。
唤醒，唤醒如何，什么唤醒，哪些唤醒，怎么唤醒
自媒体人最头疼的四个问题，那我今天分享的主题是关于平台推荐机制的问题那我就开始讲平台的推荐机制，这是很多做自媒体培训的，他们都不愿意分享，其实这些东西有什么不好分享的，这是最简单的东西拿出来给大家分享，对不对运营一个自媒体不仅仅去靠这些东西，但是今天老师给你们总结出来，这些东西对你们每一个做自媒体创业的人生非常大的帮助，对吧，我们也很...。
一、前言，你看到的这篇评测究竟在哪块硬盘上存着?如果你是第一次用苹果的设备，往往会被它的整齐划一所惊艳到，你白天用iPhone拍摄过的照片，晚上只要一开Mac就能在相册中看到它们，同一个来电，你可以选择用iPad或是iPhone接听，一部新iPhone只需联网恢复，就可以在几分钟内与你的旧iPhone相差无几，这些看似神奇功能，全部依...。
华为免去余承东华为云CEO一职，继续担任消费者BGCEO以及新增智能汽车解决方案BUCEO5月18日晚间，据一财消息，华为内部发文进行多项人事调整，华为发文表示，经总裁批准，免去余承东华为云CEO职位，张平安被任命为华为云CEO，此外，余承东仍为消费者BGCEO以及新增智能汽车解决方案BUCEO，王军为智能汽车解决方案BU总裁，据雷锋...。
投影仪专栏初级投影控发表于2022，10，27一，外观，四款外观相似度极高，并且无一例外采用了塑料材质外壳，，不知道怎么看出来相似度极高的，其他投影仪不用塑料材质外壳，告诉你，即使是进口投影仪，外壳也一样都是塑料，也就是ABS树脂，塑料只是它的俗称，这几款机，行家从接口能看出来，主板方案是完全不同的，不是换皮机器，而且大多数投影仪...。
7月1日，，中医药法，正式实施5周年，作为我国中医药领域首部综合性、全局性、基础性的法律，，中医药法，自2017年7月1日施行至今，加速了法治体系构建，推动中医药在服务体系和能力等方面稳步提升，数据显示，截至2021年底，全国备案中医诊所超过2.6万个；目前，我国98%以上的社区和乡镇卫生机构能够提供中医药服务，近90%的公立综合医院...。
