单个Pod性能是世界第一超算的两倍 里程碑式Google TPU v4重磅发布! (pod单是什么意思)

文章编号:44828 最新资讯 2024-12-09 TPU google

Google I/O开发者大会去年因为疫情而取消,今年采取线上形式强势回归。在没有开发者在场的Google园区内,Google CEO桑达尔·皮查伊(Sundar Pichai)宣布推出多项全新技术,除了能够帮助用户实现“空间瞬移”的全息视频聊天技术Project Starling让人耳目一新,还有最新一代AI芯片TPU v4。

“这是我们在Google上部署的最快的系统,对我们来说是一个具有历史意义的里程碑。”皮查伊这样介绍到。

里程碑式Google TPU v4重磅发布! 单个Pod性能是第一超算的两倍

最强TPU,速度提升2倍,性能提升10倍

Google官方介绍,在相同的64芯片规模下,不考虑软件带来的改善,TPU v4相较于上一代TPU v3性能平均提升2.7倍。

在实际应用中,TPU v4主要与Pod相连发挥作用,每一个TPU v4 Pod中有4096个TPU v4单芯片,得益于其独特的互连技术,能够将数百个独立的处理器转变为一个系统,互连带宽在规模上是其他任何网络技术的10倍,每一个TPU v4 Pod就能达到1 exaFlOP级的算力,实现每秒10的18次方浮点运算。这甚至是全球最快的超级计算机“富岳”的两倍性能。

“如果现在有1千万人同时使用笔记本电脑,所有这些计算机累加的计算能力,刚好就能够达到1 exaFLOP的算力。而之前要达到1 exaFLOP,可能需要专门定制一个超级计算机。”皮查伊如是说。

今年的MLPerf结果表明,GoogleTPU v4的实力不容小觑,在使用ImageNet数据集的图像分类训练测试(准确度至少75.90%),256 个TPU v4在1.82分钟内完成了这一任务,这几乎与768个Nvidia A100图形卡、192个AMD Epyc 7742内核(1.06分钟)、512个华为AI优化的Ascend910芯片以及128个Intel Xeon Platinum 8168内核(1.56分钟)组合在一起的速度一样快。

当负责在大型维基百科语料库上训练基于Transform的阅读理解BERT模型时,TPU v4的得分也很高。使用256个TPU v4进行训练需要1.82分钟,比使用4096 TPU v3进行训练所需的0.39分钟要慢1分多钟。同时,如果想要使用Nvidia的硬件达到0.81分钟的训练时间,需要2048张A100卡和512个AMD Epyc 7742 CPU内核。

Google同样在I/O大会上展示了能够用到TPU v4的具体AI实例,包括能够同时处理网页、图像等多种数据的MUM模型(Multitask Unified Model,多任务统一模型)和专为对话打造的LaMDA都是能够用到TPU v4的场景模型,前者比阅读理解模型BERT强1000倍,适合赋能搜索引擎帮助用户更加高效地得到自己想要的信息,后者则可以与人类进行不间断的对话交流。

这一并不向外出售的TPU,很快将在被部署在Google的数据中心,且90%左右的TPU v4 Pod都将使用绿的能源。 另外,Google也表示,将在今年晚些时候开放给Google Cloud的客户。

Google最早于2016年宣布首款内部定制的AI芯片,区别于训练和部署AI模型的最常见的组合架构,即CPU和GPU组合,第一代TPU在那场世界著名的人机围棋大战助力AlphaGo打败李世石“一战成名”,宣告并不是只有GPU才能做训练和推理。

Google第一代TPU采用28nm工艺制程,功耗大约40w,仅适用于深度学习推理,除了AlphaGo,也用在Google搜索、翻译等机器学习模型中。

2017年5月,Google发布了能够实现机器学习模型训练和推理的TPU v2,达到180TFLOPs浮点运算能力,同时内存带宽也得以提升,比同期推出的CPU AI工作负载提升30倍,比GPU AI工作负载提升15倍,被基于4块TPU v2的AlphaGo击败的世界围棋冠军柯洁最直观地感受了这一切。

2018年5月,Google又发布第三代TPU,性能是上一代TPU的两倍,实现420TFLOPs浮点运算,以及128GB的高带宽内存。

按照一年一次迭代更新的节奏,Google理应在2019年推出第四代TPU,不过这一年的I/O大会上,Google推出的是第二代和第三代TPU Pod,可以配置超过1000颗TPU,大大缩短了在进行复杂的模型训练时所需耗费的时间。

在AI芯片发展史上,无论是从片上内存上,还是从可编程能力来看,Google TPU都是不可多得的技术创新,打破GPU的“垄断”地位,且打开云端AI芯片的新竞争格局。

发展五年的Google TPU在今天依然保持着强劲的竞争力,未来的世界是什么样的?Google TPU已经告诉了我们一小部分答案。

要用硅光单芯片替代3000块TPU的AI初创公司吸引了比尔盖茨的投资

Google 祸不单行

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: /article/73a0da9bb91babf15017.html
全局中部横幅
全局中部横幅
在线录屏-网页录屏办公协作-新简剪辑

新简剪辑支持屏幕录制、网页录制、人像录制、声音录制等多种模式,录制完成后自动转码压缩,可一键转发至他人参与视频评论。录屏插件支持多种浏览器,极速下载一键安装。新简剪辑支持屏幕录制、网页录制、人像录制、声音录制等多种模式,录制完成后自动转码压缩,可一键转发至他人参与视频评论。录屏插件支持多种浏览器,极速下载一键安装。

连接高校和企业 - 蓝桥云课

蓝桥云课是国内领先的IT在线编程及在线实训学习平台,专业导师提供精选的实践项目,创新的技术使得学习者无需配置繁琐的本地环境,随时在线流畅使用。以就业为导向, 提供编程、运维、测试、云计算、大数据、数据库等全面的IT技术动手实践环境, 提供Linux、Python、Java、C语言、Node.js、Hadoop、PHP、Docker、Git、 R、SQL、MongoDB、Redis、Swift、Spark等千门热门课程。

CHENYI|陈毅

Blogger,Webtechnologist,Webdesigner

云上吴忠官网-云上公司注册

云上吴忠官网-云上公司注册,简称云上吴忠官网-云上公司注册,是互联网线上虚拟园区,通过互联网的办法提供线下园区几乎所有的配套服务。除电子营业执照办理外,还能提供政策申报与兑现、线上培训、引导基金等服务。

中国藏族网通

坚持正确的舆论导向,及时准确地编辑、翻译、发布党的民族宗教政策和国家的法律法规,向世界全面介绍博大精深的藏族文化,以及青藏高原壮美的人文景观、厚重的历史文化和丰富的自然资源,并为农牧民群众提供脱贫致富信息。

上海德邦搬家-搬家物流公司

上海德邦大件物流公司专业提供德邦长途搬家,德邦电动车托运,德邦钢琴搬运,同城搬家,出国搬家,回国搬家,国际快递,办公室搬迁,国际海运搬家电话:4006651956

摩托车独臂生产厂家-提供方向控制器,减震器定制与批发-洛阳福山减震器有限公司

洛阳福山减震器有限公司,摩托车独臂生产厂家,提供方向控制器,减震器定制与批发.洛阳福山减震器有限公司具有接近20年的三轮汽油摩托车、三轮电动车减震器设计和生产制造的技术、经验的沉淀与积累,共生产12个系列100余款车型的三轮汽油、电动摩托车减震器产品,具有年产200万套减震器的生产能力。未来几年内,本公司将进一步扩大生产,提升质量控制能力,加大技术投入,实施品牌战略,摩托车减震行业的发展趋势和行业地位。

教学ppt课件下载-法律培训ppt-学校教学-hipptx网-hipptx网提供读书分享等各类学校教育ppt课件

嗨课网是ppt课件资源网站,提供教育法律医学等各行业带讲稿ppt下载,包括法律讲座,医院医生对医疗知识宣讲培训以及校园教学使用的ppt课件

无锡新天俱时装备科技有限公司

无锡新天俱时装备科技有限公司是中国化工装备协会生产的从事搪玻璃设备制造的专业企业及出口搪瓷设备的生产基地。经过在中国及国际市场多年的发展,无锡新天俱时与国际搪玻璃制造公司进行技术合作。作为国外的技术合作公司...

重庆火锅底料-鱼底料火锅底料厂家批发就找重庆渝匠鲜餐饮

重庆渝匠鲜火锅底料提供火锅店专用底料,承接重庆火锅底料批发火锅底料加工厂,鱼底料厂家直销贴牌定制等,集老火锅、新派火锅、锅鱼、火锅鱼、串串香底料,冒菜底料,麻辣烫底料,钵钵鸡底料等加工生产批发,欢迎来电咨询!

全局底部横幅