为什么平头哥和英伟达在MLPerf基准测试中都获得了第一 (为什么平头哥不怕毒蛇)
语音播放文章内容
由深声科技提供技术支持
雷锋网按，本周，MLPerf组织发布了第一个MLPerf Inference v0.5的结果，虽然这个基准测试还不成熟，但依旧获得了巨头公司的广泛关注。并且平头哥、英伟在成绩公布后纷纷发布消息表示自己成绩都获得了第一？
自去年初成立之后，MLPerf组织一直在稳步建立其机器学习到的Benchmarks。为了能够让机器学习处理器的基准测试也像CPU那样，该组织囊括了该行业中的所有知名企业，比如英特尔、Nvidia、Google和百度。从技术上讲，MLPerf基准测试还处于初期阶段，它们甚至还没有完成，但是该组织的成果引起发了巨大关注。
早在6月份，该组织就发布了第二个基准测试集MLPerf Inference v0.5。顾名思义，这是MLPerf组织的机器学习推理基准测试，旨在衡量各种加速器和系统执行训练后的神经网络的程度和速度。MLPerf Inference是测试推理性能的通用方法，它最终将成为衡量从低功耗soc中的NPU到数据中心高性能加速器的标准。在基准测试首次发布的四个多月之后，MLPerf组织发布推理基准测试的首个官方结果。
基准测试的初始版本v0.5仍然非常不完整，它目前仅涵盖5个网络/基准，并且还没有功耗测试指标，这是衡量整体能源效率是必不可少的。尽管如此，基准测试的初始版本吸引了主要芯片公司的关注，这些公司都渴望展示其硬件在基准测试中的成绩，并向客户（和投资者）说明为什么他们的解决方案更好。实际上，第一轮官方基准测试提交了近600份结果，远超出了该组织非正式预期的全新基准测（通常需要一段时间才能建立新的行业基准），这更能说明了行业对MLPerf的期待，推理芯片数十亿美元的市场将继续快速增长。
随着第一轮申请工作的完成，MLPerf组织现在发布其Inference v0.5的官方结果，不过只是大多数（如果不是全部）主要芯片公司都在发布与结果相关的公告，声明或新闻稿。说实在的，600份提交的成果分布在40种不同的测试中，芯片公司还有很多事情可以做。缩小标准范围，每个人都可以找到成功的方案，例如总吞吐量、延迟，每个加速器的吞吐量等。这并不是基准测试本身，甚至也不是芯片公司所为，但这给我们提醒，即使初始版本足够广泛，也可以涵盖很多用例，尤其是在专用加速器的情况下，它们通常针对特定用例进行了优化。
作为更新，MLPerf v0.5分为5个基准，其中两个基准实质上是其各自主基准的移动衍生产品。当前这个套件的桌面/服务器版本涵盖了图像分类（ResNet50），对象检测（ResNet34）和机器翻译任务（GNMT）。所有基准测试都提供了四种方案：单路（一个终端运行一个任务），多路（一个终端同时运行多个任务），服务器（服务器的实时性能）和离线（不在线的服务器）。这些实质上将方案分解为终端和服务器方案，并从分解为相应平台的两个最常见方案。
更进一步，MLPerf提供了两个测试“分区”：封闭分区和开放分区。封闭分区是“苹果对苹果（apples-to-apples）”测试，芯片将获得预先训练的网络和预先训练的权重。在选择要使用的精度等级（只要满足精度要求）方面，芯片公司在量化方面仍具有一定的灵活性，但是在封闭的分区，他们的解决方案仍必须达到数学上的等效性，并且禁止重新训练网络。这个目的在于，测试平台能否很好地执行预训练好的网络。
相比之下，开放式分区显然更加开放。芯片公司被允许重新训练网络以及进行更广泛的量化工作。绝对不是封闭测试区那样的苹果对苹果，开放分区本质上是一种结构较少的结构化格式，可以让芯片公司以最佳的方式展示其解决方案和团队的独创性。
深入研究结果，MLPerf最终收到了从CPU和GPU到FPGA，DSP和专用ASIC等各领域的官方意见。正如一位MLPerf代表指出的那样，该组织实质上收到了除神经形态和模拟系统以外的每种类型处理器的成果。当然会有大公司的代表，包括NVIDIA的GPU、谷歌的TPU、英特尔的CPU和加速器以及Habana Labs的Goya加速器。即使在封闭分区，也有一些预期外的结果，包括RASpberry Pi 4和阿里巴巴的含光800加速器。
总的来说，我不会在这里对结果进行过多的剖析，因为大量的测试意味着非常多的对比。更重要的是，缺少功耗测试意味着目前无法测量能效。但总的来说，几乎每个芯片公司都可以在某个类别中取得胜利。在离线测试中，看到了Google从1 TPUv3到32的几乎完美的拓展性，NVIDIA的Tesla加速器在一些测试中名列前茅，英特尔在CPU中位居榜首，高通的骁龙855在官方结果中也远远超过其它SoC。
关于MLPerf推理的第一组结果不会成为推理性能的最终成绩。在开发方面，MLPerf组织仍在努力完善基准，以添加其他网络类型，着眼于语音识别等任务。同样，该组织将进行功耗测试，以便每个人都能看到他们的设计效率，因为电源效率通常是大规模部署规划的最重要考虑因素。
尽管这些早期版本的MLPerf在添加和优化测试时和目标还有不同，但对于芯片公司来说，他们现在知道自己和竞争对手所处的位置。比参数更重要的是，机器学习优化的开放性性质意味着芯片公司还有大量空间来优化其系统以进行将来的测试，以及设计更好的新硬件。客户（其中许多人在MLPerf委员会中）希望加快工作进展。因此，既然第一个结果已经出炉，芯片公司就可以专注于其产品，并了解如何才能进行下一轮正式测试。
最后，从更长远来看，MLPerf Inference基准测试在未来几年内将趋于成熟（该组织目前尚未估计1.0何时准备就绪），这也意味着该基准测试将稳定下来，并且在芯片公司的性能实验室之外更容易使用。MLPerf组织已经发表评论说，他们将开发移动应用程序以加快对智能手机和其他智能设备的测试，并且我们期望桌面基准测试的情况也将日趋成熟。如果运气好的话，在不久的将来，我们将能够把MLPerf推理应用到我们自己的测试中，并将这些测试转换为有意义的结果，以比较消费类硬件。激动人心的时刻到来了！
雷锋网编译，via
原创文章，未经授权禁止转载。详情见 转载须知 。
本文地址： /article/42a2ebbe6bf0087a506c.html
PR值全称为PageRank(网页级别)，取自Google的创始人LarryPage。它是Google排名运算法则（排名公式）的一部分，PR查询可以根据域名查出对应网站(可查内页)的PR。
南通万户是南通地区用友软件销售服务中心（Tel：18862981058），主要销售服务用友T6/用友T3，15年专业从事用友软件的研发、销售、服务以及运营维护。
天津津成电线电缆有限公司经过多年的发展，为企业积累了丰富的开发和生产电线电缆的经验和技术。公司主营产品:低烟无卤耐火电线电缆、低烟无卤阻燃电线电缆、分支电缆、高压交联电缆、架空电缆、聚氯乙烯绝缘电力电缆、聚氯乙烯绝缘电线、控制电缆、矿用电缆、特种电缆、同轴电缆、五类线、超五类线、六类线、橡套电缆等。欢迎广大客户电话咨询！
广州毅佳电子有限公司，EAS厂家，供应超市防盗系统、EAS防盗系统、声磁防盗系统、服装店防盗系统。专业提供EAS防盗系统及相关服务。供应防盗软标签，防盗硬标签，声磁软标签，超市防盗扣等防盗标签。
欢迎您来到专业的电表箱|玻璃钢电缆分支箱厂家-浙江南腾电表箱|玻璃钢电缆分支箱公司网站!南腾电气专业生产电表箱、玻璃钢电表箱、玻璃钢电缆分支箱等配电产品,欢迎大家联系洽谈合作，电表箱、玻璃钢电缆分支箱专线:0577-62619833
狼蚁网络【www.168986.cn】以长沙seo优化，长沙网络营销，长沙网络推广,湖南seo优化为主，专业微信营销，微博营销,新闻炒作、软文营销,,博客营销，搜索引擎营销，seo优化，网络公关，公司品牌美誉度维护；并提供网络口碑营销，网络新闻监测,广告监测,微博监测等服务，还提供品牌营销策划、品牌建设，品牌推广等一站式服务.
万丰科技为专业从事热加工自动化装备研发制造的系统集成商，公司主营低压铸造机、重力铸造机、差压铸造机、去毛刺机器人、浇铸机器人、打磨机器人、切割机器人、铝合金浇注、一体化铸造、震砂机、振砂机、旋压机等铸造装备及相关辅助设备，并提供有色合金铸造及后处理成套自动化系统集成服务。产品畅销杭州、绍兴、广州、深圳、郑州、重庆、济南、青岛等全国各地。
高压电器网是一个高压电气元器件、成套电器设备及周边产品信息展示平台。也是浙江川龙电气有限公司旗下网站。网站涵盖了消防应急照明集中电源、高压真空断路器、一二次融合成套断路器、高压负荷开关、高压隔离开关、跌落式熔断器、氧化锌避雷器、接地开关、电缆分支箱、高压计量箱、稳压器、故障指示器、万能式断路器、VCS可视化断点隔离开关箱、成套箱式变电站、充气柜、环网柜、高压开关柜、刀开关、冷热缩终端及附件等高压电气元器件及周边配套产品。同时也是中高压配电的售后维护任务发布和技工接活的信息展示平台。内容是配合送电调试、设备现场勘测、备件安装接线、故障检查排除、设备升级改造、工程整包项目等其他服务。
iQOO官网
神楚科技（湖北）有限公司，核心团队在商业连锁零售行业有20余年的从业经验，能提供智慧商业整体解决方案及区块链应用，自主研发神楚云平台提供商业购物中心、文旅综合体、百货商场、超市、便利店、果蔬、果饮、零食、专卖、农贸市场、无人自助店等零售连锁业核心管理软件和手机移动端的相关应用。也是海信收银POS硬件和ERP系统的核心代理，还提供收银机、自助收银机、自助售货机、智能盒饭机、条码电子秤、收银电子秤、扫描平台、客流视频监控、电子价签、防盗报警等零售设备及技术服务。
青岛连起建材有限公司，地板销售，游戏装备销售
股掌柜快讯网发展有限公司成立于2002年,是经中国证券监督管理委员会批准，取得经营证券期货业务许可证的证券经营机构，是中国证券业协会会员单位。公司提供专业的证券咨询服务，致力于成为投资者值得信赖的投资服务平台。
对于运营小白，为了学习运营知识，总是在网上搜罗运营的知识点，看了很多也记了很多，真正到了工作中还是无从下手，或者按照网上的知识点行动之后，总觉得偏差有点大，导致小白彷徨，深度怀疑自己不是做运营的料，一度想转行，其实，网上的碎片化的知识点对于做好运营工作帮助不小，而是建立在运营系统之下才会产生较好的效果，所以做好运营工作还是依靠系统化运...。
关于学历，从来都是一个争议性话题，随着社会快速的发展，改革的红利早已被瓜分完毕，而学历的重要性越来越明显，一般大公司招聘要求，至少985，211那些重点大学本科学历，也就是说，从你上了大专院校的时候，你进入名企工作的权利基本就被剥夺了，也许有人会说，我高中学历也进了办公室上班，不去公司上班也饿不死，小编并不是说学历低就没有生存地方，而...。
消费者希望能够在丰富的选择中，品尝到美味的火锅，他们对火锅菜品的选择标准，主要包括味道、新鲜程度、菜品种类多样性和食材质量，今天，小朝哥就为公布一下，受消费者喜爱的火锅菜品排名，一、虾滑和牛肉虾滑的鲜美口感和丰富的营养价值，得到了消费者的高度认可，尤其是在夏季，虾滑几乎成为了人们的共同选择，其次，牛肉也是备受消费者喜爱的火锅菜品之一，...。
根据美股研究社4月6日消息，科技巨头微软正在以100亿美元的收购价与Discord进行谈判，有相关知情人士称，交易价格有可能超过100亿美元，微软此前与Discord已有沟通这不是第一次有消息透露微软与Discord有交易的打算，在今年3月就有消息传出，微软将与Discord达成合作，不过达成合作还需要时间，早在2018年，Disco...。
未来，将会有一家非常幸运的公司接手宇宙中让人垂涎已久的，最具有价值的，房产地块，这样说毫不夸张，我们甚至不能称之为，地球上，，因为这件艺术品是属于整个宇宙的——它就是由美国、俄罗斯、加拿大等多个国家和地区参与建造的国际空间站ISS，据digitaltrends报道，在最近的一次发布会上，NASA除了进一步表达自己奔赴火星的计划外，还...。
8月3日消息，Google正式公布了新旗舰GooglePixel6系列的外观，并宣布了新的自研SoC芯片GoogleTensor，谷歌张量，，但新机要等到秋天才会发布，根据历史，除了Pixel3a系列是19年5月7日发布，Pixel4a是在20年8月3日发布，Pixel5和4a，5G，是在20年9月30日发布外，史上所有Pixel系列...。
发表在长虹投影仪2022，4，1814，50长虹Q5Pro是长虹推出的最新旗舰设备，有着出色的画质表现，并且功能配置也相当强大，具体这款投影仪的使用效果怎么样呢，下面就通过真实的使用评测进行分析，看看真实效果是否和宣传一致，长虹Q5Pro投影仪使用评测，1.看了好多对比下，最后还是买了长虹的，相信大品牌！自动调焦或者是手动调焦都可，晚...。
国家医保服务平台，APP，是国家医保局官方软件，能够轻松查询个人参保信息、医保缴费记录、医保使用记录，异地备案就医，亲人医保账户，以及医保定点机构和年度费用汇总，年度费用明细等查询服务，1⃣查询个人参保信息?登录，国家医保服务平台APP，，在首页点击，个人参保信息，即可查询你的医保账户余额、月缴费基数以及个人参保信息，2⃣查询医保缴...。
市场繁荣为品牌发展奠定了好的基础，各大品牌都有奋勇向上发展，比如南昌金筷子，选择特色经营，一系列产品和得体的服务也让顾客们对其满意不已，南昌金筷子主打的是小吃系列，对创业者来说，这样的定位很有利于商业活动的展开，下面我们来就南昌金筷子加盟费多少的话题了解一下吧，南昌金筷子加盟费多少，南昌金筷子品牌隶属于金筷子企业管理有限公司，专注于休...。
每个汽车品牌，都承载着自己或车主的一段段故事，而Jeep，可能正意味着每个男人鲜衣怒马、探求远方的情结，牧马人、大切诺基，一个个相熟的名字，更粗浅了这样的情怀，而Jeep指南者这台官网指点价15.58，24.18万元的紧凑型SUV，也领有了用更低的门槛、让Jeep情怀落地的时机，外观方面，指南者大面积运行了Jeep家族化的设计元素，但...。
入手不亏系列，吹爆这些APP1、Crimaster——侦探社区，唐人街探案，同款APP，世界各地用户上行实在的案件供大家讨论，可以单人或团队介入案件推理，你可以在这里了解线索并宣布自己的认识，与世界推理侦探一较上下，累积积分说不定可以上侦探排行榜，你的脑洞够不够大?来测测你的大脑推理逻辑吧~2、迅捷文字识别——拍照识别迅捷文字识别是一...。
公众LAVIDA是上海公众朗逸朗逸是上海公众首款自主设计研发的A级车，也是公众世界产品策略中的一款关键车型，朗逸是由上海公众消费一款轿车，2008年6月上市，在间断了A级车市，动感时兴，的设计言语的基础上，LAVIDA朗逸表现了一种全新的设计DNA——，融合，裁减资料，优缺陷优点车身协调耐看，适宜中国人的目光.各项规范性能比拟丰盛，...。
酷狗音乐,酷狗音乐是一款中国国内最先提供在线试听功能的音频播放软件，酷狗音乐播放器有着丰富的音乐资源，新老歌、流行歌曲搜索。通过酷狗音乐盒您可以支持高音质音乐下载,您可以免费下载。
工作3年，存款5000，普通人存钱有多难,社会,存款,信用卡,房贷,银行卡
DNSChanger是一个开源应用程序，旨在为Windows、Mac和Linux操作系统提供方便快捷地更改DNS(域名系统)服务器的方式。
【攻略】冬季新疆那拉提玩雪，水墨雪域画中游_洋光摄客_新浪博客,洋光摄客,
公众LAVIDA是上海公众朗逸朗逸是上海公众首款自主设计研发的A级车，也是公众世界产品策略中的一款关键车型，朗逸是由上海公众消费一款轿车，2008年6月上市，在间断了A级车市，动感时兴，的设计言语的基础上，LAVIDA朗逸表现了一种全新的设计DNA——，融合，裁减资料，优缺陷优点车身协调耐看，适宜中国人的目光.各项规范性能比拟丰盛，...。
