万卡万P万亿参数通用算力！摩尔线程夸娥智算中心解决方案重磅升级 (万卡是谁)
7月3日，上海——摩尔线程重磅宣布其AI旗舰产品夸娥（KUAE）智算集群解决方案实现重大升级，从当前的千卡级别大幅扩展至万卡规模。摩尔线程夸娥（KUAE）万卡智算集群，以全功能GPU为底座，旨在打造国内领先的、能够承载万卡规模、具备万P级浮点运算能力的国产通用加速计算平台，专为万亿参数级别的复杂大模型训练而设计。这一里程碑式的进展，树立了国产GPU技术的新标杆，有助于实现国产智算集群计算能力的全新跨越，将为我国人工智能领域技术与应用创新、科研攻坚和产业升级提供坚实可靠的关键基础设施。
此外，摩尔线程联合中国移动通信集团青海有限公司、中国联通青海公司、北京德道信科集团、中国能源建设股份有限公司总承包公司、桂林华崛大数据科技有限公司（排名不分先后）分别就三个万卡集群项目进行了战略签约，多方聚力共同构建好用的国产GPU集群。
摩尔线程创始人兼CEO张建中表示：“当前，我们正处在生成式人工智能的黄金时代，技术交织催动智能涌现，GPU成为加速新技术浪潮来临的创新引擎。摩尔线程矢志投身于这一历史性的创造进程，致力于向全球提供加速计算的基础设施和一站式解决方案，为融合人工智能和数字孪生的数智世界打造先进的加速计算平台。夸娥万卡智算集群作为摩尔线程全栈AI战略的一块重要拼图，可为各行各业数智化转型提供澎湃算力，不仅有力彰显了摩尔线程在技术创新和工程实践上的实力，更将成为推动AI产业发展的新起点。”
AI主战场，万卡通用算力是标配
大模型自问世以来，关于其未来的走向和发展趋势亟待时间验证，但从当前来看，几种演进趋势值得关注，使得其对算力的核心需求也愈发明晰。
首先，Scaling Law将持续奏效。Scaling Law自2020年提出以来，已揭示了大模型发展背后的“暴力美学”，即通过算力、算法、数据的深度融合与经验积累，实现模型性能的飞跃，这也成为业界公认的将持续影响未来大模型的发展趋势。Scaling Law将持续奏效，需要单点规模够大并且通用的算力才能快速跟上技术演进。
其次，Transformer架构不能实现大一统，和其他架构会持续演进并共存，形成多元化的技术生态。生成式AI的进化并非仅依赖于规模的简单膨胀，技术架构的革新同样至关重要。Transformer架构虽然是当前主流，但新兴架构如Mamba、RWKV和RetNet等不断刷新计算效率，加快创新速度。随着技术迭代与演进，Transformer架构并不能实现大一统，从稠密到稀疏模型，再到多模态模型的融合，技术的进步都展现了对更高性能计算资源的渴望。
与此同时，AI、3D和HPC跨技术与跨领域融合不断加速，推动着空间智能、物理AI和AI 4Science、世界模型等领域的边界拓展，使得大模型的训练和应用环境更加复杂多元，市场对于能够支持AI+3D、AI+物理仿真、AI+科学计算等多元计算融合发展的通用加速计算平台的需求日益迫切。
多元趋势下，AI模型训练的主战场，万卡已是标配。随着计算量不断攀升，大模型训练亟需超级工厂，即一个“大且通用”的加速计算平台，以缩短训练时间，实现模型能力的快速迭代。当前，国际科技巨头都在通过积极部署千卡乃至超万卡规模的计算集群，以确保大模型产品的竞争力。随着模型参数量从千亿迈向万亿，模型能力更加泛化，大模型对底层算力的诉求进一步升级，万卡甚至超万卡集群成为这一轮大模型竞赛的入场券。
然而，构建万卡集群并非一万张GPU卡的简单堆叠，而是一项高度复杂的超级系统工程。它涉及到超大规模的组网互联、高效率的集群计算、长期稳定性和高可用性等诸多技术难题。这是难而正确的事情，摩尔线程希望能够建设一个规模超万卡、场景够通用、生态兼容好的加速计算平台，并优先解决大模型训练的难题。
夸娥：国产万卡万P万亿大模型训练平台
夸娥（KUAE）是摩尔线程智算中心全栈解决方案，是以全功能GPU为底座，软硬一体化、完整的系统级算力解决方案，包括以夸娥计算集群为核心的基础设施、夸娥集群管理平台（KUAE Platform）以及夸娥大模型服务平台（KUAE ModelStudio），旨在以一体化交付的方式解决大规模GPU算力的建设和运营管理问题。
基于对AI算力需求的深刻洞察和前瞻性布局，摩尔线程夸娥智算集群可实现从千卡至万卡集群的无缝扩展，旨在满足大模型时代对于算力“规模够大+计算通用+生态兼容”的核心需求，通过整合超大规模的GPU万卡集群、极致的计算效率优化以及高度稳定的运行环境，以万卡智算集群的新超级工程，重新定义国产集群计算能力的新标准。
夸娥万卡智算解决方案具备多个核心特性：
超大算力，万卡万P： 在集群计算性能方面，全新一代夸娥智算集群实现单集群规模超万卡，浮点运算能力达到10Exa-Flops，大幅提升单集群计算性能，能够为万亿参数级别大模型训练提供坚实算力基础。同时，在GPU显存和传输带宽方面，夸娥万卡集群达到PB级的超大显存总容量、每秒PB级的超高速卡间互联总带宽和每秒PB级超高速节点互联总带宽，实现算力、显存和带宽的系统性协同优化，全面提升集群计算性能。
超高稳定，月级长稳训练： 稳定性是衡量超万卡集群性能的关键。在集群稳定性方面，摩尔线程夸娥万卡集群平均无故障运行时间超过15天，最长可实现大模型稳定训练30天以上，周均训练有效率在99%以上，远超行业平均水平。这得益于摩尔线程自主研发的一系列可预测、可诊断的多级可靠机制，包括：软硬件故障的自动定位与诊断预测实现分钟级的故障定位，Checkpoint多级存储机制实现内存秒级存储和训练任务分钟级恢复以及高容错高效能的万卡集群管理平台实现秒级纳管分配与作业调度。
极致优化，超高MFU： MFU是评估大模型训练效率的通用指标，可以直接反应端到端的集群训练效率。夸娥万卡集群在系统软件、框架、算法等层面一系列优化，实现大模型的高效率训练，MFU最高可达到60%。其中，在系统软件层面，基于极致的计算和通讯效率优化等技术手段，大幅提升集群的执行效率和性能表现。在框架和算法层面，夸娥万卡集群支持多种自适应混合并行策略与高效显存优化等，可以根据应用负载选择并自动配置最优的并行策略，大幅提升训练效率和显存利用。同时，针对超长序列大模型，夸娥万卡集群通过CP并行、RingAttention等优化技术，有效缩减计算时间和显存占用，大幅提升集群训练效率。
全能通用，生态友好： 夸娥万卡集群是一个通用加速计算平台，计算能力为通用场景设计，可加速LLM、MoE、多模态、Mamba等不同架构、不同模态的大模型。同时，基于高效易用的MUSA编程语言、完整兼容CUDA能力和自动化迁移工具Musify，加速新模型“Day0”级迁移，实现生态适配“Instant On”，助力客户业务快速上线。
万众一芯，共建大模型应用生态
万卡集群的建设需要产业界的齐心协力，为实现大模型创新应用的快速落地，让国产算力“为用而建”。发布会现场，摩尔线程携手中国移动通信集团青海有限公司、中国联通青海公司、北京德道信科集团、中国能源建设股份有限公司总承包公司、桂林华崛大数据科技有限公司（排名不分先后），分别就青海零碳产业园万卡集群项目、青海高原夸娥万卡集群项目、广西东盟万卡集群项目进行了战略签约。
借助摩尔线程先进的夸娥全栈智算解决方案，各方将携手共建强大的全国产智算平台，以加速产业数字化转型和高质量发展。夸娥万卡智算集群项目标志着国产AI算力基础设施的又一重大进展，将为各地的数字经济发展注入新活力。
图注：摩尔线程与中国移动通信集团青海有限公司战略签约
图注：摩尔线程与中国联通青海公司、北京德道信科集团战略签约
图注：摩尔线程与中国能源建设股份有限公司总承包公司、桂林华崛大数据科技有限公司战略签约
发布会后，无问芯穹、清程极智、360、京东云、智平方等五家合作伙伴代表纷纷登台，分享了摩尔线程夸娥智算集群如何助力其在大模型训练、大模型推理、具身智能等不同场景和领域的创新，展现了夸娥智算集群在实际应用中的巨大潜力与广泛适用性。
摩尔线程愿与广大行业伙伴并肩同行，发挥全栈AI的力量，加速推动一个由万卡智算集群为强大底座，多领域伙伴共建、广泛赋能数字经济的国产智算生态，共同开启一个属于大模型与生成式人工智能的新时代，为美好世界加速。在WAIC期间，摩尔线程将在上海世博展览馆（H2馆D616）开展“全栈AI 为美好世界加速”的主题成果展示，包括加速卡、服务器、超融合一体机和AIGC应用在内的摩尔线程全栈AI产品悉数亮相，并携手众多行业合作伙伴联合展示基于夸娥智算集群的丰富行业大模型与应用方案。
版权文章，未经授权禁止转载。详情见 转载须知 。
本文地址： https://www.gpxz.com/article/960f984606873aa25cd3.html
码农之家为程序员朋友们提供计算机电子书学习资源，打造成编程电子书、PDF文档的专业网站，还提供了计算机相关课本的课后习题答案以及相关可书籍配套资源，为大家学习编程和计算机知识节省成本。
中关村储能产业技术联盟(ChinaEnergyStorageAlliance简称CNESA)是中国最早的专注于储能领域的非营利性行业社团组织，致力于通过影响政府政策的制定和储能技术在电力系统的应用推动储能产业的健康有序发展。储能联盟聚集储能全产业链参与者，为建立适应中国发展的储能市场机制而努力。储能联盟发起成立的“中国储能专家委员会”在研究制定中国储能产业发展战略、倡导产业发展模式、确定中远期产业发展重点方向等工作中，积极发挥先锋带头作用。 储能联盟目前拥有100+会员单位，聚集了中国及国际优秀的储能技术公司、储能系统提供商、上下游设备商、各类集成方案提供商、电力公司及投资机构，覆盖从发电、输电、配电，新能源并网各个环节。目前在联盟运营的基础上已经形成了产业研究平台、政府对接服务平台、信息交流平台、金融服务平台、协同创新资源平台以及全球行业大数据平台，能够有效服务于储能全产业链。
重庆市物业管理协会是由重庆市物业管理和城市、社区服务等相关企业、事业单位自愿结成的地方性、非营利性社会组织，是依法注册登记的行业性社会团体法人；经重庆市民政局批准，于1998年成立。重庆市物业管理协会接受接受登记管理机关重庆市民政局、业务指导单位重庆市住房和城乡建设委员会的监督管理和业务指导，驻地设在重庆市渝中区，注册资金20万元。
中标达标企业作业能力标准和方法及职业操守和信用等级
12生肖运势查询栏目主要是介绍2024年12生肖运势、属相运势、今日生肖运势、本周生肖运势、本月生肖运势等内容，这里可以看到最新最全的每日运程，今日运程等内容，以及各大生肖运势专家2024年运势内容。
拼音团购,抖音生活服务商,抖音小程序,一站式多端合一SAAS小程序制作平台,轻松实现微信小程序,百度小程序,支付宝小程序,抖音小程序,头条小程序,QQ小程序,H5,PC站全端覆盖,平台数据全打通,助力商家轻松实现一站式运营
全线进口名牌化妆品,香水,彩妆,美体产品网上直销
七喜广告
魔学院是面向企业的专业培训管理平台系统，包含移动学习、线上培训、在线考试、OMO课堂、海量培训课程、培训管理等。为金融、医疗、汽车、教育、餐饮的、政府等全领域提供一站式培训系统，搭建企业大学。
新乡市中轻机械有限公司【冯经理13503800788】主要生产果酒前处理设备、硅藻土过滤机、螺旋压榨脱水机、生活垃圾脱水机、餐厨垃圾处理设备、圆盘式硅藻土过滤机、板框式硅藻土过滤机、水果破碎机、葡萄除梗破碎机、鼠笼式苹果破碎机、石榴剥皮机、果酒蒸馏机、单双螺旋果汁压榨机、冰酒压榨机等其他过滤机、压榨机等产品。
海南数航商道网络科技有限公司是一家专业的电商服务平台，致力于为客户提供高质量的生活消费用品。
1uuc手游网(1uuc.com),是专业的手机游戏下载门户网站,为玩家提供最好玩的安卓手游、ios手游下载,分享优质手游攻略及手机游戏资讯新闻;查找手游排行榜2022前十名就上1uuc手游网.
最近发现自己挺会送礼物的，每次送礼物都能得到朋友们的好评，首先和大家分享一下我送过女生朋友们的一些礼物，1.好看的餐具对于喜欢做饭的朋友，我一般会选择送餐具，一是实用，二是在单价不高的情况下可以品质不错的餐具，有几家是我最常买的，我曾经收到了一位可爱豆友的礼物，是一个精致的小盘子，质感很高级，也因此种草了青森食堂这个店，店里的餐具单价...。
在刚刚开始的GoogleI，O大会的Keynote环节中，Google正式发布了全新的移动VR平台——Daydream，还公布了官方的VR头盔和手柄设计参考，介绍完AndroidN的系统更新之后，GoogleVR部门负责人ClayBavor登场讲述AndroidN的VR部分，他表示Cardboard对Google来说只是个开始，Goo...。
在当今的信息时代，光纤通信技术以其高速、大容量和长距离传输的优势，被广泛应用于各种通信网络中，而作为光纤通信系统中的重要组成部分之一，光纤尾纤的选择对于整个系统的性能有着至关重要的影响，本文将为您详细介绍光纤尾纤的几种常见类型，并附上相关图解，帮助您更好地理解并选择适合自己的光纤尾纤，一、光纤尾纤的基本概念光纤尾纤，也称为光纤跳线或光...。
智能驾驶技术部负责人郭继舜雷锋网新智驾按，4月18日，雷锋网新智驾联合上海市国际展览有限公司共同举办，2019AI，智能汽车创新峰会，会上，广汽研究院智能驾驶技术部负责人郭继舜分析了主机厂采取渐进式自动驾驶发展路线的原因和广汽的解决之道，近日，一款搭载L3级自动辅助驾驶系统的广汽新能源AIONLX正式在上海车展发布，广汽新能源此前表...。
核心优势共享，长远化经营免费的领水服务，我们为用户提供免费健康的饮用水，吸引更多用户并增加广告曝光，广告投放平台，我们的广告平台将为您的品牌带来广阔的曝光机会，通过屏幕广告，您的广告将在引人注目的屏幕上展示，吸引更多关注；瓶身广告将在用户领水时持续展示，为您的品牌增加曝光；而柜体广告则能够在高人流量的场所展示，传达您的广告信息给更多潜...。
在索尼的天猫官网旗舰店买的，购置不到7个月，上周ps5精英手柄option键突然很粘滞，按下去像在按阻尼很大的橡皮泥，而且刚开局时按下去没反响，按了几次后有反响了，然而还是很难按压，不使劲就没反响，按完也不会回弹，周六就拿去上海淮海中路直营店培修，店员试了一下看无心外，就送去培修了，3天后培修人员说检测按键配置没疑问，然而按键手感确实...。
综合塔斯社、，俄罗斯报，等俄媒12日报道，俄罗斯副总理兼总统驻远东联邦区全权代表特鲁特涅夫前往，南千岛群岛，日本称，北边四岛，中的伊图鲁普岛，日本称，择捉岛，，日本内务省就此向俄方提出抗议，特鲁特涅夫，资料图，图源，俄新社，俄罗斯报，提到，特鲁特涅夫12日登上伊图鲁普岛，他了解了在该岛上落实无关投资名目标状况，据日本独特社12日...。
[全球网报道记者李梓瑜]据俄罗斯卫星通信社报道，以色列独立媒体，972杂志，8日颁布对以军战士的采访报道，形容了以色列国防军战士射杀巴勒斯坦平民、捣毁民居的细节，报道称，以军战士被准许，简直可以轻易开枪射击，，并被要求分开时烧毁所占据的屋宇，截至发稿前，并未看到以色列官网回应这些说法，报道称，26岁的以军战士尤瓦尔·格林愿地下说明状...。
飞驰汽车公司是环球十大汽车公司之一，成立于1926年，它的前身是1886年成立的飞驰汽车厂和戴姆勒汽车厂，飞驰C300是飞驰旗下推出的一款车型，飞驰C300的参数如下，车身尺寸，长度为4581mm，宽度为1770mm，高度为1448mm，轴距为2760mm，前轮距为1541mm，后轮距为1544mm，能源方面，飞驰C300搭载了一台3...。
三菱是日本的一家驰名汽车制作商，其在环球领有宽泛的开售网络，作为该品牌的关键产品线，三菱轿车不只领有低劣的质量和牢靠的性能，同时还提供了多种不同的车型，上方咱们来逐一引见一下，首先，三菱轿车的经典车型——Lancer系列，Lancer作为三菱车型中的翘楚，在全环球范围内领有宽泛的用户个体，其车型种类丰盛，包括Sedan、Hatchba...。
媒体：王毅同英外相会谈信息量很大
【世界说】校园枪暴横行枪支立法推诿美国家长：我的孩子每天都生活在焦虑之中,美国,枪支,立法,枪击案,校园枪击案,田纳西州
在经过了一场浩大的新冠肺炎疫情后，互联网医疗貌似又被大家推到了风口浪尖，前有丁香医生超38亿次总浏览量，后有微医、微脉在线义诊服务千万人口，在疫情之后百业待兴之际，医疗行业好像找到了前进的助推器，广大实体医院也是积极加入到了互联网医院的建设浪潮之中，本文将通过互联网医院的发展历程、互联网医院的能力进化之路、互联网医院的主流模式、互联网...。
让孩子得到综合性的全面发展是非常重要的，可以为孩子以后更好的成长奠定基础，他塔酷儿童体智训练中心是致力于让孩子德智体美全面发展的品牌，能够不断的超越自我，成就更好的人生，是创业的项目中比较受关注的，那么，加盟塔酷儿童体智训练中心需要多久才能营业，塔酷儿童体适能馆在2010年于北京成立，它主要针对的孩子人群是2到12岁，为这些孩子们提供...。
朝天门火锅，相信很多人印象都比较深刻，它是重庆的一个比较特色的火锅品牌，成立的时间在二零零七年就成立了，到现在为止它的整个行业包括整个品牌的发展其实还是蛮不错的，它现在属于一家连锁的品牌，其不管是食品研发或者是一些后期的运营团队都是一个集体在全国范围内几百个城市都能够看到它分公司的身影，所以这也说明其品牌的延展性还是比较强的，近期也是...。
雷锋网按，雷锋网小编近日跟随数字中国万里行团队探访了国内多家技术较为先进的大型数据中心，包括天津腾讯云数据中心，字节跳动数据中心，张北阿里云数据中心集群等，实地勘察超大规模云数据中心更能体会到一个事实——IT市场正经历洗牌过程，服务器厂商格局的变化业已发生，Gartner数据显示，2017年，戴尔、HPE、浪潮分列前三，最高增速是浪潮...。
雷锋网AI科技评论按，IJCAI，ECAI2018，the27thInternationalJointConferenceonArtificialIntelligenceandthe23rdEuropeanConferenceonArtificialIntelligence将于2018年7月13日至19日在瑞典斯德哥尔摩举行，IJCA...。
