云端AI芯片落地难题如何破解 (云端AI芯片)

提到AI的落地你最先会想到什么?

有人想到了AI芯片的利用率以及底层硬件的调度;有人想到AI芯片的算力效益;还有人想到算力服务。

AI的落地,能够为智慧城市的建设,更精准的天气的预测,构建更安全的网络环境等提供底层支撑。

云端落地难题如何破解?

但是,AI的落地依旧面对诸多的挑战。比如,如何才能将AI用起来?如何才能渐进式的实现AI的价值?如何基于AI发展算力经济?

这逐层渐进的问题,考验着所有提供AI技术以及想要使用AI技术的人。对于最底层的AI芯片的提供者,目前非常棘手的问题之一就是软件。

燧原科技创始人兼COO张亚林在2022世界人工智能大会上就表示:“根据过往落地实践,我们发现, AI数据中心因其软件运维复杂,普遍具有方案选型难、各厂商产品兼容未知等痛点,而且数据中心部署交付周期长、沟通成本高、项目管理周期长。

软件问题,特别是基于云端高性能AI推理和训练芯片的上层软件和生态,限制着众多AI芯片创新者的发展。

燧原科技创始人、CEO赵立东认为,“生态的垄断是目前我们面临的最大挑战,而生态垄断的原因是紧耦合的软件和硬件。因此,我们一定要创新。”

为了解决当下云端AI芯片落地的挑战,不同的公司会从不同的维度突破软件和生态的挑战。

2022年9月3日,燧原科技在“算尽其用·定义AI算力中心新实践”云端算力产业应用论坛上给出了解决这一挑战的答案——云燧智算机(CloudBlazer POD)。

云燧智算机是针对大规模、集约化人工智能算力应用场景的高性能AI加速集群,有一站式预集成人工智能加速硬件、一体化开发与管理平台及配套人工智能应用软件与服务,适用于数字政府、科研院所、科创平台等。

简单来说, 燧原科技在解决高性能云端AI芯片落地给出的一个解题思路就是“开箱即用”。

何为开箱即用?在交付方式上,云燧智算机提供包括采购、安装、运维一体的交钥匙方案。

能够以这样的方式交付,还是因为云燧智算机采用一体化设计。

硬件的算力层面,基于燧原科技已经发布的自研AI高性能芯片。在典型配置下,云燧智算机每单元可达到8PFLOPS的TF32浮点算力,并且支持按需横向扩容,可支持数千卡规模集群, 能够实现顶级超算的E级算力。

同时,云燧智算机也集成了合作伙伴的CPU,提供充足的算力。但计算集群除了算力这个核心要素之外,网络和存储和非常关键。

云端落地难题如何破解?

张亚林介绍,“云燧智算机代表了燧原科技经过多个大规模工程实践所形成的计算、网络、存储的整体设计:以全局优化为目标,基于计算、存储、管理网络分离,全互联无阻塞的网络架构,结合高效的多级存储方式,在‘邃思’AI芯片与CPU的异构算力支撑下,云燧智算机能够提供卓越的AI性能。”

了解到, 燧原科技的第一代和第二代“邃思”芯片已实际应用于大规模AI集群工程中,落地规模达千卡级别, 场景包括融媒体生成、城市智能感知等。

当然,提到计算集群就不得不关注数据中心整体能效(PUE),特别是在双碳目标以及绿色环保的总体趋势,以及东数西算有政策性要求。据悉,云燧智算机采用一体化冷板式液冷技术,实现单节点8颗高性能人工智能芯片液冷散热, PUE可降至1.1及以下。

前面提到,AI落地一个巨大的挑战就是软件。不过软件是一个很宽泛的概念,既需要能够提升AI芯片利用率的编译器、库等,也需要算力平台的管理软件。

随最新推出的云燧智算机一起推出的是燧原科技提供燧池智算平台(CloudBlazer Station),包含基础设施层的异构算力调度平台,智能运维平台,驭算软件栈SDK,算法服务层的智能算法管理平台以及训推一体化平台。

云端落地难题如何破解?

同时,面对超大参数量的巨量模型趋势, 云燧智算机可支持超千亿参数巨量模型的高效、并行训练, 这主要是得益于云燧智算机计算节点内基于GCU-LARE2.0多芯互联技术提供近1TB/s的互联带宽,跨节点互联能力高达600Gb/s,可实现千卡级大规模集群高速互联。

开箱即用的计算集群确实能够在一定程度降低使用者的门槛,但计算集群毕竟是一个复杂的系统,最终能在多大程度上促进高性能ai计算的落地,还需要用更多的落地项目证明。

云端落地难题如何破解?

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: https://www.gpxz.com/article/2f7e8e07fdae9f23656b.html
全局中部横幅
全局中部横幅
主营:高密度聚大口径双壁波纹管

广东国通新型建材有限公司,公司主营高密度聚大口径双壁波纹管硬聚双壁波纹管,公司位于:广州市南沙区黄阁镇黄阁中路乌洲大道1号之三,广东国通新型建材有限公司是由安徽国通高新管业股份有限公司和广州南沙建...

巴别鸟

巴别鸟为企业提供企业网盘、企业云盘、私有云存储、移动办公等文件管理共享的协同办公服务,在线档案管理、审批管理、同步协作、权限管理等,领先业界高达A+的安全评级妥当保护企业数字资产

六一网

展示一些个人性的,对于通过各种途径收集而来的理论、概念定义、创意、理念、原理、思维方式、思路、模式、方法、构造、现象、问题、科技发展前景、发明创造应用方向、技术改进方案、知识产权保护、案例、人物经历、能力、喜好、情感、故事与传说、心得体会、体育运动、景观介绍、新功能介绍、生活情趣、天文气象、地质地理、动植物生态、民族文化和风情、食物烹饪、综艺与游戏、文艺节目、影视音乐、艺术、建筑风格、地标建筑、交通设施、不同类型的旅游形式、工具的使用拓展等等方面进行创新的分类,多角度观察、思考、解析、组织重构所产生的创造性想法,以及与之有联系的对象。个人性的想法都是公开的、无偿的、共享性的。

温州川龙汽车部件有限公司

温州川龙汽车部件有限公司(原名:瑞安市川龙汽车部件有限公司)是一家专业生产各种汽车、农用车、点火开关、全车锁芯及内外门拉手的现代化企业。

上海澎博财经资讯有限公司

上海澎博财经资讯有限公司是期货软件和期货信息服务提供商。旗下核心企业最早创立于2000年,是国家认定的软件企业和高新技术企业。“澎博”品牌设计开发的知名系列产品包括:博易大师——网上期货行情系统;闪电手——网上期货下单系统;报价王——Dos版局域网行情系统;博易APP——手机期货行情/下单系统。

合肥物流公司

叶融物流是提倡优质服务理念的专线物流公司,专注于中港物流领域,以合肥物流、巢湖物流、芜湖物流、马鞍山物流、安庆物流、滁州物流、阜阳物流、六安物流、宿州物流、亳州物流、蚌埠物流、宣城物流为核心,致力于为客户提供优质高效的货物运输服务。

网恋故事

分享网恋中酸甜苦辣的故事,恋恋不忘,必有回响。

包装盒,外卖打包盒

腾亚包装(营口)有限公司坐落于辽宁省盖州市太阳升老爷庙村,是一家集设计、生产和销售可循环使用打包盒、包装盒、外卖打包盒为主的新型包装材料公司。

八九财金

八九财金(891z.com)每日贷款知识分享,为您解惑各种贷款常见问答。发布企业贷款,个人贷款,房屋、车辆抵押贷款等贷款信息,查贷款信息,涨贷款知识就上推财网。

CSC程速物流快递官网/平台,

CSC国际物流专注于中国至新加坡、澳大利亚、加拿大、新西兰、马来西亚、印尼、伊拉克的海(空)运输散货(拼柜)双清到门海运物流业务,包含:澳洲海运、阿德莱德、奥克兰、澳洲、布里斯班、多伦多、基督城、新加坡、马来西亚、墨尔本、帕斯、温哥华、悉尼海运双清。

简验LPE

简验LPE是一款性能验证管理平台软件产品,旨在构建简单、高效的实验室程序验证体系,将 标准指南验证方案通过规范的流程信息化,帮助医学实验室摆脱低效落后的验证方式,快速有效地 完成性能验证工作,建立标准体系。产品目标有如下几点内容: 一:规范验证流程。摆脱落后的手工制作Excel模板、第三方软件等方式, 从检测仪器-分析项目的角度以验证方案与验证计划为基础为医学实验室制定规范的性能验证流程。 验证流程图绘制 二:制定验证标准。通过行业专家科学有效的分析与理解国家卫计委(NHC)、认可委(CNAS)制定的一系列性能验证指南, 制定了性能参数,验证算法,验证图形以及验证报告的标准规范。 a:性能参数。主要包括检测仪器、分析项目、样本、单位、试剂、厂家声称指标、参数方案信息,以及参数附加信息等。 b:验证算法。每个性能参数都采用不同的算法来计算所需的验证结果,比如重复精密度,期间精密度,偏移标准差,验证区间等。 c:验证图形。为了更加直观的展示检测结果数据的分布与趋势针对不同性能参数绘制多种图表,主要包括散点图,回归图,偏移图等 d:验证报告。每个性能参数的验证报告都包含项目参数,实验数据,验证图形,计算结果等标准的模板信息 三:助力性能评估。产品助力检测人员评估和测量实验室性能指标,在以下情况下需对相关仪器或者试剂完成性能指标的评估工作。 a:新设备或试剂。医学实验室新购置仪器检测设备或者新的检测试剂,投入临床使用前。 b:设备部件更换。检测仪器设备的重大维修和校准后,比如检测部件的更换等。 c:设备搬迁。检测设备搬迁到新的场所或者长距离移动后。 d:试剂更换。仪器设备所用的试剂配方出现调整,比如试剂的更新换代。 四:树立软件标杆。为国内的医学实验室提供信息化,智能化,标准化的信息系统软件,力争成为性能验证软件的标杆产品。 a:继续深入解析标准指南。针对卫计委(NHC)以及美国临床和实验室标准协会(CLSI)制定的EP指南,完善定量与定性验证方案、半定量验证、验证确认等。 b:不断的快速迭代更新。积极收集使用用户的反馈与建议,通过优化设计提升产品的用户体验,不断进行新版本的迭代更新。 c:专业的教学指导。通过检验医学从业人员以及专业学校组长的教学指导内容的挖掘与提炼,结合软件向广大检验人员提供专业的性能验证教学向导。

全局底部横幅