为了AI大模型 数据中心服务器 要成潮流 泡澡 (为了模特梦陷入深渊是什么电影)

为了AI大模型,数据中心服务器「泡澡」要成潮流

当AI写论文,做旅行攻略,作画,写诗能够媲美甚至超越普通人水平时,有人兴奋不已,也有人忧心忡忡。

普通人对于生成式AI可能带来的变化态度各有不同,但推动这一技术发展的研究人员和企业都有一个共同关注的问题——大模型所需的大算力需求带来的能耗问题如何解决?

以火爆全球的OpenAI公司ChatGPT为例,两年前,微软为了满足OpenAI的GPT-3模型训练的算力需求,专门推出的超级计算机拥有28.5万个CPU核心、1万个 GPU。

巨量的CPU和GPU带来的是高昂的芯片采购和运营成本。

国盛证券报告估算,GPT-3训练一次的成本约为140 万美元。要用ChatGPT服务用户,以2023年1月的独立访客平均数1300万计算,每日电费在5万美元左右。

数据中心的能耗问题成了再一次摆在了云计算提供商面前的挑战。为了解决这一问题,无论是微软Azure、阿里云都早已让数据中心的服务器用“泡澡”的方式来散热,提升IDC的能源效率。

“我认为ChatGPT会加速液冷的发展, 目前液冷几乎已经成为一个潮流。 ”英特尔市场营销集团副总裁、中国区数据中心销售总经理兼中国区运营商销售总经理庄秉翰在本周举行的2023英特尔可持续发展高峰论坛期间表示。

ChatGPT助推,服务器「泡澡」要成主流

服务器“泡澡”是一种比喻,实际上代表的是服务器散热液冷技术中的浸没方式,液冷技术包含了冷板、喷淋、浸没式,并非一个特别新的技术,但业界的使用率并不高。

主要原因是国内许多冷板液冷设计缺乏一个规范的验证标准, 使得每个厂家设计都有差异,这使系统设计成本、验证成本比较高,因此对于最终用户而言这个方案就比较贵。”英特尔数据中心与人工智能集团副总裁兼中国区总经理陈葆立认为。

技术和标准之外,应用也是液冷技术没有大规模部署的原因。

高性能应用环节可能才需要液冷,但是大量的应用并不是那么高功耗的应用, 而且在国家也提出‘双碳’战略之前,紧迫性和必要性没有那么高。”宁畅总裁秦晓宁说,“现在的情况不一样,CPU的功耗可能高达270W、300W,未来可能350W,GPU现在都400W、500W了,可能就必须应用液冷技术。”

更进一步,算力规模也是影响液冷技术大规模应用的关键。

“包括ChatGPT在内的应用带来的算力快速发展,是促使大多数客户快速从风冷技术转向更节能的液冷技术的重要原因。”新华三集团计算存储产品线副总裁刘宏程认为,“ 这不仅是可以节能多少的问题,还有空间浪费的问题。 存量的数据中心当中无法容纳新的能耗过高的设备。比如GPU服务器会导致空间的占用,以及提高数据中心的管理和运营费用。这促使更多中国客户在快速考量更新数据中心整体设计时,转向更节能、更先进的液冷数据中心的方式来解决能耗和平衡的问题。”

当用户需求激增→标准建立→规模效应体现→整体成本自然下降的循环形成之后,可以加速推动产业从传统数据中心转向新型节能的数据中心。 ”刘宏程进一步表示。

数据中心的能耗从来都是挑战。信通院2022年发布的数据显示,2021年底到2022年,全国已有近520万个数据中心的基架进入部署,且过去五年的年均复合增长率达到30%。同时,全国数据中心的用电量已经达到了全国用电的2.6%,而且这个比例预估还会继续增长。

为了AI大模型,数据中心服务器「泡澡」要成潮流

面对能源的挑战,政府指导单位也推出了一系列宏观政策指导行业的发展,包括三个重点方向:规划、能效、利用率。2022年6月工信部等六部门发布《工业能效提升行动计划》中明确规定,到2025年,新建大型、超大型数据中心PUE优于1.3。

PUE(Power Usage Effectiveness)是用于衡量IDC能源效率的指标,是用IDC总能耗除以IT设备能耗得来。

数据中心不同的散热技术直接影响PUE, 采用风冷散热的数据中心PUE能到1.4-1.5,如果使用液冷散热,PUE可以做到近1.1。

破解液冷技术大规模应用的成本和标准挑战

“整体而言, 我们主要从三个部分探索数据中心的绿色低碳: 第一部分,处理器产品;第二部分,服务器整体设计;第三部分,软件与工具。”陈葆立指出。

要从处理器层级解决液冷的挑战,主要是技术挑战,对于强调创新的英特尔难度可控。今年1月发布的第四代英特尔至强可扩展处理器,在深层环节已经使用了90%的可再生电力。

为了AI大模型,数据中心服务器「泡澡」要成潮流

服务器层面的挑战就有技术和成本的挑战。

“假设管道或液体突然泄漏,整个电子器件如果说有损耗怎么办?这需要大量的验证,这是为什么我们和很多业内领先伙伴,如宁畅、新华三,一起做了非常多的试验。其实很多厂家也都提供了各种不同的方案,但是我们需要大规模验证去证明这些应用在液冷中的液体可以真正的安全的使用,并且不影响整个作业和服务。”陈葆立表示。

技术的问题相对容易解决。刘宏程就提到,在最新的服务器里面,英特尔创新地推出英特尔电源汇流排技术(Power Corridor),通过限流板的方式,针对CPU底座进行设计,可以降低整个部件级的能耗。

相比之下,成本的挑战更加巨大。 使用液冷可能会带来10-20%的成本增加。

“许多冷板产品各个厂商都可以支持,但标准不统一,甚至快插的接口大小、尺寸都不一样。无论是从成本还是通用性角度,没有统一规范,对于客户是一件非常困扰的事情。因为每家服务器厂商的产品不同,有可能到了客户的机房甚至都无法使用。”秦晓宁表示。

为了AI大模型,数据中心服务器「泡澡」要成潮流

而推动成本降低的关键是标准。英特尔携手20余位生态伙伴经过过去半年的努力,共同编纂的 冷板液冷团体标准已于今年3月15日正式发布, 英特尔希望通过标准化降低产业与技术门槛,推动冷板液冷技术的普及化,让所有的用户能够更普惠的使用到这项最新技术。

了解到,目前冷板的成本逐步下降,因为许多成本与量相关,冷板标准统一后,产量提升会带来成本的下降。

“浸没式液冷是一项难度系数更高的技术,我们也在研发上做出了一系列投入,目前英特尔正与国内领先伙伴就此进行联合研发, 我们希望能在今年下半年把相关经验与设计规格通过白皮书分享给业界伙伴,加速浸没式液冷解决方案落地。 ”陈葆立透露。

庄秉翰指出,“通过这些标准可以增大整个市场产业化进程,加速产业化可以降低成本,降低成本之后才能让基于液冷的数据中心更加普及。”

如果没有形成规模,定制化的成本相对较高。 ”刘宏程认为,“由英特尔带动把液冷所有标准建立之后,产业链所有的供应商将用统一标准来实现互连、互操作,这能够极大降低采购成本以及在未来数据中心的运维成本,让整体液冷技术在数据中心更容易落地。”

目前,国内几个服务器使用的头部行业,如互联网、运营商、金融行业等,对液冷都已经跳过了POC阶段,进入到了规模化采用的状态。

仍需强调的一点是, 液冷会在数据中心大规模应用,但并非所有数据中心都一定要用液冷。

“未来新的至强处理器可能会升级到拥有100个能效核,CPU的电源功率可能还是300W或350W。所以理论上来看,它在风冷上也可以应用。”陈葆立指出。

对于存量的数据中心市场,同样也有提升能源效率的方式。

为了AI大模型,数据中心服务器「泡澡」要成潮流

“近期我们把绿色数据中心技术框架升级到2.0版本,拥有高能效与高功率密度、先进散热技术、基础设施智能化和材料&可循环设计四个垂直领域,以及XPU、服务器、机架、数据中心四个水平方向的共13种关于节能减碳的方案。”陈葆立表示,“英特尔智慧节能解决方案基于模块化的软件设计理念,可通过软件和AI模型进行预测和干预,进而提升整体运行能效。”

据悉,英特尔和一家运营商在20个省的总共420多个机房里, 通过智能节能方案把存量数据中心的PUE从1.49降到1.38,获得了可观的成本节省。

正如英特尔公司首席执行官帕特·基辛格在2023英特尔可持续发展高峰论坛上所说,“科技是实现绿色经济的唯一途径,但我们在发展数字技术的过程中也消耗着更多的能源。因此,我们的责任与机会并存,共同创造一个可持续计算的未来,责无旁贷。”

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: https://www.gpxz.com/article/bbb17ec76813e745c408.html
全局中部横幅
全局中部横幅
感恩网

感恩中国网站是目前最有影响力和公信力的一对一爱心助学捐赠和图文故事网站。

薯片企服

薯片企服是成都薯片科技有限公司旗下自研可信企业服务平台,薯片企服依托智能科技,传递价值生意,致力于为全类型,各阶段的企业及个人提供:工商服务、会计代理、财税咨询、商标注册、专利申请、资质办理、许可证代办、品牌设计、网站建设、小程序开发、营销推广、人事社保代理等多品类的线上服务。

南京新日奔工机技术有限公司

依托母公司SNK的技术和管理经验,面向中国客户的需要,致力于SNK机床的销售、售后服务和培训服务

制氮机厂家

苏州华阳气体设备有限公司是一家专业的制氮机厂家,也是专业氨分解,psa制氮机,氮气发生器供应商,欢迎有需求的客户联系我们,竭诚为您服务!

河南甜塔信息技术有限公司,甜塔科技,河南甜塔,智慧景区,中国银联,甜塔科技与中国银联,甜塔智付,洛阳智慧景区,银联旅游节,甜塔科技银联,专业研发团队,

河南甜塔信息技术有限公司作为中国银联商服事业部文旅团队数字旅游全国智慧景区落地服务执行团队、中国银联云闪付isv系统开发商,同时也是微信、支付宝isv系统开发商,集合了云闪付、支付宝和微信支付、合作银行优势以甜塔科技技术开发能力向甲方提供更优惠、更优质的服务等互联网+的全方位整体解决方案。

知识产权司法保护网(知产法网)

知识产权司法保护网创立于1999年6月,网址为http://www.chinaiprlaw.cn/和www.chinaiplaw.com,是立足于知识产权行业,致力于知识产权司法保护领域的重要网站,网站旧版主要有以下栏目:案例分析、文书精选、法律法规、审判机构和审判信息等,网站创办至今,至少已有400多万名以上专业访客,通过网站在业内良好的知名度和美誉度,大力推动了知识产权司法保护理论和实践的发展。

杭州科莱迪环保技术有限公司

杭州科莱迪环保技术有限公司位于风景秀丽的浙江省杭州市,创建于2003年,致力于环境保护工程,科技攻关,新工艺研法应用;新产品开发与生产为主导,博采国内外先进的给排水处理工艺和设备的长处。对生活污水、工业废水处理与资源回用等净化消毒技术,进行了长期的开发与应用,研制生产出了新一代,先进典型实用的消毒新产品“CL缓释消毒器”,并已申报了国家专利,同时赢得了广大用户的青睐。对此,本厂遵循专业、诚信、创新的精神,奉行质量第一,用户至上的宗旨,为推动中国环保事业作出自己的贡献。

光伏

索比光伏网是中国光伏太阳能产业权威网站,为用户提供最新的光伏太阳能资讯、光伏发电政策、光伏电站项目、光伏企业、光伏产业,光伏发电,太阳能光伏论坛,光伏逆变器,光伏供求、光伏展会、光伏电站、分布式光伏发电、光伏组件、电池片、多晶硅、光伏上网电价等光伏行业信息。

调味品

开平市利是达调味食品有限公司,自1999年创立至今,专注调味食品领域已有20余载,坚持以传统酿造工艺和先进技术相结合为品牌战略重心。我们一直坚持原汁原味酿造酱油和各式酱料,紧随着各国家庭饮食爱好和烹饪技巧日益多元化趋向,不仅畅销全国二十多个省市,深受客户好评,更远销欧洲、美洲、非洲、东南亚等海外地区。

红酒杯

瑞信玻璃,13年来专注中高端红酒杯,高脚杯,玻璃杯,礼品红酒杯定制服务.已成功为100多家品牌进行代加工.专业设计团队,精细化生产管理体系,从设计到生产一站式服务

宁波银行

宁波银行,专业创造价值,提供信用卡申请,转账汇款,贷款消费,企业融资,汇率管理,投资理财等综合金融服务,更可登陆网上银行,手机APP办理更多业务。


全局底部横幅