腾讯云助力MiniMax打造大模型 规模超千卡 可用性达99.9% (腾讯云助力短剧出海)

文章编号:38658 最新资讯 2024-12-01 大模型创业 腾讯云 MiniMAX
腾讯云

高效灵活的云上基础设施,是大模型创业的必要底座。

7月20日,腾讯云对外披露助力Minimax研发大模型的最新进展。目前,腾讯云长期支持MiniMax的千卡级任务稳定运行在腾讯云上,可用性达99.9%。

MiniMax是一家专注通用大模型研发的独角兽创业企业,拥有文本、语音、视觉多种模态融合的通用大模型引擎能力。研发过程中,每日亿级的调用次数,也带来了对算力的海量需求。

从2022年6月起,基于算力集群、云原生、大数据、安全等产品能力,腾讯云为MiniMax搭建了从资源层、数据层到业务层的云架构。

在资源层,高性能、高弹性和高稳定的算力需要借助专业的云服务。腾讯云协同优化单机算力、网络架构和存储性能,为MiniMax构建起大规模、分布式的HCC高性能计算集群。

借助腾讯自研的星脉网络,HCC集群将通信损耗降到更低;CFS Turbo、COS+GooseFS高性能存储,使得上千个计算节点能同时高速读取训练数据。

同时,利用腾讯云容器服务TKE,MiniMax实现了对不同规格云服务器的统一管理和调度,各种类型的应用和服务得以部署在同一套基础设施上,资源实现了高效整合,资源利用率大幅提升;

基于云原生的管理方式,支撑7*24小时的全局监控视角,支持编排、框架、实例等多层级的指标监控。一旦触发故障,能够在5分钟内恢复任务、10分钟内恢复基础设施,无需人工干预完成,能够最大化保障任务连续进行。

根据实测数据,在云底座的支撑下,激增的并发计算量;基于云原生支撑,MiniMax整体用云成本降低20%。

可用性达99.9%

在数据层,MiniMax在大数据分析方面也有大量的任务需求。

通过腾讯云的数据集成DataInlong、流计算Oceanus、数据湖计算DLC等云原生大数据产品提供的数据处理能力,对大量数据做实时或离线分析,满足了MiniMax在各个阶段的数据分析需求,实现数据的快速灵活部署。以容器化的方式使用大数据组件,使得模型验证、推理等任务得以按计划推进。

此外,大模型研发过程中,MiniMax对云上资产安全、Web业务运营风险、DDoS攻击防护等高度关注。

通过引入腾讯云的防火墙、WAF、主机安全、漏洞扫描、数据加密、iOA零信任安全管理等一系列安全产品,MiniMax实现了对云上资产的全方位保护,确保业务的稳定运行和数据的安全性。

业务上云后,基于海量、弹性的算力支撑和大量改进调优,MiniMax的大模型研发得以加速。

MiniMax业务副总裁魏伟表示:“成熟的云基础设施,既满足了业务弹性与稳定性的需要,又提升了研发效率。MiniMax将进一步扩大用云规模, 与腾讯云加速训练、推理等更多业务场景的云上落地,共同打造面向大模型的云上基础设施。相信未来,云计算会为AIGC带来更多可能。”

在算力集群、星脉网络、向量数据库之外,腾讯云还推出了涵盖模型预训练、模型精调、智能应用开发的一站式行业大模型解决方案,助力企业快速搭建专属模型。

未来,腾讯云将继续通过软硬一体的方式,持续加速全社会云上创新。

版权文章,未经授权禁止转载。详情见 转载须知 。


本文地址: /article/52c118f8194156b042c4.html
全局中部横幅
全局中部横幅
中国天气网省级站

天气网省级站,提供全国2348个城市的天气预报、生活指数、 健康指数、交通指数、旅游指数,及时发布天气网省级站气象预警信号、各类气象资讯。并以省、市为单位发布区域性强、针对性强、内容丰富、贴近百姓生活的精细化产品和服务

天津聚氨酯发泡机,山东聚氨酯发泡机,河北聚氨酯喷涂机,四川聚氨酯喷涂机-山东九旭机械科技有限公司

山东九旭机械科技有限公司厂家直销聚氨酯喷涂设备、天津聚氨酯发泡设备、聚氨酯发泡设备、聚氨酯浇注设备、聚脲设备、山东聚氨酯发泡机、河北聚氨酯喷涂设备、四川聚氨酯喷涂机,九旭机械愿与您携手共同发展.销售热线:18615191620

东风精密铸造有限公司

东风精密铸造有限公司是中国铸造协会副理事长单位,中国铸造协会精密铸造分会会长单位,中国铸造行业综合百强企业,中国精铸标杆企业,湖北省高新技术企业,湖北省级企业技术中心,湖北省创新型企业建设试点单位的公司,86-719-5667415,86-719-5660101

雪松树-雪松价格-雪松小苗-雪松基地「南京俊杰苗圃场」

南京汤泉雪松苗圃基地自产自销,咨询电话:13914797733,最新雪松小苗价格。长年供应各种规格雪松、雪松小苗、雪松工程苗以及雪松树苗绿化方案指导。

深圳市蓝电精工电气有限公司-BPP蓝电精工-首页

高压绝缘件,有断路器固封极柱、熔丝筒、双通套管、开关壳体、穿墙套管、绝缘子、绝缘筒、触头盒、传感器等,并集新产品技术开发、来图来样加工、生产、技术培训、销售服务于一体的科技型企业,是环氧树脂压力凝胶高品质绝缘件的制造商、供应商。

山东滨盛文旅体育产业集团有限公司_文旅娱乐_文体教育_商旅服务_景区投资_旅游金融

山东滨盛文旅体育产业集团有限公司成立于2020年2月,是按照滨州市委、市政府“富强滨州”战略部署组建的市属八大投融资平台之一。

昆山广告印刷专业提供昆山彩页印刷,昆山画册印刷,昆山样本印刷,昆山说明书印刷,昆山表单印刷等服务,是您出色的印刷合作伙伴

昆山友诚印刷是一家专业彩页样本画册,昆山不干胶标签,表单,无碳联单,说明书,环保纸杯,信封,公司信笺,手提纸袋,无纺布袋,宣传单页,彩色名片等纸制品印刷电话:0512—50106653

玻璃反应釜-旋转蒸发仪器-玻璃精馏实验装置-实验室精馏设备-予华仪器

上海予华仪器设备有限公司(www.yuhua17.com)主要生产销售玻璃反应釜,不锈钢反应釜,旋转蒸发仪器,分子蒸馏装置,玻璃精馏装置,实验精馏装置,精留塔,高低温循环装置等实验仪器设备,产品优质,售后服务体系完善,欢迎咨询。

92电影网_92影院_九二电影网_最好的在线看电影和电视剧的网站

92电影网为您提供非常好看的电影大片、当前最火的热播电视剧,精选最新最好看的动漫及综艺节目,是一个大家都喜欢的影视网站。

临清兴和宏鑫机床|数控磨床|圆台磨床|平面磨床|立轴磨床|卧轴磨床|立式加工中心

临清兴和宏鑫机床有限公司,原成立于1955年的临清机床附件厂、临清磨床厂改制后组建的科技创新的型股份公司。现是中国专利山东明星企业、山东省科技型中小企业、国家级科技成果推广依托单位,山东省高新技术企业。主营产品有卧轴圆台平面磨床,立轴圆台平面磨床,矩台平面磨床,电永磁吸盘,电磁吸盘,永磁吸盘,立式加工中心等各类专用数控磨床和机床附件产品。

全局底部横幅