腾讯云发布专有云智算套件 助力企业打造专有智算云 (腾讯云发布网站)

6月28日,腾讯云副总裁李力在A2M人工智能创新峰会上宣布,腾讯云推出基于公有云的成熟实践的专有云智算套件。

该套件集合了腾讯云高性能计算集群构建模块、智能高性能网络IHN、高并发文件存储系统TurboFS、算力加速框架Taco以及GPU算力共享技术等核心能力,与腾讯云专有云平台TCE结合,能够支撑企业基于自有硬件搭建高性能的专有智算云,满足在私有算力环境下训练大模型的诉求。

发布专有云智算套件,助力企业打造专有智算云

据了解,腾讯云智算套件提供的算、存、网一体的云原生能力,能够帮助企业高效利用算力卡资源,解决算力集群的木桶短板效应。比如,腾讯云自研高性能智能网络IHN,能够实现企业算力卡持续稳定高带宽通信;腾讯云高性能文件存储系统,能够有效解决海量数据存储的读写性能瓶颈问题。

同时,智算套件还在调度架构层融合了腾讯云自研的算力加速框架Taco和GPU算力共享技术qGPU。其中Taco基于网络协议、通信策略、AI 框架、模型编译等多层级的优化,能够大幅提升大模型训练和推理业务性能;qGPU能够在算力集群内对算力卡实现精准切分,提升卡的利用效率。

另一方面,腾讯云TCE拥有跟公有云同源同构的技术架构和“一云多芯”的能力,能够灵活支持不同规模的云平台构建,还能屏蔽底层硬件差异,更好地纳管不同类型的硬件设施。

腾讯云智算套件源自腾讯云公有云算力集群HCC的成熟实践。去年,腾讯云在行业率先发布了大模型公有云算力集群HCC,该集群结合腾讯云星星海自研服务器,腾讯云自研高性能智能网络提供的3.2T超高互联带宽,以及腾讯自研高并发文件存储系统,能够为大模型训练、自动驾驶、科学计算等提供高性能、高带宽和低延迟的集群算力。

发布专有云智算套件,助力企业打造专有智算云

当前,AI正在逐步从辅助技术成为引领行业变革的关键要素。作为这一变革的重要支撑之一,云计算正与AI深度融合,孕育出AI原生云这一全新的技术形态。

腾讯云联合Gartner发布的《AI原生云建设与加速指南》指出,AI原生云将AI技术深度融合到云服务的每一个层面,并着重于开放性和生态系统的构建,通过提供丰富的API和SDK,以支持AI原生新服务和应用的开发。

李力介绍,腾讯云将围绕AI原生云,为客户提供生成式AI驱动的新一代云平台架构,为客户带来AI原生理念的基础设施、模型、工程、应用、全栈安全防护等五大核心能力。

其中,基础设施层,腾讯云构建了支持多GPU卡型的统一算力平台,结合长稳训练、利用率提升以及任务和节点的异常恢复机制等技术,能够助力模型训练提效 200%,提升硬件资源利用率至 99%+。

在工程平台层面,腾讯云打造了基于腾讯云高性能服务HAI 与 云端开发工具CloudStudio的GPU开发空间;腾讯云向量数据库提供了全面的数据检索增强套件能力;腾讯云机器学习平台TI提供了从数据标注到模型推理的工具链。在此之上,腾讯云OrcaTerm ai助手、AI代码助手可以提供智能运维、技术问答、代码补全等AI辅助能力。

在模型层,腾讯自研的大模型混元最大参数量级已过万亿,在国内率先采用混合专家模型 (MoE) 结构,部分中文能力已追平GPT-4,在“时新”问题的回答表现上,数学、推理等能力上均有较大提升。同时,腾讯会议等腾讯SaaS产品已经全面接入腾讯混元大模型。

在安全方面,腾讯全栈安全产品都已应用AI技术,并在实际攻防场景中守护安全防线,同时,腾讯云还在积极探索生成式AI在安全场景的落地。

值得一提的是,腾讯云还支持通过分布式云的方式部署,能够为用户在多云、混合云场景下提供一致的产品服务和体验,并且通过集中管控,统一管理位于不同位置的云资源和业务应用,帮助用户在任意位置获取需要的AI原生云资源与云服务。

截至目前,包括百川智能、MiniMax、智谱科技、元象等在内的90%头部大模型企业,都在使用腾讯云的解决方案。

版权文章,未经授权禁止转载。详情见 转载须知 。


本文地址: /article/505b8a4157e9969d0855.html
全局中部横幅
全局中部横幅
威卡压力表|wika压力表|威卡压力变送器|wika压力变送器

北京博朗宁科技有限公司成立于2012年,总部位于北京市朝阳区.其专业从事德国wika公司全线产品在中国大区的销售、推广工作.是国内著名威卡压力变送器,wika压力变送器,威卡压力表的供应商.联系电话:13269068418

天眼查-商业查询平台_企业信息查询_公司查询_工商查询_企业信用信息系统

天眼查专注服务于个人与企业信息查询,都在用的商业查询平台,为您提供公司查询,工商信息查询,企业查询,工商查询,企业信用信息查询等相关信息,帮您快速了解企业信息,企业工商信息,企业信用信息等企业经营和人员投资状况,查询更多企业信息就到天眼查官网!

上海品牌设计公司-上海vi设计-上海画册设计-上海商标设计-上海logo设计-全力设计

深圳市全力形象设计有限公司(全力设计)倡导品牌一体化全程推广营销服务,以“品牌全案策略与传播”和“企业策划与管理顾问”两大核心业务为主,在公司架构上分为全力设计和全力策划两大服务部门。能够胜任不同行业不同品牌的品牌营销整合服务,主要包括市场调研、定位与分析、品牌策略制定、品牌推广、品牌监管等项目。

华人TV-电影资讯网

华人TV(www.hrcntv.net)每天为你分享热点资讯,明星新闻、热点娱乐、生活百科、今天热点有哪些?请关注华人TV!

球盟会.qmh(中国)-官方网站

球盟会,qm球盟会·(中国),qmh球盟会·(中国)球盟会,是综合性平台,球盟会.qmh(中国)-官方网站,主打信誉第一,客户第一的经营理念,为玩家创造安全可靠的游戏体验。

金属设施_雕塑_不锈钢_成都品诚金属设施工程有限公司

成都品诚金属设施工程有限公司是一家集金属材料的产品及装饰研发,设计,生产,施工于一体的现代化科技创新企业.专注从事地铁,机场,酒店,园林金属产品配套:不锈钢产品及装潢,钢结构,幕墙,广告灯箱,金属栏杆,导向标志,道闸,雕塑,座椅,垃圾桶,电缆桥架,人防门槛,地铁,出入口钢结构雨棚及卷帘门,酒店设备等项目.电话:13808008517

汇流高科机电设备有限公司 - 污水提升器,污水提升泵,污水提升装置,广州深圳珠海东莞佛山中山污水提升泵,污水提升泵站,manfield 孟斐德泵业

manfield孟斐德泵业创建于2010年,专注别墅住宅地下室污水提升泵,产品获得出口欧美CE认证、SGS认证等各项顶级认证。十余年服务了上万家别墅客户。拥有铬镍电机、超低滞留,一机三挡,自洁净等多项独特设计,其独创的紧凑型双泵型号深获高端别墅客户的好评。

摩尔龙 - 用科技践行普惠金融,让金融感动生活!

致力于用先进的互联网技术和金融科技创新应用为个人和小微企业提供更加安全、高效、低成本的金融服务。

唯一网络-南兴股份(002757)全资子公司

广东唯一网络科技有限公司(简称“唯一网络”)正式成立于2006年,专业提供数据中心、云计算、云联网、绿色能源等服务。2018年4月通过中国证券监督管理委员会上市公司并购重组审核委员会审核,正式成为南兴装备股份有限公司(股票代码:002757)的全资子公司。

bounea传感器-厦门特尔克斯电子有限公司-bounea   特尔克斯  厦门特尔克斯电子有限公司

厦门特尔克斯电子有限公司是一家专业从事传感器开发、生产、销售服务于一体的企业。产品广泛应用于军工、交通、塑胶、冶金、化工、纺织、烟草、食品、印刷、仪器等行业的工业机械设备及自动化生产线,具有定位检测、信号传送、自动计数、测速等作用。公司的所有产品在不断吸纳、融合国内外先进科技的同时,参照国际标准研发和生产。公司生产的系列接近开关、光电开关、线性输出开关、磁性开关、洗车机专用光电开关,同国外的众多品牌同类产品相比,具有性价比高,可完全替代进口同类产品。我们始终坚持以科技进步为先导,秉承“品质第一,顾客至上”为宗旨,在发展中不断完善自我,为客户提供售前到售后的全方位的服务。

广州电商摄影公司_拍摄公司_富东摄影

广州富东是一家专业从事商业广告摄影与设计、商业广告视屏拍摄与制作、电商淘宝摄影、电商视觉策划设计为一体的传媒公司,服务项目涵盖视频制作、企业宣传片拍摄制作、商业广告摄影、产品摄影、服装摄影、模特拍摄、形象照拍摄、图片拍摄等。

全局底部横幅