巨量模型时代 打造全球最大中文语言模型 2457亿 浪潮不做旁观者 (巨量时代(深圳)科技有限公司)
看到这首诗歌，有超过50%的人误以为是人类的杰作
但其实，它出自巨量模型 源1.0
经过图灵测试认证，源1.0 写诗歌、写对联、生成新闻、续写小说的能力已经让人类的平均误判率达到了50.84%。（超过30%即具备人类智能）
9月28日，浪潮人工智能研究院正式发布全球最大中文预训练语言模型“源1.0”。历时四个月研发，源1.0参数量已达2457亿，约gpt-3的1.4倍。
中国工程院院士、浪潮首席科学家王恩东表示，源1.0巨量模型旨在打造更“博学”的AI能力，未来将聚合AI最强算力平台、最优质的算法开发能力，支撑和加速行业智能转型升级，以更具备通用性的智能大模型成就行业AI大脑。
“源1.0”定位中文语言模型，由5000GB中文数据集训练而成。在国内，以中文语言理解为核心的大模型不在少数，参数规模均在亿级以上，如悟道· 文源 26 亿，阿里PLUG 270 亿；华为&循环智能「盘古」1100亿。相比之下，2457亿的 源1.0 可以说是单体模型中绝对的王者。
更值得关注的是，源1.0是业界首个挑战“图灵测试”并且使平均误判率超过50%的巨量模型。图灵测试是判断机器是否具有智能的最经典的方法。通常认为，进行多次测试后，如果人工智能让平均每个参与者做出超过30%的误判，那么这台机器就通过了测试，并被认为具有人类智能。源1.0逼近通过图灵测试，再次证明了大模型实现认知智能的潜力。
为何加入这股“浪潮”？
近几年，巨量模型在人工智能领域大行其道，BERT、GPT-3、Switch Transformer、悟道2.0相继问世，出道即巅峰，在产学各界掀起一阵阵巨浪。如今“巨量模型”一词已经成功破圈，成为全民热词。那么，人工智能遭遇了哪些瓶颈，巨量模型又带来了哪些可能性？
在会后采访中，浪潮信息副总裁、AI&HPC产品线总经理刘军表示，人工智能模型目前存在诸多挑战，当前最首要的问题是模型的通用性不高，即某一个模型往往专用于特定领域，应用于其他领域时效果不好。
也就是说，面对众多行业、诸多业务场景，人工智能需求正呈现出碎片化、多样化的特点，而现阶段的AI模型研发仍处于手工作坊式，从研发、调参、优化、迭代到应用，研发成本极高且难以满足市场定制化需求。而训练超大规模模型在一定程度上解决通用性问题，它可以被应用于翻译，问答，文本生成等等，涵盖自然语言理解的所有领域。
具体来说，从手工作坊式走向“工场模式”，大模型提供了一种可行方案：预训练+下游微调”，大规模预训练可以有效地从大量标记和未标记的数据中捕获知识，通过将知识存储到大量的参数中并对特定任务进行微调，极大地扩展了模型的泛化能力。同时大模型的自监督学习方法，使数据无需标注成为可能，在一定程度上解决了人工标注成本高、周期长、准确度不高的问题。
刘军解释说，大模型最重要的优势是表明进入了大规模可复制的产业落地阶段，只需小样本的学习也能达到比以前更好的能力，且模型参数规模越大这种优势越明显，不需要开发使用者再进行大规模的训练，使用小样本就可以训练自己所需模型，能够大大降低开发使用成本。
现阶段，零样本学习和小样本学习是最能衡量巨量模型智能程度的两项测试。而源1.0在CLUE基准上刷新了多项任务的SOTA。
官方数据显示：源1.0在零样本榜单中，以超越第二名18.3%的绝对优势遥遥领先。
l 在文献分类、TNEWS，商品分类、OCNLIF、成语完型填空、名词代词关系6项任务中获得冠军。
l 在小样本榜单中，文献分类、商品分类、文献摘要识别真假、名词代词关系4项任务中获得冠军。
"面对产业AI化挑战，巨量模型在多任务泛化及小样本学习上突出能力，以及其探索深度学习的极限和实现通用智能的可能性，浪潮前瞻性的做出了开发巨量模型的重要决策"。刘军表示，浪潮源1.0大模型只是一个开始，未来源1.0将面向学术研究单位和产业实践用户进行开源、开放、共享，降低巨量模型研究和应用的门槛，推进AI产业化和产业AI化的进步，
2457亿 是如何炼成的？
大模型需要“大数据+大算力+强算法”三驾马车并驾齐驱，而对于大部分企业和机构来说，其中任意一项的研发投入都是沉重的负担，尤其是算力成本。比如1750亿参数的GPT-3单次训练需要 355 张 GPU，花费大约 2000 万美元。所以在炼大模型浪潮中，我们只看到了全球顶级的科技企业和科研机构的身影，而浪潮本潮也在其中。
浪潮 源1.0 在算力、算法和数据三个方面都做到了超大规模和巨量化。
首先是数据，浪潮创建了 5000GB 大规模的中文数据集，将近5年互联网上的内容浓缩成了2000亿词。2000亿词是什么概念？假如人一个月能读十本书，一年读一百本书，读 50 年，一生也就读 5000 本数，一本书假如 20 万字，加起来也就 10 亿字。也就是说，人类穷极一生也读不完2000亿词。
在大数据时代，比数据量更珍贵的数据质量。作为AI的底层燃料，模型对数据集质量提出了更高的要求。为此浪潮创新中文数据集生成方法，研制高质量文本分类模型，收集并清洗互联网数据过程中，有效过滤了废品文本，最终生成5000GB数据集可以说具备了够大、够真实、够丰富的特点。
在算法层面，源1.0大模型使用了4095PD（PetaFlop/s-day）的计算量，获得高达2457亿的参数量，相对于GPT-3消耗3640PD计算量得到1750亿参数，计算效率大幅提升；在算力层面，源1.0通过算法与算力协同优化，使模型更利于GPU性能发挥，极大的提升了计算效率，实现业界第一训练性能的同时实现业界领先的精度。
谈起浪潮很多人还是停留在初级的印象，这是一家老牌硬件厂商，每年服务器市场占有率在全球范围内高居榜首。其实浪潮也一直活跃在AI前沿方向，自2018年成立浪潮人工智能研究院以来，其异构加速计算、深度学习框架、AI算法等领域已经战绩颇丰。例如，浪潮先后推出了深度学习并行计算框架Caffe-MPI、TensorFlow-Opt、全球首个FPGA高效AI计算开源框架TF2等；此外，在全球顶级的AI赛事上已累计获得56个MLPerf全球AI基准测试冠军。有了这些深厚的AI功底，浪潮在四个月内推出全球最大巨量模型不难理解了．
对于源1.0，业内专业人士评价称，其在巨量数据、超大规模分布式训练的扩展性、计算效率、巨量模型算法及精度提升等等难题上都有所创新和提升。
源1.0 更“博学”了吗？
图灵测试一直被认为是人工智能学术界的”北极星“，也是检验机器是否具有人类智能的唯一标准。以GPT-3为代表的巨量模型出现后，机器开始在多项任务中逼近图灵测试，但直到源1.0之前，没有任何大模型突破30%的关卡。
在“源1.0”的图灵测试中，将模型生成的对话、小说续写、新闻、诗歌、对联与由人类创作的同类作品进行混合并由人群进行分辨，测试结果表明，人群能够准确分辨人与“源1.0”作品差别的成功率已低于50%。
如图，受访者的平均误判率为50.84%，在新闻生成领域误判率高达57.88%。
而抛开数据，源1.0的诗歌、对联的作品确实让人惊艳
巨量模型的潜力
炼大模型热潮的兴起,离不开谷歌微软、OpenAI、智源研究院等全球顶级科技企业和研发机构的追逐和热捧，在它们看来，巨量模型代表了实现通用人工智能最具潜力的路径,代表了当前传统产业实现智能化转型的新机遇．
而这次，浪潮重磅发布中文单体大模型源1.0，通过图灵测试和小样本学习能力再次印证了业界对超大模型潜力的普遍期望. 前者为模型推理\走向认知智能提供了可能性，后者降低了不同场景的适配难度,提升了模型的泛化应用能力。相信未来这股"浪潮"还会越来越汹涌.
原创文章，未经授权禁止转载。详情见 转载须知 。
本文地址： https://www.gpxz.com/article/dc431556acdfb7918ef6.html
泊头市东升宏运铸造有限责任公司致力于铸铁井圈井盖,铸铁篦子,不锈钢井盖,铸钢件,除尘设备,成套设备的生成销售,实力生产厂家,价格优惠,常年承接各种球墨铸件铸造,咨询热线:17732470205.
悟享云数字化解决方案服务商,悟享云数字化解决方案服务商,数字化服务平台,数智化服务平台,数字化转型,ddpcloud,数字化,智能化,数字湖,数字智仓储,数字智工厂,生产,制造,数字智物流,国际国内,数字智供应链,数字溯源
ZNDS智能电视网是中国知名的智能电视论坛,关注智能电视,智能电视盒,安卓电视,安卓TV,安卓机顶盒论坛,智能电视软件下载,Android智能电视机,智能电视游戏。安卓智能电视TV应用市场,TVOSRom,刷机教程,安卓TV软件下载,Android电视软件商店,智能电视APP应用分享和交流。
读书报告提供读书报告怎么写，读书报告格式读书报告模板PPT下载，分享实用的读书报告范文，读书报告作文，大学读书报告，是专业的读书报告网站。
郑州软源电子科技有限公司产品接入中心，用户综合服务站，方便用户进行综合设置，为用户提供更多自主型服务。
开封政翰粮油机械有限公司是专业从事粮油机械设计、研发、制造、安装、经营为一体的高科技企业。详询：0371-67813066
临沂市阳光热力有限公司位于临沂市费县探沂镇探沂工业园石田庄村北,主营热力销售,热力管网工程施工维护等业务,供热服务热线：0539-5618298
复纳科学仪器（上海）有限公司是专业的高分辨率高倍显微镜,高分辨台式扫描电镜,飞纳台式电镜能谱一体机ProX,桌面式电子显微镜供应商，主营产品有：高分辨率高倍显微镜,高分辨台式扫描电镜,飞纳台式电镜能谱一体机ProX,桌面式电子显微镜等,复纳科学仪器（上海）有限公司不仅具有专业的技术水平，更有良好的售后服务和优质的解决方案,欢迎来电洽谈
鱼七号是一家专注于分享SEO优化和网络营销思维的自媒体平台。我们致力于为广大网站管理员、企业主和市场营销从业者提供最新的SEO技巧、有效的网络营销策略和实用的营销思维，帮助他们在竞争激烈的网络环境中脱颖而出，实现业务增长和品牌影响力的提升。
最新最全的企业介绍、行业新闻、招聘信息、招投标信息，海量资讯一网打尽
鲜花网APP是一款为全球手机用户方便在中国在线送花、订花的移动应用。中国鲜花网是领先的中国鲜花礼品网站，可同城鲜花店送花订生日蛋糕。中国鲜花网是全国销量稳居首位、鲜花速递首选知名品牌。中国鲜花网提供24小时网上订花，全国1-3小时同城、异地鲜花速递送花上门，送花网络遍及海内外6000城市。
公众平台自助引擎（www.we7.cc），简称微擎，微擎是一款免费开源的微信公众平台管理系统，是国内最完善移动网站及移动互联网技术解决方案。
很多年前有一个种花的游戏合集，大家有没有听说过这些关于种花的游戏呢，这是一些具有闲情雅致的游戏，大家可以在这里去建造属于自己的花园，可以将自己亲手种植出来的鲜花销售出去，这些游戏中融合了模拟经营的玩法，所以非常的丰富有趣，而且有的游戏中还会有三消的创意性玩法，1、，梦幻花园，非常梦幻的花园中，大家可以去创建自己的小世界，可以选择各式各...。
Android是一个广阔、有活力的应用生态系统，根据统计，GooglePlay商店当中的应用数量已经超过1500万，其中当然也包含着众多高品质的热门应用，但你是否想过，要是能在计算机上运行这些应用，那岂不是一件乐事?在谷歌AndroidRuntimeforChrome，ARC，官方工具的帮助下，这一点已经可以实现了，如果你还不了解这个...。
发表在专业问答2021，4，2516，08展示机型信息，品牌型号，小米电视5系统版本，MIUITV3.0电视不能直接通过有线方式连接麦克风使用，需要先外接音响设备，通过音响设备连接麦克风才可以正常使用麦克风设备，此外，还可以通过无线的方式连接麦克风设备，通过蓝牙功能或者无线模块进行连接，麦克风怎么连接电视方法一，通过音响连接1.使用音...。
发表在专业问答2023，3，1710，00展示机型信息，品牌型号，当贝X3Air系统版本，当贝OS3.0当贝X3Air可以直接通过语音、应用市场和U盘实现软件安装，下面为当贝X3Air怎么安装软件的详细方法做具体说明，当贝X3Air怎么安装软件一、应用市场安装1.打开我的应用打开当贝X3Air的应用界面；2.打开应用市场打开我的应用中...。
1.东北地区尽管冬季寒冷，但当地居民已经适应了这样的气候，他们中许多人世世代代居住在这里，对这片土地有着深厚的情感，使得他们不愿离开，2.东北的自然资源十分丰富，不仅有闻名的大庆油田，还有肥沃的黑土地，此外，丰富的野生动物和山货，如人参、鹿茸、木耳等，也是东北的一大特色，3.尽管冬季寒冷，但东北的寒冷天气通常只持续两三个月，在其他季节...。
8月13日，，婚姻注销条例，订正草案征求意见稿，以下简称草案，在民政部网站全文发布并地下向社会征求意见，订正草案相比原条例，在注销程序上作了较大修正，依据草案的规则，结婚注销和离婚注销都不再须要户口簿，也敞开了过去对注销的地区管辖的规则，联合民法典，草案新增了关于30天，离婚沉着期，婚前瞒哄严重疾病可撤销婚姻，等条例，并对，离婚...。
申明，1.以上内容仅代表揭发者自己，不代表黑猫揭发立场，2.未经授权，本平台案例制止任何转载，违者将被清查法律责任，3.黑猫揭发处置揭发不收取任何费用，凡以黑猫揭发名义不要钱的均为混充、诈骗行为，请及时报警并与黑猫官网反应，揭发邮箱heimaotousu@vip.sina.com，4.请大家选用官网渠道处置生产纠纷，不要轻信第三方机构...。
巨蟹座男生的性情是残酷、激情、心情化、执著，一、残酷、热心，在特定环境下，他真的会由于同情而同情，由于伤心而伤心，十分逼真，也十分能为人设身处地的着想，是十二星座最残酷的星座男，二、王道，从巨蟹座男生深度睡眠时的姿态，就能判别你对他的关键性以及他对你的管理欲，他不喜欢自己的爱人与他的好友有过多交际，不喜欢自己的爱人衣着泄露——要露只能...。
凌志，现已更名为雷克萨斯，是丰田旗下的一款奢侈汽车品牌，其越野车型丰盛，包含雷克萨斯LM300h、UX200、UX260h、NX200、NX300h、RX450hL、RX450h以及RX300等，这些车型仰仗其出色的越野性能、奢侈的内饰以及高科技性能，深受生产者喜欢，值得一提的是，雷克萨斯品牌自1983年创立以来，在短短十几年间就在北...。
国产斯威汽车x7报价是8.59，11.39万元，1、SWM斯威X7有五种色彩供选用，罗马红、米兰白、比萨银、庞贝黑、都灵灰，车子外观采意图式设计格调，前脸驳回16条罗马柱式前格栅，鹰眼式前大灯驳回经典外型设计，尾部排气筒驳回跑车中罕用的双尾排设计；2、斯威X7驳回鹰翼式中控台设计，装备有棕黑、全黑两种搭配格调选用，同时领有彩色中控面...。
小番茄任务栏透明是一款功能强大的任务栏透明和美化小工具，软件提供透明度调节、美化选项等功能，提升桌面美观度，同时提高使用效率，操作简单易用，支持实时预览，轻量级运行，让桌面更加个性化、舒适，提供更好的
顺企网烟台公司注册服务公司厂家大全列表，包括海阳万邦财税服务有限公司、烟台普惠知识产权代理有限公司、慧准医疗信息咨询（烟台）有限公司、烟台超悦财务咨询有限公司等在内的11家烟台公司注册服务公司厂家的地址电话法人代表和联系电话等信息。1页，当前显示第1页结果，按照产品多少和注册时间排名
自从我离开职场，开始自己创业之后，遇见了许许多多各种各样的创业者，有草根逆袭三五年就赚到几百万的，也有本来一副好牌硬生生被他打的稀巴烂的，还有些人本来一无所有，经过几年的努力奋斗之后变成了现在的负债累累，然后我就思考，究竟是什么原因造成了这么巨大的差别?然后我就总结出来一个至关重要的核心点，创业要想成功，首先就必须先要思考失败了会怎么...。
人是铁饭是钢，在特色美食市场里，烤肉是十分有知名度的特色美食，目前市面上的烤肉知名品牌许多，从便捷、迅速和食材特色美食视角而言，烤肉是十分有优点的，人们不可以否定烤肉已占有了餐馆市场的主流产品影响力，今日小编给大家介绍一下烤肉店加盟费，那烤肉店加盟费，烤肉店加盟费约2到8万，拥有中华共和国身份证件的普通合伙人或具备运营资质证书的公司，...。
之前已经在海外众筹平台Indiegogo上架的壹号本OnexPlayer游戏掌机，在5月18日正式发布，新机搭载11代酷睿，从i5，1135G7到i7，1185G7都有，首发起售价5699元，壹号本OnexPlayer机身为橙黑配色，自带手柄摇杆和背面支架，有8.4英寸屏幕和28W性能释放，820g的重量，具体配置，售价方面，壹号本O...。
发表在专业问答2024，3，2616，12展示机型信息，品牌型号，坚果N1Ultra、ThinkPadX1系统版本，BonfireOS、Win10坚果投影仪连接电脑投屏可以通过有线连接坚果投影仪和电脑的HDMI接口实现，总共可以分为三步，下面就为坚果投影仪怎么连接电脑投屏的详细方法做具体说明，坚果投影仪怎么连接电脑投屏1.有线连接设备...。
近日，家住上海市静安区，武泰公寓，的多位业主向，资讯坊，同心服务平台反映，小区里有一户顶楼业主，20年间陆续在屋顶公共区域搭建违建空间，上个月，这户业主居然无以复加，动用吊车将砖块、水泥吊运至屋顶开局创新存量违建，小区居民们都感到放心忡忡，在屋顶如此大兴土木会给大楼带来安保隐患，记者到来，武泰公寓，，业主们通知记者，该小区始建于200...。
