大模型不是企业 国与国之间的竞争 对话云从姜迅 可能是人类命运共同体的钥匙丨AGI十人谈 (大模型不是企业的产品)

文章编号:37894 最新资讯 2024-11-30 云从科技 GPT 大模型

对话云从姜迅:大模型不是企业、国与国之间的竞争,可能是命运共同体的钥匙丨AGI十人谈

作者丨何思思

编辑丨林觉民

“公司在用最高战略的方式做这件事,”谈到大模型时云从科技副总裁姜迅如是说。

2015年成立之时,云从科技就定调自己是一家AI平台公司, 虽然云从科技是“四小龙”中成立最晚的一家,但是其在AI方面的表现并不逊色。

自成立之初,云从科技就将发展方向定位在人机协同操作系统,一方面,包括根据不同应用场景客户需求提供的多种人机协同应用产品和整体操作系统,服务于客户单点业务效能提升和整体业务升级;另一方面也包括通用服务平台“轻舟平台”,能开放引入生态伙伴共同开发AI应用及配套SaaS服务。

此外,在人工智能基础上,云从科技还增加了对机器人、物联网等技术研究投入,试图构建更为标准化的AI产品。借助底层操作系统这一统一入口,提供人机协同相关算力、算法、数据管理能力和应用接口,从而构建自己的生态闭环。

反观国内大模型的发展,大部分企业仍停留在追热点阶段,并没有实质性进展。那云从是否也在追热点?姜迅给出了否定的答案。他表示,我们还在研究我们的人机协同操作系统,在GPT技术之上,人机协同操作系统的智商会越来越高,它不仅会增加其上限,还能降低成本,这能在很大程度上让该系统更好地服务客户,竞争优势也会增加。

了解到,云从科技日前已经推出了自研“从容”大模型。据姜迅介绍,除自研模型外,云从已经联合不同领域的不同企业推出了7款行业大模型,诸如游戏行业、金融行业、交通行业、医疗行业等。

并且他还坦言,C端、B端、G端都会做,我们肯定会结合自身的行业优势,选择最值得深耕的一些特定的行业,而不是全行业的拓展,一定是要有重点的。

以下是和姜迅的对话:

关注的不是BERT或GPT,而是整个大模型技术的演进

:什么时候开始关注大模型的?

其实关注很长时间了,2022年Google的LaMDA出来后,他们的研究员被强制休假了,那时就已经意识到这个事情要发生了。要说关注因为要做人机协同操作系统,我们有个产品叫知识服务—knowledge as service,这个应该更早一点,对自然语言处理的技术进展一直是和行业前沿保持同步的。

从产品逻辑上,2019年底2020年初就提出了五大模块,包括AI数据湖、智能业务流、算法工厂、人机交互和知识服务,只是GPT出来后,从系统架构的视角看,知识服务从传统的NLP以及知识图谱等技术升级为大模型这个能力更强的引擎。但我们的整体系统架构一直稳定的,只是说我们现在在用一种更新的技术来解决问题,所以不是突然之间,是很早就在做了。

:为什么很早就提出了五大模块?

是这样的,周曦老师一直强调要有更好的系统架构设计官,所以设计出了五大模块。他一直强调要把大的系统模块设置好,要定义好模块之间的交互的语言,那在这个过程中模块之间的技术是不断迭代更新的。比如之前用机器学习,后来用深度学习,再到现在的大模型,可能再过一两年又有新的技术了,就是在系统的大模块保持架构稳定,单点技术的进步会增强各自模块的能力,这样在保证系统的完整性的同时,可以稳定的增强系统的竞争力。

:与之前技术栈相比,大模型带来了哪些变化?

大模型带来的是范式的变化,过去每一个任务都需要做单独训练,尽管能看到各行各业对于AI技术旺盛的需求,有时候会有一些非常细碎的场景,比如检验螺丝钉有没有裂纹等等,由于这些场景对于单个用户在前期阶段很难覆盖研发成本,这导致这些场景想要建立正向的商业循环是比较困难的。有些同行的朋友比喻为“为了喝一口水,挖了一口井”。

预训练大模型其实很好地解决了这个问题,预训练模型在大规模无标签数据上进行一次训练后,可以在多个具体任务上进行指令微调。这使得预训练模型能够在不同领域和任务中实现迅速的迁移和泛化,减少了在小样本数据下过拟合的风险。

我们确定了基础模型以后,只需要在这个基础上加入新的知识,原有投入训练成本得到了保护,对于整个社会的算力资源也是一种保护。

:保护投资的意思是,这次训练的算力下次还能用?

我们是把一些通识能力放到大模型中然后再不断累加,也就是说在现有能力之上,通过追加新的数据增强模型的能力,这样就可以把模型的智商从 80 提到 90、100 ,随着更多的数据和知识通过预训练的方式加入模型,模型的智商会越来越高。

其实我们可以把预训基础模型比作一个人,它现在相当于一个高中生,学会了基础加减乘除等基础的运算逻辑,然后再不断提升它的智商。这个过程不需要重新开始,而是在上一个能力的基础上做叠加,这就是对投资的保护,之后的训练工作量变少了,但是能力却变的更强了。

当一个新技术出来后,你要做得是先去了解他,然后去拥抱他。

:目前云从对大模型的定位是什么样的?是在追热点吗?

我们是在用最高战略的方式做这件事情,而不是追热点。因为大模型技术已经相对成熟了,它不仅会增加人机协同操作系统的上限,还能降低成本,这能在很大程度上让我们的人机协同操作系统更好地服务客户,竞争优势也会增加。

这是我们对这个事情的认知,不是说我们要去蹭这个热点,我们还在研发人机协同操作系统。

:也就是说最终交付的还是人机协同操作系统?

对,只是依托GPT这个引擎,人机协同操作系统的智商更高了。原来我们用传统机器学习、知识图谱的方式,它也是一个有智商的智能体系,只是它的智商相对低,处理的任务也相对有限。

:大模型具体怎么和人机协同操作系统结合?

大家首先感知到的是交互方式的变化,从原来的点击鼠标变成人机交互,其次就是它一定会对每个行业的行业知识有更深刻的理解。

降本增效是必然,还会带来洞察业务的价值

:训练出一个相对成熟的大模型要多久?

我们做这件事情有两个步骤:第一步先完成高中教育,这个过程我们对它没有盈利的目标。就是先做技术项目,这也是基础模型要做的事情。

第二步把行业知识灌给他,这样就可以培养出不同领域的专家,然后给不同领域的客户服务。但前提是我要有一个智商比较高的基础模型,这样才能保证他能做你要求他做的事情。

:现在有没有具体的场景应用案例了?

比如用大模型做数据分析,一是人力开发会被大大降低,原来的模式可能需要五六个研发,现在不需要了,开发人数减少也意味着效率会增加;二是时间变短了,原来可能需要一到两周甚至一到两个月的时间,现在可能一两分钟就解决了,这两点是效率提升上的价值的。

除此之外,还有一个非常重要的影响是,大模型通过让业务人员直接操作数据,和系统、数据的距离更近了。还是上面数据分析的例子,销售主管想要分析最近的销售趋势,从汇总的数字上看,销售的数据没有明显的波动和变化。技术人员在开发功能的时候,可能看到了在A区域有明显的上涨,在B区域有明显的下跌,技术人员如果没有业务敏感性的话,这些异常的数据波动被当做数据噪音处理掉了,最终的报表体现为没有波动;这种距离的拉近,不仅仅是节省了几个开发人员,还有可能带来业务的数据洞察,从而带来巨大的商业价值。

:其实除了降本增效外,还要解决胡说八道的问题?

有时候胡说八道并不是一件坏事,比如文娱行业,有时候可以利用它胡说八道的特性来设计一些比较搞笑的场景,做一些开放性的回答也是有价值的。

那在比较严肃的行业里,确实不能胡说八道,针对这个问题我们有几种不同的方式解决或者缓解这个问题。比较通用的方法是用embedding的方式解决,对此我们有一个专门的产品——书语,你给我一个企业的知识,可以是操作手册,用户的文档,用户回答问题的数据,只要你给我一个行业里的可信的数据源就可以,基于这些数据我们可以约束生成的答案,这个过程我们不用大模型生成答案,而是让他在你给定的文档范围内生成答案。

我们的产品可以做多文档输出,不局限于单个文档,就是可以对多个文档的内容理解后给出你想要的答案,甚至可以理解文档中图片的内容再做输出。其实NEW bing也是类似的逻辑,他不是让GPT直接生成答案,而是先从可信的信源内搜索答案,然后大模型把这几个文档的内容理解了,再输出结果。这时问题的答案才更全面、更可靠。

书语的逻辑就是让这本书会说话,那这本书是个泛化的书,它可以是一本书,也可以是一个手册、一个规章制度、一个法律条文等,从另外一个角度,比如在文娱行业,它相当于一个可以和人沟通的智能体,这个产品的设计思想就是帮助行业解决落地问题。

:未来有没有侧重点,比如聚焦哪些行业?

C端、B端、G端都在做,我们发布的模型中大概有7个行业大模型,这些都是我们重点拓展的领域,我们肯定会结合自身的行业优势,选择我们最值得深耕的一些特定的行业,而不是做全行业的拓展,一定要有重点。

未来大模型可能是人类命运共同体的钥匙

:您怎么看待国内大模型的发展?

国内大模型发展的速度还是很快的,现在OpenAI已经告诉你了,沿着这个路线走一定能看到创新,目前国内的大模型肯定是没办法上线的,但业内从业人员对这件事情的认知被高度统一了,这是特别重要的一个点。

之前大家的状态是:你有你的方法,我有我的方法,可能在这个任务上你的领先一点,在那个任务上他的领先一点。但ChatGPT出来后大家对这件事情的认知空前统一,已经变成了全行业统一要做的事情。

关于大模型,我有一个越来越强烈的感觉,它会超越公司与公司之间,国家与国家的竞争,可能会是人类命运共同的钥匙。手持这把钥匙,我们可能正在跨越人类历史上最重要的一个门槛,进入AGI(通用人工智能)。

现在大家都认为GPT的迭代远超过之前任何一项技术,所以不管是付费的、开源的还是免费的都不重要,都愿意加入进去,参与到全球化的竞争中去,为这场技术竞争贡献自己的力量,这样就形成了一个合力,这是发展快的一个非常重要的原因。

:您认为国内和国外的大模型的差距还有多大?

之前大家说差2年甚至更久,但从现在的发展来看,追赶速度非常快,远比预期快。

第一,业内从业者对这个事情的认知被统一了,形成了合力,全社会的力量总比一个单独的商用公司往前走的力量大,所以赶超速度是非常惊人的;现在国内很多模型已经能够在某些任务上追上3.5的水平了,这是一个非常明确的趋势;

第二,OpenAI处在一个开放性的工作环境中,他已经告诉你这个路径是正确的,这时我再去追赶远比一个开创者消耗的资源要少。其实做研究最怕前面的路是黑的,我不知道什么时候往前走,往前走一步两步还是三步,是继续沿着这个方向走,还是换个方向走,这是非常迷茫的,消耗的资源也是最大的。一旦有人告诉你朝着前面的灯走就可以,你就不会犹豫了。

第三,对算力的需求已经没有大家想象的那么高的,OpenAI 原来的论文提到训练GPT3一次要1200万美金,现在随着算法和数据质量的不断提升,训练GPT4一次的成本已经从6300万美金被快速降低到2500万美金,后续这个趋势应该还会更加加速。

实际上数据质量对训练的效率有很大的影响,越脏的数据训练的时间越长,甚至会把模型训歪掉。相反高质量的数据,不仅能加速训练时间还能降低对算力的要求。包括OpenAI的论文提到原始数据是40T,最后应用到训练的数据大概有个570G,99%的数据被清洗了,所以高质量的数据对大模型的训练至关重要。

:所以美国的算力封锁对中国也造不成很大的影响?

对,训练一次也就一两千张卡,三四个月的时间。最关键是的整个过程它对资源是保护的,就是当我训完一次之后,后面再做增量训练不用重新开始,只需要在原有的投资上做二次训练就可以了,所以真的没有大家想象的那么高,至少在推理方面已经不需要A100了,用 T4 的卡就能做推理,很快大量的国产硬件也都能做推理了。

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: /article/e82251f8e0868c49df1c.html
全局中部横幅
全局中部横幅
需求图谱_词频统计 - 星网大数据

星网大数据脑图功能对用户数亿查询长尾词进行大数据需求画像,形成的高词频图、需求放射图、需求关联图,以及能够按高词频进行长尾词下载

留学网站导航大全-LOL网址导航网

LOL网址导航网是专业的上网导航网站,精心收录各类优质热门网站信息,同时提供天气、快递、违章等各种生活便民查询工具网址,为您提供安全便捷的上网导航服务,现已被众多网友设为上网主页,网址导航大全首选LOL网址导航.

腾讯开放平台beta|开放成就梦想

腾讯开放平台,致力于打造最高效、可靠的企业服务平台。依托腾讯20年技术沉淀,整合腾讯内部核心资源,在研发、设计、推广、营收转化、产品体验上全方位赋能合作企业,助力企业加速实现科技转型,快速成长。

仓储货架_仓库货架_仓储货架定制_托盘式货架_重型货架厂家_自动化立体库_南京百特金属制品有限公司

南京百特金属制品有限公司是一家专门从事仓储货架的厂家。公司从事仓储货架行业10余年,注册资金2000万元,公司涉足钢制托盘、阁楼货架、阁楼式货架、横梁式货架、重型货架、阁楼货架、仓库货架、仓储货架、物流仓储系统等一系列配套金属制品的规划、设计、制造、安装及咨询的大规模供应商。

杭州活动策划公司_年会发布会策划_会议会务服务-隐秀道易公关公司

杭州隐秀道易活动策划,发布会年会策划,周年庆,开业庆典礼仪,行业峰会布置,演艺舞美.创意活动策划方案省心,年会策划流程省钱,公关活动靠谱!1000家成功活动案例

市场调研_山东_调研报告_调查公司_汇景咨询 - 山东汇景市场研究咨询有限公司

山东汇景市场研究咨询有限公司,总部位于济南,在青岛,潍坊设有分公司.是国内专业的房地产市场调查公司,物业/业主满意度调查,神秘顾客调查,问卷调查公司,电话访问调查,第三方测评机构,群众满意度调查,新产品上市研究以及线上网络调查公司。

北体运动、北体运动俱乐部、北体运动教育科技(北京)有限公司

北体运动,北体俱乐部,北体游泳俱乐部,游泳俱乐部,北京体育大学游泳馆,北京体育大学游泳培训,北京游泳馆,海淀游泳馆

玻璃钢花箱_玻璃钢坐凳-展台/雕塑/花盆/种植池/休闲椅厂家

深圳市玻璃钢制品有限公司提供玻璃钢雕塑、设备外壳、花盆花箱、树池种植池、家具休闲座椅、不锈钢景观雕塑、商业美陈装饰等玻璃钢制品,玻璃钢厂家直销更优质的产品和更全面的服务.

疾控实验室装修_大学实验室设计施工_科研实验室厂家_工厂实验室建设_医院实验室规划_洁净实验室净化_四川华锐净化工程有限公司

四川华锐净化工程有限公司(www.nqjh.cn)为实验室建设规划提供整体解决方案方案,经验丰富且具有总承包资质,主要业务有疾控实验室装修,疾控实验室施工,疾控实验室厂家,大学实验室装修,大学实验室施工,大学实验室装修设计,疾控实验室装修设计,工厂实验室装修设计,科研实验室装修设计,实验室装修设计,实验室净化工程,实验室装修厂家,医院实验室装修施工,医院实验室设计施工,洁净实验室厂家,欢迎来电咨询,洽谈合作。

凡特鲁斯Vertellus E60-乙烯马来酸酐共聚物-ZeMac E60/E400微胶囊乳化剂-上海纳塑合金科技有限公司

上海纳塑合金科技有限公司专注于凡特鲁斯VertellusE60,乙烯马来酸酐共聚物,ZeMacE60/ZeMacE400微胶囊乳化剂销售,长期现货供应,质量有保证,价格合理,发货及时,适用于玻纤浸润剂等领域.如有需求,欢迎致电:13761895938.

上海物流运输公司-上海货物运输公司-上海大件运输公司-上海普畅物流有限公司

上海普畅物流有限公司是行业具有实力的物流运输,货物运输,大件运输公司.我司配有齐全的运输车队,收费合理,全程提供透明化物流运输服务,按时送达,物流效率高,值得托付.如有货运,大件输运需求,请您来电咨询:16601900888.

酸雾净化塔-酸雾吸收塔-玻璃钢净化塔-玻璃钢吸收塔-山东蓝海环保科技有限公司

山东蓝海环保科技有限公司生产销售酸雾净化塔,不锈钢酸雾吸收塔,玻璃钢净化塔,玻璃钢吸收塔,玻璃钢酸雾净化塔,尾气吸收塔,废气喷淋塔,PP洗涤塔,玻璃钢脱硫塔,玻璃钢管道烟囱等废气设备。

全局底部横幅