vivo 手机大模型爆发 GPT 发布自研蓝心大模型 参数追赶 (vivo手机屏幕设计)

文章编号:41709 资讯动态 2024-12-03 端侧aivivo手机大模型

手机大模型爆发:vivo 发布自研蓝心大模型,参数追赶 GPT-3

11月1日vivo开发者大会上,vivo发布自研AI"蓝心"大模型,并发布大模型矩阵,包括1750亿、1300亿、700亿、70亿、10亿五款不同参数规模的大模型,并宣布130亿蓝心大模型实现端侧跑通,开源7B大模型。

其中1750亿参数已达到GPT-3参数水平,同时vivo也是国内首家开源7B大模型的手机厂商。

可以说vivo 这次开发者大会,给手机行业丢了一枚重磅炸弹。

1首个开源自研7B大模型的手机厂商

早在2017年,vivo就成立了人工智能全球研究院。

而且vivo一直关注通用人工智能的进展,对于ChatGPT引发的大模型热潮,vivo高级副总裁施玉坚的判断是:真正好的自研大模型应该是大而全、算法强、真安全、自进化、广开源五个特征兼具。

在此vivo开发者大会,vivo发布的蓝心的大模型第一大亮点便是便是参数高达1750亿,一举达到了GPT-3的参数规模。

早在8月份小米的大模型MiLM-6B就已经公布在了GitHub上,从GitHub上的信息可以得知,MiLM-6B的参数规模达64亿。华为此前盘古3.0为客户提供100亿参数、380亿参数、710参数和1000亿参数的系列化基础大模型。

相比起来,vivo发布的蓝心大模型1750亿的参数规模,在一众手机厂商中一骑绝尘。

根据发布会资料现在,除了超大规模的1750亿参数和1300亿参数模型外, 700亿参数模型的vivo云端主力模型, 70亿蓝心大模型7B则是是面向手机打造的端云两用模型,在语言理解、文本创作等场景下表现非常优秀。综合表现行业领先,在各大中文榜单持续名列前茅。而10亿蓝心大模型1B则是面向端侧场景打造的专业文本大模型,具备本地化的文本总结、摘要等能力,处理过程准确又安全。

值得一提的是,vivo此次也开源了70亿蓝心大模型7B,成为了首个开源自研大模型的手机厂商。

大模型浪潮之下,开源和闭源成为商业模式上的交锋之战。

自Llama 2后,开源逐渐成为主流趋势,行业内甚至有声音表示未来开源大模型将杀死闭源。

vivo自研大模型的开源意味着,vivo正式加入了这场大模型开源之战,赤裸裸的接受行业人士的检验和批判。而另一方面,施玉坚在开发者大会上也表示,vivo还推出了蓝心大模型开发套件BlueKit,让其他手机厂商和开发者可以基于这款模型进行二次开发和创新。

2跑起来和跑起来好用是两码事

关于华米OV的竞争,从智能手机时代的各项功能的角逐,发展到如今大模型时代各家的布局。如何实现轻量化、本地化的端侧部署是一个竞争关键。

某手机厂商内部员工告诉AI科技评论,大模型在端侧跑起来这个事儿和跑的好用起来是完全两个概念,只要内存够大,别说13B、130B都能跑起来。

端侧大模型本身就不容易,相比起在云端运行,走端侧这条路径意味着厂商需要在很小的算力空间,做出媲美超级大模型的效果。

大模型的特点是参数够大,在运行时需要大量的内存来存储模型参数和临时数据,而手机芯片通常具有有限的内存资源。能跑起来可能只是意味着手机上装有这个大模型,但是一旦使用,手机就会过热、卡顿。离理想的使用体验距离相差较远。

将一个大模型部署在端侧,行业采用的做法是GPU与NPU结合的方式。GPU自不用多说,负责端侧的图形渲染处理和并行计算。

NPU(Neural-network Processing Unit,神经网络处理器)则是一类基于DSA (Domain Specific ARChitecture) 领域专用架构技术的专用于人工智能(特别是人工神经网络、机器视觉、机器学习等)硬件加速的微处理器。

可以简单理解成NPU是去掉图形光栅这些的GPU。大模型参数太大,也就是说相比起在云端运行,大模型要想在端侧运行就必须借用NPU这个助手。

这一点也可以从各家芯片厂商的动态看出端倪,在刚刚过去的高通骁龙发布会上,高通对骁龙8 Gen3的 Adreno GPU 和 Hexagon NPU 进行了大幅升级。

一位行业人士告诉AI科技评论,自从生成式A浪潮掀起之后,高通也在不停地考察,怎么样改变现在大模型与英伟达 GPU 绑定的趋势,高通自己做了一个NPU框架,但内部客户用起来,并不是很好用,好多算法在NPU的框架上都没有跑起来。

而作为全球移动芯片无冕之王的架构大厂ARM而言,对于NPU的部署也一直在进行,Arm很早之前就推出Arm智能视觉参考设计,集成了安谋科技开发的玲珑VPU和周易NPU。

此次vivo开发者大会,vivo高级副总裁施玉坚表示,vivo蓝心大模型在端侧的运行可以直接跳过NPU,只需要在GPU上运行。这句话被一语带过,到底是一句噱头还是行业重大突破,我们暂时还不得而知。但是可以肯定的是,如果vivo真的能实现在端侧部署大模型不需要用到NPU,那将会成为行业的重大突破。

不过从效果上来看,vivo10亿参数蓝心大模型1B确实惊艳。

在此次开发者大会上,vivo10亿参数蓝心大模型1B的运行效果可达到最快64字/秒(3840/分)的出词速度。而资料显示,根据输入的关键词或文章大纲,自动生成相应的文章段落或初稿,ChatGPT平均速度约为2000-3000字每分钟。如果真如宣传所说,那么vivo10大模型端侧的运行效果能超过ChatGPT。

不过值得注意的是,虽然行业一直在谈终端运行大模型,但是我们还是得区分瘦终端与标准终端的区别。

标准终端设备具备自己的硬盘、RAM、控制计算单元,通过安装full-fledged OS可以跑计算和存储程序,乃至于具备近场的AI算力,具有完整的运算能力。

而瘦终端则是指一个终端只具备最基础的硬件设施和轻量级的light OS,其所有的功能都必须通过联网/云端实现,终端本身通常只具备基础的显示或者初级的计算存储功能。

简而言之,就是市面很多厂商宣传的终端运算其实模型存储在云,计算也还是在云,终端只负责基础的展示和实现。

手机大模型爆发:vivo 发布自研蓝心大模型,参数追赶 GPT-3

3手机厂商做大模型的路径之争

在此次vivo开发者大会上,vivo表示,蓝心大模型在SuperCLUE-Sagety安全总榜上超过了讯飞星火与文心一言,以总分85.17的分数霸榜第一。榜单当然只是一个辅助标准,但是主打安全这一点确定是vivo与现在市面上其他手机大模型厂商的一个显著竞争点。

在大模型布局上,小米注重“轻量化、本地部署”同时也发力了诸如机器人、智能家居等多种产品形态,而和vivo同出一脉的OPPP近期也有新动作,注重大模型在语音助手上带来的巨大改变。

vivo的侧重点则回到了手机厂商做大模型最本源的优势,数据与安全。

手机大模型爆发:vivo 发布自研蓝心大模型,参数追赶 GPT-3

手机作为每个人日常生活的必备终端,存储着非常多个性化和隐私化的数据,如果全部在云端运行,隐私泄露等事情比比皆是。

另一方面,在ChatGPT浪潮掀起之前,可信AI本来就是行业关注的重点,如果避免大模型的幻觉、偏见、毒性等问题也是各方在进行技术研发时所关注的重点。

在安全方面,除了模型的可信性得到了保证,vivo此次还推出了蓝河操作系统,主打智慧、流畅、安全。值得一提是是蓝河操作系统是行业首个系统框架由Rust语言编写的操作系统,用Rust语音编写也是保障安全的一个重中之重。

目前常见的操作系统内核都是基于 C 语言,因为 C 语言简单独立十分好用,但也有它的缺点缺少有效的并发支持,导致内存和并发漏洞成为当前操作系统的噩梦,也就是不够安全。

而 Rust 语言具有与 C 一样的硬件控制能力,且大大强化了安全编程。从某种角度上看,新出现的 Rust 语言的核心目标是解决 C 的短板,取代 C。所以用 Rust 写 OS 具有很好的开发和运行的体验。

蓝河OS有几个亮点,比如说:和AI大模型深度捆绑,能够自动生成桌面,没有虚拟机,直接内核运行,还按PC的设计理念做OS。

可以说对于安全,vivo打出了一套组合拳,这也是为什么开发者大会上,vivo一直强调自研大模型必须真安全的原因。

环顾整个手机赛道, 目前竞争已经进入存量博弈阶段,手机厂商需要在新技术上建立竞争优势,也需要通过新的卖点角逐高端市场。

这次vivo开发者大会给人明显感觉就是vivo在多条腿走路。

而从单一的手机布局到如今的多矩阵走路,这一点,与其说是vivo冲向AI时代的技术高歌,不如说,是vivo面向现今手机行业困境的一次反击。

在这场反击过程,vivo对于大模型的布局让人眼前一亮,也让人不得不期待后续vivo大模型故事的走向。(其它手机厂商在大模型领域又有哪些动态和故事,欢迎添加本文作者郭思,微信号:lionceau2046,互通有无。)

原创文章,未经授权禁止转载。详情见 转载须知 。

手机大模型爆发:vivo 发布自研蓝心大模型,参数追赶 GPT-3

全局中部横幅
HIWIN

天津龙创恒盛实业有限公司专业为您提供直线导轨,HIWIN,直线模组,直线电机的相关信息,想要了解更多直驱转台,晶圆机械手,力矩转台,线性滑轨,滚珠丝杠,联轴器,滚珠螺杆的详情,请联系我们。

建筑资质代办

快办网一站式资质代办企业服务平台,专注建筑资质代办,资质转让,公司资质办理,免费提供建筑资质代办、升级、延续报价,优质建筑资质转让服务平台,真实有效,让资质合作更放心,办理资质就选快办网。

Json在线格式化去除转义字符工具

淘宝优惠券,优惠券在线搜索,淘宝隐藏优惠券,淘宝客优惠券,优惠券查询,9.9包邮,白菜价,天天特价

江西捷豹科技有限公司

江西捷豹科技有限公司主营台湾品牌捷豹空压机系统设备及零配件供应,提供空压机维修保养、出售螺杆空压机,永磁变频空压机,冷冻式干燥机、精密过滤器等系统设备的安装。联系电话:康先生13870735860。

LED防爆灯

深圳市欧迪光电科技有限公司您身边的LED防爆灯专家,公司专业从事工业照明灯具、LED防爆灯,LED防爆手电筒,LED隧道灯、LED路灯、LED平台灯等LED照明灯具的民营企业。

合肥12月7日安团家博会

安团是为业主打造的线下、线上的团购平台,找效果图,看样板房,找设计师、找水电工、泥瓦工、木工等,买装修材料、家具电器,一站式购齐,家庭装修就上安团

遮阳棚

四川成都惟美户外用品【135-5029-4876】是专业生产遮阳篷,伸缩蓬,雨篷,遮阳棚,停车棚,遮阳伞,户外帐篷,户外休闲伞,阳光棚等户外遮阳用品厂家!公司具备完善的生产流程和规范的管理,为企业的发展奠定了坚实的基础,有想了解遮阳棚安装价格多少钱的朋友可以联系我们厂家。

成语大全

成语大全网提供成语大全,成语故事,成语,成语接龙,四字成语,成语词典,成语故事大全,成语解释,动物成语,成语词典在线查询,成语谜语,成语歇后语,生肖成语,春天的成语,夏天的成语,秋天的成语,冬天的成语等知识,成语大全和大家一起学习交流。

安卓游戏

耐玩软件园:为大家提供安卓游戏,热门手游,最新app手机软件免费下载,更多热门游戏软件下载尽在耐玩软件园。

不锈钢精密铸造厂

东莞市宏哲五金制品有限公司是一家不锈钢精密铸造厂、不锈钢铸件厂家,主要从事碳钢精密铸造、合金钢精密铸造、不锈钢精密铸造、溶模铸造、304不锈钢精密铸件及不锈钢铸造加工等,服务于广东广州、深圳、东莞、惠州、中山、阳江、浙江等地区。

吉分期

专注于为广大人群提供服务的企业,集软件研发、运营为一体

全局底部横幅