女处长的厕奴继芯片、影像、算力之后,自研大模型和操作系统成为国内头部手机厂商冲击高端的又一发力点。
“大模型是继通信、芯片之后一个历史性的事件,做好大模型可以得到更多高端用户的认可。人工智能和手机结合之后会有全新的智能体,AI手机原型或在明年出现。”vivo副总裁、OS产品副总裁、vivo AI全球研究院院长周围预判。
11月1日,vivo在开发者大会上发布了自研大模型矩阵——蓝心大模型(BlueLM),包含覆盖十亿、百亿、千亿三个参数量级的五款vivo自研大模型。
其中,10亿量级模型是主要面向端侧场景打造的专业文本大模型,具备本地化的文本总结、摘要等能力。70亿模型是面向手机打造的端云两用模型,具有优秀的语言理解、文本创作能力。700亿模型是面向云端服务的主力模型。1300亿、1750亿模型将在更复杂的场景中以更丰富的知识和推理能力为用户带来更专业的智能体验。
“实话实说,蓝心大模型目前相当于CHATGPT3.5的水平,与CHATGPT 4的还有小一年的差距。”周围现场透露。
对于为何要推出大模型矩阵?周围在接受《深网》等媒体采访时透露,主要受大模型形态、用户需求及算力成本的影响。
一是矩阵模式可以解决多模态大模型不同研发阶段的需求;二是可以让用户在云上使用大模型的同时在端侧本地化运行关键数据,满足隐私及安全需求;三是可以有效平衡云端算力成本过高的问题。
“现在应用一次云端大模型的成本大概在1.2-1.5分左右,vivo国内3亿用户每天用十次,一年算下来也有百亿左右的支出。”周围说。
据周围透露,vivo即将发布的X100就有完备的端、云大模型能力。用户下载端侧大模型后可自行选择云端或者本地运行大模型。
基于蓝心大模型,vivo推出了两款落地应用,分别为即将面向公众的蓝心千询,及未来将登陆OriginOS 4的蓝心小V。
有vivo工作人员对《深网》透露,“蓝心千询是基于云端训练的大模型,备案审核通过后,所有用户都可以通过应用商店下载。蓝心小V目前只有语言理解和图片生成这两个功能可以实现端侧大模型运行,剩下的文字创作、思维导图等其他功能主要在云端运行。”
曾有行业人士透露,“100亿-150亿参数级别的模型可以覆盖绝大多数生成式AI的用例。如果终端已经可以支持这一参数级别,那么运算可全部在终端上进行,无需云端处理运算,届时手机会会成为真正的个人助理。”
蓝心大模型的最高参数级别已经达到1750亿,为何仅有两个功能可以在端侧运行大模型?
对此, vivo AI解决方案中心总监谢伟钦对《深网》解释,“理论上,参数量越大,模型效果会更好。但在手机端侧运行大模型受存储空间、耗电等一系列技术的影响,参数量越大,在手机上越难跑通。10亿参数模型要占用手机1GB内存,70亿占有4GB,130亿占用7GB,所以我们优先考虑的是10亿模型擅长做什么,再慢慢把其他功能做起来。”
谢伟钦预测,明年70亿、130亿参数的蓝心大模型会在端上跑起来。此时,手机就会演化成智能体,成为用户的专属私人助理。
除蓝心大模型外,vivo还在开发者大会上发布了自主研发的全新智慧操作系统——蓝河操作系统BlueOS。与此前的OriginOS相比,BlueOS有“天生更智慧、天生更流畅、天生更安全”3大核心特性。
在智慧层面,蓝河操作系统引入蓝心大模型能力,支持复杂的意图识别和交互方式,这既为用户提供了声音、图片、手势等自由交互方式,也为开发者提供了自动编写代码等应用开发新范式。
在流畅性上,蓝河操作系统从全栈视角进行了高性能架构设计,例如,在编程语言、运行时Runtime、系统调度、框架、显示和内存等技术方向取得了技术突破,能支持蓝河操作系统流畅地运行在各种配置的设备上。
而在安全方面,蓝河操作系统是行业首个系统框架由Rust语言编写的操作系统,在根本上解决了内存使用不当引起的安全漏洞问题。
据周围介绍,蓝河OS是为未来有智能体设备做的OS。与整体使用linux系统做内核的安卓系统截然不同,蓝河OS的系统框架由Rust语言编写,并已有一些配套的开发工具和相关文档。
对于这个改变,周围对《深网》等媒体解释,“我们此前的OriginOS等基于Android生态研发的系统很难再做低端机了,1000元以下的手机内存至少2GB起步。但我们调研发现,在海外等其他市场,需要有更低配置的OS解决方案让大模型跑起来,所以我们花了6年的时间重新研发了一套面向未来的操作系统。”
对此,有行业人士对《深网》解释,“为给消费者提供统一的用户体验,谷歌与所有参与Android生态的软硬件厂商都签订了AFA协议,要求后者不得在其产品中搭载分叉过的Android系统,并且制造商本身也不得分叉Android,例如自研虚拟机等。”
据vivo官方透露,蓝河操作系统首发将落地vivo Watch3,用户可以通过语音基于AI能力,个性化地创作手表表盘封面图等。
|