端侧AI,大模型的新战场?

新闻资讯2024-03-28 05:56:05橙橘网

端侧AI,大模型的新战场?


出品 | 虎嗅科技组

头图 | 视觉中国

有种观点认为,如今的智能手机已经成为人类的外部器官。但一个容易被忽视的事实是,这个器官在过去10年几乎没有任何革命性的进步。

10年前,全球智能手机市场出货量达到10.042亿部,同比暴涨38.4%。盛极而衰,那一年也成为了智能手机行业最后的辉煌,自此之后,市场增长开始逐渐放缓,直到完全失去增量。

最后一次回光返照——5G换机潮后的市场疲软,足以说明移动互联网的红利,其实早就被终端厂商和应用厂商消耗殆尽。

然而,有些事情正在这个行将就木的行业中悄然发生。

去年10月,高通发布全新骁龙8Gen3处理器,并重点强调了这枚芯片在AI方面上的能力:支持终端侧运行100亿参数的模型,面向70亿参数大语言模型每秒生成20个token;用时不到一秒就可以在终端侧通过Stable Diffusion生成图片。

芯片厂商提供了基础能力,终端厂商也随即开启“你方唱罢我登场”的模式,在短短一个月内,几乎所有的手机厂商都宣布已经在端侧跑通了自研的大语言模型。

同一时期,更加“古老”的PC行业也没有闲下。年初,在英特尔酷睿Ultra处理器后,包括联想、华硕、惠普、戴尔在内的多家厂商,都拿出了自己的“AIPC”方案。

暂且不论“AI手机”、“AIPC”在功能实现上如何,一个需要被前置讨论的问题是:端侧AI存在的意义是什么?

目前最集中的观点是,端侧AI在效率和安全性上有着不可替代的优势。

安全性自然不必多说,在用户数据无需上传至云端的情况下,隐私安全的确能从根本上得到保障。在效率方面,PC行业的领军企业联想主张在端侧混合使用CPU、GPU和NPU,搭建异构计算架构,能够使计算效率达到最高。

而相较于联想的“大包大揽”,也有体量稍小的手机厂商提出了更加前卫的方案。

魅族认为,手机厂商缺少做大模型的基因,一味地拼参数没有意义。他们更倾向于打造一个完全开放的平台,供大模型平台使用,包括但不局限于向开发者提供系统权限、API文档,并开放处理器的AI算力,让开发者拥有充分的自由度,从而实现更多创新功能和应用服务的制作。

除以上的技术路径外,大模型在端侧还有哪些表现形式?目前端侧AI还有哪些前沿进展?未来端侧AI还有哪些商业机遇?

2024年1月27日,虎嗅前沿科技组特邀行业技术专家与创业者,共同讨论端侧AI领域的商业实践、技术实践、创投机会、探索方向。

活动概况:

活动名称:2024 AI内参会

活动时间:2024年3月31日,14:00-17:00

活动地点:北京·虎嗅二层(万科时代中心·十里)

欢迎扫描海报中的二维码报名,我们一起讨论端侧AI的无限可能!


本文标签: 端侧  ai  大模型  处理器  智能手机  

相关推荐

猜你喜欢

大家正在看