手机厂商讲端侧大模型,最容易被记住的是参数量。
10亿、30亿、多模态、个人智能……这些词放在发布会上很有冲击力。但真正麻烦的地方不在于“模型能不能塞进手机”,而在于塞进去以后,它能做什么、能连续做多久,以及会不会把手机原本的体验拖慢。
腾讯科技在《手机大模型背后的AI芯片暗战,挑战的不只是摩尔定律》中提到一个对比:2017年起,手机上的AI已经用于图像降噪、帧率优化、画质增强等场景,但当时这些模型的参数量通常不超过1000万。现在讨论的端侧大模型,即便是最小规模,也已经到10亿参数,是早期模型的100倍。
这不是简单的“手机AI升级”。参数量放大两个数量级后,过去那套围绕拍照、显示、局部优化设计的AI能力,开始面对完全不同的工程压力。
10亿参数,只是入场券
端侧大模型听起来像是把云端能力搬进手机。但从实际使用看,10亿参数并不意味着手机已经拥有一个完整的本地智能体。
腾讯科技的报道里有一句很关键:即使是10亿参数级的端侧模型,也只能执行一些基本的文本处理任务。知乎专栏《端侧大模型,手机厂商的下一次入口级机会》也提到,运行端侧大模型推理,与过去手机AI算法最大的区别,就是模型更“大”;即便是小的大模型,参数通常也要到十亿级,而外界普遍认为30亿参数才更接近端侧大模型的实用门槛。
这意味着,10亿参数不是终点,更像是端侧大模型能被拿出来讨论的起点。
手机用户想要的AI能力也很少只停留在文本上。翻译菜单、总结录音、理解图片、搜索相册、处理视频,这些都是天然的多模态任务。可一旦进入文本、图像、语音、视频混合处理,模型规模、算力需求、内存占用都会继续上升。
所以端侧大模型的第一个尴尬是:参数太小,能力有限;参数继续做大,手机又很难承受。
发布会演示是一回事,日常使用是另一回事
新京报报道,2024年10月10日,在vivo开发者大会上,vivo发布了全新AI战略“蓝心智能”。据介绍,“蓝心智能”是将大模型技术与手机操作系统融合的个人智能。报道还提到,多家智能手机厂商正在布局语言、语音、图像、端侧、多模态大模型,希望在人机交互和意图理解上升级。
这说明手机厂商确实把端侧大模型当成下一阶段系统能力来做,而不只是一个应用功能。
但发布会上的演示通常会避开最难的部分。比如一句话总结文本、识别图片内容、完成一次短对话,这类任务时间短、边界清楚,也方便展示效果。真正考验系统的是连续使用:长文档摘要、多轮对话、会议纪要、实时翻译、长时间图像或视频理解。
端侧大模型只要在本地持续推理,就会牵出几个老问题:算力够不够,内存能不能跟上,发热如何控制,电量掉得快不快,其他应用会不会卡。
过去手机AI做图像降噪、帧率优化时,任务相对明确,持续时间也短。大模型不一样,它更像一个随时被唤起的系统级能力。用户不会因为你在跑AI,就接受相册慢半拍、输入法卡顿、机身发烫。
这也是为什么“跑得起来”和“值得用户每天用”之间,还有一段很长的距离。
本地处理有吸引力,但不能只靠隐私叙事
端侧大模型最容易讲清楚的优势,是实时性、隐私和成本。
InfoQ《像把大象塞进冰箱一样困难,端侧大模型是噱头还是未来?》提到,无论在传统AI还是大模型时代,实时性、隐私和成本优势都奠定了端侧AI的发展基础。模型在本地运行,数据不必每次都上传云端,响应也不完全依赖网络。
这对手机厂商很重要。手机掌握着用户最密集的数据入口:照片、录音、聊天、文件、位置、日程。如果端侧AI足够可靠,它可以变成操作系统层面的新入口,而不是某个云端App里的附加功能。
知乎专栏也把端侧大模型看作手机厂商的下一次入口级机会。这个判断有道理。因为一旦AI能力和系统结合得足够深,用户打开应用、调用服务、处理信息的方式都会变化。
但问题也在这里:入口不是靠概念抢来的,而是靠稳定体验养出来的。
如果本地模型只能处理轻量文本,复杂任务还要跳到云端;如果网络一差,体验立刻断裂;如果连续用几分钟手机明显发热,用户很快就会回到熟悉的云端工具。隐私优势是真优势,但它不能替代可用性。
端云协同不是万能答案
现在很多端侧AI能力并不是完全在手机上完成,而是端侧和云端协同。
OFweek相关文章提到,当前一些所谓“端侧大模型”的能力,仍然需要端云协同。比如复杂总结、PDF摘要等任务,单靠端侧模型未必能完成,或者效果有限;云端大模型仍然承担一部分更重的推理任务。
这是一种现实选择。手机负责低延迟、隐私敏感、轻量化的部分,云端负责更复杂、更重的生成和理解。问题在于,用户感知到的是完整体验,不会关心哪一层在本地、哪一层在云上。
端云协同做得好,用户只觉得顺滑;做得不好,断点会很明显:等待上传、网络波动、结果返回慢、隐私提示频繁出现。端侧AI原本强调“即时响应”,一旦频繁依赖云端,这个优势就会被削弱。
这也是手机厂商接下来必须回答的问题:哪些任务必须本地完成,哪些任务可以交给云端,切换过程如何不打断用户。
这个问题没有统一答案。拍照、翻译、会议、办公、搜索,每个场景对延迟、准确率、隐私和功耗的要求都不一样。端侧大模型进手机后,厂商比拼的不只是模型参数,还有系统调度能力。
手机厂商多了一个工程包袱
端侧大模型让手机厂商重新面对硬件边界。
模型越大,内存和算力压力越大;推理越频繁,发热和续航压力越明显;任务越接近多模态,系统调度越复杂。过去手机厂商熟悉的是芯片、影像、屏幕、系统动画这些竞争点,现在又多了一层:怎样让AI在有限体积、有限电量和有限散热条件下长期工作。
InfoQ那篇文章的标题用了一个形象说法:端侧大模型像“把大象塞进冰箱”。这个比喻并不夸张。手机不是服务器,它没有持续供电,没有大型散热,也不能为了跑模型牺牲日常体验。
所以,端侧大模型对手机行业的意义,不只是多了几个AI功能。它会倒逼厂商重新设计系统资源分配:什么时候调用本地模型,什么时候降级到轻量模型,什么时候交给云端,什么时候干脆不启动大模型。
这些判断如果做得粗糙,AI就会变成一个偶尔惊艳、经常尴尬的功能。做得细,才有可能成为系统入口。
参数竞赛会退烧,可用性会留下
现在看端侧大模型,最不该只盯着参数。
10亿参数能进手机,当然是进展。它说明大模型轻量化、芯片能效、系统优化都在往前走。但腾讯科技提到的事实也提醒了行业:10亿参数级模型目前仍主要适合基本文本任务;用户真正期待的多模态能力,需要更复杂的模型和更强的系统支撑。
手机厂商接下来要解决的,不是把发布会上的AI演示做得更漂亮,而是把端侧AI放进真实日常:后台有消息,前台在拍照,用户还要语音输入、搜索文件、总结内容,手机不能明显变慢,也不能很快发热。
这才是端侧大模型的工程包袱。
它确实可能成为手机厂商的新入口,但入口的前提不是“模型在本地”,而是用户愿意把事情交给它。能不能做到这一点,取决于参数之外的东西:能效、调度、端云协同,以及手机系统对复杂场景的耐心打磨。