7B模型能跑,不等于能留在手机里
把7B模型装进手机,首先遇到的不是宣传页上的峰值算力,而是内存。
模型经过低比特量化后,权重体积可以明显缩小,但运行时还要为激活值、KV cache和系统应用留出空间。模型占满内存,即使可以启动,也很难成为稳定的系统功能。用户切换相机、笔记或浏览器时,后台模型是否被清理,重新加载要等多久,这些问题比一次演示更接近真实体验。
这也解释了端侧AI为什么越来越依赖整套软硬件配合。Arm在移动端AI页面中列出的并非单一NPU产品,而是CPU、CSS和IP产品组合,并强调从云端到边缘侧的模型构建、优化和部署。Arm还提到,AI模型演进速度加快后,软件发展开始领先于硬件,需要计算栈各层继续调整。
对手机芯片厂商来说,问题已经很具体:同一个模型如何分配给CPU、GPU和NPU,量化算子是否成熟,内存访问是否顺畅,模型又能否接入现有应用。任何一环拖慢,纸面算力都很难直接变成可用功能。
联发科和高通比的,是落地方式
联发科与高通都在推进端侧AI,但现有素材不足以支持对天玑9500、骁龙8 Elite Gen 4的NPU算力、内存带宽和7B模型生成速度作精确比较。原稿中关于67 TOPS、75 TOPS、85 GB/s以及每秒token数的说法,没有对应公开来源,不宜据此判断胜负。
能够确认的是,两家的竞争已经延伸到芯片之外。
智东西在讨论联发科端侧AI路线时,把延迟、网络依赖和隐私风险列为云端AI体验中的现实问题,并认为更可靠的端侧能力是移动AI继续发展的关键。这意味着联发科要证明的,不只是模型能够在芯片上运行,还包括它能否稳定进入相机、问答、笔记等高频场景。
高通面对的是同一道题。智源社区转载的量子位文章在分析骁龙8至尊版时提到,应用侧的AI化依赖底层硬件变化,升级目标也不只是增加算力,而是让大模型在端侧真正用起来。这里的“用起来”,通常会落到启动速度、功耗、内存占用和应用接入上。
因此,谁先发布支持7B模型的演示,并不能直接说明谁先完成产品化。更值得观察的是,模型是否预装在量产手机中,能否离线连续运行,以及开启后会不会明显挤占其他应用的资源。
Arm能减少重复适配,但不会抹平差距
Arm的价值在于提供较一致的底层基础。手机厂商和模型开发者如果能在相近的工具、算子和硬件接口上部署模型,就不必为每一种芯片重新搭建全部流程。这会降低模型从实验室进入手机的适配成本。
不过,统一底层并不意味着联发科与高通会得到相同结果。芯片内部的调度方式、手机厂商的内存策略、系统对后台模型的管理,以及具体应用愿意留给模型多少资源,仍会造成体验差异。
7B模型尤其考验这些细节。短问答可以限制上下文长度,相机和笔记功能却可能持续读取图片、文字或历史内容。上下文越长,缓存压力越大;系统一旦频繁回收模型,端侧运行带来的低延迟优势也会被重新加载抵消。
端云协同还会影响产品判断。手机可以在本地处理较短、较敏感的任务,再把复杂请求交给云端。这样的方案未必能让7B模型全程离线运行,却可能比单纯追求“完整模型驻留”更容易进入日常功能。
现在还无法判断谁会抢先
从现有公开材料看,联发科和高通都具备推进端侧大模型的技术方向,但还不能据此确认哪一家会先把7B模型做成稳定的量产功能。三星Galaxy S26 Ultra、vivo X200 Ultra及One UI 9 beta等原稿案例,也缺少可核验来源,不能作为结论依据。
接下来可以盯住三个信号:量产手机是否明确支持离线7B模型,厂商是否公开内存与功耗条件,以及相关能力能否进入相机、笔记、助手等系统应用。
如果厂商只展示模型参数和单次生成速度,信息仍然有限。真正有分量的进展,是模型开启后手机还能正常多任务运行,常用功能不必频繁转回云端,开发者也不需要为每款芯片重新做一套适配。
7B只是模型规模,距离好用还隔着内存、调度和软件工具。联发科与高通谁先跨过去,要看量产手机,而不是一张算力表。