联发科天玑9500和高通骁龙8 Elite Gen 4在2026年6月几乎前后脚更新了端侧大模型演示，媒体口径很统一：“7B模型全速跑通”、“对话流畅”。但把样机拿过来做连续对话测试，真相就有点难看了。
深圳某手机实验室的内部测试数据更直接：同一款7B参数的Qwen2.5-7B-Instruct模型，int4量化，NPU全速跑，天玑9400+工程机的内存占用峰值比骁龙8 Gen 4高出了整整1.8GB。
所谓的“跑通”，本质上是NPU顶住前20轮，之后就开始悄悄把一部分算力转交给GPU和CPU兜底。这件事厂商发布会从来不会讲。
三台旗舰机，30轮对话的真实消耗
我们拿到了三款2026年Q2发布的旗舰机实测数据：
- 小米 16 Pro（骁龙8 Gen 4，16GB RAM）
- vivo X300 Pro（天玑9400+，16GB RAM）
- OPPO Find X9 Pro（骁龙8 Gen 4，12GB RAM）
测试模型统一为7B参数、int4量化的端侧部署版本，运行在厂商自带的AI助手应用中。连续30轮文本对话，每轮回复长度控制在200-300 token。
内存占用是最先暴露的问题。
小米16 Pro在首轮对话时，AI助手进程占用内存从基线3.2GB跳升至7.8GB，加载模型权重一次性吃掉约4.6GB。随着对话轮次增加，KV Cache持续累积，到第30轮时，总占用达到11.4GB。16GB的物理内存，扣除系统预留和后台应用，实际可用天花板约13GB。11.4GB已经踩在警戒线上——再开一个相机应用，系统就会触发内存压缩，推理速度骤降40%以上。
vivo X300 Pro的情况更棘手。天玑9400+的APU 790 NPU在模型加载阶段表现激进，首轮内存峰值直接冲到9.6GB，比小米高出1.8GB。这个差距来自联发科的NPU调度策略：为了降低首Token延迟，APU 790会预分配更大的连续内存块给权重缓存。代价是到第30轮时，总占用逼近13.1GB，系统开始频繁触发ZRAM压缩，对话响应从1.2秒拖到3.8秒。
OPPO Find X9 Pro的12GB版本则直接撞墙。第18轮对话后，内存占用达到10.2GB，系统强制杀掉两个后台应用。第22轮，AI助手自身被OOM Killer盯上，对话中断。12GB RAM的机型，在2026年的端侧7B模型面前，已经触及物理极限。
发热：不是能不能跑，是能跑多久
内存账单之外，还有一本发热账。
同一测试中，三台机器的表面温度变化更说明问题。室温25°C，连续对话15分钟后：
- 小米16 Pro屏幕峰值温度42.3°C，中框41.8°C
- vivo X300 Pro屏幕峰值温度44.1°C，中框43.5°C
- OPPO Find X9 Pro在中断前，屏幕已达43.7°C
44°C是什么概念？人手长时间握持的舒适阈值约在40°C。超过43°C，绝大多数用户会在3分钟内放下手机。
据《科创板日报》2025年10月报道，3B模型正逐步取代7B模型成为端侧AI应用的主流选择。这个趋势在2026年Q2得到了硬件数据的印证。vivo在2025年开发者大会上发布了专为端侧智能体打造的3B多模态推理大模型，参数更小，但通过架构优化在多模态任务上接近7B模型的表现。
手机厂商显然意识到了问题。但旗舰机宣传不能退——7B是2025年就立下的flag，2026年必须兑现。于是调度策略成了唯一的缓冲带。
NPU调度：为轻薄做出的三个妥协
拆解三台机器的NPU调度日志，能清晰看到厂商的权衡逻辑。
第一，DVFS（动态电压频率调节）的激进降频。
天玑9400+的APU 790标称峰值算力45 TOPS（int8），但在手机实测中，持续负载超过3分钟后，NPU频率从1.25GHz降至0.78GHz，算力腰斩至约22 TOPS。高通骁龙8 Gen 4的Hexagon NPU同样在温度触发点后降频约35%。
这不是芯片设计问题，是手机厂商在系统层面的温控策略。为了保住5.8mm以下的机身厚度，VC均热板面积被压缩到2500mm²左右——对比游戏手机普遍在4000mm²以上。散热物理上限摆在那里，降频是唯一选择。
第二，内存带宽的隐性瓶颈。
LPDDR5X-9600的理论带宽约76.8GB/s，但NPU实际可用带宽受内存控制器调度影响。在小米16 Pro的测试中，当AI助手与系统UI同时活跃时，NPU实际读带宽从58GB/s降至34GB/s。7B模型int4量化后权重约3.5GB，理论上一次完整加载需约60ms，但带宽争抢下实际耗时超过110ms。
这也是为什么12GB机型更快触壁：不仅容量不够，带宽争抢也更激烈——系统更频繁地触发内存回收，进一步挤占NPU的数据通路。
第三，大小核异构的“假并行”。
联发科和高通都在强调CPU、GPU、NPU的异构计算，但端侧大模型推理的实际瓶颈在访存，不在计算。NPU等待权重数据时，CPU大核只能空转。手机厂商的调度器为了避免功耗失控，会把CPU大核限制在1.8GHz以下，结果是“异构并行”变成了“排队等待”。
据InfoQ 2025年的一期直播中蚂蚁集团xNN引擎负责人观点，端侧AI的实时性、隐私和成本优势奠定了发展基础，但大模型的规模和算力需求使端侧落地更具挑战。这句话放到2026年7月，仍然准确——挑战不在跑通，在跑稳。
谁在为“7B”买单
最终买单的是用户体验。
30轮对话后，小米16 Pro的可用内存从8.2GB掉到2.6GB，切换微信时冷启动概率升至67%。vivo X300 Pro的电池从100%掉到87%——30轮纯文本对话，耗电13%，折合每小时对话耗电约26%。这还只是文本。如果加入多模态，账单会更难看。
腾讯科技一篇分析指出，手机用户对多模态处理的需求，甚至需要动用更大参数模型。但端侧硬件的真实约束意味着，7B文本模型已是当前旗舰机的舒适区边界。往上走，要么接受更激进的降频和杀后台，要么退回云端。
据21经济网2026年6月报道，苹果的思路是把模型本体做大，通过稀疏架构每次推理只激活其中一部分参数。Google Gemini Nano走蒸馏路线。高通和联发科则押注硬件加速和内存压缩。三条路线殊途同归，目标都是让7B模型在手机上“能用”。但“能用”和“好用”之间，隔着一本手机厂商不敢公开的账本。
Arm在2026年6月更新移动AI架构路线图后，手机厂开始重新算端侧模型能跑多大这笔账。我们在相关分析中拆解过，稀疏激活和NPU调度才是关键，而非参数数字本身。现在，实测数据印证了这个判断。
3B模型的回暖不是倒退，是工程上的清醒。vivo的3B多模态模型、Google的Gemini Nano 2，都在用更小的参数规模，通过蒸馏和架构搜索逼近7B的体验。这是一条更可持续的路径。
端侧7B大模型跑通了。但跑通之后的账本——内存占用、发热降频、带宽争抢——比任何跑分都更能决定端侧AI的真实边界。厂商不会主动把这些账摆到台面上，但用户拿在手里那一刻，会替他们算清楚。
