一台手机能把 7B 模型跑起来,只能说明演示过关。真正影响日常使用的,是连续输出后机身有多热、速度会不会掉,以及 AI 助手挂在后台时还剩多少电。
本站此前在《手机跑 7B 和 12B 模型,INT4 还是 FP8 更合适》中,用 Llama 3.2 7B 连续生成 512 tokens。这个场景把 NPU 峰值算力拉回手机的物理限制:模型权重要反复读取,内存、功耗和散热同时承压。INT4 与 FP8 的差别,最终会落在等待时间、背壳温度和剩余电量上。
2026 年,厂商已经把端侧 AI 摆到旗舰机的主卖点位置。搜狐文章列出小米 15 Ultra、OPPO Find X8 Pro 和华为 Mate 80 系列,并把竞争概括为从跑分转向手机是否“懂你”。3 月 4 日,OPPO 又在 MWC 2026 官方信息中披露与联发科技深化合作,展示端侧商用、全模态交互与跨生态能力。当这些功能从演示走进后台常驻,续航就很难再被放到发布会角落里。
TOPS 很高,手机为什么还是会烫
骁龙 8 Gen 4、天玑 9400、A19 代表的旗舰平台,都在强化 NPU。问题在于,TOPS 描述的是特定计算条件下的峰值能力,无法直接回答手机能以这个速度运行多久。
端侧推理经常受 Memory Wall,也就是内存墙牵制。模型运行时,权重需要在存储、内存和计算单元之间搬运。参数越多、精度越高,需要处理的数据通常也越多。NPU 可以很快完成一轮计算,内存带宽和机身散热却未必跟得上。温度升高后,系统开始限制频率,最初很快的 AI 助手也可能逐渐变慢。
底层优化已经深入芯片计算单元。后摩智能披露,4 篇论文入选 ICLR 2026,相关成果已用于其端侧 AI 芯片的非线性计算单元。不过,公开摘要没有给出手机续航或整机功耗数据。这类进展说明优化方向正在下沉,却还不能直接换算成手机能多用多久。
INT4 和 FP8,差别会落到温度上
INT4 使用 4 位整数,FP8 使用 8 位浮点数。在相同参数规模下,INT4 的权重占用和数据搬运压力更小,通常更利于控制内存与功耗;精度压得更低,也可能影响复杂任务的输出质量。
本站此前的 512 tokens 测试里,INT4 内存占用最低、推理速度最快,设备温度也较低。日程提醒、简单摘要和常规指令一类任务,用这套方案更务实。
FP8 保留了更多数值精度。在 A19 等平台能够提供并实际调用原生 FP8 加速的前提下,其速度可以接近 INT4;测试中的逻辑推理和代码生成表现更稳,幻觉也更少。代价同样明确:同一组测试里,FP8 功耗高约 20%-30%,持续运行时更容易遇到降频。
这个数字只对应当时的模型、设备和推理条件,不能直接套到所有手机。上下文长度、推理框架、系统调度和散热设计都会改变结果。选购时,与其追问哪种量化格式绝对更好,不如确认厂商在日程、摘要、代码和多模态任务中分别采用了什么方案。
主动智能的耗电,藏在后台
一次问答的功耗容易测,全天挂着的 AI 助手更麻烦。“主动智能”要求手机持续判断环境和用户意图。如果相关功能调用摄像头、麦克风或加速度计,即使后台运行的是 INT4 小模型,频繁推理也会积累耗电和热量。
OPPO 与联发科技在 MWC 2026 展示的全模态交互,意味着端侧 AI 需要处理更多类型的输入。屏幕内容和视频流尤其考验持续算力。此前《Sora 把视频拉到 60 秒,端侧要学会不重算每一帧》讨论过关键帧复用和局部渲染:如果系统无法复用已有结果,逐帧重复计算,发热和功耗会快速累积。
不同功能的调用频率差别很大,后台耗电不适合写成一个固定百分比。对用户更有参考价值的是:常驻感知能否单独关闭,锁屏后是否继续运行,断网时哪些功能还可用,以及开启前后续航是否有可感知的变化。
买 AI 手机,先问三个具体问题
FP8 是否由硬件原生支持? 规格表写着支持 FP8,还要看 NPU、系统框架和实际应用能否调用。若主要依赖软件模拟,速度和功耗表现可能与宣传相差很远。
断网后还有哪些功能? 成熟的端云协同需要把任务边界说清楚:日程、摘要等轻任务可以留在本地,复杂逻辑交给云端。此前《通用人工智能产业链全景》讨论过芯片、模型与 API 的分工。落到手机上,用户需要知道哪些能力真正属于本地化推理,而非换一种方式调用云服务。
连续运行后速度还剩多少? VC 均热板不再只是游戏手机的配置。比单轮跑分更有用的测试,是让同一模型完成相同长度的连续输出,对比开始和结束时的速度、温度与电量变化。散热模组能否及时导出 NPU 热量,直接影响降频何时出现。
到了 2026 年下半年,模型能启动已经很难形成差异。让它连续生成 512 tokens,再看温度、速度和剩余电量,得到的答案更接近日常体验。一项需要用户经常关闭才能保住续航的 AI 功能,很难成为真正的常用功能。