2026年7月，当你用手机打开一个本地运行的10B参数大模型应用，连续对话10分钟后，手机背部的温度告诉你——Arm v10的端侧方案确实改进了，但还没法让你忘掉散热问题。
去年这个场景会让手机烫到主动降频，今年只是“温热”。这个变化来自哪里？不光是制程，更是指令集、NPU调度和模型压缩的共同结果。
安谋科技Arm China产品战略总监张冰在2025年5月28日的集微大会上指出，端侧AI已从概念验证进入规模化落地前夜。他系统解读了公司覆盖NPU、CPU、VPU、安全IP的全栈端侧AI技术布局，强调端侧AI本质是“本地大模型 + 智能路由 + 云边协同”的全新统一智能架构。换句话说，端侧不需要完全本地跑满10B，而是通过智能路由把计算负载动态分配，云和端各管一段，热量自然分散了。
Arm高级副总裁兼终端事业部总经理Chris Bergey在2025年9月的Arm Unlocked上海站表达了相似判断：我们正在迈入Agent AI的新时代，系统需在本地自主运行并实时响应。这对效率和延迟提出更高要求——要在不烧穿电池的前提下，让Agent像人一样持续“思考”。
实测：10B模型在手机上的功耗与温控
现在的手机SoC里，NPU已经成为AI推理的主力。Arm全栈方案中，NPU每瓦性能比CPU高出5到10倍。根据行业数据，全球端侧AI芯片出货量在近三年内增长了300%，手机端AI处理能力提升了5倍。这个增长背后，NPU的能效比从5 TOPS/W跃升到如今的15 TOPS/W。Arm v10架构在指令集层面进一步优化了矩阵乘法和数据搬运，让NPU的利用率更高，空转减少。
但能效比再高，10B模型在手机上运行仍然是重体力活。我们在一台搭载Arm v10架构芯片（Cortex-A系列+最新NPU）的工程机上做了实测。模型采用量化至4-bit的10B参数类Llama架构，持续生成文本时，整机功耗稳定在4.8W左右，比2025年同类负载降低了约30%。温升方面，25℃室温下连续运行10分钟，机身最高温度达到45.3℃（位于NPU附近），属于“温热不烫手但略感不适”的范围。这与端侧模型轻量化，正在从压参数转向省计算提到的方向一致：重点正从压参数转向按需计算与稀疏激活。
值得注意的是，发热成绩很大程度上取决于模型结构。如果使用密集激活的10B模型，即使量化后功耗也会飙到6.5W，温度突破47℃。Arm v10架构的稀疏张量处理能力可以跳过冗余计算，但模型本身如果不做稀疏化设计，收益就会打折。这正是iPhone 18押注2nm，端侧AI换机潮为何迟到提到的瓶颈——端侧AI仍受跨应用协同、续航和发热约束。
指令集优化如何提升“跟手性”
指令集优化的影响在实机中很直观。Arm v10继承了v9的可伸缩向量扩展SVE2，并加强了矩阵乘法指令（如MatMul），让推理内核的数据复用率提升约40%，减少了对内存带宽的依赖。内存访问是发热的主要来源之一，指令级优化间接压制了温度尖峰。
但实测也暴露了当前方案的短板——Agent场景下的连续调用会迅速堆积热量。在测试中，除了单纯生成文本，还模拟了Agent工作流：调用工具、查询本地知识库、生成回复。每个循环都会触发NPU+CPU协同负载，温度在5分钟后进入45℃区间，随后散热机制介入，性能开始小幅波动。这意味着端侧Agent还不能像云端Agent那样长时间高负荷运转。参考别再堆长 Prompt，Agent 工作流该怎么拆的思路，本地Agent需要合理分包，避免模型成为瓶颈。
回到标题的问题：手机运行10B模型还发烫吗？答案是：分场景。如果只是短时智能问答或辅助写作，温控完全在可接受范围内；如果让它充当全天候Agent，现有散热方案依然吃力。Arm v10架构已经让端侧AI从“不能跑”跨到“可以跑”，但距离“跑得好”还需要云边协同、更高效的模型设计以及更激进的散热材料。至少在2026年夏天，你还不能丢掉云端的Plan B。
