2026年7月，当AI代理开始从云端走向手机和PC时，一个被忽略的瓶颈暴露出来：功耗。跑一个7B参数模型，旗舰机芯片通常只能坚持几十秒就开始降频。Arm在2026年的一系列动作表明，解决这个问题的钥匙不在算力堆叠，而在每瓦性能的设计哲学。
高管定调：能效才是下一阶段的关键
2026年4月，Arm首席执行官Rene Haas在Arm Everywhere亚太媒体沟通会上直言：“代理式AI的算力需求正以指数级增长，但功耗预算没有同步增加，能效成为胜负手。”（赛迪网）这一判断并非空话——两个月前，Arm刚刚推出了首款自研芯片Arm AGI CPU。
Arm AGI CPU：最高效代理CPU的启示
3月24日，Arm宣布正式进入芯片销售市场，推出Arm AGI CPU，专为数据中心的新型代理工作负载设计。每颗芯片最多集成136个Arm Neoverse V3内核，功耗约300瓦，Arm宣称这是“世界上最高效的代理CPU”（财联社）。虽然面向云端，但其设计思路——专用化、高能效、针对代理工作负载优化——直接映射了端侧AI的需求。
事实上，Arm在端侧积累的低功耗IP（Cortex-A系列、Mali GPU、Ethos NPU）正是当前移动芯片的基础。2026年1月，Arm发布20项技术预测，指出计算正从集中式云架构向覆盖各类设备的分布式架构转变（荣格工业）。AI代理将要求设备具备持续感知和决策能力，这必然倒逼芯片在功耗约束下提供稳定的推理性能。
手机与PC芯片的能效博弈
回到移动端。目前主流SoC如骁龙8系列、天玑9000系列均基于Arm CPU架构，并集成自研NPU。以运行7B-13B模型为例，NPU的INT8算力可达40TOPS，但持续输出才是真正的考验。Arm的DSU（DynamIQ共享单元）允许灵活配置大核与能效核，AI任务优先使用能效核，结合GPU并行计算，可显著降低峰值功耗。根据Arm预测，到2026年底，超过70%的AI推理将在设备上进行，这意味着芯片必须脱离“测评跑分”的玩具属性，真正面对持续负载下的发热控制。
“热节流”是当前最大的体验杀手。旗舰手机跑4-bit量化的Llama-3-8B时，头10秒还能保持15 tokens/s，但温度一过阈值，频率马上下调，输出减半。对比来看，骁龙8 Gen 4在NPU+CPU混合模式下可稳定输出10 tokens/s而不触发降频，但纯CPU模式只能持续30秒。这也是为什么厂商开始押注1.8B等小参数模型——性能足够日常任务，且几乎不会触发过热。关于这一趋势，本站之前已有分析手机端 7B 模型跑通后，厂商为什么还在压缩 1.8B 小钢炮。
开发者的硬件选型实用指南
面对多个芯片平台，移动开发者如何选择？以下三个维度比峰值TOPS更重要：
- 持续AI性能（sustained TOPS）：确认芯片在连续推理5分钟后的算力衰减曲线。部分SoC高负载下会降至峰值的一半以下。
- NPU的可编程性：是否支持混合精度（INT4/INT8/FP16）和稀疏化加速。硬件级KV缓存压缩能直接降低带宽和功耗。
- 异构调度能力：CPU、GPU、NPU能否协同工作。Arm的Total Compute策略提供了框架，但最终取决于厂商的驱动和框架（如Arm Compute Library、Qualcomm AI Engine）的优化。
对于PC端，Arm架构的AI PC芯片（如高通Snapdragon X Elite、Apple M系列）在CPU能效上优势明显，但运行13B以上模型时常遇到内存带宽瓶颈。Arm的CHI互连协议优化了数据流，减少内存拷贝，这在中高端型号上效果显著。
永远在线、始终感知：后台AI代理的功耗需求
Arm云AI事业部执行副总裁Mohamed Awad强调，未来的AI代理需要“永远在线、始终感知”，这对待机功耗提出了严苛要求。Arm推出的Ethos-U85 NPU专为毫瓦级场景设计，在唤醒词检测、环境感知等后台任务中功耗不足1mW，适合作为手机协处理器。
这也解释了为何端侧AI代理不能只靠大核暴力计算——全时运行的Agent需要专门的低功耗路径。Arm在系统级层面的优化可参考Agent FinOps：预算护栏要卡在执行前，其中核心思想是“想清楚哪些计算可以离线、哪些必须实时”。
结语：端侧AI代理的底座已现
Arm对AGI的愿景并非依赖单一芯片，而是从云到端的统一计算平台，低功耗是贯穿始终的设计原则。2026年下半年，3nm+工艺和更大体量的片上SRAM将批量出现在旗舰芯片上，结合架构微调，有望彻底化解“热节流”矛盾。对于开发者，现在就需要将芯片的能效曲线纳入模型选型和部署策略。而在企业级场景中，预算和能源管理同样重要，可进一步阅读GraphRAG 不必取代向量检索，混合架构更实用，了解检索系统在功耗约束下的架构选择。
无论如何，当AI代理真正成为手机的“默认配套”，低功耗芯片将不再只是供应商的PPT参数，而是用户每天握在手里的流畅体验。
