手机芯片发布会上，TOPS仍是最醒目的AI指标。但到了真实负载里，计算单元能跑多快，只是性能的一部分。模型权重能否及时送到计算单元、数据搬运消耗多少电、持续运行后会不会降频，同样会影响端侧AI的响应速度。
这也是Arm近期反复强调系统设计的原因。随着生成式AI和智能体应用进入手机、PC及物联网设备，任务不再适合全部交给云端处理。网络延迟、带宽成本、隐私和能耗，都在推动更多计算留在设备本地。电子工程专辑在对边缘AI的分析中，也把这些因素列为端侧计算加速发展的直接背景。
TOPS解释不了数据怎么流动
大模型推理需要持续读取权重和中间数据。NPU即使拥有很高的峰值算力，如果内存供数速度跟不上，计算单元仍会等待。对手机这类功耗和散热空间有限的设备来说，问题还会进一步传导到温度与续航。
因此，评估一颗端侧AI芯片时，只比较NPU的TOPS，很难完整解释实际体验。内存控制器、缓存设计、片上互连和任务调度都会参与最终结果。多轮对话、图像生成以及需要持续运行的智能体任务，尤其考验整套系统能否稳定搬运数据。
这也意味着，讨论高通骁龙和联发科天玑的端侧AI能力时，不能仅凭一项峰值参数判断胜负。现有素材没有提供骁龙8 Gen4与天玑9400在统一模型、统一内存配置和统一散热条件下的对比数据，因此无法据此断言哪一款芯片占优。更可靠的观察对象，是具体设备上的模型加载速度、持续输出表现、功耗和温度。
Lumex CSS把优化范围扩到整套系统
2025年9月，Arm发布Arm Lumex计算子系统，也就是Lumex CSS，面向旗舰智能手机和下一代个人电脑。根据21世纪经济报道披露的信息，该平台集成Arm CPU、GPU和系统IP，其中CPU加入第二代可伸缩矩阵扩展SME2。
CSS的价值在于把多个IP模块放进同一套经过验证的系统方案中。芯片厂商拿到的不只是单独的CPU或GPU核心，还包括围绕互连、内存访问和任务协同的设计基础。对于端侧AI负载，这类系统级优化可以减少反复搬运数据带来的等待和能耗。
SME2则把矩阵计算能力带入CPU。在部分AI任务中，开发者可以直接利用CPU完成相关计算，不必让所有工作都依赖独立NPU。这样的安排也有助于在不同计算单元之间分配负载，但最终表现仍取决于芯片厂商的实现、内存配置和终端散热条件。
Arm要解决的是规模化适配
Arm高级副总裁兼终端事业部总经理Chris Bergey在2025年台北COMPUTEX前夕谈到，基于Arm架构的芯片累计出货量已经超过3100亿颗。深圳湾援引其演讲称，Arm预计2025年其架构将占PC和平板整体出货量的40%以上，并覆盖头部超大规模云服务提供商50%的算力。
如此庞大的设备基础，让Arm关心的不只是单颗芯片的峰值成绩。模型和应用需要跨手机、PC及其他终端运行，如果每个平台的计算接口和系统能力差异过大，开发者的适配成本也会随之上升。CSS提供统一度更高的计算基础，正是Arm推动端侧AI规模化落地的一种方式。
安谋科技Arm China对问题的概括更直接：算力、内存和功耗是端侧AI面临的“三堵墙”。其推出的“周易”X3 NPU也围绕这三项约束展开。这里反映出的行业判断很清楚——继续增加计算单元并不够，内存访问和功耗控制必须同步改善。
看芯片参数，要追问持续表现
消费者很难从一张规格表里读出总线和缓存设计，但仍可以通过实际场景判断芯片是否存在短板。模型首次加载需要多久，连续对话后速度是否下降，图像生成期间机身温度如何，长时间运行会不会明显降频，这些都比单独一个TOPS数字更接近真实体验。
对高通、联发科等芯片厂商来说，竞争也会更多落到系统实现上：CPU、GPU和NPU怎样分工，内存带宽如何分配，数据能否少走弯路，以及整机能否在功耗范围内维持性能。
Arm推出Lumex CSS并引入SME2，释放出的信号并不复杂。端侧AI开始进入持续运行和复杂交互阶段后，峰值算力仍然重要，但它必须与内存、互连和功耗控制一起接受检验。下一轮手机AI体验的差距，很可能就藏在这些不够醒目的参数里。
