2026年的端侧AI讨论里,三组信息经常被摆在同一张表上:苹果M5的38TOPS、高通骁龙8 Gen 4所称的推理功耗下降40%,以及骁龙X系列在AI PC上的现场演示。
它们并不是同一把尺子。6月26日的新浪新闻报道提到,M5采用3nm工艺,AI算力为38TOPS;骁龙8 Gen 4首次支持混合精度计算,高通称端侧大模型推理功耗降低40%。一个是峰值算力,一个是功耗降幅。X Elite和骁龙X系列又对应PC场景。直接写成“A系列对X Elite”的胜负,会把产品类别、散热条件和测试口径一并抹平。
真正值得追问的是:设备连续调用本地模型后,性能能否保持稳定。相册检索、实时转写或图像编辑开久了,是否发热、降频,电量消耗是否可以接受?
苹果先让模型少算一点
《21世纪经济报道》6月23日的报道提到,苹果的端侧主力模型AFM 3 Core Advanced约有200亿参数,但采用稀疏架构,每次推理只激活其中一部分参数。
这条路的逻辑很直白:先缩小实际参与计算的规模,再谈NPU能跑多快。对于相册搜索、语音转写这类可能被反复调用的功能,少做无效计算,比短时间冲出更高算力更重要。
同一批公开信息还提到,Apple Intelligence已于2026年2月随iOS 26.4全面上线。苹果可以把模型、芯片和系统调度放在一起处理,这是其端侧方案的主要特点。
不过,公开材料能确认的是设计路线,不是实测冠军。现有来源没有给出同一模型、同一运行时长和同一散热条件下的温度与掉电曲线。稀疏架构可以解释苹果为何有机会降低持续负载,却不能单独证明某款设备一定更凉、更省电。
高通从计算精度下手
高通选择先改计算方式。骁龙8 Gen 4支持混合精度计算,让模型的不同部分按需求使用不同精度,不必从头到尾维持同一种计算格式。高通给出的结果是,端侧大模型推理功耗降低40%。
这个40%应当按厂商公布的技术数据理解,不能直接拿来和M5的38TOPS相减,也不能自动套用到骁龙X Elite上。
雷锋网在CES 2026的现场报道中提到,搭载骁龙X系列处理器的轻薄本演示了多模态AI创作工具,从语音转写、生成文案到图像素材编辑,报道描述为全程无延迟卡顿。高通展台同时覆盖PC、汽车、机器人和物联网设备。
覆盖面是高通的长处。如果企业希望在手机、PC、汽车或机器人上部署相近的AI能力,骁龙平台提供了更多硬件入口。但演示顺滑和长期功耗是两个问题,覆盖多类设备也不等于模型可以零成本迁移。手机端的骁龙8 Gen 4与PC端的X Elite处在不同功耗边界,仍要分别测试模型量化、运行时适配和持续性能。
千元机把功耗问题推到台前
2026年3月下旬,荣耀、小米、OPPO、vivo陆续把端侧AI能力推向中端和千元机。至少在这些主流厂商的产品计划里,本地AI已经不再是旗舰机专属功能。
荣耀AI专家李向东的判断是:“AI手机是端侧AI最好的载体,端侧AI方向尚未收敛,但快速普及已成定局。”功能向更低价位下沉后,芯片要在更紧的成本和整机功耗预算里工作,峰值TOPS自然不能解释全部体验。
价格环境也在变化。钛媒体援引Omdia的预测称,2026年全球智能手机平均售价将从2025年的467美元升至565美元,涨幅21%,存储成本是推动因素之一。这个数据不能证明能效更高的芯片就一定获得更多订单,但会让终端厂商在SoC、存储和散热之间做出更谨慎的取舍。
采购时,先别拿TOPS表拍板
东吴证券2月23日发布的报告把端侧SoC放在“终端重构”和“价值重估”的位置。落到采购,判断仍要回到具体设备。
TOPS放到最后看。
更有效的测试方法,是固定同一个模型、同一种量化版本和同一项任务,确认计算确实在本地完成,再记录连续运行后的响应时间、掉电、表面温度和降频情况。NPU频率只是变量之一,CPU与NPU如何调度、内存带宽是否够用、软件适配是否成熟,都会改变最终结果。
如果业务集中在苹果设备上,Apple Silicon、端侧模型和操作系统由同一家公司协调,跨厂商适配的变量相对较少。但功耗优势仍需通过实际工作流验证。
如果业务需要同时覆盖手机、PC、汽车或机器人,高通的产品范围更贴近这种部署方式。代价也很明确:不同终端的功耗边界不同,模型和运行环境不能只适配一次。
现阶段能确认的是路线差异,而不是冠军。苹果先从模型结构里减少每次推理的计算量,高通则从混合精度和多类终端覆盖入手。38TOPS不是续航成绩,40%也不是跨平台通用答案。
用户最终感受到的结果很朴素:AI功能开久了,设备不烫、不掉速,电量也没有迅速见底。这才是功耗管理真正要解决的问题。