AI 纪元 追踪人工智能最新进展,深度解读前沿技术

Arm端侧AI能效,先别急着谈实测

公开素材还不足以支撑“2026下半年真实功耗实测”的说法。更可靠的看点是,Arm、苹果等厂商正在把端侧AI竞争从模型压缩,推向芯片、运行时、工具链和设备场景的协同。

0 次阅读 约 2538 字 5 分钟 AI 生成
A small circuit board with a chip sits inside a glass enclosure, surrounded by soft warm light and faint heat haze, suggesting limited power and thermal budget.
A small circuit board with a chip sits inside a glass enclosure, surrounded by soft warm light and faint heat haze, suggesting limited power and thermal budget.

把端侧AI放到2026年来看,问题已经变了。

前两年大家更关心模型能不能装进手机、PC或机器人;现在更难回答的是:装进去以后,它能不能长时间、低功耗、稳定地跑。

原题里有一句“2026下半年端侧推理的真实功耗实测”。这个说法需要先收住。现有公开素材没有给出具体机型、芯片型号、测试任务、功耗曲线,也没有同一口径下的续航、温升或推理延迟结果。没有这些条件,硬写“实测”,读者很容易被带偏。

更值得写的是另一个问题:Arm口中的能效路线,到底走向哪里。

Arm说的不是单颗芯片

21世纪经济报道在2026年1月27日发布《对话Arm邹挺:2026年物理AI加速,芯片将有这些新进展》。报道提到,Arm发布多项技术预测,认为2026年将迈入智能计算新纪元,计算会具备更高的模块化特性和能效表现,并实现云端、物理终端及边缘AI环境的无缝互联。

同一篇报道还提到,Arm判断下一个价值数万亿美元的AI平台将属于物理智能领域,智能能力会被植入新一代自主设备与机器人。

这段话听起来很大,但落到设备上,其实是一个很硬的问题:AI开始进入电池、散热、体积和实时响应都很受限的场景。

云端大模型可以用更多GPU、更大机房、更高功耗去换性能。端侧设备不行。手机、AI PC、汽车座舱、摄像头、机器人,很多时候只能在有限热设计和有限电量里完成推理。最后比的不是一句“能跑”,而是同样一次语音理解、图像识别、文本生成或动作决策,谁消耗更少,谁更稳。

Arm官网文章《下一代平台革新:Arm 驱动物理 AI 与边缘 AI 落地》把这条路说得更清楚:基于Arm平台构建、优化和部署AI工作负载,范围覆盖从云端到边缘侧;同时提到用于高效端侧AI和机器学习推理的专用AI处理器、CPU、CSS和IP产品组合,以及边缘AI库、运行时和工具。

换句话说,端侧推理的能效,已经不是某一颗CPU或NPU单独能决定的事。

“能跑起来”只是第一关

过去讨论手机芯片,常见说法是CPU大核、小核、GPU、NPU分别提升了多少。端侧大模型进来以后,问题复杂很多。

模型结构、量化方式、内存访问、运行时调度、系统功耗管理,都会影响最后的体验。模型本身再小,如果频繁唤醒高功耗单元,或者内存搬运效率很低,用户看到的仍然可能是发热、掉电、卡顿。

华尔街见闻在2026年6月22日发布《2026“端侧AI战事”升级,苹果谷歌们在拼什么?》。文章判断,2026上半年端侧大模型进入新阶段:模型会继续变小、变轻,但光靠压缩已经不够;下一步关键,是让模型和底层框架、芯片、具体设备场景配合起来,从“能跑起来”走向“更好用”。

这句话基本点到了端侧AI能效竞争的分界线。

“能跑起来”的阶段,发布会更容易展示参数、离线能力、端上生成效果。到了“更好用”的阶段,考验会变成连续任务:多轮对话时功耗怎么样,拍照和AI处理叠加时温度怎么样,后台常驻智能助手会不会拖累续航,弱网或离线时推理速度能不能稳定。

这些问题,单一跑分回答不了。

苹果的AFM3给了一个参照

华尔街见闻同一篇文章还提到,在2026年6月9日的WWDC2026上,苹果发布AFM3系列,并把约200亿参数的AFM 3 Core Advanced作为端侧主力模型之一。苹果的思路,是为端侧设计更省算力的结构,并通过稀疏架构处理模型本体做大的问题。

这至少说明两条路线正在并行。

一条在模型侧。端侧模型要更适合设备,不能简单照搬云端结构。参数规模、稀疏计算、量化、任务分流,都会影响芯片实际负载。

另一条在硬件和系统侧。Arm强调CPU、CSS、IP组合,以及边缘AI库、运行时和工具,本质上是在解决“模型落到设备上怎么跑”的问题。一个模型文件塞进芯片,并不等于端侧AI完成了。真正难的是让不同计算单元在合适的时间做合适的事。

这也是为什么现在谈端侧AI能效,不能只盯着NPU峰值算力。峰值好看,不代表真实任务里省电;模型小,也不一定代表系统功耗低。

推理正在往设备一侧下沉

荣格工业资源网转载的Arm 20项技术预测提到,全球计算技术格局正在从集中式云架构,转向覆盖各类设备、终端及系统的计算模式。

放到产业里看,就是推理位置在下沉:一部分任务留在云端,一部分在边缘节点处理,一部分直接在终端完成。

下沉当然不只是为了省云端成本。端侧和边缘侧有几个直接好处:响应更快,数据不必每次上传,弱网场景也能工作,隐私压力相对可控。

代价也同样明显:设备算力有限,功耗预算更紧,散热空间更小。Arm反复强调能效,回应的正是这组矛盾。

所谓“物理AI”,也不能只当成概念词。21财经报道中提到,Arm认为智能能力将被植入新一代自主设备与机器人。机器人、无人设备、工业终端这类场景,对能效的要求比手机更苛刻。

它们不只要识别和推理,还要感知环境、做动作决策,并和真实世界持续交互。一个机器人如果每做几次推理就明显发热,或者为了保持智能功能大幅缩短工作时间,就很难大规模部署。物理AI要落地,靠的不只是模型能力,还要看单位能耗下能完成多少有效推理。

现在能下的判断,要窄一点

Arm架构长期存在于移动设备、嵌入式设备和边缘设备中,位置贴近真实终端。它未必总以“最大算力”作为宣传中心,更多时候强调的是在有限功耗内完成计算任务。

但这里也要谨慎。

现有素材不能证明Arm在2026下半年端侧推理功耗上已经达到某个具体数值,也不能推出“领先多少”这样的结论。公开信息能支撑的判断只有一个:Arm正在把端侧AI竞争从单点芯片能力,推向平台化能效。

这个平台化能效包括CPU、专用AI处理器、IP组合、运行时、工具链,也包括具体设备场景里的调度和优化。

厂商发布端侧模型时,参数和演示效果仍然会吸引注意力。可用户最后记住的,往往是更朴素的体验:手机是不是发烫,笔记本风扇是不是频繁转,机器人能不能持续工作,设备离线时还能不能完成关键推理。

端侧AI的下一轮竞争,不会只写在模型榜单上,也会写在电池曲线、温度曲线和系统调度里。只是到目前为止,公开材料还没有给出足够完整的“真实功耗实测”。在这些数据出现之前,更稳妥的说法是:端侧推理正在从模型压缩,转向软硬件协同;Arm押注的,正是这条更长的能效路线。

相关阅读