AI 纪元 追踪人工智能最新进展,深度解读前沿技术

ARM架构之争背后,手机端AI开始比拼持续能效

端侧AI进入手机和智能眼镜后,峰值算力已不足以解释真实体验。现有材料能确认苹果等厂商持续推进端侧AI、国内至少50个团队布局AI眼镜;至于「ARM V3.1」及相关性能数据,缺少官方文档和测试条件,暂不宜写成定论。

0 次阅读 约 1699 字 3 分钟 AI 生成

一部手机把模型跑起来,并不等于它能让模型长期留在本地。短时测试可以集中调用算力,真实应用却要与相机、基带、屏幕和后台任务共同分配功耗与内存。端侧 AI 一旦进入连续对话、实时影像和智能眼镜,芯片要回答的问题就多了:能跑多久,温度如何,系统是否稳定。

近期围绕「ARM V3.1」的说法,常把矩阵单元、专用缓存和多组能效数据放在一起,听上去像一次已经落地的架构升级。但现有可引用素材中没有对应的 ARM 官方白皮书,也缺少测试平台、模型配置和测量方法。缺少这些条件,相关数字无法核验,手机 AI 芯片的变化需要从更可靠的线索谈起。

跑分之外,内存搬运更难绕开

语言模型推理不只做矩阵乘法。权重、激活值和 K/V 缓存需要反复读写,长上下文与多轮对话还会继续增加内存压力。GQA 这类注意力结构,本身就在减轻 K/V 侧的负担;落到手机上,效果仍取决于算子实现、缓存层级、编译器和量化方案能否配合。

这也是峰值 TOPS 经常失真的地方。芯片可以在短时间内给出很高的吞吐量,模型却可能因为内存带宽、温控或调度迅速降频。评价端侧 AI,至少要把持续性能、内存占用、功耗和温度放在一起看。某个算子的提升,不能直接换算成整机体验。

ARM能提供底座,整机表现还要看厂商怎么做

在采用 ARM 技术路线的芯片中,指令扩展、矩阵与向量能力、缓存和互联都会影响模型的执行路径。同一套 IP 交到不同厂商手里,NPU 设计、内存子系统、工艺、编译器、系统调度和模型量化仍会拉开差距。

判断某个 ARM 版本是否改写端侧模型的运行规则,至少需要三类证据:

  • 官方架构文档,明确版本命名、功能边界和新增能力;
  • 可复现的测试条件,包括模型、量化方式、上下文长度、批量大小、温度与功耗测量方法;
  • 商用设备上的持续测试,观察性能、发热、续航和多任务并发。

现有素材没有提供这三层证据。围绕该版本的多组能效、延迟和功耗数据暂时无法核验,某款手机是否已经采用「ARM V3.1」也不能下结论。

更可靠的信号,来自端侧应用

一份行业中期报告把苹果产业链和智能眼镜列为看好的 AI 端侧方向。报告称,iPhone 16 已初步融入 AI,并判断 iPhone 17 有望继续推动硬件与端侧 AI 创新。报告还提到,国内至少有 50 个团队在做 AI 眼镜,其中包括华为、小米、vivo 和荣耀等硬件厂商。

这组信息比单个架构代号更能解释芯片优先级的变化。手机还有相对充足的机身空间和电池,眼镜对重量、散热和续航更敏感。模型若要在这类设备上承担视觉识别、语音交互或本地助手等任务,持续能效就会直接决定功能能否常用。

应用也在反过来约束芯片设计。实时滤镜、虚拟背景、多轮对话和视觉理解都需要连续工作,短时跑分很难覆盖这些场景。厂商需要同时处理计算单元利用率、数据搬运和软件调度,任何一环掉队,端侧体验都会打折。

竞争不会只围着一个架构版本展开

《华为算力编年史》把华为的手机芯片与 AI 算力演进分开梳理:2009 年至 2012 年,手机芯片持续革新;2018 年发布昇腾 310 和昇腾 910,采用达芬奇架构,并通过硬件开放、软件开源、伙伴与人才建设推进鲲鹏计算产业。

这份材料不能证明华为手机端正在采用某个具体的 ARM 新版本,也不能把昇腾路线直接套到手机上。它提供了另一个观察角度:芯片、系统、模型和开发工具正在被放进同一套竞争框架里。硬件有算力,软件无法调度;模型完成量化,算子没有适配;这些问题都会拖慢端侧 AI 的落地。

下一轮差距,会出现在长时间使用里

接下来更值得追踪的是,同一模型量化后能否稳定运行,长对话时 K/V 缓存如何管理,相机与 AI 并发时会不会明显降频,以及工具链能否让模型快速适配不同 SoC。厂商如果只给峰值跑分,却不提供持续时长、温度、功耗和测试条件,信息仍然不够。

ARM 的架构升级当然重要,但它只是整条链路中的一环。手机端 AI 真正跨过门槛,要看模型能否在设备上稳定待命,同时不挤压原有的续航和使用体验。到那时,实时影像、多轮对话和智能眼镜上的本地助手,才会从演示功能变成日常功能。

相关阅读