跑大模型，终端设备最先遇到的往往不是“能不能算”，而是电池、发热和内存带宽。
Arm这一轮端侧AI叙事，也落在这些老问题上。据 EDN China 报道，Arm最新计算平台已支持在终端设备上运行超10亿参数的端侧AI模型。报道中提到，全新发布的超高能效 Cortex-A320，可以为 Ethos-U85 提供更高的内存容量与带宽，让大模型在端侧运行时有更好的硬件基础。
这比“手机跑大模型”四个字更关键。端侧推理的瓶颈经常不在单次峰值算力，而在持续读取模型权重、频繁访问内存、长时间保持稳定功耗。只看跑分，很容易高估体验。
端侧AI先要解决内存和带宽
大模型落到手机、PC、穿戴设备或XR终端上，第一道门槛是模型规模。云端可以靠更大的集群和显存堆资源，终端设备却要在有限电池、散热空间和内存里完成推理。
EDN China 的信息里，Cortex-A320 与 Ethos-U85 的组合被放在一起讲，重点就是把 CPU、NPU、内存系统放到同一个约束里看。Ethos-U85 需要更高内存容量与带宽支持，Cortex-A320则强调能效。换句话说，Arm并不只是把一个更强的NPU塞进平台，而是在为端侧模型持续运行补底层短板。
这也是端侧AI和传统移动计算的区别。过去很多移动端AI任务是拍照增强、语音唤醒、人脸识别，调用短、任务窄；生成式AI需要连续对话、文本生成、图像理解，推理时间更长，对功耗曲线更敏感。
“超10亿参数”比“千亿参数”更像当前落点
原稿把重点放在“千亿参数实测”和大幅省电数据上，但现有公开素材里并没有这些实测数字。能确认的是，Arm最新计算平台支持运行超10亿参数的端侧AI模型；更大规模模型进入终端，还要依赖量化、裁剪、稀疏化、MoE等工程手段。
Forbes China 在关于 Arm 边缘AI的报道中提到，大模型不断瘦身、轻量化，小模型将进入边缘设备。这个判断更接近当前端侧AI的实际路径：不是直接把云端大模型原样搬到手机里，而是让模型变小、调用更精确、硬件访问更省。
“超10亿参数”并不小。对手机或轻薄PC来说，这已经足够支撑不少本地化任务，比如文本摘要、输入法联想、语音理解、图片语义分析、离线问答。它们未必需要云端同级别大模型，但需要足够快、足够稳，而且不能让用户明显感到发热和掉电。
终端厂商为什么急着布局
西南证券研究发展中心海外研究团队在 2023 年 12 月的《端侧AI大幕拉开，引领新一轮终端创新周期》中提到，23H2以来，各终端厂商和芯片厂商开始密集布局端侧AI，AI模型与手机、PC、穿戴设备、XR等整合，将带来新的交互方式和音视觉体验。
这句话背后有一个很现实的产业压力：智能手机、PC等终端已经很难只靠屏幕、影像、外观继续刺激换机。端侧AI给厂商提供了一个新卖点，但这个卖点要成立，不能只停留在发布会演示。
用户真正会感知的是几个具体场景：离线翻译能不能及时响应；语音助手能不能在弱网下继续工作；本地相册搜索能不能不上传隐私数据；AI写作、会议纪要、图片编辑能不能持续使用而不烫手。这些场景都指向同一个问题：端侧AI要长期运行，硬件能效必须跟上。
Arm架构在终端市场的优势，也正在这里体现。它覆盖手机、平板、PC、IoT和车载等大量设备，芯片厂商可以基于Arm架构继续做定制。对AI应用开发者来说，如果底层平台能力更一致，模型适配和部署成本会低一些；但不同厂商的NPU、内存设计和调度策略仍会带来差异，体验不会天然一致。
云端不会消失，端侧会分走一部分任务
荣格工业资源网转载的 Arm 2026 年技术预测中提到，计算模式正在从集中式云架构，转向覆盖各类设备、终端及系统的分布式计算。这个方向放在AI里很好理解：所有任务都上云，延迟、成本、隐私和网络依赖都会成为问题。
端侧AI更适合处理低延迟、隐私敏感、离线可用的任务。比如本地语音指令、本地文档摘要、相册检索、个人知识库、可穿戴设备健康提醒。云端仍然适合大规模训练、复杂推理和跨设备协作。
Arm最新平台支持超10亿参数端侧模型，意义在于把更多中等复杂度任务留在本地。它不会立刻让手机替代云端大模型，但会改变应用设计：开发者可以把常用、轻量、隐私相关的推理放在终端，把更重的任务交给云。
真正的门槛在联合优化
硬件平台只是起点。
端侧大模型要跑得好，还需要模型量化、算子适配、内存管理、NPU调度、系统功耗控制和散热设计一起配合。任何一环没做好，用户看到的都可能是响应慢、发热快、续航掉得明显。
Cortex-A320 和 Ethos-U85 的价值，主要在于给终端厂商和芯片厂商提供了更适合端侧AI的底座：更强调能效，更关注内存容量与带宽，也更贴近持续推理的需求。
所以，这一轮Arm端侧AI进展不适合用“千亿参数省了多少电”来概括。公开素材能支撑的判断更谨慎：Arm正在把超10亿参数模型推向终端设备，而端侧AI能否变成日常体验，还要看芯片、系统、模型和应用能不能一起把功耗压住。
