Arm把端侧AI芯片的焦点拉回内存与系统设计
端侧大模型进入手机和PC后,芯片性能已不能只看TOPS。Arm推出Lumex CSS并引入SME2,试图从CPU、GPU、系统IP和数据搬运入手,缓解算力、内存与功耗之间的牵制。
阅读全文关键词:端侧AI
端侧大模型进入手机和PC后,芯片性能已不能只看TOPS。Arm推出Lumex CSS并引入SME2,试图从CPU、GPU、系统IP和数据搬运入手,缓解算力、内存与功耗之间的牵制。
阅读全文把大模型装进Android App,跑通只是起点。真正影响体验的是模型加载、内存复用、NPU回退和持续发热。围绕这些工程问题,梳理一套更稳妥的端侧部署思路。
阅读全文高通与Arm的授权争议、联发科对模型和开发工具的密集投入,指向同一个问题:端侧AI竞争已经压到芯片底层。Arm授权决定产品能否延续,工具与模型适配则决定AI能力能否真正交付。
阅读全文在iOS 26与iPhone 17 Pro上,Apple Intelligence处理摘要等本地任务已经足够快,但遇到图像、多步推理和跨应用操作,仍会受到云端依赖、发热与权限限制。
阅读全文2026年旗舰机宣称的“本地运行”面临严峻考验。实测发现,即便搭载最强NPU,10B+模型在高负载下依然触发降频,发热导致体验断崖式下跌。真正的差距不在参数大小,而在软硬件协同与稀疏架构。
阅读全文公开素材还不足以支撑“2026下半年真实功耗实测”的说法。更可靠的看点是,Arm、苹果等厂商正在把端侧AI竞争从模型压缩,推向芯片、运行时、工具链和设备场景的协同。
阅读全文Arm最新计算平台已支持终端运行超10亿参数AI模型。Cortex-A320与Ethos-U85的组合,重点不在炫算力,而在内存、带宽和功耗约束下,让端侧大模型更接近可用。
阅读全文OPPO在2025年世界人工智能大会展示了200 token/s端侧模型能力,也把AI手机的真实考题暴露出来:峰值速度之外,NPU调度、量化部署、发热控制和端云协同,才决定它能不能长期好用。
阅读全文Apple Intelligence 已在海外上线,端侧 AI 被重新推到手机竞争的中心。苹果把隐私、本地处理和系统级调用绑在一起,安卓厂商也在跟进端侧 AI 与操作系统升级,但开放体系下的适配和权限管理更难。
阅读全文