Arm v10 架构在端侧AI的实测:手机运行 10B 模型还发烫吗
2026年7月实测表明,手机运行10B参数模型已从「不能跑」跨到「可以跑」,但发烫问题并未消失。得益于NPU调度、稀疏激活与指令集优化,持续推理功耗降至4.8W,温度约45℃;但Agent场景连续调用仍会堆积热量。文章引
阅读全文关键词:推理功耗
2026年7月实测表明,手机运行10B参数模型已从「不能跑」跨到「可以跑」,但发烫问题并未消失。得益于NPU调度、稀疏激活与指令集优化,持续推理功耗降至4.8W,温度约45℃;但Agent场景连续调用仍会堆积热量。文章引
阅读全文WAIC 2026现场测试了42款具备自主移动和操作能力的人形及仿生机器人,只有9款在无外部补能下稳定运行3小时。多数样机停在过热降频、通信抖动和推理功耗上,离产线所需的长时间作业仍有距离。
阅读全文公开素材还不足以支撑“2026下半年真实功耗实测”的说法。更可靠的看点是,Arm、苹果等厂商正在把端侧AI竞争从模型压缩,推向芯片、运行时、工具链和设备场景的协同。
阅读全文骁龙8 Gen5实测跑14B模型发热严重,但6月落地的混合精度量化与稀疏激活技术,已把内存压到5.8GB、推理功耗控在3.2W。两条算法路径叠加后,中端机本地跑大模型不再是噱头,只是加载那5秒的等待仍是工程上的最后一公里
阅读全文WWDC 2026上,苹果宣布iOS 20将80%的AI推理任务默认在本地NPU执行,隐私数据不出设备。通过动态精度切换、智能内存交换和1x1卷积替换三个“野路子”,70B模型推理功耗降低30%,首字响应压至0.9秒。端
阅读全文