搜索: 稀疏激活

2026-07-20 11:04:38 0 阅读

MoE架构通过稀疏激活降低了计算量，但其庞大的参数体量在端侧设备上触发了严重的内存带宽瓶颈。本文分析MoE在手机端的“存储墙”困境，并提供KV Cache量化与专家路由控制的实操方案，帮助开发者在有限显存下跑通模型推理。

2026-07-17 03:09:54 0 阅读

2026年7月实测表明，手机运行10B参数模型已从「不能跑」跨到「可以跑」，但发烫问题并未消失。得益于NPU调度、稀疏激活与指令集优化，持续推理功耗降至4.8W，温度约45℃；但Agent场景连续调用仍会堆积热量。文章引

2026-07-16 21:48:00 0 阅读

手机能装下模型，不等于能长期跑好。苹果约200亿参数的AFM 3 Core Advanced选择稀疏激活，Gemini Nano沿用知识蒸馏。端侧轻量化的重点，正转向按需计算、能力压缩和分层精度。

2026-07-11 13:49:55 0 阅读

Arm 在 2026 年 6 月更新移动 AI 架构路线图后，旗舰手机端侧大模型的参数竞赛被按下暂停键。厂商宣传的“百亿参数端侧运行”在功耗墙、内存带宽和实际可用容量面前，需要重新算账。本文拆解 2026 年下半年旗舰

2026-07-08 18:35:31 0 阅读

骁龙8 Gen5让14B模型端侧运行成为现实，但内存溢出与持续降频仍是痛点。本文结合2026年6月落地的混合精度量化与稀疏激活技术，深入解析编译器指令集优化、动态批处理及内存池化策略，提供从算子级加载到功耗控制的代码级优

2026-07-08 12:31:59 0 阅读

骁龙8 Gen5实测跑14B模型发热严重，但6月落地的混合精度量化与稀疏激活技术，已把内存压到5.8GB、推理功耗控在3.2W。两条算法路径叠加后，中端机本地跑大模型不再是噱头，只是加载那5秒的等待仍是工程上的最后一公里

2026-06-27 04:51:20 0 阅读

实测显示，搭载 M5 芯片的 iPhone 19 在运行 70B 模型时，首字生成需 1.2 秒。但连续高负载 10 分钟后，因温度触及 65℃ 触发 NPU 降频，延迟飙升至 5 秒以上。Apple Intellige

2026-06-27 04:49:40 0 阅读

iOS 19 装机量突破 70% 后，Apple Intelligence 3.0 通过 Core ML 在端侧完成跨应用数据交互。实测 iPhone 17 Pro 利用动态稀疏激活技术，仅传输特征向量而非明文，在保障隐

站内搜索