前沿研究
R1开源后，手机跑30B模型先撞上散热墙
24GB内存的骁龙8 Gen 5旗舰机，已经能本地运行INT4量化的Qwen-32B：首字2.1秒，起步约8 tokens/s。持续推理后，机身升至46°C、速度掉到3 tokens/s，12分钟耗电23%。30B上手机
阅读全文
Search
站内搜索
关键词：功耗控制
找到 3 篇相关文章
前沿研究
端侧NPU调度优化：让14B模型在骁龙8 Gen5上流畅运行的秘诀
骁龙8 Gen5让14B模型端侧运行成为现实，但内存溢出与持续降频仍是痛点。本文结合2026年6月落地的混合精度量化与稀疏激活技术，深入解析编译器指令集优化、动态批处理及内存池化策略，提供从算子级加载到功耗控制的代码级优
阅读全文
技术应用
端侧AI大考：iPhone 17与安卓旗舰的调度分歧
2025年手机AI竞争焦点从NPU跑分转向端云调度。苹果押注Core ML的“本地锁定”与断点续传，高通走“全速推理”路线，联发科侧重能效量化。在弱网和隐私合规面前，不同的卸载策略直接决定了发烫程度与续航底线。
阅读全文