开发者生态
昇腾 910C 迁移实录：从代码报错到性能调优的避坑指南
基于昇腾 910C 真实迁移项目，记录从 PyTorch 模型迁移到华为 NPU 环境的全过程，涵盖算子兼容性处理、内存优化、通信调优及常见报错排查，提供可复现代码片段，结合出货量数据与实战经验，为开发者提供一份避坑清单
阅读全文
Search
站内搜索
关键词：内存优化
找到 4 篇相关文章
开发者生态
端侧NPU调度优化：让14B模型在骁龙8 Gen5上流畅运行的秘诀
骁龙8 Gen5让14B模型端侧运行成为现实，但内存溢出与持续降频仍是痛点。本文结合2026年6月落地的混合精度量化与稀疏激活技术，深入解析编译器指令集优化、动态批处理及内存池化策略，提供从算子级加载到功耗控制的代码级优
阅读全文
前沿研究
端侧大模型挤爆手机内存，NPU动态调度还能压榨多少算力
基于Arm China“周易”X3的NPU动态调度思路，解决骁龙8 Gen5跑14B模型的内存溢出与前台卡顿痛点，提供算子级动态加载、内存压力感知与资源借用方案，帮助端侧开发者压榨有限算力。
阅读全文实测：在8GB手机上跑7B大模型，后台应用直接被清空
我们用搭载骁龙8 Gen 4和A18 Pro的旗舰机，实测了本地运行7B-13B参数模型时的内存占用、发热和电池影响。iOS 18的“智能压缩”和Android 15的“动态优先级调度”各有侧重，但8GB内存机型运行13
阅读全文