站内搜索

端侧大模型挤爆手机内存，NPU动态调度还能压榨多少算力

基于Arm China“周易”X3的NPU动态调度思路，解决骁龙8 Gen5跑14B模型的内存溢出与前台卡顿痛点，提供算子级动态加载、内存压力感知与资源借用方案，帮助端侧开发者压榨有限算力。