前沿研究
端侧大模型把手机主板烤熟了？拆解骁龙8 Gen5的温控盲区
骁龙8 Gen5在跑14B端侧模型时，摄像头区域温度飙至52°C以上。硬件工程师实测四款旗舰，发现问题不在散热面积，而在NPU热密度失控和摄像头支架造成的热传导死胡同。不同厂商的温控策略从激进降频到偷偷降精度，都在掩盖一
阅读全文
Search
站内搜索
关键词：端侧AI部署
找到 2 篇相关文章
前沿研究
900元开发板跑7B模型：端侧AI部署实测与优化指南
基于一块900元的RK3588S开发板，我们对Qwen2.5-7B和Llama 3 8B模型进行了全流程部署测试。通过量化选型、算子优化等手段，最终在8GB内存的设备上实现了18.5 tokens/s的对话生成速度，验证
阅读全文