端侧大模型进了手机,苹果和安卓先算散热账
苹果用约200亿参数的稀疏模型减少单次激活,Pixel 10让Gemini Nano常驻端侧,小米MiMo-V2 Pro总参数超过1万亿。公开资料尚无统一温度与降频测试,能效高低还得看持续负载。
阅读全文关键词:移动端大模型
苹果用约200亿参数的稀疏模型减少单次激活,Pixel 10让Gemini Nano常驻端侧,小米MiMo-V2 Pro总参数超过1万亿。公开资料尚无统一温度与降频测试,能效高低还得看持续负载。
阅读全文把大模型装进Android App,跑通只是起点。真正影响体验的是模型加载、内存复用、NPU回退和持续发热。围绕这些工程问题,梳理一套更稳妥的端侧部署思路。
阅读全文