20B、1T都不等于快:端侧AI手机该怎么测
苹果的AFM 3 Core Advanced约200亿参数,小米MiMo-V2 Pro总参数超1万亿、激活420亿,Pixel 10则让Gemini Nano常驻端侧。数字越来越大,但公开资料仍不足以做统一跑分。选设备,
阅读全文关键词:骁龙 8 Gen 5
苹果的AFM 3 Core Advanced约200亿参数,小米MiMo-V2 Pro总参数超1万亿、激活420亿,Pixel 10则让Gemini Nano常驻端侧。数字越来越大,但公开资料仍不足以做统一跑分。选设备,
阅读全文一组实测里,24GB 内存的骁龙 8 Gen 5 手机运行 INT4 量化 32B 模型,十分钟后从每秒 8 token 降到 3 token。端侧部署该比的,不只是参数量,而是底座常驻、插件路由、内存搬运和芯片适配能否
阅读全文当骁龙8 Gen5让14B模型在手机端离线运行成为现实,手机AI的竞赛从算力转向数据。通过本地RAG技术构建个人知识库,苹果、华为、安卓厂商围绕“记忆”展开新争夺。隐私计算成为关键,但权限管理和工程化仍是挑战。
阅读全文