前沿研究
端侧 14B 普及后，手机厂商开始争夺‘本地记忆’入口
当骁龙8 Gen5让14B模型在手机端离线运行成为现实，手机AI的竞赛从算力转向数据。通过本地RAG技术构建个人知识库，苹果、华为、安卓厂商围绕“记忆”展开新争夺。隐私计算成为关键，但权限管理和工程化仍是挑战。
阅读全文
Search
站内搜索
关键词：端侧大模型
找到 72 篇相关文章
前沿研究
前沿研究
端侧大模型挤爆手机内存，NPU动态调度还能压榨多少算力
基于Arm China“周易”X3的NPU动态调度思路，解决骁龙8 Gen5跑14B模型的内存溢出与前台卡顿痛点，提供算子级动态加载、内存压力感知与资源借用方案，帮助端侧开发者压榨有限算力。
阅读全文
前沿研究
端侧模型功耗红线再收紧，14B参数如何塞进中端机
骁龙8 Gen5实测跑14B模型发热严重，但6月落地的混合精度量化与稀疏激活技术，已把内存压到5.8GB、推理功耗控在3.2W。两条算法路径叠加后，中端机本地跑大模型不再是噱头，只是加载那5秒的等待仍是工程上的最后一公里
阅读全文端侧AI手机首发实测：骁龙8 Gen5运行14B模型的日常卡顿吗
搭载骁龙8 Gen5的旗舰机已上市，我们断网实测了一周14B参数模型的本地推理。响应7.8秒、续航缩水三成、发热可控但持久战会降频。本文给出速度、功耗和隐私的真实数字，并对比云端API，明确判断普通用户当前是否值得为端侧
阅读全文
前沿研究
骁龙8 Gen 5实测：端侧14B模型推理的散热瓶颈与调度优化
骁龙8 Gen 5让14B端侧大模型成为现实，但高负载引发的热节流是最大拦路虎。实测数据显示，INT4量化在维持稳定性上优于INT8。本文结合高通白皮书与最新工程实践，提供从量化选择、内存调度到动态降频的代码级优化方案，
阅读全文
前沿研究
骁龙、天玑与苹果端侧量化怎么选
端侧大模型部署不能只看INT4压得更小。芯片的NPU支持、算子回退、内存带宽、发热和系统调度，都会改变真实体验。骁龙、天玑、苹果A系列各有取舍，工程上要先确定场景，再选INT4或INT8。
阅读全文
前沿研究
Siri接入Gemini，苹果WWDC 2026要让AI真正干活
6月8日的WWDC 2026上，苹果把焦点放在iOS 27与Siri 2.0。Siri支持多轮交互与跨应用操作，向系统级Agent转变。底层引入谷歌Gemini技术强化上下文理解，高盛维持买入评级并给出340美元目标价。
阅读全文端侧大模型隐私合规指南：如何在iPhone与Android上安全运行
2026年，端侧大模型从噱头变为标配，但数据泄露风险并未随“本地化”消失。本文结合TTAF 310-2025标准与工信部新规，实测苹果Private Cloud Compute与安卓各大厂的沙箱机制，揭秘如何在彻底断网下
阅读全文Arm架构拿下40% PC出货量后，端侧AI推理的算力账怎么算
Arm架构在PC和平板市场的份额突破40%，标志着AI算力从云端向边缘的重心转移。本文结合2025-2026年最新数据，拆解NPU在端侧大模型推理中的成本与延迟优势，探讨物理AI与边缘计算的落地现实。
阅读全文
前沿研究
端侧大模型霸屏：iPhone 17与安卓旗舰的本地AI体验大PK
6月9日WWDC 2026上，苹果将端侧最强AI门槛拉升至12GB，标准版iPhone 17被挡在门外。同期安卓阵营千亿参数模型出货破2000万，小米MiMo-V2 Pro仅用2秒生成文案。无网实测下，13B模型在旗舰机
阅读全文
技术应用
iPhone 18跑13B模型：1.8秒延迟背后，A20的算力与妥协
在iPhone 18 Pro本地运行13B量化模型AFM3，首字延迟1.8秒，背部最高温达41.5℃。台积电2nm工艺与WMCM封装让端侧算力大增，但苹果仍用“混合智能”策略将重负载推向云端。
阅读全文别只盯着iPhone 19：端侧大模型在旧设备上的真实生存指南
当iPhone 19的M5芯片与千亿参数成为头条时，数十亿存量旧设备正被遗忘。本文实测Gemma 2 2B在iPhone 15（A16芯片）上的表现，揭示4-bit量化与Core ML框架如何解决内存与算力瓶颈。结合深圳
阅读全文