前沿研究
骁龙、天玑与苹果端侧量化怎么选
端侧大模型部署不能只看INT4压得更小。芯片的NPU支持、算子回退、内存带宽、发热和系统调度，都会改变真实体验。骁龙、天玑、苹果A系列各有取舍，工程上要先确定场景，再选INT4或INT8。
阅读全文
Search
站内搜索
关键词：内存带宽
找到 21 篇相关文章
前沿研究
苹果M4 Ultra芯片实测：端侧运行300B参数模型真的可行吗
M4 Ultra凭借32核CPU和80核GPU及统一AI任务队列，理论上可加载300B量化模型，但内存带宽和散热仍是瓶颈。本文结合iPhone 19跑70B降频教训，分析M4 Ultra在超大规模模型部署中的真实能力与局
阅读全文M5芯片跑128B模型：实测结果和未来展望
iPhone 19 Pro Max的M5芯片运行128B模型，首字延迟2.1秒，连续推理12分钟后速度腰斩，瓶颈在内存带宽，苹果的分层调度方案可能是最优解
阅读全文M5 iPad Pro本地跑30B模型，文档摘要200毫秒
搭载M5芯片的iPad Pro首次在iPadOS 19上本地运行30B参数大模型，文档摘要延迟仅200毫秒，比云端快1.2-3秒。苹果通过INT4量化将模型压缩至15GB，配合16核神经网络引擎和翻倍的内存带宽实现这一突
阅读全文iPhone 18实测：3.8秒延迟背后的端侧算力真相
iPhone 18 Pro Max NPU算力突破100 TOPS，但Apple Intelligence 3.0在多步任务上仍比上代慢0.5秒。实测显示，端侧大模型的性能瓶颈不在芯片，而在内存带宽与散热。相比苹果的“隐
阅读全文端侧模型省电了，但App开发者为什么还在抗拒接入NPU？
2026年端侧推理能效比已大幅提升，但开发者仍面临算子适配碎片化、量化精度丢失及内存带宽瓶颈。本文通过架构师访谈，揭示NPU落地背后的工程困境与真实成本。
阅读全文半年端侧实测下来，NPU的能效比到底卡在哪
跑了半年端侧模型，三星S26 Ultra通话翻译22分钟续航不崩，MacBook M5跑13B模型键盘飙到46℃。结论不浪漫：手机AI的瓶颈不在TOPS，而在内存带宽和散热。量化能救一半，手表那1W功耗墙基本无解。
阅读全文端侧模型卷进智能手表：跑18小时AI，交了多少电税
3B模型在手机跑通后，更小的参数开始下沉到智能手表。实测发现，1.5B模型在手表上每次深度交互耗电超1%，5分钟升温触发降频。在1W功耗和内存带宽限制下，手表AI目前只能做端云折衷，专攻健康监测等窄场景才是出路。
阅读全文端侧大模型‘军备竞赛’：高通骁龙8 Gen 4与联发科天玑9400的AI算力与能效实测对比
本文前瞻分析2026年下半年即将发布的移动旗舰平台——高通骁龙8 Gen 4与联发科天玑9400在端侧大模型部署上的关键能力。聚焦其AI算力（TOPS）、能效比、内存带宽及软件生态，基于最新行业数据与预测，为开发者与硬件
阅读全文