苹果M5芯片发布：iPhone 17将如何重塑端侧AI体验
M5芯片让GPU AI性能实现4倍跃升，为端侧运行70B大模型奠定硬件基础。iPhone 17 Pro将首发该体验，标准版无缘。本地推理不仅带来零边际成本的隐私安全，更是对抗云端API失控风险的终极防线。
阅读全文
Search
站内搜索
关键词：端侧大模型
找到 72 篇相关文章
库克的最后一场WWDC：端侧算力与云端的博弈
2026年WWDC，库克主持最后一届大会。iOS 19重构Apple Intelligence 2.0，试图摆脱对谷歌Gemini的依赖，转向端侧NPU计算。然而，硬件算力的物理极限与开发者适配的成本，让这场隐私保卫战充
阅读全文端侧大模型变了：从拼参数到拼系统配合
2026年，端侧AI竞争焦点从模型压缩转向软硬件协同。苹果WWDC2026发布AFM3系列，强调结构与芯片的配合；安卓阵营则在算力堆料与量化适配上寻找突破口。行业人才需求也从基础算法转向系统级优化。
阅读全文苹果M4 Ultra芯片实测：端侧运行300B参数模型真的可行吗
M4 Ultra凭借32核CPU和80核GPU及统一AI任务队列，理论上可加载300B量化模型，但内存带宽和散热仍是瓶颈。本文结合iPhone 19跑70B降频教训，分析M4 Ultra在超大规模模型部署中的真实能力与局
阅读全文把卷积层塞进iOS 20：端侧70B模型省电30%的三个野路子
iPhone 17 Pro 本地跑 70B 模型 10 分钟就烫到降频怎么办？本文实测三种非常规优化手段：动态精度切换（保持 95% 精度功耗降 25%）、iOS 20 智能内存交换（省带宽 20%）、以及用 1x1 卷
阅读全文70B模型本地实测：iPhone 17 Pro的0.8秒与10分钟
在iOS 20开发者预览版中，iPhone 17 Pro通过4-bit量化实现了Llama 3.3 70B模型的本地运行，首字延迟0.8秒。但连续复杂推理10分钟后，手机温度飙至65℃，性能大幅降频。苹果用三层意图分流机
阅读全文M5芯片+70B模型实测：快是真快，烫也是真烫
苹果在iOS 20上首次实现了70B大模型在iPhone本地运行，首字响应只要1.2秒。但连续跑复杂任务10分钟后，手机就烫到65℃开始降频，响应速度暴跌。端侧大模型的算力，终究敌不过手机那点散热面积。
阅读全文iPhone 19跑70B模型烫手？散热才是真瓶颈
iPhone 19运行本地70B大模型频繁降频，并非NPU算力不足，而是高通X85基带功耗挤压了散热空间。实测显示，其持续负载能力远不如搭载VC均热板的安卓旗舰。苹果转而采用端云协同策略，以实用主义应对物理极限。
阅读全文端侧大模型功耗墙：手机厂商如何解决70B模型的发热难题
iPhone 19跑70B模型1.2秒响应却因过热降频，揭示了端侧AI从‘能跑’到‘好用’的巨大鸿沟。本文拆解2026年手机厂商如何通过异构计算、动态量化与新型散热材料，在NPU算力与续航之间寻找平衡点。
阅读全文iPhone 18实测：3.8秒延迟背后的端侧算力真相
iPhone 18 Pro Max NPU算力突破100 TOPS，但Apple Intelligence 3.0在多步任务上仍比上代慢0.5秒。实测显示，端侧大模型的性能瓶颈不在芯片，而在内存带宽与散热。相比苹果的“隐
阅读全文Siri 跨 App 实测：3.8 秒延迟背后的端侧取舍
iOS 19 带来 Apple Intelligence 3.0，Siri 获得跨应用权限。实测显示，多步操作成功率 61%，平均耗时 3.8 秒，明显慢于云端方案。苹果选择以性能和续航为代价，换取微信记录、银行短信等私
阅读全文端侧模型卷进智能手表：跑18小时AI，交了多少电税
3B模型在手机跑通后，更小的参数开始下沉到智能手表。实测发现，1.5B模型在手表上每次深度交互耗电超1%，5分钟升温触发降频。在1W功耗和内存带宽限制下，手表AI目前只能做端云折衷，专攻健康监测等窄场景才是出路。
阅读全文