2026 年 6 月，随着 iOS 20 的推送，iPhone 17 Pro 成为首款在本地运行 70B 参数大模型的消费级设备。一年前，这种体量的模型还局限于云端数据中心。苹果声称 A19 Pro 芯片能实现“可用速度”，我们拿到的这台 256GB 版本（系统版本 iOS 20.0.1）经过一周实测，答案并不全是惊喜。
延迟真相：单轮够用，多轮吃力
测试环境很严苛：关闭后台，Wi-Fi 连接，屏幕亮度 50%。Apple Intelligence 2.0 内置的基础模型采用了混合专家架构，虽然参数量高达 70B，但每次推理实际激活的约为 12B 参数。
在单轮文本生成测试中（输入 50 tokens，输出 100 tokens），首 token 延迟平均为 0.8 秒，生成速度维持在 18 tokens/秒。这个速度足以应付日常问答，不会出现长时间的空白等待。相比之下，三星 S26 Ultra 基于 Gemma-3 12B 方案的延迟仅为 0.5 秒，但模型规模远小于苹果。
问题出现在多轮对话。当进行连续 5 轮、每轮 200 tokens 的对话时，从第三轮开始，首 token 延迟迅速攀升至 2.1 秒，生成速度跌至 10 tokens/秒。A19 Pro 虽配备了 32GB 统一内存，但约 120GB/s 的内存带宽成为了瓶颈，持续维护长上下文的 KV 缓存消耗了大量资源。图片描述任务同样如此，首字延迟 1.5 秒，视觉编码器与 NPU、CPU 之间的跨模块通信增加了额外开销。
热量与性能：散热是最大约束
连续 30 分钟的 AI 助理高频使用场景下，热量控制成了焦点。
前 10 分钟，设备平均功耗 4.2W，机身温度从 28°C 升至 36°C，摄像头模组附近最热。这一功耗是此前 Qwen3-3B 模型的两倍，但低于云端方案（手机端约 3.5W 总功耗）。
10 到 20 分钟时，功耗升至 5.1W，温度突破 41°C。A19 Pro 启动降频策略，推理速度随之下降。苹果的均热板和石墨烯散热设计延缓了温度飙升，但未解决问题。
20 分钟后，系统触发热量管理，推理任务间歇性暂停以降温。此时平均功耗降至 3.0W，但用户体验出现割裂，“AI 思考中”的加载动画变得频繁。本地推理的优势在于离线可用性和隐私，但代价是持续高强度使用下的性能波动。
隐私边界：本地虽安全，云端难监控
Apple Intelligence 2.0 的隐私架构分为三层，用户需清楚每一层的界限。
第一层是纯本地推理。通过抓包工具确认，文本摘要、照片搜索等任务的数据确实未离开设备，Secure Enclave 和 NPU 完成了处理。
第二层是私有云计算。当本地模型无法胜任（如需全量 70B 推理或实时知识库查询），数据会被加密发送至苹果专用服务器。虽然传输使用了端到端加密，且服务器 IP 归属苹果 ASN，但苹果声称数据“处理后立即删除”且“无法查看内容”，这一点外部无法验证。
第三层是混合模式。例如“写邮件并检查日历”，语义理解在本地完成，仅日历时间等必要上下文上传云端。
值得注意的是第三方应用和 iCloud 的影响。如果第三方 App 调用 Apple Intelligence API，苹果虽限制数据用途声明，但无法阻止 App 在本地处理后，将结果上传至其自有服务器。此外，若开启 iCloud 同步，AI 生成的草稿或描述会作为普通数据同步，除非启用“高级数据保护”，否则苹果理论上持有解密密钥。
真实用户场景：简单任务满意，复杂任务妥协
三位不同职业用户的反馈揭示了该功能的实际价值。
产品经理最常使用“会议录音转摘要”和“邮件优先级排序”。本地推理的 1-2 秒延迟让她觉得流畅，尤其是 AI 能离线识别“行动项”并创建提醒，这在飞行模式下依然有效。
自由摄影师利用本地修图功能处理 2400 万像素照片，耗时约 3 秒，效率可观。但他指出 AI 生成的社交媒体文案“太苹果风”，措辞保守，缺乏个性，有时更倾向于使用云端 GPT-5o 网页版以获得更自然的表达。
大学生在学术场景下遇到障碍。本地模型对专业术语（如将“transformer”误识为变形金刚）理解有误，触发私有云回退后，延迟增至 3-4 秒。他对云端模型的知识广度表示认可，认为本地模型在处理非日常、高知识密度的任务时仍显吃力。
总结
iPhone 17 Pro 的 70B 本地模型在简单、高频、隐私敏感的任务上表现出色，但在需要实时知识或复杂逻辑的任务上，仍依赖云端回退。相比三星 S26 Ultra 的轻量端侧方案，苹果提供了更高的模型上限，但要求用户接受更高的功耗、发热以及偶尔的性能降频。
对于重视隐私、希望数据不流经公共云服务器的用户，这是目前最接近“不妥协”的选择。但对于追求极致速度和通用智能的用户，云端方案依然不可替代。A19 Pro 的算力已触及当前散热架构的物理极限，未来的 100B+ 模型可能需要更激进的新内存架构或散热设计才能真正落地移动端。