在iOS 20开发者预览版中，我们通过4-bit量化把Llama 3.3 70B部署到了A19 Pro芯片上。首次测试，首字响应0.8秒，确实快，像启动计算器一样即时。但别急着欢呼——这0.8秒是在特定条件下测的：简单意图识别或短文本生成。之前M5芯片在iPad Pro上跑30B模型时延迟约200毫秒，这次70B在延迟上有所牺牲，但逻辑推理能力明显更强。
10分钟后：65℃与3秒延迟
端侧跑70B模型，最大的敌人不是内存带宽，而是物理散热。实测中，让iPhone 17 Pro连续处理复杂任务（比如分析5000字合同并提取风险点），前5分钟响应流畅，但到第10分钟，机身背面温度冲到65℃附近。iOS 20的功耗管理立刻介入，A19 Pro大幅降频。原先0.8秒的首字延迟，瞬间掉到3-5秒，token输出也从流畅阅读变成一字一蹦。这印证了之前的结论：端侧大模型的算力，终究敌不过手机那点散热面积。
所以开发者要注意：如果你想在App里依赖本地70B模型跑重负载任务，用户得到的很可能是一台烫手又卡顿的设备。端侧AI应用必须在“瞬时爆发”和“持续低功耗”之间做极端切分。
三层分流：隐私的算力成本
苹果在Apple Intelligence 2.0里加了一套意图分流机制，不是简单的“本地不行就传云端”，而是三层过滤。
第一层，一个约3B参数的轻量模型跑在本地，做初步语义分析。比如设闹钟、总结短信这类简单任务，本地闭环完成。
第二层，任务复杂但涉及高隐私数据（医疗记录、财务流水），本地模型把语义向量化，通过加密隧道发到苹果的私有云计算（PCC）。在PCC里，数据只在内存中解密、推理，结果返回后立即销毁，苹果声名不持有解密密钥。
第三层，通用且低隐私的请求，才会转发给第三方云端模型。
实测中，三种模式各有取舍：本地最安全但发热明显，PCC响应稳但依赖网络，第三方性能强但存在隐私风险。这本质上是把隐私权衡量化成了具体的算力成本。
开发者接口的约束
iOS 20开放了更多端侧模型接口，第三方App开始尝试本地Agent。但实测发现，很多开发者忽略了A19 Pro的内存压力——4-bit量化后的70B模型依然占大量统一内存，后台App杀率明显上升。
更脆弱的是跨App的复杂任务链。我们在iPhone 17 Pro上测本地Agent时，模型能理解指令，但只要任务涉及多个App，散热导致的性能下降就可能让Agent中途逻辑断层或超时崩溃。
这给行业提了个醒：端侧AI的竞争重点正从“模型参数”转向“调度效率”。如果不能像华为Agentic Core那样把算力池化到网络端来分担压力，纯本地70B模型在未来很长时间里都只能是“演示级”，而非“生产力”。
iPhone 17 Pro跑通70B模型，证明A19 Pro的NPU性能跨过了一个门槛，但也暴露了移动设备的物理矛盾：算力需求指数增长，散热面积恒定不变。0.8秒延迟带来惊艳的第一次，10分钟后的降频则提醒我们，真正的端侧AGI还需要材料学或网络架构的革命。对开发者来说，现在的核心问题不是调用最强模型，而是在本地3B、私有云70B和第三方API之间，建立一套能感知设备温度和电量的智能路由逻辑。
