iPhone 18 Pro Max 的 NPU 峰值算力确实突破了 100 TOPS，但这数字并没有直接转化为 Siri 的速度。
在最近对 Apple Intelligence 3.0 的实测中，面对多步复杂指令，平均响应时间达到了 3.8 秒，比上一代反而慢了 0.5 秒。这不是硬件拉胯，而是苹果的策略选择：让 7B 参数的本地模型先在手机端做初步推理，只有当置信度不够时，才把脱敏片段传给云端。这种做法把微信记录、银行短信等敏感数据死死锁在本地，直到生成摘要的前一刻，数据才离开加密容器。
这种“以速度换隐私”的逻辑，正在拉开 iOS 和其他阵营的体感差距。
安卓这边则选择了另一条路。小米 16 Ultra、OPPO Find X8 Pro 和三星 Galaxy S26 Ultra 在 2026 年初集中推出了针对 13B 模型的优化引擎。三星 S26 Ultra 的数据比较直观：运行 13B 量化模型做实时通话翻译，22 分钟通话机身温度仅升 1.2 摄氏度，耗电不到 8%。这靠的是新的异构内存架构和专用的 LLM 加速单元。
但光看温度和耗电容易忽略背后的工程痛苦。正如行业测试指出的，手机 AI 真正的拦路虎是“内存墙”。本地跑 7B-13B 模型时，数据在缓存和主存间高频搬运，实际吞吐量往往只有理论值的 30%-40%。小米和 OPPO 用的混合量化技术（INT4 加 FP8）虽然省了显存，但在代码生成或逻辑推理上，错误率明显高于云端模型。
这对 App 开发者是个麻烦。以前直接把请求扔给云端就行，现在得适配不同的 NPU。虽然 iOS 有 Core ML，安卓有 NNAPI，但各家芯片对算子的支持千差万别。开发者被迫写大量条件编译代码，确保模型能在 iPhone 18 的 Neural Engine 或华为麒麟芯片上跑得通。
更深层的变化来自合规压力。随着欧盟《AI Act》和中国《个人信息保护法》收紧，金融、医疗类 App 开始强制核心推理本地化。这催生了“端云协同”的新做法：手机先跑 1B-3B 的小模型过滤意图和非敏感数据，只把特征向量发给云端。既保住了隐私，又借用了大模型的泛化能力。
当然，本地模型没法替代云端。在处理长上下文的多步 Agent 任务时，哪怕是 GPT-5o 也会因为上下文过长产生“幻觉越权”。本地小模型受限于 32K 左右的上下文窗口，虽然处理复杂规划不如云端，但在车载、智能家居这些对稳定性要求极高的场景，这种“可预测的笨拙”反而更安全。
2026 年下半年，随着 3nm 工艺普及和存算一体芯片试点，端侧能效还会提升。但短期来看，消费者面临的抉择很具体：是接受那 0.5 秒的延迟和更高的隐私安全感，还是追求更快的响应速度和可能泄露的数据风险？
苹果用体验换隐私，安卓用兼容换市场，开发者在碎片化里找平衡。没有完美的方案，只有不同的取舍。
