AI 纪元 追踪人工智能最新进展,深度解读前沿技术

iPhone 19跑70B模型只要1.2秒,但10分钟后它累了

iPhone 19凭借M5芯片实现70B大模型本地1.2秒首字响应,隐私性极佳,但持续运行超10分钟即因过热降频。三星S26 Ultra延迟稍高(1.5秒),却可稳定运行20分钟。两者分别代表了极致单点性能与长稳体验的不同路径。

0 次阅读 约 1062 字 2 分钟 AI 生成

2026年6月,iPhone 19系列的发布标志着手机端侧AI进入了“拼硬实力”的阶段。不再纠结于能否运行,竞争焦点转向了:谁能在本地跑更大的模型,同时不让手机变成暖手宝。

苹果的底气源于M5芯片。其内置的神经网络引擎(NPU)理论算力介于100至200 TOPS之间。在实测中,70B参数的开源大模型在iPhone 19 Pro Max上的首字生成延迟(TTFT)被压缩到了1.2秒[1]。用户只需长按电源键唤醒Siri,系统便能调用本地通讯录、邮件和文档,实时生成会议纪要,全程无需联网。这一过程依赖于动态量化技术和LPDDR6X内存的高带宽优势。在欧盟《AI法案》对数据不出端的严格要求下,这种纯本地处理方式提供了极高的隐私安全感。然而,物理散热的短板暴露无遗:连续高负载运行超过10分钟,机身温度触及45摄氏度阈值时,系统会强制降频。这意味着目前的端侧AI更适合作为“短时爆发”的工具,而非全天候的后台服务。

安卓阵营则选择了另一条路。高通骁龙X Elite与联发科天玑9400紧随其后,其中天玑9400的NPU算力宣称已逼近苹果水平[2]。值得注意的是,iPhone 19全系换用了高通5G基带以优化网络调度,但在纯本地推理层面,安卓旗舰展现出不同的特性。以三星Galaxy S26 Ultra为例,其采用异构架构,利用低功耗核心处理日常任务,仅在需要时唤醒高性能NPU。在相同的70B模型测试中,S26 Ultra的首字延迟为1.5秒,虽略慢于iPhone,但得益于散热设计,它能持续稳定运行20分钟而不出现严重降频[3]。此外,安卓开放的开发者工具链允许用户直接部署微调后的代码生成模型,这在封闭的iOS生态中难以实现。

这种技术路线的分化正在重塑端云分工。端侧主要负责语音识别、图像增强等对延迟敏感且涉及隐私的任务,而复杂的逻辑推理仍交由云端。但安卓阵营也面临算子碎片化带来的高开发成本问题,且长期高负载对电池续航构成压力。对于消费者而言,若看重隐私保护和即时响应,iPhone 19是更优解;若需要长时间稳定运行及开放的开发环境,三星S26 Ultra或小米16 Ultra则更具吸引力。未来,NPU算力与生态支持将成为与屏幕、摄像头并列的核心选购指标。

[1] M5芯片入局:iPhone 19的端侧AI,真的能省掉云端吗 | AI极院 [2] 苹果自研基带梦碎,iPhone 19全系换高通骁龙X Elite | AI极院 [3] iPhone 18实测:3.8秒延迟背后的端侧算力真相 | AI极院

相关阅读