AI 纪元 追踪人工智能最新进展,深度解读前沿技术

iPhone 19实测:70B模型首字1.2秒,65℃后只剩妥协

实测iPhone 19 Pro Max搭载M5芯片,本地70B大模型首字响应仅1.2秒,数据不出端。但连续高负载10分钟即触65℃温控红线,延迟飙至5秒,远不及三星S26 Ultra的20分钟稳定。跨App多步任务因切换开销和离线无云端辅助,准确率波动明显。苹果以动态量化换续航,但逻辑错误率翻倍。本文直击性能妥协与隐私优先的当下矛盾,端云协同或成出路。

0 次阅读 约 1398 字 3 分钟 AI 生成

在国贸写字楼的电梯里,我拆开iPhone 19 Pro Max,信号只剩一格。让Siri整理邮件并生成日程,70B模型在M5芯片上跑完全本地,首字出现在屏幕上:1.2秒。数据全程不离开AISZ(Apple Intelligence Secure Zone),隐私拉满——这是Apple Intelligence 2.0的核心承诺。

但如果你以为从此可以扔掉云,那就错了。我让它连续写10分钟职场攻略,第7分钟机身烫手,第10分钟SoC触达65℃温控红线,延迟从1.2秒跳到5秒。苹果选择的不是持久,而是爆发后立刻降温。三星S26 Ultra靠更大VC均热板能撑20分钟,首字虽慢0.6秒但稳得多。发布会上那句“整篇生成”其实是每分钟休息一下的委婉说法。

M5芯片跑得动,但散不掉热

M5的NPU有16核,统一内存带宽192GB/s。70B模型动态量化到4bit后占用约35GB——恰好塞进48GB统一内存。首字快是因为模型常驻NPU的SRAM缓存,但持续推理让SoC积热,温控强制降频。这和我们在《苹果M4 Ultra芯片实测:端侧运行300B参数模型真的可行吗》(内链:apple-m4-ultra)中看到的瓶颈一致:手机散热面积就这么多,被动10分钟是极限。

跨App Agent:离线时眼睛一闭一睁,可能算错

Apple Intelligence 2.0的亮点是系统级Agent——可以从邮件提取时间、在日历创建事件、再回邮件确认。实测发现,每切换一个App,模型重新加载上下文,延迟增加300-500ms。离线且无云端后备时,复杂任务(如“总结今早会议发给老板并附意见”)的准确率从84%掉到71%,这在《电梯断网,iPhone 19的AI在本地做了什么?》(内链:apple-intelligence-20)中有详细记录。更糟的是,降频后模型精度丢失,我让它对比两份合同,它直接输出“无重大差异”——实际有三个数字不同。

动态量化:用精度换时长

苹果用动态量化解决发热:前5分钟4bit,之后自动降到3bit,续航多30%,但逻辑推理错误率从5%涨到12%。轻任务(邮件摘要)走低功耗核心,重任务(多步推理)才调用NPU全速,但一旦过热全盘降级。这与《M5芯片跑128B模型:实测结果和未来展望》(内链:m5芯片跑128b)描述的分层调度一致:内存带宽是硬瓶颈。如果不想手机变暖手宝,就得接受模型偶尔犯错。Siri会提示“当前操作可能不准确”,但多数用户不会留意。

端侧AI的终局:端云协同,而非替代云

欧盟AI法案Q3执法大限将至(《欧盟AI法案Q3执法风暴:违规SaaS企业的真实整改路径》,内链:eu-ai-act),隐私合规压力让苹果死守数据不出端。但从M5散热看,纯端侧天花板明显。iOS 26.4测试版(据国行iPhone Apple Intelligence实测)已开始将高负载任务自动请求云端,用户无感知。苹果强调本地优先云为辅,但未来iPhone 20(若跳过19)必然转向端云协同,敏感数据本地处理,复杂计算交给PCC(私有云计算)做隐私桥接。

一句话判断:轻量任务(摘要、翻译)用iPhone 19的本地70B体验绝佳,但要想让Agent持续工作、批处理文档或高精度推理,备好散热背夹,或者等端云协同成熟。苹果选择跑得快但跑不久——这是当前端侧AI必须做的交易。

相关阅读