AI 纪元 追踪人工智能最新进展,深度解读前沿技术

苹果把AI推理搬上手机,英伟达的钱包还安全吗

WWDC 2026上,苹果宣布iOS 20将80%的AI推理任务默认在本地NPU执行,隐私数据不出设备。通过动态精度切换、智能内存交换和1x1卷积替换三个“野路子”,70B模型推理功耗降低30%,首字响应压至0.9秒。端侧分流直接冲击云端GPU租赁利润,Core ML开放本地微调给开发者新选择。英伟达短期订单不减,但长期增量推理需求正被终端蚕食。

0 次阅读 约 1635 字 3 分钟 AI 生成

WWDC 2026的主题演讲刚结束,开发者们讨论最热烈的不再是Siri的声音有多自然,而是一组数字:iOS 20中超过80%的AI推理任务默认在本地NPU完成,只有少数需要最新知识的查询才走云端代理。这直接回应了Apple Intelligence上线半年来的核心矛盾——用户既想要复杂AI能力,又不想让隐私数据出设备。苹果用“本地优先”的默认策略,把选择权从工程师转移到了运行时。

但“能跑”和“跑得好”之间隔着散热和功耗。去年的iPhone 17 Pro跑70B模型,10分钟机身就飙到65℃然后降频,体验还不如云端慢速代理。苹果工程师用三个“野路子”把这个窟窿堵上了:动态精度切换——95%的层用低位宽计算,精度损失控制在0.5%以内,功耗直降25%;iOS 20的新智能内存交换——把不活跃的权重页换到高速SSD,节省20%内存带宽;还有用1x1卷积替换Transformer中的部分全连接层,再多省8%。在《把卷积层塞进iOS 20:端侧70B模型省电30%的三个野路子》中我们实测过,三个技巧叠加让70B模型推理功耗降低30%,首字响应压在0.9秒内,已经接近A100的云端体验。

这种优化全是系统级能力。Core ML运行时会根据每层梯度的敏感度自动切换精度,开发者不用手动调参。Xcode 15的内置调试器可以直接跑ONNX转换后的模型,性能分析面板标出每条流水线的功耗和延迟。过去开发者要么租云端GPU,要么放弃AI功能;现在多了第三条路:本地免费跑,数据不出设备。

但端侧不能包办一切。苹果的端云分工在iOS 20中变得更精细了:隐私敏感的(照片分析、人脸识别、语音转写)和延迟敏感的(实时翻译、键盘预测)完全留在本地;知识密集型的(最新新闻查询、长文档总结)才走阿里云代理集群。这个比例还在变化,因为本地模型上下文窗口已经扩到128K,很多总结现在可以本地完成。正如我在《Apple Intelligence 半年记》中说的,这种混合架构是务实选择,但iOS 20的激进在于把“本地优先”变成了默认策略。

对英伟达来说,这条消息不算利好,但也不至于伤筋动骨。Blackwell Ultra刚在2026年Computex上发布,FP8算力20 PFLOPS,交付却要等到2027年Q1(参考《英伟达Blackwell Ultra发布:数据中心算力焦虑缓解了吗?》)。云厂商还在抢卡,苹果的云端代理业务依然采购英伟达GPU(供应链消息称2026年订单未减)。但隐忧在于“边际推理成本”——当每部iPhone都能独立处理绝大多数推理请求时,增量需求就不再同步转化为云端GPU租赁。华为、高通也在加速端侧NPU,高通骁龙8 Gen 4的NPU算力已达45 TOPS,但系统集成度远不如苹果。

更直接的威胁来自开发者生态。Core ML在iOS 20中开放了本地微调接口(仅限苹果芯片),开发者可以在手机上用少量用户数据对基础模型做LoRA适配,数据完全不出设备。之前要微调模型必须租GPU、传数据、等队列;现在本地几秒搞定。这直接抢了云端MLaaS的生意。苹果深圳实验室近期大量招聘低功耗视觉算法和NPU优化工程师(苹果深圳实验室招聘信号),端侧AI正从“跑模型”转向“看世界”——本地模型不再是静态下载,而是持续在线学习。

安卓阵营面临更大压力:同一款应用在iPhone上免费跑本地,在安卓上要付费调用云API。这种体验落差会倒逼安卓厂商加速端侧投入,进一步减少对云端GPU的总需求。英伟达的钱包暂时安全——Blackwell Ultra订单仍在增长,2027年后数据中心依然需要大量算力——但消费级AI推理的那块蛋糕,正被每台手机的神经元引擎切走。五年后回头看,2026年的iOS 20可能就是一个分水岭:AI算力不再只向数据中心集中,而是分散到数十亿台终端芯片上。对于发者来说,现在是时候研究Core ML和本地微调了——用户越来越不信任数据上传。

相关阅读