苹果深圳研发中心近期招聘需求集中在两个领域:NPU编译器优化和实时计算机视觉(Real-time CV),尤其强调“低功耗感知算法”。这意味着,苹果在端侧AI的野心已不满足于提升Siri的对话能力,而是想让设备在不发烫的前提下,实时“看懂”物理世界。
70B模型下的发热困境
端侧大模型的物理约束很直接。在iOS 20开发者预览版中,iPhone 17 Pro通过4-bit量化跑通了Llama 3.3 70B模型,首字响应仅0.8秒。但持续复杂推理10分钟后,机身温度飙至65℃,触发强制降频(参考《70B模型本地实测:iPhone 17 Pro的0.8秒与10分钟》)。快是真快,烫是真烫。这证明了单纯将云端大模型塞进手机是死路。深圳实验室的核心课题,应该是如何把推理功耗从瓦特级降到毫瓦级,且不牺牲精度,而是改变推理范式。
从语言到感知:苹果的路线选择
端侧AI的真正战场不是对话框,而是摄像头和传感器。Apple Vision Pro的逻辑——以“空间计算”为核心——正被快速迁移到iPhone和iPad上。当前端侧AI路径分为两派:国产厂商主攻“Agent派”,用大模型接管App自动化;苹果则押注“感知派”——在用户开口前,通过视觉传感器知道用户在看什么、身处什么场景,并实时触发微小推理。这种实时视觉理解对能效要求极高:一个模型每秒处理30帧,每帧调用一次神经网络引擎,即便只有1B参数,续航也会数小时内崩溃。这就是苹果强调“低功耗感知”的原因——他们需要一个能以极低功耗运行、具备空间感知能力的视觉底座。
底层优化:动态精度和卷积替换
在iOS 20中,苹果尝试了非常规的优化路径:动态精度切换(Dynamic Precision Switching)在保持95%精度时降低25%功耗;1x1卷积层替换部分全连接层(参考《把卷积层塞进iOS 20:端侧70B模型省电30%的三个野路子》)。这些手段对70B模型只是“续命”,但若应用在专门的端侧视觉模型上,效果将是量级的。想象一下,M5芯片的神经网络引擎以极低功耗实时处理环境深度图和物体识别,不频繁唤醒大核,“视觉智能”将像AOD(常亮显示)一样自然省电,而不是一个让手机烫手的插件。
国产厂商面临降维打击风险
目前国产AI手机竞争仍停留在功能堆砌:接入哪个大模型、能生成什么图片、Agent能否订机票。这仍在苹果定义的“语言智能”赛道上追赶。如果苹果通过深圳实验室突破,率先实现“极低功耗+实时视觉理解+空间计算”闭环,竞争维度将被改变。一个iPhone不发热实时识别药物瓶并弹出用法提示,国产手机还需“唤醒-录屏-云端识别-回传”的高延迟高功耗链路,体验代差将是毁灭性的。苹果控制芯片(M5/A19)、系统(iOS/iPadOS)到算法的完整链路。国产厂商虽在模型规模和Agent执行力上进步快(例如财务Agent识别率97.2%,见《财务Agent上岗半年实录》),但在端侧底层能效的极致优化上,缺乏类似Apple Silicon的深度耦合优势。
端侧AI的下半场,竞争指标将从参数量转向每瓦特推理次数。深圳实验室的动向表明,下一站不是追求更大模型,而是更聪明的省电和更敏锐的视觉。当AI能像人类视觉系统一样低功耗后台运行,仅在关键时刻激活高能耗推理,真正的端侧智能才算到来。对于硬件厂商,若不能在底层能效和实时感知上建立壁垒,塞进70B模型只会给用户带来一个昂贵的暖手宝。