苹果M5芯片正式发布，首款搭载它的iPad Pro在WWDC 2026上演示了本地运行30B参数大模型的能力。文档摘要只需200毫秒，而调用云端API通常要等1.2到3秒。这意味着处理百页机密合同，数据不再需要上传服务器。
据科技媒体9To5Mac报道，M5芯片先于MacBook Pro登陆iPad Pro，且独占窗口比M4大幅缩短。苹果称这颗芯片“为AI精心构建”。
200毫秒的秘密
30B模型的关键瓶颈在于显存和带宽。M5芯片拥有16核神经网络引擎和最高128GB/s的统一内存带宽——相比M4翻了一倍。但原生FP16的30B模型体积约60GB，远超平板内存。
苹果的解法是INT4量化，将模型压缩至约15GB，正好卡在iPad Pro最高16GB统一内存的边界。配合M5新增的矩阵加速单元，本地推理的首字延迟压到200毫秒。
这个数字意味着什么？此前iPhone 17 Pro跑70B模型首字延迟0.8秒，但连续推理10分钟后降频严重。iPad Pro的机身更大，散热面积是iPhone的3倍以上，200毫秒的延迟可以在高强度任务中维持较长时间不降频。
隐私计算的分水岭
“不上传”这三个字，比任何加密协议都硬。今年第一季度，欧盟AI法案首批罚单总额超过8000万欧元，其中SecureSight因生物数据违规出境被罚——这正是端侧AI试图终结的场景。Apple Intelligence 2.0的架构原则是“本地优先”，只有超出设备能力时才调用云端。30B模型覆盖了文档摘要、代码生成、会议纪中等日常重任务，大部分敏感业务可以在本地闭环。
这一点与“拒绝数据出境：BoCoder如何让金融政务代码AI在内网跑起来”的逻辑一脉相承：高端金融和政务场景的合规门槛，倒逼AI从云端回流终端。苹果用iPad Pro做的，正是消费电子版的“私有化部署”。
量化是隐形功臣
M5 iPad Pro内置了专门的低精度计算单元，INT4推理的能效比M4提升40%，最高可维持5W的持续推理功耗。从开发者基线看，30B模型的token生成速度约为45 tokens/s，足够实时交互。相比之下，全精度的30B在同样硬件上功耗高达12W，5分钟就会触发散热降频。
散热依然是天花板
尽管iPad Pro比iPhone从容，但连续跑复杂Agent任务仍会积累热量。多轮跨App操作（如从邮件提取数据→生成表格→发送Slack）15分钟后，机身温度达到48℃，随后性能下降约15%。这与iPhone 17 Pro实测中的降频曲线相似，只是iPad Pro的起跳温度更高，持续时间更长。苹果给开发者推荐的最佳实践是：单次推理控制在30秒以内，连续任务间隔至少2秒。
从跑模型到跑通工作流
30B本地跑通只是第一步。真正让iPad Pro变成“AI原生设备”的，是iPadOS 19中新增的Local Agent Framework——允许开发者将本地模型的能力暴露给任意App，且全程不需要网络权限。AI嵌入系统底层，不再是悬浮的助手。苹果坚持将推理硬件和调度算法都锁在自家芯片里，为隐私计算上了一道物理枷锁。
手机平板的边界模糊了
同是M5芯片，MacBook Pro跑70B没问题，iPad Pro跑30B最舒服，iPhone只能跑7B以下模型。苹果在刻意按设备尺寸划分AI能力层级——不是算力不够，而是散热和电池不允许。但从用户视角看，30B覆盖了80%的日常AI场景。文档处理、代码调试、信息检索、表格分析……这些任务再也不用切回电脑。对于必须上云的超长上下文或复杂推理，Apple Intelligence 2.0的通话分流机制会悄悄在后台完成切换，用户几乎无感知。
M5 iPad Pro不是第一个能跑大模型的移动设备，但它是第一个把30B模型的延迟压到200毫秒，并且敢把“隐私计算”作为核心卖点的消费产品。上一代M4 iPad Pro的端侧能力更多是“演示级”，而M5版本已经具备替代云端API的实用价值。