70B模型本地实测:iPhone 17 Pro的0.8秒与10分钟
在iOS 20开发者预览版中,iPhone 17 Pro通过4-bit量化实现了Llama 3.3 70B模型的本地运行,首字延迟0.8秒。但连续复杂推理10分钟后,手机温度飙至65℃,性能大幅降频。苹果用三层意图分流机
阅读全文关键词:开发者预览
在iOS 20开发者预览版中,iPhone 17 Pro通过4-bit量化实现了Llama 3.3 70B模型的本地运行,首字延迟0.8秒。但连续复杂推理10分钟后,手机温度飙至65℃,性能大幅降频。苹果用三层意图分流机
阅读全文苹果给 Vision Pro 换上 M5 芯片,号称专为 AI 打造。我们用开发者预览版实测发现,手势延迟降到 50 毫秒以内,首次支持本地生成 3D 模型。但续航短、价格高、应用少的问题依然存在。
阅读全文