70B模型本地实测:iPhone 17 Pro的0.8秒与10分钟
在iOS 20开发者预览版中,iPhone 17 Pro通过4-bit量化实现了Llama 3.3 70B模型的本地运行,首字延迟0.8秒。但连续复杂推理10分钟后,手机温度飙至65℃,性能大幅降频。苹果用三层意图分流机
阅读全文关键词:意图分流
在iOS 20开发者预览版中,iPhone 17 Pro通过4-bit量化实现了Llama 3.3 70B模型的本地运行,首字延迟0.8秒。但连续复杂推理10分钟后,手机温度飙至65℃,性能大幅降频。苹果用三层意图分流机
阅读全文