端侧大模型功耗墙:手机厂商如何解决70B模型的发热难题
iPhone 19跑70B模型1.2秒响应却因过热降频,揭示了端侧AI从‘能跑’到‘好用’的巨大鸿沟。本文拆解2026年手机厂商如何通过异构计算、动态量化与新型散热材料,在NPU算力与续航之间寻找平衡点。
阅读全文关键词:发热
iPhone 19跑70B模型1.2秒响应却因过热降频,揭示了端侧AI从‘能跑’到‘好用’的巨大鸿沟。本文拆解2026年手机厂商如何通过异构计算、动态量化与新型散热材料,在NPU算力与续航之间寻找平衡点。
阅读全文iPhone 18 Pro Max NPU算力突破100 TOPS,但Apple Intelligence 3.0在多步任务上仍比上代慢0.5秒。实测显示,端侧大模型的性能瓶颈不在芯片,而在内存带宽与散热。相比苹果的“隐
阅读全文iOS 20 让 iPhone 17 Pro 在本地运行 70B 参数大模型。实测显示,单轮生成首字仅需 0.8 秒,体验流畅;但多轮对话和长上下文会导致延迟飙升至 2 秒以上,伴随明显发热与降频。隐私方面,纯本地任务确
阅读全文3B模型在手机跑通后,更小的参数开始下沉到智能手表。实测发现,1.5B模型在手表上每次深度交互耗电超1%,5分钟升温触发降频。在1W功耗和内存带宽限制下,手表AI目前只能做端云折衷,专攻健康监测等窄场景才是出路。
阅读全文我们实测了Qwen3-3B、Phi-4-mini、Gemma-3等主流小模型在5款2026年主流安卓/iOS设备上的表现,覆盖推理速度、功耗、发热和多任务影响。测试发现,在特定任务上,3B模型已能提供媲美云端大模型的流畅
阅读全文2026年6月,我们测试了三款搭载最新国产AI芯片的旗舰手机,在本地运行13B参数大模型。测试发现,持续对话功耗突破5W,续航仅约两小时,发热明显。软件优化和应用场景的缺失,让本地大模型目前更像技术演示,离实用还有距离。
阅读全文我们实测在Vision Pro上部署7B多模态大模型,发现比发热更麻烦的是交互。手势延迟让反馈总慢半拍,3D界面信息堆叠打架,语音和视线各说各话,输出速度跟不上用户翻页手速。这些问题不解决,用户可能30秒就想摘设备。
阅读全文我们用搭载骁龙8 Gen 4和A18 Pro的旗舰机,实测了本地运行7B-13B参数模型时的内存占用、发热和电池影响。iOS 18的“智能压缩”和Android 15的“动态优先级调度”各有侧重,但8GB内存机型运行13
阅读全文我们在Vision Pro上实测部署了Qwen3-Lite和Llama 4,记录了发热、延迟和功耗数据。发现真正的瓶颈不只是芯片算力,还有散热、交互设计和系统API限制。对开发者来说,先在云端验证想法可能更现实。
阅读全文我们在一台骁龙7 Gen 3中端机上实测了Qwen3-Lite和Llama 4。结论很明确:对端侧AI来说,1秒内的响应、低于15%的小时耗电、不烫手的温度,比模型跑分重要得多。小模型在续航和发热上优势明显,这才是能否用
阅读全文