iPhone 19 端侧跑 70B 模型:快、烫,且会算错数
在弱信号电梯里拆封即测iPhone 19 Pro Max的Apple Intelligence 2.0。70B模型首字1.2秒,离线全功能可用。但持续生成10分钟,手机发烫、降频至2.8秒,逻辑题答错两道。轻任务够用,复
阅读全文关键词:手机
在弱信号电梯里拆封即测iPhone 19 Pro Max的Apple Intelligence 2.0。70B模型首字1.2秒,离线全功能可用。但持续生成10分钟,手机发烫、降频至2.8秒,逻辑题答错两道。轻任务够用,复
阅读全文发布七个月后,38位用户实测数据揭晓:天玑9500在7B模型能效领先15%,但13B模型降频严重;骁龙8 Gen 5生态更成熟,AI Agent完成率达82% vs 64%。端侧AI选芯要看7B还是13B、轻AI还是重A
阅读全文WWDC 2026上,苹果宣布iOS 20将80%的AI推理任务默认在本地NPU执行,隐私数据不出设备。通过动态精度切换、智能内存交换和1x1卷积替换三个“野路子”,70B模型推理功耗降低30%,首字响应压至0.9秒。端
阅读全文在iOS 20开发者预览版中,iPhone 17 Pro通过4-bit量化实现了Llama 3.3 70B模型的本地运行,首字延迟0.8秒。但连续复杂推理10分钟后,手机温度飙至65℃,性能大幅降频。苹果用三层意图分流机
阅读全文华为在 MWC 2026 发布 Agentic Core,将 AI 推理和调度直接嵌入 6G 基站。面对 iPhone 17 Pro 等终端跑大模型的散热瓶颈,以及 AI Agent 带来的 EB 级流量,网络正从“传输
阅读全文苹果在iOS 20上首次实现了70B大模型在iPhone本地运行,首字响应只要1.2秒。但连续跑复杂任务10分钟后,手机就烫到65℃开始降频,响应速度暴跌。端侧大模型的算力,终究敌不过手机那点散热面积。
阅读全文我们在iPhone 17 Pro上实测了Apple Intelligence 2.0。A19 Pro芯片用INT4量化让大模型本地跑,日常指令没问题,但复杂任务偶尔会算错。连续跑跨App任务后,手机很烫,性能就掉下来。现
阅读全文iPhone 19跑70B模型1.2秒响应却因过热降频,揭示了端侧AI从‘能跑’到‘好用’的巨大鸿沟。本文拆解2026年手机厂商如何通过异构计算、动态量化与新型散热材料,在NPU算力与续航之间寻找平衡点。
阅读全文2026 年旗舰机运行本地大模型时,散热成为体验分水岭。实测显示,iPhone 17 Pro 在持续推理 15 分钟后帧率骤降,Pixel 10 靠石墨均热板维持较稳输出,Galaxy S27 Ultra 则需开发者模式
阅读全文跑了半年端侧模型,三星S26 Ultra通话翻译22分钟续航不崩,MacBook M5跑13B模型键盘飙到46℃。结论不浪漫:手机AI的瓶颈不在TOPS,而在内存带宽和散热。量化能救一半,手表那1W功耗墙基本无解。
阅读全文3B模型在手机跑通后,更小的参数开始下沉到智能手表。实测发现,1.5B模型在手表上每次深度交互耗电超1%,5分钟升温触发降频。在1W功耗和内存带宽限制下,手表AI目前只能做端云折衷,专攻健康监测等窄场景才是出路。
阅读全文用S26 Ultra打了一通22分钟的中英商务电话,又开了63分钟团队会。端侧AI在隐私和速度上确实快,但翻译在对方语速快时容易出错,会议纪要也会把随口说的话当成行动项。它是个不错的隐私型速记员,但别指望它当万能助理。
阅读全文