端侧大模型功耗墙：手机厂商如何解决70B模型的发热难题
iPhone 19跑70B模型1.2秒响应却因过热降频，揭示了端侧AI从‘能跑’到‘好用’的巨大鸿沟。本文拆解2026年手机厂商如何通过异构计算、动态量化与新型散热材料，在NPU算力与续航之间寻找平衡点。
阅读全文
Search
站内搜索
关键词：大模型
找到 295 篇相关文章
iPhone 19跑70B模型只要1.2秒，但10分钟后它累了
iPhone 19凭借M5芯片实现70B大模型本地1.2秒首字响应，隐私性极佳，但持续运行超10分钟即因过热降频。三星S26 Ultra延迟稍高（1.5秒），却可稳定运行20分钟。两者分别代表了极致单点性能与长稳体验的不
阅读全文国产AI芯片跑70B大模型：算力账本里的显性与隐性
2026年Q2实测数据显示，华为昇腾910C跑70B大模型综合成本较英伟达H20低15%-20%，但多卡互联、软件适配等隐性成本常被算力选型者忽略，海光DCU、寒武纪MLU370的适用场景差异显著，算力采购不能只看芯片单
阅读全文昇腾910C vs 寒武纪MLU370：72小时压测给出的选型答案
H20供货收紧后,昇腾910C和寒武纪MLU370成为国产替代的两条主线。我们用同配置16卡集群,跑满72小时,对比DeepSeek-V3千亿参数模型预训练、LoRA微调、多模态适配下的吞吐、稳定性与三年总成本,给出可落
阅读全文iPhone 18实测：3.8秒延迟背后的端侧算力真相
iPhone 18 Pro Max NPU算力突破100 TOPS，但Apple Intelligence 3.0在多步任务上仍比上代慢0.5秒。实测显示，端侧大模型的性能瓶颈不在芯片，而在内存带宽与散热。相比苹果的“隐
阅读全文iPhone 17 跑 AI 发烫？三款 2026 旗舰散热实测
2026 年旗舰机运行本地大模型时，散热成为体验分水岭。实测显示，iPhone 17 Pro 在持续推理 15 分钟后帧率骤降，Pixel 10 靠石墨均热板维持较稳输出，Galaxy S27 Ultra 则需开发者模式
阅读全文Siri 跨 App 实测：3.8 秒延迟背后的端侧取舍
iOS 19 带来 Apple Intelligence 3.0，Siri 获得跨应用权限。实测显示，多步操作成功率 61%，平均耗时 3.8 秒，明显慢于云端方案。苹果选择以性能和续航为代价，换取微信记录、银行短信等私
阅读全文GPT-5o长上下文翻车：128K之后准确率暴跌30%
OpenAI宣称GPT-5o支持1M上下文，但实测发现，输入超128K token后关键信息提取准确率骤降30%。在256K输入下，函数识别率从98%跌至65%。对于超长文本，RAG依然比直传1M窗口更可靠。
阅读全文iPhone 17 Pro 跑 70B 模型：快、烫，但够隐私
iOS 20 让 iPhone 17 Pro 在本地运行 70B 参数大模型。实测显示，单轮生成首字仅需 0.8 秒，体验流畅；但多轮对话和长上下文会导致延迟飙升至 2 秒以上，伴随明显发热与降频。隐私方面，纯本地任务确
阅读全文AI独角兽砍掉一半估值换生存，二线大模型的终局到了吗
2026年中，多家明星AI创企遭遇估值腰斩。本文追踪融资现状，分析二线大模型为何被迫转向垂直场景，并探讨国产推理卡与GPT-5o带来的生存压力。
阅读全文苹果深圳新实验室不招大模型，只盯硬件省电
2026年6月，苹果在深圳南山设立AI实验室，首批12个岗位避开大模型预训练，聚焦端侧推理与硬件协同。受M5 MacBook实测续航痛点驱动，苹果试图通过驻厂迭代解决功耗难题。此举不仅推高端侧AI工程师薪资至80-150
阅读全文端侧模型卷进智能手表：跑18小时AI，交了多少电税
3B模型在手机跑通后，更小的参数开始下沉到智能手表。实测发现，1.5B模型在手表上每次深度交互耗电超1%，5分钟升温触发降频。在1W功耗和内存带宽限制下，手表AI目前只能做端云折衷，专攻健康监测等窄场景才是出路。
阅读全文